- Anzeige -
- Anzeige -
Lesedauer: 3min
Differenzierte Sicherheitsprüfungen für EU-Digitalpaket

Mrz 17, 2020 | Newsarchiv

Bild: ©sdecoret/fotolia.com

Der TÜV-Verband hat das von der EU-Kommission vorgelegte ‚Weißbuch Künstliche Intelligenz‘ grundsätzlich begrüßt, aber weitere Konkretisierungen gefordert. „Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem Weg zu einem einheitlichen europäischen Datenraum“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV). „Es ist sinnvoll, Produkte und Anwendungen mit künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben für KI-Anwendungen geben.“ Die Vorschläge der EU-Kommission sehen vor, dass die Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen Stellen geprüft werden soll. Erst dann dürften sie in Zukunft in der EU auf den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden.

Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit mittlerem und niedrigem Risiko geregelt werden. Je nach Risikolevel sollten unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden. Diese könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen. Zusätzlicher Regelungsbedarf besteht beim Zugang zu Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in ihrer ebenfalls vorgelegten Datenstrategie zwar die Einrichtung von ‚Datenräumen‘ für verschiedene Bereiche wie Mobilität, Gesundheit oder Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind 85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und Anwendungen mit künstlicher Intelligenz erst auf den Markt gebracht werden sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde. Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen, z.B. bei hochautomatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat Gesetze und Vorschriften zur Regulierung von künstlicher Intelligenz verabschieden sollte. Das hat eine Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

Autor:
Firma: Verband der TÜV e.V. (VdTÜV)
- Anzeige -

News

Weitere Beiträge

Das könnte Sie auch interessieren

Erste marktreife KI-Anwendung für Lackierereien

Advanced Analytics von Dürr ist die erste marktreife KI-Anwendung für Lackieranlagen. Die intelligente Lösung, die neueste IT-Technologie mit Maschinenbaukompetenz kombiniert, identifiziert Fehlerquellen und ermittelt optimale Wartungszeitpunkte. Zudem spürt sie bislang unbekannte Zusammenhänge auf und passt mit diesem Wissen selbstlernend den Algorithmus an der Anlage an. Erste Praxiseinsätze belegen, dass die Software von Dürr die Anlagenverfügbarkeit und die Oberflächenqualität lackierter Karosserien optimiert.

mehr lesen

Künstliche Intelligenz – zwischen Hype und Realität

Das Thema künstliche Intelligenz (KI) ist aus der aktuellen Debatte um Zukunftstechnologien nicht wegzudenken. Prof. Markus Kaiser, Professor für praktischen Journalismus an der TH Nürnberg, organisiert im Sommersemester 2020 eine Ringvorlesung zum Thema ‚künstliche Intelligenz‘. Expertinnen und Experten aus Wirtschaft und Forschung erläutern an fünf Abenden die Chancen und Folgen von neuen Technologien. Alle Interessierten sind herzlich willkommen.

mehr lesen

Fraunhofer IAO untersucht Potenziale und Einsatz von KI in Unternehmen

Wie kommt künstliche Intelligenz (KI) in der Unternehmenspraxis an? Welche Potenziale versprechen sich Unternehmen davon, welche Auswirkungen erhoffen und fürchten sie und wo werden KI-Technologien schon in der Praxis eingesetzt? Diese und weitere Fragen zu den Potenzialen und Auswirkungen von KI hat das Fraunhofer IAO auf Basis einer Befragung untersucht. Die resultierende Publikation ‚Künstliche Intelligenz in der Unternehmenspraxis‘ ist ab sofort kostenlos erhältlich

mehr lesen

Studie: Künstliche Intelligenz in der öffentlichen Verwaltung

Was ist künstliche Intelligenz und wie wird sie in den kommenden Jahren die Organisation und Arbeitsweisen der öffentlichen Verwaltung verändern? Das Fraunhofer IAO sowie die Zeppelin Universität haben im Auftrag der Digitalakademie@bw diese Fragestellung untersucht. Die jetzt vorliegende Studie liefert einen Überblick der Fähigkeiten und Einsatzmöglichkeiten von KI im öffentlichen Sektor.

mehr lesen

Förderung für die KI-Forschung der Technomathematik

Künstliche Intelligenz (KI) ist zurzeit einer der dynamischsten Forschungs- und Wirtschaftsbereiche. Ob es um Sprachassistenzsysteme, Krebsdiagnose oder Autonomes Fahren geht – eine korrekte und leistungsfähige mathematische Basis ist stets die Voraussetzung für neue KI-Lösungen. Die Expertise dafür kommt auch aus der Universität Bremen: Das Zentrum für Technomathematik erhält jetzt zwei Millionen Euro, um in mehreren Projekten als wissenschaftlicher Partner neue KI-Anwendungen zu realisieren.

mehr lesen

Schutz der Privatsphäre und KI in Kommunikationssystemen

Alle zwei Jahre vergeben der VDE, die Deutsche Telekom sowie die Städte Friedrichsdorf und Gelnhausen den mit 10.000 Euro dotierten Johann-Philipp-Reis-Preis an einen Nachwuchswissenschaftler. Dieses Jahr geht er an Prof. Dr.-Ing. Delphine Reinhardt von der Georg-August-Universität Göttingen und an Dr.-Ing. Jakob Hoydis von den Nokia Bell Labs in Nozay, Frankreich. Die beiden Preisträger teilen sich die Auszeichnung und damit das Preisgeld.

Infor bringt Infor Coleman AI auf den Markt

Infor, Anbieter von branchenspezifischer Business-Software für die Cloud, hat bekanntgegeben, dass die Plattform Infor Coleman AI für Embedded-Machine-Learning-Modelle ab sofort verfügbar ist. Sie bietet die Geschwindigkeit, Wiederholbarkeit und Personalisierung, die Unternehmen benötigen, um KI vollständig zu operationalisieren.