Differenzierte Sicherheitsprüfungen für EU-Digitalpaket
Bild: ©sdecoret/fotolia.com

Der TÜV-Verband hat das von der EU-Kommission vorgelegte ‚Weißbuch Künstliche Intelligenz‘ grundsätzlich begrüßt, aber weitere Konkretisierungen gefordert. „Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem Weg zu einem einheitlichen europäischen Datenraum“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV). „Es ist sinnvoll, Produkte und Anwendungen mit künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben für KI-Anwendungen geben.“ Die Vorschläge der EU-Kommission sehen vor, dass die Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen Stellen geprüft werden soll. Erst dann dürften sie in Zukunft in der EU auf den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden.

Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit mittlerem und niedrigem Risiko geregelt werden. Je nach Risikolevel sollten unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden. Diese könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen. Zusätzlicher Regelungsbedarf besteht beim Zugang zu Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in ihrer ebenfalls vorgelegten Datenstrategie zwar die Einrichtung von ‚Datenräumen‘ für verschiedene Bereiche wie Mobilität, Gesundheit oder Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind 85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und Anwendungen mit künstlicher Intelligenz erst auf den Markt gebracht werden sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde. Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen, z.B. bei hochautomatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat Gesetze und Vorschriften zur Regulierung von künstlicher Intelligenz verabschieden sollte. Das hat eine Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

Thematik: Newsarchiv
| News
Verband der TÜV e.V. (VdTÜV)

Anzeige

Anzeige

Das könnte Sie auch Interessieren

Bild: Bitkom e.V.
Bild: Bitkom e.V.
Künstliche Intelligenz 
kommt voran

Künstliche Intelligenz kommt voran

Bild: Bitkom e.V. Künstliche Intelligenz gilt in der deutschen Wirtschaft als Zukunftstechnologie und immer mehr Unternehmen sehen die Technologie als eine Chance für das eigene Geschäft. Entsprechend steigt der Anteil derjenigen, die KI-Anwendungen einsetzen, jedes...

Bild: FedEx
Bild: FedEx
33Mio.USD für Plus One Robotics

33Mio.USD für Plus One Robotics

Bild: FedEx Plus One Robotics, Entwickler von Bildverarbeitungssoftware für Logistikroboter, hat eine Serie-B-Finanzierung in Höhe von 33 Millionen US-Dollar erhalten. Die Finanzierung unterstützt die weitere Expansion in den USA und Europa sowie die weitere...