- Anzeige -
- Anzeige -
Differenzierte Sicherheitsprüfungen für EU-Digitalpaket
Bild: ©sdecoret/fotolia.com

Der TÜV-Verband hat das von der EU-Kommission vorgelegte ‚Weißbuch Künstliche Intelligenz‘ grundsätzlich begrüßt, aber weitere Konkretisierungen gefordert. „Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem Weg zu einem einheitlichen europäischen Datenraum“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV). „Es ist sinnvoll, Produkte und Anwendungen mit künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben für KI-Anwendungen geben.“ Die Vorschläge der EU-Kommission sehen vor, dass die Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen Stellen geprüft werden soll. Erst dann dürften sie in Zukunft in der EU auf den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden.

Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit mittlerem und niedrigem Risiko geregelt werden. Je nach Risikolevel sollten unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden. Diese könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen. Zusätzlicher Regelungsbedarf besteht beim Zugang zu Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in ihrer ebenfalls vorgelegten Datenstrategie zwar die Einrichtung von ‚Datenräumen‘ für verschiedene Bereiche wie Mobilität, Gesundheit oder Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind 85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und Anwendungen mit künstlicher Intelligenz erst auf den Markt gebracht werden sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde. Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen, z.B. bei hochautomatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat Gesetze und Vorschriften zur Regulierung von künstlicher Intelligenz verabschieden sollte. Das hat eine Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

Thematik: Newsarchiv
| News
Verband der TÜV e.V. (VdTÜV)
- Anzeige -
- Anzeige -

Das könnte Sie auch Interessieren

Bild: IFW
Bild: IFW
Maschinen fehlerlos einfahren

Maschinen fehlerlos einfahren

Transfer von Wissen zwischen Maschinen für die Überwachung - Bild: IFW Durch die Auswertung von Prozessdaten aus Werkzeugmaschinen können Fehler etwa beim Einfahren früh erkannt werden. Durch die Digitalisierung der Fertigung stehen dafür immer größere Datenmengen zur...

Bild: ITQ GmbH
Bild: ITQ GmbH
Website Relaunch

Website Relaunch

Bild: ITQ GmbH Die ITQ GmbH hat ihre Website vollständig überarbeitet. Interessierte Kunden und Bewerber finden mit wenigen Klicks alle Informationen zu den Kernkompetenzen Software und Systems Engineering, Mechatronic Consulting sowie Digital Education. Alle Bereiche...