- Anzeige -
- Anzeige -
Lesedauer: 3min
Differenzierte Sicherheitsprüfungen für EU-Digitalpaket

Mrz 17, 2020 | Newsarchiv

Bild: ©sdecoret/fotolia.com

Der TÜV-Verband hat das von der EU-Kommission vorgelegte ‚Weißbuch Künstliche Intelligenz‘ grundsätzlich begrüßt, aber weitere Konkretisierungen gefordert. „Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem Weg zu einem einheitlichen europäischen Datenraum“, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands (VdTÜV). „Es ist sinnvoll, Produkte und Anwendungen mit künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben für KI-Anwendungen geben.“ Die Vorschläge der EU-Kommission sehen vor, dass die Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen Stellen geprüft werden soll. Erst dann dürften sie in Zukunft in der EU auf den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden.

Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit mittlerem und niedrigem Risiko geregelt werden. Je nach Risikolevel sollten unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden. Diese könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen. Zusätzlicher Regelungsbedarf besteht beim Zugang zu Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in ihrer ebenfalls vorgelegten Datenstrategie zwar die Einrichtung von ‚Datenräumen‘ für verschiedene Bereiche wie Mobilität, Gesundheit oder Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind 85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und Anwendungen mit künstlicher Intelligenz erst auf den Markt gebracht werden sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde. Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen, z.B. bei hochautomatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat Gesetze und Vorschriften zur Regulierung von künstlicher Intelligenz verabschieden sollte. Das hat eine Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

Autor:
Firma: Verband der TÜV e.V. (VdTÜV)

News

- Anzeige -

Weitere Beiträge

Das könnte Sie auch interessieren

Studie von VDE und Bertelsmann Stiftung: KI-Ethik messbar machen

In einer neuen Studie zeigen die Technologieorganisation VDE und die Bertelsmann Stiftung, wie sich Ethikprinzipien für künstliche Intelligenz (KI) in die Praxis bringen lassen. Zwar gibt es eine Vielzahl an Initiativen, die ethische Richtlinien für die Gestaltung von KI veröffentlicht haben, allerdings bis dato kaum Lösungen für deren praktische Umsetzung. Genau hier setzt der VDE als Initiator und Leiter der ‚AI Ethics Impact Group‘ gemeinsam mit der Bertelsmann Stiftung an.

mehr lesen

KI in der medizinischen Diagnostik

Das Robotik Startup Robominds hat in Reaktion auf die aktuelle Corona-Pandemie eine Lösung entwickelt, die Roboterarme befähigt, Proben und Reagenzien für die medizinische Diagnostik vor zu sortieren. Auf Basis künstlicher Intelligenz erkennt das Soft-und Hardwaresystem Robobrain Position und Farbe der Probenröhrchen und kann diese ohne vorheriges Einlernen voll automatisiert vor- und einsortieren.

mehr lesen

Künstliche Intelligenz für ‚Beyond 5G‘

Während viele europäische Staaten gerade dabei sind, den Mobilfunk der 5. Generation aufzubauen, arbeitet die Forschung bereits an seiner Optimierung. Denn obwohl 5G seinen Vorgängern weit überlegen ist, hat auch der neueste Mobilfunkstandard noch Verbesserungspotenzial: Besonders in urbanen Gebieten, in denen ein direkter Sichtkontakt zwischen Sender und Empfänger erschwert ist, funktioniert die Funkverbindung oftmals noch nicht zuverlässig. In dem kürzlich gestarteten EU-Projekt Ariadne erforschen nun elf europäische Partner, wie sich durch die Nutzung von hohen Frequenzbändern und künstlicher Intelligenz eine fortschrittliche Systemarchitektur für »Beyond 5G« entwickeln lässt.

mehr lesen

Universität Stuttgart und IBM treiben KI-Forschung in Deutschland voran

IBM (NYSE: IBM) und die Universität Stuttgart gaben bekannt, dass die Universität als erste Institution in Europa dem AI Horizons Network beitritt, um im Rahmen einer mehrjährigen Kooperation die KI-Forschung zur Interaktion von Sprache und Wissen voranzutreiben. Das AI Horizons Network ist ein weltweites Netzwerk von Forschenden und Promovierenden, das von IBM ins Leben gerufen wurde, um in einer Reihe von Forschungsprojekten und Experimenten die Anwendung von künstlicher Intelligenz, maschinellem Lernen, maschineller Sprachverarbeitung und verwandter Technologien gemeinsam voranzubringen. Zum jetzigen Zeitpunkt sind weltweit bereits über 80 wissenschaftliche Arbeiten aus dem Netzwerk veröffentlicht worden.

mehr lesen

Schutz der Privatsphäre und KI in Kommunikationssystemen

Alle zwei Jahre vergeben der VDE, die Deutsche Telekom sowie die Städte Friedrichsdorf und Gelnhausen den mit 10.000 Euro dotierten Johann-Philipp-Reis-Preis an einen Nachwuchswissenschaftler. Dieses Jahr geht er an Prof. Dr.-Ing. Delphine Reinhardt von der Georg-August-Universität Göttingen und an Dr.-Ing. Jakob Hoydis von den Nokia Bell Labs in Nozay, Frankreich. Die beiden Preisträger teilen sich die Auszeichnung und damit das Preisgeld.

Infor bringt Infor Coleman AI auf den Markt

Infor, Anbieter von branchenspezifischer Business-Software für die Cloud, hat bekanntgegeben, dass die Plattform Infor Coleman AI für Embedded-Machine-Learning-Modelle ab sofort verfügbar ist. Sie bietet die Geschwindigkeit, Wiederholbarkeit und Personalisierung, die Unternehmen benötigen, um KI vollständig zu operationalisieren.