Verbraucher wollen Sicherheit und Transparenz bei künstlicher Intelligenz
Eine repräsentative Ipsos-Umfrage im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren hat ergeben, dass Verbraucher eine klare Kennzeichnung und unabhängigen Prüfungen beim Einsatz von künstlicher Intelligenz fordern. Positiv bewerten sie die Weiterentwicklung von KI in der Forschung, Medizin und Bildung. Auch der TÜV-Verband fordert gesetzliche Leitlinien für den KI-Einsatz in sicherheitskritischen Bereichen sowie fortlaufende Prüfungen für lernende KI-Systeme.

Bild: Verband der TÜV e.V. (VdTÜV)

85 Prozent der Bundesbürger sind der Meinung, dass KI-Produkte erst auf den Markt gebracht werden sollten, wenn ihre Sicherheit von unabhängigen Stellen überprüft wurde. „Beim Einsatz von künstlicher Intelligenz in sicherheitskritischen Bereichen gibt es erhebliche Regelungslücken. Immer dann, wenn Gefahren für die Gesundheit von Menschen oder deren elementare Grundrechte bestehen, sind klare Leitlinien von KI-Anwendungen notwendig,“ sagt Dr. Michael Fübi, Präsident des TÜV-Verbands (VdTÜV). Laut der Umfrage halten nur 17 Prozent der Befragten eine Selbsterklärung der Anbieter von KI-Anwendungen für ausreichend, dass ihre Produkte sicher sind.

Überwiegend positive Empfindung in Bezug auf KI

Die TÜV-Studie zeigt, dass die Deutschen offen sind für diese neue Technologie. Mit 46 Prozent empfindet fast die Hälfte aller Befragten etwas Positives oder sehr Positives, wenn sie an KI denken. Weitere 21 Prozent sind neutral. 28 Prozent empfinden eher etwas Negatives oder sehr Negatives. Fübi: „Insgesamt überwiegen die positiven Empfindungen in Bezug auf KI und viele Menschen erhoffen sich von der Technologie Fortschritte in verschiedenen Lebensbereichen.“ Positiv bewertet eine breite Mehrheit in der Bevölkerung die Weiterentwicklung von künstlicher Intelligenz in der Forschung (75 Prozent), in der Industrie (73 Prozent) und in der Medizin (65 Prozent). Sehr oder eher negativ sehen es dagegen 69 Prozent der Befragten, wenn KI menschliche Kontakte ersetzt.

KI soll unterstützen, nicht entscheiden

Aus Sicht des TÜV-Verbands stellt sich mit dem massenhaften Einsatz von KI in sicherheitskritischen Bereichen wie Fahrzeugen, Maschinen, Anlagen und Geräten immer drängender die Frage nach einer angemessenen Regulierung der Technologie. 72 Prozent der Bundesbürger haben große oder sehr große Sorgen vor Hackerangriffen, die mit Hilfe von KI durchgeführt werden können. 67 Prozent haben Angst, dass KI-Systeme bei sicherheitskritischen Anwendungen Fehler machen. Weitere Sorgen drehen sich um eine noch stärkere Abhängigkeit von digitalen Technologien (61 Prozent) sowie die Angst, dass KI-Anwendungen Arbeitsplätze von Menschen ersetzen (56 Prozent). Besonders hohe Akzeptanz findet KI als Unterstützung von Experten, z.B. in der Medizin (69 Prozent). Der Arzt soll allerdings die Entscheidungshoheit behalten. Nur 24 Prozent würden auf die ausschließliche Empfehlung der Algorithmen vertrauen.

Geringe Fehlertoleranz

Wie tolerant sind die Verbraucher gegenüber Fehlern, die ein KI-System macht? Immerhin 40 Prozent der Befragten erwarten 100 Prozent Fehlerfreiheit. 34 Prozent würden einem KI-System in Ausnahmefällen Fehler zugestehen und 17 Prozent sagen sogar, Fehler sind normal. Deutlich weniger fehlertolerant sind die Teilnehmer allerdings, wenn es um sicherheitskritische Anwendungen geht: 84 Prozent stimmen der Aussage zu, dass autonome Fahrzeuge absolut fehlerfrei arbeiten müssen. Ebenfalls 84 Prozent sind der Meinung, dass KI-Systeme in Fahrzeugen von unabhängigen Stellen geprüft werden sollten.

Angemessene Regelung von KI-Systemen

Aus Sicht des TÜV-Verbands führt an einer angemessenen Regulierung auf nationaler und internationaler Ebene kein Weg vorbei. Die neue EU-Kommission hat angekündigt, eine KI-Strategie vorzulegen. Das Bundesarbeitsministerium ein KI-Observatorium und im Sommer will die Enquete-Kommission des Deutschen Bundestages zur künstlichen Intelligenz ihren Abschlussbericht vorlegen. „Natürlich müssen wir darauf achten, dass die Regulierung nicht übers Ziel hinausschießt und Innovationen bremst,“ betonte Fübi. Ein Weg, um das zu vermeiden, sei ein risikobasierter Ansatz. Nicht jede KI-Anwendung müsse umfangreich getestet werden. Es komme darauf an, wie groß der Schaden ist, den ein KI-System anrichten kann.

Anzeige

Das könnte Sie auch Interessieren

Bild: ©sebra_AdobeStock
Bild: ©sebra_AdobeStock
Von Self Service bis Chatbot

Von Self Service bis Chatbot

Self-Service-Technologie, digitale Assistenten, künstliche Intelligenz – die Digitalwerkzeuge fürs Kundenbeziehungsmanagement werden immer ausgefeilter. Sind CRM- und ERP-System gut integriert, lassen sich im Sinn des xRM-Ansatzes auch leicht die Beziehungen zu Geschäftspartnern IT-gestützt pflegen.