„Wir müssen den Maschinen Meta-Regeln mitgeben“

KI-basierte Systeme und Maschinen werden immer autonomer, selbstständiger und intelligenter. Ob und wie ist es zu schaffen, dass sie auf Dauer menschlichen Werten und Regeln folgen? Dr. Kurt D. Bettenhausen, Vorsitzender des interdisziplinären Gremiums Digitale Transformation im VDI und Vorstandsmitglied der VDI/VDE-GMA, spricht im zehnten Teil unserer Serie Autonome Systeme mit dem VDI.

Der Ansatz, Maschinen ethische Grundlagen beizubringen, ist also nicht neu – was ist heute anders?

Bettenhausen: Einer der wichtigsten Unterschiede zwischen den humanoiden Robotern, an die Asimov und seine Kollegen vor 75 Jahren dachten, und heutigen Maschinen, die mit starker KI ausgestattet werden (können), ist, dass die damaligen Maschinen nicht vernetzt waren – weder untereinander, noch über das Internet. Sie konnten so weder eine Schwarmintelligenz entwickeln, noch von den riesigen Datenmengen profitieren, über die wir heute verfügen – und die stündlich mehr werden. Zudem operieren heutige Smarte Maschinen bei vielen ihrer Entscheidungen auf Basis von Daten, die sie erhalten und damit auf der Basis von Wahrscheinlichkeiten. Sie können dazu lernen und müssen diese Erfahrung weder selbst gemacht haben, noch muss die Erfahrung zwingend von einer anderen Maschine real erlebt worden sein, sondern kann als Simulation vorgegeben werden. Hierüber können wir beispielsweise steuernd eingreifen und das Lernen, auch zu einem späteren Zeitpunkt, nachdem die Maschinen sich bereits im Betrieb befinden, in eine bestimmte Richtung lenken – übrigens positiv wie negativ, wenn die zugehörigen Menschen nicht ethischen Grundsätzen folgen. Es ist also komplexer geworden und eine einfache Regel wie die ‚Du sollst nicht töten‘ reicht schon lange nicht mehr aus. Was geschieht beispielsweise, wenn die Maschine, indem sie wenige Menschen opfert, viele Menschen retten kann? Nicht umsonst haben im April EU-Experten ethische Richtlinien für künstliche Intelligenz vorgelegt. Herausgekommen sind sieben Regeln, die es jetzt in der Praxis zu testen gilt. Das erste Asimov’sche Gesetz („Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“) fehlt hier leider. Auch finden sich unter den Regeln viele Konjunktive. Hier behaupte ich, dass sie Menschen wie Maschinen genauso als Konjunktiv, als eine Möglichkeit, verstehen werden.

Die zweite ethische Anforderung beschäftigt sich mit Vertrauen in KI-basierte Systeme, die dritte mit Datenkontrolle – über Ethik von Maschinen steht hier nichts. Wie schaffen wir tatsächlich Vertrauen in autonome Systeme?

Bettenhausen: Vertrauen baut sich dann auf, wenn Interaktion stattfindet – wiederholt und berechenbar bzw. vorhersagbar. Zugegeben – mit einem Parkautomaten interagieren Sie auch, aber da dieser nicht lernen und vor allem nicht individuell reagieren kann, werden Sie auch kein Vertrauen aufbauen können. Eine weitere Grundvoraussetzung ist also eine Reaktion und die Möglichkeit der Adaption der Maschine an den Menschen. Idealerweise passt sich die Maschine durch die Möglichkeiten von KI individuell an ihr Gegenüber an. Das entspricht am ehesten dem sozialen Wesen Mensch. Denken Sie nur an Ihr Smartphone: Wenn Ihnen das wegen eines bevorstehenden Termins vorschlägt, früher als geplant loszufahren, weil ein Stau auf der Strecke für massive Verzögerungen sorgt, so werden Sie dieser Empfehlung möglicherweise schon heute folgen. Ähnliches gilt z.B. auch für Streckenvorschläge für Wanderungen am Wochenende, weil Ihr Smartphone, oder eine von Ihnen angelegte App, weiß, dass Sie gerne Natur fotografieren. Auch hier haben Sie wahrscheinlich ein größeres Vertrauen. Der Grund: Sie haben diese Maschine – in diesem Fall das Smartphone – selbst gemäß Ihren Bedürfnissen individualisiert. Mit der heutigen KI ist es möglich, dass Maschinen sich sehr schnell an ihr Gegenüber anpassen. Das wird das Vertrauen stärken. Und dann brauchen wir ethische Grundlagen für die Maschinen als übergeordnete Regeln und zusätzlich moderne ethische Grundsätze für deren Entwickler und Programmierer.

Genau deshalb überarbeitet der VDI die ethischen Grundlagen für Ingenieure.

Bettenhausen: Lassen Sie uns mit dieser weiteren Grundlage für Ingenieure optimistisch in eine Zukunft schauen, in der Roboter weit mehr leisten als die DDD-Jobs (Dull, Dirty and Dangerous), sondern uns sinnvoll im privaten wie beruflichen Alltag unterstützen.

Seiten: 1 2Auf einer Seite lesen

VDI Verein Deutscher Ingenieure e.V.

Das könnte Sie auch Interessieren

Bild: Fraunhofer IEM
Bild: Fraunhofer IEM
Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Welcher Liefertermin steht wann an? Wie aufwändig muss die Maschine umgerüstet werden? Ist das benötigte Material bereits geliefert? Um die Reihenfolge verschiedener Kundenaufträge optimal zu planen, müssen Produktionsplaner:innen eine Vielzahl von Faktoren kennen und einschätzen. Bei Schulte Kartonagen hat ab sofort ein intelligenter KI-Assistent alle Faktoren im Blick – und macht Vorschläge für die effiziente Planung der Produktion. Gefördert wurde die Zusammenarbeit mit dem Fraunhofer IEM und den Universitäten Paderborn und Bielefeld im it’s OWL-Projekt ARISE.

Bild: schoesslers GmbH
Bild: schoesslers GmbH
appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

Das gemeinnützige appliedAI Institute for Europe stellt den kostenfreien Online-Kurs ‚AI Essentials‘ zur Verfügung, der es Interessierten ermöglicht, in die Welt der Künstlichen Intelligenz einzusteigen. Konzepte wie maschinelles Lernen und Deep-Learning sowie deren Anwendungsmöglichkeiten und Auswirkungen auf unser Leben und unsere Wirtschaft sind Teile der umfassenden Einführung.

Bild: Trumpf SE + Co. KG
Bild: Trumpf SE + Co. KG
Künstliche Intelligenz macht Fabriken clever

Künstliche Intelligenz macht Fabriken clever

Seit dem Siegeszug des Chatbots ChatGPT ist künstliche Intelligenz in aller Munde. Auch in der industriellen Produktionstechnik kommt KI mit großen Schritten voran. Lernende Maschinen machen die Fertigung effizienter. Wie funktioniert das genau? Das können Interessierte auf der EMO Hannover 2023 vom 18. bis 23. September erfahren. Die Weltleitmesse für Produktionstechnologie wird ihr Fachpublikum unter dem Claim ‚Innovate Manufacturing‘. mit frischen Ideen inspirieren und künstliche Intelligenz spielt dabei ihre Stärken aus.

Bild: Mitsubishi Electric Corporation, Japan
Bild: Mitsubishi Electric Corporation, Japan
KI-gestütztes Analysetool für moderne Produktionslinien

KI-gestütztes Analysetool für moderne Produktionslinien

Das Data-Science-Tool Melsoft MaiLab von Mitsubishi soll Unternehmen bei der Digitalisierung ihrer Fertigung und unterstützen und so deren Produktivität steigern. Die neue Lösung ist eine intuitive, bedienerzentrierte Plattform, die KI nutzt, um Abläufe automatisch zu verbessern. Sei es Abfallvermeidung durch geringere Ausschussmengen, weniger Stillstandszeiten durch vorbeugende Wartung oder Senkung des Energieverbrauchs durch Prozessoptimierung.

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.