- Anzeige -
- Anzeige -
Forschungsprojekt zur Nachvollziehbarkeit algorithmischer Entscheidungssysteme
Das Forschungsprojekt 'KI Testing & Auditing' im Auftrag des Observatoriums 'Künstliche Intelligenz in Arbeit und Gesellschaft' des Bundesarbeitsministeriums geht der Frage nach, wie sinnvolle Kontroll- und Testverfahren für Künstliche-Intelligenz-Systeme aussehen können.
Bild: Gesellschaft für Informatik e.V.

Der zunehmende Einsatz von algorithmischen Entscheidungssystemen (ADM) bringt weitreichende Veränderungen für die Arbeitswelt mit sich. Insbesondere im Personalmanagement werden Entscheidungen zur Personalauswahl und -führung zunehmend durch ADM-Systeme vorbereitet. Auch im direkten Arbeitsumfeld interagieren Arbeitnehmer zunehmend mit ‚intelligenten‘ Systemen. Wie können in diesem Rahmen Verfahren aussehen, die einen nachvollziehbaren, beherrschbaren und diskriminierungsfreien Einsatz von künstlicher Intelligenz (KI) sicherstellen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Der Klärung dieser Fragen wird sich die Gesellschaft für Informatik e.V. (GI) im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales (BMAS) in einem 20-monatigen Forschungsprojekt gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes und der Stiftung Neue Verantwortung widmen.

Daniel Krupka, Geschäftsführer der GI: „Mit dem Forschungsvorhaben möchten wir unseren Beitrag zu einem sicheren, verlässlichen, fairen und diskriminierungsfreien Einsatz von KI-Technologie leisten. In unserem interdisziplinär angelegten Projekt werden wir geeignete Verfahren identifizieren, damit algorithmische Entscheidungssysteme künftig transparent und rechtskonform arbeiten. Wir freuen uns daher auf die Zusammenarbeit mit unseren Partnern sowie dem KI-Observatorium des BMAS.“

Mit der Auslagerung von Entscheidungen an ADM-Systeme ist die Erwartung verbunden, dass diese präziser, objektiver und ökonomisch effizienter getroffen werden. Allerdings lassen sie die Betroffenen über die Verarbeitung ihrer Daten oft im Unklaren und sind möglicherweise mit geltendem Arbeitsrecht unvereinbar. Die 2018 veröffentlichte Studie ‚Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren‘ der Fachgruppe Rechtsinformatik der GI im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) kommt daher zu dem Ergebnis, dass es geeigneter Test- und Auditierungsverfahren bedarf, um die nötige Transparenz herzustellen und den Einsatz von KI-Systemen rechtssicher auszugestalten.

Das Forschungsvorhaben KI Testing & Auditing knüpft an diesen Befund an und wird mit einem interdisziplinären Team aus (Sozio-)Informatiker, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler Handlungsempfehlungen zu Test- und Auditierungsverfahren vorlegen. Dabei wird neben KI-Systemen im Personalmanagement und Recruiting auch das Feld der Mensch-Maschine Kooperation in der Industrieproduktion in den Fokus genommen.

Gesellschaft für Informatik e.V.
www.gi-ev.de
- Anzeige -
- Anzeige -

Das könnte Sie auch Interessieren

Bild: IFW
Bild: IFW
Maschinen fehlerlos einfahren

Maschinen fehlerlos einfahren

Transfer von Wissen zwischen Maschinen für die Überwachung - Bild: IFW Durch die Auswertung von Prozessdaten aus Werkzeugmaschinen können Fehler etwa beim Einfahren früh erkannt werden. Durch die Digitalisierung der Fertigung stehen dafür immer größere Datenmengen zur...

Bild: ITQ GmbH
Bild: ITQ GmbH
Website Relaunch

Website Relaunch

Bild: ITQ GmbH Die ITQ GmbH hat ihre Website vollständig überarbeitet. Interessierte Kunden und Bewerber finden mit wenigen Klicks alle Informationen zu den Kernkompetenzen Software und Systems Engineering, Mechatronic Consulting sowie Digital Education. Alle Bereiche...