- Anzeige -
- Anzeige -
Lesedauer: 4min
Forschungsprojekt zur Nachvollziehbarkeit algorithmischer Entscheidungssysteme

Jun 23, 2020 | Geschäftsprozesse, Newsarchiv

Das Forschungsprojekt 'KI Testing & Auditing' im Auftrag des Observatoriums 'Künstliche Intelligenz in Arbeit und Gesellschaft' des Bundesarbeitsministeriums geht der Frage nach, wie sinnvolle Kontroll- und Testverfahren für Künstliche-Intelligenz-Systeme aussehen können.
Bild: Gesellschaft für Informatik e.V.

Der zunehmende Einsatz von algorithmischen Entscheidungssystemen (ADM) bringt weitreichende Veränderungen für die Arbeitswelt mit sich. Insbesondere im Personalmanagement werden Entscheidungen zur Personalauswahl und -führung zunehmend durch ADM-Systeme vorbereitet. Auch im direkten Arbeitsumfeld interagieren Arbeitnehmer zunehmend mit ‚intelligenten‘ Systemen. Wie können in diesem Rahmen Verfahren aussehen, die einen nachvollziehbaren, beherrschbaren und diskriminierungsfreien Einsatz von künstlicher Intelligenz (KI) sicherstellen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Der Klärung dieser Fragen wird sich die Gesellschaft für Informatik e.V. (GI) im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales (BMAS) in einem 20-monatigen Forschungsprojekt gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes und der Stiftung Neue Verantwortung widmen.

Daniel Krupka, Geschäftsführer der GI: „Mit dem Forschungsvorhaben möchten wir unseren Beitrag zu einem sicheren, verlässlichen, fairen und diskriminierungsfreien Einsatz von KI-Technologie leisten. In unserem interdisziplinär angelegten Projekt werden wir geeignete Verfahren identifizieren, damit algorithmische Entscheidungssysteme künftig transparent und rechtskonform arbeiten. Wir freuen uns daher auf die Zusammenarbeit mit unseren Partnern sowie dem KI-Observatorium des BMAS.“

Mit der Auslagerung von Entscheidungen an ADM-Systeme ist die Erwartung verbunden, dass diese präziser, objektiver und ökonomisch effizienter getroffen werden. Allerdings lassen sie die Betroffenen über die Verarbeitung ihrer Daten oft im Unklaren und sind möglicherweise mit geltendem Arbeitsrecht unvereinbar. Die 2018 veröffentlichte Studie ‚Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren‘ der Fachgruppe Rechtsinformatik der GI im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) kommt daher zu dem Ergebnis, dass es geeigneter Test- und Auditierungsverfahren bedarf, um die nötige Transparenz herzustellen und den Einsatz von KI-Systemen rechtssicher auszugestalten.

Das Forschungsvorhaben KI Testing & Auditing knüpft an diesen Befund an und wird mit einem interdisziplinären Team aus (Sozio-)Informatiker, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler Handlungsempfehlungen zu Test- und Auditierungsverfahren vorlegen. Dabei wird neben KI-Systemen im Personalmanagement und Recruiting auch das Feld der Mensch-Maschine Kooperation in der Industrieproduktion in den Fokus genommen.

Autor:
Firma: Gesellschaft für Informatik e.V.
www.gi-ev.de

News

- Anzeige -

Weitere Beiträge

Das könnte Sie auch interessieren

Mit Machine Learning präzise Vorhersagen treffen

Viele Unternehmen haben das Potenzial selbstlernender Systeme, die Machine Learning benutzen, erkannt. Dieser Teilbereich der künstlichen Intelligenz basiert auf Algorithmen, die Muster und Gesetzmäßigkeiten in großen Datenmengen erkennen. Mithilfe neuronaler Netze lassen sich aus den Datenbeständen Rückschlüsse ziehen und Prognosen treffen. In vielen Branchen bereits etabliert, findet Machine Learning als Analyse- und Steuerungsinstrument nun auch zunehmend Anwendung in der Logistik. Ein Beispiel dafür ist die Verknüpfung des Microsoft Azure Machine Learning Studios mit Bestandsmanagement- oder ERP-Systemen. Mit diesen Lösungen lassen sich unter anderem Bestände und Bestellungen optimieren sowie Lagerprozesse erheblich verbessern.

mehr lesen

Studie von VDE und Bertelsmann Stiftung: KI-Ethik messbar machen

In einer neuen Studie zeigen die Technologieorganisation VDE und die Bertelsmann Stiftung, wie sich Ethikprinzipien für künstliche Intelligenz (KI) in die Praxis bringen lassen. Zwar gibt es eine Vielzahl an Initiativen, die ethische Richtlinien für die Gestaltung von KI veröffentlicht haben, allerdings bis dato kaum Lösungen für deren praktische Umsetzung. Genau hier setzt der VDE als Initiator und Leiter der ‚AI Ethics Impact Group‘ gemeinsam mit der Bertelsmann Stiftung an.

mehr lesen

KI in der medizinischen Diagnostik

Das Robotik Startup Robominds hat in Reaktion auf die aktuelle Corona-Pandemie eine Lösung entwickelt, die Roboterarme befähigt, Proben und Reagenzien für die medizinische Diagnostik vor zu sortieren. Auf Basis künstlicher Intelligenz erkennt das Soft-und Hardwaresystem Robobrain Position und Farbe der Probenröhrchen und kann diese ohne vorheriges Einlernen voll automatisiert vor- und einsortieren.

mehr lesen

Künstliche Intelligenz für ‚Beyond 5G‘

Während viele europäische Staaten gerade dabei sind, den Mobilfunk der 5. Generation aufzubauen, arbeitet die Forschung bereits an seiner Optimierung. Denn obwohl 5G seinen Vorgängern weit überlegen ist, hat auch der neueste Mobilfunkstandard noch Verbesserungspotenzial: Besonders in urbanen Gebieten, in denen ein direkter Sichtkontakt zwischen Sender und Empfänger erschwert ist, funktioniert die Funkverbindung oftmals noch nicht zuverlässig. In dem kürzlich gestarteten EU-Projekt Ariadne erforschen nun elf europäische Partner, wie sich durch die Nutzung von hohen Frequenzbändern und künstlicher Intelligenz eine fortschrittliche Systemarchitektur für »Beyond 5G« entwickeln lässt.

mehr lesen

Schutz der Privatsphäre und KI in Kommunikationssystemen

Alle zwei Jahre vergeben der VDE, die Deutsche Telekom sowie die Städte Friedrichsdorf und Gelnhausen den mit 10.000 Euro dotierten Johann-Philipp-Reis-Preis an einen Nachwuchswissenschaftler. Dieses Jahr geht er an Prof. Dr.-Ing. Delphine Reinhardt von der Georg-August-Universität Göttingen und an Dr.-Ing. Jakob Hoydis von den Nokia Bell Labs in Nozay, Frankreich. Die beiden Preisträger teilen sich die Auszeichnung und damit das Preisgeld.

Infor bringt Infor Coleman AI auf den Markt

Infor, Anbieter von branchenspezifischer Business-Software für die Cloud, hat bekanntgegeben, dass die Plattform Infor Coleman AI für Embedded-Machine-Learning-Modelle ab sofort verfügbar ist. Sie bietet die Geschwindigkeit, Wiederholbarkeit und Personalisierung, die Unternehmen benötigen, um KI vollständig zu operationalisieren.