Mängelrechte bei KI-Systemen
Fehler im System
Bei physischen Produkten sind Mängel in der Regel schnell festzustellen, oft reicht schon ein Blick. Anders sieht es bei KI-Systemen aus. Wie bei diesen Systemen ein Mangel aussehen kann und wie Unternehmen möglichen Mängeln vorbeugen können, berichtet Rechtsanwalt Kay Diedrich.
Bild: ©Sarah Holmlund/stock.adobe.com

Es liegt in der Natur eines KI-Systems, sich auch beim Nutzer noch weiter zu entwickeln. Die Aufgabe von künstlicher Intelligenz besteht schließlich darin, durch Analyse zu lernen und besser zu werden. Damit stellen sich auch neue Rechtsfragen, beispielsweise wann etwas fehlerhaft ist, das dazu gedacht ist, aus seinen Fehlern zu lernen oder nach welchen Kriterien sich Mängel eines KI-Systems bestimmen und vermeiden lassen – mit den üblichen Folgen wie Rücktritt, Minderung, Schadensersatz.

Verkauf oder Mietmodell

Von der Art der Überlassung eines KI-Systems an den Abnehmer hängt die Kategorie der anzuwendenden Regeln ab: Für die verschiedenen Vertragstypen gelten jeweils spezifische Regeln bei Mängeln. Für vermarktete KI-Systeme ist regelmäßig an Kauf, Miete, Dienst- oder Werkvertrag zu denken. Oft enthält der Vertrag auch eine Mischung dieser Vertragstypen. Entscheidend für die Anwendbarkeit eines bestimmten Vertragstyps ist nicht, welche Überschriften oder Begriffe im Vertrag genannt werden, sondern welche Rechte und Pflichten die Vertragsparteien bei vernünftiger Auslegung mit dem Vertrag bewirken wollten. Ist das KI-System beispielsweise Teil einer zeitweise über ein Datennetzwerk nutzbaren Software (Software as a Service, SaaS), gelten mietvertragliche Regeln. Häufig werden KI-Systeme auch gegen einmalige Vergütung unbefristet überlassen, wodurch Kaufrecht gilt.

Die Sollbeschaffenheit

Wann aber ist ein verkauftes KI-System mangelhaft? Im Grundkonzept muss das dem Käufer überlassene System dem verkauften System entsprechen (Sollbeschaffenheit). Entscheidender Zeitpunkt ist der Gefahrübergang und damit in aller Regel die Überlassung des KI-Systems an den Käufer. Die Sollbeschaffenheit ergibt sich insbesondere aus den Vereinbarungen zwischen Käufer und Verkäufer, beispielsweise über die anfängliche Leistungsfähigkeit des KI-Systems oder dessen Lernfähigkeit. Diese können sich aus Ausschreibungsunterlagen und Katalogangaben ergeben. Die Vereinbarungen der Parteien sind danach auszulegen, was die beteiligten Personen vernünftigerweise gewollt haben. Das gilt für die Vertragstexte, aber auch für damit verbundene Aussagen und sonstiges Verhalten der beteiligten Personen. Die Kernfrage lautet: Was durfte der Käufer berechtigterweise von der Kaufsache erwarten? Klare Aussagen begrenzen dabei die Risiken: So kann es beispielsweise von den Vertragsparteien gewollt sein, dass ein KI-System von Beginn an eine bestimmte Steigerung der Produktivität herbeiführt. Das System kann etwa unter Verweis auf die Mehrwerte für Produktivität und Nutzbarkeit im Vergleich zu anderen Systemen vermarktet worden sein. Dann muss das System entsprechend liefern. Andernfalls liegt eine Abweichung von der vereinbarten Beschaffenheit und damit ein Mangel vor.

Wenn das System noch lernt

Es kann aber auch vereinbart sein, dass das KI-System bestimmte Leistungen nach Gefahrübergang erst noch erlernt. Denn Beschaffenheit kann grundsätzlich jeder tatsächliche, wirtschaftliche oder rechtliche Umstand im Zusammenhang mit der Kaufsache sein. Dann hätten die Parteien also die Beschaffenheit ‚lernend‘ vereinbart. Die Kaufsache muss diese Lernfähigkeit bei Lieferung aufweisen. Das KI-System ist jedoch mangelhaft, wenn es nicht, falsch oder zu langsam lernt. Wichtig sind in diesem Zusammenhang auch die vom Käufer zu erfüllenden Anforderungen für Training, Pflege und Nutzung des KI-Systems. Soweit der erfolgreiche Einsatz bestimmtes Verhalten des Nutzers erfordert, muss das im Kaufvertrag festgelegt werden.

Seiten: 1 2Auf einer Seite lesen

Kümmerlein, Simon & Partner Rechtsanwälte mbB

Das könnte Sie auch Interessieren

Anzeige

Anzeige

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

Strukturierter Beratungsansatz für KI-Einsatzbereiche im Unternehmen

„Künstliche Intelligenz ist eine, wenn nicht die wichtigste Zukunftstechnologie für Unternehmen.“ Diese Aussage bejahen 70 Prozent der Befragten der jüngsten Bitkom-Studie zu KI. Aber nur 10 Prozent aller Unternehmen haben KI-Technologie aktiv im Einsatz, lediglich 30 Prozent planen und diskutieren deren Anwendung. Was ist der Grund für diese große Diskrepanz?

Bild: Blue Yonder, Inc.
Bild: Blue Yonder, Inc.
Künstliche Intelligenz – mehr als eine Wissenschaft

Künstliche Intelligenz – mehr als eine Wissenschaft

Data Science ist mittlerweile ein fester Bestandteil der strategischen Planung in vielen Unternehmen. Um künftige Entwicklungen realistisch zu planen, brauchen wir Künstliche Intelligenz (KI) und Maschinelles Lernen (ML). Insbesondere im Einzelhandel vertrauen immer mehr große Player auf KI-Lösungen, die präzise Prognosen ermöglichen und zum Beispiel Bestände oder Preise optimieren. Doch viele Entscheidungsträger glauben noch nicht daran, dass KI in den Lieferketten der Zukunft eine tragende Rolle spielen wird. Der Grund hierfür liegt in einer falschen Sicht auf die Wissenschaft.

Bild: ©Stock57/stock.adobe.com
Bild: ©Stock57/stock.adobe.com
KI-Verfahren für die Produktion

KI-Verfahren für die Produktion

Mathematiker der Hochschule Darmstadt (h_da) entwickeln gemeinsam mit dem Hanauer Simulationsdienstleister und Softwareunternehmen SimPlan und dem Automationsexperten Fibro Läpple Technology neue KI-Technologien. Im Rahmen des Loewe-Projekts ‚KISPo‘ will das Konsortium eine autonome, selbstlernende Steuerungssoftware für Produktionsanlagen entwickeln, wie sie z.B. bei der Herstellung von Komponenten für Windräder oder Elektromotoren zum Einsatz kommen. Es wäre die erste KI-Software dieser Art. Damit würde eine von Industrieverbänden und Forschung lange bemängelte Technologielücke geschlossen. Das Land Hessen fördert das Projekt für zwei Jahre mit 320.000 Euro. Konsortialführerin ist die Hochschule Darmstadt.

Bild: ©NicoElNino/stock.adobe.com
Bild: ©NicoElNino/stock.adobe.com
Chancen und Herausforderungen von Machine Learning in der Fertigung

Chancen und Herausforderungen von Machine Learning in der Fertigung

Automatisierung, künstliche Intelligenz (KI), Internet of Things (IoT) und Machine Learning (ML) sind heutzutage bekannte Technologien und kommen bereits in vielen Unternehmen zum Einsatz. Mit Hilfe von Machine Learning wird es IT-Systemen ermöglicht, Muster und Zusammenhänge aus Daten zu lernen und sich selbst zu verbessern. Dabei ist keine explizite Programmierung notwendig. Die Bearbeitung von Kundenanfragen, die Erkennung möglicher Störfälle sowie unerwarteter Ereignisse wie z.B. Cyberangriffe sind klassische Anwendungsfelder von ML. Aber auch die Unterstützung bei einer rein datengestützten Entscheidungsfindung und die Interpretation großer Datenmengen gehören dazu.

Bild: ©Shuo/stock.adobe.com
Bild: ©Shuo/stock.adobe.com
Sensoren lernen das Denken

Sensoren lernen das Denken

Im Fraunhofer-Leitprojekt NeurOSmart forscht das Fraunhofer IPMS zusammen mit vier weiteren Instituten (ISIT, IMS, IWU, IAIS) unter Leitung des Fraunhofer ISIT gemeinsam an energieeffizienten und intelligenten Sensoren für die nächste Generation autonomer Systeme. Dabei sollen die Brücken zwischen Wahrnehmung und Informationsverarbeitung durch innovative Elektronik neu definiert werden.

Bild: ©ipopba/stock.adobe.com
Bild: ©ipopba/stock.adobe.com
Wie KI 2022 praktikabel wird

Wie KI 2022 praktikabel wird

Künstliche Intelligenz war bereits in der Vergangenheit in aller Munde, schaffte es aber doch oft nicht bis in die Anwendung. Das wird sich 2022 ändern – auch weil sich langsam Standards etablieren und sich neue, konkrete Einsatzmöglichkeiten ergeben. In welchen Bereichen Business-Implementierungen zu erwarten sind, erläutert Bernhard Niedermayer, Head of AI bei Cloudflight.

Anzeige

Anzeige

Anzeige