Künstliche Intelligenz (KI) und Machine Learning (ML) haben längst die Phase des Hypes überstanden und finden verstärkt Anwendung in diversen Bereichen. Andererseits finden laut einer Studie vom IDC ca. 50% der KI-Projekte noch nicht ihren Weg in die produktive Nutzung und die Schaffung von echten Mehrwerten. Dieser Artikel fasst die Erfahrungen von AIM Agile IT Management aus Kundenprojekten zusammen und stellt die Kernaspekte heraus wie man mit der Etablierung einer Plattform KI-Projekte flexibel, produktiv und zielgerichtet umsetzen kann.
Herausforderungen
- Die Datengrundlage muss zunächst in eine nutzbare Form skalierbar zur Verfügung gestellt werden
- Es müssen neben den Software-Lebenszyklen auch die Daten- sowie Modelllebenszyklen genutzt werden
- Wachsende Vielzahl und Komplexität von Technologien
- Fehlendes Wissen und KI-Spezialisten
- Der Weg von lokalen Notebooks zu produktiven Anwendungen
- Monitoring von KI-Anwendungen im produktiven Betrieb
Der Begriff: KI-Plattform
Eine Plattform muss Entwicklungsteams bei der Umsetzung individueller Projekte maximal unterstützen und das über den gesamten Lebenszyklus. Eine Plattform beinhaltet dabei gut dokumentierte:
- Zentral zur Verfügung stehende Applikationen – in Form von Oberflächen oder APIs,
- Konzepte und Standards,
- Vorgehen sowie
- Bausteine und Werkzeuge.
Diese sind erstmal unabhängig von der konkreten fachlichen Ausprägung und lassen sich von den Projektteams flexibel erweitern. Eine Plattform darf nur unterstützen, aber die Projektteams nicht in ihrer Flexibilität einschränken. Außerdem muss sie einfach und verständlich einsetzbar sein, da sonst die Akzeptanz der Nutzung sinkt. Die Vorteile: So wird kontinuierlich auf Standardisierung und Konsolidierung aus den Projekten gedrängt und langfristig eine enorme Produktivitätssteigerung erzielt. Gleichzeitig wird die Flexibilität der Projektteams gewahrt und die Abhängigkeit zum internen Plattform-Team minimiert.
Neben den Rollen Product Owner, Software Entwickler und DevOps Engineer werden auch die Rollen Data Engineer, Machine Learning Engineer und Data Scientist in einem KI-Projekt benötigt. Das Spielfeld des Data Engineers liegt in der robusten Verarbeitung und Bereitstellung von Datenbeständen, der Data Scientist ist primär für die KI spezifischen Teile zuständig und der Machine Learning Engineer schlägt die Brücke zwischen Data Science und der klassischen Entwicklung. Beachtet werden muss, dass eine Person im Entwicklungsteam mehrere Rollen übernehmen kann, sogenannte t-Shaped-Skills. Eine KI-Plattform muss nun die Arbeitsweise der einzelnen Rollen unterstützen und die Zusammenarbeit im Team fördern.
Benötigte Rollen
Hier empfiehlt sich ein agiles Vorgehen, zudem dürfen die einzelnen Umsetzungsschritte nicht alleine stehen, sondern müssen immer in einem Gesamtzusammenhang gesehen werden. Hat man die produktive Verwendungssituation bei der Implementierung der Modelle im Hinterkopf, lässt sich später einfach das entstandene Modell im Minimum Viable Product (MVP) integrieren und verwenden. Dieser Transfer ist einer der Hauptgründe, warum KI-Projekte scheitern. Die Plattform muss diese Vorgehensweise unterstützen und Werkzeuge anbieten, um diese Hürden aufzulösen. Wichtiger Aspekt ist, dass man in der produktiven Laufzeitumgebung Feedback-Schleifen etabliert, durch Monitoring einen reibungslosen Betrieb sicherstellt und die Automatisierung aller Lebenszyklen einführt. Das gilt sowohl für Projekte als auch für die KI-Plattform. So lässt sich eine kontinuierliche Verbesserung, Stabilisierung und Absicherung der Anwendung sicherstellen.
Aufgaben und die richtigen Werkzeuge
Neben den Phasen gibt es außerdem verschiedene Aufgaben zu erledigen. Eine Plattform muss diese Aufgaben unterstützen, sodass das Entwicklungsteam auf die Kernherausforderungen konzentrieren kann. Ein Überblick über die Prozessschritte zeigt das Schaubild:
Betrieb einer industriellen KI-Plattform
Man muss grundsätzlich darin unterscheiden wo die Plattform und wo die konkrete Applikation läuft. Die Plattform sollte erstmal zentral zur Verfügung stehen. Das reduziert den individuellen Aufwand innerhalb eines Projektes. Hat die eigentliche Applikation in der späteren produktiven Situation keinen Zugriff auf die Services der Plattform, müssen einzelne Komponenten individuell mit der Applikation ausgeliefert werden können. Es kommen folgende Betriebsszenarien in Frage:
- On-Premise im Rechenzentrum des Kunden,
- in der eigenen oder der kundenspezifischen Private Cloud,
- in der eigenen oder der kundenspezifischen Public Cloud oder
- in der hybriden, also einer Kombination aus Private und Public Cloud.
Möchte man sich nicht von einem Cloud Provider abhängig machen, lohnt sich die Investition in eine Art der Virtualisierung oder Container Orchestrierung. Das ermöglicht schnell und einfach die automatische Provisionierung aller nötigen Komponenten – nahezu unabhängig von der genutzten unterliegenden Infrastruktur oder Cloud Anbieter. Das individuelle Ausrollen von Plattform Komponenten und Applikation kann so auf die immer gleichbleibende Art und Weise geschehen.
Mehrwerte einer industriellen KI-Plattform
Sie erhöhen kurz- sowie langfristig die Wirksamkeit Ihrer Entwicklungsteams und verhindern, dass KI Projekte an den neuartigen Hausforderungen, die diese Technologie mit sich bringt, scheitern. Außerdem wird die Time-to-Market reduziert, dies erhöht Ihre Anpassungsgeschwindigkeit und trägt somit zur Wettbewerbsfähigkeit bei. Sie besitzen einen Mechanismus für den kontinuierlichen Wissensaufbau und -verteilung und gewährleisten so, dass Sie die Produktivität der Entwicklungsteams immer weiter steigern und weniger Wissen verloren geht. Außerdem wird die Transparenz für Anwender und das Management gesteigert, um somit die Abstimmung zwischen allen Beteiligten zu fördern. So bleibt mehr Spielraum für Exploration und der Fokus auf das Wichtige: Nutzen und Anwender.
Etablierung einer KI-Plattform
Zur Einführung einer KI-Plattform ist es empfehlenswert ein agiles Vorgehen zu verwenden in dem die Plattform mit den Anforderungen aus den Projekten organisch wächst und weiterentwickelt wird. So reduziert man die anfängliche Investition und orientiert sich an den tatsächlichen Anforderungen, die aus den konkreten Projekten entstehen. Zudem wird ein Prozess benötigt, um die Erfahrungswerte aus den Projekten möglichst standardisiert und reflektiert in die Plattform zu überführen, sogenanntes Retrofitting. Nur so orientiert sich die Plattform an den realen Projektsituationen und reduziert nicht die Entwicklungsperformance der Projektteams.
Die Plattform muss dabei als Produkt geplant, umgesetzt und betrieben werden, mit einem dedizierten Entwicklungsteam, welches die Verantwortung dafür übernimmt. Das gewährleistet den wirksamen Einsatz, Aufbau und Betrieb. Die Projektteams haben weiterhin für das gesamte Projekt die Verantwortung und können diese nicht auf das Plattformteam abwälzen. Für die Technologieselektion hat es sich bewährt auf Open Source Software zu setzen. In den sowieso schon sehr risikobehafteten KI Projekten senkt dies zusätzlich die Einstiegshürde, da keine langfristige Investition in teure Lizenzen vorgenommen werden muss. Zusätzlich hat es sich bewährt von den Funktionen auf die konkreten Komponenten/Technologien zu schließen. Das reduziert die Abhängigkeiten und erhöht die Austauschbarkeit der jeweiligen Technologie.
Fazit
Die Einführung einer KI-Plattform lohnt sich besonders für Unternehmen, die einen längerfristigen Einsatz von KI in unterschiedlichsten Projekten planen. Aber auch wenn nur ein Einsatz in ein paar wenigen Projekten geplant ist, lohnt sich die Einführung einiger Komponenten, Werkzeuge und Vorgehensweisen. So wird das Investitionsvolumen klein gehalten und die Produktivität gleich von Beginn an gewährleistet. Ein agiles Vorgehen ist übergreifend in allen Teilaspekten empfohlen, so lassen sich ständig neue Gegebenheiten adaptieren. Optimalerweise kommen die Anforderungen an die Plattform aus den Projekten. Allerdings darf hieraus keine Abhängigkeit auf die Roadmap der Plattform geschehen. So würde der Mehrwert der Plattform stark reduziert werden und die Produktivität würde sinken. Etablieren Sie deswegen einen Mechanismus (Retrofitting) für die Überführung von Projektanforderungen in die Plattform, nachdem diese im Projekt umgesetzt wurden. Achten Sie darauf, dass der Einsatz der Plattform in Projekten so einfach wie möglich von statten geht, um die Akzeptanz in den Projektteams zu schaffen.
