Simulationsmodelle der Virtuellen Inbetriebnahme als Lernumgebung für Reinforcement Learning Algorithmen

Artikelserie Stuttgarter Innovationstage (Teil 1): Selbstlernende Steuerungssysteme

Die Umstellung eines Produktionssystems, z.B. einer Roboterzelle, auf ein neues Produkt muss künftig schnell und mit wenig Aufwand möglich sein. Die Steuerungssysteme, sowie die zugehörigen Engineering Methoden, müssen dabei intelligent und lernfähig werden, manuelle Aufwände in der Entwicklung zu reduzieren. Die virtuelle Inbetriebnahme stellt eine geeignete Lernumgebung dar, in der sich das Steuerungssystem mit Methoden der künstlichen Intelligenz selbst programmiert. Dafür müssen die Simulationswerkzeuge erweitert und möglichst standardisierte Schnittstellen geschaffen werden.
 Die Simulationsmodelle der virtuellen Inbetriebnahme sind eine geeignete Lernumgebung für verschiedene Anwendungsfälle der Produktionstechnik.
Die Simulationsmodelle der virtuellen Inbetriebnahme sind eine geeignete Lernumgebung für verschiedene Anwendungsfälle der Produktionstechnik.Bild: Institut für Steuerungstechnik der Werkzeugmaschinen und Fertigungseinrichtungen (ISW)

Schnittstelle zum VIBN-Werkzeug

Um Reinforcement Learning für Produktionssysteme nutzbar zu machen ist es wichtig auf bereits existierende Ansätze und vor allem Software-Bibliotheken zurückzugreifen. Der Steuerungsentwickler soll in die Lage versetzt werden aktuellen Methoden und Algorithmen integrieren zu können, ohne diese selbst zu entwickeln oder anzupassen. Wichtig dafür ist es, die Lernumgebung an bestehenden Standards zu orientieren. OpenAI, Google und Microsoft stellen standardisierte Lernumgebungen als Bibliothek als zur Verfügung um eigene Lernalgorithmen zu valideren und zu vergleichen. Das am häufigsten verwendete Toolkit, OpenAI Gym, stellt Open-Source-Lernumgebungen für Computerspiele, physikbasierte Simulationen oder klassische Steuerungs- und Regelungsprobleme zur Verfügung. Es definiert dadurch einen DeFacto-Standard für Lernumgebungen, in Bezug auf den Aufbau und die Schnittstellen. Besonders interessant ist die Tatsache, dass für eine solche OpenAI-Gym-Lernumgebung auch Open-Source-Algorithmen (OpenAI Baselines) zur Verfügung stehen, die aktuelle Entwicklungen und Fortschritte aus der Forschung beinhalten. Diese Algorithmen werden in verschiedenen Communitys laufend verbessert und erweitert und sind auf eine Vielzahl von Anwendungsfällen anwendbar, solange die zugehörigen Lernumgebungen dem OpenAI-Standard entsprechen.

Lernumgebung für Zeilensteuerung und Motion

Durch entsprechende Erweiterungen eines VIBN-Simulationswerkzeuges, sodass der OpenAI-Standard eingehalten werden kann, stehen folglich eine Vielzahl von Lernalgorithmen zur Verfügung. Am ISW der Uni Stuttgart wurde eine entsprechende Lösung in Verbindung mit einem VIBN-Simulationswerkzeug entwickelt. Für die Erfüllung des OpenAI-Standards waren dabei bestimmte Funktionen des Werkzeugs gegeben. Es muss eine Schnittstelle für den Austausch von Signalen, zwischen dem Agenten und der Simulation bestehen. Üblicherweise existieren bei VIBN-Simulationswerkzeugen dazu Schnittstellen auf Feldbusebene, um denselben Kommunikationsweg wie am realen System zu realisieren. Für eine VIBN-Lernumgebung müssen jedoch weitere relevante Funktionen wie das Starten, Stoppen und Resetten von Simulationen sowie das Parametrieren von Simulationsmodellen realisiert werden. Daher wurde auf Basis einer Remote-Schnittstelle des VIBN-Simulationswerkzeuges eine spezielle Kommunikationsschnittstelle entwickelt, welche den OpenAI-Standards entspricht. Die entwickelte VIBN-Lernumgebung wurde bisher für einfache Logiksteuerungen (Zellensteuerung) und Bewegungssteuerungen (Motion) für Robotersysteme getestet.

Steuerungstechnik aus der Cloud? Der damals kontrovers diskutierte Ansatz wurde vor fünf Jahren erstmals umfangreich auf der Fachtagung Stuttgarter Innovationstage präsentiert. Zum fünfjährigen Jubiläum werden Experten und Anwender am 2. und 3. März 2021 in einer Podiumsdiskussion die Fortschritte der Steuerungstechnik aus der Cloud und reale Anwendungsfälle aufzeigen. Zusätzlich geben an beiden Tagen die Schwerpunktthemen Software Defined Manufacuturing und Intelligente Produktion Einblicke in aktuelle Trends und Entwicklungen. Die Fachvorträge und der direkte Kontakt zu den geladenen Experten aus den Fachbereichen der IT und Automatisierungstechnik ermöglichen den interdisziplinären Austausch mit den Gestaltern der Steuerungstechnik von morgen. Weitere Infos zur Fachtagung unter www.stuttgarter-innovationstage.de

Artikelserie Stuttgarter Innovationstage

Teil1: Selbstlernende Steuerungssysteme (SPS-MAGAZIN 10/2020)

Teil2: Umati für Werkzeugmaschinen (SPS-MAGAZIN 11/2020)

Teil3: KI-basierte Qualitätsüberwachung (SPS-MAGAZIN 13/2020)

Teil4: Computer Vision in der Steuerung (SPS-MAGAZIN 1/2021)

Seiten: 1 2Auf einer Seite lesen

ISW Institut für Steuerungstechnik der

Das könnte Sie auch Interessieren

Bild: Fraunhofer IEM
Bild: Fraunhofer IEM
Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Effiziente Produktionsplanung: KI reduziert Aufwand bei Schulte Kartonagen um 25%

Welcher Liefertermin steht wann an? Wie aufwändig muss die Maschine umgerüstet werden? Ist das benötigte Material bereits geliefert? Um die Reihenfolge verschiedener Kundenaufträge optimal zu planen, müssen Produktionsplaner:innen eine Vielzahl von Faktoren kennen und einschätzen. Bei Schulte Kartonagen hat ab sofort ein intelligenter KI-Assistent alle Faktoren im Blick – und macht Vorschläge für die effiziente Planung der Produktion. Gefördert wurde die Zusammenarbeit mit dem Fraunhofer IEM und den Universitäten Paderborn und Bielefeld im it’s OWL-Projekt ARISE.

Bild: schoesslers GmbH
Bild: schoesslers GmbH
appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

appliedAI Institute for Europe launcht kostenlosen KI-Onlinekurs

Das gemeinnützige appliedAI Institute for Europe stellt den kostenfreien Online-Kurs ‚AI Essentials‘ zur Verfügung, der es Interessierten ermöglicht, in die Welt der Künstlichen Intelligenz einzusteigen. Konzepte wie maschinelles Lernen und Deep-Learning sowie deren Anwendungsmöglichkeiten und Auswirkungen auf unser Leben und unsere Wirtschaft sind Teile der umfassenden Einführung.

Bild: Trumpf SE + Co. KG
Bild: Trumpf SE + Co. KG
Künstliche Intelligenz macht Fabriken clever

Künstliche Intelligenz macht Fabriken clever

Seit dem Siegeszug des Chatbots ChatGPT ist künstliche Intelligenz in aller Munde. Auch in der industriellen Produktionstechnik kommt KI mit großen Schritten voran. Lernende Maschinen machen die Fertigung effizienter. Wie funktioniert das genau? Das können Interessierte auf der EMO Hannover 2023 vom 18. bis 23. September erfahren. Die Weltleitmesse für Produktionstechnologie wird ihr Fachpublikum unter dem Claim ‚Innovate Manufacturing‘. mit frischen Ideen inspirieren und künstliche Intelligenz spielt dabei ihre Stärken aus.

Bild: Mitsubishi Electric Corporation, Japan
Bild: Mitsubishi Electric Corporation, Japan
KI-gestütztes Analysetool für moderne Produktionslinien

KI-gestütztes Analysetool für moderne Produktionslinien

Das Data-Science-Tool Melsoft MaiLab von Mitsubishi soll Unternehmen bei der Digitalisierung ihrer Fertigung und unterstützen und so deren Produktivität steigern. Die neue Lösung ist eine intuitive, bedienerzentrierte Plattform, die KI nutzt, um Abläufe automatisch zu verbessern. Sei es Abfallvermeidung durch geringere Ausschussmengen, weniger Stillstandszeiten durch vorbeugende Wartung oder Senkung des Energieverbrauchs durch Prozessoptimierung.

Bild: Fraunhofer IGD
Bild: Fraunhofer IGD
Software Arrange beschleunigt Absortierprozesse

Software Arrange beschleunigt Absortierprozesse

In Kombination mit einer Augmented-Reality-Brille bietet eine neue Software des Fraunhofer IGD digitale Unterstützung von Absortiervorgängen. Zusammengehörige Bauteile werden direkt im Sichtfeld der Beschäftigten an der Produktionslinie farblich überlagert. Anwender im Automotive-Bereich können so etwa durch beschleunigte Prozesse und eine minimierte Fehleranfälligkeit Kosten reduzieren.