- Anzeige -
- Anzeige -
- Anzeige -
- Anzeige -
- Anzeige -
Lesedauer: 4min
Lernalgorithmus E-prop
Energieeffizient lernen
Ein Forschungsteam an der Technischen Universität Graz hat die KI-Lernmethode E-prop entwickelt, mit der Hardware-Implementierungen von künstlicher Intelligenz energieeffizienter gestaltet werden können.
Die beiden TU Graz-Informatiker Robert Legenstein und Wolfgang Maass (v.l.) arbeiten an energieeffizienten AI-Systemen und lassen sich dabei von der Funktionsweise des menschlichen Gehirns inspirieren.
Die beiden TU Graz-Informatiker Robert Legenstein und Wolfgang Maass (v.l.) arbeiten an energieeffizienten AI-Systemen und lassen sich dabei von der Funktionsweise des menschlichen Gehirns inspirieren.Bild: TU Graz

Der hohe Energieverbrauch beim Lernen von künstlichen neuronalen Netzwerken ist eine große Hürde für den breiten Einsatz künstlicher Intelligenz (KI), vor allem bei mobilen Anwendungen. Ein Ansatz, um sich diesem Problem zu nähern ist, von Erkenntnissen über das menschliche Gehirn zu lernen: Dieses verfügt über immense Rechenleistung, braucht mit 20 Watt aber nur ein Millionstel von dessen Energie. Verantwortlich dafür ist unter anderem die effiziente Informationsweitergabe zwischen den Neuronen im Gehirn: Diese senden dazu kurze, elektrische Impulse (Spikes) an andere Neuronen – um Energie zu sparen aber nur so oft, wie unbedingt notwendig.

Diese Funktionsweise hat sich ein Team der TU Graz um die Informatiker Wolfgang Maass und Robert Legenstein bei der Entwicklung des maschinellen Lernalgorithmus E-prop (kurz für e-propagation) zu eigen gemacht. Die Arbeitsgruppe des Instituts für Grundlagen der Informationsverarbeitung, nutzen in ihrem Modell Spikes zur Kommunikation zwischen Neuronen in einem künstlichen neuronalen Netz. Die Spikes werden nur dann aktiv, wenn sie für die Informationsverarbeitung im Netzwerk gebraucht werden. Das Lernen ist für solche wenig aktiven Netzwerke eine besondere Herausforderung, da es längere Beobachtungen braucht um zu ermitteln, welche Neuronenverbindungen die Netzwerkleistung verbessern.

Dezentrale Methode

Bisherige Methoden erzielten zu geringe Lernerfolge oder erforderten enormen Speicherplatz. E-prop löst nun dieses Problem mittels einer vom Gehirn abgeschauten dezentralen Methode, bei der jedes Neuron in einer sogenannten E-trace (eligibility trace; dt. Ereignisspur) dokumentiert, wann seine Verbindungen benutzt wurden. Die Methode ist ähnlich leistungsfähig wie bekannte andere Lernmethoden.

Bei vielen der derzeit eingesetzten Maschine-Learning-Techniken werden alle Netzwerkaktivitäten zentral und offline gespeichert, um alle paar Schritte nachvollziehen zu können, wie die Verbindungen während der Berechnungen benutzt wurden. Dies erfordert aber einen ständigen Datentransfer zwischen dem Speicher und den Prozessoren — eine der Hauptursachen für den zu großen Energieverbrauch gegenwärtiger KI-Implementationen. E-prop hingegen funktioniert vollkommen online und erfordert auch im realen Betrieb keinen separaten Speicher.

Nicht über die Cloud gehen

Maass und Legenstein hoffen, dass der Algorithmus die Entwicklung einer neuen Generation von mobilen lernfähigen Rechensystemen vorantreibt, die nicht mehr programmiert werden müssen, sondern nach dem Vorbild des menschlichen Gehirns lernen und sich dadurch an laufend neue Anforderungen anpassen. Ziel ist es, diese Rechensysteme nicht mehr energieintensiv ausschließlich über eine Cloud lernen zu lassen, sondern den größeren Teil der Lernfähigkeit effizient in mobile Hardware-Komponenten einzubauen und dadurch Energie zu sparen.

Erste Schritte, E-prop in die Anwendung zu bringen, wurden bereits gemacht: So arbeitet das Team der TU Graz gemeinsam mit der Advanced Processor Technologies Research Group (APT) der Universität Manchester im Human Brain Projekt daran E-prop in das dort entwickelte neuromorphe Spinnaker-System einzubauen. Gleichzeitig arbeitet die TU Graz gemeinsam mit Intel daran, den Algorithmus in die nächsten Version von Intels neuromorphen Chip Loihi zu integrieren.

Autor:
Firma: TU Graz
- Anzeige -

News

- Anzeige -

Weitere Beiträge

Das könnte Sie auch interessieren

Kunden begeistern und binden

Mit gutem Service können sich Firmen von der Konkurrenz abheben. Dafür müssen die Mitarbeiter schnell auf relevante Daten zugreifen können und der Kunde an allen Touchpoints gute Erfahrungen machen. Wissensdatenbanken, künstliche Intelligenz sowie unterschiedliche Supportkanäle helfen, das angestrebte Servicelevel zu erreichen.

mehr lesen

Künstliche Intelligenz in ERP-Systemen

ERP-Systeme bilden den Kern der Unternehmens-IT und stellen die zentrale Datendrehscheibe dar. Zunehmend integrieren Anbieter intelligente Algorithmen und KI-Module in ihre Systeme. Ein Team des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS hat das Thema Künstliche Intelligenz und ERP-Systeme aus Sicht von Unternehmen untersucht und zwei Publikationen veröffentlicht: Die Studie »Wie eine ERP-Einführung gelingt« stellt Faktoren vor, die zum Erfolg einer ERP-Einführung beitragen. In Zusammenarbeit mit der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen (KI.NRW) ist zudem die Studie »Künstliche Intelligenz in ERP-Systemen« entstanden. Neben einer Darstellung des Status Quo zum Einsatz von KI fokussiert sie Chancen, Trends und Risiken von KI in ERP-Systemen. Die Publikationen stehen kostenfrei zum Download zur Verfügung.

mehr lesen

Schutz der Privatsphäre und KI in Kommunikationssystemen

Alle zwei Jahre vergeben der VDE, die Deutsche Telekom sowie die Städte Friedrichsdorf und Gelnhausen den mit 10.000 Euro dotierten Johann-Philipp-Reis-Preis an einen Nachwuchswissenschaftler. Dieses Jahr geht er an Prof. Dr.-Ing. Delphine Reinhardt von der Georg-August-Universität Göttingen und an Dr.-Ing. Jakob Hoydis von den Nokia Bell Labs in Nozay, Frankreich. Die beiden Preisträger teilen sich die Auszeichnung und damit das Preisgeld.

Infor bringt Infor Coleman AI auf den Markt

Infor, Anbieter von branchenspezifischer Business-Software für die Cloud, hat bekanntgegeben, dass die Plattform Infor Coleman AI für Embedded-Machine-Learning-Modelle ab sofort verfügbar ist. Sie bietet die Geschwindigkeit, Wiederholbarkeit und Personalisierung, die Unternehmen benötigen, um KI vollständig zu operationalisieren.