Edge AI: Nahe am Endgerät für mehr Datenschutz, Energieeffizienz und Anwendungen in Echtzeit

Ein Expertenbeitrag von Wolfgang Ecker, Distinguished Engineer bei Infineon Technologies, Honorarprofessor an der TU München und Mitglied der Plattform Lernende Systeme

Edge AI (Edge Artificial Intelligence) beschreibt den Einsatz von Künstlicher Intelligenz nahe oder direkt am Endgerät und Endanwender, sei es zum Beispiel in Fahrzeugen, Robotern, Smartphones oder medizinischen Sensoren. Diese Technologie ermöglicht es, Gesundheitszustände in Echtzeit zu überwachen oder Fahrassistenzsysteme schnell auf Hindernisse reagieren zu lassen, was eine frühzeitige Reaktion im Krankheitsfall ermöglicht beziehungsweise die Verkehrssicherheit erheblich steigert. Der wesentliche Unterschied zur Cloud AI liegt in der Art der Datenverarbeitung: Während bei Cloud AI Daten auf zentralen Rechen- und Speicherinfrastrukturen verarbeitet werden, erfolgt die Datenverarbeitung bei Edge AI direkt oder in unmittelbarer Nähe der Datenquelle. Dies bringt zahlreiche Vorteile mit sich, darunter geringere Latenzzeiten, Echtzeitanwendung sowie einen reduzierten Energieverbrauch und verbessere Privatsphäre und Sicherheit.

Die Relevanz von Edge AI wird besonders deutlich, wenn man die Herausforderungen des 21. Jahrhunderts betrachtet, in denen Energieeffizienz und Nachhaltigkeit ins Zentrum von Forschung und Entwicklung rücken. Mit der Fähigkeit, in Echtzeit zu arbeiten und sensible Daten lokal zu verarbeiten, bietet Edge AI Lösungen für Herrausforderungen wie zum Beispiel den Klimawandel, digitale Souveränität oder Energieversorgung.  Gerade wegen der begrenzten Rechenleistung und Speicherkapazität vieler Endgeräte zeigt sich Edge AI als vielversprechender Treiber zur Förderung ressourcenschonender KI-Innovationen in verschiedenen Industrien, Märkten und Anwendungsfeldern.

Im Vergleich zur energieintensiven Nutzung zentraler Rechenkapazitäten, wie es aktuell bei dem Training und in vielen Fällen auch bei der Nutzung von  generativer KI üblich ist, stellt Edge AI eine nachhaltigere Alternative dar. Bildgeneratoren wie DALL-E oder Stable Diffusion benötigen beispielsweise für die die Erstellung eines Bildes ähnlich viel Energie wie das Aufladen eines Mobilfunktelefons. Durch das Design von Edge-AI-Lösungen für Umgebungen mit eingeschränkten Ressourcen – etwa durch den Einsatz kleiner KI-Modelle – sowie durch gezielte Datenfilterung und intelligente Steuerung der Algorithmen kann mehr Nachhaltigkeit und Energieeffizienz erreicht werden. So werden beispielsweise bei Herzschrittmachern nur relevante Daten, wie Anomalien im Herzschlag, gespeichert und analysiert, oder in mobilen Geräten wie E-Fahrzeugen oder Smartphones werden je nach Energiezustand gezielt Teilmodule an- oder ausgeschaltet. Zudem ermöglicht die lokale Verarbeitung eine sichere und verlässliche Datenanalyse in Echtzeit, was insbesondere bei sensiblen Daten von Bedeutung ist: etwa Gesundheitsdaten in der Medizin oder wertvolle Unternehmensdaten. Allerdings ersetzt das nicht Edge-Geräte vor unbefugtem Zugriff durch Dritte zu schützen.

Personenbezogene Daten unterliegen hohen datenschutzrechtlichen Regeln

KI-Systeme sind eine Schlüsseltechnologie für Wirtschaft und Gesellschaft. Sie können zu einem sicheren und flüssigen Straßenverkehr beitragen, medizinische Versorgungen und Pflege besser auf Einzelpersonen zuschneiden und Bildungsangebote optimieren. Für Unternehmen eröffnen KI-Anwendungen neue Geschäftsfelder und ermöglichen es ihnen darüber hinaus, Prozesse effizienter zu gestalten und Mitarbeitende von monotonen und körperlich schweren Aufgaben zu entlasten, z.B. durch KI-unterstützte Industrie-Roboter. Dennoch zeigt sich die deutsche Wirtschaft noch sehr zurückhaltend im KI-Einsatz, da die Anforderung an den Datenschutz als schwer umsetzbar empfunden werden.

Die sinnvolle Anwendung von KI-Systemen in Unternehmen und Behörden setzt voraus, dass ausreichende Mengen hochwertiger Daten verfügbar sind. Bei der Datennutzung wird unterschieden zwischen nicht-personenbezogenen bzw. nicht-personenbeziehbaren Daten und personenbezogenen Daten. Daten, die nicht auf Personen bezogen werden können, fallen nicht unter die Datenschutzgrundverordnung (DSGVO) und können daher verhältnismäßig aufwandsarm für den KI-Einsatz genutzt werden. In der modernen Wirtschaft fallen darunter etwa Informationen über Produktions-, Logistik- und Qualitätsprozesse. Auch der KI-Einsatz selbst produziert wiederum Daten, etwa über die Optimierung der genannten Prozesse, die in keiner Verbindung zu Personen stehen und weiterverwendet werden dürfen.

Personenbezogene Daten sind aus Sicht der EU Kommission besonders wertvoll, jedoch auch besonders schützenswert. Unter personenbezogene Informationen innerhalb des Unternehmens fallen etwa präferierte Arbeitszeiten, Kompetenzen und Verfügbarkeiten von Mitarbeitenden. Diese Daten ermöglichen im Unternehmenskontext unter anderem die Optimierung von Schichtplänen und die Einführung flexiblerer Arbeitszeitmodelle durch den Einsatz von KI-Anwendungen. Auch Daten von und über kooperierende Unternehmen sind geschützt, etwa über autorisierte Unterauftragnehmer, die einen Teil des Wertschöpfungsnetzwerks darstellen. Nicht zuletzt werden auch personenbezogene Daten von Kundinnen und Kunden eines Unternehmens geschützt, beispielsweise wenn diese einen individuellen Auftrag erteilen oder persönliche Daten mit einem Unternehmen teilen.

Technischer Hintergrund

Für die technische Umsetzung von Edge AI stehen verschiedene Lösungen zur Verfügung (siehe Abbildung 1, 1–7). Dabei können das KI-Training und die KI-Inferenz an unterschiedlichen Punkten ausgeführt werden, sei es auf Cloud-Servern, Edge-Geräten oder über Edge-Server, Edge-Hubs oder Zonen Controller (Fog).  Es ist jedoch wichtig zu beachten, dass zwischen KI-Inferenz und KI-Training nicht immer eine klare Trennung besteht. Jedoch zeigt sich in der gegenwärtigen Praxis, dass das Training sehr viel mehr Speicherbedarf und

Rechenressourc en erfordert als die Inferenz. Daher sind in vielen Szenarien Lösungen praktikabel, bei denen das Training in der Cloud und die KI-Inferenz auf dem Edge-Gerät stattfindet (siehe Abbildung 1, 2–3).

Gesellschaftliche und wirtschaftliche Herausforderungen mit Hilfe von Edge AI adressieren

Die gesellschaftlichen und wirtschaftlichen Herausforderungen, die mit Edge AI angegangen werden können, sind vielfältig. In intelligenten Stromnetzen können beispielsweise unterstützt von Edge-AI-Technologien Prognosen über Stromerzeugung und -verbrauch erstellt werden, die ein effizientes Lastmanagement im Stromnetz ermöglichen. Im Bereich Umwelt und Nachhaltigkeit kann Edge AI auf Basis von Kamerasystemen und Sensoren in Recycling- oder Abfallbehandlungsanlagen eingesetzt werden, um verschiedene Wertstoffe im Abfall in Echtzeit zu erkennen, diese zu analysieren und gegebenenfalls mit Aktoren automatisch zu sortieren sowie im Anschluss daran verschiedenen Weiterverarbeitungsprozessen zuzuführen. So werden nicht nur Recyclingprozesse verbessert, sondern es kann damit auch ein Beitrag zur Kreislaufwirtschaft geleistet werden. Ein weiteres Beispiel ist der Einsatz von Edge AI in der Landwirtschaft wodurch Unkraut automatisch erkannt und mechanisch entfernt werden kann.

Des Weiteren lassen sich mit dieser Technologie auch ökonomische Potenziale erschließen, beispielsweise in der Produktion und Logistik durch Automatisierung und vorausschauende Wartung, was die Anlagenkosten reduziert und die Wettbewerbsfähigkeit erhöht. Darüber hinaus kann Edge AI für Unternehmen, die ihre sensiblen Rohdaten nicht teilen und extern verarbeiten lassen wollen oder selbst nicht über genügend Daten verfügen, überhaupt erst die Voraussetzungen schaffen, um von den derzeit rasanten Fortschritten im Bereich der Künstlichen Intelligenz zu profitieren.

Organisationen und Unternehmen ermöglicht Edge AI, unabhängiger von meist außereuropäischen Cloud-Anbietern zu agieren, da Datenströme an der Quelle verarbeitet werden und so die Kontrolle über sensible Daten gewährleistet werden kann. Auf diese Weise kann Edge AI zur Digitalen Souveränität beitragen.

Transfer in die Anwendung stärken

Die Kombination aus dem vorhandenen technologischen Wissen, der Domänenexpertise und der Erfahrung in der Entwicklung von Produkten, positioniert Deutschland bestens, um das Potenzial von Edge AI auszuschöpfen. Der Grundstein für den Erfolg von Edge AI ist bereits gelegt, da zum einen in Deutschland und Europa viel Expertise, Know-how und exzellente Forschung auf diesem Gebiet vorhanden sind. Zum anderen sind in den Bereichen wie Maschinenbau, maschinelles Edge AI basiertes Sehen sowie generell Edge AI Sensorik mit Blick auf eine produktive Anwendung schon weit fortgeschritten und etabliert. Zudem besteht durch die räumliche Nähe zu führenden Industrien wie der Automobilindustrie, Medizintechnik und Elektrotechnik/Elektronik die Chance, Edge-AI-Technologie schneller in die breite Anwendung zu bringen. Unter diesen Voraussetzungen können sich Unternehmen in Deutschland als Problemlöser für komplexe technische Unternehmungen auf Basis von Edge AI positionieren.

Allerdings stehen diesen Potenzialen verschiedene Herausforderungen für die Umsetzung gegenüber. Forschung und Entwicklung sind mit zusätzlichen Anforderungen konfrontiert, da die Rechenkapazität und die Energieressourcen kleiner Geräte begrenzt sind und auch die Kosten tragbar bleiben müssen. Wenn eine sinnvolle, technische Lösung für Edge AI definiert ist, wird die reduzierte Komplexität der Lösung durch eine reduzierte Flexibilität in der Anwendung erkauft. Deshalb besteht die Herausforderung darin, ein System so aufzubauen, das es allen Anforderungen gerecht wird. Dies erfordert einen ganzheitlichen Ansatz: KI, Software und Hardware müssen gemeinsam und mit Blick auf eine kleine Gruppe von Anwendungen entwickelt werden. Dafür gilt es, Synergien zwischen Soft- und Hardware zu nutzen oder zu erzeugen, um spezifische Ziele im Gesamtkontext zu erreichen. So müssen beispielsweise Lösungen für spezifische Geräte, zum Beispiel Ultra-Low-Power-Geräte, gefunden werden oder Lernalgorithmen spezifisch für bestimmte Hardware neu entwickelt werden. Zudem erschwert die Vielfalt der Implementierungen mit ihren jeweils eigenen Programmbibliotheken und ein Mangel an anerkannten aussagekräftigen Benchmarks den Transfer von Forschungsergebnissen in die Praxis. Schließlich sind auch die branchenspezifischen Unterschiede eine Hürde, um Edge-AI-Lösungen schnell und einfach sektoral anpassen zu können. Zu nennen sind hier etwa unterschiedliche Anforderungen durch Regulierung, Normen, Zertifizierung und Zulassung.

Spezifische Anpassungen

Bei der Umsetzung von Edge AI sind jeweils spezifische Anpassungen erforderlich. Es werden daher technologische Lösungen benötigt, die entsprechend den unterschiedlichen Voraussetzungen in den Anwendungsbereichen flexibel gestaltet und eingesetzt werden können.

Um den Transfer in die Anwendung zu stärken, sollten seitens der Forschung, Entwicklung und Anwendung daher Plattformen entwickelt werden, auf denen Basisbausteine für Edge AI bereitgestellt und branchenspezifisch angepasst werden können. Dies setzt neben einer Vernetzung der entsprechenden Stakeholder eine entsprechende Standardisierung voraus, vor allem hinsichtlich einheitlicher Schnittstellen sowie entsprechender Hardware- und Entwicklungsumgebungen. Letzteres schließt auch die automatische Übersetzung von Netzen auf die optimierte Zielhardware mit ein. Nicht zuletzt sollte die Forschung zur ressourcenschonenden Datenverarbeitung innerhalb der Grenzen der Geräte vorangetrieben werden.