KI am Endgerät: Wie Edge AI für Datenschutz und Energieeffizienz sorgt

Künstliche Intelligenz (KI) lokal auf dem Smartphone, im Fahrzeug oder Industrieroboter einzusetzen, bietet enorme Chancen für die deutsche Wirtschaft und Gesellschaft. Im Vergleich großen KI-Modellen, die zentral auf großen Recheninfrastrukturen betrieben werden, benötigt die sogenannte Edge AI deutlich weniger Energie, schützt die Privatsphäre sowie Daten der Nutzenden und ermöglicht zuverlässige Anwendungen in Echtzeit. Die Plattform Lernende Systeme bescheinigt Deutschland eine gute Ausgangsposition im internationalen Wettbewerb, um das Potenzial der Technologie auszuschöpfen. Allerdings stehen Forschung und Entwicklung vor technischen Herausforderungen sowie Hürden beim Transfer in die Praxis. Ein aktuelles Whitepaper gibt einen Überblick über Stärken und Schwächen von Edge AI und diskutiert Optionen, wie die Technologie in die Anwendung gebracht werden kann.

Mithilfe von Edge AI lässt sich der Gesundheitszustand von Patientinnen und Patienten in Echtzeit überwachen. Fahrerassistenzsysteme können blitzschnell auf Hindernisse reagieren und so die Sicherheit im Straßenverkehr erhöhen. Ziel der Technologie ist es, Daten möglichst dort zu verarbeiten und zu analysieren, wo sie entstehen, also nahe am Endgerät. Da die Daten auf diese Weise nicht über große Distanzen an Rechenzentren übertragen werden müssen, können die KI-Systeme schneller reagieren. Die Daten von Personen oder Unternehmen verbleiben sicher beim Nutzenden. Dies eröffnet vielfältige Einsatzmöglichkeiten überall dort, wo ein Betrieb in Echtzeit wünschenswert ist, und sensible Daten verarbeitet werden, etwa Gesundheitsdaten in der Medizin oder wertvolle Unternehmensdaten. Allerdings bieten Edge AI-Systeme auf vielen Endgeräten unter Umständen mehr Angriffsflächen für Cyberattacken als ein gut geschütztes Rechenzentrum.

Aktuell dominieren die spektakulären generativen KI-Modelle die öffentliche Diskussion. Sie basieren auf immer größeren zentral verarbeiteten Datenmengen und immer höheren Rechenkapazitäten. Ihre Kosten und ihr Energieverbrauch sind hoch: Ein Bildgenerator benötigt beim Erstellen eines Bildes so viel Energie wie für das Aufladen eines Handyakkus notwendig ist. Edge AI muss mit einer sehr begrenzten Rechenleistung und Speicherkapazität auf dem Endgerät auskommen und daher besonders energieeffizient arbeiten. Die Autorinnen und Autoren des Whitepapers erachten diese Beschränkungen sowohl als Herausforderung für die Entwicklung als auch als Chance, da sie Treiber für ressourcenschonende KI-Innovationen seien.

Edge AI sei ein technologischer Baustein, um Herausforderungen wie den Klimawandel, digitale Souveränität oder die Energieversorgung zu bewältigen, heißt es im Whitepaper. So können Edge AI-basierte Stromzähler zu einer stabilen Versorgung mit erneuerbaren Energien beitragen. Sensoren in Recyclinganlagen können mithilfe der Technologie Wertstoffe im Abfall erkennen. Unternehmen ermöglicht Edge AI, unabhängiger von meist außereuropäischen Cloud-Anbietern zu agieren, da Datenströme an der Quelle verarbeitet werden.

“Die genannten Vorteile öffnen eine Vielzahl von Potenzialen gerade in deutschen Leitindustrien wie Automobil, Maschinenbau und Medizintechnik. Auch wenn es bereits Erfolge vorzuweisen gibt, so nutzen wir das verfügbare Potenzial aber bei weitem noch nicht aus. Die Gestaltung der Netze, das Trainieren der Netze, die Übersetzung der Netze und die Hardware-Architekturen zur Berechnung der Netze werden weitgehend unabhängig betrachtet. Eine holistische Herangehensweise ist notwendig, um eine leistungsstarke Edge AI-Technik bereitzustellen“, sagt Wolfgang Ecker, Distinguished Engineer bei Infineon Technologies und Mitglied der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme. „Und ebenso müssen Technik und Anwendungen gemeinsam betrachtet werden. Nur mit dem Wissen der Anwendung können die Edge AI-Maschinen effizient gestaltet werden und im Gegenzug können nur mit dem Wissen der Leistungsfähigkeit der Edge AI-Technik neue Anwendungen entwickelt werden.“

Transfer in die Praxis stärken

Die Kombination aus technologischem Wissen, Expertise in den ansässigen Industriezweigen und Erfahrung in der Entwicklung physischer Produkte mache Deutschland und Europa zu einem idealen Standort, um das Potenzial von Edge AI auszuschöpfen, so die Autorinnen und Autoren des Whitepapers. Allerdings lassen sich die Softwarelösungen für eine bestimmte Hardware meist nicht einfach auf ein anderes Endgerät übertragen. Zudem fehlen Expertinnen und Experten für das Hardware-Design. Beides bremst den Einsatz von Edge AI in der Praxis. Die Autorinnen und Autoren empfehlen, Plattformen zu entwickeln, auf denen Basisbausteine für Edge AI bereitgestellt werden, die je nach Bedarf an die verschiedenen Branchen angepasst werden können. Dies setzt eine entsprechende Standardisierung voraus. Auch sollte die Forschung zu ressourcenschonenden Datenverarbeitung innerhalb der Grenzen der Endgeräte vorangetrieben werden.

Über das Whitepaper

Das Whitepaper „Edge AI: KI nahe am Endgerät. Technologie für mehr Datenschutz, Energieeffizienz und Anwendungen in Echtzeit“ wurde von Mitgliedern der Plattform Lernende Systeme verfasst. Die Federführung lag bei den zwei Arbeitsgruppen Technologische Wegbereiter und Data Science sowie IT-Sicherheit, Privacy, Recht und Ethik. Das Whitepaper beruht hauptsächlich auf den Ergebnissen eines im Jahr 2023 durchgeführten Runden Tisches mit Expertinnen und Experten. Die Publikation steht zum kostenfreien Download zur Verfügung.

Ein Interview mit Wolfgang Ecker, Autor des Whitepapers und Mitglied der Plattform Lernende Systeme, steht zur redaktionellen Verwendung zur Verfügung.

Tiefere Informationen zum verteilten maschinellen Lernen auf Edge AI-Systemen enthält die Kurzpublikation KI Kompakt.