Agentische KI

Agentische KI bezeichnet Systeme, die autonom Ziele verfolgen und dabei nicht nur einzelne Anfragen beantworten, sondern eigenständig Handlungen planen, priorisieren und ausführen können. Im Unterschied zu klassischen KI-Modellen, die reaktiv auf Eingaben reagieren, sollen agentische Systeme handlungsfähig sein.

Diese Autonomie vergrößert jedoch die Angriffsfläche erheblich. Zu den klassischen KI-Risiken zählen Desinformation, verzerrte oder bösartige Ausgaben sowie Datenlecks. Agentische KI fügt eine entscheidende Dimension hinzu: Ausführungsfähigkeit. Wenn solche Systeme beispielsweise in Finanzsysteme, Code-Repositorien, Cloud-Plattformen, kritische Infrastrukturen, militärische Umgebungen oder Messaging-Anwendungen eingebettet sind, kann ein kompromittierter Agent ernsthaften Schaden auch mit physischen Folgen verursachen. Ein Agent kann Code ausrollen, Konfigurationen verändern, Dienste stören, Daten exfiltrieren oder Transaktionen initiieren, und zwar unauffällig und in großem Maßstab.

Bei klassischen KI-Systemen betrifft eine Manipulation typischerweise die aktuelle Datenverarbeitung: Eine kompromittierte Gesichtserkennung liefert falsche Ergebnisse, ein manipuliertes Intrusion-Detection-Modell übersieht Angriffe. Ein agentisches System hingegen ist selbst ein Akteur im digitalen Raum. Wird ein solcher Agent kompromittiert, kann er eigenständig handeln, etwa indem ein kompromittierter Kalender-Agent für koordinierte Phishing-Kampagnen missbraucht wird oder automatisiert Webseiten Dritter angreift. Die Kompromittierung betrifft damit nicht nur die Integrität eines Modells, sondern schafft einen neuen, autonomen Angriffsknoten im Netzwerk.

Die Manipulation des Kontexts oder des Langzeitspeichers eines Agenten kann dazu führen, dass er adversarialen Zielen folgt, während er nach außen hin regelkonform erscheint. Jedes angebundene Werkzeug oder jede API erhöht das Risiko. Persistenter Speicher verschärft das Problem zusätzlich: Halluzinierte Inhalte können als „Fakten“ gespeichert werden und zukünftige Entscheidungen verfälschen, während eingeschleuste Angriffsinstruktionen im System verbleiben und später aktiviert werden können.

Autonome Code-Generierung und -Ausführung verstärken klassische Software-Schwachstellen. Agenten könnten bei der Ausführung ihrer Aufgaben die vorgegebenen Ziele höher gewichten als Stabilität und Sicherheit. Zur Laufzeit generierter Code kann schwerwiegende Sicherheitslücken enthalten, die sich aufgrund maschineller Geschwindigkeit rasch verbreiten. In Multi-Agenten-Umgebungen können komplexe Interaktionen neu entstehende Verhaltensmuster, Kaskadeneffekte oder adversariale Rückkopplungsschleifen hervorrufen, die nur schwer vorhersehbar oder kontrollierbar sind.

Gleichzeitig kann agentische KI, wenn sie verantwortungsvoll entwickelt wird, die Verteidigung signifikant stärken. Ein oft genanntes Szenario aus der industriellen IoT-Sicherheit lautet: Was passiert, wenn ein Alarm ausgelöst wird, während der Administrator schläft? Agentische KI ermöglicht es nicht nur, Angriffe in Echtzeit zu erkennen, sondern auch unmittelbar Gegenmaßnahmen einzuleiten. Ein Sicherheitsagent kann automatisiert Ports schließen, verwundbare Dienste isolieren oder abschalten und kompromittierte Systeme in Quarantäne versetzen. Dadurch entsteht eine aktive, adaptive Verteidigungsschicht, die auf maschineller Geschwindigkeit operiert und die Zeitspanne zwischen Erkennung und Reaktion drastisch reduziert.

Diese Dual-Use-Dynamik macht Security-by-Design zwingend erforderlich. Striktes Privilegienmanagement, starke Isolation und klar definierte operative Grenzen sind essenziell, insbesondere in sicherheitskritischen Bereichen.

Die Zukunft von agentischer KI hängt daher von resilienten Architekturen ab. Authentifizierung, Autorisierung, Protokollierung und Isolation müssen grundlegende Bestandteile sein. Die Durchsetzung des Least-Privilege-Prinzips, Sandboxing, transparente Logging-Mechanismen und Laufzeitüberwachung sind unverzichtbar. Hardware-basierte Vertrauensanker und kryptographische Attestierung können die Integrität der Ausführung zusätzlich absichern.

Allerdings begünstigt die derzeitige Marktlage häufig Werkzeuge, die hohe Autonomie priorisieren, oft auf Kosten der Sicherheit. In einigen Frameworks erhalten Agenten weitreichende Privilegien, darunter Root-Zugriff auf Workstations, E-Mail-Konten oder sogar Kryptowallets, um maximale Funktionalität bei minimaler Nutzerinteraktion zu ermöglichen.

Agentische KI verkörpert den Übergang von reaktiven Werkzeugen zu proaktiven Akteuren. Ihr Potenzial ist transformativ, ebenso wie ihre Risiken. Vertrauenswürdigkeit muss mit der Autonomie skalieren. Die Zukunft wird nicht den leistungsfähigsten, sondern den sichersten und verantwortungsvollsten Agenten gehören. Letztlich sollte verhindert werden, dass agentische KI zu einer dystopischen KI mutiert.

März 2026

Agentic AI bezeichnet eine Klasse künstlicher Intelligenzsysteme, die in der Lage sind, eigenständig Ziele zu verfolgen, Handlungen zu planen und Entscheidungen zu treffen, um komplexe Aufgaben mit begrenzter menschlicher Intervention auszuführen. Grundlage dieser Entwicklung sind insbesondere Fortschritte bei großen Sprachmodellen (Large Language Models, LLMs), die zunehmend mit externen Werkzeugen, Softwareumgebungen und Datenquellen integriert werden. Dadurch können agentische Systeme beispielsweise Informationen recherchieren, Softwarecode generieren, Daten analysieren oder komplexe digitale Arbeitsabläufe koordinieren.

Ein wesentliches Merkmal moderner agentischer Systeme besteht darin, dass sie neben einem Sprachmodell über explizite Gedächtnisstrukturen und einen internen Zustand verfügen. Während klassische Sprachmodelle primär auf statischen Kontextfenstern basieren, erlaubt ein Gedächtnis die Speicherung, Strukturierung und Wiederverwendung relevanter Informationen über längere Zeiträume hinweg. Der interne Zustand eines Agenten kann dabei Informationen über vergangene Interaktionen, Zwischenentscheidungen, Ziele oder Kontext enthalten und dient als Grundlage für konsistentes Handeln über viele Interaktionsschritte hinweg. Auf diese Weise können agentische Systeme Aufgaben bearbeiten, die sich über längere Zeiträume erstrecken und zahlreiche Zwischenschritte erfordern.

Eng mit dieser Fähigkeit verbunden ist die zunehmende Personalisierung agentischer Systeme. Durch gespeicherte Interaktionen, Präferenzen und Kontextinformationen können Agenten ihre Entscheidungen und Handlungen an individuelle Nutzerinnen und Nutzer, Organisationen oder spezifische Anwendungsszenarien anpassen. Personalisierte agentische Systeme können beispielsweise Arbeitsgewohnheiten berücksichtigen, wiederkehrende Aufgaben effizienter bearbeiten oder Entscheidungsprozesse stärker an individuelle Anforderungen anpassen. Damit entwickelt sich Agentic AI zunehmend von einem generischen Assistenzsystem hin zu einem langfristig lernenden digitalen Akteur, der kontinuierlich Wissen über seine Umgebung und seine Nutzer aufbaut.

In der Forschung und Praxis lassen sich zwei grundlegende Architekturansätze unterscheiden. Bei sogenannten Single-Agent-Systemen übernimmt ein einzelner Agent sowohl die Planung als auch die Ausführung von Aufgaben. Dieser Ansatz ist vergleichsweise einfach zu kontrollieren, stößt jedoch bei komplexen Problemstellungen mit vielen parallelen Teilaufgaben an Grenzen. Demgegenüber verfolgen Multi-Agent-Systeme einen arbeitsteiligen Ansatz, bei dem mehrere spezialisierte Agenten miteinander interagieren. Einzelne Agenten können dabei unterschiedliche Rollen übernehmen, etwa Planung, Informationsbeschaffung, Bewertung oder Ausführung. Durch diese Kooperation lassen sich komplexe Problemstellungen effizienter bearbeiten. Gleichzeitig entstehen neue Herausforderungen in Bezug auf Koordination, Kommunikation und Konsistenz der Entscheidungen.

Die strategische Bedeutung dieser Technologien nimmt international rapide zu. Internationale Technologieunternehmen investieren derzeit intensiv in agentische KI-Systeme, da sie als zentraler Baustein zukünftiger digitaler Infrastrukturen betrachtet werden. Agentic AI hat das Potenzial, komplexe digitale Prozesse zu automatisieren, Wissensarbeit zu unterstützen und neue Formen der Zusammenarbeit zwischen Menschen und KI-Systemen zu ermöglichen.

Neben industriellen Anwendungen können agentische Systeme auch einen wichtigen Beitrag zur Modernisierung und Entlastung der öffentlichen Verwaltung leisten. Durch die Automatisierung administrativer Prozesse, die strukturierte Auswertung großer Dokumentmengen oder die Unterstützung bei der Bearbeitung standardisierter Anfragen können Verwaltungsmitarbeitende von zeitaufwändigen Routineaufgaben entlastet werden. Gleichzeitig können agentische Systeme dazu beitragen, Informationen effizienter aufzubereiten, Entscheidungsprozesse zu unterstützen und die Qualität sowie Geschwindigkeit öffentlicher Dienstleistungen zu verbessern.

Parallel dazu gewinnt auch die wissenschaftliche Forschung zu agentischen Architekturen zunehmend an Bedeutung. Aktuelle Arbeiten untersuchen unter anderem adaptive Gedächtnissysteme, strukturierte Wissensrepräsentationen sowie Lernmechanismen, die eine langfristige Verbesserung agentischer Systeme ermöglichen. Ein Beispiel hierfür ist der Ansatz Memory-R1, bei dem große Sprachmodelle mithilfe von Reinforcement Learning lernen, externe Speicher dynamisch zu verwalten. In diesem Ansatz entscheidet ein spezialisierter „Memory Manager“, welche Informationen gespeichert, aktualisiert oder verworfen werden sollen, während ein weiterer Agent relevante Einträge aus dem Gedächtnis für die aktuelle Problemlösung auswählt. Solche Ansätze zeigen, wie adaptive Speicherstrukturen langfristige Kontextverarbeitung ermöglichen und damit eine wichtige Voraussetzung für leistungsfähige agentische Systeme darstellen.

Vor diesem Hintergrund kommt Universitäten und Forschungseinrichtungen eine zentrale Rolle zu. Sie müssen die wissenschaftlichen Grundlagen für agentische Systeme entwickeln, neue Methoden und Architekturen erforschen und zugleich die nächste Generation von Fachkräften ausbilden. Dazu gehören insbesondere Studienangebote im Bereich Künstlicher Intelligenz, autonome Systeme und Multi-Agent-Technologien sowie der Ausbau entsprechender Professuren und Forschungsprogramme.

Um die Chancen dieser technologischen Entwicklung zu nutzen, sind gezielte politische und institutionelle Maßnahmen erforderlich. Dazu zählen insbesondere langfristige Forschungsprogramme im Bereich agentischer KI, der Ausbau interdisziplinärer Forschungszentren sowie eine stärkere Verzahnung von Grundlagenforschung und industrieller Anwendung. Gleichzeitig sollten Universitäten ihre Ausbildungsangebote im Bereich Künstlicher Intelligenz und autonomer Systeme erweitern, um dem wachsenden Bedarf an hochqualifizierten Fachkräften gerecht zu werden.

Darüber hinaus besitzt Agentic AI eine erhebliche Bedeutung für die technologische Souveränität Europas. Angesichts der starken Investitionen internationaler Technologiekonzerne ist es entscheidend, dass Europa eigene Kompetenzen in der Entwicklung, Bewertung und Anwendung agentischer Systeme aufbaut. Eine starke Forschungslandschaft, offene Innovationsökosysteme und enge Kooperationen zwischen Wissenschaft, Wirtschaft und öffentlichem Sektor sind zentrale Voraussetzungen, um die technologische Entwicklung aktiv mitzugestalten und gleichzeitig gesellschaftliche Werte wie Transparenz, Sicherheit und Verantwortlichkeit zu gewährleisten.

Langfristig stellt Agentic AI damit nicht nur ein technologisches Innovationsfeld dar, sondern ein strategisches Zukunftsthema für Wirtschaft, Wissenschaft und öffentliche Institutionen.

März 2026