Agentische KI: große Potenziale, viele Risiken und eine Chance für Europa

Mit KI-Agenten erreicht die Entwicklung intelligenter Technologien eine neue Stufe: Agentische KI löst eigenständig spezifische Aufgaben. Hierfür interagiert sie mit Menschen, weiteren KI-Agenten oder -Tools, und erstellt Pläne, zieht Schlussfolgerungen und greift auf externe Werkzeuge wie Datenbanken oder Applikationen zurück. In Multi-Agenten-Systemen arbeiten verschiedene Agenten zusammen und kontrollieren sich sogar gegenseitig, etwa indem sie unterschiedliche Rollen einnehmen. Es ist der Schritt vom reaktiven Werkzeug zum proaktiven Akteur. Wie sich diese neue Entwicklungsstufe einordnen lässt und welche Potenziale, aber auch Risiken sich daraus ergeben, ordnen Expertinnen und Experten der Plattform Lernende Systeme (PLS) auf der Themenseite „Agentische KI“ ein.

Agentische KI-Systeme sind darauf ausgelegt, handlungsfähig zu sein. Mit wachsender Autonomie wächst jedoch auch die Angriffsfläche. Neben bekannten Herausforderungen wie Desinformation, verzerrten Ausgaben und Datenlecks kann ein kompromittierter Agent in komplexen digitalen Umgebungen, wie in Finanzsystemen, kritischer Infrastruktur oder Messaging-Anwendungen, nicht nur Informationen manipulieren, sondern auch aktiv eingreifen. Dadurch entstehen neue Sicherheitsrisiken. Gleichzeitig haben agentische KI-Systeme das Potenzial, digitale Prozesse zu automatisieren, Wissensarbeit zu unterstützen und neue Formen der Zusammenarbeit zwischen Menschen und KI-Systemen zu ermöglichen.

Gigantische Chancen und echte Herausforderungen

„Wir stehen an einem Wendepunkt: KI-Systeme sprechen nicht mehr nur, sie handeln. Wenn Sie sagen: ,Finde meine Hotelrechnung und reiche sie ein‘, erledigt ein Agent das eigenständig, Schritt für Schritt, egal, wie die Hotelrechnung gestaltet ist. Allen Newell und Herbert A. Simon träumten 1959 davon. 2026 ist dieser Traum Realität. Aber ein Agent, der Ihren Posteingang aufräumt, kann dabei auch alle E-Mails der letzten fünf Jahre unwiderruflich löschen. Dies birgt gigantische Chancen und echte Herausforderungen“, so Kristian Kersting, Professor für Künstliche Intelligenz und Maschinelles Lernen an der TU Darmstadt und Mitglied der Plattform Lernende Systeme.

Vor diesem Hintergrund stellen sich zentrale Fragen: Welche Bereiche eignen sich für den Einsatz agentischer KI? Welche technologischen Ansätze gibt es und wo ist Forschung und Entwicklung nötig, um sie weiterzuentwickeln? Wie lassen sich die damit verbundenen Herausforderungen in den Bereichen Sicherheit, Governance und Regulierung bewältigen? Wie verändern sich Arbeitsprozesse? Und wie kann Europa technologisch souverän bleiben? Hierzu beleuchten die Expertinnen und Experten der Plattform Lernende Systeme die Potenziale, Risiken und Handlungsoptionen.

Europas Souveränität sicherstellen

„Agentic AI besitzt eine erhebliche Bedeutung für die technologische Souveränität Europas. Angesichts der starken Investitionen internationaler Technologiekonzerne ist es entscheidend, dass Europa eigene Kompetenzen in der Entwicklung, Bewertung und Anwendung agentischer Systeme aufbaut“, erklärt Volker Tresp, Professor für maschinelles Lernen an der Ludwig-Maximilians-Universität München und Mitglied der Plattform Lernende Systeme. „Eine starke Forschungslandschaft, offene Innovationsökosysteme und enge Kooperationen zwischen Wissenschaft, Wirtschaft und öffentlichem Sektor sind zentrale Voraussetzungen, um die technologische Entwicklung aktiv mitzugestalten und gleichzeitig gesellschaftliche Werte wie Transparenz, Sicherheit und Verantwortlichkeit zu gewährleisten.“

Alle Standpunkte zum Thema „Agentische KI“ sind auf der Themenseite abrufbar. Textinhalte können unter Nennung der Quelle (Plattform Lernende Systeme) für die redaktionelle Berichterstattung genutzt werden.