Neue Folge „Einstiegsdebatten“: Autonome Entscheider? Wenn KI-Agenten handeln und wir Verantwortung neu denken müssen

Wie treffen Agenten auf Basis von Künstlicher Intelligenz Entscheidungen? Und wie gehen wir damit in verschiedenen Lebensbereichen um? – In der dritten Folge des acatech Podcasts „Einstiegsdebatten“ geht es um agentische KI, menschliches Urteilsvermögen und darum, wie Europa bei KI unabhängiger werden kann.

KI-Agenten können digitale Werkzeuge nutzen und ihr Vorgehen an Zwischenergebnisse anpassen. Bei klar umrissenen Aufgaben funktioniert dies bereits erstaunlich gut. Schwieriger wird es, wenn ihnen Kontext fehlt oder vermeintlich kleine Fehler weitreichende Folgen haben. In der Konsequenz geht es nicht nur darum, welche Leistungspotenziale in KI-Agenten liegen, sondern ganz konkret darum, was wir ihnen überlassen möchten.

In der dritten Folge der Pilotstaffel sprechen wir mit acatech Mitglied Prof. Dr. Ute Schmid und Dr. Johannes Hoffart von SAP. Ute Schmid hat an der Otto-Friedrich-Universität Bamberg den Lehrstuhl für Kognitive Systeme inne. Sie ist zudem Geschäftsführende Direktorin des Bamberger Zentrums für Künstliche Intelligenz. In der bei acatech angesiedelten Plattform Lernende Systeme (PLS) leitet sie die Arbeitsgruppe „Technologische Wegbereiter und Data Science“ und erhielt 2026 für ihre herausragenden Arbeiten zum Thema KI den Communicator Preis der Deutschen Forschungsgemeinschaft (DFG). In der Podcast-Folge erläutert sie, wie Menschen und KI unterschiedlich schlussfolgern und wie sich das im Umgang mit Kontext und Fehlern zeigt. Darüber hinaus geht sie auf ihre Schwerpunkte ein: Agentische KI in der schulischen Bildung, bei der Anwendung bildgebender Verfahren in der Medizin sowie in der industriellen Praxis.

Johannes Hoffart leitet als Chief Technology Officer (CTO) die AI Unit beim Softwarekonzern SAP. Er ist ebenfalls Mitglied in der PLS-Arbeitsgruppe „Technologische Wegbereiter und Data Science“. In der Podcast-Folge macht er deutlich, bei welchen Aufgaben agentische Systeme Unternehmen bereits unterstützen könnten und weshalb sie dafür verlässliche Unternehmensdaten benötigten. Im Fokus stehe dabei, ob im jeweiligen Einsatzgebiet eher dialogfähige Generalisten, prädiktive Spezialisten oder Wissensgraphen benötigt werden. Ausgehend davon erhielten Agenten den Zugang zu entsprechenden Daten, Werkzeugen und internem Unternehmenswissen. Zentrale Frage sei stets, in welchen Fällen ein KI-Agentensystem selbstständig handeln darf und wann ein Mensch übernehmen muss.

Veröffentlicht am 15. Oktober 2026
Dauer: 41 Minuten

Der acatech Podcast „Einstiegsdebatten“ ist hier und auf den gängigen Podcast-Plattformen zu finden.

Weitere Informationen:

Petra Brücklmeier
Presse- und Öffentlichkeitsarbeit
Lernende Systeme – Die Plattform für Künstliche Intelligenz
M.: +49 151/62757960
presse@plattform-lernende-systeme.de