Manche Fähigkeiten bleiben auch weiterhin dem Menschen vorbehalten. Dazu gehören situationsbedingtes Handeln und Kreativität. Tritt etwas nicht Einkalkuliertes ein, passen sich Menschen oft sehr schnell an, denken um und bewältigen die Situation anders als ursprünglich geplant. Maschinen stoßen hier an ihre Grenzen – auch weil ihnen Erfahrungswissen fehlt. Kreativität wiederum ist etwas, das KI nachahmen, jedoch nicht eigenständig entwickeln kann.

Kurz: KI wird den Menschen zunehmend unterstützen, aber nicht ersetzen. Ähnlich, wie bei der Einführung anderer neuer Technologien – sei es die Dampfmaschine oder das Internet.

Ist mein Job in Gefahr? Der Job Futuromat des Instituts für Arbeitsmarkt und Berufsforschung (IAB) weiß mehr.

• Ein intelligentes Roboterwerkzeug kann via Kamera bereits heute Arbeitsschritte und Bewegungen von Beschäftigten erfassen, um diese bestmöglich zu unterstützen. Dabei muss aber ausgeschlossen sein, dass der Arbeitgeber diese Daten für eine ungerechtfertigte Leistungskontrolle nutzt.
• Für viele KI-Anwendungen ist es notwendig, dass mehrere Unternehmen ihre Daten miteinander teilen. Eine intelligente Reise-App zur Routenplanung verknüpft zum Beispiel die Informationen von diversen Verkehrsbetrieben und Carsharing-Anbietern. Dabei müssen die Eigentums- und Nutzungsrechte an den Daten unbedingt gewahrt bleiben.

Alle digitalen Technologien beruhen auf Daten, die vor Missbrauch zu schützen sind. Bei KI kommt eine weitere Bedrohung hinzu: KI-Systeme lernen selbstständig aus neuen Daten dazu. Die Ergebnisse sind für die Programmierenden kaum nachvollziehbar, der Schutz des Lernprozesses ist deshalb besonders schwierig. Verschaffen sich Hacker Zugriff zu einem KI-System und verfälschen die Daten, kann dies dazu führen, dass die KI im Einsatz Fehlentscheidungen oder falsche Vorhersagen trifft.

Verbessern lässt sich die Datensicherheit bei KI-Systemen, indem persönliche Daten pseudonymisiert oder anonymisiert werden. Auch neue Lernverfahren, die mit wenigen Trainingsdaten auskommen, erhöhen den Schutz.

KI-Systeme können nicht nur Ziel, sondern auch Werkzeug gegen Cyberangriffe sein. So kommen KI-Verfahren bereits in vielen IT-Sicherheitslösungen zum Einsatz und erhöhen die Sicherheit von Computern. Andererseits ermöglicht KI aber auch neue und effektivere Angriffsmöglichkeiten für Cyberkriminelle.

Gleichzeitig brauchen Kinder einen bewussten und sicheren Umgang mit KI. Sie müssen lernen, dass KI zwar hilfreiche Antworten geben kann, aber auch Fehler macht oder falsche Informationen erzeugen kann. Wichtig sind deshalb ein guter Schutz persönlicher Daten, kindgerechte Angebote und die Fähigkeit, KI-Ergebnisse kritisch zu hinterfragen. Eltern, Schulen und andere Bildungseinrichtungen spielen dabei eine wichtige Rolle: Sie können Kinder begleiten und ihnen helfen, KI selbstständig, sicher und verantwortungsvoll zu nutzen.

Weiterführend: Welche spezifischen Herausforderungen es gibt, wenn Kinder mit KI interagieren, erklärt das Interview mit Klaus Heine, Professor für Recht und Ökonomie an der Erasmus School of Law in Rotterdam: „Die Suchtgefahr ist ungleich größer als bei Erwachsenen.“

Wie Kinder und Jugendliche in digitalen Welten wirksam geschützt werden können, ohne den Datenschutz und ihre informationelle Selbstbestimmung einzuschränken, diskutieren Olaf Köller, geschäftsführender Wissenschaftlicher Direktor des Leibniz-Instituts für die Pädagogik der Naturwissenschaften und Mathematik, Peter Rost, Director Business Development bei der secunet Security Networks AG, und Judith Simon, Professorin für Ethik der Informationstechnologien an der Universität Hamburg, in der Podcast-Folge „Altersverifizierung – oder dürfen Kinder alles sehen?“

Mit dem AI Act hat die Europäische Union erstmals ein umfassendes Regelwerk für Künstliche Intelligenz geschaffen. Es verfolgt einen risikobasierten Ansatz: Je größer die möglichen Auswirkungen eines KI-Systems auf Menschen und Gesellschaft sind, desto strengere Anforderungen gelten für seine Entwicklung und seinen Einsatz. Besonders sensible Anwendungen – etwa in der Medizin oder im Verkehr – müssen deshalb hohe Anforderungen an Sicherheit, Transparenz und menschliche Aufsicht erfüllen. Für generative KI gelten zusätzlich Transparenzpflichten, beispielsweise wenn KI-generierte Inhalte für Nutzerinnen und Nutzer kenntlich gemacht werden müssen.

Kommt es dennoch zu einem Schaden, bleibt die Verantwortung grundsätzlich bei den beteiligten Menschen oder Organisationen – etwa bei Herstellern, Anbietern oder Nutzenden. Wer im Einzelfall haftet, richtet sich nach den jeweils geltenden Gesetzen und den Umständen des konkreten Falls.

Weiterführende Informationen zum AI Act

Expertenstimmen zur Kennzeichnungspflicht des AI Acts

Seit 2. August 2026 müssen Anbieter von KI-Systemen, die synthetische Inhalte erzeugen, deren Ausgaben maschinenlesbar kennzeichnen. Bei Deepfakes muss zudem offengelegt werden, dass die Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. So können technische Systeme die Markierung auslesen und Menschen den Ursprung eines Inhalts erkennen.

Wie diese Kennzeichnung technisch umsetzbar ist, was solche Hinweise gesellschaftlich leisten können und wo ihre Aussagekraft endet, diskutieren Armin Grunwald, Leiter des Instituts für Technikfolgenabschätzung und Systemanalyse am Karlsruher Institut für Technologie (KIT) sowie des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB), und Ahmad-Reza Sadeghi, Leiter des System Security Lab an der TU Darmstadt, in der Podcast-Folge „Kennzeichnungspflicht von KI – verhindern wir so den ‚Tod‘ des Internets?“.

KI-Systeme sind von sich aus nicht in der Lage, moralische Entscheidungen zu treffen. Grundlage für ihre Empfehlungen sind Algorithmen und Daten, mit denen sie trainiert wurden. Letztere stammen aus der Vergangenheit und werden genutzt, um Prognosen für die Zukunft zu treffen. Diskriminierung kann dabei unter anderem wie folgt entstehen:

• Entwicklung der KI: Wählen die Programmierenden – bewusst oder unbewusst – unvollständige, verzerrte oder vorurteilsbehaftete Trainingsdaten aus, übertragen sie die in der Gesellschaft etablierten Vorurteile in die Software.
  Zum Beispiel: Ein KI-System wird zum Vorsortieren von Jobbewerbungen mit den Daten der in der Vergangenheit erfolgreich eingestellten Beschäftigten trainiert. Waren diese überwiegend männlich, lernt der Algorithmus, Bewerbungen von Männern besser zu bewerten als diejenigen von Frauen. Auf technischem Wege greift das KI-System bestehende Diskriminierungen auf und verschärft diese gegebenenfalls noch.
• Anwendung der KI: Dies ist der Fall, wenn die Daten, aus denen das System laufend dazu lernt, systematisch manipuliert wurden oder unbeabsichtigt verzerrt sind.
  Zum Beispiel: Ein Chatbot wurde während seines Einsatzes mit fremdenfeindlichen und frauenverachtenden Konversationen gefüttert. So lange, bis er schließlich selbst diskriminierende Antworten gab.

Damit eine KI faire Ergebnisse liefert, müssen für die Programmierung der Systeme die richtigen Daten ausgewählt werden. Dazu müssen sich KI-Entwicklerinnen und -Entwickler über bestehende Diskriminierungen in unserer Gesellschaft bewusstwerden, die in Daten abgebildet sind.

Weitere Beispiele für diskriminierende KI-Systeme:

• Werbung auf Online-Suchmaschinen
• Preis- und Suchdiskriminierung im Internet
• Planung von Polizeieinsätzen / Predictive Policing
• Profiling

Transparenz ist aber wichtig, damit wir den KI-Systemen vertrauen können. Dies gilt umso mehr, je schwerer die Folgen im Falle einer falschen Entscheidung wären – etwa bei einem Unfall eines selbstfahrenden Autos oder der Fehldiagnose eines medizinischen Assistenzsystems. Um Licht in die so genannten Blackbox-Systeme im Inneren einer KI zu bringen, wird an Methoden der erklärbaren KI (engl. Explainable AI, kurz XAI) gearbeitet. Sie sucht nach Möglichkeiten, die versteckte Logik oder einzelne Entscheidungen und Empfehlungen der KI für den Menschen besser nachvollziehbar oder erklärbar zu machen. Vollständige Transparenz maschineller Entscheidungen ist aber kaum möglich.

Weiterführend: Warum erklärbare KI für den sicheren und verantwortungsvollen Einsatz von KI-Systemen eine wichtige Rolle spielt, erklärt das Interview „Erklärbare KI – Gamechanger für den sicheren und verantwortungsvollen Einsatz moderner KI-Systeme“ mit Wojciech Samek, Professor für maschinelles Lernen und Kommunikation an der TU Berlin und Leiter der Abteilung für Künstliche Intelligenz und der Explainable AI Group am Fraunhofer Heinrich-Hertz-Institut (HHI) Berlin.