Herr Heine, welche spezifischen Herausforderungen gibt es, wenn Kinder mit KI interagieren?
Klaus Heine: Lassen Sie mich diese allgemeine – aber sehr wichtige - Frage abstrakt beantworten. Im Gegensatz zu Erwachsenen, sind die Präferenzen und Gewohnheiten von Kindern noch nicht fest geprägt. Kinder befinden sich in einer Phase der kognitiven, emotionalen und sozialen Formung. Genau darin liegt ihre besondere Vulnerabilität im Umgang mit KI-Systemen. Die Sucht- und Abhängigkeitsgefahr, die durch KI-gestützte Plattformen entstehen kann, ist deshalb für Kinder ungleich größer als für Erwachsene. Digitale Systeme reagieren in Echtzeit auf Verhalten, Emotionen und Aufmerksamkeit. Dadurch werden nicht nur bestehende Bedürfnisse angesprochen, sondern mitunter erst neue Verhaltensmuster erzeugt und anschließend verstärkt. Die sogenannte Vulnerabilität von Kindern liegt somit einerseits in der sich entwickelnden Persönlichkeit und andererseits in der Architektur von KI-gestützten digitalen Plattformen.
Die Herausforderungen ergeben sich somit aus dem Zusammentreffen von menschlicher Persönlichkeitsentwicklung und digitaler Architektur. Deshalb reicht es nicht aus, allein auf individuelle Medienkompetenz zu setzen. Auch die technische Gestaltung der Systeme selbst muss in den Blick genommen werden. Das kommt in den jüngsten Gerichtsurteilen zu KI und Plattformen in den Vereinigten Staaten und den regulatorischen Eingriffen in der Europäischen Union deutlich zum Ausdruck.
Welche Chancen bietet KI für Kinder und Jugendliche? Und wie können diese genutzt werden?
Klaus Heine: Die Meinungen hierzu gehen weit auseinander. Das Spektrum reicht von Forderungen nach weitgehender Abstinenz gegenüber KI-Technologien bis zum Abschluss der Schul- oder Studienzeit bis hin zu Ansätzen, die eine möglichst frühe und umfassende Integration neuer Technologien in den Alltag von Kindern befürworten. Wichtig ist hier: Die Frage nach Chancen und Risiken ist keine ideologische, sondern vor allem eine empirische Frage. Ihre Beantwortung erfordert differenzierte, langfristige und mitunter sehr kleinteilige Forschung.
Gleichzeitig gibt es eine Vielzahl individueller Meinungen. Vor vorschnellen Schlüssen sollte man sich deshalb hüten. Weder Euphorie noch pauschale Ablehnung helfen dabei, tragfähige Lösungen zu entwickeln. Vielmehr wird die sinnvolle Nutzung von KI ein inkrementaler Prozess der Erkenntnisgewinnung sein. Gesellschaft, Wissenschaft, Bildungseinrichtungen und Familien müssen schrittweise lernen, unter welchen Bedingungen KI tatsächlich positive Effekte entfalten kann. Dabei sollte der Blick nicht zu eng auf Kinder in ökonomisch entwickelnden Ländern gerichtet sein. Denn zweifellos bietet Digitalisierung und der Einsatz von KI ein enormes Potenzial für Teilhabe an Bildung und ausgewogener politischer Meinungen in Gebieten der Welt, die aus ökonomischen oder politischen Gründen den Zugang zu Bildung nicht ermöglichen.
Wie funktioniert eine kindgerechte Gestaltung von KI?
Klaus Heine: Auch dies ist eine sehr wichtige, aber letztlich schwer eindeutig zu beantwortende Frage. Ich glaube, dass sinnvolle Antworten am ehesten aus dem Bereich der Kommunikationstheorie kommen. Erst in Verbindung mit psychologischen Erkenntnissen und rechtlichen Steuerungsinstrumenten lassen sich Konzepte entwickeln, die den gegenwärtigen digitalen Bedingungen gerecht werden. Ich denke hier an alte Arbeiten von Neil Postman („Wir amüsieren uns zu Tode“), der bereits in den 1980er Jahren warnte, dass die Unterhaltungsindustrie in der täglichen Aufmerksamkeit so stark werden könne, dass der innere Kompass für moralisches Handeln und die Einschätzung für Politik verloren geht bzw. das eigene Verhalten immer stärkerer Manipulation ausgesetzt ist. Für Kinder, die erst ihren Platz in der Gesellschaft finden müssen, und für KI getriebene Social Media, die immer verfügbar sind, gilt das umso mehr.
Aber auch, wenn man diesem eher dystopischen Szenario nicht folgen mag, ist die mediale Vernetzung eine Herausforderung. Das ist bereits prägnant von Marshall McLuhan („The global village“) in den 1970er Jahren herausgearbeitet worden. Um im Bild zu bleiben: Für Kinder ist es nicht ratsam, zu allen Häusern des globalen Dorfes Zugang zu bekommen. Hänsel und Gretel hätten besser nicht das verlockende Hexenhaus betreten, wo sie Bedrohung und Ausbeutung erfahren sollten. Und ähnlich wie im Märchen kommt auch in der digitalen Welt den Eltern eine besondere Verantwortung zu, die nicht auf andere Institutionen delegiert werden kann. Ansonsten gilt, was bereits in der ersten Frage anklang: Die Schaffung von Suchtpotenzialen in der Prägungsphase von Kindern sollte konsequent vermieden werden. Der Anknüpfungspunkt hierfür ist die Architektur von Plattformen, zumal sich die Anbieter von Inhalten aus den verschiedensten Gründen nicht gut verfolgen lassen. Denken Sie nur an das Recht auf Meinungsfreiheit, die Fähigkeit überhaupt einen Schaden materiell kompensieren zu können oder die Rechtsdurchsetzung im nicht-europäischen Ausland. Der zunehmende Fokus auf die digitale Architektur von KI-Plattformen lässt umgekehrt den Schluss zu, dass es in gewissem Sinne leichter wird, eine kindgerechte Gestaltung von KI durchzusetzen.
Das Whitepaper „KI und Kinder. Ein Überblick zur Einordnung“ steht hier zum Download zur Verfügung.
Das Interview ist für eine redaktionelle Verwendung freigegeben (bei Nennung der Quelle © Plattform Lernende Systeme).