Interview

Kai Purnhagen:

Politisches Handeln

mit KI-gestütztem

Nudging

Zur Person

Kai Purnhagen hält an der Universität Bayreuth eine Professur für Lebensmittelrecht, die mit der Tätigkeit als Co- Direktor der Forschungsstelle für Deutsches und Europäisches Lebensmittelrecht verbunden ist. Er arbeitet im Europarecht, Internationalen Handelsrecht, Privatrecht sowie zur Interdisziplinären Analyse des Rechts und in der Rechtsvergleichung. Purnhagen hat ausgewiesene Expertise bei der Beratung diverser Institutionen wie dem Europäischen Parlament, nationalen Regierungen in Europa und in Asien und Amerika. Insbesondere hat er verschiedene Projekte zum „wirksamen Regieren“, zur verhaltensgesteuerten Regulierung und zum nachhaltigen Wirtschaften betreut.

Essential

Der Jurist und Rechtswissenschaftler Kai Purnhagen befasst sich in Forschungsprojekten mit interdisziplinären Teams mit der Frage, ob und inwieweit verhaltensbasierte Regulierungen für Zwecke der Nachhaltigkeit und des Gemeinwohls rechtlich möglich sind. Er macht darauf aufmerksam, dass rechtswirksame Handlungen auch durch Verhaltensroutinen ausgelöst werden können. Diese Routinen wie etwa das Wegklicken von Pop-ups können beispielsweise auf dem Bedürfnis beruhen, etwas als unangenehm Empfundenes nicht wahrnehmen oder vermeiden zu wollen.

Kai Purnhagen hält voreingestellte Verhaltensoptionen in Richtung mehr Nachhaltigkeit für rechtlich unbedenklich, wenn die Verbraucher keine eindeutige Präferenz für die nachhaltigere sowie für die weniger nachhaltige Option zeigen. Zielkonflikte zur Nachhaltigkeit entstünden regelmäßig in der Praxis dann, wenn eine Entscheidung für ein nachhaltigeres Produkt mit höheren Kosten verbunden wäre. Purnhagen sieht gleichwohl eine sozialökologisch motivierte verhaltensbasierte Regulierung durch das Grundgesetz legitimiert. In der juristischen Abwägung könnten Nachhaltigkeitszwecke vor der individuellen Entscheidungsfreiheit vorrangig behandelt werden. Letztlich müsse dies aber politisch gewollt und legitimiert werden. Eine informierte Debatte, wie sie etwa zur Organspende stattfand, sei aber essenziell notwendig.

An Beispielen aus dem Lebensmittelrecht und der Gentechnik erläutert Purnhagen, welche Rolle Anwendungen der Künstlichen Intelligenz im Bereich von Zulassungsverfahren spielen können. So können intelligente Dokumentenanalysen Zulassungsbehörden dabei unterstützen, wissenschaftliche Studien für Risikoanalysen und -prognosen auszuwerten, um eine wissenschaftlich fundierte Entscheidungsgrundlage für das Zulassungsverfahren herzustellen. Purnhagen sieht KI-Anwendungen als Werkzeug für informationsbasierte Entscheidungen, nicht aber als Akteur im Rahmen ethischer Abwägungsprozesse. Zielwerte etwa für Zulassungsverfahren müssten im politischen Raum ausgehandelt und festgelegt werden. Zu den drei größten Herausforderungen zählt Purnhagen das interdisziplinäre Arbeiten, die Auflösung von Zielkonflikten sowie den Umgang mit Datenlücken.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Interview

Politisches Handeln mit KI-gestütztem Nudging

Wie können Sie als Jurist jemanden, der gerne Fleisch isst, dazu bringen, weniger Fleisch zu essen?
Kai Purnhagen: Nun, ich selbst erst einmal nicht. Ich habe ja selbst genug mit mir zu tun. Ich esse nämlich selbst gern Fleisch und versuche vor mir selbst ungesunde Verhaltensweisen zu identifizieren und zu korrigieren. Mit mäßigem Erfolg leider. Ich bin also selbst das beste Beispiel, dass ich da ein bisschen Hilfe benötige. Allein schaffe ich das nicht, schon gar nicht mit meinem Training als Jurist. Wir glauben ja immer, dass wir mit Gesetzen und deren Auslegung Einfluss auf Verhalten haben. Leider ist dies meist jedoch gar nicht belegt, sondern vielfach auf bloßen Annahmen begründet. Wir brauchen daher ein Team aus vielen Forscher aus unterschiedlichen Richtungen, um solcherlei Einflüsse auf das Verhalten und Verhaltensänderungen wirksam zu erforschen.

Wie müsste denn ein solches Team aussehen?
Kai Purnhagen: Aus den Sozial- oder Naturwissenschaften müsste jemand das gesellschaftliche Problem beschreiben. Zum Beispiel: Menschen essen zu viel Fleisch. Das müsste mit Daten untermauert werden. Die Art der Daten hängt von der wissenschaftlichen Disziplin ab. Im konkreten Fall könnte man beispielsweise einen Biologen heranziehen, der die Auswirkungen auf die menschliche Gesundheit aufzeigt, und einen Agrarökonomen, der die Flächennutzung durch zu viel Fleischproduktion berechnet. Der Nächste würde eine verhaltensökonomische Intervention generieren, mit der das Verhalten verändert werden könnte. Das wäre ein Psychologe oder ein Verhaltensökonom, also jemand, der diese Methoden anwenden kann. Der Dritte im Team untersucht dann die Auswirkungen einer solchen Intervention auf Gesellschaft und Wirtschaft. Hier bräuchte man einen Ökonomen, Soziologen und vielleicht wieder einen Psychologen, der eine solche Erhebung durchführen könnte. Am Ende müsste ein Jurist die rechtlichen Voraussetzungen festzurren. Dann hätte man eine Intervention samt schöner Kosten-Nutzen- Analyse und Akzeptanzanalyse. Dies alles beschreibt eine gute Datenlage, die als Grundlage der Ermittlung dienen kann, ob mit der Intervention auch das Ziel erreicht werden kann. Und man hätte die juristische Absicherung, dass die Intervention auch legal ist. Wenn es jemanden gibt, der der Meinung ist, dass ein solches Team erweitert werden sollte: Wir nehmen gerne Anregungen entgegen.

Haben Sie bereits in einem solchen Team gearbeitet und wie war das?
Kai Purnhagen: In einem Team für eine Studie für das Umweltbundesamt haben wir verschiedene Interventionen zum Energieverbrauch untersucht. Das war eine wunderschöne Zusammenarbeit – abgesehen davon, dass der Jurist dann am Ende zu dem Schluss kam: So geht das nicht – und das bei der Intervention, die am besten funktionierte. Konkret ging es dabei um die gesetzlich vorgeschriebene Voreinstellung von grünem Strom bei Suchmaschinen. Diese Situation sorgt im Team nicht unbedingt für Freude. Aber so ist das dann eben. Aber diese Art der Zusammenarbeit – da könnte man sich mehr wünschen.

Gibt es Nebeneffekte oder Wechselwirkungen, die man bei der Orientierung an bestimmten Zielwerten im Blick haben müsste?
Kai Purnhagen: Wechselwirkungen und Nebeneffekte gibt es immer und überall. In dem Moment, in dem wir dazu übergehen, Menschen zu weniger Fleischkonsum zu bewegen, kann sich dies darauf auswirken, dass seltene fleischtragende Tiere weniger geschützt werden. Daher ist es wichtig, sich der Frage nach den Wechselwirkungen zu stellen und sich Kompensationsmechanismen zu überlegen. Wenn man weiß, dass ein sinkender Fleischkonsum sich auf bestimmte Züchtungen auswirken wird, weil deren Fleisch dann weniger nachgefragt wird, könnte man über Subventionen und Steuerbefreiungen nachdenken oder besondere Zuchtprogramme und Absatzmärkte definieren. Oder man entscheidet, dass man bestimmte Tierarten nicht mehr haben möchte. Dann ist das auch eine politische Entscheidung, die kommuniziert werden muss – mit allen Konsequenzen.

Wegklicken als Verhaltensroutine

Wie können Verhaltensroutinen verändert werden, wie funktioniert das?
Kai Purnhagen: Es gibt verschiedene Möglichkeiten der Intervention. Zunächst muss man sich darüber bewusst werden, dass wir Verhaltensroutinen haben. Wir haben selten ausreichend Informationen über unsere Entscheidungen. Je komplexer die Sachverhalte sind, zu denen wir Entscheidungen treffen müssen, desto eher halten wir uns an Routinen – also an das, was wir immer so machen oder andere so machen. Wir evaluieren nicht wirklich die Vorteile und Nachteile der meisten Handlungen, sondern wir bedienen uns an Routinen.

Wann muss man Routinen infrage stellen, wenn mit ihnen doch eigentlich ganz gute Ergebnisse erzielt werden können?
Kai Purnhagen: Das wäre bei sogenannten Hot-State-Phänomenen der Fall, in denen man unter Stress ist oder in denen andere Präferenzen in den Vordergrund rücken. Ein typisches Beispiel aus meiner Forschung ist, dass man nicht hungrig einkaufen gehen sollte.¹ Wenn man hungrig einkaufen geht, kauft man nicht unbedingt gesunde Lebensmittel, weil man sich dann zu schnell entscheidet und zu Routinen greift. Ein typisches Beispiel aus dem Recht ist die Haustürwiderruf- Situation: Man möchte rasch den Zeitschriftenabo-Vertreter vor der Haustür loswerden und schließt dann schnell das Abo ab. Hinterher fragt man sich: Was habe ich denn eigentlich getan?

Wenn es um komplexe technische Fragestellungen geht, neigen wir dazu sagen: Das kenne ich nicht, das ist neu, das ist gefährlich – deswegen lassen wir es lieber. Das ist eine Routine, und eine Abwägung von Vor- und Nachteilen findet nicht statt. Das ist menschlich, dafür braucht man sich nicht zu schämen.

Die Frage ist nun, wie man das ändern kann. Die erste Frage wäre: Muss die Routine geändert werden? Die zweite Frage wäre: Kann man das Entscheidungsumfeld oder interne Kompetenzen ändern? Beide Male würde man die Einflüsse ändern, welche die Routine bestimmen. Wenn man zwischen verschiedenen Routinen wählen kann, könnte man das Umfeld beispielsweise so gestalten, dass man eine Routine wählen kann, die zu einem besseren Ergebnis führen wird. Man könnte aber auch die Entscheidungskompetenzen stärken, indem man den Entscheidern bessere Informationen zur Verfügung stellt, sodass sie tatsächlich eine Abwägung vornehmen kann. Welche dieser Möglichkeiten genutzt werden kann, muss im Einzelfall entschieden werden.

1) Liu, P. J. (2014): Using Behavioral Economics to Design More Effective Food Policies to Address Obesity; Applied Economic Perspectives and Policy (2014): Vol 36, No 3, S. 6 – 24; Purnhagen, K., Van Kleef, E. (2018): Commanding to “Nudge” via the Proportionality Principle? In: Bremmers, H., Purnhagen, K. (Hrsg.): Regulating and Managing Food Safety in the EU [S. 153 – 154]. Berlin: Springer Nature.

1
vorwärts

Verhaltensoptionen ohne eindeutige Präferenzen als Regulierungsfeld

Warum befassen Sie sich als Jurist mit der Frage, wie mit Nudging das Verhalten Einzelner verändert werden kann?
Kai Purnhagen: Ich bin grundsätzlich immer sehr interessiert an neuen Entwicklungen und Dingen, die neue Lösungen zu alten Problemen finden. Im Nudging sah ich eine Idee, die weiterer Forschung bedurfte, um sie für bessere gesellschaftliche Ziele einzusetzen. Mich beschäftigte daher die Frage, ob man Nudging mit vernünftigen Lösungen in das Feld der Politik und des Rechts integrieren kann.

Wie kann eine verhaltenssteuernde Regulierung aussehen?
Kai Purnhagen: Eine verhaltenssteuernde Regulierung benötigt robuste Daten, um das definierte Ziel auch erreichen zu können. Es gibt dann im Wesentlichen zwei Einflussmöglichkeiten: Entweder man stärkt die individuelle Kompetenz des Entscheiders, damit dieser weiß, welche Effekte eine Entscheidung hat. Oder man verändert das Umfeld in einer Art und Weise, dass Anreize in eine Richtung wirken, die die entsprechende Entscheidung beeinflussen. Ein Beispiel: Wenn wir davon ausgehen, dass eine bestimmte Entscheidung Menschen egal ist – was häufiger der Fall ist wie wir glauben –, dann schaut man sich nach bestimmten anderen Merkmalen um. Wenn dem Verbraucher beispielsweise egal ist, welche Art von Süßstoff verarbeitet wird, dann orientiert er sich in der Regel am Preis und wählt das günstigste Produkt, welches nicht unbedingt die beste Qualität hat. Vielen Mitarbeitern eines Unternehmens ist auch egal, ob sie einseitig oder doppelseitig ausdrucken. Damit haben wir automatisch bestimmte Voreinstellungen, die wir einfach akzeptieren. Zum einen wählen wir den günstigen Preis, zum anderen akzeptierten wir die Druckeinstellungen des Computers und machen uns nicht die Mühe, auf doppelseitigen Druck umzustellen – obwohl wir wissen, dass dadurch weniger Papier verbraucht werden würde.

Welche Rolle kann hier Künstliche Intelligenz spielen?
Kai Purnhagen: Durch Künstliche Intelligenz ist es möglich, die mittlerweile durch Bonuskarten und ähnliche Methoden massiv vorhandenen Daten über Kaufverhalten zu ordnen, zu interpretieren und weiterzudenken. So ist es demjenigen, der über diese Daten und die Technik verfügt, ziemlich genau möglich, ein bestimmtes Kaufverhalten vorherzusagen. Dies kann man auch nutzen, um systematische „Fehler“ im Kaufverhalten aufzudecken und gegebenenfalls zu „korrigieren“. Dass dies funktioniert, haben bereits etliche Beispiele gezeigt: Wenn die Standardeinstellung des Druckers beispielsweise doppelseitig wäre, würde sich an den Präferenzen der Mitarbeiter nichts ändern, weil es ihnen ja egal war. Man hätte aber dennoch den Papierverbrauch reduziert und damit etwas für die Umwelt getan. Und wenn es einem Mitarbeiter nicht egal ist, so bleibt es ihm unbenommen, die doppelseitige Voreinstellung wieder herauszunehmen. So könnte beispielsweise eine einfache verhaltenssteuernde Regulierung aussehen. Dazu brauchen wir aber das Ziel, nämlich weniger Papierverbrauch, und wir müssen wissen, dass es den Betroffenen wirklich egal ist. Ansonsten funktioniert das nicht. Dies ist ein einfaches Beispiel, mithilfe von Künstlicher Intelligenz sind deutlich komplexere Sachverhalte darstellbar.

Also legitimiert sich verhaltenssteuernde Regulierung durch Egalsein?
Kai Purnhagen: Egalsein kann zur Legitimation beitragen, weil dadurch ein Eingriff in bestimmte Freiheitsrechte leichter zu rechtfertigen ist. Dieser kann sich aber auch dadurch legitimieren, dass er ein vordefiniertes Ziel tatsächlich unterstützt. Wenn ich beispielsweise wirklich abnehmen und auf Alkohol verzichten möchte, aber gerade in einer Gruppe sitze, es wird für alle leckeres Tiramisu zum Nachtisch bestellt und ich möchte von der Gruppe anerkannt werden, dann gerate ich in einen persönlichen Zielkonflikt. Dann stellt sich mir die Frage, durch welche Präferenzen ich mein Ziel besser verwirklichen kann. Wenn die Gruppe akzeptiert, dass ich auf den Nachtisch verzichte, dann ist die Abstinenz auch einfacher zu verwirklichen. Durch bestimmte regulatorische Maßnahmen, wie beispielsweise mit dem Verbot einer bestimmten Art von Werbung, könnte man darauf hinwirken, dass diese Art der Abstinenz in einer Gruppe besser anerkannt ist. Dann legitimiert sich eine Regulierung dadurch, dass sie die eigenen persönlichen Ziele unterstützt. Wenn sie sich aber gegen meine eigenen Präferenzen wendet und höherrangige Ziele verfolgt – nicht jeder will ja auf Alkohol verzichten oder Abnehmen –, wird sie zu Paternalismus und muss sich erst recht im normalen politischen Prozess legitimieren. Jedes Gesetz ist ja so, dass es in irgendwelche Freiheitsrechte eingreift.

Im Zielkonflikt von Preiskalkulation und Nachhaltigkeit

Inwieweit lassen sich dann Verträge überhaupt auf Nachhaltigkeit optimieren?
Kai Purnhagen: An diesem Thema sind wir dran. Wir haben bewusst das Beispiel der Energieverträge gewählt und uns angesehen, wie man durch bestimmte Voreinstellungen Menschen dazu bringen kann, andere Energieprodukte zu wählen.² Hier gibt es sehr viele Möglichkeiten der Verhaltensökonomik und -psychologie, ein gewünschtes Ergebnis zu erreichen. Man muss sich ansehen, inwieweit diese Verhaltensannahmen und -interventionen mit den normativen Vorgaben des Gesetzes übereinstimmen. Das ist nicht immer so, weshalb man sich genau überlegen muss, wo die gesetzliche Grenze ist. Ein Beispiel: Was gut für Nachhaltigkeit ist – also wenn wir über eine Routineänderung alle zu grüner Energie wechseln –, kann sich schlecht auf unseren Geldbeutel auswirken. Das Gesetz aber schreibt vor, dass bestimmte Voreinstellungen nur dann möglich sind, wenn sich die Preisgestaltung dadurch nicht ändert. Es ist eine politische und damit auch gesellschaftlich gewollte Entscheidung, dass stets bewusst entschieden werden soll, ob eine teurere Alternative gewählt werden soll.

Aber damit schreibt das Gesetz eine Optimierung am Preis vor, was in Konflikt mit einer Optimierung auf Nachhaltigkeit gerät?
Kai Purnhagen: Das Vertragsrecht sieht beispielsweise vor, dass bestimmte Voreinstellungen grundsätzlich verboten sind. Das kommt aus der Zeit, in der man die Voreinstellungen für Flüge verhindern wollte, als man noch automatisch Reiseversicherungen mitabgeschlossen hat, wenn man ein Pop-up weggeklickt hat. Der Gesetzgeber hat dann aus verhaltensökonomischer Perspektive festgestellt: Wenn wir diese Routine haben, dass wir Werbung wegklicken, dann wollen wir nicht, dass diese Routine genutzt werden kann, um andere Verträge abzuschließen. Wenn man nun eine Voreinstellung in einer Suchmaschine hätte, die grüne Produkte anzeigen würde, und man diese aus Routine schnell wegklicken würde, hätte man zwar einen guten Nudge, aber üblicherweise das teurere Produkt. Das wäre aus den oben genannten Gründen politisch nicht wünschenswert.

2) Vgl. dazu weiterführend: Ebeling, F., Lotz, S. (2015): Domestic uptake of green energy promoted by opt-out tariffs, Nature Climate Change, S. 868 – 871.

zurück
2
vorwärts

Welche Lösungsansätze für das Ziel Nachhaltigkeit gibt es dann?
Kai Purnhagen: Die Lösungen gibt es, aber sie sind politischer Art. Das möchten viele nicht so deutlich aussprechen. Um im Beispiel zu bleiben: Wir wissen, dass Voreinstellungen sehr gut funktionieren. Voreinstellungen können uns allerdings nicht sagen, in welche Richtung sich das Verhalten ändern soll. Das ist und bleibt eine politische Entscheidung. Wenn die Politik möchte, dass Verbraucher vor Kostenfallen geschützt werden, kann man die Voreinstellungen entsprechend gestalten. Möchte sie, dass Verbraucher mehr Verträge für grüne Energie abschließen, dann kann sie das auch entsprechend gestalten. Die Verhaltensökonomie kann daran nichts ändern, dass die Lösung darin besteht, dass die Ziele einer Regulierung in einem politischen Prozess bestimmt werden. Verbraucherverträge können demnach also optimiert werden, aber in welche Richtung sie optimiert werden sollen, das muss die Politik entscheiden.

Debatte um die Organspende

Sie befassen sich ja schon seit Jahren mit Nudging in der Politikberatung. Welche Rolle spielt Nudging inzwischen im politischen Prozess?
Kai Purnhagen: Das Thema ist inzwischen in der Politik angekommen. Politiker sind ja auch Menschen und auch da gibt es Heuristiken: Neues ist erst einmal mit Vorsicht zu genießen. Das hat sich etwas geändert, indem aufgrund klassischer verhaltensgesteuerter Einwirkung – nämlich durch bessere Information, genaueres Lesen – auch hier ein Umdenken stattgefunden hat. Man darf nicht vergessen: Politiker wollen wiedergewählt werden und niemand will manipuliert werden. Nudging wurde also erst einmal mit Manipulation gleichgesetzt und die gilt als schlecht. Diese Einstellung kann man als Wissenschaftler nur dadurch verändern, indem man besser informiert. Und es geht natürlich auch nur dadurch, indem das Produkt – nämlich Nudging – besser ist als sein Ruf. Mich haben die Debatte um die Organspende-Lösung im Deutschen Bundestag und die begleitende gesellschaftliche Debatte sehr gefreut. Aus verhaltenswissenschaftlicher Perspektive war das eine sehr informierte und nüchterne Debatte um die Vor- und Nachteile einer solchen Regulierung. Und die Argumente, die genannt wurden, waren überwiegend die relevanten. Dass am Ende die Widerspruchslösung nicht gekommen ist, die ich persönlich bevorzuge, ist deshalb auch in Ordnung. Denn die Entscheidung war informiert, jeder konnte sich ein Bild machen. In diesem Moment dachte ich, dass etwas erreicht wurde, weil anhand der Sache und anhand der Daten argumentiert wurde. Das war für mich eine sehr schöne Erfahrung. Schlechte Erfahrungen gab es nur am Anfang, weil das Thema nicht angefasst wurde, obwohl es großes Potenzial hat.

Grundgesetz legitimiert sozialökologisches Nudging

Wie kann sich Nudging für sozialökologische Zwecke legitimieren?
Kai Purnhagen: Optimierung ist zunächst einmal ein schillernder Begriff. Legitim ist zunächst das, was rechtlich gewünscht und rechtlich abgesichert ist. Wir haben bestimmte Voraussetzungen im Grundgesetz, die uns zum Erhalt der natürlichen Lebensgrundlagen verpflichten. Daraus lässt sich das legitimieren. Es gibt auch Schutzpflichten im Grundgesetz, etwa dass der Staat Schutz für die individuelle Gesundheit gewähren muss. Gleichzeitig ist aber auch im Grundgesetz verankert, dass jeder das Recht hat, zu tun und zu lassen, was er will. Im Einzelfall müssen diese Rechte gegeneinander abgewogen werden, was wiederum in der Politik zu erfolgen hat oder durch die Gerichte, die im Einzelfall eine solche politische Entscheidung überprüfen. Man kann also sozialökologisches Nudging grundgesetzlich legitimieren, aber es ist keine „one size fits all“-Solution.³ Wir können nicht im Sinne einer Ökodiktatur jede nachhaltige Lösung bevorzugen. Aber wir können sehr wohl sagen, dass wir es für wichtig erachten, Nachhaltigkeitszwecke vor der individuellen Entscheidungsfreiheit vorrangig zu behandeln. Das können und sollten wir auch datengestützt tun. Wir wissen, dass bestimmte Verhaltensweisen notwendig sind, um unsere Lebensgrundlagen weiter zu erhalten. Das sollte sich auch in der rechtlichen Abwägung widerspiegeln. Dann müssen wir auch sagen können, dass wir rechtliche Abwägungen an solchen Daten orientieren könnten und sollten.

Wie kann das KI-unterstützt erfolgen?
Kai Purnhagen: Technologien wie die intelligente Dokumentenanalyse erlauben es uns inzwischen, die Fülle an Informationen, die wir früher nur händisch auswerten konnten, in einer gewissen Struktur auszuwerten, die diese Masse an Daten erfordert. Andere Technologien wie die des maschinellen Lernens können uns dabei helfen, die entsprechenden Entscheidungen und Effekte anhand der derzeit verfügbaren Daten wirksam vorauszusehen. Das wiederum kann in den juristischen Abwägungsprozess rückgebunden werden. So kann man beispielsweise mit der intelligenten Dokumentenanalyse wesentlich sorgfältiger bestehende Urteile hinsichtlich einer bestimmten Aussage auswählen. Wichtig ist allerdings, dass bei aller Technologie die Entscheidung am Ende immer noch in der Hand von politisch legitimierten Organen verbleibt. Denn ansonsten haben wir irgendwann keine Demokratie mehr, sondern wir würden nur noch von Daten und KI regiert. Die Informationsbasis dieser Organe kann allerdings durch den Einsatz solcher Technologien verbessert werden. Hier sind wir aber weit hinter unseren Möglichkeiten zurückgeblieben. KI kann immer nur diejenigen Daten auswerten, die sie zur Verfügung hat. Es braucht letzten Endes immer noch einen Menschen, der mit Augenmaß den Einzelfall betrachtet, indem er Informationslücken erkennt und schließt.

Inwiefern bleiben wir unter unseren Möglichkeiten zurück?
Kai Purnhagen: Die Idee, dass man politische Entscheidungen immer mehr auf wissenschaftliche Erkenntnisse stützt, hat man prominent in der Corona-Krise erleben können. Auch die Schattenseiten konnten wir gut sehen, als zum Beispiel Gesichtsmasken zunächst als nicht erwiesen wirksam beurteilt, dann aber doch zum wesentlichen Mittel zur Pandemiebekämpfung erklärt wurden. Natürlich gibt es nicht die Wissenschaft, sondern die Wissenschaft verändert sich mit Erkenntnis. Wissenschaft ist nicht unfehlbar. Wissenschaftliche Erkenntnis ist natürlich auch von allerlei Faktoren abhängig wie Finanzierungsquellen, Karriereorientierung einzelner Wissenschaftler und auch dem schlichten, ach so menschlichen Streben nach Anerkennung. Die Schlussfolgerung, dass man politische Entscheidungen trotzdem nicht auf wissenschaftliche Erkenntnisse stützen sollte, wäre dennoch verkehrt. Dann stellte sich nämlich die Frage nach der Alternative. Welche Entscheidungsgrundlage wäre denn stattdessen eine bessere? Ich sehe keine außer der, die wir mit den wissenschaftlichen Erkenntnissen haben, die dann gegebenenfalls Nachkorrekturen erfordern. Hier muss man sich eingestehen, dass Heuristiken, die sich daraus bilden, immer wieder aufgrund neuer Erkenntnisse verändert werden müssen. Das ist beispielsweise gerade in einer Pandemie der Fall, über die wir am Anfang nicht viel wissen. Wenn wir eine solche Entscheidungsfindung auch in anderen Bereichen wie etwa unserem Ernährungsverhalten, der Nahrungsmittelproduktion, unserem Verhalten im Bankwesen berücksichtigen und Entscheidungen auf wissenschaftliche Erkenntnisse stützen könnten, dann wären wir schon ein großes Stück weiter.

3) Purnhagen, K., Reisch, L. (2016): „Nudging Germany“? Herausforderungen für eine verhaltensbasierte Regulierung in Deutschland. Zeitschrift für Europäisches Privatrecht, 3, S. 629 – 564.

zurück
3
vorwärts

KI für Zulassungsverfahren im Lebensmittelbereich

Wie wäre das zum Beispiel im Lebensmittelbereich?
Kai Purnhagen: Ein Beispiel, mit dem ich mich immer unbeliebt mache, ist die Genom-Editierung. Damit werden vorhandene genetische Informationen in einem Organismus verändert, um beispielsweise einen bestimmten Teil des Gens zu verändern oder funktionsunfähig zu machen. Dabei handelt es sich um eine Technologie, die komplex und schwierig zu verstehen ist. Genau deshalb bilden sich bestimmte Heuristiken aus. Wenn Menschen etwas nicht verstehen, versuchen sie bestimmte Kategorien anzuwenden, die sie bereits kennen: Man vergleicht das Neue mit dem, was man bereits kennt. Damit hat man bereits eine Kategorisierung und eine Bewertung der Technologie vorgenommen. Auf diese Weise wurde die Genom-Editierung in einen Topf geworfen mit der klassischen Transgenetik, bei der genetische Informationen eines Fremdorganismus eingeführt werden. Aber die Risikostruktur ist bei der Genom-Editierung anders. Deswegen wäre es wichtig, sich die vorhandene Datenlage genau anzusehen und zu würdigen. Transgenetik war zu recht mit Vorsicht zu genießen. Aber wir haben inzwischen über 30 Jahre lang Erfahrungen und Daten – vor allem im Ausland – gesammelt und gesehen, dass sich viele hypothetische Befürchtungen nicht bestätigt haben. Bei vielen Zulassungsverfahren gab es keine großen Probleme mit dem Produkt, aber aufgrund des politischen Prozesses ist es nicht auf dem Markt gelandet – was wohl im Wesentlichen an der Verbraucherakzeptanz lag. Negative Erfahrungen gibt es vor allem in der Anwendung, nicht bei der Technik selbst. Wenn etwa eine Pflanze auf den Markt kommt, die nur gegen ein Pflanzenschutzmittel resistent ist, gibt es Probleme, weil dadurch Resistenzen gefördert werden. Das hat aber nichts mit der Technik an sich zu tun. Das ist ähnlich wie mit einem Auto, das man verbieten würde, weil man mit ihm Unfälle bauen kann. Man könnte daher verbieten, Autos in einer Weise zu nutzen, die gefährlich ist, aber man würde nicht das Autobauen selbst untersagen. Dazu müsste man allerdings im Vorfeld wissen, welche Art der Nutzung risikobehaftet ist. Hier kann KI helfen, die Fülle an Datenmengen auszuwerten, um zu einer vernünftigen Entscheidung zu kommen.

Können Sie genauer definieren, mit welcher KI und welchen Daten man bei Zulassungsverfahren im Lebensmittelbereich arbeiten würde?
Kai Purnhagen: Zulassungsprozeduren setzen vor allem auf Risiken und lassen potenzielle Vorteile in der Regel außen vor. Die Fülle an Informationen, die es mittlerweile in Studien gibt, mit denen die möglichen Vor- und Nachteile eines Produkts eingeschätzt werden können, können in ihrer Komplexität nur unter erheblichem Aufwand ausgewertet werden. Die European Food Safety Authority (EFSA) will daher nun Studien mithilfe von Methoden des maschinellen Lernens auswerten und analysieren. Dazu soll in etwa zwei Jahren ein Pilotprojekt starten.⁴ Auf diese Weise kann man wissensbasiert vielerlei Entscheidungen vorbereiten. Wenn das klappt, kann das Modell natürlich auch in anderen Bereichen eingesetzt werden. Immer da, wo es darum geht, wissenschaftsbasierte Informationen in Politik zu überführen, kann maschinelles Lernen aber auch intelligente Dokumentenanalyse dabei helfen, die Fülle an Daten auszuwerten und für politische Entscheidungsträger handhabbar zu machen.

Politische Abwägungsprozesse für Zielwerte

An welchen Zielwerten würden sich diese KI-Entscheidungen orientieren und wie werden sie von wem definiert?
Kai Purnhagen: Die Zielwerte sind beispielsweise für Zulassungsverfahren bereits vorgegeben. Das ist ein großer Vorteil. Bislang geht es vor allem bei Lebensmitteln um die Bewertung von Risiken für die Gesundheit, Umwelt und manchmal auch um Verbraucherinteressen – also gesetzlich vorgegebene Ziele. Ich würde mir wünschen, dass sich die Politik dazu durchringen könnte, vermehrt auch mögliche Vorteile eines Produkts in den Abwägungsprozess mit einfließen zu lassen. Wenn beispielsweise ein Produkt ein gewisses Risiko für die Verletzung von meist eher kurzfristigen Verbraucherinteressen birgt, dafür aber erhebliche Potenziale für den Umweltschutz bietet, dann sollte dies bei einer solchen Abwägung auch berücksichtigt werden können.

KI-gestützte verhaltensbasierte Regulierung

Wenn Sie auch die Vorteile erfassen wollen, könnte es für eine KI das Problem geben, dass eine Entscheidungsvorbereitung mit der damit verbundenen Mehrziel- Erfassung zu komplex wird?
Kai Purnhagen: Das ist korrekt. Ich wäre damit vorsichtig, dem maschinellen Lernen den Abwägungsprozess zu überlassen. Das sollte im politischen Raum bleiben. Hier gibt es zwar Anwendungen bei maschinellem Lernen, die mich aber noch nicht überzeugt haben. Beispielsweise gibt es Programme, die bestimmte ethische Abwägungsprozesse erlernen. Dazu gehört zum Beispiel die Frage, welche Ausweichentscheidung beim automatischen Fahren getroffen werden soll: eine, die ein Kind oder einen Erwachsenen überfährt. Solche ethischen Fragestellungen können von einer KI noch nicht vernünftig gelöst werden. Tröstend ist, dass dies auch durch menschliche Entscheidung nicht endgültig gelöst werden kann. Aber immerhin wäre es eine menschliche Entscheidung, die in der konkreten Situation vielleicht noch eher einen dritten Weg erkennt.

4) European Food Safety Authority (2020): Programming Document 2020 – 2022, S. 29 und 47, https://www.efsa.europa.eu/sites/default/files/corporate_publications/files/amp2022.pdf

zurück
4
vorwärts

Inwieweit würden die Rechte der Betroffenen von dem Verfahren – sei es KI- oder menschgestaltet – beeinträchtigt werden?
Kai Purnhagen: Es ist ja nicht so, dass man heute unbeeinflusst Entscheidungen treffen würde. Man ist beeinflusst durch die eigene Erfahrung, die eigene Geschichte, durch die Gefühle, die man zu dem Zeitpunkt der Entscheidung hat, und durch vieles andere. Die Frage ist doch eher: Welche Beeinflussung wollen wir zulassen? Wenn wir davon ausgehen, dass wir die Gesundheit schützen möchten: Ist das dann die gefühlte Gesundheit unter den derzeitigen Einflüssen des Entscheiders? Oder ist es eine studienbasierte Definition von Gesundheit, die Gesundheitsdeterminanten für bestimmte Körperfunktionen wissenschaftsbasiert definiert? Mir wäre oftmals eine informierte Beeinflussung, die sich auf viele Studien stützt, lieber, als eine, die von der jeweiligen Situation und der Geschichte des Menschen, der gerade zufällig die Entscheidung treffen darf, abhängig ist.

Interdisziplinarität, Zielkonflikte und Datenlücken

Worin sehen Sie heute die größten Herausforderungen?
Kai Purnhagen: Ich sehe drei Herausforderungen: erstens die Interdisziplinarität: Man muss miteinander darüber sprechen, warum bestimmte Dinge verhaltensökonomisch und -wissenschaftlich wünschenswert sind, aber dann doch nicht gehen. Hier müssen interdisziplinäre Brücken geschlagen werden. Nicht dass der eine oder andere sagt: Das ist mein Gebiet, aber was wollen denn die Psychologen hier? Zweitens die Auflösung von Zielkonflikten: Ziele und deren Konflikte müssen zunächst klar benannt und anhand vorhandener Daten evaluiert werden. Dies sollte streng von den Möglichkeiten getrennt werden, die die verhaltenswissenschaftliche Regulierung als Methodenansatz, um dieses Ziel zu erreichen, bietet. Derzeit glaubt man in der Debatte häufig, dass solche Ansätze selbst Zielkonflikte auflösen können, also zum Beispiel dass, wenn man eine solche Methode anwendet, automatisch der Hunger in der Welt reduziert wird. Dass dies allerdings wie bei vielen anderen Interventionen auf Kosten anderer Ziele gehen kann, wird häufig übersehen. Drittens die Datenerhebung und -auswertung: Viele Bereiche sind nicht oder nur unzureichend erforscht oder die hierfür verfügbaren Daten sind nicht valide genug. Hier müssen wir einfach mehr tun, wir brauchen mehr und bessere Forschung auf diesem Gebiet und einen systematischen Austausch der Forschungsergebnisse untereinander. Die Naturwissenschaften sind da schon lange weiter.

zurück
5

Hintergrund

Nachhaltigkeitsroutinen

Entscheidungen und Handlungen im Alltag folgen Gewohnheiten. Wie lassen sich Routinen hin zu gesünderer Ernährung, emissionsfreiem Stromverbrauch verändern? Veränderte Routinen können Mitarbeiter zu mehr Produktivität anregen, Käufer zu gesünderer Nahrung greifen oder Verträge mit nachhaltigeren Produkten abschließen lassen. Menschen filtern in komplexen Umgebungen automatisch viele Umgebungsinformationen aus, weshalb es einen großen Unterschied zwischen tatsächlichen und wahrgenommenen Handlungsmöglichkeiten gibt. Während von Psychologen explizite Ansätze für Verhaltensänderungen wie bestimmte Erziehungsmaßnahmen als bedingt realistisch bewertet werden, gelten implizite Interventionsstrategien, die auf positiven Anreizen beruhen und Verhaltensroutinen berücksichtigen, in speziellen Lebensbereichen als aussichtsreich. Individuelle Entscheidungen werden von den sie umgebenden Strukturen vorgezeichnet, weshalb Menschen in der Regel kaum über sie nachdenken. Gestaltungsräume können nicht nur für mehr Umsatz, sondern auch für mehr Nachhaltigkeit genutzt werden. Insofern hat das „richtige Handeln“ weniger mit Moral zu tun, sondern vielmehr mit Automatismen, mit denen Entscheidungen in gegebenen Strukturen getroffen werden.

Würden beispielsweise nicht Süßigkeiten, sondern Obst und Gemüse vor der Kasse in einem Regal auf Augenhöhe positioniert, würden die Menschen zugreifen und sich damit gesünder ernähren. Gäbe es gut ausgebaute Radwege in einer Stadt, würden Menschen eher mit dem Rad als mit dem Auto zur Arbeit fahren. Formulare und Verträge könnten so einfach und übersichtlich gestaltet werden, dass sie Menschen nicht verwirren. Verbraucherinformationen etwa zu Lebensmitteln oder zum Energieverbrauch von Geräten und Anwendungen könnten einfach und verständlich dargestellt werden. In Computerprogrammen oder auf Webseiten besteht das Nudging in der optischen und funktionalen Gestaltung von Entscheidungswegen, welche etwa die Zustimmung zu einer Datenübertragung beeinflussen können. Mit Voreinstellungen können die Sortierung von Suchergebnissen und die Präsentation von Auswahlmöglichkeiten beeinflusst werden. Eine Produktsuchmaschine etwa könnte unter den ersten Treffern nicht das günstigste, sondern das nachhaltigste Produkt anzeigen.

Sogenannte Nudges sind „Schubser“ in eine bestimmte Richtung, zu einer gewünschten Entscheidung. Der Wirtschaftswissenschaftler Richard Thaler und der Rechtswissenschaftler Cass Sunstein verwendeten den Begriff „Nudge“ erstmals 2008, um eine Methode zu beschreiben, die das Verhalten von Menschen beeinflusst, ohne mit Verboten und Geboten oder ökonomischen Anreizen zu arbeiten. Nudges können demnach als positiv bewertete Verhaltensänderungen anregen. Sie zwingen aber nicht dazu, die eigenen Gewohnheiten zu ändern. Thaler und Sunstein zeigten, dass, wenn die richtige Entscheidung die leichteste ist, die Menschen diese Entscheidung wählen werden. Denn anders, als das Modell des homo oeconomicus postuliert, treffe der Mensch Entscheidungen nicht immer rational und optimal. Mit Blick auf die Klimakrise hat der Umweltwissenschaftler Michael Kopatz vom Wuppertal-Institut ein kollektives strukturelles Lösungskonzept entwickelt: die Ökoroutine. Sie „verändert die Verhältnisse so, dass sich nachhaltiger Konsum verselbständigt“. Es genüge nicht, auf die Änderung individuellen Handelns mittels Bildungsarbeit und Appellen zu setzen, sondern man müsse die Verhältnisse auch durch politisches Handeln verändern. Dabei gelte es, schrittweise die Standards und Limits bzw. Unterlassungen in einem schleichenden Veränderungsprozess in Richtung Nachhaltigkeit zu gestalten. Mit einer Politik des Förderns und Forderns bzw. durch Nudges könne „das Verhalten von Menschen so beeinflusst werden, dass kluge und wünschenswerte Entscheidungen entstehen“.

Aus psychologischer Sicht hilft Nudging, nachhaltige Veränderungsprozesse im positiven Sinne anzuregen. Dabei gibt es viele Stellschrauben und Faktoren, die das Verhalten beeinflussen können. Kaum erforscht ist bislang, wie lange ein Nudging-Effekt anhält und ob er sich auch auf andere Bereiche überträgt, da Nudging-Studien in der Regel in eng definierten Settings durchgeführt werden. Einen Rückschlag erlitt die Forschung 2017 mit dem Bekanntwerden wissenschaftlichen Fehlverhaltens, womit die Datenbasis und -qualität zahlreicher einflussreicher Forschungsarbeiten am Cornell University Food and Brand Lab infrage gestellt wurde.

Aus philosophischer Perspektive wird kritisiert, dass Nudges als Instrument der Verhaltenssteuerung in die Privatsphäre eingreifen oder die Entscheidungsfreiheit manipulieren. Aus rechtswissenschaftlicher Perspektive wird dem Nudging seitens des Staats „libertärer Paternalismus“ vorgeworfen. Man könne gegen Nudges rechtlich kaum vorgehen, da mit ihnen keine Handlungsgründe verbunden seien. Wenn Individuen nicht selbstbestimmt und informiert entscheiden können, greife Nudging in Grundrechte ein und sei verfassungswidrig.

Literatur

Feindt, P. H. et al. (2019): Ein neuer Gesellschaftsvertrag für eine nachhaltige Landwirtschaft, Berlin: Springer Open.

Kopatz, M. (2016): Ökoroutine, Damit wir tun, was wir für richtig halten. München: oekom.

Kosite, D. et al. (2019): Plate size and food consumption: a pre-registered experimental study in a general population sample, in: International Journal of Behavioral Nutrition and Physical Activity, Vol. 16(75), S. 1 – 9.

Purnhagen, K., Bremmers, H. (Hrsg.) (2018): Regulating and Managing Food Safety in the EU, New York: Springer Science.

Purnhagen, K., Reisch, L. (2015): „Nudging Germany“ Herausforderungen für eine Verhaltensbasierte Regulierung in Deutschland. Wageningen Working Papers in Law and Governance, 9.

Renner, B. (2015): Ernährungsverhalten 2.0, Veränderungen durch explizite und implizite Interventionen; Ernährungsumschau, (1), S. 178 – 180.

Thaler, R., Sunstein, C. (2008): Improving decisions about health, wealth and happiness. New Haven: Yale University Press.

Thorun, C. et al. (2016): Nudge-Ansätze beim nachhaltigen Konsum: Ermittlung und Entwicklung von Maßnahmen zum „Anstoßen“ nachhaltiger Konsummuster, Umweltbundesamt.

Weiterlesen zum Thema:

Yeung, K. (2017): „Hypernudge“: Big Data as a mode of regulation by design, Information, Communication & Society, 20(1), S. 118 – 136.

Das Interview mit Kai Purnhagen führte die Journalistin Christiane Schulzki-Haddouti im Rahmen eines vom Bundesministerium für Bildung und Forschung beauftragten Publikationsprojektes zum Thema „KI und Nachhaltigkeit“. Die vollständige Publikation steht als PDF zum Download zur Verfügung.