Künstliche Intelligenz &
die demokratische Gesellschaft

 

Ein Webspecial der Plattform Lernende Systeme

Künstliche Intelligenz treibt die Digitalisierung voran. Sie verändert unsere Arbeitswelt, unsere Kommunikation, unsere gesellschaftlichen Prozesse. Generative KI-Systeme machen es einfach wie nie, Texte, Bilder oder Videos nach individuellen Vorgaben zu erzeugen. Das eröffnet enorme Möglichkeiten: Viele Prozesse können effektiver gestaltet werden. Gepaart mit dem Willen, Meinungen zu beeinflussen sowie den Verbreitungsmöglichkeiten der sozialen Medien können generative KI-Systeme aber auch zu einem mächtigen Werkzeug für Manipulation und Desinformation werden. Nur wenige Reglementierungen begrenzen dies bisher.

Meinungsbildung

Wie wirkt sich Künstliche Intelligenz auf gesellschaftliche Entscheidungs­prozesse aus?

mehr

Wahlen

Verändert Künstliche Intelligenz demokratische Wahlen?

mehr

KI muss gestaltet werden

Im Superwahljahr 2024 ist das besonders brisant. Vier Milliarden Menschen leben in Ländern, in denen in diesem Jahr Wahlen stattfinden – rund die Hälfte der Weltbevölkerung. Viele politische Weichen werden also neu gestellt, Machtverhältnisse und Staatsgelder neu verteilt. Das Volk tritt als Inhaber der Staatsgewalt besonders deutlich hervor. Seit jeher versuchen Akteure aus Politik, Wirtschaft und Gesellschaft, die Bürgerinnen und Bürger für ihre Interessen und Ziele zu gewinnen oder gar zu manipulieren. Gegenwärtig kommen hier auch in immer größerem Umfang KI-Technologien wie Deepfakes zum Einsatz.

Ermöglichen nun KI-Systeme die Einflussnahme auf Wahlen in ganz neuen Dimensionen? Wie verändern sich Prozesse der Meinungsbildung durch Künstliche Intelligenz? Klar ist: Wie einst das Internet wird KI all diese Bereiche in den kommenden Jahren gravierend verändern – im Positiven wie im Negativen. Die Herausforderungen sind groß und müssen von der Gesellschaft gestaltet werden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Appell in die Zukunft

Um Herausforderungen für demokratische Staaten ging es auch John F. Kennedy, als er im Juni 1963 Deutschland besuchte und in der Frankfurter Paulskirche eine Rede hielt. Der damalige US-Präsident sagte: „Heute gibt es keine ausschließlich deutschen Probleme oder amerikanischen Probleme oder europäischen Probleme mehr. Wir haben es mit Weltproblemen zu tun – und unsere beiden Länder und Kontinente sind hinsichtlich der Aufgaben des Friedens wie des Krieges unauflöslich miteinander verbunden.“ Welche Herausforderungen würde John F. Kennedy im KI-Zeitalter betonen? Forschende der TU Darmstadt haben mit generativer KI eine Antwort versucht.

Das System Security Lab der TU Darmstadt testet die Möglichkeiten frei zugänglicher KI-Tools für Deepfakes mit Bildungsanspruch.

Worauf gründet eine Demokratie?

Der Begriff „Demokratie“ bedeutet „Herrschaft des Volkes“ und kommt aus dem Griechischen. Eine Demokratie gründet auf den Werten der Freiheit und Gleichheit. Sie ist immer wieder neuen Aushandlungsprozessen unterworfen und achtet bestimmte Prinzipien, die sich aus der Verfassung des Staates – in Deutschland aus dem Grundgesetz – ableiten.

Prinzipien unseres demokratischen Staates

Zu den Prinzipien unseres demokratischen Staates gehören die Freiheits- und Gleichheitsrechte, die Gewaltenteilung, die Rechtsstaatlichkeit sowie allgemeine, freie und geheime Wahlen. Grundlage hierfür ist der Artikel 1 des Grundgesetzes:

  1. „Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlichen Gewalt.
  2. Das Deutsche Volk bekennt sich darum zu unverletzlichen und unveräußerlichen Menschenrechten als Grundlage jeder menschlichen Gemeinschaft, des Friedens und der Gerechtigkeit in der Welt.
  3. Die nachfolgenden Grundrechte binden Gesetzgebung, vollziehende Gewalt und Rechtsprechung als unmittelbar geltendes Recht.“

Einen der eindrücklichsten Momente in der Geschichte der deutschen Demokratie zeigt das nachfolgende Bild. Rund eine Million Menschen feiern vor dem Berliner Reichstag in der Nacht zum 3. Oktober 1990 die wiedergewonnene Einheit. Mit diesem Datum sind die Deutschen 45 Jahre nach dem Ende des 2. Weltkrieges wieder in einem souveränen Staat vereint.

© picture alliance/Associated Press

Gegründet wurde die demokratische Bundesrepublik Deutschland am 23. Mai 1949. Seitdem hat die Gesellschaft viele prägende Ereignisse und Entwicklungen durchlaufen. Einige davon dokumentiert diese Bilderstrecke.

Gründung der Bundesrepublik Deutschland

Konrad Adenauer, Präsident des Parlamentarischen Rates, unterzeichnet am 23. Mai 1949 das Grundgesetz – die Grundlage für eine parlamentarische Demokratie in Deutschland.

Bau der Berliner Mauer

Am 13. August 1961 beginnt die DDR mit dem Bau der Berliner Mauer. Bis zum 09. November 1989 teilt die rund vier Meter hohe Mauer das Land und die Stadt Berlin und riegelt die DDR und Ost-Berlin hermetisch von der BRD ab.

1968er-Bewegung

Studentinnen und Studenten am Münchner Stachus im Sitzstreik: In den späten 1960er Jahren sorgen Studentenproteste auch in Deutschland für politische Veränderungen und eine gesellschaftliche Liberalisierung.

Die neue Ostpolitik

Bundeskanzler Willy Brandt wird auf dem Erfurter Bahnhof von DDR-Ministerpräsident Willi Stoph (li.) begrüßt. Es ist die erste Begegnung der Regierungschefs beider deutscher Staaten und gilt als erstes Ergebnis der neuen Ostpolitik Brandts.

Mauerfall und Wiedervereinigung

Jubelnd laufen drei junge Ost-Berliner am 10. November 1989 durch einen Berliner Grenzübergang. Mit dem Fall der Berliner Mauer am Tag zuvor endete die Teilung Deutschlands. Am 3. Oktober 1990 wird die Wiedervereinigung offiziell vollzogen.

Einführung des Euro

Rund zwei Millionen D-Mark liegen am 14. Januar 2002 in der Hauptkasse der Ostsee-Sparkasse Rostock. Es sind einbehaltene bzw. eingetauschte Bestände. Deutschland führt 2002 den Euro als offizielles Zahlungsmittel ein und ersetzt damit die D-Mark.

Nuklearkatastrophe und Atomausstieg

Ein Tsunami und ein starkes Erdbeben erschüttern im März 2011 Japan und führen zu Schäden im dortigen Atomkraftwerk Fukushima Daiichi. In Deutschland kommt es zu Protesten gegen Atomkraft, die Bundesregierung beschließt den vorzeitigen Atomausstieg. Im April 2023 geht der letzte Reaktor vom Netz.

Folgen globaler Entwicklungen

Die Zahl der Menschen, die vor Krieg, Verfolgung und Not flüchten, steigt ab 2015 weltweit an. Das wird auch in Deutschland spürbar. Das Bild zeigt eine Grenzstation zwischen Serbien und Ungarn. Zugleich mehren sich die negativen Folgen des Klimawandels, was zu weltweiten Protesten führt. Die Klimabewegung „Fridays for Future“ startet ab 2018 auch in Deutschland zahlreiche Aktionen, um gegen zu geringe Fortschritte beim Klimaschutz zu protestieren.

Covid-19-Pandemie

Die Infektionskrankheit Covid-19 breitet sich Anfang 2020 weltweit aus. Lockdowns, Impfkampagnen und wirtschaftliche Hilfspakete prägen auch das Leben in Deutschland und lösen gesellschaftliche Diskussionen über demokratische Grund- und Bürgerrechte aus.

Krieg in der Ukraine

Nach dem russischen Angriff auf die Ukraine flüchten rund 1,1 Millionen Ukrainerinnen und Ukrainer nach Deutschland. Der deutsche Verteidigungsetat wird aufgestockt, die EU verhängt Sanktionen gegen Russland. Das Bild wurde am 25. Februar 2022 in Kiew aufgenommen, einen Tag nach Kriegsbeginn.

KI-Boom

2022 werden generative KI-Systeme wie ChatGPT einer breiten Öffentlichkeit bekannt. Staaten und Unternehmen verstärken ihre Investitionen in KI-Forschung. Die EU verabschiedet den AI Act, das erste Regelwerk zu KI-Systemen. Das Bild zeigt eine Abstimmung im Europäischen Parlament in Straßburg über den AI Act im März 2024.

Was ist (generative) KI?

Der Begriff Künstliche Intelligenz beschreibt nicht eine, sondern eine Vielzahl von Techniken. Diesen ist gemein, dass sie Systeme in die Lage versetzen, abstrakt beschriebene Aufgaben eigenständig zu erledigen. Anders als bei klassischen IT-Systemen muss dabei nicht jeder Schritt vom Menschen programmiert werden. Eine grundlegende Methode der KI ist das maschinelle Lernen. Zum Einsatz kommen dabei spezielle Algorithmen, die in Beispieldaten Muster und Gesetzmäßigkeiten erkennen und diese auf neue Daten anwenden.

Die Geschichte der KI geht zurück in die 1950er Jahre, hat seither Höhen und Tiefen durchlaufen und mit generativer KI eine neue Stufe erreicht. Die Erklärfilme der Plattform Lernende Systeme skizzieren die Entwicklung und zeigen Herausforderungen auf, die sich beim Einsatz von KI stellen.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Erklärfilm: Generative KI – Alleskönner der Künstlichen Intelligenz?

Achten KI-Systeme demokratische Prinzipien?

Demokratische Grundsätze wie Gleichberechtigung, Teilhabe und letztlich die Menschenwürde müssen auch in einer technologisierten Gesellschaft gelebt werden können. Sie müssen daher sowohl bei der Entwicklung von Technologie als auch bei ihrem Einsatz mitgedacht werden. Für KI-Systeme gilt das umso mehr: Als Technologie, die die Gesellschaft in allen Bereichen durchdringen wird, sollte sie demokratische und ethische Prinzipien erfüllen. KI-Systeme dürfen nicht dazu führen, dass Menschen, die nicht technikversiert sind oder keinen Zugang zu (dieser) Technologie haben, nur noch eingeschränkt am öffentlichen und gesellschaftlichen Leben teilnehmen können.

Das bedeutet zum einen, dass sie intuitiv nutzbar sein müssen. Zum anderen sollten die auf der Menschenwürde aufbauenden Prinzipien der Grundrechte ein Fundament für die Entwicklung und Anwendung von KI-Systemen sein. Das bringt große Herausforderungen mit sich, denn Technologie kann nur so objektiv, fair und gerecht sein, wie es der Mensch in die Gestaltung und Anwendung der Technologie einbringt. Hinzu kommen zwei Tatsachen, die die Umsetzung dieser Anforderung zusätzlich erschweren.

Unsere Vorstellungen davon, was gerecht und fair ist, sind keine empirisch messbaren Größen und oft subjektiv geprägt.

Es sind normative Größen, die als Lernziel von KI-Systemen nur schwer einzubauen sind. Zwar existieren Ansätze, mit denen versucht wird, ethische Prinzipien im Designprozess von Software zu integrieren. So formuliert die Bundesregierung in ihrer KI-Strategie den Anspruch „ethics by, in and for design“. Demnach sind im gesamten Prozess der Entwicklung von KI ethische Prinzipien mitzudenken und zu integrieren. Die größere Wirkung hätte aber ein von demokratischen und ethischen Werten geprägter Einsatz von KI-Systemen. Die Plattform Lernende Systeme hat einen Mindeststandard an Werten entwickelt, die KI-Systeme abbilden sollten:

  1. Beim Einsatz von KI-Systemen muss Schaden für Einzelpersonen, Gemeinschaften oder die Umwelt vermieden werden – insbesondere in Bezug auf Gesundheit und Leben – oder in gerechtfertigter Abwägung gegen einen größeren Nutzen so klein wie möglich gehalten werden.
  2. KI-Systeme müssen rechtskonform sein, ebenso ihre Entwicklung und Nutzung. Das gilt für alle jeweils bestehenden Gesetze.
  3. KI-Systeme müssen technisch robust sein – also zuverlässig funktionieren und zu keinem Zeitpunkt ein unannehmbares Sicherheitsrisiko darstellen.

Ethische Prinzipien im Design und in den Einsatzszenarien von KI mitzudenken, ist allein jedoch nicht ausreichend. Wichtig sind auch Mechanismen, die es Nutzerinnen und Nutzern möglich machen, Ergebnisse von KI nachzuvollziehen und gegebenenfalls zu korrigieren. Das ist nicht einfach umzusetzen. Algorithmen sind oft so komplex und basieren auf so vielen Daten, dass es schwierig ist, sie technischen Laien zu erklären. Oft ist gar nicht möglich, KI-Ergebnisse nachzuvollziehen: Sie werden darauf trainiert, ein Problem zu lösen, den Weg dorthin müssen sie aber selbst finden. Auch gelten Algorithmen als Firmengeheimnis. Diese sind wichtig, um wettbewerbsfähig und innovativ zu bleiben.

Die Anforderungen an eine verantwortungsvolle Gestaltung von KI-Systemen sind also vielfältig. Sie lassen sich entlang von drei grundlegenden ethischen Werten bestimmen: Selbstbestimmung, Gerechtigkeit und Schutz der Privatheit. Diese Werte auszudifferenzieren ist eine notwendige Voraussetzung, um KI-Systeme zu entwickeln, die dem Wohl der Menschen und der Gesellschaft dienen. Die Plattform Lernende Systeme hat dafür einen Vorschlag entwickelt.

Werte für die Integration ethischer Prinzipien in KI-Systemen. © Plattform Lernende Systeme
KI-Systeme arbeiten auf Grundlage von bestehenden Daten. Sie bergen das Potenzial, vorhandene Diskriminierungen zu übernehmen oder sogar zu verschärfen.

Für das Training von KI-Systemen sind Unmengen von Daten nötig. Diese Datensätze bilden Ereignisse aus der Vergangenheit ab, auf deren Basis Prognosen erstellt werden können. Diese Daten können nicht von sich aus neutral sein. Sie enthalten vielmehr gesellschaftliche Verhältnisse und Strukturen und können somit auch eine verzerrte Realität auf Basis von bestehenden Diskriminierungen abbilden.

Diskriminierung meint eine ungerechtfertigte Ungleichbehandlung aufgrund von Merkmalen wie Alter, Geschlecht oder Hautfarbe. Auch eine gleiche Behandlung von Ungleichen kann eine Form von Diskriminierung sein, weil so beispielsweise besondere Bedarfe bestimmter Gruppen, wie Menschen mit Behinderung, nicht mehr abgebildet werden können.

Beispiele für KI-Systeme, die Verzerrungen reproduziert haben, die in ihren Trainingsdaten enthalten waren, gibt es einige:

  • In einem großen Unternehmen haben Algorithmen Bewerbungsunterlagen für die Personalabteilung vorselektiert, unter dem Kriterium der Eignung für eine ausgeschriebene Stelle. In manchen Fällen wurden weibliche Personen grundsätzlich schlechter bewertet als ähnlich qualifizierte männliche Personen. Ursächlich dafür waren die Trainingsdaten der Systeme, in denen erfolgreiche Bewerbungen eingestellter Mitarbeiterinnen und Mitarbeiter ausgewertet wurden. Da diese überwiegend männlich waren, betrachtete das KI-System die Eigenschaft „männlich“ daraufhin als positiv und bewertete Bewerbungen von Frauen in Folge schlechter.
  • In China werden die immensen Datenströme, die durch die Nutzung mobiler Endgeräte entstehen, für die Analyse des Verhaltens der Bürgerinnen und Bürger genutzt. In einigen Städten werden dazu sogenannte Social-Scoring-Verfahren eingesetzt, um diese Daten automatisiert zu sammeln, auszuwerten und daraus Punktwerte zu ermitteln. Diese beschreiben, ob jemand „gut“, im Sinne von ehrlich und zuverlässig, aber auch im Sinne von linientreu ist. Eine hohe Punktzahl führt zum Beispiel zu finanziellen Erleichterungen, Bevorzugung bei Wohnungsvergaben und höherer Kreditwürdigkeit. Einige Lokalregierungen beziehen sogar die Ausübung von Religion, politisches und journalistisches regime-kritisches Engagement in das System mit ein und vergeben dafür Minuspunkte .
  • Bilderkennungssysteme, die optische Sensoren beispielsweise an Seifenspendern zugrunde liegen, wurden mit Bildmaterial von Händen trainiert, das überwiegend weiße Menschen repräsentierte. Hände von Menschen mit dunkler Hautfarbe wurden so konsequent schlechter erkannt (und keine Seife ausgegeben).

Quellen für Diskriminierung und Verzerrung durch KI-Systeme sind also Input- und Trainingsdaten, die auch zu problematischem Output führen. Große Herausforderungen liegen deshalb zum einen in der Schwierigkeit, neutrale Datensätze ohne Verzerrungen aufzubauen, zu pflegen und zu moderieren. Zum anderen ist es eigentlich eine Stärke von KI-Systemen, Muster in Daten zu finden, die Menschen nicht sehen. So ist es nicht ausgeschlossen, dass Datensätze mögliche Verzerrungen enthalten, die auf Diskriminierungsmerkmale verweisen, selbst wenn die Datensätze von allen offensichtlichen Diskriminierungsmerkmalen bereinigt wurden.

Mehr Infos und Empfehlungen zur Umsetzung gibt es hier: „Künstliche Intelligenz und Diskriminerung“ und „Ethik- Briefing“ der Plattform Lernende Systeme.

Wer reglementiert die KI?

Auf europäischer Ebene schafft der Artificial Intelligence Act, kurz AI Act, erstmals einen einheitlichen, verbindlichen Rechtsrahmen für einen vertrauenswürdigen Einsatz von KI in der EU. Die Verordnung ist weltweit das erste transnationale KI-Regelwerk ihrer Art und tritt im August 2024 in Kraft. Wie die Verordnung in verschiedenen Anwendungsfeldern konkret umzusetzen ist, werden Normen regeln, die aber erst noch ausgearbeitet werden müssen. Etwa zwei Jahre nach Inkrafttreten wird der AI Act vollständig anwendbar sein. Der AI Act sieht vor, KI-Systeme entsprechend ihres Risikopotenzials zu regulieren.

  • KI-Systeme mit unannehmbaren Risiken sind in der EU verboten. Dazu zählen die biometrische Echtzeitüberwachung im öffentlichen Raum und Social-Score-Verfahren, bei denen soziales Verhalten anhand von Daten bewertet und ausgewertet wird.
  • KI-Systeme mit hohen Risiken müssen bestimmte Sicherheitsvorschriften erfüllen, bevor sie auf den EU-Markt gebracht werden.
  • KI-Systeme mit geringem Risiko müssen eine „Tranparenz- und Informationspflicht“ erfüllen gegenüber natürlichen Personen, die mit ihnen interagieren.
  • KI-Systeme mit minimalem Risiko sind unreguliert. Unternehmen, die solche Systeme einsetzen, wird nahegelegt, sich einen freiwilligen Verhaltenskodex aufzuerlegen und ihre Mitarbeitenden entsprechend zu schulen.

Unabhängig von dieser Risikoklassifizierung gilt: Wer mit einem KI-System Bild-, Ton-, oder Videoinhalte erzeugt oder manipuliert (Deepfake), muss die Verwendung von KI für diese Inhalte transparent offenlegen. Das Thema der potentiellen Diskriminierung beim Einsatz von Künstlicher Intelligenz wird sowohl in der KI-Strategie der Bundesregierung als auch in der von der Bundesregierung eingerichteten Datenethikkommission behandelt. Auf europäischer Ebene hat die High Level Expert Group on Artificial Intelligence der EU-Kommission die „Ethik-Leitlinien für eine vertrauenswürdige KI“ veröffentlicht.

Weiterführende Informationen

Über die Plattform Lernende Systeme

Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Bundesministerin Bettina Stark-Watzinger (BMBF) und Jan Wörner (Präsident acatech – Deutsche Akademie der Technikwissenschaften).

Lizenzhinweise

Die Textinhalte des Webspecials „KI und die demokratische Gesellschaft“ können unter Berücksichtigung der Creative Commons-Lizenz CC BY-NC-ND 3.0 DE in jedem Format oder Medium vervielfältigt und weiterverbreitet werden. Die Verwendung der abgebildeten Bildmotive ist hiervon ausdrücklich ausgeschlossen. Für weitergehende Nutzungswünsche wenden Sie sich bitte an presse@plattform-lernende-systeme.de.

Zitieren als

Plattform Lernende Systeme (Hg.) (2024): Künstliche Intelligenz und die demokratische Gesellchaft (Webspecial). München. Plattform Lernende Systeme

www.ki-und-demokratie.de

Version 1.0 vom 29.07.2024

Kontakt

Plattform Lernende Systeme
Geschäftsstelle München | c/o acatech
Karolinenplatz 4 | 80333 München

Birgit Obermeier

Leitung Kommunikation

Obermeier@acatech.de

 

Marina Stiefenhofer

Referentin für Kommunikation

Stiefenhofer@acatech.de