Auf einen Blick: Broschüre „Zukunft gestalten! Mit generativer KI. Gesellschaftliche Auswirkungen und Handlungsansätze“
- Ergebnisse
- Publikationen
- Zukunft gestalten! Mit generativer KI. Gesellschaftliche Auswirkungen und Handlungsansätze
Generative KI ist bereits Teil des Alltags und der Arbeitswelt – sie erzeugt Texte, Bilder, Audios, Videos oder Code und wird in Bereichen wie Bildung, Medizin, Medien, Wissenschaft und Unternehmen eingesetzt. Sie kann Prozesse erleichtern, kreative Aufgaben unterstützen, den Zugang zu Wissen verbessern und neue Innovationen ermöglichen. Zugleich entstehen gesellschaftliche und ethische Herausforderungen, etwa durch Desinformation und Deepfakes, Machtkonzentration, Umbrüche in der Arbeitswelt oder den Energiehunger leistungsfähiger Modelle.
Die Broschüre ordnet diese Entwicklungen anhand der vier Spannungsfelder Macht, Information und Kommunikation, Arbeit sowie Nachhaltigkeit ein und zeigt auf, wie generative KI werteorientiert genutzt werden kann. Sie betont, dass klare rechtliche Regeln und ethische Leitplanken, sichere und robuste Systeme, transparente Kennzeichnung sowie Kompetenzen zur kritischen Bewertung KI-generierter Inhalte notwendig sind. Betroffene gesellschaftliche Akteure müssen bei der Gestaltung generativer KI einbezogen und menschliche Expertise bei der Nutzung und Kontrolle der Systeme bewahrt werden.
Entscheidend ist eine menschzentrierte und gemeinwohlorientierte Entwicklung, die Sicherheit, Fortschritt und Partizipation ausbalanciert.
Zentrale Ergebnisse der Publikation
- Generative KI erzeugt Texte, Bilder, Audio, Videos und Code und erweitert die Möglichkeiten in der Arbeitswelt, Bildung, Medizin, in den Medien, der Wissenschaft und im Alltag.
- Eine werteorientierte Entwicklung generativer KI muss Sicherheit, technologischen Fortschritt und gesellschaftliche Teilhabe miteinander verbinden.
- Macht, Information und Kommunikation, Arbeit sowie Nachhaltigkeit bilden zentrale gesellschaftliche Spannungsfelder beim Einsatz generativer KI.
- Die Konzentration von Technologien, Daten und Rechenkapazitäten bei wenigen Unternehmen kann Machtasymmetrien und Abhängigkeiten verstärken.
- Halluzinationen, Desinformation und Deepfakes gefährden die Authentizität von Inhalten sowie das Vertrauen in Medien, Institutionen und demokratische Prozesse.
- Generative KI kann Produktivität und Innovation fördern, verändert zugleich aber Arbeitsprozesse, Berufsbilder und Qualifikationsanforderungen.
- Der hohe Energie- und Ressourcenbedarf generativer KI erfordert effizientere Modelle, den Einsatz erneuerbarer Energien und mehr Transparenz über den Ressourcenverbrauch.
- Eine verantwortungsvolle Nutzung generativer KI braucht klare Regeln, ethische Leitplanken, transparente Kennzeichnung, kritische Kompetenzen und eine menschzentrierte sowie gemeinwohlorientierte Gestaltung.
Fragen und Antworten zur Broschüre „Zukunft gestalten! Mit generativer KI. Gesellschaftliche Auswirkungen und Handlungsansätze“
Generative KI kann auf Grundlage großer Datenmengen neue Inhalte wie Texte, Bilder, Audios, Videos oder Code erzeugen. Sie wird bereits in Bereichen wie Bildung, Medizin, Medien, Wissenschaft, Unternehmen und auch im privaten Alltag eingesetzt.
Generative KI kann kreative und komplexe Aufgaben unterstützen, Prozesse erleichtern und den Zugang zu Wissen verbessern. Sie bietet zudem Potenziale für Innovationen, neue medizinische und wissenschaftliche Erkenntnisse sowie eine produktivere Gestaltung von Arbeit.
KI-generierte Inhalte sind häufig nur schwer von menschlich erstellten oder realen Inhalten zu unterscheiden. Deshalb sind eine verlässliche Kennzeichnung, die kritische Prüfung von Inhalten und die Überprüfung vertrauenswürdiger Quellen besonders wichtig.
Generative KI kann Beschäftigte bei Aufgaben unterstützen und sie entlasten, die Produktivität steigern und ein Hilfsmittel gegen den Fachkräftemangel sein. Gleichzeitig verändert sie Tätigkeiten, Berufsbilder und Qualifikationsanforderungen, weshalb Weiterbildung und die Beteiligung der Beschäftigten entscheidend sind.
Neben klaren rechtlichen Regeln, ethischen Leitplanken, transparenter Nutzung sowie sicherer und robuster KI-Systeme sind vor allem auch KI-Kompetenzen der Anwendenden selbst gefragt. Ebenso die Beteiligung unterschiedlicher gesellschaftlicher Gruppen, damit generative KI menschzentriert und gemeinwohlorientiert gestaltet wird.
Beteiligte Personen
Herausgeberin
Mitwirkende
(Contributors)
Herausgeberin der Publikation ist die Plattform Lernende Systeme.
Beitragende aus der Arbeitsgruppe „Technologische Wegbereiter und Data Science“
- Dr. Aljoscha Burchardt (Deutsches Forschungsinstitut für Künstliche Intelligenz GmbH, DFKI)
- Prof. Dr. Ute Schmid (Otto-Friedrich-Universität Bamberg)
Beitragende aus der Arbeitsgruppe „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“
- Prof. Dr. Eva Bittner (Universität Hamburg)
- Dr. Rahild Neuburger (Ludwig-Maximilians-Universität München)
- Andrea Stich (Infineon Technologies AG)
- Oliver Suchy (Deutscher Gewerkschaftsbund, DGB)
Beitragende aus der Unterarbeitsgruppe „IT-Sicherheit und Privacy“
- Andrea Martin (IBM Watson Center Munich)
- Peter Rost (secunet Security Networks AG)
Beitragende aus der Unterarbeitsgruppe „Recht und Ethik“
- Prof. Dr. Jessica Heesen (Eberhard Karls Universität Tübingen)
- Andrea Martin (IBM Watson Center Munich)
Beitragende aus der Arbeitsgruppe „Innovation, Geschäftsmodelle und -prozesse“
- Prof. Dr. Susanne Boll (Carl von Ossietzky Universität Oldenburg)
- Prof. Dr. Stefanie Schwaar (Hochschule für Technik und Wirtschaft Berlin)
Beitragende aus der Arbeitsgruppe „Mobilität und intelligente Verkehrssysteme“
- Prof. Dr.-Ing. Axel Hahn (Deutsches Zentrum für Luft- und Raumfahrt e. V., Institut Systems Engineering für zukünftige Mobilität)
Beitragende aus der Arbeitsgruppe „Gesundheit, Medizintechnik, Pflege“
- Prof. Dr. Björn Eskofier (Friedrich-Alexander-Universität Erlangen-Nürnberg)
Über die Broschüre
Die Broschüre „Zukunft gestalten! Mit generativer KI.“ steht zum kostenfreien Download zur Verfügung. Die Pressemitteilung zur Broschüre steht zur redaktionellen Verwendung zur Verfügung.