News aus der Plattform

Ausgabe 03 / 2021

Liebe Leserinnen und Leser,

Fit für KI? Diese Frage stellt sich gleichsam für Unternehmen wie Beschäftigte. Denn Künstliche Intelligenz prägt zunehmend unsere Arbeitswelt. Die Entwicklung wie auch der souveräne Umgang mit KI-basierten Assistenzsystemen wird daher zum erfolgskritischen Faktor für Organisation und Innovationsstandort gleichermaßen. Welche KI-Kompetenzen dabei entscheidend sind, beleuchtet ein aktuelles Whitepaper der Plattform Lernende Systeme anhand exemplarischer Rollenprofile. Doch nicht nur in der Arbeitswelt, auch im Alltag begegnet uns KI immer häufiger. Um mitdiskutieren zu können, wo und wie wir als Gesellschaft diese Schlüsseltechnologie nutzen wollen, ist ein Grundverständnis von KI gefragt. Hier setzt unser neues digitales Wissensportal „KI konkret“ an. Es vermittelt auf verständliche Weise Grundzüge, Beispiele und offene Fragen zum Einsatz von KI.

Erfahren Sie in unserem aktuellen Newsletter mehr zu diesen und weiteren aktuellen Ergebnissen unserer Arbeit. Als Mitglied der Plattform informieren wir Sie wie gewohnt, woran die einzelnen Arbeitsgruppen derzeit arbeiten. Zudem haben wir erfreuliche Neuigkeiten zu verkünden: Die Laufzeit der Plattform Lernende Systeme wurde aufgrund Ihrer wertvollen Arbeit bis 2025 verlängert! Wir freuen uns und sagen herzlichen Dank für Ihr Engagement!

Mit den besten Grüßen

Dr. Johannes Winter
Leiter der Geschäftsstelle Plattform Lernende Systeme | c/o acatech

Ergebnisse und Highlights

Neue Webtalk-Reihe: Plattform diskutiert zu KI-Kompetenzen

Was bedeutet es für Mensch und Maschine, wenn KI-basierte Assistenzsysteme und Beschäftigte künftig enger zusammenarbeiten? Diese Frage stand Ende September im Mittelpunkt des Webtalks Kollege KI – Welche Kompetenzen brauchen Beschäftigte in der Arbeitswelt von morgen? Dieser markierte gleichzeitig den Auftakt zur neuen Veranstaltungsreihe KI.Impulse der Plattform Lernende Systeme.

Moderiert von Wilhelm Bauer, Leiter der Arbeitsgruppe Arbeit/Qualifikation, Mensch-Maschine-Interaktion, erörterten Expertinnen und Experten der PLS unter anderem, ob bei Kompetenzprofilen neben technischen auch ethische Merkmale wichtig sind und welche Bildungsangebote man für unterschiedliche Qualifizierungsniveaus im Blick behalten sollte. Als Grundlage der Diskussion diente das kürzlich erschienene Whitepaper Kompetenzentwicklung für KI. Mit dem Anwendungsszenario Lernfähiges Roboterwerkzeug in der Montage hat die Plattform schon vor einiger Zeit beispielhaft entworfen, wie sich die Mensch-Maschine-Interaktion im industriellen Kontext künftig darstellen könnte.

Neues Webangebot: KI verständlich erklärt

Was ist Künstliche Intelligenz überhaupt? Was kann diese Technologie? Wo nutzen wir sie bereits? Für viele Menschen ist Künstliche Intelligenz immer noch ein diffuser Begriff, es fehlt häufig ein Verständnis dafür, welche Chancen und Herausforderungen sich dahinter verbergen. Mit dem neuen Webangebot KI Konkret adressiert die Plattform Lernende Systeme daher Bürgerinnen und Bürger, die sich allgemeinverständlich rund um das Thema informieren wollen. Untergliedert in die drei Kernfragen „Was ist KI“, „Was kann KI“ und „Was darf KI“ vermittelt die Webseite Grundsätzliches zu Begrifflichkeiten, der Technologie, Einsatzgebieten wie auch ethischen und rechtlichen Fragestellungen. Ergänzend dazu bietet die Rubrik „Gut zu wissen“ serviceorientierte Inhalte sowie Möglichkeiten, das Wissen zu KI noch weiter zu vertiefen. Mehr unter www.ki-konkret.de

Fiktives Gerichtsverfahren: Gibt es ein Recht auf medizinische Behandlung mit KI?

Im Krankheitsfall wünschen sich Betroffene die bestmögliche Behandlung. Was aber passiert, wenn dazu neue Methoden nötig sind, für die nur wenige Erfahrungswerte existieren – wie beispielsweise bei KI-basierten Assistenzsystemen in der Onkologie? Haben Patientinnen und Patienten in einem solchen Fall einen Rechtsanspruch?

Dieser Frage ging die Plattform Lernende Systeme Ende September im Format eines fiktiven Gerichtsverfahrens mit dem Titel Streitsache: Gibt es ein Recht auf medizinische Behandlung mit KI? nach. In Kooperation mit der Universität Hannover wurde der Fall live am Zentrum für Kunst und Medien (ZKM) in Karlsruhe nachgespielt, als Sachverständige traten Fachleute der Plattform aus den Bereichen Medizin und Ethik auf. Auf der Bühne einigten sich die Parteien abschließend auf einen Behandlungsvertrag, der Haftung und Kostenübernahme regelt. Ob es indes künftig ein generelles Recht auf die Behandlung mit KI geben wird, bleibt abzuwarten. Ein Mitschnitt der Veranstaltung ist hier abrufbar.

KI-Landkarte: Vollständig in englischer Version verfügbar

Mit über 1100 KI-basierten Anwendungen, einem Überblick zu KI-Forschungseinrichtungen und -Studiengängen in Deutschland sowie strategischen Maßnahmen und Unterstützungsangeboten der Bundesländer bietet die KI-Landkarte der Plattform Lernende Systeme einen umfassenden Wissenspool zu Künstlicher Intelligenz in Deutschland. Um dieses Wissen auch über die Landesgrenzen hinweg verfügbar zu machen, legt die Plattform ihre Landkarte nunmehr auch vollständig in englischer Sprache auf. Fachkräfte und Studierende aus dem Ausland können sich damit noch leichter über das KI-Angebot an deutschen Hochschulen informieren, Unternehmen Kooperationspartner aus ihrer Branche identifizieren.

KI und Wahlen: Chance oder Bedrohung?

Fake News, Deep Fakes und Co: die Gefahr der gezielten politischen Desinformation durch KI-Systeme entwickelt sich vor allem im Hinblick auf demokratische Wahlen zu einer Herausforderung. Im Vorfeld der Bundestagswahl beschäftigte sich unsere Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik mit diesem Thema und veröffentlichte ein Whitepaper zur Bedeutung von Künstlicher Intelligenz für die individuelle Wahlentscheidung. Zentrale Herausforderungen und Risiken skizziert Mitautor Christoph Bieber, Leiter des Projekts KI-Governance an der Universität Duisburg-Essen und PLS-Mitglied, im Kurzinterview.

KIT Science Week: Fokus Mensch

Anfang Oktober feierte die Science Week am Karlsruher Institut für Technologie (KIT) Premiere – und widmete sich unter dem Motto Der Mensch im Zentrum Lernender Systeme ganz dem Thema Künstliche Intelligenz. Expertinnen und Experten diskutierten unter anderem über die Zukunft von Arbeit, Mobilität und Klima; Bürgerinnen und Bürger waren eingeladen, sich aktiv an den Programmpunkten und Formaten zu beteiligen. Ein Highlight war die Podiumsdiskussion KI – übernehmen Sie mit Sascha Lobo, Anna Christmann (Bündnis 90/Die Grünen), Holger Hanselka, Barbara Deml und Michael Decker (KIT).

Aus unserem Netzwerk

Als KMU reif für KI? Mit dem AI Maturity Assessment bietet die appliedAI Initiative, unterstützt durch BDI und Bitkom, ein kostenfreies digitales Tool, mit dem Mittelständler ihren KI-Reifegrad in unterschiedlichen Phasen bestimmen können – vom frühen Ausprobieren der Technologie bis zur skalierten Anwendung im Unternehmen. Basierend auf ihren Antworten erhalten Mittelständler anschließend individuelle Empfehlungen.
Mehr KI-Kompetenz für Ärztinnen und Ärzte: KI-Kompetenzen gewinnen für die medizinische Praxis an Bedeutung, werden aber nicht flächendeckend in der medizinischen Aus-, Weiter- und Fortbildung vermittelt. Zu diesem Ergebnis kommt eine Studie der Charité – Universitätsmedizin Berlin im Auftrag des KI-Campus. Nach Ansicht der über 20 befragten Expertinnen und Experten sollten alle (zukünftigen) Ärztinnen und Ärzte KI-Basiskompetenzen erwerben. Tiefergehende KI-Kompetenzen seien vor allem für die Forschung erforderlich. Digitale Lernangebote könnten einen Beitrag zur Deckung des hohen Qualifizierungsbedarfs leisten, so ein Fazit der Studie.
KI-Forschung zum Anfassen: Das Zentrum für skalierbare Datenanalyse und Künstliche Intelligenz Dresden/Leipzig (ScaDS.AI) hat Anfang Oktober ein Living Lab für KI und Data Science eröffnet. Als facettenreicher Veranstaltungsort, Ausstellungsraum, Lehr- und Bildungszentrum sowie Labor bietet es der Öffentlichkeit einen Raum, um mit Forscherinnen und Forschern aktuelle Themen zu entdecken und darüber ins Gespräch zu kommen. ScaDS.AI will damit vor allem den offenen Dialog über KI und Data Science in der Gesellschaft fördern. Zu den Video-Impressionen.

Aus den Arbeitsgruppen: Work in Progress

AG 1
hat am Whitepaper zu Curricula für Masterstudiengänge der Gesellschaft für Informatik (GI) mitgewirkt, das im Juli veröffentlicht wurde. Aktuell diskutiert die Arbeitsgruppe das Thema Trustworthy Machine Learning und Maßnahmen im Bereich der Aus- und Weiterbildung.

AG 2
hat im September ein Whitepaper zur Kompetenzentwicklung für KI veröffentlicht, das anhand exemplarischer Rollenprofile veränderte Kompetenzanforderungen darstellt und durch einen Managementprozess Orientierung für die Kompetenzentwicklung gibt. Als Anhang folgt ein Projektbericht einer ergänzenden Studie, die neben den Projektergebnissen zu den Kompetenzbedarfen in Unternehmen auch Anwendungsszenarien und als qualitativen Beitrag die Ergebnisse einer Multi-Stakeholder-Diskussion im Rahmen eines Webtalks vorstellt. Aktuell erarbeitet die Arbeitsgruppe ein Whitepaper zu Herausforderungen und Chancen von KI-Systemen für eine Führung(-skultur) von morgen.

AG 3
hat im Juni ein Pressegespräch zum Einfluss von KI-Systemen auf Wahlen veranstaltet. Im September wurde das zugehörige Whitepaper veröffentlicht. Mitte September fand im Zentrum für Kunst und Medien (ZKM) in Karlsruhe unter Beteiligung von Expertinnen und Experten der Plattform (AG 3/AG 6) das fiktive Gerichtsverfahren Streitsache: Gibt es ein Recht auf eine Behandlung mit KI-Systemen?" statt. Die beiden Unterarbeitsgruppen der AG 3 erarbeiten derzeit gemeinsam Aspekte für die Ermittlung der Kritikalität von KI-Systemen in ihrem jeweiligen Anwendungskontext unter Berücksichtigung des Regulierungsvorschlags der EU-Kommission. Die UAG IT-Sicherheit und Privacy arbeitet derzeit zusammen mit der AG 7 und Mitgliedern anderer Arbeitsgruppen an einem Whitepaper zum Schutz vor Missbrauch von KI-Systemen.

AG 4
hat im Juni zusammen mit Mitgliedern anderer Arbeitsgruppen sowie Mitgliedern des Lenkungskreises der PLS das Praxis-Booklet KI im Mittelstand veröffentlicht. Derzeit erarbeitet die Arbeitsgruppe zusammen mit der AG 6 ein Whitepaper zu KI-basierten Geschäftsmodellen im Gesundheitswesen sowie ein Whitepaper dazu, wie „grüne“ KI zu einer nachhaltigeren Gesellschaft beitragen kann.

AG 5
befasst sich dieses Jahr mit den Themen Safe AI und Vertrauen in KI-basierte Mobilitätsanwendungen und bereitet dazu ein Symposium für Mitte nächsten Jahres vor. Die Herausforderungen von KI-Systemen in der Mobilität sollen zudem Anfang nächsten Jahres in einem fiktiven Gerichtsverfahren in Zusammenarbeit mit der AG 3 und dem Futurium Berlin beleuchtet werden.

AG 6
hat in Zusammenarbeit mit der AG 4 ein Whitepaper zu KI-basierten Geschäftsmodellen im Gesundheitswesen erarbeitet, das in Kürze veröffentlicht wird. Es beschäftigt sich unter anderem mit der Frage, unter welchen ökonomischen Voraussetzungen Patientinnen und Patienten einen Nutzen von KI haben. Derzeit laufen Planungen für einen Round-Table-Prozess mit medizinischen Fachkräften. Expertinnen und Experten der AG 6 sind zudem in der Domänengruppe GAIA-X Health engagiert.

AG 7
erarbeitet derzeit mit der AG 3 und unter Beteiligung von AG 2, AG 5 und AG 6 ein Whitepaper zum Schutz vor Missbrauch von KI-Systemen. Es soll aufzeigen, wie sich Missbrauch bei KI-Systemen äußern kann und wie sie davor geschützt werden können. Dabei werden konkrete Beispiele aus verschiedenen Anwendungsdomänen herangezogen. Aktuell diskutiert die Arbeitsgruppe das Thema KI-Systeme in Katastrophenlagen.