| Sollte die Infomail nicht richtig dargestellt werden, klicken Sie bitte hier. |
 |
|
Liebe Leserinnen und Leser,
die Risiken generativer KI machen immer wieder Schlagzeilen. Viele Menschen sorgen sich um Desinformation im Internet, Cyberangriffe oder die Sicherheit ihrer Jobs. Dabei gerät eines leicht aus dem Blick: KI-Systeme werden von Menschen entwickelt. Wir entscheiden, wie die Systeme lernen und wo wir KI einsetzen wollen – zum Nutzen oder zum Schaden der Gesellschaft. Wie Regulierung für Sicherheit beim KI-Einsatz in der Medizin sorgen kann und wie Beschäftigte die Einführung von KI in ihrem Betrieb mitgestalten können, sind Themen dieses Newsletters. Auch ohne böswillige Absichten könnten Menschen bei der Nutzung von KI Schäden verursachen, etwa indem sie unachtsam diskriminierende Vorschläge von KI-Systemen übernehmen oder gefälschte Videos verbreiten. Wichtig für einen verantwortungsvollen Umgang mit KI ist ein angemessenes Wissen über deren Funktionsweise. Mit unserem neuen Erklärfilm zu generativer KI leisten wir dazu einen Beitrag.
Data Literacy in der Bevölkerung zu fördern, ist auch eine Forderung unseres neuen Whitepapers. Es skizziert technische Lösungen für mehr Datenschutz bei der KI-Entwicklung und Wege für die selbstbestimmte und informierte Datennutzung.
Weitere Neuigkeiten lesen Sie im Folgenden! Als Mitglied der Plattform informieren wir Sie wie gewohnt, woran die einzelnen Arbeitsgruppen derzeit arbeiten.
Über Ihre Anregungen freuen wir uns!
Mit den besten Grüßen
|
| |
 |
| |
|
Dr. Thomas Schmidt
Leiter der Geschäftsstelle Plattform Lernende Systeme | c/o acatech
|
| |
Neuer Erklärfilm zu Funktionsweise, Chancen und Herausforderungen generativer KI
|
 |
|
Mit ChatGPT ist Künstliche Intelligenz in der Mitte der Gesellschaft angekommen. Da sich die Technologie rasant entwickelt, ist es wichtig, die Grundlagen zu verstehen sowie Potenziale und Risiken zu kennen. Mit ihrem Erklärfilm möchte die Plattform Lernende Systeme dieses Wissen vermitteln. Der Film ist über YouTube abrufbar und kann zudem bei Nennung der Quelle von Dritten für Bildungszwecke genutzt werden.
|
Interview: EU-Verordnung zu KI birgt im Medizinsektor Vor- und Nachteile
Sind medizinische KI-Systeme fehlerhaft, können Menschen zu Schaden kommen. Mit dem sogenannten AI Act setzt die Europäische Union klare Rahmenbedingungen für das Inverkehrbringen KI-gestützter Medizinprodukte und schafft so Rechtssicherheit und einen harmonisierten europäischen Markt. Im Interview erläutert Abtin Rad von TÜV Süd, warum die Kontrolle von KI-Systemen in der Medizin unabdingbar ist und welche Schwierigkeiten die neue Regulierung mit sich bringen könnte.
|
|
KI in Unternehmen: Rechtssicherheit ist für die Datennutzung essentiell
Zu diesem Ergebnis kommen die AutorInnen des neuen Whitepapers „Datenschatz für KI nutzen, Datenschutz mit KI wahren“. Viele Unternehmen setzen wertvolle Datenbestände nicht für die eigene Wertschöpfung ein, da die datenschutzrechtlichen Hürden häufig zu hoch sind. Dabei existieren technische Privacy-Ansätze, die es ermöglichen, personenbezogene Daten datenschutzkonform zu verarbeiten. ExpertInnen der Plattform fordern eine gesetzliche Anerkennung dieser Verfahren, um die Rechtssicherheit für Unternehmen beim Einsatz von KI zu stärken.
|
Diskussion: Wie menschengerechte KI in der Industrie gelingt
Wie sich KI-Systeme sowohl im Sinne der Wettbewerbsfähigkeit als auch zum Wohl der Beschäftigten nutzen lassen, erörterten ExpertInnen aus Wissenschaft, Wirtschaft, Arbeitgeber- und Arbeitnehmervertretungen beim virtuellen Fachdialog „KI.Impulse“ der Plattform in Kooperation mit dem VDI. Wesentlich für die erfolgreiche KI-Einführung im Betrieb: Ängste der Beschäftigten verstehen, Partizipation ermöglichen und Kompetenzen entwickeln.
|
|
Plattform Lernende Systeme beteiligt sich am Digital-Gipfel 2023
Plattform-ExpertInnen diskutieren beim diesjährigen Digital-Gipfel der Bundesregierung mit den Gästen in einem World Café über „Lernfähige Robotik: Perspektiven für Wirtschaft und Gesellschaft“. Darüber hinaus können sich BesucherInnen am Stand der Plattform auf dem „Markt der digitalen Möglichkeiten“ über aktuelle Schwerpunkte und Arbeitsergebnisse informieren. Ausrichter ist in diesem Jahr die Stadt Jena.
|
KI als Alltagsbegleiter: Regulierung kann Vertrauen schaffen
Unter dem Schlagwort „Entlastend oder Entfremdend“ diskutierten Plattform-ExpertInnen bei „acatech am Dienstag“, welche ethischen Fragestellungen sich aus dem Miteinander von Mensch und Maschine künftig ergeben. KI bietet vielfältige Chancen, beispielsweise in den Bereichen Medizin oder Mobilität. Wichtig ist aber, dass die Technologie stets als Ergänzung zum Menschen fungiert und diesen nicht ersetzt. Klare, auch global wirksame Regeln zum Einsatz von KI können die Akzeptanz fördern.
|
|
Nachgefragt zu KI: Datenschätze heben, Datenschutz sichern
Begleitend zum neuen Whitepaper der Plattform Lernende Systeme erläutert Co-Autor Detlef Houdeau, Senior Director Business Development in der Abteilung Digital Security Solution bei Infineon, im Videointerview, welche Rolle der Schutz personenbezogener Daten bei industriellen KI-Anwendungen spielt, wie sich industrielle KI-Lösungen datenschutzkonform gestalten lassen und was eine Verlagerung von Künstlicher Intelligenz in Endgeräte verspricht.
|
Wolfgang Wahlster in Hall of Fame der deutschen Forschung aufgenommen
Der Informatiker, Gründungsdirektor und langjährige CEO des DFKI Wolfgang Wahlster wurde im Oktober mit der Aufnahme in die Hall of Fame der deutschen Forschung für sein Lebenswerk geehrt. Die Plattform Lernende Systeme gratuliert ihrem Lenkungskreismitglied Wolfgang Wahlster (seit 2017 Mitglied) herzlich zu dieser Auszeichnung.
|
|
|
Mit großer Betroffenheit hat die Geschäftsstelle der Plattform Lernende Systeme vom unerwarteten Tod Christian Gülpens erfahren. Der Leiter Unternehmenskooperationen/Digitalisierung am Institut für Technologie- und Innovationsmanagement der RWTH Aachen engagierte sich seit 2018 als Mitglied der Arbeitsgruppe Innovation, Geschäftsmodelle und -prozesse. Die Geschäftsstelle spricht der Familie Christian Gülpen sowie den Kolleginnen und Kollegen an der RWTH Aachen ihr aufrichtiges Beileid und tiefe Anteilnahme aus.
|
|
|
 |
AG 1
Technologische Wegbereiter und Data Science |
veröffentlicht in Kürze ein Whitepaper zu Anwendungsperspektiven und Digitaler Souveränität bei großen Sprachmodellen, das anhand von zwei Anwendungsgebieten Chancen, Herausforderungen und Lösungsansätze aufzeigt, um darauf aufbauend auf verschiedene Ebenen Digitaler Souveränität einzugehen und Gestaltungsoptionen zu adressieren. Zudem steht eine Kurzpublikation der Reihe „KI Kompakt“ zum Thema „Hybride KI“ an, in der Grundlagen der Technologie erklärt und an Anwendungsbeispielen illustriert sowie Chancen und Herausforderungen dargelegt werden. Weiterhin hat die AG begonnen, Ergebnisse aus dem Runden Tisch zu „Edge AI“ sowie einem Workshop zum Thema auf der diesjährigen PLS-Konferenz in ein Whitepaper einzubringen.
|
 |
AG 2
Arbeit/Qualifikation, Mensch-Maschine-Interaktion |
arbeitet in einem Whitepaper daran, wie KI auf unterschiedliche Weise dazu beitragen kann, den Fachkräftemangel zu bekämpfen. Anhand der vier Säulen Automatisierung, Migration, Weiterbildung und Partizipation am Arbeitsmarkt werden KI-Beiträge mit anschaulichen Beispielen illustriert. Zudem steht eine Kurzpublikation der Reihe „KI Kompakt“ zum Thema innovationsförderliche Unternehmenskultur in Unternehmen an. Darüber hinaus wird die AG die Themenwebseite KI in der Arbeitswelt: Für Menschen gemacht mit einer Use Case-Sammlung erweitern, die aufzeigt, wie KI die Arbeit im Zusammenspiel mit dem Menschen verändert.
|
 |
AG 3
Unterarbeitsgruppe IT-Sicherheit und Privacy |
hat das Whitepaper Datenschatz für KI nutzen, Datenschutz mit KI wahren veröffentlicht. In ihren Sitzungen diskutiert die AG Fragen der IT-Sicherheit in Edge AI und lässt diese im AG-übergreifenden Whitepaper zu Edge AI einfließen. Zudem beleuchtet die AG mittels Technologiesteckbriefen verschiedene Aspekte der IT-Sicherheit beim Einsatz von KI-Technologien, bspw. in Smartphones und an Grenzkontrollen. Ziel ist es, im Spannungsfeld neuer Regulierungen, der Weiterentwicklung von KI-Technologien und neuer Bedrohungslagen vorhandenes Wissen zu IT-Sicherheit zu bündeln, zu aktualisieren und offene Fragen zu identifizieren.
|
 |
AG 3
Unterarbeitsgruppe Recht und Ethik |
erarbeitet ein Whitepaper, das die Einsatzmöglichkeiten von KI im Rechtswesen kritisch beleuchtet. Mit Praxisbeispielen soll entlang steigender Autonomiegrade der KI veranschaulicht werden, wie KI in der juristischen Selbsthilfe BürgerInnen unterstützen, AnwältInnen bei ihren Aufgaben entlasten und schließlich selbst Urteile fällen kann. Dabei werden auch rechtliche und ethische Grenzen aufgezeigt sowie notwendige Handlungsansätze für eine verantwortungsvolle Nutzung zur Entlastung des Rechtswesens diskutiert.
|
 |
AG 4
Innovation, Geschäftsmodelle und -prozesse |
beschäftigt sich momentan – angetrieben durch wertvolle Impulse auf der PLS-Konferenz im Juni – insbesondere mit den unternehmerischen und gesellschaftlichen Dimensionen von Wertschöpfung und des Wertversprechens durch KI. Darüber hinaus befasst sich die AG auch mit ethischen, wirtschaftlichen und gesellschaftlichen Implikationen generativer KI.
|
 |
AG 5
Mobilität und intelligente Verkehrssysteme |
befasst sich mit den Potenzialen von KI für kommunal gesteuerte, multimodale Mobilitätssysteme, welche die KI-Ansätze „Federated Learning“ sowie „ML-Ops“ nutzen sollen. Zudem erscheint in Kürze die Publikation „Vertrauen in KI-basierte Mobilität“, die auf den Ergebnissen des Symposiums „Vertrauen in KI-basierte Mobilitätsanwendungen“ fußt. Eine Aufzeichnung des Symposiums ist online verfügbar.
|
 |
AG 6
Gesundheit, Medizintechnik, Pflege |
arbeitet aktuell an zwei Whitepapern: Eines thematisiert KI in der Medikamentenentwicklung und beschäftigt sich mit verfügbaren Anwendungen, den Potenzialen sowie Hemmnissen bei der Umsetzung von KI in der Präklinik, den klinischen Phasen, der Zulassung und der Pharmakovigilanz von Medikamenten. Es soll Ende des Jahres erscheinen. Das zweite Paper untersucht die Nutzung von KI für Prozessinnovationen im Gesundheitssystem, die niedrigschwellig umsetzbar sind und unmittelbare Einsparungen oder Effizienzgewinne ermöglichen. Dazu wurde auch über die AG hinaus relevanter Input auf der PLS-Konferenz (Juni 2023) gesammelt; das Papier soll auf der DMEA 2024 vorgestellt werden.
|
 |
AG 7
Lernfähige Robotiksysteme |
beschäftigt sich mit dem Thema „Lernen durch Interaktion“. Nach Festlegung einer modularen und typologischen Definition „lernfähiger Robotiksysteme“ diskutierte die AG eine Reihe von Use Cases für „Lernen durch Interaktion“ aus unterschiedlichen Anwendungsgebieten. Zudem arbeitet die AG zusammen mit der AG 1 an der Kurzpublikation zu „Hybrider KI“, zu der sie unter anderem ein Anwendungsbeispiel aus der Robotik beisteuert. Ferner ist die AG 7 an dem diesjährigen World Café der Plattform Lernende Systeme auf dem Digital-Gipfel 2023 beteiligt.
|
|
11.11.2023 | Hybrid
|
Sitzung der AG 4, Innovation, Geschäftsmodelle und -prozesse
|
|
28.11.2023 | Virtuell
|
Sitzung der AG 2, Arbeit/Qualifikation, Mensch-Maschine-Interaktion
|
|
30.11.2023 | München
|
Sitzung der AG 5, Mobilität und intelligente Verkehrssysteme
|
|
05.12.2023 | Virtuell
|
Sitzung des Lenkungskreises
|
|
KI-Talente: Wissenschaftlicher Nachwuchs im Porträt
Um die Potenziale von KI in Deutschland zu nutzen, sind Talente gefragt. Den wissenschaftlichen Nachwuchs fördert das Bundesministerium für Bildung und Forschung (BMBF) unter anderem über KI-Nachwuchsgruppen. Dort können NachwuchswissenschaftlerInnen bereits in einem frühen Stadium ihrer Karriere eigenständig forschen, ihr wissenschaftliches Profil stärken und ihre internationale Sichtbarkeit erhöhen. Ziel ist es, exzellente Nachwuchskräfte langfristig im deutschen Wissenschaftssystem zu halten. Die LeiterInnen der KI-Nachwuchsgruppen und ihre Projekte werden in diesem Booklet vorgestellt.
|
|
ChatGPT: Leitlinien für die Wissenschaft
Die Deutsche Forschungsgemeinschaft (DFG) hat erste Leitlinien für den Umgang mit generativer KI formuliert. Eine Stellungnahme der größten Forschungsförderorganisation und zentralen Selbstverwaltungseinrichtung für die Wissenschaft in Deutschland beleuchtet den Einfluss von ChatGPT und anderen generativen KI-Modellen auf die Wissenschaften und das Förderhandeln der DFG. Die Leitlinien bieten WissenschaftlerInnen, Antragstellenden und Begutachtenden eine Orientierung.
|
|
Veranstaltungstipp: TÜV AI Conference
Auf der jährlichen virtuellen Konferenz des TÜV-Verbands rund um Sicherheit und Vertrauen in KI am 9. November beteiligt sich die Plattform Lernende Systeme mit einem eigenen Workshop. Zur Frage, wie sich die Chancen von generativer KI verantwortungsvoll nutzen lassen, diskutieren die PLS-Mitglieder Rahild Neuburger (LMU), Wolfgang Nejdl (L3S Research Center) und Sirko Straube (DFKI) mit den virtuellen Gästen. Die Teilnahme an der Konferenz ist nach vorheriger Anmeldung kostenlos.
|
 |
Plattform Lernende Systeme | Whitepaper
Datenschatz für KI nutzen, Datenschutz mit KI wahren
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme (PLS) ist ein Netzwerk von Expertinnen und Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes Fachwissen und fördert als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen von KI und benennen Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen sie den Weg Deutschlands zu einem führenden Anbieter von vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung von acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei Bundesministerin Bettina Stark-Watzinger (BMBF) und Jan Wörner (acatech).
|
|
Sie interessieren sich für die Arbeit der Plattform Lernende Systeme? Nehmen Sie gerne Kontakt zu uns auf.
|
|
Impressum | Datenschutz
|
|
©2023 Plattform Lernende Systeme
|
 |
|
Wenn Sie diesen Newsletter nicht mehr erhalten möchten, können Sie sich hier abmelden.
|
|
|
