Aktuelles

Damit sichere Anwendungen zum Einsatz kommen, will die Europäische Kommission KI-Systeme entsprechend ihrer Risiken regulieren. Expertinnen und Experten der Plattform Lernende Systeme halten diesen Ansatz für notwendig, aber nicht ausreichend, um vertrauenswürdige KI-Systeme zu schaffen. Sie fordern, den konkreten Anwendungskontext eines Systems zu berücksichtigen sowie Beschwerdestellen und klare Haftungsregeln. In einem aktuellen Whitepaper benennen sie zusätzliche Kriterien, um das Gefahrenpotenzial eines KI-Systems beurteilen zu können und zeigen, wie die Verantwortung für Schäden zwischen Akteuren aufgeteilt werden sollte.

Welche Kompetenzen benötigen Beschäftigte für die Zusammenarbeit mit KI-basierten Assistenzsystemen und Robotern? Wie können Unternehmen ihre Mitarbeiterinnen und Mitarbeiter qualifizieren? Diese Fragen untersuchte die Plattform Lernende Systeme gemeinsam mit dem Fraunhofer-Institut für Arbeitswirtschaft und Organisation (IAO) und der Universität Augsburg in einer Befragung von Unternehmen unterschiedlicher Größen und Branchen. Die Ergebnisse diskutierten Expertinnen und Experten aus Wissenschaft, Wirtschaft und Arbeitnehmerverbänden zum Auftakt der neuen Webtalk-Reihe KI.Impulse.

KI-basierte Assistenzsysteme können Ärztinnen und Ärzte künftig bei Diagnose und Behandlung von Krankheiten unterstützen. Müssen sie in Zukunft möglicherweise sogar zu Rate gezogen werden, wenn Patientinnen oder Patienten dies wünschen? Dieser Frage ging die Plattform Lernende Systeme gemeinsam mit der Leibniz Universität Hannover am 22. September in einem fiktiven Gerichtsverfahren nach. Grundlage war ein realitätsnaher Fall, der am Zentrum für Kunst und Medien (ZKM) in Karlsruhe in einer stark vereinfachten Gerichtssituation nachgespielt wurde.