Regeln für KI: Welche gibt es heute schon?

Auf europäischer Ebene hat die EU erstmalig eine verbindliche Regelung für Künstliche Intelligenz (KI), den AI Act, entwickelt. In Deutschland hat das Deutsche Institut für Normung (DIN) an der wegweisenden KI-Normungsroadmap gearbeitet. Darüber hinaus existiert bereits heute eine Vielzahl an Leitfäden und Prüfkatalogen, mit denen zu einer gelingenden KI-Regelsetzung beitragen wird.

Überblick zu bestehenden Leitfäden und Prüfkatalogen aus Deutschland

Unterschiedliche Akteure aus dem Bereich der Standardisierung und KI-Forschung in Deutschland haben erste Angebote entwickelt, die die Regelung von KI-Systemen vorantreiben. Hier ein Überblick zu verschiedenen Ansätzen und Leitlinien:

AI Ethics Impact Group

Rahmenwerk zur Übertragung ethischer Prinzipien für KI-Systeme in die Praxis

Bundesamt für Sicherheit in der Informationstechnik (BSI)

Kriterien-Katalog für KI in Cloud-Diensten AIC4: Formulierung von Mindestanforderungen zur sicheren Verwendung von Methoden des Maschinellen Lernens in Cloud-Diensten (Spezifikation des Cloud Service Compliance Criteria Catalogue C5) (Link)

DEKRA

Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen

Deutsches Institut für Normung e.V (DIN)

Neben der KI-Normungsroadmap, die einen übergreifenden und richtungsweisenden Charakter hat, entwickelt das DIN konkrete und praxisnahe Regelungsansätze für KI in konkreten Kontexten:

Leuchtturmprojekt safe.trAIn: sichere KI im fahrerlosen Regionalzug
Leuchtturmprojekt KI Tauglichkeit von Normen
Leuchtturmprojekt Zertifizierte KI
DIN SPEC Praxisbeispiel „Leitfaden für die Entwicklung von Deep-Learning-Bilderkennungssystemen“: Präzise Bilderkennung mit KI
DIN SPEC Praxisbeispiel „Leitfaden für die Entwicklung von Deep-Learning-Bilderkennungssystemen in der Medizin“: Automatisierte Bildanalysen für die Medizin
DIN SPEC Praxisbeispiel „Qualitätsanforderungen für videobasierte Methoden der Personalauswahl“
DIN SPEC Praxisbeispiel „Übertragung von sprachbasierten Daten zwischen Künstlichen Intelligenzen“: Universal Namespace Protokoll; Festlegung von Parametern und Format
DIN SPEC Praxisbeispiel „Life Cycle Prozesse und Qualitätsanforderungen für KI“: Qualitäts-Meta-Modell, Robustheit und Erklärbarkeit

Deutsche UNESCO-Kommission

Broschüre UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz. Bedingungen zur Implementierung in Deutschland

Fraunhofer Institut für Intelligente Analyse- und Informationssysteme (IAIS)

KI-Prüfkatalog Leitfaden zur Gestaltung vertrauenswürdiger KI: zur Nutzung von unabhängigen Prüforganisationen und zur Eigenevaluation durch Entwickler und Anwender
Beratungsangebot von Expertinnen und Experten zur Prüfung, Absicherung und Zertifizierung von KI-Systemen: Ziel einer transparenten, verlässlichen, sicheren und datenschutzkonformen KI-Anwendung

Institut der Wirtschaftsprüfer in Deutschland e.V. (IDW)

Entwurf eines Prüfungsstandards zur standardisierten Prüfung von KI-Systemen

TÜV NORD

Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen

TÜV SÜD

Angebot an Reifegradanalysen, Guided Assessments und Trainings u.a. zur Qualität, Sicherheit und Ethik von KI-Systemen

Internationale Abkommen und Normen

Großbritannien und USA

Die Sicherheitsbehörden aus UK und USA haben mit Unterstützung 16 weiterer Länder einen Leitfaden zur Entwicklung sicherer KI-Systeme entwickelt.

Die G7-Staaten haben im sogenannten Hiroshima-Prozess Leitlinien für vertrauenswürdige KI-Systeme entwickelt.

OECD

Die OECD erließ bereits 2019 Empfehlungen für Künstliche Intelligenz.

Publikationen zum Thema

KI-Systeme schützen, Missbrauch verhindern

AGs IT-Sicherheit, Privacy, Recht und Ethik und Lebensfeindliche Umgebungen
AutorInnen: Beyerer, J., Müller-Quade, J. et al.
Erschienen: März 2022

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2021

Zertifizierung von KI-Systemen

AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2020

Ethik-Briefing

Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen

AG IT-Sicherheit, Privacy, Recht und Ethik
AutorInnen: Jessica Heesen et al.
Erschienen: Oktober 2020