Best Practice: Wo gibt es schon heute Regeln für KI?

Momentan wird auf europäischer Ebene erstmalig eine verbindliche Regelung für Künstliche Intelligenz (KI), der AI Act, entwickelt. In Deutschland hat das Deutsche Institut für Normung (DIN) an der wegweisenden KI-Normungsroadmap gearbeitet. Darüber hinaus existiert bereits heute eine Vielzahl an Leitfäden und Prüfkatalogen, mit denen zu einer gelingenden KI-Regelsetzung beigetragen wird.

Überblick zu bestehenden Leitfäden und Prüfkatalogen

Unterschiedliche Akteure aus dem Bereich der Standardisierung und KI-Forschung in Deutschland haben erste Angebote entwickelt, die die Regelung von KI-Systemen vorantreiben. Hier ein Überblick zu verschiedenen Ansätzen und Leitlinien:

Bundesamt für Sicherheit in der Informationstechnik (BSI)

Kriterien-Katalog für KI in Cloud-Diensten AIC4: Formulierung von Mindestanforderungen zur sicheren Verwendung von Methoden des Maschinellen Lernens in Cloud-Diensten (Spezifikation des Cloud Service Compliance Criteria Catalogue C5) (Link)

Deutsches Institut für Normung e.V (DIN)

Neben der KI-Normungsroadmap, die einen übergreifenden und richtungsweisenden Charakter hat, entwickelt das DIN konkrete und praxisnahe Regelungsansätze für KI in konkreten Kontexten:

Deutsche UNESCO-Kommission
Fraunhofer Institut für Intelligente Analyse- und Informationssysteme (IAIS)

 

  • KI-Prüfkatalog Leitfaden zur Gestaltung vertrauenswürdiger KI: zur Nutzung von unabhängigen Prüforganisationen und zur Eigenevaluation durch Entwickler und Anwender
  • Beratungsangebot von Expertinnen und Experten zur Prüfung, Absicherung und Zertifizierung von KI-Systemen: Ziel einer transparenten, verlässlichen, sicheren und datenschutzkonformen KI-Anwendung
Institut der Wirtschaftsprüfer in Deutschland e.V. (IDW)

Entwurf eines Prüfungsstandards zur standardisierten Prüfung von KI-Systemen

AI Ethics Impact Group

Rahmenwerk zur Übertragung ethischer Prinzipien für KI-Systeme in die Praxis

Zertifizierungsinitiativen TÜV SÜD
  • Angebot an Reifegradanalysen, Guided Assessments und Trainings u.a. zur Qualität, Sicherheit und Ethik von KI-Systemen
Zertifizierungsinitiativen TÜV NORD
  • Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen
Zertifizierungsinitiativen DEKRA
  • Angebote zur Prüfung und Zertifizierung der Sicherheit von KI-Systemen

Publikationen zum Thema

KI-Systeme schützen, Missbrauch verhindern

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Lebensfeindliche Umgebungen
AutorInnen: Beyerer, J., Müller-Quade, J. et al.
Erschienen: März 2022

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2021

Zertifizierung von KI-Systemen

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2020

Ethik-Briefing

Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen

Hrsg.: AG IT-Sicherheit, Privacy, Recht und Ethik
AutorInnen: Jessica Heesen et al.
Erschienen: Oktober 2020