Die Normungsroadmap des DIN

Vertrauenswürdige Künstliche Intelligenz (KI) zu gestalten, ist in Deutschland politischer Konsens. 2018 veröffentlichte die Bundesregierung ihre KI-Strategie, um die Entwicklung und Anwendung von KI nachhaltig zu stärken. Eines der Handlungsfelder der KI-Strategie lautet „Standards setzen“ – wozu das Deutsche Institut für Normung (DIN) mit der KI-Normungsroadmap beiträgt. Aufgabe der Initiative war es, frühzeitig Regeln für KI zu entwickeln, die die internationale Wettbewerbsfähigkeit der deutschen Digitalwirtschaft unterstützt und sogleich europäische Werte in die Technik einschreibt.

Handlungsrahmen für die KI-Regulierung

Im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) hat das DIN Normen und Standards erarbeitet, die die KI-Landschaft strukturieren sollen. Fast 600 Expertinnen und Experten aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft brachten in diesem Prozess ihre Perspektiven ein. Die Plattform Lernende Systeme war an der Ausarbeitung der Normungsroadmap beteiligt.

Ziel der Normungsroadmap war ein klarer Handlungsrahmen, in dem über technische Standards beispielsweise die Qualität, Transparenz oder Erklärbarkeit von KI-Systemen geregelt ist. So sollte zu einer vertrauenswürdigen KI in Entwicklung und Anwendung beigetragen werden.

Woraus besteht die Normungsroadmap?

Die KI-Normungsraodmap des DIN besteht aus zwei Teilen. In der ersten Ausgabe wurden allgemeine Regelungsbedarfe, Anforderungen und Herausforderungen analysiert und erste Handlungsempfehlungen abgegeben. In der zweiten Ausgabe der Roadmap konzentrierten sich die Expertinnen und Experten auf verschiedene Themenfelder, u.a. Sicherheit, Prüfung/Zertifizierung, industrielle Automation, Mobilität, Medizin, Finanzdienstleistungen sowie Umwelt/Energie. Hier wurde zudem der aktuelle Stand des AI Acts berücksichtigt. So identifizierten die Expertinnen und Experten konkrete Bedarfe für Normen und Standards, die sich unter anderem aus dem geplanten AI Act ergeben haben.

Beide Ausgaben der Normungsroadmap wurden auf den Digital-Gipfeln der Bundesregierung 2020 und 2022 vorgestellt.

  • Erste Ausgabe der Normungsroadmap (veröffentlicht 2020)

  • Zweite Ausgabe der Normungsroadmap (veröffentlicht 2022)

Ziel & Inhalt

Umfassender Überblick über Status quo, Bedarfe, Anforderungen und Herausforderungen bei der KI-Regelsetzung

Handlungsempfehlungen

  • Standards für Datenreferenzmodelle nötig, um Daten sicher, zuverlässig und kompatibel austauschen zu können
  • Übergreifende „Umbrella-Norm“ sinnvoll, die vorhandenen Normen und Prüfverfahren für IT-Systeme bündelt und um KI-Aspekte ergänzt; ergänzbar durch weitere Subnormen
  • Anfängliche Kritikalitäts- bzw. Risikoprüfung von KI-Systemen sinnvoll, um diese in ethisch unkritischen Anwendungsbereichern frei entwickeln zu können
  • Entwicklung eines nationalen Umsetzungsprogramms „TrustedAI“: Basis für standardisiertes Prüfverfahren zur Verlässlichkeit, Robustheit, Sicherheit und Leistungsfähigkeit von KI-Systemen; Deutschland würde damit eine internationale Vorreiterrolle einnehmen
  • Erprobung aller neuen Standards entlang von Use Cases

Ziel & Inhalt

Formulierung von konkreten Handlungsempfehlungen in verschiedenen Themenbereichen & Festlegung von 100 Normungsbedarfen

Handlungsempfehlungen

  • Zentrales Programm zur Konformitätsbewertung und Zertifizierung von KI-Systemen notwendig, um Anforderungen überprüfbar zu machen
  • Standards für Dateninfrastruktur und -qualität schaffen, die Voraussetzung für KI-Systeme bilden
  • Fokus verstärkt auf Nutzerinnen und Nutzer legen und diese in Regelsetzung berücksichtigen
  • Vorgaben für Konformitätsbewertung von KI-Systemen im Anwendungsbereich der Medizin erarbeiten, um praxisnahe Use Cases sicher und innovativ gestalten zu können
  • Erprobung aller neuen Standards entlang von Use Cases
  • Erarbeitung von übergreifenden Datenstandards, um Daten sicher und zuverlässig teilen und nutzbar machen zu können

Was folgt aus der Normungsroadmap?

Die Normungsroadmap gilt als zentraler Handlungsrahmen, an dem sich heutige und künftige Regelungsansätze für eine vertrauenswürdige KI in Deutschland orientieren. Die Roadmap selbst weist dabei noch keine konkreten Normen auf, vielmehr sind in ihr Empfehlungen für sinnvolle KI-Regeln formuliert. Aus den Handlungsempfehlungen der Expertinnen und Experten sollen Schritt für Schritt konkrete Normen entstehen, die dann Gültigkeit in der Praxis besitzen. Das DIN arbeitet beispielsweise an ersten Leuchtturmprojekten.

In diesem Zusammenhang wird der Beschluss des AI Acts eine wichtige Rolle spielen. Idealerweise lassen sich aus ihm folgende Regeln mit den Empfehlungen der Normungsroadmap harmonisieren. Gerade aus dieser Verzahnung kann eine vertrauenswürdige KI „made in Europe“ Gestalt annehmen.

Publikationen zum Thema

KI-Systeme schützen, Missbrauch verhindern

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Lebensfeindliche Umgebungen
AutorInnen: Beyerer, J., Müller-Quade, J. et al.
Erschienen: März 2022

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2021

Zertifizierung von KI-Systemen

Hrsg.: AGs IT-Sicherheit, Privacy, Recht und Ethik und Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2020

Ethik-Briefing

Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen

Hrsg.: AG IT-Sicherheit, Privacy, Recht und Ethik
AutorInnen: Jessica Heesen et al.
Erschienen: Oktober 2020