Die Normungsroadmap des DIN

Vertrauenswürdige Künstliche Intelligenz (KI) zu gestalten, ist in Deutschland politischer Konsens. 2018 veröffentlichte die Bundesregierung ihre KI-Strategie, um die Entwicklung und Anwendung von KI nachhaltig zu stärken. Eines der Handlungsfelder der KI-Strategie lautet „Standards setzen“ – wozu das Deutsche Institut für Normung (DIN) mit der KI-Normungsroadmap beiträgt. Aufgabe der Initiative war es, frühzeitig Regeln für KI zu entwickeln, die die internationale Wettbewerbsfähigkeit der deutschen Digitalwirtschaft unterstützt und sogleich europäische Werte in die Technik einschreibt.

Handlungsrahmen für die KI-Regulierung

Im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) hat das DIN Normen und Standards erarbeitet, die die KI-Landschaft strukturieren sollen. Fast 600 Expertinnen und Experten aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft brachten in diesem Prozess ihre Perspektiven ein. Die Plattform Lernende Systeme war an der Ausarbeitung der Normungsroadmap beteiligt.

Ziel der Normungsroadmap war ein klarer Handlungsrahmen, in dem über technische Standards beispielsweise die Qualität, Transparenz oder Erklärbarkeit von KI-Systemen geregelt ist. So sollte zu einer vertrauenswürdigen KI in Entwicklung und Anwendung beigetragen werden.

Woraus besteht die Normungsroadmap?

Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von YouTube, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Die KI-Normungsraodmap des DIN besteht aus zwei Teilen. In der ersten Ausgabe wurden allgemeine Regelungsbedarfe, Anforderungen und Herausforderungen analysiert und erste Handlungsempfehlungen abgegeben. Die zweite Ausgabe schreibt die Ergebnisse der ersten Ausgabe fort und analysiert den Bestand und Bedarf an internationalen Normen und Standards für KI. Dabei blickt sie neben den bisherigen Themen Grundlagen, Sicherheit, Prüfung/Zertifizierung, Industrielle Automation, Mobilität sowie Medizin auch auf die Themenbereiche Soziotechnische Systeme, Finanzdienstleistungen und Umwelt/Energie. Hier wurde der AI Act berücksichtigt. So identifizierten die Expertinnen und Experten konkrete Bedarfe für Normen und Standards, die sich unter anderem aus dem AI Act ergeben haben.

Beide Ausgaben der Normungsroadmap wurden auf den Digital-Gipfeln der Bundesregierung 2020 und 2022 vorgestellt.

Erste Ausgabe der Normungsroadmap (veröffentlicht 2020)
Zweite Ausgabe der Normungsroadmap (veröffentlicht 2022)

Ziel & Inhalt

Umfassender Überblick über Status quo, Bedarfe, Anforderungen und Herausforderungen bei der KI-Regelsetzung

Handlungsempfehlungen

Standards für Datenreferenzmodelle nötig, um Daten sicher, zuverlässig und kompatibel austauschen zu können
Übergreifende „Umbrella-Norm“ sinnvoll, die vorhandenen Normen und Prüfverfahren für IT-Systeme bündelt und um KI-Aspekte ergänzt; ergänzbar durch weitere Subnormen
Anfängliche Kritikalitäts- bzw. Risikoprüfung von KI-Systemen sinnvoll, um diese in ethisch unkritischen Anwendungsbereichern frei entwickeln zu können
Entwicklung eines nationalen Umsetzungsprogramms „TrustedAI“: Basis für standardisiertes Prüfverfahren zur Verlässlichkeit, Robustheit, Sicherheit und Leistungsfähigkeit von KI-Systemen; Deutschland würde damit eine internationale Vorreiterrolle einnehmen
Erprobung aller neuen Standards entlang von Use Cases

Erste Ausgabe zum Download [PDF]

Ziel & Inhalt

Formulierung von konkreten Handlungsempfehlungen in verschiedenen Themenbereichen & Festlegung von 100 Normungsbedarfen

Handlungsempfehlungen

Zentrales Programm zur Konformitätsbewertung und Zertifizierung von KI-Systemen notwendig, um Anforderungen überprüfbar zu machen
Standards für Dateninfrastruktur und -qualität schaffen, die Voraussetzung für KI-Systeme bilden
Fokus verstärkt auf Nutzerinnen und Nutzer legen und diese in Regelsetzung berücksichtigen
Vorgaben für Konformitätsbewertung von KI-Systemen im Anwendungsbereich der Medizin erarbeiten, um praxisnahe Use Cases sicher und innovativ gestalten zu können
Best Practice-Katalog für sichere und vertrauenswürdige KI-Systeme in der Mobilität entwickeln
Erarbeitung von übergreifenden Datenstandards, um Daten sicher und zuverlässig teilen und nutzbar machen zu können

Zweite Ausgabe zum Download [PDF]

Was folgt aus der Normungsroadmap?

Die Normungsroadmap gilt als zentraler Handlungsrahmen, an dem sich heutige und künftige Regelungsansätze für eine vertrauenswürdige KI in Deutschland orientieren. Die Roadmap selbst weist dabei noch keine konkreten Normen auf, vielmehr sind in ihr Empfehlungen für sinnvolle KI-Regeln formuliert. Aus den Handlungsempfehlungen der Expertinnen und Experten sollen Schritt für Schritt konkrete Normen entstehen, die dann Gültigkeit in der Praxis besitzen. Das DIN arbeitet beispielsweise an ersten Leuchtturmprojekten.

In diesem Zusammenhang spielt der Beschluss des AI Acts eine wichtige Rolle. Idealerweise lassen sich aus ihm folgende Regeln mit den Empfehlungen der Normungsroadmap harmonisieren. Gerade aus dieser Verzahnung kann eine vertrauenswürdige KI „made in Europe“ Gestalt annehmen.

Publikationen zum Thema

AI Act der Europäischen Union: Regeln für vertrauenswürdige KI

Publikation aus der Reihe: KI Kompakt
Hrsg.: Plattform Lernende Systeme
Erschienen: Mai 2024

KI-Systeme schützen, Missbrauch verhindern

Hrsg.: Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik und Arbeitsgruppe Lebensfeindliche Umgebungen
AutorInnen: Beyerer, J., Müller-Quade, J. et al.
Erschienen: März 2022

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Hrsg.: Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik und Arbeitsgruppe Technologische Wegbereiter und Data Science
AutorInnen: Jessica Heesen, Jörn Müller-Quade, Stefan Wrobel et al.
Erschienen: November 2021

Zertifizierung von KI-Systemen

Ethik-Briefing

Leitfaden für eine verantwortungsvolle Entwicklung und Anwendung von KI-Systemen

Hrsg.: Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik
AutorInnen: Jessica Heesen et al.
Erschienen: Oktober 2020