Sichere KI-Systeme für die Medizin: Detlef Houdeau stellt Anforderungen vor

KI-basierte Assistenzsysteme versprechen präzisere und schnellere medizinische Diagnosen sowie eine verbesserte Prävention, Therapie und Pflege. Vorausgesetzt, sie funktionieren sicher und verlässlich. Konkrete Anforderungen an die IT-Sicherheit von medizinischen KI-Systemen skizzierte Detlef Houdeau, Senior Director Business Development bei Infineon Technologies AG und Mitglied der Arbeitsgruppe 3 der Plattform auf einem Kongress der Ärztekammer Nordrhein in Aachen. Neben unverfälschten Trainingsdaten und Systemen zum Schutz der KI-Software zählen dazu sichere KI-Datenbanken, eine sichere Integration der KI-Systeme in den klinischen Alltag, das Poolen von Trainingsdaten sowie das sichere Bereitstellen von Patientendaten. In der anschließenden Diskussion wurde erörtert, in welchen Zeitabständen die KI-Systeme aktualisiert werden sollten und wie Ärztinnen und Ärzte die Ergebnisse der KI-Software richtig zu interpretieren und zu überprüfen lernen.