Datenschatz versus Datenschutz: Welche personenbezogenen Daten braucht KI?

Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie, die betriebliche Prozesse verbessern und zum Wohl der Gesellschaft beitragen kann – etwa durch eine personalisierte Gesundheitsversorgung oder Lösungen für mehr Sicherheit im Straßenverkehr. Neben lernenden Algorithmen braucht es dazu jede Menge Daten, mitunter auch personenbezogene. Über das Spannungsfeld von zukunftsorientierten Geschäftsmodellen und informationeller Selbstbestimmung diskutierten Fachleute mit Gästen der Veranstaltungsreihe „acatech am Dienstag“, die am 19. März in Kooperation mit der Plattform Lernende Systeme (PLS) in München stattfand.

Die stetig wachsende Menge und Verfügbarkeit an Daten sowie deren intelligente Verknüpfung ermöglicht neue Anwendungen und Perspektiven. Jan Wörner, Co-Vorsitzender der Plattform Lernende Systeme und acatech Präsident, illustrierte dies in seiner Begrüßung anhand einer per Radartechnik erzeugten Aufnahme des Mauna Kea. Diese zeigt den rund 4.200 Meter hohen Berg auf Hawaii wie auch seinen unterhalb der Meeresoberfläche liegenden Anteil. Aus dieser Perspektive gilt der Mauna Kea mit 10.203 Metern als höchster Berg der Erde.

Das Spannungsfeld zwischen gesellschaftlich relevanten Möglichkeiten KI-basierter Anwendungen und datenschutzrechtlichen Hürden skizzierte Erduana Wald, wissenschaftliche Referentin bei der Plattform Lernende Systeme, anhand von zwei fiktiven Use Cases. Durch das Teilen von individuellen Mobilitätsdaten lässt sich beispielsweise das Flottenmanagement bei Mietfahrzeugen optimieren. Gesundheitsdaten aus Fitness-Apps oder Herzschrittmachern können helfen, die Entstehung von Erkrankungen besser vorherzusagen. Eine Weitergabe dieser Daten erfordert nach aktuellem Recht die Informiertheit und Einwilligung der einzelnen Personen sowie eine Zweckbindung. In der Praxis stellt das häufig eine große Hürde für die Entwicklung innovativer Geschäftsmodelle oder die Nutzung für Forschungszwecke dar.

Personenbezogene Daten schützen – technisch und individuell

Detlef Houdeau, Senior Director Business Development bei Infineon Technologies AG, betonte, dass für die Entwicklung von KI-Anwendungen oft nur ein Teil der Daten nötig sei – beispielsweise Alter und Geschlecht, nicht aber weitere personenbezogene Merkmale. Auch gebe es bereits technische Möglichkeiten, Daten im Interesse des Gemeinwohls flexibel zu nutzen und zugleich den Datenschutz zu wahren, etwa das so genannte Privacy-Preserving Machine Learning oder Datentreuhänder. Allerdings seien diese Möglichkeiten häufig wenig bekannt und juristisch kaum anerkannt, weshalb Interpretationsspielräume und Unsicherheiten blieben. Dies erschwere die wirtschaftliche Anwendung von KI in der Breite.

Die Bedeutung der informationellen Selbstbestimmung betonte Cordula Kropp, Professorin für Soziologie und Direktorin des Zentrums für Interdisziplinäre Risiko- und Innovationsforschung der Universität Stuttgart (ZIRIUS). Nutzende müssten stets entscheiden können, was mit ihren Daten passiert. Die Bereitschaft, Daten zu teilen, sei in der Bevölkerung generell eher groß, wie auch die Erhebungen des acatech TechnikRadar zur Teilung von Mobilitäts-, Gebäude- und Energieverbrauchsdaten für Smart City-Anwendungen zeigen. Nicht zuletzt, weil dies für die Nutzung vieler mobiler Anwendungen vorausgesetzt wird. Eine Alternative zu einer sogenannten informierten Einwilligung (informed consent) gäbe es oft nicht – ähnlich wie bei der Aufklärung zu einer Narkose bei einer anstehenden Operation, so Cordula Kropp. Bei der Interpretation der Daten durch KI-basierte Anwendungen sei mitunter jedoch Vorsicht geboten: Deutet das verstärkte Blinzeln eines Autofahrenden zwingend auf Müdigkeit hin? Oder handelt es sich möglicherweise um eine persönliche Eigenheit?

Digitales Ökosystem für den souveränen Austausch betrieblicher Daten

Für Firmen sei es in der digitalen Transformation wettbewerbsentscheidend, vorhandene Datenschätze zu nutzen, um neue Geschäftsmodelle oder Services zu entwickeln, so Jan Fischer, Projektleiter des bei acatech angesiedelten Gaia-X Hub Germany. Personenbezogene Merkmale spielten in diesem Kontext kaum eine Rolle. Die Sorge insbesondere mittelständischer Unternehmen richte sich vielmehr darauf, wie sich betriebliche Daten sicher und souverän mit Partnern teilen lassen. Für einen verlässlichen und rechtssicheren Austausch brauche es eine europäische Lösung, so Jan Fischer. Mit dem vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderten Projekt Gaia-X entsteht ein europäisches digitales Ökosystem aus vernetzen Datenräumen auf Open-Source-Basis. Ziel ist es, einen Datenaustausch zu ermöglichen, bei dem die beteiligten Unternehmen und Organisationen stets die Souveränität über ihre Daten behalten.

In der anschließenden Diskussion mit dem Publikum lag ein Fokus auf der Frage, was der kürzlich von der EU verabschiedete AI Act zur Regulierung von KI-basierten Anwendungen bringt. Betont wurde die Notwendigkeit einer sogenannten Digital Literacy, dem selbstbestimmten Umgang mit digitalen Anwendungen – sowohl für Verbraucherinnen und Verbraucher als auch für Mittelständler, Ärztinnen und Ärzte und weitere Akteure, die mit datenbasierten Anwendungen arbeiten. Denn, so Detlef Houdeau abschließend: „KI ist gekommen, um zu bleiben – in allen Bereichen unseres Lebens.“

Weitere Informationen zum Thema sowie eine ausführliche Darstellung der vorgestellten Use Cases finden sich im aktuellen Whitepaper Datenschatz mit KI nutzen, Datenschutz mit KI wahren der Plattform Lernende Systeme.