(Vorhersagebasierte) Unterstützungssysteme für richterliche Entscheidungen

Predictive-Justice-Systeme, also vorhersagebasierte KI-Systeme, könnten Richterinnen und Richter in der Entscheidungsfindung unterstützen. Basierend auf großen Datensätzen in Form von Gerichtsurteilen oder Strafakten treffen sie wahrscheinlichkeitsbasierte Risikobewertungen, wie die Rückfallwahrscheinlichkeit, und geben Strafempfehlungen. Zum Einsatz kommen derartige Systeme in einigen US-Bundesstaaten. In Europa wären sie theoretisch auch möglich, als Hochrisikoanwendung gemäß AI Act.

Potenziale:

  • KI-Systeme könnten menschliche Vorurteile und Verzerrungen ausgleichen.
  • Strafzumessungen könnten einander stärker angeglichen werden.
  • Eine maschinelle Bewertung könnte zu neutraleren Urteilen beitragen.

Herausforderungen und Grenzen:

  • Verfügbarkeit und Qualität von Daten: Die unterschiedlichen Formate, in denen Gerichtsentscheidungen vorliegen, und die Tatsache, dass nicht alle digitalisiert sind, stellen eine Herausforderung dar. KI-Systeme müssen mit passenden Datensätzen trainiert werden, bevor solche Unterstützungssysteme aufgebaut werden können. Auch müssen Sprachmodelle die komplexe Sprache des Rechts reproduzieren können, um sinnvoll Anwendung zu finden. Es muss sichergestellt werden, dass die Datensätze keine Verzerrungen in den Urteilen übernehmen.
  • Transparenz und Erklärbarkeit: Unterstützen KI-Systeme richterliche Entscheidungen, deren Vorschläge weder für Richterinnen und Richter noch für die Betroffenen nachvollziehbar sind, kann dies das Vertrauen in die Justiz untergraben. Hinzu kommt die Gefahr des „Automation Bias“, also der menschlichen Tendenz, Vorschläge von automatisierten Entscheidungsfindungssystemen zu bevorzugen. Je größer der Einfluss von KI auf Urteile oder Empfehlungen eines Gerichts ist, desto wichtiger sind Transparenz und Erklärbarkeit.
  • Richterliche Unabhängigkeit: Ein Einsatz von KI darf keinen Eingriff in die richterliche Unabhängigkeit darstellen. Zulässig ist daher nur eine Übernahme rein formaler Aufgaben. Wenn Richterinnen und Richter befürchten müssen, durch eine Auswertung ihrer Urteile kontrolliert und bewertet zu werden, ist ihre richterliche Unabhängigkeit bedroht. Greift KI in Aktivitäten aus dem Kernbereich richterlicher Tätigkeit ein oder beeinflusst diese inhaltlich, muss geprüft werden, ob die Grenze des verfassungsrechtlich Zulässigen überschritten wird. Allein die Richterinnen und Richter sind für den Sachentscheidungsprozess zuständig – und nicht KI-Systeme oder Software-Entwickler.
  • Verbot von automatisierten Entscheidungen: Die Datenschutz-Grundverordnung der Europäischen Union (DSGVO) sichert Betroffenen das Recht zu nicht automatisierten Entscheidungen unterworfen zu sein. Für vorausschauende Entscheidungshilfen bedeutet dies, dass die KI lediglich Informationen und Empfehlungen bereitstellen darf, die Entscheidung aber bei den Richterinnen und Richtern verbleiben muss. Müssen diese sich für abweichende Entscheidungen erklären oder rechtfertigen, ist dieser Grundsatz untergraben.