Viele Menschen fürchten KI in der Justiz aus Angst vor Entmenschlichung und Kontrollverlust. Doch was, wenn die eigentliche Gefahr nicht in der Technik liegt, sondern in menschlichen Vorannahmen und strukturellen Verzerrungen? Dieser Beitrag beleuchtet, wo Fehlurteile tatsächlich entstehen, welche Rolle KI sinnvoll übernehmen kann und warum klare Einsatzprinzipien entscheidend sind.
KI in der Justiz: Wovor wir wirklich Angst haben sollten
Rechtssysteme faszinieren mich, weil sie Ordnung versprechen und zugleich zeigen, wie viel Macht und Interpretation in ihnen steckt. Als Juristin war für mich lange klar: Der Mensch soll keiner Maschine ausgeliefert sein.
Heute sehe ich das differenzierter. Nicht, weil ich Technik absolut unkritisch sehe, sondern weil ich gelernt habe, wie fehleranfällig menschliche Entscheidungsprozesse sein können. Die zentrale Frage ist für mich nicht mehr, ob KI in der Justiz eingesetzt werden darf, sondern wie verantwortungsvoll wir mit ihr umgehen und ob wir uns der menschlichen Vorannahmen und Verzerrungen bewusst sind, die wir bislang oft als selbstverständlich hinnehmen.
Entstehen Fehlurteile wirklich erst im Gerichtssaal?
In der öffentlichen Debatte wird oft suggeriert, der Einsatz von KI in der Justiz führe zwangsläufig zu mehr Fehlern und falschen Verurteilungen. Diese Annahme greift zu kurz.
Viele schwerwiegende Fehler entstehen nicht beim Urteil selbst, sondern viel früher:
bei Ermittlungen, bei der Beweiserhebung, bei der Auswahl und Aufbereitung der Akten. Richterinnen und Richter bewerten in der Regel Materialien, die bereits gefiltert, strukturiert und vorinterpretiert sind. Auch sie sind Menschen und arbeiten innerhalb eines Systems, das ihnen bestimmte Informationen liefert und andere nicht.
Richter wenden Recht an, indem sie den Sachverhalt mit dem Gesetzestext abgleichen. Daran ist nichts problematisch. Die Frage ist vielmehr: Warum sollte es grundsätzlich problematisch sein, wenn sie bei dieser Arbeit technisch unterstützt werden?
Gerade im Case Law kann KI entlasten
Besonders deutlich wird das im Case Law. Dort wenden Richter nicht nur bestehendes Recht an, sie entwickeln es weiter. Sie orientieren sich an Präzedenzfällen, vergleichen Sachverhalte, identifizieren relevante Merkmale und entscheiden, welche Aspekte auf einen neuen Fall übertragbar sind.
Das ist eine hochkomplexe intellektuelle Leistung und gleichzeitig anfällig für Inkonsistenzen und subjektive Gewichtungen. Technische Systeme können hier helfen, Muster sichtbar zu machen, Vergleichsfälle systematisch aufzubereiten oder relevante Unterschiede transparent darzustellen. Nicht als Entscheidungsinstanz, sondern als kognitives Werkzeug.
Skepsis gegenüber KI ist nichts Neues
Dass viele Menschen dem Einsatz von KI skeptisch gegenüberstehen, überrascht nicht. Historisch wurden neue Technologien fast immer zunächst kritisch betrachtet: die Eisenbahn, Elektrizität, der Computer, das Internet. Erst mit zunehmender Verbreitung, Alltagstauglichkeit und sozialer Normalisierung wandelte sich Skepsis in Akzeptanz.
KI folgt keinem Sonderweg. Auch hier zeigt sich: Abstrakte Technikängste nehmen ab, sobald konkrete Anwendungen verstanden und eingeordnet werden können.
Nicht die Technologie ist entscheidend, sondern ihr Einsatz
Ob KI in der Justiz legitim und verantwortungsvoll eingesetzt werden kann, hängt nicht von der Technologie selbst ab, sondern von klaren Einsatzprinzipien. Dazu gehören aus meiner Sicht insbesondere:
- Erklärbarkeit und Nachvollziehbarkeit:
KI-gestützte Empfehlungen müssen dokumentiert und juristisch überprüfbar sein. - Verpflichtende Fairness- und Bias-Audits:
Systeme müssen regelmässig auf Diskriminierungsrisiken geprüft werden. - Menschliche Letztverantwortung:
KI darf unterstützen, aber niemals selbst entscheiden. - Klare Haftungs- und Verantwortlichkeitsregeln:
Zuständigkeiten müssen eindeutig geregelt sein. - Kompetenzaufbau in Justiz und Verwaltung:
Ohne technisches Verständnis gibt es keine verantwortungsvolle Nutzung. - Transparente Kommunikation:
Vertrauen entsteht durch Offenheit, nicht durch Intransparenz.
Die Debatte über KI in der Justiz sollte sich weniger um abstrakte Technikängste drehen und mehr um reale Fehlerquellen, klare Regeln und verantwortungsvolle Gestaltung. Vielleicht ist es an der Zeit, nicht nur zu fragen, ob wir Maschinen trauen, sondern auch, wann wir menschlicher Willkür besser nicht allein vertrauen sollten.
