Künstliche Intelligenz ist im Recht angekommen. Sie hilft bei Risikoanalysen und automatisiert Verwaltungsabläufe, und auch in der Vorbereitung von Massenverfahren kommt sie zum Einsatz. Je öfter solche Systeme an Entscheidungen mitwirken, die Menschen unmittelbar betreffen, desto drängender wird eine einfache Frage: Lässt sich nachvollziehen, wie das Ergebnis zustande kam?
Hier setzt Explainable AI an, kurz XAI. Gemeint sind Verfahren, die sichtbar machen, worauf ein Modell seine Ausgabe stützt. Für Jurist:innen ist das mehr als eine technische Feinheit. Nur wer die Gründe einer Entscheidung kennt, kann prüfen, ob sie fair war, und sie notfalls angreifen.
Das Problem: Entscheidungen aus der Black Box
Viele KI-Modelle sind so komplex, dass selbst ihre Entwickler:innen nicht mehr genau sagen können, warum der Algorithmus im Einzelfall so und nicht anders entschieden hat. Das gilt vor allem für Systeme des maschinellen Lernens. Man spricht von einer Black Box: Die Eingabe ist bekannt, das Ergebnis auch, der Weg dazwischen bleibt verborgen.
Für die Rechtswelt ist das ein handfestes Problem. Wie soll jemand gegen eine Entscheidung vorgehen, wenn niemand erklären kann, wie sie zustande kam? Besonders heikel wird es dort, wo viel auf dem Spiel steht: bei automatisierten Einschätzungen in Strafverfahren, bei KI-gestützter Polizeiarbeit oder bei der Frage, ob jemand Sozialleistungen erhält. Wer dort falsch eingestuft wird, spürt die Folgen sofort.
Was Explainable AI anders macht
XAI soll solche Entscheidungen erklärbar machen, und zwar so, dass auch Menschen ohne Informatikstudium damit arbeiten können. In der Praxis haben sich dafür vor allem drei Ansätze etabliert.
Der erste heißt Feature Attribution. Er zeigt, welche Faktoren für ein Ergebnis den Ausschlag gegeben haben und wie stark jeder einzelne ins Gewicht fiel. Der zweite ist die Modellvereinfachung: Ein komplexes Modell wird in einfache, lesbare Regeln übersetzt, die sein Verhalten annähernd wiedergeben. Der dritte Ansatz sind kontrafaktische Erklärungen. Sie beantworten die Frage, was sich hätte ändern müssen, damit das Ergebnis anders ausfällt.
Jurist:innen kennen den Unterschied aus dem eigenen Alltag. Ein Urteil mit tragfähiger Begründung lässt sich prüfen und angreifen. Ein bloßes „so ist es eben“ nicht.
Wie sich Bias damit aufdecken lässt
Verzerrungen in Algorithmen fallen selten von selbst auf. Ein Modell lernt aus historischen Daten, und wenn diese Daten eine Ungleichbehandlung enthalten, übernimmt das Modell sie. Solange nur das Ergebnis sichtbar ist, bleibt das unbemerkt.
Mit den Werkzeugen der XAI ändert sich das. Zeigt die Feature Attribution, dass ein Merkmal wie die Postleitzahl oder das Alter eine Entscheidung stark beeinflusst hat, gibt es einen konkreten Ansatzpunkt. Die kontrafaktische Erklärung macht dann die Gegenprobe: Wäre das Ergebnis bei sonst gleichen Angaben anders ausgefallen, wenn die Person an einer anderen Adresse wohnen würde? Aus einem diffusen Verdacht wird so etwas, das sich belegen und rechtlich einordnen lässt.
Transparenz ist rechtlich geboten
Erklärbarkeit ist kein freiwilliges Extra. An mehreren Stellen verlangt das geltende Recht sie bereits. Die DSGVO untersagt ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung im Grundsatz (Art. 22) und gibt Betroffenen einen Anspruch auf aussagekräftige Informationen über die involvierte Logik (Art. 15 Abs. 1 lit. h). Der Anspruch auf rechtliches Gehör aus Art. 103 Abs. 1 GG läuft leer, wenn Betroffene nicht erfahren, worauf sich eine Entscheidung stützt. Und wer eine Benachteiligung nach dem AGG rügen will, braucht Anhaltspunkte dafür, welche Merkmale in die Entscheidung eingeflossen sind.
Für die Beratung folgt daraus: Ein System, dessen Entscheidungen sich nicht begründen lassen, ist für den Betreiber ein rechtliches Risiko und für die Gegenseite ein Angriffspunkt.
Erklärbarkeit in der Rechtsrecherche: Wo Anita ansetzt
Dieselbe Frage stellt sich, wenn Kanzleien selbst KI einsetzen. Eine Antwort, deren Herkunft sich nicht prüfen lässt, hilft im Mandat nicht weiter, egal wie überzeugend sie klingt.
Anita ist eine KI-Rechtsrechercheplattform, die für die juristische Arbeit entwickelt wurde und an diesem Punkt ansetzt. Bei jeder Antwort lässt sich Wort für Wort nachvollziehen, wie sie entstanden ist und auf welche Quelle sich die jeweilige Aussage stützt. Ob eine KI-Antwort stimmt, ist dann keine Frage des Bauchgefühls mehr. Sie lässt sich am Original prüfen.
Eines bleibt dabei, wie es ist: Die Prüfung selbst nimmt Ihnen kein Werkzeug ab. Erklärbare KI sorgt dafür, dass sie in vertretbarer Zeit möglich ist.
Fazit
Transparente KI ist keine Zukunftsvision. Wo Algorithmen an Entscheidungen über Menschen mitwirken, ist sie die Voraussetzung dafür, dass Recht und Technik zusammenpassen. XAI liefert die Werkzeuge, um Verzerrungen zu finden und zu belegen. Für die Rechtsrecherche zeigt Anita, dass niemand einer KI blind vertrauen muss. Man kann ihre Antworten prüfen und, wo nötig, korrigieren.