Wenn die KI „fantasiert“: Was der KG-Beschluss zu erfundenen Urteilen für die anwaltliche Prüfpflicht bedeutet

Generative KI-Tools gehören für immer mehr Kanzleien zum Alltag – beim Entwurf von Schriftsätzen, bei der Recherche, bei der ersten Einschätzung einer Rechtsfrage. Genau darin liegt aber eine Falle, vor der Fachleute seit geraumer Zeit warnen: Klassische Sprachmodelle sind darauf trainiert, plausibel klingenden Text zu erzeugen – nicht zwingend darauf, nur tatsächlich existierende Quellen wiederzugeben. Wenn eine passende Entscheidung fehlt, „erfindet“ das Modell mitunter eine, die plausibel aussieht: mit korrektem Gerichtsformat, glaubwürdigem Aktenzeichen, stimmiger Fundstelle. Das Kammergericht Berlin musste sich nun mit genau einem solchen Fall befassen – und hat der Anwaltschaft eine klare berufsrechtliche Leitplanke gesetzt.

Teil 1: Der Fall – KG Berlin, Beschluss vom 20.11.2025, Az. 17 WF 144/25

Sachverhalt

In einem familienrechtlichen Verfahren beantragte eine Mutter Verfahrenskostenhilfe sowie die Übertragung der elterlichen Sorge für ihre Tochter, weil sie eine Kindeswohlgefährdung durch den Vater befürchtete. Das Amtsgericht wies den Antrag zurück. Gegen diese Entscheidung legte die anwaltliche Vertreterin der Mutter Beschwerde ein und stützte ihre Argumentation unter anderem auf einen vermeintlichen „BGH, Beschl. v. 14.11.2007 – XII ZB 183/07, FamRZ 2008, 137“ sowie eine weitere angebliche Entscheidung des OLG Brandenburg vom 28.07.2016 (13 UF 103/16).

Bei der Überprüfung stellte der Senat fest: Beide Entscheidungen existieren in keiner juristischen Datenbank. Es handelte sich um frei erfundene Fundstellen.

Die Knackpunkte der Entscheidung

Drei Aspekte des Beschlusses sind für die anwaltliche Praxis besonders lehrreich:

Erstens war das Muster der Fälschung tückisch plausibel. Das KG stellte fest, dass die KI womöglich reale Bestandteile – existierende Gerichte, realistische Aktenzeichenformate, plausible Zeitschriftenfundstellen – mit frei erfundenen Daten kombinierte. Genau diese Mischung aus Echtem und Erfundenem macht KI-Halluzinationen im Berufsalltag so gefährlich: Sie fallen einer flüchtigen Lektüre kaum auf, weil sie sich formal nicht von echten Fundstellen unterscheiden.

Zweitens verankerte das Gericht die Prüfpflicht ausdrücklich im Berufsrecht. Nach Auffassung des Senats sind Rechtsanwältinnen und Rechtsanwälte gehalten, mithilfe von KI verfasste Schriftsätze darauf zu überprüfen, ob enthaltene Rechtsprechungszitate „Ergebnis einer ‚fantasierenden‘ KI“ sind. Diese Pflicht folgt sowohl aus dem Mandatsverhältnis als auch aus der Stellung als Organ der Rechtspflege gemäß § 43 BRAO – sie besteht also unabhängig davon, ob überhaupt offengelegt wird, dass KI zum Einsatz kam.

Drittens machte das Gericht deutlich, dass diese Prüfpflicht keine Frage des eingesetzten Tools ist, sondern eine strukturelle Konsequenz der Nutzung generativer Systeme insgesamt. Wer Fundstellen ungeprüft aus einer KI-Ausgabe übernimmt, verletzt seine anwaltlichen Sorgfaltspflichten – ganz gleich, ob ein allgemeiner Chatbot oder ein spezialisiertes Tool verwendet wurde.

Die Entscheidung des Kammergerichts

Die Beschwerde blieb erfolglos. Zusätzlich sprach der Senat eine ausdrückliche Ermahnung aus: Die Verfahrensbevollmächtigte der Mutter wurde „vorsorglich“ darauf hingewiesen, KI-gestützt erstellte Schriftsätze künftig auf ihre Richtigkeit zu prüfen. Eine formale Sanktion blieb zwar aus – der Beschluss liest sich jedoch als deutliches Signal an die gesamte Anwaltschaft, wie ernst die Gerichte das Thema Halluzinationen inzwischen nehmen.

Teil 2: Was eine KI-Rechtsrechercheplattform bei ähnlichen Fällen leisten kann

Der Fall zeigt exemplarisch, warum es einen fundamentalen Unterschied macht, mit welcher Art von KI-Werkzeug in der Kanzlei gearbeitet wird. Ein allgemeiner Chatbot erzeugt Text auf Basis von Wahrscheinlichkeiten – eine spezialisierte KI-Rechtsrechercheplattform arbeitet dagegen auf Grundlage verifizierter Rechtsprechungsdatenbanken. Dieser Unterschied wirkt sich konkret auf mehreren Ebenen aus.

1. Volltextsuche in echten Gerichtsentscheidungen statt generativer Texterzeugung. Eine seriöse KI-Rechtsrechercheplattform wie anita.legal generiert keine Fundstellen frei – sie durchsucht per Volltextsuche tatsächlich existierende Gerichtsentscheidungen und liefert Ergebnisse, die direkt auf das Originaldokument verlinkt sind. Das strukturelle Halluzinationsrisiko, das dem KG-Fall zugrunde lag, entfällt damit von vornherein: Es gibt schlicht keine Fundstelle, die nicht auch tatsächlich nachlesbar wäre.

2. Erleichterte Erfüllung der berufsrechtlichen Prüfpflicht aus § 43 BRAO. Das KG verlangt, dass jedes KI-generierte Zitat eigenverantwortlich verifiziert wird. Bei einer Plattform, die jedes Ergebnis mit dem verlinkten Originaltext hinterlegt, ist diese Prüfung in Sekunden erledigt – ein Klick genügt, um Gericht, Datum, Aktenzeichen und Volltext gegenzuprüfen. Bei einem generativen Chatbot ohne Quellenanbindung bleibt der Anwältin dagegen nur die zeitaufwendige Suche in einer separaten Datenbank, um jede einzelne Fundstelle von Grund auf zu verifizieren – oder eben, wie im vorliegenden Fall, das Risiko, es zu unterlassen.

3. Erhebliche Zeitersparnis statt doppelter Prüfarbeit. Genau diese doppelte Prüfarbeit – erst die KI-Ausgabe erzeugen, dann jede Fundstelle manuell in einer klassischen Datenbank nachschlagen – frisst in der Praxis oft mehr Zeit, als von vornherein direkt in einer verifizierten Rechtsprechungsdatenbank zu recherchieren. Eine KI-Rechtsrechercheplattform mit angebundener Volltextsuche spart also nicht nur das Haftungsrisiko, sondern auch echten Rechercheaufwand.

4. Genauere KI-Urteilsanalyse auf belastbarer Grundlage. Eine KI-Urteilsanalyse ist nur so vertrauenswürdig wie die Datenbasis, auf der sie beruht. Analysiert das System reale, vollständige Entscheidungstexte statt freier Sprachmustererzeugung, lassen sich Kernaussagen, Leitsätze und tragende Erwägungen zuverlässig zusammenfassen – ohne das Risiko, dass zentrale Aussagen frei erfunden werden.

5. Datenschutz- und berufsrechtskonforme Verarbeitung von Mandatsdaten. Ein oft übersehener Aspekt des Falls: Wer Sachverhaltsdetails aus einem laufenden Mandat in einen öffentlichen, nicht auf die anwaltliche Nutzung zugeschnittenen Chatbot eingibt, geht nicht nur ein Halluzinationsrisiko ein, sondern möglicherweise auch ein Datenschutz- und Verschwiegenheitsrisiko nach § 43a BRAO. Eine spezialisierte, DSGVO-konforme KI-Rechtsrechercheplattform ist dagegen für die vertrauliche Verarbeitung von Mandatsdaten ausgelegt – ein Gesichtspunkt, der bei der Auswahl eines KI-Tools für die Kanzlei mindestens so wichtig ist wie die inhaltliche Verlässlichkeit der Ergebnisse.

Strategische Einordnung

Der KG-Beschluss ist kein Einzelfall, sondern Teil einer erkennbaren Entwicklung: Gerichte formulieren zunehmend konkrete Erwartungen daran, wie Anwältinnen und Anwälte mit KI-Werkzeugen umzugehen haben – losgelöst davon, ob der Einsatz von KI offengelegt wird oder nicht. Die Verantwortung für die inhaltliche Richtigkeit eines Schriftsatzes verbleibt vollständig bei der unterzeichnenden Person. Für Kanzleien bedeutet das: Die Wahl des KI-Werkzeugs ist keine rein technische Entscheidung mehr, sondern hat unmittelbare berufsrechtliche Relevanz. Wer auf eine Plattform setzt, die Ergebnisse strukturell an verifizierbare Primärquellen bindet, reduziert das Haftungs- und Rügerisiko von vornherein – statt sich im Nachhinein auf eine zeitaufwendige, fehleranfällige manuelle Prüfung verlassen zu müssen.

Fazit

Der Beschluss des Kammergerichts Berlin macht deutlich: Der sorglose Umgang mit generativer KI kann schnell zu einem berufsrechtlichen Problem werden – bis hin zur gerichtlichen Ermahnung. Wer KI in der Kanzlei einsetzt, kommt an einer Prüfpflicht für jedes generierte Zitat nicht vorbei. Der entscheidende Unterschied liegt jedoch darin, wie aufwendig diese Prüfung ausfällt: Bei einer KI-Rechtsrechercheplattform, die auf echter Volltextsuche in geprüften Rechtsprechungsdatenbanken statt auf freier Texterzeugung beruht, ist die Verifikation eine Sache von Sekunden – und aus einer riskanten Haftungsfalle wird ein Wettbewerbsvorteil für die Kanzlei.

Keywords: Halluzinationen KI im Recht, KI Rechtsrecherche, BRAO-konforme KI, Juristische Quellen richtig prüfen, Volltextsuche Gerichtsentscheidungen

Quelle: KG Berlin, Beschluss vom 20.11.2025 – 17 WF 144/25; berichtet u. a. bei beck-aktuell und BRAK.