Ein Fall aus New York markiert seit Juni 2023 den Beginn einer Entwicklung, die sich bis heute fortsetzt: Zwei Anwälte legten einem Gericht einen Schriftsatz vor, der sich auf sechs angebliche Präzedenzentscheidungen stützte – keine von ihnen existierte. ChatGPT hatte die Urteile komplett erfunden, samt plausibler Aktenzeichen, stimmiger Zusammenfassungen und dem sprachlichen Duktus echter Entscheidungen. Richter Castel vom Southern District of New York verhängte gegen beide Anwälte je 5.000 Dollar Strafe und ordnete an, dass sie jeden Richter, dessen Name in den frei erfundenen Urteilen auftauchte, persönlich informieren mussten.
Viele lasen den Fall damals als bedauerlichen Einzelfall – ein unvorsichtiges Experiment einer einzelnen Kanzlei, eine Lektion, die man zur Kenntnis nimmt und dann abhakt. Diese Einschätzung hat sich als Irrtum erwiesen.
Der Rechtsanwalt und HEC-Forscher Damien Charlotin führt seither systematisch Buch über jede bekannt gewordene KI-Halluzination in gerichtlichen Verfahren weltweit. Sein Datenbankstand von März 2026: 1.174 erfasste Fälle, davon 518 allein an US-Gerichten seit Anfang 2025. Von einer Beruhigung der Lage kann keine Rede sein – die Kurve zeigt weiter steil nach oben.
01 Aktuelle Entwicklung
Sanktionen nehmen zu
Was sich im ersten Quartal 2026 abspielt, ist längst kein Randphänomen mehr. Es handelt sich um eine Serie konkreter Entscheidungen mit konkreten Konsequenzen für namentlich benannte Anwälte und Kanzleien:
- Sixth Circuit, März 2026: Gesamtstrafe von 30.000 Dollar gegen zwei Anwälte wegen mehr als zwei Dutzend gefälschter Zitate; das Gericht verwies den Fall zusätzlich zur Disziplinarprüfung an den zuständigen Chefrichter.
- Fifth Circuit, Februar 2026: 2.500 Dollar Strafe gegen die texanische Anwältin Heather Hersh – erschwerend wirkte sich aus, dass sie den KI-Einsatz gegenüber dem Gericht nicht offengelegt hatte.
- New Orleans, Februar 2026: 1.000 Dollar Strafe gegen John Walker, dessen Schreiben an die LSU Health Foundation mindestens elf erfundene oder falsch wiedergegebene Zitate enthielt; er hatte dafür sowohl ChatGPT als auch Westlaw Precision AI genutzt.
- Oregon, März 2026: 10.000 Dollar Strafe – 500 Dollar je gefälschtem Zitat bei insgesamt 15 Fällen, zuzüglich 1.000 Dollar für den durch die Gegenseite entstandenen Mehraufwand.
- Morgan & Morgan, 2025: Anwälte der größten US-amerikanischen Personal-Injury-Kanzlei wurden sanktioniert, einer von ihnen verlor seine vorläufige Zulassung.
Bemerkenswert ist nicht nur die wachsende Zahl der Fälle, sondern auch der veränderte Ton der Urteile. Frühe Entscheidungen enthielten häufig noch belehrende Passagen, die signalisierten: Wir wissen, das ist neues Terrain. Diese Zurückhaltung ist verschwunden. Amerikanische wie europäische Gerichte formulieren heute ohne Wenn und Aber, dass es sich um eine Frage der berufsrechtlichen Verantwortung handelt:
„An attorney who signs a brief supported in full or in part by nonexistent law submits a violation. The advent of generative AI did not change that principle.“
— Oregon Court of Appeals, März 2026
Besonders aufschlussreich ist eine weitere Formulierung aus genau diesem Oregon-Urteil: Das Gericht lehnte den Begriff „Halluzination“ für das Geschehene ausdrücklich ab. Seine Begründung: KI nimmt nichts wahr, sie generiert. Sie täuscht sich nicht aus Verwirrung, sondern erzeugt ihre Ausgabe planmäßig nach ihrem Funktionsprinzip. Für die Haftungsfrage ist das ein bedeutsamer Unterschied – denn wertet ein Gericht ein fehlerhaftes KI-Ergebnis als systemimmanentes, designkonformes Verhalten und nicht als Fehlfunktion, wird der Einwand „das System hat versagt, nicht wir“ erheblich schwerer zu vertreten.
02 Studien bestätigen
Halluzination ist planmäßig
Anbieter juristischer KI werben verbreitet mit Halluzinationsraten von unter einem Prozent. Diese Zahl stammt allerdings aus kontrollierten Testumgebungen mit kurzen, klar umrissenen Dokumenten und Anfragen – nicht aus dem tatsächlichen Kanzleialltag.
Eine Stanford-Studie, die allgemeine Sprachmodelle systematisch an juristischen Aufgaben getestet hat, kommt zu deutlich anderen Werten: Bei komplexen Aufgaben wie der Synthese mehrerer Quellen oder der Suche nach Zitaten aus Urteilen liegt die Halluzinationsrate zwischen 58 und 88 Prozent. Selbst spezialisierte, mit juristischen Inhalten trainierte Legal-KI-Tools schneiden in dieser Untersuchung schwach ab: Lexis+ AI kommt auf eine Fehlerrate von 17 Prozent, Westlaw AI auf 34 Prozent.
| Vendor-Behauptung | Beobachtete Realität (komplexe juristische Aufgaben) |
|---|---|
| Unter 1 % Halluzinationsrate | 58–88 % bei komplexen Mehrquellen-Aufgaben (Stanford) |
| Legal-KI zuverlässig für Recherche | Lexis+ AI: 17 % Fehlerrate; Westlaw AI: 34 % (Stanford) |
| Urteilszitate | Phantom-Zitate entstehen auch bei RAG-Systemen |
| Anwender trägt Restrisiko | Anwälte haften vollständig — unabhängig vom Tool |
Die Erklärung für diese Diskrepanz ist einfach: Anbieter-Benchmarks messen Präzision unter optimalen Bedingungen an kurzen, sauberen Dokumenten. Der juristische Alltag sieht anders aus – unstrukturierte Fragestellungen, mehrdeutige Sachverhalte, Quellen aus verschiedenen Jurisdiktionen, Zeitdruck. Unter diesen Bedingungen steigen Halluzinationsraten deutlich an.
Das ist kein Argument gegen den Einsatz von KI in der Rechtsarbeit insgesamt. Es ist ein Argument gegen ihren unkritischen Einsatz dort, wo ein Fehler rechtliche und berufliche Konsequenzen nach sich zieht.
03 Veränderungen
Das Problem wächst – das Risiko bleibt
Obwohl das Thema seit 2023 breit diskutiert wird, steigt die Zahl dokumentierter Fälle weiter. Bloßes Problembewusstsein reicht offenkundig nicht aus, um Verhalten zu ändern. Drei Faktoren erklären, warum:
- Ergebnis klingt überzeugend – Anwälte unter Zeitdruck (und wer steht nicht unter Zeitdruck?) greifen zuerst zur KI und vertrauen dem Ergebnis, weil es professionell wirkt. Die Ausgabe imitiert den gewohnten juristischen Stil, mit Aktenzeichen, Seitenangaben und dem Ton einer Autorität – und erzeugt so eine Sicherheit, die tatsächlich nicht besteht.
- Fehlendes Systemdesign – In den meisten Kanzleien ist die KI-Nutzung nicht fest in einen Prüfprozess eingebunden, sondern läuft individuell am Rand des regulären Arbeitsablaufs. Die Kontrolle der Ausgabe bleibt ein zusätzlicher Schritt, und Zusatzschritte fallen unter Druck als Erstes weg. Das ist keine persönliche Nachlässigkeit, sondern die Folge mangelhafter Prozessgestaltung.
- Viele offene Rechtsfragen – Über 35 US-Anwaltskammern haben bereits Richtlinien zum KI-Einsatz veröffentlicht, die stark voneinander abweichen: Manche verlangen eine Offenlegung bei jeder Einreichung, andere nur auf Nachfrage, wieder andere werten die Unterschrift unter einem Schriftsatz bereits als Zusicherung der inhaltlichen Richtigkeit. In Deutschland existieren bislang allenfalls Leitlinien – etwa die des DAV –, die berufsrechtliche Risiken abmildern sollen; hinzu kommen ungeklärte urheberrechtliche Fragen.
04 Was das für KI in der Kanzlei bedeutet
Die strukturelle Konsequenz — Verantwortung übernehmen
Eine Analyse von developmentcorporate.com zu M&A-Risiken durch Legal-KI bringt den entscheidenden Punkt auf eine knappe Formel: „Professional liability cannot be outsourced to the AI vendor.“ Übersetzt: Berufshaftung lässt sich nicht delegieren – nicht an eine Software, nicht an einen Anbieter, nicht an technische Infrastruktur.
Das klingt selbstverständlich, ist es in der Praxis aber nicht. Es bedeutet konkret, dass jedes KI-Ergebnis, das in eine rechtlich relevante Handlung einfließt, von einem Menschen geprüft und verantwortet werden muss. Das ist keine bloße Sorgfaltsempfehlung, sondern die rechtliche Grundlage, auf der Gerichte inzwischen entscheiden:
„The machine may hallucinate — but the advocate must not.“
— Lexology, Oktober 2025
Daraus folgt keine Absage an KI, sondern eine klare Anforderung an ihre Einbettung. Eine KI, die einen Schriftsatz eigenständig erstellt und direkt in den Versand gibt, ist etwas grundlegend anderes als eine KI, deren Entwurf erst von einem namentlich benannten Anwalt geprüft, freigegeben und dokumentiert wird, bevor er die Kanzlei verlässt. Der Unterschied zwischen beiden Szenarien liegt nicht in der Qualität der KI, sondern in der Prozessarchitektur, in die sie eingebettet ist.
05 Orchestrierte KI
KI als integrierte & auditierbare Technologie
Bei DEPLAW galt von Anfang an eine Prämisse, die zeitweise fast altmodisch wirkte: KI ist ein Task innerhalb eines Workflows, kein eigenständig handelnder Akteur. Sie klassifiziert, extrahiert und entwirft – aber nichts verlässt das System, bevor ein Mensch das Ergebnis geprüft und freigegeben hat.
Was früher zurückhaltend wirkte, liest sich heute strukturell richtig. Die revisionssichere Prozesshistorie von DEPLAW hält zu jedem KI-generierten Entwurf fest: welches Modell verwendet wurde, welche Eingangsdaten zugrunde lagen, wann der Entwurf entstand, wer ihn geprüft hat und wann die Freigabe erfolgte. Dieser Nachweis lässt sich nachträglich nicht verändern – er ist genau der Beleg, den ein Gericht einfordern könnte, und den ein Anwalt im Haftungsfall braucht.
Das ist kein zusätzliches Feature, sondern die Grundlage, auf der sich KI in der juristischen Arbeit überhaupt vertretbar einsetzen lässt. Kanzleien, die KI-Werkzeuge ohne diese Infrastruktur nutzen – ohne dokumentierten Prüfschritt, ohne Freigabeprozess, ohne Nachvollziehbarkeit – setzen ihre Berufszulassung einem Risiko aus, das sie selbst nicht kontrollieren. Dieses Risiko lässt sich strukturell auflösen: nicht durch mehr Vorsicht im Einzelfall, sondern durch eine bessere Architektur.