Legal AI im Vergleich: Harvey, Legora, Libra & Open Source

Wer aktuell vor einer Tool-Entscheidung für Legal AI steht, sollte eine unbequeme technische Wahrheit kennen:

Harvey, Legora, Libra und Beck-Noxtua sind in ihrem Kern keine eigenen Sprachmodelle, sondern Zwischenschichten – ein Layer zwischen dem Anwender und einem fremden, meist amerikanischen Large Language Model.

Genau diesen Layer hat ein einzelner Jurist mit dem Open-Source-Projekt Mike OSS nach eigener Aussage in etwa zwei Wochen in wesentlichen Teilen nachgebaut und zeigt damit eindrucksvoll, wie wichtig es für Kanzleien ist, eigene Differenzierungsmerkmale aufzubauen.

In der aktuellen Folge von RECHT DISRUPTIV gehen Tim Platner und Sebastian Adams den Markt der Reihe nach durch

Legora positioniert sich auf der eigenen Website als “best for law firms and in-house teams that want collaboration and strong European compliance” und als “collaboration-first AI workspace” – erkennbar eine Abgrenzung gegenüber Harvey als US-Produkt. Technisch ist es im Wesentlichen ein Microsoft-365-Plugin: In Word lassen sich Prompts absetzen, Anlagen sortieren, Schriftsätze entwerfen und prüfen, Ergebnisse mit der mandatierenden Rechtsabteilung teilen. Word und Excel bleiben der kleinste gemeinsame Nenner des juristischen Alltags, und genau dort setzt das Produkt an – bewusst wenig eingreifend in bestehende Abläufe. Unter der Haube nutzt Legora nach eigener Angabe Anthropic. Wie dabei Datenschutz und DSGVO-Konformität konkret gelöst werden, bleibt von außen unklar, obwohl gerade die europäische Compliance aktiv als Verkaufsargument eingesetzt wird.

Harvey verfolgt einen etwas anderen Ansatz und beschreibt selbst: “We created a partner-like model to create a plan and delegate each subtask to the right model.” Eine komplexe, partnerähnliche Aufgabe wird also in Teilaufgaben zerlegt und diese Teilaufgaben werden an jeweils unterschiedliche Modelle verteilt. Das ist aus der Softwareentwicklung bekannt – große Features werden in kleine Änderungen zerlegt, Subagents arbeiten Teilaufgaben ab, weitere Agents führen zusammen und kontrollieren. Sinnvoll ist das nicht nur qualitativ, sondern auch ökonomisch: Für eine reine Datenextraktion braucht es kein Frontier-Modell mit maximaler Leistungsfähigkeit, und jede Tokenanfrage kostet Geld. Ob Legora intern nicht ähnlich vorgeht, lässt sich von außen kaum beurteilen; ausgeschlossen ist es jedenfalls nicht.

Auf dem deutschen Markt fällt Libra auf: von außen ein vergleichbares Feature-Set wie Legora, zusätzlich Wissensmanagement mit Recherche über Wolters Kluwer, Anlagenaufbereitung – und das zu Preisen um etwa 2.000 Euro pro Nutzer und Jahr, was in diesem Umfeld als sehr moderat gilt.

Auffällig ist überhaupt, wie stark sich die Feature-Sets gleichen. Ähnlich wie im ERP-Markt hat sich ein Konsens gebildet: Wer bestimmte Funktionen nicht hat, gilt gar nicht als Legal-AI. Dasselbe gilt für das Marketing – cinematische Bildsprache, Marmor, aufgeräumte Büros mit einem einzigen MacBook, ohne Papier und ohne zusätzliche Bildschirme. Selbst Beck-Noxtua, das mit dem Claim “weniger Hollywood, mehr Substanz” gegen genau diese Ästhetik antritt, ist im Look and Feel erkennbar angelehnt.

Inhaltlich hat Beck-Noxtua allerdings einen strukturellen Vorteil, den kein anderer Anbieter replizieren kann: den Zugriff auf den Datenbestand eines juristischen Verlags und die Möglichkeit, damit tatsächlich eigene Modelle zu trainieren – etwas, das die großen internationalen Anbieter inzwischen nicht mehr tun, weil es sich für sie nicht rentiert. Der Haken liegt im Preismodell. Die Rechts-KI verweist auf Quellen und Fundstellen in Beck-Online, aufrufbar sind diese jedoch nur, sofern das betreffende Beck-Online-Modul zum eigenen Buchungsumfang gehört. Das gute Werkzeug schränkt sich also an der entscheidenden Stelle selbst ein, obwohl der Gesamtaufwand ohnehin hoch ist.

Den eigentlichen Wahrnehmungsbruch hat Mike OSS ausgelöst – der Name ist eine bewusste Spitze gegen Harvey, angelehnt an dessen Gegenspieler Mike Ross aus “Suits”, mit OSS für Open Source Software. Entwickelt von einem Juristen, stark unterstützt durch Werkzeuge wie Claude Code, veröffentlicht unter einer Copyleft-Lizenz: Wer das Projekt weiterentwickelt, muss die eigenen Ergänzungen ebenfalls unter derselben Lizenz veröffentlichen und kann es nicht einfach privatisieren und vermarkten. Über Forks und Pull Requests auf GitHub steuern inzwischen Dritte Funktionen bei. Anfangs hatte das Tool technische Lücken und nicht das vollständige Feature-Set der Kommerziellen – die Botschaft war aber eine andere.

Das ist, glaube ich, auch das Entscheidende an Mike OSS dass so der Wahrnehmungsshift damit einsetzt, nach Motto, Harvey, Legora oder wer auch immer sind ein Layer und diesen Layer kann ich ja beliebig austauschen, weil am Ende auch die nur Anfragen an Anthropic ballern.

— Tim Platner, Jurist und Geschäftsführer von VINQO

Für Kanzleien und Rechtsabteilungen stellt sich damit eine Größenfrage.

Bei Harvey oder Legora richtet man einen SaaS-Account ein und legt los; bei einem eigenen Layer trägt man Betrieb, Sicherheit und unter Umständen auch den Betrieb der Modelle selbst. Dafür verändert sich die Kostenstruktur grundlegend: Statt Tokenkosten, die mit der Nutzung mitskalieren, entstehen im Wesentlichen Hosting-Kosten. Und das Datenschutzthema löst sich anders, wenn Modelle selbst gehostet oder europäisch bezogen werden. Voraussetzung ist eine Mindestgröße und mindestens ein paar Personen, die das Thema treiben und überwachen – Kanzleien, deren IT bislang vor allem Laptops verteilt hat, müssen sich also überlegen, wie tief sie in den Technologiebereich einsteigen. Wer das schafft, baut ein Software- oder Prozess-Asset auf, das gegenüber anderen Kanzleien ein echter Wettbewerbsvorteil sein kann. Wie sich Jurist:innen und Entwickler:innen dabei sinnvoll verzahnen, war schon Thema in der Folge Wie entwickelt man eigentlich Legal Tech Software mit Juristen; wie so etwas produktiv aussieht, zeigt der Blick auf die KI-Funktionen und die Datenextraktion in einer bestehenden Aktenplattform.

Bei der Modellwahl unterscheiden sich die Größenordnungen erheblich. Für Extraktion und Klassifikation reichen kleinere Modelle, die sich auf lokaler Hardware im Bereich einiger Tausend Euro – etwa einem NVIDIA DGX Spark – betreiben lassen. Je komplexer die Aufgabe, desto größer das Modell. Das Open-Weight-Modell Kimi K3 führt Legal-Benchmarks teilweise an und liegt sehr nah an den Frontier-Modellen von Anthropic – benötigt aber Hardware-Investitionen in der Größenordnung einer halben Million Euro, zuzüglich Strom, Kühlung und Rechenzentrum. Für kleinere Einheiten bleibt der Mittelweg: große Open-Weight-Modelle per Pay-per-Use bei europäischen Anbietern, etwa der Deutschen Telekom, teilweise in Deutschland und auf eigenen Servern gehostet – mit deutlich geringeren Tokenkosten als bei Anthropic. Die berufsrechtliche Frage der Berufsgeheimnisträger muss dabei gesondert geprüft werden, trifft aber alle Anbieter gleichermaßen und ist daher kein Unterscheidungsmerkmal.

Ein Wort zu den Benchmarks selbst: Der von Harvey entwickelte Legal-Benchmark ist Open Source verfügbar und lässt sich nachvollziehen, steht aber in der Kritik – teilweise fehlerhafte Testfälle, mangelnde Realitätsnähe, offenbar sehr schnell und wohl in erheblichem Umfang mit KI-Unterstützung erstellt, geprüft werden unter anderem Nischen wie Weltraumrecht. Dass gerade Harvey und Legora Open-Weight-Modelle in ihren Benchmarks gut aussehen lassen, hat zudem ein eigenes Interesse: Die Tokenrechnung bei den Frontier-Anbietern ist der größte Kostenblock dieser Geschäftsmodelle. Aus der Praxis berichtet Platner von einem Partner einer Großkanzlei mit Harvey im Einsatz, der den Output beim Erstellen von Dokumenten gegen ein lokales, mit fachlichem Kontext angereichertes Modell testete – mit dem überzeugenderen Ergebnis auf den eigenen Rechnern. Die Annahme, teuer bedeute besser, wird also längst praktisch herausgefordert. Wo Spezifität zählt, gewinnt der eigene Kontext.