Beide Seiten erfinden Urteile: Gericht bricht Prozess ab, weil KI gegen KI argumentierte

Wenn Algorithmen die Rechtsfindung übernehmen

Im US-Bundesstaat Mississippi hat ein Zivilprozess um unbezahlte Honorare ein abruptes Ende gefunden. Was als gewöhnlicher Vertragsstreit zwischen dem Anwalt Tom Withers und der Stadt Aberdeen begann, entwickelte sich zu einem juristischen Lehrstück über die Gefahren unkontrollierter KI-Nutzung. Die zuständige Richterin Sharion Aycock sah sich gezwungen, das Verfahren abzubrechen, nachdem bekannt wurde, dass die Rechtsbeistände beider Parteien ihre Schriftsätze auf Basis von Halluzinationen generativer KI erstellt hatten.

KI-generierte Fakten als Beweisgrundlage

Der Kern des Problems lag in der Arbeitsweise der beteiligten Anwältinnen und Anwälte. Anstatt die juristische Recherche selbst zu führen oder die Ergebnisse der Software kritisch zu hinterfragen, übernahmen beide Seiten die von der KI gelieferten Informationen ungeprüft in ihre Dokumente. Dies führte dazu, dass beide Parteien dem Gericht Präzedenzfälle vorlegten, die in der juristischen Realität schlicht nicht existierten. Die Sprachmodelle hatten die Urteile vollständig erfunden, um die jeweilige Argumentation zu stützen.

Richterin Aycock kritisierte dieses Vorgehen scharf. In einer Zeit, in der die Nutzung von KI in der Rechtsbranche zunimmt, sei dieser Vorfall ein Paradebeispiel für die Risiken, die entstehen, wenn Ergebnisse ohne menschliche Kontrolle übernommen werden. Die Richterin wertete das Verhalten als systematisches Versäumnis der Sorgfaltspflicht.

Sanktionen gegen die Rechtsbeistände

Die Konsequenzen für die beteiligten Juristen waren drastisch. Richterin Aycock entzog allen vier involvierten Anwältinnen und Anwälten das Mandat für den laufenden Fall. Zudem wurden Geldstrafen zwischen 1.000 und 3.500 US-Dollar verhängt. Einige der Betroffenen erhielten darüber hinaus ein zweijähriges Auftrittsverbot für den betreffenden Gerichtsbezirk. Der Kläger Tom Withers selbst blieb von den Sanktionen unberührt, da ihm das Fehlverhalten seiner Rechtsbeistände nicht direkt zugerechnet wurde.

Die neue Eskalationsstufe der KI-Fehler

Bereits in der Vergangenheit gab es Fälle, in denen KI-Systeme in juristischen Kontexten für Aufsehen sorgten. Ein bekannter Vorfall am Bundesgericht in New York im vergangenen Jahr verdeutlichte bereits die Problematik, wenn sich Kläger bei der Recherche blind auf ChatGPT verlassen. Der aktuelle Fall in Mississippi stellt jedoch eine neue Dimension dar: Erstmals standen sich faktisch zwei KI-Systeme gegenüber, die gegeneinander argumentierten, während die menschlichen Anwälte ihre Kontrollfunktion vollständig vernachlässigten.

Der Jurist Rob Freund, der den Vorfall öffentlich machte, bezeichnete das Geschehen als „Komödie der KI-Fehler“. Er wies darauf hin, dass die Mandanten letztlich dafür bezahlten, dass eine KI gegen sich selbst antrat. Für die Anwälte bedeutet der Vorfall neben den finanziellen Einbußen vor allem einen erheblichen Reputationsschaden.

Die Notwendigkeit menschlicher Expertise

Der Vorfall unterstreicht, dass technologische Werkzeuge zwar Prozesse beschleunigen können, die fachliche Endkontrolle durch menschliche Experten jedoch unverzichtbar bleibt. Die sogenannte Halluzination von Sprachmodellen – das Erzeugen plausibel klingender, aber faktisch falscher Informationen – stellt eine fundamentale Herausforderung für die juristische Arbeit dar. Die aktuelle Entwicklung deutet darauf hin, dass Gerichte künftig noch strengere Anforderungen an die Transparenz und die Überprüfung von KI-gestützten Dokumenten stellen werden, um die Integrität der Rechtsprechung zu wahren.