KI gegen KI vor Gericht: Beide Seiten erfinden Urteile – Anwälte werden bestraft

Ein geplatzter Prozess durch KI-Fehler

Im US-Bundesstaat Mississippi sorgte ein Zivilprozess vor dem Bundesgericht im Northern District für Aufsehen, der aufgrund einer ungewöhnlichen juristischen Panne vorzeitig abgebrochen werden musste. In einem Streitfall um ausstehende Honorare zwischen dem Kläger Tom Withers und der Stadt Aberdeen standen sich die Rechtsbeistände beider Seiten gegenüber. Wie Berichte belegen, nutzten die Anwälte beider Parteien generative künstliche Intelligenz, um ihre Argumentationen zu stützen. Die Ergebnisse wurden jedoch ohne jegliche menschliche Überprüfung in die offiziellen Schriftsätze übernommen.

Die Konsequenz war gravierend: Beide Parteien präsentierten dem Gericht vermeintliche Präzedenzfälle, die in der juristischen Realität nicht existierten. Die eingesetzten KI-Systeme hatten diese Urteile schlichtweg halluziniert und frei erfunden.

Konsequenzen für die Rechtsbeistände

Richterin Sharion Aycock reagierte auf dieses Versäumnis mit drastischen Maßnahmen. Sie brach die Verhandlung umgehend ab und entzog allen vier beteiligten Anwälten das Mandat für diesen speziellen Fall. Zudem verhängte das Gericht finanzielle Sanktionen in einer Höhe zwischen 1.000 und 3.500 US-Dollar. Einige der Betroffenen erhielten zudem ein zweijähriges Verbot, in diesem Gerichtsbezirk als Anwälte aufzutreten. Der Kläger Tom Withers blieb von den Sanktionen unberührt, da das Gericht ihm keine persönliche Verantwortung für die Arbeitsweise seiner Rechtsvertreter zuschrieb.

Die Risiken der KI-Halluzinationen

Der Vorfall in Mississippi verdeutlicht die Gefahren der sogenannten Halluzinationen bei Sprachmodellen. Diese Systeme sind darauf programmiert, plausibel wirkende Texte zu generieren, wobei sie jedoch keine faktische Korrektheit garantieren können. Im vorliegenden Fall führten die Anwälte faktisch einen Prozess, in dem zwei Chatbots gegeneinander argumentierten, ohne dass ein menschlicher Experte die inhaltliche Richtigkeit der KI-Ausgaben validierte.

Richterin Aycock kritisierte dieses Vorgehen scharf. Sie bezeichnete den Vorfall als ein Paradebeispiel für die Gefahren, die entstehen, wenn KI-Ergebnisse in der Rechtsbranche ungeprüft übernommen werden. Die Pflicht zur inhaltlichen Kontrolle durch Fachkräfte sei durch die Automatisierung nicht hinfällig geworden.

Einordnung und Ausblick

Der Jurist Rob Freund, der den Sachverhalt öffentlich machte, beschrieb das Geschehen als eine „Komödie der KI-Fehler“. Er wies darauf hin, dass die Mandanten letztlich dafür bezahlten, dass ein Algorithmus gegen sich selbst argumentierte. Obwohl die verhängten Sanktionen keinen vollständigen Entzug der Anwaltszulassung bedeuten, ist der Reputationsschaden für die Beteiligten erheblich.

Dieser Fall ist kein Einzelfall. Bereits in der Vergangenheit kam es an US-Gerichten zu Problemen, wenn sich Beteiligte bei der juristischen Recherche blind auf Tools wie ChatGPT verließen. Die aktuelle Entwicklung in Mississippi markiert jedoch eine neue Eskalationsstufe, da erstmals auf beiden Seiten grundlegende Sorgfaltspflichten systematisch verletzt wurden. Für die Rechtsbranche unterstreicht dies die Notwendigkeit, KI-Werkzeuge lediglich als unterstützende Hilfsmittel zu betrachten, während die fachliche Endverantwortung zwingend bei menschlichen Experten verbleiben muss.