ChatGPT im Gerichtssaal: Hessische Richter kopieren erkennbar KI-Quellen

Ein digitaler Fußabdruck im Gerichtsdokument

Die Nutzung Künstlicher Intelligenz (KI) in der deutschen Justiz ist längst keine bloße Theorie mehr. Wie tiefgreifend Sprachmodelle wie ChatGPT in den Arbeitsalltag von Richtern eingedrungen sind, blieb jedoch weitgehend im Verborgenen – bis ein aktueller Vorfall am Hessischen Verwaltungsgerichtshof für Aufsehen sorgte. In einem Beschluss vom 24. Juni 2026, der sich mit dem Aufenthaltsrecht ukrainischer Staatsangehöriger befasst, hinterließ die KI deutliche Spuren, die nun eine Debatte über die Risiken und die Transparenz bei der Verwendung solcher Werkzeuge befeuern.

Der Vorfall: Verräterische Quellenverweise

Im Zentrum des Verfahrens (Aktenzeichen 3 A 2624/25) steht die Frage, ob ukrainische Flüchtlinge, die nach Kriegsbeginn zunächst in Georgien lebten und erst später nach Deutschland einreisten, ein EU-weites Aufenthaltsrecht besitzen. Um diese komplexe Rechtslage zu klären, wandten sich die hessischen Richter an den Europäischen Gerichtshof (EuGH).

Die Aufmerksamkeit verlagerte sich jedoch schnell von der juristischen Fragestellung auf die Entstehung des Beschlusses. Bei der Durchsicht der Quellenangaben stießen Beobachter auf fünf Webverweise, die den Zusatz „source=chatgpt.com“ enthielten. Diese Kennzeichnung belegt zweifelsfrei, dass die Richter bei der Vorbereitung ihrer Entscheidung direkt auf das Sprachmodell von OpenAI zurückgegriffen haben.

Die Tücken der KI-Recherche

Der Einsatz generativer KI als Ersatz für klassische Suchmaschinen birgt erhebliche Gefahren, insbesondere wenn es um die Verifizierung juristischer Fakten geht. Sprachmodelle neigen zu sogenannten Halluzinationen – sie erfinden Informationen oder liefern inkorrekte Quellenangaben, die auf den ersten Blick plausibel erscheinen.

Ein konkretes Beispiel aus dem hessischen Beschluss verdeutlicht dieses Problem: Das Gericht verwies auf ein georgisches Regierungsdekret vom 24. Februar 2026, das den Aufenthalt für Ukrainer verlängern soll. Der von ChatGPT bereitgestellte Link führte jedoch lediglich zu einem Artikel aus dem Jahr 2025. Da der verlinkte Inhalt den Bericht über das Dekret von 2026 gar nicht enthalten konnte, war die Quellenangabe faktisch falsch. Ein ähnlicher Disput ergab sich bei einem Verweis auf eine Änderungsvorschrift von 2015, bei der der KI-Link auf eine Fassung aus dem Jahr 2025 verwies.

Verteidigung des Vorgehens

Der Hessische Verwaltungsgerichtshof räumte gegenüber der Frankfurter Allgemeinen Zeitung (FAZ) ein, dass die KI-Fundstellen die konkreten Angaben nicht korrekt belegten. Dennoch verteidigte das Gericht das Vorgehen. Die Entscheidung sei nicht allein auf Basis von ChatGPT getroffen worden; zusätzliche Nachrecherchen hätten die inhaltliche Richtigkeit des Beschlusses bestätigt. Die fehlerhaften Links hätten somit keinen Einfluss auf das Ergebnis der Entscheidung gehabt.

Als Begründung für den KI-Einsatz führte das Gericht die schwierige Zugänglichkeit georgischer Rechtsquellen an. Hier habe die KI dabei geholfen, Informationen überhaupt erst auffindbar zu machen. Die Fehleranfälligkeit der Technologie sei durch eine anschließende Gegenkontrolle kompensiert worden.

Perspektiven und richterliche Unabhängigkeit

Der Fall wirft grundlegende Fragen für die Zukunft der Rechtsprechung auf. Es bleibt unklar, wie Gerichte künftig mit den sichtbaren Spuren digitaler Recherchen verfahren sollen. Die Entscheidung, ob Hinweise wie „source=chatgpt.com“ in offiziellen Dokumenten verbleiben oder entfernt werden sollten, überlässt der Verwaltungsgerichtshof der richterlichen Unabhängigkeit.

Nach Auffassung des Gerichts gehört die Wahl der Arbeitsmittel zum Kernbereich der richterlichen Freiheit. Voraussetzung sei jedoch, dass keine sensiblen Akteninhalte oder personenbezogenen Daten in externe KI-Systeme eingespeist werden. Ob diese Praxis in anderen Gerichten Schule macht oder ob strengere Richtlinien für die Verwendung von KI-Tools in der Justiz folgen werden, bleibt abzuwarten.