Trotz KI-Fehler korrekt: VGH verlinkt falsche Quellen mit ChatGPT-Parametern

Einsatz von KI-Tools in der Rechtsprechung

Der Hessische Verwaltungsgerichtshof (VGH) steht im Fokus einer Debatte über den Einsatz Künstlicher Intelligenz im juristischen Alltag. In einem Beschluss vom 24. Juni 2026, der sich mit komplexen Fragen zum Aufenthaltsrecht ukrainischer Staatsangehöriger befasst, wurden Quellen verlinkt, die technische Parameter von ChatGPT enthielten. Berichten zufolge führte die Nutzung des KI-Tools zudem zu inhaltlich unpassenden oder fehlerhaften Verweisen.

Fehlerhafte Quellen trotz inhaltlicher Korrektheit

Der konkrete Fall betrifft die Verlinkung georgischer Regierungsdekrete. So verwies ein Link, der eigentlich ein Dekret vom 24. Februar 2026 belegen sollte, auf einen Artikel aus dem Jahr 2025. Ein weiterer Verweis, der ein Dekret aus dem Jahr 2015 stützen sollte, führte stattdessen zu einer Änderungsverordnung aus dem Jahr 2025.

Auf Anfrage betonte der VGH, dass der Beschluss inhaltlich dennoch korrekt sei. Die fehlerhaften Links seien nicht als alleinige Grundlage der Entscheidung zu verstehen. Das Gericht erklärte, dass die entsprechenden Dekrete auch aus anderen Quellen vorlagen. Die KI habe lediglich dabei geholfen, Informationen in einer schwierigen Rechercheumgebung in Georgien zugänglich zu machen, die mit klassischen Instrumenten nur schwer zu finden gewesen wären.

Richterliche Unabhängigkeit und KI-Nutzung

Das Gericht stellte klar, dass der Einsatz von KI-Tools wie ChatGPT zur Recherche grundsätzlich zulässig ist. Die Entscheidung über die Zitierweise und die Gestaltung der Entscheidungsgründe unterliege der richterlichen Unabhängigkeit. Auf die Frage, ob zukünftig Tracking-Parameter wie „source=chatgpt.com“ aus den Dokumenten entfernt werden, gab es keine direkte Zusage.

Sicherheitsvorkehrungen und Grenzen

Der VGH betonte, dass beim Einsatz von KI-Systemen stets eine Gegenkontrolle der Inhalte stattfinde, da die Fehleranfälligkeit und das Risiko von „Halluzinationen“ der Software bekannt seien. Gleichzeitig wurden klare Grenzen für den Umgang mit KI-Tools definiert:

* Keine Eingabe von geschützten Informationen.

* Keine Verarbeitung von Akteninhalten.

* Keine Preisgabe von personenbezogenen Daten.

* Keine Verwendung von Dienst- oder Geschäftsgeheimnissen.

Die Einordnung durch das Gericht verdeutlicht, dass KI als unterstützendes Werkzeug betrachtet wird, das jedoch eine kritische Prüfung durch den Anwender nicht ersetzen kann. Die Debatte über die Transparenz und die Sorgfaltspflicht bei der Quellenangabe in juristischen Dokumenten dürfte durch diesen Vorfall weiter an Bedeutung gewinnen.