ChatGPT im Gerichtssaal: Hessische Richter kopieren erkennbar KI-Quellen

Inhaltsverzeichnis close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. . In der deutschen Justiz wird bereits Künstliche Intelligenz genutzt. Wie intensiv Sprachmodelle wie ChatGPT bei der Vorbereitung richterlicher Entscheidungen genutzt werden, ist allerdings weniger bekannt. Eine aktuelle Vorlage des Hessischen Verwaltungsgerichtshofs enthüllt, wie schnell aus einer vermuteten KI-Nutzung eine belegbare Tatsache werden kann, wenn verräterische Spuren im Dokument zurückbleiben. Weiterlesen nach der Anzeige In einem Beschluss vom 24. Juni 2026 befasste sich der Hessische Verwaltungsgerichtshof mit der Frage, ob ukrainische Staatsangehörige ein Aufenthaltsrecht in der EU haben, wenn sie nach Beginn des Ukraine-Kriegs zunächst nach Georgien und erst Jahre später nach Deutschland weitergereist sind. Für die Klärung der grundsätzlichen Rechtsfrage unter dem Aktenzeichen 3 A 2624/25 schalteten die hessischen Richter den Europäischen Gerichtshof (EuGH) ein. Aufmerksamkeit erregt allerdings weniger die Vorlage an die Luxemburger Richter, als die Entstehungsgeschichte der Begründung des Beschlusses. ChatGPT als Quelle in Links aufgeführt Bei einer Analyse der Quellenverweise fallen ungewöhnliche Linkadressen auf. Gleich fünf Webverweise enthalten die Endung „source=chatgpt.com“. Damit ist nachvollziehbar, dass die Richter bei der Vorbereitung der Entscheidung direkt auf ChatGPT von OpenAI zurückgegriffen haben. Das mag zunächst wenig spektakulär erscheinen, schließlich werden KI-Systeme zunehmend auch als Alternative zu Suchmaschinen eingesetzt. Der Fall verdeutlicht aber, welche Probleme entstehen können, wenn generative KI zur Recherche juristischer Quellen eingesetzt wird. Sprachmodelle können sogenannte Halluzinationen produzieren und dabei unpassende oder falsche Quellenangaben liefern. Genau das bestätigt laut der Frankfurter Allgemeinen Zeitung (FAZ) auch der hessische Beschluss. Das Gericht verwies demnach darauf, dass ein georgisches Regierungsdekret vom 24. Februar 2026 das Aufenthaltsrecht für Ukrainer bis zum 24. Februar 2027 verlängert habe. Der von ChatGPT gelieferte Link führt aber zu einem Artikel aus dem Jahr 2025. Ein Bericht über das Dekret von 2026 konnte dort also gar nicht vorhanden sein. Korrekte Rechtslage? Der Verwaltungsgerichtshof räumte gegenüber der FAZ ein, dass die konkrete Angabe zum Dekret in der verlinkten Fundstelle nicht belegt werde. Zugleich betonte er, ChatGPT nicht als einzige Informationsquelle genutzt zu haben. Die Verlängerung des Aufenthaltsrechts ergebe sich aus weiteren Quellen, wie Nachrecherchen bestätigt hätten. Die fehlerhafte KI-Fundstelle habe deshalb keine Auswirkungen auf das Ergebnis der Entscheidung. Ein ähnliches Problem trat bei einem georgischen Regierungsdekret von 2015 a. Nach dem Beschluss halten sich die klagenden Ukrainer seit 2022 auf Basis dieser Regelung in Georgien auf. Der hinterlegte Link verweist aber auf eine Änderungsvorschrift von 2025. Weil sich die dort genannten Befristungszeiträume unterscheiden, stellt sich erneut die Frage, ob der Verweis korrekt war. Das Gericht erklärte, die zitierte aktuelle Fassung entwerte den Quellenwert für den maßgeblichen Regelungsgehalt nicht. Ferner werde an anderer Stelle auf die passende Fassung verwiesen. Weiterlesen nach der Anzeige Gericht verteidigt KI-Einsatz Der Beschluss bleibt nach Einschätzung des Gerichts rechtlich korrekt und muss nicht korrigiert werden. Zugleich macht der Fall aber die Grenzen heutiger KI-Systeme sichtbar. Der Verwaltungsgerichtshof begründete den Einsatz etwa mit der schwierigen Zugänglichkeit georgischer Rechtsquellen. KI könne dabei helfen, entsprechende Informationen überhaupt auffindbar zu machen. Wegen der Fehleranfälligkeit sei anschließend eine Gegenkontrolle erfolgt. Offen bleibt, wie Gerichte künftig mit den sichtbaren Spuren solcher Recherchen umgehen. Die Frage, ob Verweise wie „source=chatgpt.com“ künftig aus Dokumenten entfernt werden sollten, will der Verwaltungsgerichtshof der richterlichen Unabhängigkeit überlassen. Diese umfasse auch die Wahl der Arbeitsmittel, solange keine sensiblen Akteninhalte oder personenbezogene Daten in externe KI-Systeme eingegeben würden.