Beide Seiten erfinden Urteile: Gericht bricht Prozess ab, weil KI gegen KI argumentierte

Vor dem Bundesgericht im Northern District des US-Bundesstaates Mississippi ist ein Zivilprozess um unbezahlte Honorare geplatzt. In dem Vertragsstreit stand der Anwalt Tom Withers der Stadt Aberdeen gegenüber. Withers vertrat sich allerdings nicht selbst. Wie das US-Onlinemagazin 404 Media berichtet, lag das Problem in der unzureichenden Arbeitsweise der Rechtsbeistände beider Streitparteien. Sowohl die Anwält:innen von Withers als auch jene der Stadt Aberdeen hatten generative künstliche Intelligenz genutzt, um ihre juristischen Argumentationen zu untermauern. Dabei übernahmen sie die Ausgaben der Software ungeprüft in ihre Schriftsätze. Das Resultat: Beide Seiten legten dem Gericht zur Stützung ihrer jeweiligen Positionen vermeintliche Präzedenzfälle vor, die in der Realität gar nicht existierten. Die KI hatte die angeblichen Gerichtsurteile schlichtweg frei erfunden. Richterin Sharion Aycock brach die Verhandlung daraufhin umgehend ab und entzog allen vier beteiligten Anwält:innen das Mandat für diesen Fall. Zusätzlich verhängte das Gericht Geldstrafen zwischen 1.000 und 3.500 US-Dollar sowie teilweise zweijährige Auftrittsverbote für den Gerichtsbezirk. Der Kläger Withers selbst blieb von den Sanktionen verschont, da er nicht für die Fehler seines Rechtsbeistands verantwortlich gemacht wurde. KI-Systeme argumentieren gegeneinander Der Fall verdeutlicht das Risiko der sogenannten Halluzinationen, bei denen Sprachmodelle plausibel klingende, aber gänzlich fiktive Fakten generieren. Laut den Gerichtsakten ließen beide Parteien faktisch zwei Chatbots gegeneinander antreten, ohne die generierten Ausgaben einer menschlichen Überprüfung zu unterziehen. „In einer Ära der grassierenden, ungeprüften KI-Nutzung in der Rechtsbranche ist dieser Fall ein Paradebeispiel für das Risiko, das damit einhergeht, die Ergebnisse ungesehen durchzuwinken”, rügte Richterin Aycock das Verhalten. Dieses systematische Versäumnis bei der inhaltlichen Kontrolle rechtfertige die verhängten Strafen. Fehlender Kontrollmechanismus bei Textgeneratoren Es ist nicht das erste Mal, dass Sprachmodelle in juristischen Auseinandersetzungen für Probleme sorgen. In US-Gerichten nimmt beispielsweise die Anzahl von KI-generierten Klagen zu, die Menschen ohne anwaltliche Hilfe erstellen. Bereits im vergangenen Jahr sorgte ein Fall am zuständigen Bundesgericht im US-Bundesstaat New York für Aufsehen, weil sich die Klägerseite bei der Recherche auf ChatGPT verlassen hatte. Die aktuelle Entwicklung in Mississippi zeigt jedoch eine neue Eskalationsstufe, da auf beiden Seiten grundlegende juristische Sorgfaltspflichten verletzt wurden. Werkzeuge auf der Basis künstlicher Intelligenz beschleunigen zwar Prozesse, ersetzen aber nicht die fachliche Endkontrolle durch menschliche Expert:innen. Der Jurist Rob Freund, der den Sachverhalt zuerst entdeckte und auf der Kurznachrichtenplattform X teilte, bezeichnete den Vorgang als eine „Komödie der KI-Fehler”. Er wies darauf hin, dass die Mandant:innen im Grunde dafür bezahlt hätten, dass ein Sprachmodell gegen sich selbst argumentiert. Die verhängten Sanktionen bedeuten zwar keinen vollständigen Entzug der Zulassung, beeinträchtigen aber die berufliche Reputation der Beteiligten massiv. Der Fall belegt nachdrücklich, dass die ungeprüfte Auslagerung von Verantwortung an Algorithmen ein enormes Risiko darstellt.