Behördenchefs warnen: Bürgergeld-Empfänger fluten Jobcenter mit KI-Widersprüchen

Den Mitarbeitern in Jobcentern kommt etwas komisch vor: Die Widersprüche gegen die von ihnen gestellten Sozialleistungs-Bescheide werden immer häufiger. Und auch der Inhalt der Einsprüche ändert sich. Die Leistungsempfänger argumentieren neuerdings seitenlang. Die Briefe sind mit zahlreichen Paragrafen gespickt. Mehrere Jobcenter-Chefs, mit denen FOCUS online sprach, hegen den Verdacht, dass die Widersprüche mithilfe von KI erstellt wurden. Diese Briefe fluten die Behörden und bedeuten erheblich mehr Aufwand, beklagen die Leiter. Zahl der Widersprüche gegen Jobcenter steigt Eine statistische Erhebung, wie viele Widersprüche durch KI generiert wurden, gibt es nicht. Weder einzelnen Jobcentern noch der Arbeitsagentur noch dem zuständigen Arbeitsministerium liegen konkrete Zahlen vor. Ein Indiz ist aber die Gesamtzahl der Widersprüche. Nach einem zwischenzeitlichen Tief ist sie seit 2022 wieder gestiegen. Im vergangenen Jahr gab es laut Arbeitsagentur 501.667 Widersprüche. In diesem Jahr werden es voraussichtlich noch einmal mehr, schon zum Halbjahr waren es mehr als 300.000. Für die Entwicklung gibt es mehrere Gründe. Unter anderem dürfte die geltende Gesetzeslage eine Rolle spielen, wie Jobcenter-Chefs erklären. Durch eher lockere Bürgergeld-Regeln hätten sich zum Beispiel weniger Leistungsempfänger zu Widersprüchen veranlasst gesehen als im zuvor geltenden Hartz-IV-System. Die Steigerung seit 2022 kann das kaum erklären. ANZEIGE ANZEIGE „Leute sind nicht einverstanden und jagen Problem durch die KI“ Ein anderer Faktor, da sind sich die Behördenleiter sicher, sind die aktuellen technischen Möglichkeiten. Fordert man beispielsweise ChatGPT dazu auf, einen Leistungsbescheid des Jobcenters zu prüfen und einen Einspruch zu formulieren, lässt sich sekundenschnell gegen die Arbeit der Jobcenter vorgehen. „Die Leute sind mit irgendetwas subjektiv nicht einverstanden, dann jagen sie ihr Problem durch die KI und bekommen ein Widerspruchsschreiben, das total seriös aussieht“, erhält ein Jobcenter-Chef. „Meinen Mitarbeitern fällt aber sofort auf, dass da etwas nicht stimmen kann.“ KI-Briefe strotzen vor Fehlern Auch andere Behördenleiter berichten, dass auf diese Weise generierte Widersprüche häufig vor Fehlern strotzen. Ein Insider erzählt, dass in vielen Schreiben auf den ersten Blick zu erkennen sei, dass zum Beispiel falsche Paragrafen genannt werden. Mehr als die Hälfte der Zuschriften sei offensichtlich falsch oder ohne Erfolgsaussicht. „Prüfen müssen wir sie trotzdem. Wir können ja nicht sagen: Das kommt von der KI, das schauen wir uns nicht an“, so einer der Jobcenter-Chefs. Das bedeutet: Die Mitarbeiter müssen händisch ran. Denn den KI-generierten Widersprüchen eine KI-gestützte Prüfung entgegenzusetzen, ist nicht vorgesehen. Widersprüche sind ein Geschäftsmodell Die steigende Anzahl an Widersprüchen hat vermutlich auch mit einem neuen Geschäftsmodell zu tun. Im Internet finden sich zahlreiche Anbieter, die mit einer auf die Behördenschreiben spezialisierten KI werben. Größtenteils sind sie in einer Basisversion kostenlos, es gibt aber auch Prüfungen die ein paar Euro kosten. Auf Nachfrage von FOCUS online antworten die Betreiber ähnlich: Es gehe ihnen nicht darum, mehr Widersprüche zu generieren und Jobcenter anzugreifen, sondern den Menschen zu helfen. „Wer informiert ist, seine Ansprüche kennt und die richtigen Worte findet, bekommt in der Regel alle Leistungen, die ihm zustehen“, erklärt Alexander Deibel, der das KI-Tool „Jobsi“ betreibt. „Wer nicht informiert ist – und das sind oft die Schwächsten, die Überforderten, die Eingeschüchterten – bekommt weniger, kennt Fristen nicht oder weiß gar nicht, dass ein Anspruch besteht.“ Erfolgsquote der KI-Tools bleibt unklar Dazu, wie zuverlässig „Jobsi“ Ungereimtheiten in den Bescheiden findet und wie häufig die KI fehlerhafte Widersprüche ausspuckt, hat Deibel keine Statistik. Auch Bartosz Kurek, der von Polen aus „DocuGov.ai“ betreibt, kann solche Zahlen nicht liefern. Er erklärt: „Kunden berichten uns, dass das Tool ihnen dabei geholfen hat, ihre Argumente zu strukturieren, zu verstehen, worauf es in ihrem Fall ankam, und in einigen Fällen ein günstiges Ergebnis zu erzielen.“ Auffällig ist, dass die Websites vieler KI-Anbieter Mängel aufweisen. So fehlte auf der „Jobsi“-Webseite bis zur Anfrage von FOCUS online ein Impressum. Bei „DocuGov.ai“ ist nur versteckt der Hinweis erkennbar, dass das Tool keine echte Rechtsberatung liefern kann. Auch bei „AnalyzeBuddy“, einem weiteren Anbieter, taucht der Hinweis nur versteckt auf. Mehr Widersprüche wegen Bürgergeld-Reform? Hinter „AnalyzeBuddy“ steht Jessica Kürschner. Auf eine Anfrage von FOCUS online antwortet sie nicht. Auf ihrem Tiktok-Kanal erzählt sie aber, sechs Jahre lang in einem Jobcenter gearbeitet zu haben. Über ihre Ex-Kollegen sagt sie: „Die sind zum Teil komplett überfordert mit der Masse, die sie bearbeiten müssen.“ So würden dann Fehler in Bescheiden entstehen, gegen die Einspruch eingelegt werden sollte. Kurioserweise befeuern Tools wie „AnalyzeBuddy“ die massenhafte Einreichung von Widersprüchen, was zu noch mehr Arbeit in den Jobcentern führt. Die Behördenleiter beklagen, dass ihre Mitarbeiter dadurch überlastet werden. Das Problem könnte sich sogar noch verschärfen, vermutet einer: „Ich gehe davon aus, dass die Zahl der Widersprüche weiter steigen wird. Mit dem Bürgergeld gab es einige Erleichterungen. Jetzt wurden die Daumenschrauben mit der neuen Grundsicherung wieder angezogen. Das wollen sich viele nicht gefallen lassen und gehen in den Widerstand“, erklärt der Insider. „Mit KI geht das dann ganz einfach.“ Den Betroffenen bringt das oft wenig. Lehnt das Jobcenter eine Sozialleistung ab, erhält der- oder diejenige auch im Fall eines Widerspruchs zunächst kein Geld. In anderen Fällen kann ein Widerspruch zwar vorübergehend vorteilhaft für die Leistungsempfänger sein. Wird er endgültig abgelehnt, profitieren sie aber trotzdem nicht. Das ist häufig so: Im vergangenen Jahr wurde nur rund 31 Prozent der Widersprüche stattgegeben. Bas-Ministerium schaut kritisch auf KI-Tools Das Problem mit den KI-Briefen ist auch in der Politik ein Thema. Das Arbeitsministerium von Bärbel Bas (SPD) erkennt zwar Vorteile, wenn Menschen mit Künstlicher Intelligenz einen Widerspruch erstellen lassen können. Zugleich registriert man auch den Mehraufwand in den Jobcentern. Das Ministerium schaut kritisch auf die Online-Anbieter: „Es bestehen Grenzen insoweit, als dass solche Angebote teilweise Sachverhalte missverstehen, unzutreffende rechtliche Schlussfolgerungen ziehen, veraltete oder unvollständige Informationen nutzen und Rechtsprechung oder Normen falsch wiedergeben“, so eine Sprecherin zu FOCUS online. Will Bas deshalb politisch eingreifen? Die Sprecherin lässt das offen: „Das Ministerium verfolgt den Fortschritt von KI-Entwicklungen und steht mit den Sozialleistungsträgern in regelmäßigem Austausch, auch um etwaigen rechtlichen Änderungsbedarf frühzeitig zu identifizieren.“