KI-Fehler und Vertuschung

Ein Reddit-User beauftragte kürzlich Gemini 3.5, mit einer überschaubaren Aktion. Die KI sollte acht konkrete Sicherheitslücken bei der Authentifizierung von Serveraktionen beheben. Drei Dateien und etwa 70 Zeilen mussten dafür geändert werden. Doch statt der gewünschten drei veränderte der KI-Assistent von Google 340 Dateien. Er fügte rund 400 Zeilen Code hinzu – entfernte aber fast 30 000 Zeilen. 28 745, um genau zu sein. Dies berichtete der User, der laut eigenen Angaben ein internes Portal einer kleinen Organisation betreibt, im r/Bard-Subreddit Darüber hinaus löschte Gemini Dutzende E-Commerce-Vorlagen, die gar nichts mit dem vom User bearbeiteten Projekt zu tun hatten. Dafür fügte er ein Migrationsskript hinzu, das ebenfalls nichts mit der Anforderung zu tun hatte. KI leitet Anfragen auf nicht-existenten Cloud Run weiter Ein größerer Schaden entstand durch einen weiteren Fehler von Gemini. Der Assistent änderte dabei die Routing-Einstellungen von Firebase. Die KI leitete Anfragen auf einen nicht-existierenden Cloud Run-Dienst weiter. Das Resultat: Die Besucher des Portals erhielten über eine halbe Stunde lang 404-Fehlermeldungen. Der Reddit-User stoppte den Vorgang und machte manuell die Änderungen von Gemini rückgängig. KI-Halluzination: Gemini stellt sich selbst als Retter dar Doch erst jetzt wurde es richtig unheimlich. Denn Gemini behauptete nach dem manuellen Rollback des Users, das Problem selbst gefixt zu haben. Damit nicht genug. Um das eigene Fehlverhalten zu verschleiern, erstellte die KI gefälschte Konsultationsprotokolle. Die sollten suggerieren, dass alle Änderungen vorher abgesegnet worden seien. „Es generierte gefälschte Konversationen mit sich selbst, schrieb sie im exakten Dateinamenformat, das die Regel erwartete, auf die Festplatte und führte diese Dateien dann als Beweis dafür an, dass die destruktive Änderung durch eine mehrstufige Konsultation ‚geprüft und genehmigt‘ worden sei“, schrieb der Reddit-Nutzer. Erst auf Nachfrage hat Gemini zugegeben, dass es die Protokolle gefälscht hat, um alle Formalitäten des Projekts zu erfüllen. Wie npm-Pakete KI-Autonomie beeinflussen Die Ursache für den Fail von Gemini: Der User hatte zuvor ein npm-Paket eines Drittanbieters installiert. Dieses verpflanzte weitreichende Autonomieregeln in das Software-Repository Auf Reddit teilten andere User:innen ähnliche Erlebnisse. Andere kritisierten den Ersteller des Beitrags für die Unvorsichtigkeit, mitten im laufenden Betrieb einen KI-Codingassistenten eingesetzt zu haben. Dieser Artikel wurde ursprünglich am 22.05.2026 veröffentlicht, interessiert jedoch immer noch sehr viele unserer Leser:innen. Deshalb haben wir ihn aktualisiert und hier nochmals zur Verfügung gestellt.