KI schickte Menschen Phishingmails, um Software infizieren zu können

Dieser Ausdruck wurde am 05.08.2026 erstellt und ist ausschließlich für den persönlichen Gebrauch lizenziert. Andere Nutzungen verletzen das Urheberrecht Zwischenfall bei IT-Forschungsprojekt KI schickte Menschen Phishingmails Um öffentlich zugängliche Software infizieren zu können, verschickte ein KI-Programm Phishingmails und kontaktierte Verantwortliche mit einer Fakeidentität. Als die Codemanipulation auffiel, griff die KI zum nächsten Trick. 05.08.2026, 11.53 Uhr Die Serie von Enthüllungen über alarmierende Hackerfähigkeiten führender KI-Modelle reißt nicht ab. Jetzt ertappten britische Sicherheitsforscher künstliche Intelligenz in einem Testlauf beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Um damit durchzukommen, versuchte das KI-Modell der Entwicklerfirma Anthropic den Experten zufolge sogar, per E-Mail einen zuständigen Menschen zu manipulieren. Das KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und des ChatGPT-Entwicklers OpenAI in seinen Tests der Cyberangriffsfähigkeiten absichtlich Zugang zum Internet gewährt. Dabei sei man allerdings davon ausgegangen, dass die KI sich nur Softwarewerkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Man habe »nicht vorhergesehen«, dass das Anthropic-Modell Mythos 5 den Internetzugang für Aktivitäten ausnutzen würde, die sich gegen Menschen richten. Die Forscher räumten auch ein, dass sie das Vorgehen erst nachträglich über eine Auswertung des Datenverkehrs entdeckten. In künftigen Tests wollen sie die Datenströme in Echtzeit besser beobachten. Anthropic und OpenAI hatten in den vergangenen Wochen bereits einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen war (mehr hier ). Diese Eingeständnisse hatten die schon seit Jahren bestehende Sorge vor Cyberattacken mithilfe künstlicher Intelligenz verstärkt. Fake-Identitäten und Phishingmails In dem jüngsten Test legt die Anthropic-KI sich demnach selbst einen Account auf der Softwareplattform GitHub an, die Programmierer weltweit zum Veröffentlichen und Weiterentwickeln von Code benutzen. Die KI versuchte dann, in einem öffentlich zugänglichen Github-Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um die Betreuer der Software von ihrem zugelieferten Code zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishingmails gehört, mit denen Angreifer Menschen etwa Log-in-Informationen abluchsen. Als der bösartige Programmiercode schließlich aufgefallen sei, habe das Anthropic-Modell alles als einen aufrichtigen Fehler dargestellt – und dann versucht, die Schwachstelle in angeblichen Korrekturen wieder unterzubringen. Auch habe Mythos 5 daran gearbeitet, andere KI-Agenten zu infizieren. Der Programmiercode dafür sei nicht auf der Website angezeigt worden, sondern wäre nur von KI-Software über eine Schnittstelle gelesen worden, hieß es (den vollständigen Bericht der Forscher lesen Sie hier ). Deutschland spricht Seien Sie dabei, wenn Deutschland spricht. Treffen Sie am 30. August jemanden, der anders denkt als Sie: Der SPIEGEL ist Teil einer bundesweiten Medieninitiative, die Menschen mit unterschiedlichen Ansichten in persönlichen Eins-zu-eins-Gesprächen zusammenbringt. Erfahren Sie hier mehr über das Projekt. Empfohlener externer Inhalt An dieser Stelle finden Sie einen externen Inhalt, der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden. Externer Inhalt Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung. Externer Inhalt Zur Datenschutzerklärung Nicht der erste Vorfall Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen. Dem AI Security Institute (AISI) zufolge ist unklar, ob die KI bei dem Test verstand, dass sie mit der realen Welt und nicht dem Testumfeld interagierte. Dass die künstliche Intelligenz zur Lösung der Aufgabe öffentlich zugängliche Software manipulieren würde, kam für die Forscher jedenfalls überraschend. Auch KI von OpenAI sei in Testläufen auf eigene Faust im Internet aktiv gewesen, hieß es. Anthropics Mythos 5 ist besonders gut darin, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Deshalb ist das KI-Modell nicht öffentlich verfügbar. Stattdessen bekommen ausgewählte Behörden und Unternehmen Zugang dazu, um ihre Systeme abzusichern. Thorsten Holz hat das Testsystem mitgebaut, aus dem eine Hacker-KI von OpenAI heimlich ausgebrochen ist. Hier sagt er, wie gefährlich KI für die Sicherheit des Netzes wird – und warum er optimistisch bleibt . hda/dpa