Künstliche Intelligenz: Anthropic meldet erneut Hackerangriff durch eigenes KI

Das US-Unternehmen Anthropic hat einen vierten Cybersicherheitsvorfall mit einer frühen Version seines KI-Modells Claude gemeldet. Wie die Entwicklerfirma am Mittwoch in einem Blogbeitrag mitteilte, ereignete sich der Zwischenfall im Januar mit einer Vorabversion von Claude Opus 4.6. Die Betroffenen seien informiert worden, weitere Details nannte Anthropic nicht. Erst im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme von drei Firmen eingedrungen waren. Ursache war ein Fehler, durch den die Künstliche Intelligenz (KI) versehentlich Zugang zum offenen Internet erlangt ‌hatte.

Anthropic hatte die Vorfälle nach der Überprüfung von 141.006 Testläufen entdeckt. Diese Untersuchung war eingeleitet worden, nachdem ein von OpenAI-Modellen gesteuerter Agent die Infrastruktur des KI‑Start-ups Hugging Face gehackt hatte. Bei der ersten Durchsicht seien jedoch einige Testsitzungen übersehen worden, teilte Anthropic weiter mit. Deren nachträgliche Auswertung im vergangenen Monat habe nun zur Entdeckung des vierten Vorfalls ‌geführt.