Künstliche Intelligenz: Anthropic meldet vierten Hackerangriff durch eigenes KI-Modell

Das US-Unternehmen Anthropic hat einen vierten Cybersicherheitsvorfall mit einer frühen Version seines KI-Modells Claude gemeldet. Wie die Entwicklerfirma am Mittwoch in einem Blogbeitrag mitteilte, ereignete sich der Zwischenfall im Januar mit einer Vorabversion von Claude Opus 4.6. Die Betroffenen seien informiert worden, weitere Details nannte Anthropic nicht. Erst im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme von drei Firmen eingedrungen waren. Ursache war ein Fehler, durch den die Künstliche Intelligenz (KI) versehentlich Zugang zum offenen Internet erlangt hatte.

Anthropic hatte die Vorfälle nach der Überprüfung von 141.006 Testläufen entdeckt. Diese Untersuchung war eingeleitet worden, nachdem ein von OpenAI-Modellen gesteuerter Agent die Infrastruktur des KI-Start-ups Hugging Face gehackt hatte. Bei der ersten Durchsicht seien jedoch einige Testsitzungen übersehen worden, teilte Anthropic weiter mit. Deren nachträgliche Auswertung im vergangenen Monat habe nun zur Entdeckung des vierten Vorfalls geführt.

Mit der Untersuchung der Vorfälle hat Anthropic das unabhängige Forschungsunternehmen METR beauftragt. Dieses erhalte umfassenden Zugang, auch zu Protokollen außerhalb des fraglichen Zeitraums sowie zu Mitarbeitern, die befugt seien, vertrauliche Informationen weiterzugeben. Die zunächst achtwöchige Vereinbarung könne in beiderseitigem Einvernehmen verlängert werden.

KI-Unternehmen stehen wegen solcher Ausbrüche, bei denen KI-Programme unbeabsichtigt ins offene Internet gelangen, zunehmend unter Beobachtung. In der vergangenen Woche hatte die Nachrichtenagentur Reuters gemeldet, dass außer Kontrolle geratene Agenten von OpenAI ein deutschsprachiges Wiki und eine Reihe anderer Websites gekapert hätten. OpenAI hatte diese Panne nach der Veröffentlichung durch Reuters eingeräumt.