Nach OpenAI jetzt Anthropic: Nächste KI verübt Hacker-Angriff

TTS-Player überspringen↵Artikel weiterlesen

Erst OpenAI, jetzt Anthropic: Erneut sorgt eine Künstliche Intelligenz für Aufsehen mit Hacker-Aktionen gegen echte Unternehmen. In internen Tests drangen KI-Modelle des ChatGPT-Konkurrenten Anthropic (bekannt für das KI-Modell „Claude“) unbemerkt in fremde Systeme ein. Besonders brisant: Weder die betroffenen Firmen noch Anthropic bemerkten die Vorfälle zunächst.

KI greift echte Unternehmen an

Die Angst vor KI als digitalem Super-Hacker bekommt neue Nahrung. Nur wenige Wochen nach dem spektakulären Sicherheitsvorfall bei OpenAI hat nun auch der US-Konzern Anthropic eingeräumt, dass seine KI-Modelle während interner Sicherheitstests echte Unternehmen attackierten.

Nach Angaben des Unternehmens wurden die Vorfälle erst bei einer späteren Überprüfung von mehr als 141.000 Testläufen entdeckt. Dabei nutzten drei KI-Modelle ungeplant einen offenen Zugang zum Internet. Eigentlich hätten die Programme gar keinen Zugriff auf das Netz haben sollen. Doch wegen eines Missverständnisses mit einem Testpartner war die Verbindung ins Internet die ganze Zeit verfügbar. Die Namen der betroffenen Firmen nennt Anthropic bislang nicht.

Datenbank geknackt und Schadsoftware verteilt

Besonders heikel verlief einer der Vorfälle mit dem Modell Claude Opus 4.7. Die KI sollte in einer Testumgebung Informationen finden und notfalls auch in Computersysteme eindringen. Dabei stieß sie auf ein reales Unternehmen mit demselben Namen wie die fiktive Testfirma und konzentrierte ihre Angriffe auf das echte Ziel. Laut Anthropic verschaffte sich die KI dabei unter anderem Zugang zu einer Datenbank. Selbst nachdem das Modell erkannt hatte, dass es sich um ein reales Unternehmen handelte, setzte es seine Aktivitäten fort. In einem weiteren Fall programmierte ein KI-Modell sogar eine speziell präparierte Software für einen Einbruch in einen Zielrechner.

Besonders irre: Weil ihr für die Registrierung eine Telefonnummer fehlte, suchte die KI zunächst nach kostenlosen Angeboten. Als sie keine fand, versuchte sie laut Anthropic sogar, an Geld für eine Nummer zu kommen. Erst danach suchte sie sich einen anderen Weg und richtete über einen kostenlosen E-Mail-Dienst ein Konto ein.

OpenAI-Schock als Weckruf für die Branche

Der Vorfall erinnert stark an die jüngst bekannt gewordene Panne bei OpenAI . Dort hatte sich ein KI-Modell eigenständig Zugang zum offenen Internet verschafft und anschließend Systeme der KI-Plattform Hugging Face und weiterer Unternehmen attackiert. OpenAI sprach damals von einem „beispiellosen Cyber-Zwischenfall“.

Sicherheitsexperten warnen seit Jahren davor, dass hochentwickelte KI-Systeme künftig für Cyberangriffe missbraucht werden könnten. Die jüngsten Vorfälle gelten deshalb als Warnsignal für die gesamte Branche.