Anthropic-KI stellt Visa-Anträge bei US-Außenministerium

Die US-Firma Anthropic hat in einem Blog neue Vorfälle eigenmächtigen Handelns ihrer KI-Agenten veröffentlicht. Dabei soll die Künstliche Intelligenz (KI) Visaanträge ausgefüllt und der Polizei einen falschen Tipp gegeben haben.

Anthropic schildert die Aktivitäten seiner KI-Agenten, ohne jedoch die betroffenen Websites namentlich zu nennen. Die New York Times berichtet mit Verweis auf vertraute Quellen, dass KI-Modelle über ein Onlineformular des US-Außenministeriums 20 Visaanträge eingereicht hätten. Diese seien jedoch unvollständig gewesen und daher nicht bearbeitet worden.

Außerdem hätten die KI-Agenten auf der Internetseite der Polizei von Philadelphia einen falschen Tipp zu einem Tötungsdelikt eingereicht. In dem Hinweis vom 18. Juli habe der Absender behauptet, Informationen zu einem ungeklärten Fall zu haben.

Nach Angaben der Polizei wurde die Meldung als Spam eingestuft und daher nicht untersucht.

Auch Konkurrenzfirmen melden Vorfälle mit KI

Anthropic gab in seinem Blogbeitrag an, man habe die Aktivitäten der KI-Agenten im Zuge einer im Juli begonnenen Überprüfung der eigenen KI-Vorgänge entdeckt.

Zu diesem Zeitpunkt hatte der Chat-GPT-Entwickler OpenAI bekannt gegeben, dass seine KI-Technologie das KI-Start-up Hugging Face angegriffen hatte. Daraufhin stellten auch Anthropic und andere Labore fest, dass ihre Technologie aus Testumgebungen ausgebrochen war und eigenmächtige Aktionen durchgeführt hatte.