Open AI pausiert KI-Training nach neuem Zwischenfall

Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte Open AI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von Open-AI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.

Immer weitere Zwischenfälle wurden bekannt

In dem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.

Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem Open-AI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. Open AI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.

Zuletzt wurden mehrere neue Zwischenfälle mit KI von Open AI bekannt. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte Open AI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekannt gewordene Vorfall, bei dem auch Daten von Open-AI-Nutzern betroffen waren.

Websites der US-Regierung betroffen

Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von Open AI auch auf mehreren Websites der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mithilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte Open AI nach einem Bericht der KI-Forschungsfirma Transluce mit.

Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die New York Times berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.

Open AI: KI „interagierte“ auf ungeplante Weise

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von Open AI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Websites Software von Open AI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Websites werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.