Agent hackt sich eigenständig in australische Regierungswebsite

Der auf künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der Website zugegriffen, auf der Statistiken der Gesundheitsbehörde (Medicare) gelistet waren, sagte Albanese am Mittwoch Journalisten in New York. Der Agent habe einen Weg gefunden, die Datenschutzvorkehrungen zu umgehen »und hat, wenn man so will, ein ›Nein‹ als Antwort nicht akzeptiert«.

Die Situation sei »inakzeptabel«, so Albanese. Er habe mit OpenAI-Chef Sam Altman gesprochen, »um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen«. Er habe zudem seine »Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren«.

»Es dauerte bis zum 10. September, bis überhaupt eine Benachrichtigung erfolgte«, sagte Albanese. Dabei habe es sich um eine E-Mail gehandelt, die »lediglich an das allgemeine Postfach geschickt« worden sei.

Laut OpenAI waren »mehrere australische Regierungswebsites« betroffen

OpenAI teilte wenig später mit, dass laut einer kürzlich durchgeführten Überprüfung »mehrere australische Regierungswebsites« betroffen gewesen seien. Dabei seien »Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung« festgestellt worden.

OpenAI-Modelle hätten während einer internen Bewertung »versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen«, hieß es in der Stellungnahme weiter. »Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.« Zu den abgerufenen Informationen gehörten demnach Gesundheitsstatistiken und interne Dateinamen. Man habe keine Hinweise darauf, dass auf Patientenakten zugegriffen worden sei.

Anthropic-Chef Dario Amodei und Altman hatten erst vor Kurzem dazu aufgerufen, das Tempo zu »verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«. Die dadurch »gewonnene Zeit« solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen. Anlass waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen angriffen. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.

Gleichzeitig herrscht in der KI-Branche jedoch ein harter Konkurrenzkampf – auch mit kostengünstigen Modellen aus China. Die US-Unternehmen stehen außerdem unter wachsendem Druck, ihre gigantischen Investitionen in KI-Infrastruktur in Gewinne umzumünzen.

In diesem Herbst entscheidet sich womöglich, ob wir KI-Supermaschinen dauerhaft kontrollieren werden. Selbst Unternehmensbosse rufen nach mehr Regeln. Doch Donald Trump und Xi Jinping verfolgen eigene Ziele. Mehr dazu erfahren Sie hier in der aktuellen SPIEGEL-Titelstory .