KI bricht aus Sandbox aus: OpenAI schlägt neue Art von Sicherheitsregeln vor

Ein noch nicht veröffentlichtes KI-Modell von OpenAI, das mit seinem Lösungsvorschlag für ein berühmtes mathematisches Problem vor einigen Wochen Schlagzeilen machte, ist erneut Thema – diesmal, weil es sich während interner Tests wiederholt aus seiner Sandbox herausmanövriert hat. OpenAI hat die Sicherheitsmaßnahmen nun entsprechend angepasst. Weiterlesen nach der Anzeige Im OpenAI-Blog beschreiben die Entwickler, was genau passiert ist. In einem internen Test-Szenario hat das Modell zum Beispiel ermittelt, dass die Ergebnisse zu der Aufgabe, die es gerade lösen sollte, im Backend schon von anderen Modellen gespeichert wurden. Darauf hatte es jedoch keinen Zugriff. Also manipulierte es seinen Authentication Token, damit der Zugangsscanner dann den gewünschten Zugriff gewährt. Aus seinem Reasoning geht klar hervor: Es hat aktiv das Ziel verfolgt, sich unerlaubt Zugriff zu verschaffen. Auch bei anderen Testszenarien versuchte die KI, ihre Sicherheitsregeln zu umgehen. Die Entwickler sperrten daraufhin die interne Nutzung des Modells und überarbeiteten die Sicherheitsmechanismen. Neue Sicherheitsmechanismen sollen den Kontext einer Aktion mit bewerten Das Problem hier war: Die einzelnen Aktionen, die die KI ausgeführt hat, um seinen Authentication Token zu manipulieren, waren nicht verboten. Doch das übergeordnete Ziel, das damit verfolgt wurde, war nicht im Sinne der Entwickler. Laut OpenAI ist das ein grundsätzliches Problem: Die Sicherheitsmechanismen bewerten aktuell in der Regel einzelne Aktionen („Ist diese Aktion erlaubt?“), nicht langfristige Ziele („Welches Ziel wird mit dieser Sequenz aus Aktionen verfolgt?“). Besonders bei Modellen, die über längere Zeiträume hinweg komplexe Aufgaben bearbeiten, sei das problematisch. Neues Sicherheitssystem erzielt bessere Ergebnisse – aber noch keine 100 Prozent Weiterlesen nach der Anzeige In ihrem neuen Sicherheitssystem, das sie nach diesen Tests entwickelt haben, änderten sie nun laut eigener Aussage genau das. Wenn das Überwachungssystem bemerkt, dass die KI einzelne Aktionen ausführt, die zusammengenommen darauf abzielen, einen Sicherheitsmechanismus zu umgehen, unterbricht es die KI und meldet den Vorgang an den Nutzer. Dieser kann dann entscheiden, wie es weitergeht. Zusätzlich soll der Endnutzer die einzelnen Schritte nun besser einsehen können und die KI soll sich Anweisungen nun länger merken können. Laut den Entwicklern war auch das manchmal ein Problem. Nach der Implementierung der neuen Mechanismen führte OpenAI einige Tests erneut durch. Das KI-Modell brach nun weniger häufig aus seiner Sandbox aus; ganz verhindern konnten die Entwickler es jedoch noch nicht. Auch bei anderen OpenAI-Modellen wurden problematische Verhaltensweisen beobachtet: GPT-5.6 Sol löschte in einigen Fällen eigenständig Dateien, ohne Rückfrage an den Nutzer. Dass KI-Systeme sich ungewollt verselbstständigen, kommt aktuell bei verschiedenen Anbietern vor.