Nach Hugging-Face-Vorfall: OpenAI bremst und pausiert die Top-Modell-Entwicklung

OpenAI ist weiterhin damit beschäftigt, den Hugging-Face-Vorfall aufzuarbeiten. Eine Konsequenz ist, dass die Sicherheitsrichtlinien bei der KI-Entwicklung verschärft werden. Bis die neuen Verfahren eingeführt sind, wurde sogar das Modelltraining teilweise pausiert. Angesichts immer leistungsfähigerer Modelle ist es laut OpenAI nötig, bei der Entwicklung die Standards für die Kontrolle, Sicherheit und das Alignment zu verschärfen. Sicherheit heißt in diesem Kontext, dass die Modelle etwa keinen Zugang zu Systemen haben, der nicht vorgesehen ist. Anpassungen beim Alignment bedeuten, dass die Modelle tatsächlich so arbeiten, wie es von den Entwicklern vorgesehen ist. Weil dieser Prozess Zeit kostet, bremst OpenAI vorerst die Entwicklung. OpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich „Geplanter Forschungsfall“: GPT-5.6 bricht aus Sandbox aus und in fremdes Netz ein IT-Sicherheitsforscher: OpenAIs Hugging-Face-Hack war menschliches Versagen Davon betroffen sind die Trainingsläufe im Rahmen des Reinforcement Learning (RL) für die neusten Modelle, die auch für den Einsatz vorgesehen sind. Diese pausiert OpenAI laut dem Blog-Eintrag für zwei Wochen. In dieser Zeit sollen die Sicherheitsmechanismen in Forschungsumgebung gehärtet und die Monitoring-Systeme ausgeweitet werden. Beim Hugging-Face-Vorfall bemerkte OpenAI zunächst nicht, dass das Forschungsmodell aus der Testumgebung ausgebrochen ist, um sich Lösungen für Aufgaben auf den Servern von Hugging Face zu suchen. Künftig soll die Kontrolle engmaschiger sein. Vorerst ausgesetzt bleibt auch OpenAIs „größter geplanter Frontier-RL-Lauf“. Aktuell findet der Trainingsbetrieb im kleineren Umfang statt. So will man Wissen über das Modellverhalten sammeln und Sicherheitsvorkehrungen sowie das Alignment beurteilen. OpenAI bremst neben der Entwicklung auch die Testläufe mit Spitzenmodellen Schon direkt nach dem Hugging-Face-Vorfall stoppte OpenAI nach eigener Aussage die Testläufe, die Code ausführen oder Tools nutzen können, die dem Modell einen Zugang zum Internet ermöglichen. Beschränkungen beim Ausführen von Code wurden direkt eingeführt, nun arbeitet OpenAI weiter dran, die Sicherheitsmechanismen im Testbetrieb abzusichern. Neben dem Training hat man also auch die Inferenzphase auf dem Schirm. Zu den Maßnahmen, die nun umgesetzt werden, zählt zunächst das Absichern von Sandbox-Umgebungen. Workloads sollen strenger isoliert sein, wenn KI-generierter oder anderweitiger Code ausgeführt wird, der nicht vertrauenswürdig ist. Stärker absichern will OpenAI auch den Netzwerk-Zugang, sodass Modelle sich nicht mehr eigenständig im Netz oder internen Netzwerken bewegen. Optimiert und automatisiert wurden zudem die Sicherheitstests. Testläufe für neues Astra-Modell in Teilen weiterhin pausiert Diese Vorgaben gelten auch für das kommende Astra-Modell, bei dem OpenAI die Entwicklung zuletzt teilweise gestoppt hat. Der Grund sind die Fähigkeiten im Bereich der Cyber-Sicherheit, daher will man zunächst die verbesserten Standards im Testprogramm umsetzen. Bei einigen Trainings- und Evalulierungsprogrammen ist das bereits der Fall, bei vielen Workloads ist OpenAI aber noch damit beschäftigt, diese an das neue Niveau anzupassen. Teile der Astra-Tests bleiben also weiterhin pausiert.