OpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich

OpenAI zieht bei seinem kommenden KI-Modell Astra vorerst die Sicherheitsbremse. Interne Tests zeigen derart große Fortschritte bei Programmierung und Cybersecurity, dass der Entwickler die höchste Risikostufe „Critical“ nicht mehr ausschließen kann. Aktivitäten ohne entsprechend verschärfte Sicherheitsmaßnahmen wurden pausiert. Astra könnte selbst Zero-Day-Exploits entwickeln Auslöser sind interne Evaluierungen von Astra aus den vergangenen Tagen. Das kommende Modell habe deutliche Fortschritte beim agentischen Programmieren und bei Cybersecurity-Aufgaben gezeigt. Zusammen mit Einschätzungen von Experten seien die Ergebnisse inzwischen stark genug, dass OpenAI eine Einstufung auf der höchsten Cyber-Risikostufe seines Preparedness Framework nicht mehr ausschließen könne. Was sich hinter „Critical“ verbirgt, definiert OpenAI vergleichsweise konkret. Ein Modell erreicht die Stufe demnach etwa dann, wenn es ohne menschliche Unterstützung funktionsfähige Zero-Day-Exploits sämtlicher Schweregrade für zahlreiche gehärtete reale Systeme identifizieren und entwickeln kann. Ebenfalls darunter fällt die Fähigkeit, ausgehend lediglich von einem übergeordneten Angriffsziel eigenständig neuartige Cyberangriffe gegen gehärtete Ziele zu planen und vollständig auszuführen. Dass Astra diese Fähigkeiten tatsächlich besitzt, behauptet OpenAI allerdings ausdrücklich nicht. Die bisherigen Ergebnisse seien vielmehr gut genug, um ein Erreichen dieser Stufe derzeit nicht ausschließen zu können. Weitere Benchmarks und Untersuchungen sollen Klarheit schaffen. Zum Vergleich: GPT-5.6 Sol wurde von OpenAI zuvor lediglich mit der darunterliegenden Risikostufe „High“ bewertet. OpenAI schränkt die eigene Arbeit mit Astra ein Bis die Fähigkeiten besser beurteilt werden können, verschärft OpenAI die Sicherheitsvorkehrungen. Dazu zählen isolierte Testumgebungen, ein eingeschränkter Netzwerk- und Werkzeugzugriff, eine stärkere Verschlüsselung und Absicherung der Modellgewichte sowie zusätzliche Überwachungsmechanismen und Sandboxing. Interne Aktivitäten mit Astra, die diese Anforderungen noch nicht erfüllen, wurden pausiert. Darüber hinaus überwacht OpenAI nach eigenen Angaben sämtliche agentischen Anwendungen von Astra auf riskante Aktionen und Fehlverhalten. Das gilt sowohl beim Training als auch bei Evaluierungen. Die eingesetzten Systeme analysieren dabei auch die internen Gedankengänge des Modells und sollen bei riskantem Verhalten eine Sicherheitsüberprüfung auslösen sowie den Vorgang gegebenenfalls unterbrechen. Zusätzlich will OpenAI mit Regierungsbehörden und ausgewählten Organisationen für KI-Sicherheit zusammenarbeiten, um Astras Fähigkeiten weiter zu testen. Astra ist OpenAIs nächstes großes Modell Welche Rolle Astra künftig im Produktportfolio spielen wird und wann eine Veröffentlichung geplant ist, verrät OpenAI bislang nicht. Dass es sich nicht lediglich um ein experimentelles Nebenprojekt handelt, steht jedoch fest: Das Unternehmen bezeichnet Astra als eines seiner kommenden Modelle und an anderer Stelle ausdrücklich als sein „nächstes großes Modell“. Einen Eindruck von dessen Fähigkeiten hatte OpenAI bereits Anfang August gegeben. Eine interne Astra-Version erzielte dem Unternehmen zufolge neue Ergebnisse bei zehn offenen beziehungsweise langjährigen Problemen aus Mathematik und theoretischer Informatik. Die Themen reichen von hochdimensionaler Geometrie und Kodierungstheorie bis zu Quantenkomplexität und Gitterkryptografie. Die eigentlichen mathematischen Argumente seien dabei vom KI-System erzeugt und anschließend mit menschlicher Unterstützung für Veröffentlichungen aufbereitet worden. OpenAI zufolge hätten die dafür benötigten Token bei den aktuellen API-Preisen von GPT-5.6 Sol lediglich rund 2.000 US-Dollar gekostet. Wann Astra außerhalb des Unternehmens eingesetzt werden kann, bleibt offen. Vorher steht für OpenAI zunächst die Frage im Raum, wie weit die Fähigkeiten des Modells im Cyberbereich tatsächlich reichen – und unter welchen Sicherheitsvorkehrungen es überhaupt betrieben werden kann. Gefährlicher als erlaubt – und gute Werbung Ganz ungelegen dürfte OpenAI die Diskussion um die Fähigkeiten von Astra allerdings nicht kommen. In der KI-Branche gehört es inzwischen beinahe zum guten Ton, neue Spitzenmodelle nicht nur als leistungsfähiger als ihre Vorgänger, sondern zugleich als potenziell gefährlich zu präsentieren. Ob beabsichtigt oder nicht: Die Botschaft, ein Modell sei so mächtig, dass selbst sein Entwickler zusätzliche Sicherheitsvorkehrungen für notwendig hält, lässt sich zugleich hervorragend als Leistungsversprechen lesen. Wie viel Aufmerksamkeit eine solche Einstufung erzeugen kann, zeigte zuletzt Anthropic. Die US-Regierung schränkte im Juni den Zugang zu den neuen Modellen Claude Fable 5 und Mythos 5 aufgrund von Sicherheitsbedenken zeitweise ein. Für Anthropic war die Maßnahme zwar alles andere als freiwillig, schlechte Publicity war die staatliche Einschätzung der Modelle als potenzielles Sicherheitsrisiko aber ebenfalls nicht. Inzwischen wurden die Beschränkungen wieder aufgehoben. Dass OpenAI die Risiken von Astra lediglich aus Marketinggründen herausstellt, lässt sich daraus ausdrücklich nicht ableiten. Ein gewisser Nebeneffekt bleibt dennoch: Ein noch unveröffentlichtes KI-Modell, dessen Fähigkeiten offenbar selbst dem Hersteller Respekt einflößen, braucht kaum noch eine klassische Werbekampagne.