OpenAI stoppt in Teilen die Entwicklung von KI-Modell Astra

Sicherheitsbedenken :

OpenAI stoppt in Teilen die Entwicklung von KI-Modell

07.08.2026, 22:07Lesezeit: 1 Min.

Das OpenAI Logo.Reuters

OpenAI trainiert derzeit das neue KI-Modell Astra. Nun wurde die Entwicklung teilweise gestoppt. Grund dafür sind Sicherheitsbedenken.

OpenAI hat die interne Entwicklung seines neuen KI-Modells Astra teilweise gestoppt und dies mit möglichen „kritischen“ Fähigkeiten im Bereich der Cybersicherheit ⁠begründet. Das US-Unternehmen teilte am Freitag mit, es könne nach ersten Analysen noch nicht mit Sicherheit sagen, ob die Software diese Schwelle ‌erreiche. Nach den Sicherheitsrichtlinien von OpenAI gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende, tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe ‌Cyberangriffe auf hochsichere Ziele ‌ausführen kann.

„Während wir dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein ‚kritisches‘ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können“, erklärte der ChatGPT-Entwickler. ⁠Als Reaktion darauf seien die Sicherheitskontrollen verschärft und die Entwicklung von Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert worden.

Der Fall verdeutlicht, wie zunehmend schwierig es für Entwickler wird, fortschrittliche ⁠Künstliche Intelligenz (KI) unter ‌Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren. ⁠OpenAI stellte ⁠jedoch klar, dass Astra nicht an einem Hackerangriff auf die KI-Plattform Hugging Face ⁠im Juli beteiligt ⁠war. Die Nachrichtenagentur Reuters hatte gemeldet, dass OpenAI bei der Untersuchung dieses Vorfalls weitere ‌Fälle entdeckt habe, in denen autonome KI-Agenten aus ihren isolierten Umgebungen ausgebrochen seien.

Quelle: ReutersArtikelrechte erwerben

Schlagworte:

Empfehlungen

Merken

Künstliche Intelligenz:

Wenn die KI zum Mail-Betrüger mutiert

Britische Forscher haben in Tests festgestellt, dass das KI-Modell Mythos falsche Identitäten annimmt und Phishing-Mails verschickt hat. Es ist nicht der erste ernste Vorfall dieser Art.

Roland Lindner, New York

Merken

Nach Open AI und Anthropic:

Ist auch ein chinesisches KI-Modell ausgebrochen?

Ein amerikanisches Start-up meldet einen Test mit einem Flaggschiff-Modell des Pekinger Anbieters Moonshot AI. Doch es gibt einen wichtigen Unterschied zum Fall Open AI. Und erhebliche Zweifel an der Arbeit des Start-ups.

Gustav Theile, Shanghai, Roland Lindner, New York

Merken

Künstliche Intelligenz:

15 Generalstaatsanwälte befassen sich jetzt mit dem Hackerangriff von Open AI

Eine Künstliche Intelligenz ist außer Kontrolle geraten und hat eine Internetplattform attackiert. Nun wird die amerikanische Justiz aktiv.

Stellenmarkt

Frankfurter Allgemeine Zeitung

Stellenmarkt

Mitarbeiter (m/w/d) Arbeitsvorbereitung / Warenerfassung

H-O-T Härte- und Oberflächentechnik GmbH & Co. KG

Zum Stellenmarkt

Frankfurter Allgemeine Zeitung

Stellenmarkt

Disponent (m/w/d)

CONREC Gesellschaft für Container-, Recycling- und Umweltdienste mbH

Zum Stellenmarkt

Frankfurter Allgemeine Zeitung

Stellenmarkt

Zum Stellenmarkt

Frankfurter Allgemeine Zeitung

Stellenmarkt

Zum Stellenmarkt

Verlagsangebot

Lernen Sie Englisch

Rechtsprobleme? Finden Sie es jetzt sofort heraus

Reichen 500.000 € im Ruhestand? Gratis E‑Book mit 40 Antworten

Lernen Sie Französisch