OpenAI stoppt Entwicklung von Astra: KI für Cyberangriffe zu mächtig

TTS-Player überspringen↵Artikel weiterlesen

San Francisco (USA) – OpenAI hat die interne Entwicklung seines ⁠neuen KI-Modells Astra teilweise gestoppt und dies mit möglichen „kritischen“ Fähigkeiten im Bereich der Cybersicherheit begründet.

Das US-Unternehmen teilte ⁠am Freitag mit, es könne nach ersten Analysen noch ‌nicht mit Sicherheit sagen, ​ob die Software ‌diese Schwelle erreiche. Nach den Sicherheitsrichtlinien ​von OpenAI gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende, ​tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe Cyberangriffe auf hochsichere Ziele ausführen kann.

„Können kritische Fähigkeiten nicht ausschließen“

„Während wir ​dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf ‌eine so starke Leistung hin, dass wir ein ‚kritisches‘ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können“, erklärte der ChatGPT-Entwickler. Deshalb habe man die Sicherheitskontrollen verschärft und Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert.