OpenAI stoppt Entwicklung von Astra: KI für Cyberangriffe zu mächtig

TTS-Player überspringen↵Artikel weiterlesen San Francisco (USA) – OpenAI hat die interne Entwicklung seines ⁠neuen KI-Modells Astra teilweise gestoppt und dies mit möglichen „kritischen“ Fähigkeiten im Bereich der Cybersicherheit begründet. Das US-Unternehmen teilte ⁠am Freitag mit, es könne nach ersten Analysen noch ‌nicht mit Sicherheit sagen, ​ob die Software ‌diese Schwelle erreiche. Nach den Sicherheitsrichtlinien ​von OpenAI gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende, ​tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe Cyberangriffe auf hochsichere Ziele ausführen kann. „Können kritische Fähigkeiten nicht ausschließen“ „Während wir ​dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf ‌eine so starke Leistung hin, dass wir ein ‚kritisches‘ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können“, erklärte der ChatGPT-Entwickler. Deshalb habe man die Sicherheitskontrollen verschärft und Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert.