OpenAI bremst Super-KI Astra nach Hackerangriff aus Sicherheitsgründen

TTS-Player überspringen↵Artikel weiterlesen San Francisco – Die eigenen KI-Modelle werden offenbar schneller mächtiger, als OpenAI sie absichern kann. Jetzt tritt der ChatGPT-Konzern bei der Entwicklung seiner stärksten Systeme auf die Bremse. OpenAI setzte das Training seiner neuesten Modelle für 2 Wochen aus. Der größte geplante Trainingslauf bleibt weiter auf Eis. Erst sollen die Sicherheitsvorkehrungen mit den Fähigkeiten der KI Schritt halten. Dahinter stehen 2 Warnsignale. Im Juli gelangten OpenAI-Modelle während eines Sicherheitstests aus einer abgeschotteten Umgebung ins Internet und griffen Systeme der KI-Plattform Hugging Face an. Nun sorgt auch OpenAIs noch unveröffentlichte Super-KI „Astra“ für Unruhe. Bei internen Tests zeigte sie offenbar so weitreichende Hacker fähigkeiten, dass das Unternehmen zusätzliche Schutzmaßnahmen für nötig hält. Für OpenAI-Chef Sam Altman (41) wächst damit ein Problem: Je leistungsfähiger die Modelle werden, desto schwieriger wird es, ihre Risiken zu kontrollieren. Was könnte diese KI anrichten? Im schlimmsten Fall könnte eine solche KI selbst Sicherheitslücken finden, Angriffe vorbereiten und dabei Wege gehen, die ihre Entwickler nicht vorhergesehen haben. Astra war am Angriff auf Hugging Face zwar nicht beteiligt, trotzdem hat OpenAI bei dem Modell inzwischen die Zügel angezogen: Ein großer Teil der Arbeiten liegt weiter auf Eis, der Zugang zum Internet wird stärker begrenzt, die Überwachung verschärft. Forschungschefin Mia Glaese räumte ein, dass sich die Fähigkeiten der KI extrem schnell entwickelten. Die bisherigen Schutzmaßnahmen reichten noch keineswegs aus. Warnung oder auch Werbung? Die Warnungen haben für OpenAI auch einen Nebeneffekt: Wer erklärt, die eigene nächste KI sei so mächtig, dass sie besondere Sicherheitsmaßnahmen braucht, macht zugleich Werbung für ihre Leistungsfähigkeit. Diesmal bleibt es aber nicht bei Worten: OpenAI pausiert Trainingsläufe, verschärft Kontrollen und bremst die Entwicklung seiner stärksten Modelle tatsächlich aus.