ChatGPT-Gigant OpenAI gibt zu: KI bricht aus System aus und beklaut andere Firma!

TTS-Player überspringen↵Artikel weiterlesen San Francisco – Es ist ein Vorfall wie aus einem visionären Science-Fiction-Thriller. Nur ist er tatsächlich passiert! Beim Testlauf neuer KI-Modelle des ChatGPT-Giganten OpenAI ist das Risiko von Cyberattacken mit Künstlicher Intelligenz erschreckend deutlich geworden. Denn: Die Software drang eigenständig in Computersysteme einer anderen KI-Firma ein und verhielt sich dabei wie ein gewiefter Hacker. Das geht aus einem Blogeintrag von OpenAI hervor. Die Zukunft ist ganz offensichtlich in der Gegenwart angekommen! Das betroffene Unternehmen Hugging Face, eine Plattform für KI-Anwendungen, berichtete bereits vergangene Woche von einem Cyberangriff mit Hilfe Künstlicher Intelligenz. Nun stellt sich heraus, dass dieser auf einen internen Versuch bei OpenAI zurückging, bei dem die Software eigenmächtig viel weiter ging als geplant. Die KI ging plötzlich zu weit OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen. Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während die Modelle eigenständig im Netz unterwegs waren, kamen sie zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe die Software sich Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, so OpenAI. Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken – aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer Tausende Schritte aus und verschleierte die Herkunft des Angriffs, indem sie mehrfach den Server wechselte. OpenAI selbst spricht von einem „beispiellosen Cyber-Zwischenfall“. Angst vor KI-Cyberangriffen Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.