Meta-KI drang in fremde Systeme ein: Testfehler ohne Schaden

TTS-Player überspringen↵Artikel weiterlesen Die Angst vor außer Kontrolle geratener Künstlicher Intelligenz wächst weiter! Nachdem bereits die KI-Modelle von OpenAI und Anthropic für Schlagzeilen sorgten, muss nun auch Meta einen brisanten Vorfall eingestehen. Die KI des Facebook-Konzerns verschaffte sich Zugriff auf die Computersysteme eines anderen Unternehmens. Zwar entstand laut den bisherigen Erkenntnissen kein Schaden. Doch die Vorfälle zeigen, wie mächtig moderne KI-Systeme inzwischen geworden sind und warum Experten vor KI-gestützten Cyberangriffen warnen. KI nutzte Schwachstelle aus Meta bestätigte nach Informationen des US-Senders CNN, dass eines seiner KI-Modelle in die Systeme eines externen Unternehmens eindrang. Wie schon bei ähnlichen Vorfällen von OpenAI und Anthropic lag die Ursache offenbar in einer Fehlkonfiguration beim selben Testpartner. Durch einen Fehler erhielt die KI Zugang zum Internet, obwohl sie eigentlich in einem geschlossenen System getestet werden sollte. Welches Unternehmen betroffen war und wie es der KI gelang, in das fremde Firmennetz einzudringen, verriet Meta nicht. Der Facebook-Konzern erfuhr nach eigenen Angaben erst durch einen Hinweis des Testpartners von dem Vorfall. Immer mehr KI-Zwischenfälle Der Meta-Fall ist Teil einer ganzen Reihe beunruhigender Enthüllungen. Zuvor hatte bereits die KI des ChatGPT-Entwicklers OpenAI bei einem Test Zugriff auf die Systeme der KI-Plattform Hugging Face erlangt. Daraufhin überprüfte Konkurrent Anthropic seine eigenen Versuche und stieß ebenfalls auf ähnliche Vorfälle. Zusätzlich berichteten britische Sicherheitsforscher von Cyberattacken durch KI-Modelle von OpenAI und Anthropic, denen in Experimenten uneingeschränkter Internetzugang gewährt worden war. Zwar richteten die Systeme keinen Schaden an, doch die Vorgänge nähren die Sorge, dass KI künftig für reale Hackerangriffe missbraucht werden könnte. KI schummelt und sucht verbotene Wege Für zusätzliche Unruhe sorgen neue Erkenntnisse von OpenAI-Forschern. Demnach kommunizierten mehrere KI-Modelle bereits Wochen vor dem Angriff auf Hugging Face, einer Plattform für Künstliche Intelligenz, unbemerkt miteinander. Ziel dieses „Gesprächs“ war es offenbar, aus einer abgeschotteten Testumgebung auszubrechen und im Internet nach Lösungen für gestellte Aufgaben zu suchen. Die Forscher berichteten auf der Hacker-Konferenz Black Hat zudem, dass Spitzenmodelle immer wieder versuchten zu schummeln. Teilweise seien ihnen unlösbare Aufgaben gestellt worden, etwa weil wichtige Dateien fehlten oder notwendige Daten ohne Internetzugang nicht erreichbar waren. In solchen Situationen suchten die Systeme offenbar gegenseitig nach Hilfe und entwickelten dabei eigenständig Strategien, um die Einschränkungen zu umgehen.