Künstliche Intelligenz: Auch KI von Meta hackte sich in eine andere Firma

Ein KI-Modell des Facebook-Konzerns Meta hat bei einem Cybersicherheitstest ein anderes Unternehmen gehackt. Der Facebook-Mutterkonzern teilte ​mit, eine Fehlkonfiguration habe dem Modell unbeabsichtigt Zugang zum Internet verschafft. Es ‌habe daraufhin eine Sicherheitslücke bei einem Drittanbieter ausgenutzt. Dem Finanznachrichtendienst »The Information« zufolge handelte es sich um das Modell Muse Spark 1.1, das als das leistungsfähigste des Konzerns für Programmieraufgaben gilt. Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners. Er soll für eine Fehlkonfiguration des Systems verantwortlich sein. Ungeplant in fremde Computer eingedrungen Der Vorfall folgt auf ähnliche Vorkommnisse bei den Konkurrenten Anthropic und OpenAI. Im Fall von OpenAI soll ein KI-Agent bei einem Test selbstständig eine zuvor unbekannte ‌Schwachstelle ausgenutzt haben, um ins Internet zu gelangen. ​Die KI des ChatGPT-Entwicklers war danach in Server der KI-Plattform Hugging Face eingedrungen. Zuletzt wurde bekannt, dass ein Programm bei einem Test des KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie gezielt Phishingmails verschickt hatte und Entwickler mit falschen Identitäten zu täuschen versuchte, um Software infizieren zu können. Das von Meta mit den aktuellen Tests beauftragte Unternehmen Irregular erklärte, es handle sich bei dem jüngsten Vorfall nicht ​um eine »ausgeklügelte Cyberaktion«. Die in den vergangenen Wochen bekannt gewordenen Attacken von autonom agierenden KI-Systemen verstärkten allgemein die Angst vor Cyberangriffen mithilfe künstlicher Intelligenz. Die Vorfälle dürften ‌die Bemühungen der US-Regierung um eine verbesserte KI-Sicherheit verstärken. Das Weiße Haus lud diese Woche führende KI-Unternehmen wie Meta, Anthropic, OpenAI und Google zu einem Treffen ein, um einen ‌neuen freiwilligen Testrahmen für Cybersicherheit zu erörtern. Lesen Sie hier mehr zum Thema: Thorsten Holz hat das Testsystem mitgebaut, aus dem eine Hacker-KI von OpenAI heimlich ausgebrochen ist. Hier sagt er, wie gefährlich KI für die Sicherheit des Netzes wird – und warum er optimistisch bleibt .