OpenAI, Microsoft, Palantir: IT-Konzerne schmieden Sicherheitsbündnis nach KI-Angriff

Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff künstlicher Intelligenz haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie es am Montag in einer Erklärung der Unternehmen hieß. Sie setzen zur Lösung des Problems ebenfalls auf KI und warnten die Politik vor einer stärkeren Regulierung. Konkret möchten die Unternehmen sogenannte Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Zu den Gründungsmitgliedern zählen überdies Cisco, Dell und CrowdStrike. OpenAI und Google sind hingegen nicht Teil der Allianz. Tagelang hackte die KI – und niemand merkte es Und das, wo OpenAI der Grund für die Aufregung darstellt: Bei dem Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Später stellte sich heraus, dass die Modelle sogar tagelang unbemerkt auf Hacker-Tour waren. Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte. Chinesische KI stoppte den Cyberangriff Aus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.« Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang »beispiellos« genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung künstlicher Intelligenz liefern sich die USA und China ein Wettrennen. Für die Firma OpenAI ist der Vorfall peinlich. Aber wie groß ist die Gefahr für das Netz? Eine Analyse dazu lesen Sie hier.