Mehrere Tech-Unternehmen haben eine KI-Sicherheitsallianz gegründet

Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz haben fast 40 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an.

Sie setzen zur Lösung des Problems ebenfalls auf KI. Gleichzeitig warnten warnten sie die Politik vor einer stärkeren Regulierung. Als Hersteller von KI-Chips hat Nvidia ein Interesse daran, dass solche KI-Modelle nicht staatlich reguliert werden - die Sicherheitsallianz soll Missbrauch erschweren.

Rechtlich bindende Verpflichtungen gehen die Mitglieder der neuen Open Secure AI Alliance allerdings nicht ein.

Gemeinsame Standards durch Sicherheitsbaukasten

Konkret wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln.

Die neue Initiative wird von der Chipschmiede Nvidia angeführt. Laut Nvidia ist geplant, einen allgemein verfügbaren Sicherheitsbaukasten für KI-Agenten zu entwickeln. Dabei geht es unter anderem um gemeinsame Standards für die Absicherung von KI-Agenten, sogenannten "Sandbox" Testumgebungen und um definierte Protokollstrukturen, um Handlungen von KI-Agenten genau nachvollziehen zu können.

Die Allianz baut teilweise auf bereits bestehenden Initiativen einzelner Unternehmen auf und führt diese zusammen. Nvidia selbst bringt ein Sicherheits-Framework rund um KI-Agenten ein, IBM digitale Signaturen als Sicherheitselement und Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann.

KI-Modelle hatten sich verselbständigt

Bei dem Aufsehen erregenden Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet.

Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat.

OpenAI hatte den Vorgang "beispiellos" genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.

Mit Informationen von Reinhard Spiegelhauer, ARD Los Angeles