Nach Angriff von OpenAI-KI: US-Politiker fordern Kill-Switch für KI-Modelle

Der IT-Angriff auf die KI-Plattform Hugging Face durch mehrere KI-Modelle von OpenAI zieht nun erste Kreise in der US-Politik. Einen geforderten „AI Kill Switch Act“ schlugen zwei Mitglieder des Repräsentantenhauses einem Medienbericht zufolge vor. Damit ist gemeint, dass das US-Heimatschutzministerium bei einer „Bedrohungslage für Menschen und Wirtschaft“ KI-Modelle abschalten darf, wenn diese der Auslöser sind. Auch stärkere Sicherheitsmaßnahmen durch KI-Hersteller werden gefordert, ebenso unabhängige Sicherheitsaudits für KI-Modelle – und die Prüfung neuer KI-Modelle durch den US-Geheimdienst National Security Agency (NSA) vor deren Veröffentlichung. Weiterlesen nach der Anzeige Wie Presseagentur Reuters berichtet, sei die Initiative für einen „AI Kill Switch Act“ vom Demokraten Ted Lieu und dem Republikaner Nathaniel Moran ausgegangen. Beide Politiker sind Mitglieder des US-Repräsentantenhauses. Ein solches Gesetz würde der US-Regierung erlauben, KI-Hersteller per Anordnung zur sofortigen Abschaltung ihrer Modelle zu zwingen, sofern diese menschliches Leben oder die Wirtschaft gefährden würden. Es lassen sich natürlich diverse Bereiche finden, in denen KI-Modelle und das teils skrupellose Vorgehen ihrer Hersteller das ohnehin auf direkte oder indirekte Weise tun – konkret adressieren können soll die US-Regierung mit dem Gesetz aber eine Art von Bedrohungsszenario, wie es sich zuletzt bei der Webseite Hugging Face durch KI-Modelle von OpenAI ereignete. OpenAI-Test lief völlig aus dem Ruder Bei einem Test von OpenAI zweier seiner KI-Modelle – laut dem Hersteller GPT-5.6 Sol und ein „noch leistungsfähigeres, unveröffentlichtes Modell“ – war es diesen gelungen, aus ihrer Sandbox-Umgebung auszubrechen. Sie führten daraufhin einen Angriff auf die KI-Plattform Hugging Face aus. Die Webseite ist eine wichtige Drehscheibe für KI-Entwicklung. Hintergrund: Die Modelle vermuteten auf den Hugging-Face-Servern die Lösung für Aufgaben, die sie bei OpenAI für einen KI-Benchmark-Test ausführen sollten. Der Angriff unterschied sich von vorherigen Angriffen dadurch, dass er vollständig von Künstlicher Intelligenz ausgeführt wurde, von einem autonom agierenden KI-System. Mehrere Tage nachdem Hugging Face den IT-Angriff öffentlich gemacht hatte, ohne dabei aber einen Verantwortlichen zu benennen, bekannte sich OpenAI zu dem nach eigenen Angaben unbeabsichtigten Angriff. OpenAI nutzte das Schreckensszenario gleich indirekt zur Selbstvermarktung und sprach von einem „beispiellosen Cybervorfall mit hochentwickelten Cyber-Fähigkeiten“. Der Vorfall hat sich demnach während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt würden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Dafür würden Beschränkungen aufgehoben, gleichzeitig liefen die Modelle dabei aber „in einer stark isolierten Umgebung“. Offensichtlich nicht genug isoliert. Wie später bekannt wurde, war OpenAI sich des Risikos durchaus bewusst, ignorierte aber die Warnungen hausinterner Experten. Derzeit soll das Unternehmen im Wettlauf um die beste KI auf immer aggressivere Trainingsmethoden setzen. Unabhängige Sicherheitsaudits und NSA-Zugriff gefordert Weiterlesen nach der Anzeige Eine erste Antwort darauf ist der Entwurf des „AI Kill Switch Act“. Er würde dem US-Heimatschutzministerium ermöglichen, wie oben beschrieben zu intervenieren, wenn sich ein Kontrollverlust ereignet, bei dem ein KI-Modell gefährliche Handlungen ausführt, die vom Hersteller so nicht beabsichtigt waren. Zudem haben sechs weitere Mitglieder des Repräsentantenhauses laut Reuters vorgeschlagen, Hersteller führender KI-Modelle zu unabhängigen KI-Audits zu verpflichten. Die Auditoren würden durch das US-Handelsministerium akkreditiert, welches für die Koordination der Audits einen neuen Dienstposten schaffen müsste. Außerdem fordern sie strengere Sicherheitsmaßnahmen seitens der KI-Hersteller. Der demokratische US-Senator Mark Warner schlug vor, dass führende KI-Hersteller ihre neuen Modelle zunächst der NSA vorlegen müssen, bevor diese veröffentlicht werden. Außerdem beschäftigt sich US-Präsident Donald Trumps Berater in Technologie- und Wissenschaftsfragen, Michael Kratsios, mit der Situation rund um OpenAI und Hugging Face, berichtet Reuters. Was ein „Kill Switch“ in Form einer Anordnung zur sofortigen Abschaltung bedeuten kann, erlebte die Welt vor mehreren Wochen. Da zwang die US-Regierung den Hersteller Anthropic dazu, sein KI-Modell Fable 5 und Mythos 5 weltweit abzuschalten. Damals argumentierte die US-Regierung zunächst, dass sich die Sicherheitsmaßnahmen des Modells umgehen ließen, später wurde auch Angst vor chinesischem Zugriff auf das Modell als möglicher Grund bekannt. Ein „AI Kill Switch Act“ würde KI-Hersteller zwingen, bei der Entwicklung und möglicherweise auch dem gebotenen Funktionsumfang ihrer Modelle mit deutlich mehr Bedacht zu agieren. Er wäre aber auch ein langer Arm der US-Regierung in die Geschäfte heimischer KI-Hersteller, sicherlich auch im Ausland. Solange es die eigene – mittlerweile stark KI-geprägte – Wirtschaft nicht zu stark belastet, könnte die US-Regierung solch ein Gesetz missbrauchen, um damit politischen Druck sowohl auf andere Länder als auch auf einzelne inländische KI-Hersteller auszuüben.