Debatte über strengere Vorschriften in den USA

US-Politiker beider Parteien fordern deshalb klare Regeln für die Entwicklung und den Einsatz von KI-Systemen. Washington müsse endlich aufwachen, schrieb ​der demokratische Senator aus Arizona, Kelly. Der republikanische Senator Cruz aus Texas verwies auf "katastrophale Risiken" der KI und ‌auf Gesetzesvorhaben zur Regulierung.

Die Anthropic-Entwickler hatten erklärt, KI sei eine immer größere Bedrohung und es bestehe die ernsthafte Möglichkeit, dass die KI bis zum Ende des Jahrzehnts massenhaft töten könne. Auch andere Experten sehen ähnliche Risiken durch Künstliche Intelligenz.

Anthropic unterbindet KI-Nutzung für biologische Waffen

Gestern hatte die KI-Firma Anthropic mitgeteilt, dass sie mehrere Versuche unterbunden habe, ihre Software Claude für die Entwicklung von möglichen biologischen Kampfstoffen zu nutzen. Mehrfach in den vergangenen Monaten hätten Nutzer aus blockierten Regionen verdächtige Anfragen gestellt, erklärte das in San Francisco ansässige Unternehmen.

So sei es etwa um die Erforschung einer Vogelgrippe-Variante gegangen, die sich auf Säugetiere übertragen ließe. In einem anderen Fall wurde Unterstützung bei der Entwicklung neuer Gifte angefordert. Mit Blick auf die biologische Forschung betonte das Unternehmen, es habe sich um Anfragen von Wissenschaftlern gehandelt. Ihnen werde nicht vorgeworfen, böse Absichten verfolgt zu haben.

Große Techkonzerne wie Google, Microsoft, OpenAI und auch Anthropic selbst hatten in den vergangenen Monaten bereits vor der Gefahr eines Missbrauchs von Künstlicher Intelligenz im Bereich von Biowaffen gewarnt.

Diese Nachricht wurde am 11.09.2026 im Programm Deutschlandfunk gesendet.