Künstliche Intelligenz: KI‑Konzerne OpenAI, Anthropic und Google wollen sich selbst regulieren

OpenAI hat angekündigt, gemeinsam mit den Konkurrenten Anthropic und Google Regeln für künstliche Intelligenz (KI) festzulegen. Dafür solle eine Organisation zur Selbstregulierung entstehen, teilte das US‑Technologieunternehmen mit.

Als Vorbild nennt OpenAI die private Aufsichtsorganisation Finra. Sie beaufsichtigt im Auftrag der Börsenaufsicht SEC den Wertpapierhandel in den USA.

Anlass der Debatte sind Warnungen mehrerer früherer Mitarbeiter von KI‑Unternehmen, die wegen möglicher Risiken Alarm geschlagen hatten. Der Chef von Anthropic, Dario Amodei, rief am Wochenende dazu auf, KI‑Modelle langsamer zu entwickeln.

In dem Text warnte Amodei vor der Übernahme des Internets durch sogenannte KI-Agenten. Angesichts der rasanten Entwicklung von künstlicher Intelligenz könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, »das gesamte Internet zu übernehmen«, und Schäden in Höhe von Hunderten Milliarden Dollar zu verursachen, schreibt Amodei.

Trump lehnt staatliche Regulierung ab

Unterstützung bekam Amodei von OpenAI‑Chef Sam Altman, von Microsoft‑Chef Satya Nadella und von DeepMind‑Chef Demis Hassabis. Auch der Techunternehmer Elon Musk, der hinter dem KI‑Assistenten Grok steht, schloss sich an.

US‑Präsident Donald Trump lehnt eine staatliche Regulierung von KI ab. Er begründet das damit, dass die USA ihren technologischen Vorsprung vor China halten müssten. Menschen, die KI skeptisch sehen, bezeichnete er als »Verschwörungstheoretiker« und »Verräter«.

OpenAI verschiebt Börsengang

Am vergangenen Donnerstag hatte Anthropic einen Bedrohungsbericht veröffentlicht, in dem detailliert beschrieben wird, wie verschiedene Akteure die Claude-KI-Modelle des Unternehmens für illegale Aktivitäten genutzt haben – von Überwachung und Betrug bis hin zu Cyberoperationen und der Entwicklung von Biowaffen. Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die »KI-Entwickler ernsthaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte«.