auch Warnungen von Anthropic

Zuvor hatte es bereits vom Unternehmen Anthropic Warnungen und die Forderung nach einer langsameren KI-Entwicklung gegeben.

Die "New York Times" hatte schon im Juni berichtet, dass OpenAI erwäge, einen möglichen Börsengang mit einer Bewertung von ​einer Billion Dollar auf 2027 zu verschieben. Jetzt sagte Altman, es ⁠gebe noch viel zu tun, um die Anforderungen an ⁠die Sicherheit zu erfüllen und herauszufinden, ⁠wie die Branche und Regierungen zusammenarbeiten ‌könnten.

Dem Bericht zufolge deutete Altman zudem an, dass führende KI-Unternehmen kurz vor einer Vereinbarung stehen könnten, ​die Entwicklung zu verlangsamen und gemeinsam an der Abwehr von Risiken zu ‌arbeiten.

Anthropic-Chef warnt vor der Übernahme des Internets durch KI

Das fordert auch der Chef des KI-Unternehmens Anthropic, Dario Amodei. Auf X hatte Amodei gewarnt, dass KI in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen.

In der Branche hatten ⁠sich zuletzt Vorfälle gehäuft, bei denen KI-Agenten von Entwicklern wie dem Anthropic-Rivalen OpenAI externe ⁠Systeme gehackt oder versucht haben, darauf zuzugreifen. Dies hat die ⁠Bedenken hinsichtlich der zunehmenden Leistungsfähigkeit der Modelle und ‌eines möglichen Kontrollverlusts verstärkt.

Berichte über Verhandlungen zu Sicherheits-Gesetz

Die Probleme haben auch die Politik alarmiert. Die Nachrichtenagentur Reuters hatte am Freitag unter Berufung auf Insider berichtet, führende US-Senatoren verhandelten über ein Gesetz, ​das große Tech-Konzerne wie Google und OpenAI zu mehr Sicherheit bei der Entwicklung von KI-Anwendungen verpflichten soll. Der Entwurf sehe eine sogenannte Sorgfaltspflicht für KI-Entwickler vor. Zudem solle es der Regierung möglich sein, die Veröffentlichung ​unsicherer KI-Modelle zu blockieren.

Aus dem Deutschlandfunk-Programm:

Diese Nachricht wurde am 13.09.2026 im Programm Deutschlandfunk gesendet.