Anthropic warnt Investoren vor "existenziellen Risiken für die Menschheit"

Demnach soll sich fast ein Drittel der umfangreichen Broschüre der »Darstellung von Risikofaktoren« widmen. Dazu zähle unter anderem »die Möglichkeit, dass immer fortschrittlichere KI-Modelle manipulieren, erpressen und andere unvorhersehbare Verhaltensweisen an den Tag legen könnten«.

Milliardenumsätze, Milliardenverluste

Im Vorfeld des für den Herbst geplanten Börsengangs stellte Anthropic in dem Bericht zudem wirtschaftliche Herausforderungen beim Aufbau von KI-Modellen dar. Das Unternehmen hatte für das Jahr 2025 einen Nettoverlust von 42 Milliarden Dollar gemeldet. Der Löwenanteil davon geht auf Abschreibungen im Zusammenhang mit früheren Finanzierungsrunden zurück.

Auf operativer Basis verzeichnete das Unternehmen einen Verlust von mehr als acht Milliarden Dollar, der unter anderem auf Ausgaben ‌für Rechenleistung und Infrastruktur zurückzuführen ist, die sich im vergangenen Jahr auf 7,33 ​Milliarden Dollar verdreifachten.

Der Umsatz des Unternehmens verzwölffachte sich dem Prospekt zufolge im selben Zeitraum auf fast 4,6 Milliarden Dollar. Von dem geplanten Börsengang erhofft sich Anthropic eine Bewertung von mehr als zwei Billionen Dollar. Die Summe könnte als Maßstab für die Bewertung weiterer KI-Unternehmen, wie etwa OpenAI, dienen und wäre dringend nötig. Das Unternehmen will in den kommenden Jahren 518 Milliarden Dollar in den Ausbau seiner Cloud- und Recheninfrastruktur investieren, um sein Wachstum zu unterstützen.

Anthropic soll planen, nach den US-Zwischenwahlen im November an die Börse zu gehen. Dann wird sich zeigen, wie groß der Appetit von Anlegern auf hoch bewertete KI-Aktien noch ist. Er folgt auf den erfolgreichen Börsengang von SpaceX, das mit 1,77 Billionen Dollar bewertet worden ist.

Wegen Sicherheitsbedenken hat OpenAI die Veröffentlichung von GPT 6.1 Astra zunächst jedoch gestrichen. Bei Testläufen habe die Software Nutzerinnen und Nutzer unter anderem nicht immer ehrlich darüber informiert, welche Aktionen sie durchgeführt oder nicht durchgeführt hat, sagte der für Sicherheit zuständige OpenAI-Manager Saachi Jain dem »Wall Street Journal« .

Die Liste der besorgniserregenden KI-Vorfälle wird länger. In diesem Herbst entscheidet sich womöglich, ob wir KI-Supermaschinen dauerhaft kontrollieren können. Selbst Unternehmensbosse verlangen nach mehr Regeln. Mehr dazu erfahren Sie in dieser SPIEGEL-Titelstory.