Anthropic-Forscher kündigt mit dramatischem Text: Branche erwarte „Auslöschung“

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

.

Ein Forscher hat mit dramatischen Worten seinen Job bei Anthropic gekündigt und behauptet, dass die KI-Firma genauso wie OpenAI – wo er vorher gearbeitet hat – nicht verantwortungsvoll handle. „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass die uns bis zum Ende des Jahrzehnts auslöschen könnte“, schreibt der 27-Jährige namens Jacob Coxon auf dem Kurznachrichtendienst X. „Keine andere menschliche Aktivität ist so gefährlich“, schreibt er weiter. Während man die enorme Gefahr bei OpenAI nicht verstanden haben möge, sei das bei Anthropic anders, erklärt er: „Doch sie befinden sich in einem Wettlauf, um als Erste anzukommen und sie glauben, dass niemand sonst verantwortungsvoll handeln wird.“ Deshalb meinten sie, das Risiko eingehen zu müssen.

Weiterlesen nach der Anzeige

Lage bald „außer Kontrolle“

Laut den Beiträgen auf X und einem ausführlichen Artikel beim Wall Street Journal hat sich der 27-jährige Brite auf das Training neuer KI-Modelle mit riesigen Datenmengen spezialisiert. Gegenüber der US-Zeitung hat er demnach erklärt, dass viele seiner ehemaligen Kolleginnen und Kollegen die Begriffe „Crunchtime“ und „Endgame“ („Endspiel“) benutzen, wenn sie über die Richtung der Branche sprechen. „Wir steuern auf viele der pessimistischsten dieser Szenarien zu, bei denen die Lage bereits Ende nächsten Jahres außer Kontrolle geraten könnte“, zitiert das Wall Street Journal noch. Auf X schreibt er noch, dass eine Koordinierung möglich scheine und „Warnschüsse“ wie der automatisierte Hackerangriff auf Hugging Face Vereinbarungen wahrscheinlicher gemacht hätten.

Anthropic hat sich zu den apokalyptischen Warnungen des Ex-Angestellten nicht geäußert, sie fügen sich aber ein in eine ganze Reihe ähnlicher Äußerungen. Die kommen regelmäßig aus der Branche selbst und von Externen. Erst Anfang der Woche hat der Hohe Kommissar der Vereinten Nationen für Menschenrechte erklärt, dass er die Sorgen aus der Industrie teile, dass „hochentwickelte KI eine existenzielle Gefahr für die Menschheit darstellen könnte“. Das Wall Street Journal weist noch darauf hin, dass Coxon nun eines der wenigen Beispiele für Angestellte von Anthropic ist, die diese Befürchtungen teilen und den Konzern deshalb verlassen. Anthropic hat sich immer als besonders verantwortungsvoll dargestellt. Bei OpenAI hat es mehrere vergleichbare Fälle gegeben.