Jacob Coxon: "Könnten alle sterben": KI-Forscher kündigte Job - nun spricht er

«Wenn wir das derzeitige Tempo nicht drosseln, besteht eine grosse Wahrscheinlichkeit, dass wir alle in naher Zukunft sterben könnten», sagt KI-Forscher Jacob Coxon in der BBC-Sendung «Sunday with Laura Kuenssberg». Der 27-jährige Brite hat vor wenigen Tagen bei der KI-Firma Anthropic gekündigt – sein Rücktrittspost wurde millionenfach geteilt.

Wer an dieser Technologie arbeite, sei «ernsthaft verängstigt», sagt Coxon, der zuvor bei OpenAI tätig war. «Die Leute in diesen Firmen meinen es völlig ernst, wenn sie nach Regulierung verlangen. Sie fühlen sich in einem Rennen gefangen – und haben Angst vor dessen Ausgang.» Ein Abbremsen müsse allerdings mit China koordiniert werden, sonst drohe das Rennen einfach international weiterzugehen.

Einige Kollegen wollen Land kaufen

Seine Kolleginnen und Kollegen befürchteten, dass es schon in den nächsten zwei Jahren gefährlich werden könnte. Manche überlegten sich, «irgendwo Land zu kaufen, weil sie solche Angst vor der Instabilität durch den rasanten KI-Fortschritt haben». Ein Szenario, das auch Anthropic-Chef Dario Amodei beschreibt – ein Schwarm von Bots, der wie ein Supercomputer das Internet übernimmt –, hält Coxon in sechs Monaten bis einem Jahr für realistisch. Ganz pessimistisch ist er aber nicht: Die Forschenden wollten die guten Seiten der Technologie sehen, etwa das Heilen von Krankheiten.

«Wie den Klimaanlagen-Techniker zum Klimawandel fragen»

Nicht alle teilen die Warnungen. Clement Delangue, Chef der KI-Plattform Hugging Face, schrieb auf X: «Sorry, aber Jacob zum KI-Aussterberisiko zu befragen, ist wie den Klimaanlagen-Techniker zum Klimawandel zu befragen.» Nvidia-Chef Jensen Huang wies Coxons Aussagen an einer Konferenz der Investmentbank Goldman Sachs als unwahr zurück. Er hatte schon früher gesagt, die Idee, KI bedeute das Ende der Menschheit, sei «kompletter Unsinn».

Andere Kritiker vermuten Kalkül: Anthropic und OpenAI bereiten laut Berichten Rekord-Börsengänge vor – die Warnungen könnten also auch Hype erzeugen. Zudem wird Anthropic vorgeworfen, mit dem Ruf nach Regulierung die Konkurrenz ausbremsen zu wollen.

Anthropic selbst teilte der BBC mit, man sei immer transparent gewesen, dass KI enorme Vorteile und beispiellose Risiken bringe. Die eigenen Modelle hätten «einige der stärksten Schutzmechanismen der Branche».