KI: Wie das Silicon Valley auf aktuelle Doomsday-Warnungen reagiert

San Francisco. Der öffentliche Abgang eines Anthropic-Forschers sorgt für Aufsehen im Silicon Valley – und wirft erneut die Frage auf, wie ernst führende Labore die Risiken einer außer Kontrolle geratenen Künstlichen Intelligenz (KI) tatsächlich nehmen.

Der Anthropic-Forscher Jacob Coxon warnte diese Woche in einem Blogbeitrag, KI könne „alle Menschen töten“, und zwar bis zum Ende des Jahrzehnts. Die Branche trete nun in „das Endspiel“ um die KI-Zukunft ein. Coxon soll sogar auf ihm zustehende Firmenanteile verzichtet haben, um seine Warnung äußern zu können.

Nate Soares, Präsident des gemeinnützigen Machine Intelligence Research Institute (MIRI) im kalifornischen Berkeley, hält die Sorgen über das Entstehen einer tödlichen KI bis 2030 für „absolut gerechtfertigt“. Soares sagte dem Handelsblatt, er halte ein staatliches Einschreiten für nötig: „Ich glaube, es ist realistisch, dass die Regierung, sobald sie begreift, was in diesen Laboren wirklich passiert, eine Art Aufsichtsgremium einführt.“

Eine solche Instanz müsse klarstellen: „Chatbots könnt ihr bauen, aber für das Rennen um eine Superintelligenz sind wir schlicht nicht bereit.“ Nötig sei zudem „ein internationaler Vertrag, der das Wettrennen um Superintelligenz verbietet“. Ein solches Gremium dürfe allerdings „nicht aus der Industrie selbst kommen“. Erst im August hatte sich OpenAI-Chef Sam Altman im Handelsblatt-Interview für eine entsprechende Branchenorganisation ausgesprochen.