Künstliche Intelligenz: Anthropic-Chef warnt vor Übernahme des Internets durch KI-Agenten
Der Geschäftsführer von Anthropic, Dario Amodei, warnt vor der Übernahme des Internets durch sogenannte KI-Agenten. Angesichts der rasanten Entwicklung von künstlicher Intelligenz könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, »das gesamte Internet zu übernehmen« und Schäden in Höhe von Hunderten Milliarden Dollar verursachen, schreibt Amodei in einem auf seiner Homepage veröffentlichten Essay.
Während klassische KI-Chatbots wie Claude oder ChatGPT auf Fragen oder Aufträge (»Prompts«) warten und dann antworten, handeln KI-Agenten selbstständig, um ein vorgegebenes Ziel zu erreichen.
Vergangene Woche hatten KI-Agenten von OpenAI eine deutsche Website gekapert und in ein Schwarzes Brett für andere KI-Agenten verwandelt; die Verantwortlichen hielten den Vorfall zwei Monate lang unter Verschluss. Außerdem hatten OpenAI-Agenten im Juli die Plattform Hugging Face angegriffen.
»Der Fortschritt wird immer noch schnell erscheinen«
In seinem Essay schlägt Amodei deswegen drei Schritte vor, wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen können. »Der Fortschritt wird immer noch schnell erscheinen«, schreibt Amodei. »Wir müssen die gewonnene Zeit sinnvoll nutzen.«
KI berge »gravierende« Risiken, schreibt Amodei. »Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten«, fügte er hinzu. Zugleich sei eine »zu schnelle Entwicklung leichtsinnig«.
Am Donnerstag hatte Anthropic einen Bedrohungsbericht veröffentlicht, in dem detailliert beschrieben wird, wie verschiedene Akteure die Claude-KI-Modelle des Unternehmens für illegale Aktivitäten genutzt haben – von Überwachung und Betrug bis hin zu Cyberoperationen und der Entwicklung von Biowaffen. Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die »KI-Entwickler ernsthaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte«.
Anthropic will externe Gutachter einsetzen
Amodei ruft nach eigenen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen. Unternehmen müssten sich jedoch ausreichend Zeit nehmen, um ihre Modelle gegen Risiken abzusichern. Sein eigenes Unternehmen werde externe Prüfer anstellen und ihnen Zugang zu internen Risikobewertungsprozessen geben, schreibt Amodei. KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festzulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen fordern.
Vor einigen Wochen unterzeichneten mehr als tausend Mitarbeiter führender KI-Unternehmen, darunter Amodei, eine Petition, in der sie die Hilfe der US-Regierung forderten, um »die Entwicklung automatisierter KI bewusst zu drosseln«.
Rivalen Musk und Altman unterstützen Vorschlag
Die Chefs der Anthropic-Rivalen OpenAI und SpaceX, Sam Altman und Elon Musk, stellten sich hinter Amodei. »Dario hat recht«, schrieb Musk auf X und teilte Amodeis Essay. »Ich stimme Dario zu, dass wir das Tempo an der Pionierfront drosseln müssen«, schrieb dann auch Altman auf X. Er hatte bereits vor kurzem gesagt, dass Entwickler womöglich freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann. »Die Verpflichtung, unabhängigen Gutachtern einen Zugang wie Mitarbeitern zu gewähren, ist eine großartige Idee, und wir werden das Gleiche tun. Wir werden bald mehr dazu mitteilen«, fügte Altman hinzu.