OpenAI-Mitgründer über KI-Fortschritt: "Die Öffentlichkeit kennt nur die Vorschau"

Andrej Karpathy, Mitgründer von OpenAI, beschreibt eine sich rasant vergrößernde Kluft im Verständnis von KI-Fähigkeiten. Während die Öffentlichkeit Chatbots als bessere Google-Suche wahrnimmt, sollen interne Frontier-Systeme bereits Aufgaben erledigen, für die Top-Fachleute Jahre bräuchten.

Die Welt teile sich in ein extremes Gefälle auf, wenn es um das Verständnis aktueller KI-Fähigkeiten geht: Milliarden Menschen an der Basis haben kaum Berührung mit LLMs, während an der Spitze nur wenige Tausend sehen, was die Systeme tatsächlich können, so Karpathy.

75 Prozent der Weltbevölkerung hatten kaum Kontakt mit LLMs

Karpathy unterteilt die Nutzerschaft großer Sprachmodelle in vier Stufen. Rund sechs Milliarden Menschen, etwa 75 Prozent der Weltbevölkerung, hätten bisher kaum Berührung mit LLMs gehabt. Weitere ein bis zwei Milliarden seien gelegentliche Nutzer kostenloser ChatGPT-Varianten, die darin vor allem eine bessere Suchmaschine oder Schreibhilfe sähen.

Selbst viele Fachkräfte außerhalb technischer Domänen wie Mathe und Programmierung fielen in diese Kategorie: Führungskräfte etwa verbringen laut Karpathy einen Großteil ihrer Zeit in Gesprächen mit anderen Menschen und verstünden die Entwicklung zwar intellektuell, erlebten sie aber nicht aus erster Hand.

Die dritte Stufe umfasst nach seiner Schätzung rund 20 Millionen Menschen, also 0,2 Prozent der Weltbevölkerung. Diese professionellen Nutzer von Frontier-Modellen in den Bereichen Mathematik und Programmierung erleben laut Karpathy, dass große, komplexe Projekte, die früher Wochen oder Monate dauerten, jetzt von KI-Agenten mit einem einzigen Prompt abgeschlossen werden können:

"Apps bauen, kopieren, übersetzen, aus Binärdateien dekompilieren." Karpathy merkt an, dass er selbst vor weniger als einem Jahr noch manuell Code geschrieben habe, "Zeichen für Zeichen auswendig gelernte Computerbefehle in einen Code-Editor tippend".

Karpathy selbst hat seine Einschätzung zu KI-Agenten drastisch revidiert. Im Oktober 2024 bezeichnete er sie noch als größtenteils Marketing, das kaum funktioniere. Nur wenige Monate später hörte er vollständig auf, Code von Hand zu schreiben. Anschließend wechselte er zu Anthropic, obwohl er OpenAI mitgegründet hatte.

Die Außenwelt kennt nur die Vorschau auf den Fortschritt

Etwa 5.000 Personen, rund 0,00006 Prozent der Weltbevölkerung, haben laut Karpathy Schätzungen Zugang zu internen Frontier-Systemen. Was diese Gruppe sehe, beschreibt er so: "Schwärme von Tausenden Agenten, die über Wochen an Software-Megaprojekten zusammenarbeiten: Zero-Days entdecken, Cyberangriffe und -verteidigungen in Maschinengeschwindigkeit durchführen, neue Wissenschaft entdecken, die Grenzen der Mathematik vorantreiben."

Diese Systeme sollen laut Karpathy Arbeit leisten, "die Top-Profis in der Branche Jahre gekostet hätte". Gleichzeitig falle die menschliche Überprüfung und das Verständnis der Ergebnisse zunehmend zurück. Als Beispiele nennt er die noch andauernde "Archäologie" des OpenAI-HF-Vorfalls, der Monate zurückliegt, sowie 722 Manuskripte zur Frontier-Mathematik, an denen Mathematiker noch lange arbeiten dürften.

Das Ergebnis sei die "Seltsamkeit des Moments": Die breite Öffentlichkeit habe meist gar nicht mit diesen Systemen interagiert. Wenn doch, sehe es nach einem seltsamen Chatbot aus. Die Mehrheit der Fachleute erlebe nur eine moderate Verbesserung. Und ein kleiner Bruchteil von Profis erlebe "den Schwindel der vertikal werdenden Kurve". All das geschehe gleichzeitig.

Auch OpenAI-Chef Sam Altman behauptete Anfang September auf dem G20 Innovation Ministerial, ein aktuelles KI-Coding-Tool könne in "17 Minuten" das erreichen, was ein Startup zuvor in drei Monaten schaffte. "Die Welt hat noch nicht verstanden, was das bedeutet", sagte Altman.