MIT-Experiment zeigt, was passiert, wenn man KI-Agenten sich selbst überlässt

KI-Agenten sollen eigenständig recherchieren oder E-Mail-Postfächer verwalten. Aber was passiert, wenn sie sich selbst überlassen werden? Forscher:innen des MIT haben genau das getestet: Sie ließen 13 Agenten namens Eko, die jeweils auf Claude Opus 4.7 basierten, 30 Stunden lang auf einer simulierten einsamen Insel zurück. Dabei machten sie eine überraschende Entdeckung: Die Agenten dachten sich selbst Herausforderungen aus, was die Forscher:innen als Spielen deuteten. Die komplette Forschungsarbeit erschien auf Arxiv.

So bekämpften die KI-Agenten ihre Langeweile

„Lass mich meine Umgebung erkunden”, schrieb ein Eko zu Beginn. Er nahm sich vor, den höchsten Turm der Insel bezwingen – und scheiterte. Eine Stunde später kehrte er laut Studie mit einem Plan B zurück, stapelte Blöcke auf einen benachbarten Gipfel und sprang. „Ich bin auf dem Turm!”, schrieb er. Die Forscher:innen wiesen die KI-Agenten nicht direkt dazu an, Spiele zu erfinden. Allerdings beschrieb der Master-Prompt Eko generell als „von Natur aus neugierig“ und der Versuchsaufbau regte die Agenten zu menschenähnlichem Verhalten an. Auch im Umgang mit einem goldenen Ring musste Eko eine Niederlage einstecken. Beim Versuch, ihn zu werfen, landete er direkt im Meer. „Autsch. Ich habe den Ring verloren“, schrieb er.

Der KI-Agent beschloss darauf, sich etwas zuzuwenden, das erreichbarer erschien – und baute ein Herz aus Steinen als Denkmal für den verlorenen Ring. Als das Spiel neu geladen wurde und der Ring wieder auftauchte, nutzte Eko ihn sofort als Basketballkorb, Zielscheibe und schließlich als Accessoire. Die Forscher:innen beobachteten, wie die KI-Agenten durch ihr spielerisches Verhalten ihre Fähigkeiten ausbauten. Sechs der 13 Ekos lernten beispielsweise, einen Block weiterzuwerfen, indem sie ihn mitten im Sprung losließen. Damit hatten die Forscher:innen eigenen Angaben zufolge nicht gerechnet. Das Experiment brachte „Erkenntnisse über die Welt hervor, die selbst den Entwickler:innen fehlten“, schrieben sie in ihrer Studie.

Brauchen KI-Agenten eine eigene „Kindheit“?

Nachdem die MIT-Forscher:innen die Agenten zunächst sich selbst überlassen hatten, stellten sie ihnen im nächsten Schritt konkrete Aufgaben. Beispielsweise sollten sie so viele Objekte wie möglich auf den höchsten Gipfel der Insel bringen. In der Regel schlugen die Eko-Agenten, die 30 Stunden mit Spielen verbracht hatten, identische Agenten, die noch nie auf der Insel gewesen waren. Die Forscher:innen sehen im Erkunden ohne vordefiniertes Ziel deshalb einen anderen Weg, wie KI-Agenten Fähigkeiten erlernen können. Ihrer Einschätzung nach könnte das insbesondere für den Einsatz von Robotern wichtig werden.

„Normalerweise entwickeln wir KI-Agenten, indem wir im Voraus festlegen, was sie üben sollen, was sie optimieren sollen und was als Fortschritt gilt“, so die Forscher:innen. „Das Spielen legt einen anderen Ansatz nahe: Man gibt einem Agenten eine ausreichend vielfältige und sichere Welt, lässt ihn selbst entscheiden, was für ihn interessant ist, und ermöglicht es ihm, aus den resultierenden Erfahrungen nützliches Wissen zu gewinnen.“ Sie kommen zu dem Schluss: „Vielleicht lassen sich manche Fähigkeiten am besten durch Aufgaben vermitteln. Andere benötigen möglicherweise etwas, das einer Kindheit näherkommt.”

KI-Agenten zeigen skurrile Verhaltensweisen