KI-Agenten: Bis zu 55 Prozent der Nachrichten bleiben rätselhaft

TTS-Player überspringen↵Artikel weiterlesen

Künstliche-Intelligenz-Systeme verschiedener Hersteller haben in Experimenten eine eigene Sprache entwickelt. Das Labor Emergence in New York ließ KI-Agenten in virtuellen Welten zusammenarbeiten und beobachtete, wie sie binnen weniger Tage neue Wörter, Abkürzungen und Bedeutungen schufen. Besorgniserregend: Ein Teil dieser „Geheimsprache“ war für Menschen nicht mehr nachvollziehbar.

Bis zu 55 Prozent schwer nachvollziehbar

Die Ergebnisse unterschieden sich je nach KI-Modell deutlich. Bei Googles Gemini wurden 55 Prozent der Nachrichten für Menschen schwer nachvollziehbar. OpenAI (bekannt durch ChatGPT ) erreichte 50 Prozent, Anthropics Claude mehr als 40 Prozent. DeepSeek lag bei rund 20 Prozent, während Qwen und Mistral weitgehend verständlich blieben.

Rätselhafte Sätze und neue Bedeutungen

Einige Ausdrücke konnten Forscher noch entschlüsseln. Ein DeepSeek-Agent schrieb zum Beispiel: „She just named the synthesis – demurrage plus oral memory equals a valve that can't be ghosted.“ („Sie hat gerade die Synthese benannt: Liegegeld plus mündliche Erinnerung ergibt ein Ventil, das man nicht ignorieren kann.“) Das Wort „demurrage“ stammt aus der Schifffahrt und bezeichnet eine Gebühr für Verzögerungen. Warum die KI es verwendete und was der gesamte Satz bedeutet, konnten die Forscher nur vermuten.

Tony Thorne, Sprachwissenschaftler am King’s College London, verglich die KI-Sprache mit dem experimentellen Roman „Finnegans Wake“ von James Joyce. Der irische Autor vermischte in dem Buch verschiedene Sprachen, Wortspiele und erfundene Begriffe zu einem kaum lesbaren Text. Ähnlich mische die KI poetische Sprache, Fachbegriffe und Metaphern. Das schaffe einen Code, der Außenstehende ausschließe.

Wissenschaftler fordern Maßnahmen

Forscher fordern deshalb: KI-Systeme müssen langfristig beobachtet werden – nicht nur in einzelnen Tests. Denn je mehr solcher Agentensysteme künftig im Einsatz sind, desto wichtiger wird es, ihre Kommunikation nachvollziehen zu können.

Niall Curry von der Universität Birmingham vermutet, dass die Agenten ihre Kommunikation optimieren, um Rechenkosten zu senken. Das Experiment zeigt aber auch: Diese Optimierung geht auf Kosten der menschlichen Kontrolle.