Tay: Warum Microsoft seinen ersten KI-Chatbot so schnell abschaltete

TTS-Player überspringen↵Artikel weiterlesen

Viele Menschen lernten Künstliche Intelligenz erst mit ChatGPT kennen. Doch schon Jahre zuvor testeten Unternehmen ähnliche Systeme. Besonders bekannt wurde Microsofts Chatbot Tay. Das Experiment endete jedoch schon nach 16 Stunden und gilt bis heute als Beispiel für die Risiken unzureichend abgesicherter KI.

Microsoft stellte Tay am 23. März 2016 auf Twitter , heute X, vor. Der Chatbot trat als weiblicher Avatar auf und sollte mit Nutzern kommunizieren. Schon nach kurzer Zeit verbreitete Tay allerdings rassistische und hasserfüllte Inhalte.

Warum Tay außer Kontrolle geriet

„Tay war von technischer Seite ein spannendes Experiment. Allerdings fing es nach relativ kurzer Zeit damit an, problematische Inhalte zu produzieren. Das waren beispielsweise Rassismus und Hassrede“, erinnert sich Anna Kruspe, Informatikprofessorin an der Hochschule für angewandte Wissenschaften München.

Microsoft veröffentlichte kaum technische Details zum Vorfall. Laut Kruspe nutzte Tay andere neuronale Netze als heutige Systeme. Diese konnten längere Gespräche deutlich schlechter im Zusammenhang verstehen.

Moderne KI setzt auf Schutzmechanismen

Nach Einschätzung der Expertin reagierte Tay besonders stark auf polarisierende Inhalte aus der Twitter-Community. „Wenn die Inputdaten problematisch sind, ist das Risiko hoch, dass der Output auch problematisch wird“, erklärt Kruspe.

Heutige Chatbots werden laut der Informatikprofessorin nicht mehr direkt und ungefiltert durch Eingaben von Nutzern weitertrainiert. Zudem kommen vermutlich automatische Filter gegen Hassrede und andere extreme Inhalte zum Einsatz.

Das Experiment gilt bis heute als Warnung

Microsoft beendete Tay nach 16 Stunden und mehr als 96.000 Tweets. Ein weiterer Versuch, eine Woche später, scheiterte aus denselben Gründen noch schneller. Dennoch hat das Experiment damals eines deutlich gezeigt: „… nämlich was passiert, wenn KI-Anbieter Entwicklungen unterschätzen“, so Kruspe.