Wenn die KI falsch liegt, glauben wir ihr weiter: Studie zeigt, dass es uns immer schwerer fällt, "Ich weiß es nicht" zu sagen

Die Nutzung von KI führt laut einer Studie dazu, dass Menschen ihr eigenes Wissen überschätzen. (khosrork - Adobe Stock) KI-Chatbots haben auf so ziemlich jede Frage eine Antwort und geben kaum zu, wenn ihnen eigentlich die nötigen Informationen dafür fehlen. Eine Studie hat nun untersucht, wie sich das auf das Verhalten der Nutzer auswirkt. KI beeinflusst das Selbstvertrauen Die Studie wurde von verschiedenen Forschern von Universitäten in Rom, Mailand und Paris durchgeführt. Über 3.000 Probanden wurden dabei in fünf Experimenten mit schwierigen Fragen konfrontiert. Dabei gab es auch immer die Möglichkeit, keine Antwort zu geben. Die Fragen wurden dabei so konstruiert, dass die zur Verfügung gestellten KI-Chatbots nur falsche Ratschläge erteilen konnten. So sollte zwischen der Nutzung von KI und der Genauigkeit von KI unterschieden werden. 44:19 »Künstliche Intelligenz ist die neue Elektrizität« - Wir busten mit einem Experten 5 Mythen zu KI Autoplay Das sind die Ergebnisse: Laut den Forschern sorgte allein der mögliche Zugang zu KI schon dafür, dass die Bereitschaft, sich die eigene Unwissenheit einzugestehen, bei den Probanden nahezu vollständig eliminiert wurde. Diese Erkenntnis hielt unabhängig davon, ob die KI überhaupt um Rat gebeten wurde oder nur ungenutzt zur Verfügung stand. Offenbar fällt es den Nutzern extrem schwer, schlicht »Ich weiß es nicht« zu sagen, wenn KI eine Option ist. Probanden, die auf KI zurückgreifen konnten, beantworteten entsprechend deutlich mehr Fragen, lieferten aber gleichzeitig deutlich seltener die richtige Antwort. Das Selbstbewusstsein und das Vertrauen in das eigene Wissen verdoppelten sich bei diesen Probanden trotzdem. Als die Forscher die Experimente so umbauten, dass die Richtigkeit der Antworten belohnt und falsche Antworten bestraft werden, suchten Probanden seltener den Rat der KI und weigerten sich häufiger zu antworten. Bei denen, die keine KI zur Verfügung hatten, war dieser Anteil trotzdem deutlich größer. Die Studie zeigt einen besorgniserregenden Trend auf. Wenn Menschen ihr eigenes Wissen nicht mehr richtig einschätzen, kann das fatale Folgen haben. Gerade in Berufen mit viel Verantwortung ist es wichtig, auch Leute zu finden, die diese Verantwortung tragen können – ohne dafür einen KI-Chatbot zu befragen. Möglicherweise würde es auch helfen, wenn solche KI-Chatbots selbst eingestehen, dass es auf eine Frage keine eindeutige Antwort gibt oder schlicht die nötigen Informationen fehlen, um eine solche Antwort zu liefern. Ob die großen KI-Unternehmen daran aber Interesse haben, bleibt fraglich.