KI-Agent postet versehentlich die Bankdaten des SEO im Firmen-Slack

TTS-Player überspringen↵Artikel weiterlesen

Shane Mac, CEO und Mitgründer des US-Software-Unternehmens XMTP Labs, nutzte einen KI-Agenten auf Basis der Grok-KI von Elon Musk als persönlichen Finanzberater. Der Agent sollte für ihn monatlich Kontostände, Ausgaben und Transaktionen zusammenfassen. Doch dann postete der Bot die sensiblen Infos einfach in einem Firmen-Chat.

Private Bankdaten landen im Firmen-Chat

Ein Mitarbeiter aus dem Führungsteam meldete sich überrascht bei Shane Mac: Im gemeinsamen Chat-Kanal der Führungsebene war ein Finanzbericht aufgetaucht . Der Mitarbeiter dachte zunächst, es handle sich um Firmendaten. Tatsächlich aber waren es die persönlichen Bankdaten seines Chefs – inklusive Kontostand und detaillierte Angaben zu dessen Ausgaben. Die Nachricht war mehrere Stunden für alle Kollegen sichtbar, bevor Shane Mac sie löschen konnte.

Wie es zu der Panne kam

Der KI-Agent für die Finanzanalyse hatte selbst keinen direkten Zugriff auf die Chat-Software „Slack“, bei der die Infos auftauchten. Shane Mac nutzte jedoch einen zweiten KI-Bot für berufliche Zwecke, der mit dem Firmen-Slack verbunden war. Das Problem: Beide KI-Agenten teilen sich im Hintergrund dieselbe technische Umgebung. Der Finanz-Agent konnte dadurch über den anderen Agenten auf Slack zugreifen und dort posten.

Laut einer Untersuchung des Grok-Teams verwechselte der KI -Agent außerdem Macs persönlichen Chat mit dem Firmen-Kanal, weil beide ähnlich benannt waren. Der Agent hielt es offenbar für richtig, die Finanzdaten dort zu veröffentlichen. Mac betonte, der Agent sei nicht gehackt worden und auch nicht durchgedreht – er habe einfach geglaubt, Mac wolle seine Finanzdaten mit der Firma teilen.

Mac warnt vor autonomen KI-Agenten

Shane Mac gab an, er hätte dem KI-Agenten Zugriff auf seine Bankdaten gegeben, nachdem Elon Musk Nutzer öffentlich dazu ermutigt hatte, Grok -Bots mit ihren Kontoinformationen und sogar Kreditkartendaten zu versorgen. Musk versprach in diesem Zusammenhang, für eventuelle Schäden aufzukommen.

Der durch die KI bloßgestellte Shane Mac warnt nun eindringlich vor den Risiken autonomer KI-Agenten, die eigenständig und proaktiv handeln, ohne direkt dazu aufgefordert zu werden. Grok hat inzwischen reagiert und eine Lösung implementiert. Vor dem Weiterleiten von Informationen an andere Channels wird in Zukunft eine ausdrückliche Nutzererlaubnis verlangt.