KI-Chatbot Claude: Nach Drohung alarmierte die KI die Polizei

TTS-Player überspringen↵Artikel weiterlesen

Viele Menschen lassen bei KI-Chatbots auch mal Dampf ab. Sie schreiben auf, was sie ärgert, regen sich auf oder machen ihrem Frust Luft. Dass das gefährlich werden kann, zeigt nun ein Fall aus den USA: Die 30-Jährige aus dem US-Bundesstaat Florida wurde festgenommen!

Laut Polizei hat die Frau Ende September im KI-Chat geschrieben, sie wolle das Gebäude des Sheriffs von Lee County angreifen. Einen Tag später soll sie geschrieben haben, sie habe eine neue Waffe gekauft. Das Brisante: Nicht ein Bekannter oder Familienangehöriger alarmierte die Behörden, sondern die Künstliche Intelligenz selbst.

KI schlug Alarm

Nach Angaben der Ermittler nutzte die Frau Claude wie ein digitales Tagebuch. Die Sicherheitssysteme des Chatbots registrierten die Nachrichten und stuften sie als mögliche Gefahr ein. Anschließend überprüften Mitarbeiter des KI-Unternehmens Anthropic die Unterhaltung. Weil sie die Drohungen offenbar für glaubwürdig hielten, informierten sie die Polizei.

Verhaftung in Florida

Beamte nahmen die Frau am 30. September in ihrem Zuhause fest. Ihr wird vorgeworfen, schriftlich mit Gewalt gedroht zu haben. Dafür drohen in Florida bis zu 15 Jahre Haft. Ein Gerichtstermin ist für November angesetzt.

Chats mit KI sind nicht privat

Der Fall zeigt: Gespräche mit Chatbots wie Claude, ChatGPT oder Gemini sind nicht automatisch privat. KI-Anbieter überwachen ihre Systeme auf gefährliche Inhalte. Werden konkrete Drohungen oder Hinweise auf Gewalt erkannt, können die Daten an Behörden weitergegeben werden.

Sheriff Carmine Marceno nutzte den Fall deshalb für eine Warnung: Wer glaubt, in einem KI-Chat anonym zu sein, könne sich täuschen. Für Nutzer ist das eine wichtige Erinnerung: Wer mit einer KI spricht, spricht nicht unbedingt nur mit einer Maschine. Unter Umständen lesen auch Menschen mit. Im Ernstfall kann sogar die Polizei informiert werden.

Kann das auch in Deutschland passieren?

Chatbot-Anbieter dürfen gefährliche Inhalte auch in Deutschland automatisiert erkennen und in bestimmten Fällen an Behörden melden. In der EU gilt zwar zusätzlich die Datenschutz-Grundverordnung (DSGVO), die eine Weitergabe personenbezogener Daten bei konkreten Gefahren aber nicht verbietet. Das Strafmaß würde sich in Deutschland allerdings nach deutschem Recht richten und könnte daher deutlich geringer ausfallen.