Killer-Plan an Polizei verraten: ChatGPT verhindert Mord an 8-Jährigem

TTS-Player überspringen↵Artikel weiterlesen São Gabriel da Palha – In Brasilien führten Gespräche mit der künstlichen Intelligenz ChatGPT zur Verhaftung eines Mannes. Er wird verdächtigt, einen Kindermord geplant zu haben. Das Opfer: Sein eigener Sohn! Ein 36-jähriger Landwirt hatte über zwei Monate hinweg in Gesprächen mit der KI detailliert geplant, seinen 8-jährigen Sohn und sich selbst zu töten. Das Sicherheitssystem von ChatGPT schlug Alarm und meldete die Gefahr an die Polizei. Der Mann wurde am 19. Juni verhaftet. Die künstliche Intelligenz ChatGPT wurde in der Vergangenheit oft kritisiert, weil die Software keine Behörden informierte, wenn Nutzer über konkrete Pläne sprachen, sich selbst oder andere zu verletzen. Manchmal wurde erst nach einem Mord klar, wie lange Täter schon mit der KI über ihre Fantasien gechattet hatten . Wie „BBC“ berichtet, hat das System in diesem Fall aktiv gehandelt und einen drohenden Mord gemeldet. Der Landwirt chattete wochenlang mit der KI über seine Pläne. Die KI hat durch ihr Eingreifen ein Kind vor einem grausamen Schicksal bewahrt. Die Meldekette funktionierte international: Die Schilderungen des Mannes lösten einen Alarm im Sicherheitssystem der KI aus. ChatGPT-Betreiber OpenAI informierte das FBI in den USA. Das FBI kontaktierte die brasilianischen Behörden. Die Informationen erreichten am 16. Juni das Ciberlab, die Technik-Einheit des brasilianischen Justizministeriums. Drei Tage später schlug die Polizei zu und verhaftete den Mann. Nach Einschätzung der Ermittler wollte er seinen Plan am 20. Juni in die Tat umsetzen. Vier Tage zuvor wurde er gestoppt. In den Chat-Protokollen offenbarte der Landwirt erschreckende Details. „Ich wollte wissen, woher dieser Wunsch kommt, Menschen zu töten. Ich mag das Gefühl, eine andere Person leiden zu sehen.“ Er recherchierte auch, wie man das tödliche Gift Rizin aus Rizinussamen gewinnt. „Er wollte keinen Unterhalt zahlen“ Das Motiv für den geplanten Mord war nach Angaben der Polizei banal: Der Mann wollte die Unterhaltszahlungen für seinen Sohn loswerden und hatte seinem Kind keine Beziehun. Bei der Durchsuchung seiner Wohnung fanden die Ermittler vier Flaschen mit einer unbekannten Substanz und ein Seil. Der Mann wurde zunächst in Untersuchungshaft genommen, kam aber am 13. August nach 54 Tagen wieder frei. Das Gericht begründete die Freilassung mit übermäßigen Verzögerungen bei den Ermittlungen. Der Mann muss nun eine elektronische Fußfessel tragen und darf sich seinem Sohn und dessen Mutter nicht nähern. Sein Verteidiger Pedro Pessi argumentiert: „Wenn es ein Verbrechen ist, mit KI zu sprechen und Unsinn zu reden, kommt jeder ins Gefängnis.“ Eine vermutlich äußerst verdrehte Sicht auf die Dinge. „Schwerster Fall“ dieser Art OpenAI lieferte dabei den brasilianischen Behörden nur die Nachrichten, nicht aber die Antworten der künstlichen Intelligenz . Rechtsanwältin Maíra Fernandes kritisiert, dass ohne die vollständigen Gespräche der Kontext fehle. „Es muss der vollständige Gesprächsverlauf vorliegen“, fordert sie. „Isolierte Ausschnitte können den Sinn komplett verändern.“ Was genau an einem detaillierten Mordplan sinnverändernd sein soll, bleibt dabei fraglich. Das brasilianische Justizministerium bezeichnete den Fall als den „bei Weitem schwersten Fall“ dieser Art im Land. Es ist der dritte in ganz Brasilien, bei dem eine KI aktiv vor einem geplanten Verbrechen warnte. Die Ermittlungen gegen den Mann, der sein eigenes Kind töten wollte, laufen weiter.