Nach Festnahme im Februar: xAI verklagt Grok-Nutzer wegen sexualisierter Deepfakes
Während sich xAI weiterhin Klagen wegen der Verbreitung von sexualisierten Inhalten ohne Einwilligung der dargestellten Personen auf dem Kurznachrichtendienst X gegenübersieht, geht das Unternehmen in die Initiative und rechtlich gegen einen Grok-Nutzer wegen der Erstellung und Verbreitung solcher Deepfakes vor. Grok gezielt für Deepfakes genutzt Wie Reuters berichtet, wirft xAI Terry Wayne Harwood vor, den KI-Chatbot gezielt zur Erstellung von Darstellungen sexuellen Kindesmissbrauchs sowie nicht einvernehmlicher sexualisierter Deepfakes eingesetzt zu haben. Die Klage wurde bereits am Dienstag vor einem Bundesgericht im US-Bundesstaat Texas eingereicht. Nach Auffassung des Unternehmens verstieß Harwood mit den veröffentlichten Bildern gegen die Nutzungsbedingungen von Grok, indem er die KI zur Erstellung genannter Darstellungen verwendete. Festnahme bereits März Der 67-Jährige wurde bereits im vergangenen Februar wegen des Vorwurfs der sexuellen Ausbeutung Minderjähriger festgenommen worden. Die Generalstaatsanwaltschaft von South Carolina gab am 9. März 2026 im Rahmen der Aktivitäten der Task Force „Internet Crimes Against Children“ die Festnahme Harwoods bekannt. Gegen ihn wurden drei Anklagepunkte wegen sexueller Ausbeutung Minderjähriger zweiten Grades sowie fünf Anklagepunkte wegen sexueller Ausbeutung Minderjähriger dritten Grades erhoben. Harwood soll dabei nicht nur Material über sexuellen Kindesmissbrauch besessen, sondern dieses auch verbreitet haben. Der Klageschrift zufolge lud Harwood zwischen dem 8. Dezember 2025 und dem 18. Februar 2026 nicht sexuelle Fotos von Erwachsenen und Minderjährigen auf zwei Grok-Konten hoch, um mithilfe der KI sexuell explizite Deepfakes zu erzeugen. Darüber hinaus wird ihm vorgeworfen, auch nicht einvernehmliche sexualisierte Bildinhalte von Erwachsenen erstellt zu haben. Grok soll entsprechende Anfragen wiederholt abgelehnt haben, Harwood habe jedoch fortlaufend angepasste Eingabeaufforderungen verwendet, um die Sicherheitsmechanismen zu umgehen. Mehrere Forderungen in Klageschrift Mit der Klage verlangt xAI Schadensersatz in bislang nicht bezifferter Höhe. Darüber hinaus fordert das Unternehmen, dass das Gericht Harwood zur Übernahme der Kosten verpflichtet, die xAI im Zusammenhang mit möglichen Klagen seiner mutmaßlichen Opfer entstehen könnten. Zusätzlich beantragt xAI eine gerichtliche Verfügung, die den Beklagten dauerhaft von der Nutzung von Grok ausschließt. In der Klageschrift argumentiert das Unternehmen, der Beklagte habe das KI-System gezielt für kriminelle Zwecke eingesetzt, wodurch reale Opfer erheblichen und langfristigen Schaden erlitten hätten. Gleichzeitig seien für xAI dadurch erhebliche rechtliche und reputationsbezogene Risiken entstanden. Bereits über 200 Festnahmen nach Meldungen durch xAI Das Vorgehen von xAI kann als Versuch gewertet werden, konsequenter gegen den Missbrauch der eigenen Plattform vorzugehen und zugleich zu verdeutlichen, dass Verstöße gegen die Nutzungsbedingungen auch zivilrechtliche Folgen haben können. Dennoch zeigt der Fall, dass das Unternehmen entsprechende Vorfälle nach wie vor nicht sicher verhindern kann.