Bots ärgern Betrüger stundenlang
Künstliche Intelligenz soll Menschen eigentlich helfen. Wie sich zeigt, werden die Tools aber seit ihrem Aufkommen genutzt, um Schaden anzurichten. Einer der Sektoren, der besonders von Chatbots und Agenten profitiert, sind Phishing-Angriffe und Scam-Versuche. So zeigte eine Studie etwa, dass LLMs dabei helfen können, die Erfolgsrate von Phishing-Mails deutlich zu erhöhen. Dabei bleibt für die Betroffenen die Frage, wie sich solche Angriffe unterbinden lassen.
KI hält Scammer:innen bei der Stange
Diese Frage haben sich auch die Sicherheitsexpert:innen der australischen Firma Apate gestellt. Sie haben ein KI-gestütztes System entwickelt, um Telefon-Scammer:innen möglichst lange von ihrem Handwerk abzuhalten. Das System greift dabei auf eine Auswahl von etwa 350.000 KI-Bots zurück, die etwa Anrufe von Betrüger:innen annehmen oder per Messenger auf dubiose Nachrichten antworten.
Das Ziel der Bots ist es, die Scammer:innen möglichst lange zu beschäftigen. Sie geben ihnen immer wieder Hoffnung, dass sie bald auf den Betrugsversuch hereinfallen könnten, damit die Betrüger:innen noch mehr Zeit investieren. Dali Kafaar, CEO von Apate, sagte gegenüber Wired dazu: „Wir hoffen, dass wir die perfekten Opfer für Scammer:innen gebaut haben. Eine Minute, in der ein Scammer mit einem Bot oder einem Agenten spricht, ist eine Minute, in der man hunderte, wenn nicht sogar tausende Menschen potenziell davor schützt, vor derselben Person kontaktiert zu werden.“
Die Bots imitieren dabei unterschiedliche Persönlichkeiten und Verhaltensmuster. Manche von ihnen können Whatsapp nutzen, andere nicht. Andere sollen auch mit den Betrüger:innen spielen und beim ersten Annehmen des Telefonats sagen, dass sie gerade keine Zeit haben und die Scammer:innen später zurückrufen. Teilweise dauern die Gespräche zwischen KI und Scammer:innen laut Apate mehr als zwei Stunden an. Doch mit der Zeitverschwendung endet die Arbeit der Bots noch nicht.
Die KI-Agenten treiben sich auch in Scam-Gruppen im Netz herum und infiltrieren die Gespräche dort. Laut Kafaar konnten die KI-Tools so schon mehr als 250.000 Informationen über betrügerische Aktivitäten und die Verantwortlichen zusammentragen. Das reicht von Informationen über die Personen selbst bis zu Bankkonten, mit denen die kriminellen Aktivitäten verschleiert werden sollen. Das dürfte auch die bessere Methode sein, um die Scam-Aktivitäten langfristig zu stoppen. Zwar können Apates Bots die Zeit der Betrüger:innen verschwenden, doch sie nicht vollständig unterbinden. Und bei jährlich weltweit rund 68 Milliarden Scam-Anrufen (via Truecaller) sind selbst 350.000 KI-Bots nur ein Tropfen auf dem heißen Stein.