T-Shirt gegen Überwachung: Sicherheitsforscher entwickelt Muster, das KI-Gesichtserkennung austrickst

Überwachungskameras können längst mehr als nur Bilder aufnehmen. KI-Software erkennt darauf Menschen, Fahrzeuge oder Kennzeichen automatisch. Ein US-amerikanischer Sicherheitsforscher will diese Erkennung nun gezielt stören – mit Mustern, die für Menschen wie auffällige Designs aussehen, für die KI aber zum Problem werden. 31 Millionen Tests gegen automatisierte Überwachungs-KI Hinter dem Projekt „noRecognition“ steht der Sicherheitsforscher Bill Swearingen. Er hat nach eigenen Angaben im vergangenen Jahr rund 31 Millionen Tests durchgeführt, um Muster zu finden, die verschiedene Erkennungsalgorithmen verwirren. „Datenschutz ist ein Grundrecht“, sagte Swearingen in einem Gespräch mit dem US-Nachrichtenportal „TechCrunch“. Seine Muster sollen Menschen erlauben, „sich gegen die Nachverfolgung zu entscheiden“. Sein System probiert unterschiedliche Muster aus und überprüft anschließend, ob eine Kamera das damit bedeckte Objekt noch erkennt. Funktioniert ein Muster nicht, wird es verändert und erneut getestet. Swearingen beschreibt den Prozess vereinfacht als Training eines Modells, das „malen“ lernt. Nach seinen Angaben konnten die von ihm entwickelten Muster schließlich alle elf von ihm getesteten Erkennungssysteme austricksen. Dazu gehören weit verbreitete Systeme wie Flock-Kennzeichenerfassung, Axon-Bodycams und Clearview AI (Gesichtserkennung). ANZEIGE ANZEIGE Kamera nimmt weiter auf – erkennt aber das Objekt nicht Wichtig ist dabei ein Detail: Die Muster machen Menschen oder Autos nicht für die Kamera unsichtbar. Das Bild wird weiterhin aufgenommen und wäre für einen Menschen sichtbar. Es geht um die Software dahinter. Sie soll nicht mehr zuverlässig erkennen, dass sich auf dem Bild ein Mensch oder ein Fahrzeug befindet. Dadurch können automatisierte Erkennungs- und Alarmsysteme versagen. Bei der Def-Con-Konferenz in Las Vegas, der weltweit größten Konferenz für Hacker und IT-Sicherheit, wurde die Technik erstmals öffentlich unter realen Bedingungen demonstriert. Ein Toyota Yaris aus dem Jahr 2009 wurde mit einem der Muster versehen und an einer Flock-Kamera vorbeigefahren. „Wir haben bewiesen, dass es wirksam war“, so Swearingen zu „TechCrunch“. Allerdings gab es noch Schwierigkeiten mit den Rädern. Der Test ist ein erster Hinweis, dass die Muster eine algorithmische Erkennung tatsächlich austricksen können. Aus Muster wird Kleidung Swearingen will die Technologie nun für den Alltag nutzbar machen. Über eine Crowdfunding-Kampagne werden bereits Kleidungsstücke mit entsprechenden Mustern angeboten. Geplant sind unter anderem T-Shirts und Hoodies. Langfristig sind auch Folierungen für Fahrzeuge vorgesehen. Muster könnte für Smart Glasses relevant werden Die Entwicklung könnte auch für eine andere Form der Kameraüberwachung interessant werden: Smart Glasses wie die Meta Ray-Ban Glasses können mit der integrierten Kamera ihre Umgebung kontinuierlich erfassen. Meta stand zuletzt in der Kritik, weil es heimlich eine Gesichtserkennungstechnologie für seine Smart Glasses getestet haben soll. Ein Muster, das bestimmte KI-Erkennungssysteme verwirrt, könnte damit grundsätzlich auch bei tragbaren Kameras relevant werden. Allerdings lässt sich aus den bisherigen Tests nicht ableiten, dass die Kleidung Menschen auch vor den Kameras von Smart Glasses oder deren KI-Funktionen schützt. Die Entwickler haben ihre Muster gegen bestimmte Bilderkennungssysteme getestet – nicht gegen sämtliche heute verfügbaren Kamera- und KI-Technologien.