Claude Mythos Preview: KI findet mathematische Schwachstellen in Krypto-Verfahren
Eine Vorschau-Version von Claude Mythos soll erstmals eigenständig mathematische Schwachstellen in den kryptographischen Verfahren HAWK und AES entdeckt haben. Die Erkenntnisse gehen damit deutlich über das Auffinden von Implementierungsfehlern hinaus und könnten KI künftig stärker in deren Weiterentwicklung einbinden. Bisher nur Fehler bei der Implementierung gefunden Laut Anthropic zeigen die nun veröffentlichten Forschungsergebnisse, dass leistungsfähige KI-Modelle künftig einen wichtigen Beitrag zur Überprüfung und Weiterentwicklung kryptographischer Verfahren leisten könnten. Unmittelbare Auswirkungen auf produktiv eingesetzte Systeme ergeben sich daraus derzeit jedoch nicht. Bereits zuvor konnte Claude Mythos Preview Sicherheitslücken in kryptographischen Bibliotheken identifizieren, die allerdings ausschließlich auf fehlerhafte Implementierungen zurückzuführen waren. Die erzielten Ergebnisse unterscheiden sich davon grundlegend, da sie mathematische Schwächen der Algorithmen selbst betreffen. Damit erweitert sich das Einsatzgebiet von KI von der Analyse fehlerhafter Software hin zur eigentlichen kryptographischen Forschung. Rund 60 Stunden reichen, um die Sicherheit von HAWK zu halbieren Eine der entdeckten Schwachstellen betrifft das experimentelle, gitterbasierte Post-Quanten-Signaturverfahren HAWK, das klassische Algorithmen wie RSA oder ECDSA langfristig gegen Angriffe durch Quantencomputer ersetzen soll. Obwohl HAWK über Jahre hinweg kontinuierlich von Experten überprüft worden war und bereits die dritte Runde des NIST-On-Ramp-Prozesses erreicht hatte, entwickelte Claude innerhalb von rund 60 Stunden einen verbesserten Angriff, der eine bislang ungenutzte Symmetrie im mathematischen Gitter des Verfahrens ausnutzte. Dadurch reduzierte sich die effektive Sicherheitsstufe der vorgeschlagenen Parameter ungefähr um die Hälfte der vorgeschlagenen Schlüsselgrößen. Entsprechende Schlüssel müssten künftig daher etwa doppelt so lang ausfallen, um das angestrebte Sicherheitsniveau zu erreichen. Laut Anthropic seien andere Post-Quantum-Kandidaten oder gitterbasierte Verfahren davon jedoch nicht betroffen. Während der Analyse arbeitete Claude weitgehend autonom in einer Multi-Agenten-Umgebung mit Zugriff auf wissenschaftliche Literatur, Python, SageMath sowie verschiedene Hilfswerkzeuge. Anthropic hebt hervor, dass mehrere KI-Agenten parallel unterschiedliche Lösungsansätze verfolgten und sich gegenseitig korrigierten, bis schließlich der entscheidende Angriff entwickelt sowie anschließend vollständig mathematisch und praktisch überprüft worden war. Die API-Kosten für dieses Projekt beziffert das Unternehmen auf rund 100.000 US-Dollar. Angriffe auf AES mit KI bis zu 800 mal schneller Die zweite Schwachstelle betrifft mit AES den weltweit wohl am häufigsten eingesetzten symmetrischen Verschlüsselungsalgorithmus. Der Angriff richtet sich ausdrücklich nicht gegen die vollständige Version von AES-128 mit zehn mathematischen Transformationszyklen (Runden), sondern gegen eine wissenschaftlich untersuchte Variante mit lediglich sieben Runden. Solche reduzierten Versionen dienen seit vielen Jahren dazu, neue Angriffsmethoden zu erforschen und Rückschlüsse auf die Sicherheit des vollständigen Verfahrens zu ziehen. Claude entwickelte hierfür einen neuen sogenannten „Möbius-Bridge“-Ansatz, der eine bislang notwendige Vermutung innerhalb eines Meet-in-the-Middle-Angriffs überflüssig macht und den bislang besten bekannten Angriff je nach Bewertungsmethode um den Faktor 200 bis 800 beschleunigt. Für die Praxis ist dieser Angriff allerdings weiterhin ohne Relevanz, da er nach wie vor extrem hohe Anforderungen an die ausgewählten Klartexte stellt und die vollständige AES-Version nicht gefährdet. Die Entwicklung des AES-Angriffs verlief den Ergebnissen zufolge noch autonomer als beim HAWK-Projekt, obwohl Claude Verbesserungen zunächst mit dem Argument ausschloss, AES sei bereits zu intensiv untersucht worden. Erst nachdem die Forscher das Modell gezielt dazu aufgefordert hatten, nach tatsächlich neuen Ideen zu suchen, änderte Claude seinen Ansatz. Über mehrere Tage hinweg erzeugte das KI-Modell mehrere hundert Millionen und schließlich rund eine Milliarde Tokens, entwickelte zahlreiche Hypothesen, verwarf viele davon wieder und gelangte letztlich eigenständig zur entscheidenden mathematischen Idee. Deren anschließende Überprüfung beanspruchte wiederum mehrere hundert Arbeitsstunden menschlicher Forscher und dauerte damit deutlich länger als die eigentliche Entdeckung. Auch neue Erkenntnisse bei LEA_Blockchiffre Im Rahmen der Forschungsarbeiten entwickelte Claude außerdem einen praktikablen Angriff auf eine 13-Runden-Version der LEA-Blockchiffre, mit dem sich ein Schlüssel unter Einsatz von weniger als 2³⁰ gewählten Klartexten innerhalb von weniger als einer Stunde wiederherstellen lassen könne. Auch hierbei handelte es sich nicht um einen Angriff auf die vollständige 24-Runden-Version. Darüber hinaus erzielte das Modell Verbesserungen für reduzierte Varianten der Serpent-128-Chiffre sowie kleinere Fortschritte bei Angriffen auf Salsa20, Poseidon und SHA-1. Parallel zu den veröffentlichten Forschungsergebnissen hat Anthropic gemeinsam mit der ETH Zürich, der Tel Aviv University und der TU Berlin den Benchmark CryptanalysisBench entwickelt. Dieser soll die Bewertung krypto-analytischer Fähigkeiten großer Sprachmodelle vereinfachen und künftig als Maßstab für deren Fortschritte dienen. Künstliche Intelligenz auch hier künftige wichtiger Anthropic macht zudem deutlich, dass während der gesamten Projekte verantwortungsvolle Offenlegungsverfahren eingehalten und sowohl die Entwickler von HAWK als auch Behörden und Industriepartner frühzeitig informiert worden seien. Die Experten gehen davon aus, dass KI künftig zunehmend originäre kryptographische Forschung betreiben wird und menschliche Experten immer häufiger zum Engpass bei der Überprüfung und Validierung neuer Ergebnisse werden könnten. Gleichzeitig betonen sie, dass die aktuelle Entwicklung Chancen und Risiken gleichermaßen mit sich bringt: Während KI helfen könne, Schwachstellen bereits vor einem praktischen Einsatz zu entdecken und dadurch sicherere Algorithmen zu entwickeln, müsse sich die Fachwelt zugleich auf den Fall vorbereiten, dass Sprachmodelle künftig auch unmittelbar sicherheitsrelevante Schwachstellen produktiver Krypto-Systeme finden.