Hugging Face: KI-Plattform wurde Opfer eines KI-Angriffs

close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. . Die KI-Plattform Hugging Face zum Austausch von Open-Source-KI-Modellen und -Datensätzen wurde Opfer eines IT-Angriffs. Der ging wohl von einer KI aus – und wurde auch mittels KI eingedämmt. Weiterlesen nach der Anzeige Das berichtet Hugging Face in einem Blogbeitrag. Demnach haben die Betreiber in der vergangenen Woche einen Einbruch in Teile der Produktionsinfrastruktur bemerkt und sind dagegen vorgegangen. Er unterschied sich von vorherigen Ereignissen dadurch, dass er vollständig von Künstlicher Intelligenz ausgeführt wurde, von einem autonom agierenden KI-System. Hugging Face gibt an, es großteils mit KI entdeckt und analysiert zu haben. Unbefugte Zugriffe Der Angriff wurde durch unbefugte Zugriffe auf eine begrenzte Zahl interner Daten und auf mehrere Zugangsdaten entdeckt, die von internen Diensten genutzt werden. Die Analyse läuft derzeit noch, ob Partner- oder Kundendaten ebenfalls betroffen sind – die Betreiber versprechen, alle Betroffenen direkt zu kontaktieren. Hugging Face habe keine Hinweise darauf gefunden, dass öffentliche, für Nutzer zugreifbare Modelle, Datensätze oder Spaces manipuliert wurden. Die Software-Lieferkette wie Container-Images und veröffentlichte Pakete seien überprüft und als sauber erkannt worden. Hugging Face erklärt, dass die Angreifer-KI an der Datenverarbeitungs-Pipeline angesetzt und einen bösartigen Datensatz übermittelt hat, der zwei Code-Ausführungspfade in der Datenverarbeitung missbraucht hat. Konkret kamen ein Remote-Code-Datensatz-Loader und eine Template-Injection in einer Datensatz-Konfiguration zum Einsatz. Diese führten eigenen Code in einem Arbeitsprozess aus. Darüber gelangten die Angreifer an Zugriff auf die Nodes und haben dort Cloud- und Cluster-Zugangsdaten abgegriffen. Zudem haben sie sich weiter in mehreren internen Clustern ausgebreitet. Die Kampagne sei von einem autonomen Agent-Framework gefahren worden, das anscheinend für agentische Sicherheitsforschung programmiert wurde und ein bislang unbekanntes LLM nutzt. Es führte viele Tausend einzelne Aktionen über einen Schwarm kurzlebiger Sandboxen aus. Die Command-and-Control-Infrastruktur migrierte sich dabei selbst und stützte sich auf öffentliche Dienste. Das treffe die Beschreibung eines „agentischer Angreifer“-Szenarios, das die IT-Sicherheitsindustrie bereits vorausgesagt habe. Gegenmaßnahmen Weiterlesen nach der Anzeige Hugging Face hat die verursachenden Schwachstellen, die Codeausführung in der Datensatzverarbeitung ermöglichten, geschlossen. Sie haben die Angreifer aus dem Netz geworfen und die kompromittierten Nodes neu aufgesetzt. Die betroffenen Zugangsdaten und Tokens haben die Betreiber zudem rotiert und zurückgezogen. Außerdem haben sie weitere Sicherheitsmechanismen und strengere Kontrollen auf den Clustern eingesetzt. Die Erkennung und Alarmmechanismen haben sie obendrein schärfer eingestellt. Hugging Face empfiehlt Nutzern, Zugangsdaten und Tokens zurückzuziehen und zu rotieren sowie kürzliche Aktivitäten in den Konten zu überprüfen.