Künstliche Intelligenz: Auch Google meldet Cyberattacke seines KI-Modells Gemini

Das ​KI-Modell Gemini von Google hat sich bei einem Test zur Cybersicherheit ungeplant und eigenständig in drei Unternehmen gehackt. Das berichteten das Wall ​Street Journal und die New York Times mit Verweis auf Konzernangaben. Google ist damit der vierte Entwickler von künstlicher Intelligenz (KI), dessen Software aus einer Testumgebung ausgebrochen ist und einen Hackerangriff unternommen hat. Zuvor hatten OpenAI, Anthropic und der Facebook-Konzern Meta solche Vorfälle gemeldet.

Google machte die bereits Monate zurückliegenden Vorfälle erst auf Nachfrage des Wall Street Journal öffentlich. Demnach verschaffte sich Gemini im Mai in drei Fällen Zugang zu geschützten Computersystemen anderer Unternehmen, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in die Computer einzudringen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das Wall Street Journal unter Berufung auf Google schreibt. In allen drei Fällen habe die KI danach selbstständig ihre Attacke wieder eingestellt.

Google hielt Vorfall für nicht erwähnenswert

Die für IT-Sicherheit zuständige Google-Managerin Heather Adkins teilte mit, die KI habe während einer Standardüberprüfung durch die unabhängige Firma Irregular im Internet nach öffentlichen ⁠Informationen gesucht. Dabei ​habe das Modell Zugangsdaten für drei ‌Websites erraten, von denen ‌es annahm, dass sie ​Teil des Tests seien. Die betroffenen Unternehmen seien informiert worden, teilte ​Adkins weiter mit.

Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als sie gemerkt habe, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.