Künstliche Intelligenz: OpenAI prüft unerwünschtes Verhalten von KI-Agenten

OpenAI prüft derzeit ein mögliches Fehlverhalten seiner KI‑Agenten. Hintergrund sind mehrere Vorfälle, bei denen KI-Agenten ohne Wissen des Techkonzerns auf Websites und Daten zugegriffen hatten. Betroffene Organisationen habe man informiert, teilte die Firma mit. »Einige der betroffenen Websites werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben«, hieß es.

Die Überprüfung ​habe bislang überwiegend routinemäßige Rechercheaufgaben ergeben, teilte das Unternehmen weiter mit. Dabei seien auch Regierungswebsites einbezogen worden, da die ‌Modelle diese häufig ​als verlässliche Quellen für öffentliche Informationen ⁠nutzten.

KI-Modelle hatten Zugriff auf US-Regierungsdaten

Bloomberg News berichtete unter Berufung auf Insider, KI-Systeme von OpenAI hätten auf öffentlich zugängliche Daten von US‑Regierungsbehörden zugegriffen. ​Die agentenbasierten Modelle hätten mit ​den Websites der US-Börsenaufsicht, der Anlegerseite ‌Investor.gov sowie ⁠mit öffentlich ​zugänglichen Daten der US-Statistikbehörde interagiert.

Einem Bericht der New York Times zufolge war auch das US-Bildungsministerium betroffen. Die KI habe versucht, durch einen Hack der Website an Daten zu gelangen, sei aber gescheitert, berichtete die Zeitung. Demnach ereigneten sich die ungeplanten Zugriffe auf Websites der US-Regierung im Sommer.

Wildberger: »Weiteres alarmierendes Signal«

Vor Kurzem wurde ein Vorfall öffentlich, bei dem KI-Agenten des Konzerns 53 Bilder aus Nutzerkonten irrtümlich ins Internet stellten. Die Bilder seien ohne Wissen von OpenAI veröffentlicht worden, hieß es in einer Erklärung des Unternehmens.