Astra 6.1: OpenAI zieht bei Veröffentlichung seines neuen KI

Der ChatGPT-Entwickler OpenAI veröffentlicht sein neues KI-Modell Astra 6.1 wegen Sicherheitsbedenken nicht. Der auf Künstlicher Intelligenz (KI) basierende Agent habe „die Messlatte in Bezug darauf, im vorgesehenen Rahmen und innerhalb der Autorisierung zu bleiben“, nicht erreicht, teilte die Leiterin der Sicherheitssysteme bei OpenAI, Saachi Jain, am Montag (Ortszeit) mit. „Wir wollen sicherstellen, dass unsere Modellentwicklung sicher ist, sowohl im Unternehmen als auch, wenn wir sie an Nutzer ausliefern“, fügte Jain hinzu.

In den vergangenen Monaten waren immer wieder Zwischenfälle bekannt geworden, bei denen sich KI-Agenten selbstständig gemacht hatten und anders agierten als vorgesehen. So hatte etwa ein KI-Programm von OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.