Ex-Mitarbeiter veröffentlichen kritischen Brief
Seit einigen Monaten gibt es Sicherheitsbedenken rund um OpenAI. Alles begann mit dem Hugging-Face-Vorfall, der seither vom KI-Unternehmen aufgearbeitet wird. Im Laufe der Untersuchungen wurde bekannt, dass OpenAI unter anderem sein Krisen-Team für KI-Sicherheit aufgelöst hat. Kürzlich folgte der nächste Schritt in eine ähnliche Richtung: OpenAI entließ gleich drei Mitarbeiter:innen für KI-Sicherheit wegen angeblicher Weiterleitung von internen Informationen. Doch laut den Betroffenen ist das nie passiert.
Warum die Ex-OpenAI-Mitarbeiter:innen Bedenken äußern
Die drei ehemaligen OpenAI-Mitarbeiter:innen heißen Tomek Korbak, Jasmine Wang und Mikita Balesni. Auf seinem X-Profil hat Balesni einen offenen Brief an das Safety and Security Committee, die Safety Advisory Group und den Mission Advisory Council von OpenAI veröffentlicht, den er mit seinen mitentlassenen Kolleg:innen geschrieben hat. Darin warnen sie, dass „OpenAI KI nicht allein sicher machen kann.“
Zuvor hatten die drei OpenAI-Mitarbeiter:innen an der Sicherheit und dem Alignment der KI gearbeitet. Balesni schreibt: „Uns wurde nicht schriftlich mitgeteilt, warum wir gefeuert wurden. Im Abschluss-Meeting wurde mir gesagt, dass OpenAI mir nicht länger vertraut, weil ich zu oft mit anderen Organisationen gesprochen hätte, und deuteten damit an, dass ich Unternehmensgeheimnisse weitergegeben hätte. […] Meine Arbeit war aber jederzeit mit meinen Führungskräften, der Leitung der Research-Abteilung und dem Vorstand abgesprochen.“
Im Brief schreiben die drei Ex‑OpenAI-Angestellten deshalb, dass sie Sorge haben, dass ihre Entlassung weitreichende Folgen für die Sicherheit von KI haben könnte: „Wir befürchten, dass interne und externe Kommunikation rund um unsere Entlassungen dazu führen, dass unsere ehemaligen Kolleg:innen Angst davor haben, ihre Meinung zu äußern oder zu agieren, wie es noch bis zur vergangenen Woche integraler Bestandteil für die Arbeit bei OpenAI war.“
Sie fügen hinzu, dass für die Arbeit in der KI-Sicherheit der Austausch mit Dritten enorm wichtig ist: „Diejenigen, die an Sicherheitsrisiken vor allen anderen arbeiten, verlassen sich auf enge Zusammenarbeit mit externen Expert:innen, um einen Weg zu finden, die Risiken anzugehen. Die Freiheit, das ohne Angst innerhalb von definierten Prozessen zu tun, ist an sich ein essenzieller Sicherheitsmechanismus.“
Was OpenAI laut den Ex-Mitarbeiter:innen tun sollte
Deshalb geben die ehemaligen Sicherheitsmitarbeiter:innen drei Empfehlungen an OpenAI, wie das Unternehmen weiter verfahren sollte, um KI-Sicherheit gewähren zu können. Zunächst sollen sie dem Versprechen treu bleiben, externen Rat und Sicherheits-Audits einzuholen. Dieses Versprechen hatte Sam Altman im September 2026 gegeben und dabei gesagt, dass unabhängigen Sicherheitsexpert:innen Zugang wie OpenAI-Mitarbeiter:innen gegeben werden soll. Nur so ist es laut den Ex-Angestellten möglich, die Sicherheit der KI-Modelle zu garantieren.
Ferner sollte OpenAI an der Überwachung von KI-Modellen arbeiten: „Wir wissen bisher nicht, wie wir Modelle sicher entwickeln und veröffentlichen sollen, die wir nicht überwachen können. Diese Überwachbarkeit von Frontier-Modellen nimmt immer weiter ab.“ Zu guter Letzt sollte OpenAI eine „offene und transparente Dialogkultur zwischen Sicherheitsforscher:innen und dem Rest des Sicherheitsökosystems fördern“.
Laut den ehemaligen Mitarbeiter:innen ist es wichtig, dass OpenAI-Angestellte weiterhin ihre Meinung und Bedenken frei äußern. Wenn mögliche Sorgen nicht angesprochen oder extern untersucht werden, „besteht das gravierende Risiko, dass eine Katastrophe passieren wird.“ Ihre ehemaligen Kolleg:innen fordern sie auf, OpenAI diese Standards immer wieder vorzuhalten. Denn laut ihnen wäre „OpenAI nichts ohne seine Menschen.“