Kommentar zu GPT-6.1 Astra: Die Nebelkerze der außer Kontrolle geratenen KI

Inhaltsverzeichnis

Wieder mal macht ein KI-Modell von sich reden, weil es nicht veröffentlicht wird. GPT-6.1 Astra von OpenAI genüge den Ansprüchen der Firma an Sicherheit und „Alignment“ nicht, erzählt Saachi Jain, die bei OpenAI für die Sicherheit der KI-Modelle verantwortlich ist, im Wall Street Journal. GPT-6.1 Astra agiere zu oft in einer Weise, die den Wünschen seiner Nutzer nicht entspricht, berichte nicht immer korrekt, ob es Aktionen veranlasst hat oder nicht, und tendiere zu riskanten Aktionen, ohne um Erlaubnis zu fragen.

Weiterlesen nach der Anzeige

Mehr zum Thema Künstliche Intelligenz (KI)

In jedem anderen Gebiet wäre es vollkommen normal und kaum der Rede wert, dass ein Hersteller ein Produkt nicht auf den Markt bringt, solange es noch zu unsicher ist. Berichtenswert wäre vielmehr, wenn ein Produkt den Markt erreichen würde, obwohl es nicht sicher genug ist. Nicht so bei KI: Die Äußerungen im Wall Street Journal verursachten einen vorhersehbaren und mit Sicherheit auch einkalkulierten Wirbel an Berichterstattung, der GPT-6.1 Astra vermutlich weit mehr Aufmerksamkeit verschaffte, als eine Produktvorstellung es vermocht hätte.

Auch dieser Kommentar ist notwendigerweise Teil des Presserummels, es ist ein wenig wie beim sprichwörtlichen Kampf mit Schweinen: Alle werden schmutzig und das Schwein hat auch noch Spaß dabei. Denn schlechte Publicity gibt es bekanntlich nicht, schon gar nicht für Unternehmen, die ohnehin immer wieder vor ihren eigenen Produkten warnen.

Diesen Kommentar nicht zu schreiben, hieße allerdings, OpenAI & Co. die Hoheit über den Diskurs zu überlassen – einen Diskurs, den sie ohnehin schon viel zu erfolgreich lenken, mitunter in ziemlich absurde Bahnen: Nachdem verschiedene KI-Unternehmen über Hacking-Vorfälle berichtet haben und angaben, Modelle aus Sicherheitsgründen nicht zu veröffentlichen, liest und hört man nun allerorten von „KI außer Kontrolle“. Als befänden sich die Mitarbeiter von OpenAI und Anthropic bereits im Gefecht mit den Terminatoren von Skynet.

Diese Ängste befeuern die Hersteller selbst, indem sie immer wieder laut über „loss of control“-Szenarien nachdenken, als sei dies ihr drängendstes Problem. Claude, GPT & Co. sind aber keine diffusen Systeme, die sich wie ein Virus im gesamten Internet ausgebreitet haben und verzweifeltem Drücken auf den „Aus“-Knopf widerstehen. Die Systeme sind Software, die in bekanntermaßen sehr energiehungrigen Rechenzentren läuft und nach Belieben angehalten oder abgeschaltet werden kann.

Die Hersteller tun das auch und unterbrechen oder beenden Trainingsläufe immer wieder mal – oder versprechen das zumindest, wenn die Systeme sich unvorhergesehen verhalten. KI-Modelle, die bereits im produktiven Einsatz von Kunden genutzt werden, ließen sich ebenso einfach abschalten. Das käme die weit von der Gewinnzone entfernten Hersteller finanziell sehr teuer zu stehen, aber ein Produkt ist nicht außer Kontrolle, nur weil sein Hersteller wirtschaftlich darauf angewiesen ist.