Künstliche Intelligenz: OpenAI-Sicherheitsmitarbeiter kündigt und warnt vor Risiken

Robinson warf dem KI-Konzern vor, bei der Entwicklung immer leistungsfähigerer Systeme zu schnell vorzugehen. »Die Zeit für Versuch und Irrtum ist vorbei«, schreibt er in dem Artikel.

Seiner Meinung nach sind bei fortgeschrittenen KI-Systemen Sicherheitsvorkehrungen erforderlich, die eher mit denen in Bereichen wie der Atomkraft oder der Luftfahrt vergleichbar sind.

»Iterative Bereitstellung«

Robinson war eigenen Angaben zufolge dreieinhalb Jahre bei OpenAI tätig. Er war demnach an der Entwicklung des sogenannten Preparedness Frameworks beteiligt und betreute Sicherheitsberichte zu zwölf Starts sogenannter Frontier-Modelle (mehr dazu, welche KI-Begriffe Sie kennen sollten, erfahren Sie hier ).

OpenAI setzt bei der Entwicklung seiner Modelle unter anderem auf einen Ansatz, den das Unternehmen als »iterative Bereitstellung« bezeichnet. Dabei werden Systeme veröffentlicht und Sicherheitsvorkehrungen angepasst, wenn im praktischen Einsatz Probleme auftreten.

Robinson kritisiert diesen Ansatz. Seiner Meinung nach reicht dieser angesichts der rasanten Entwicklung der KI nicht aus. Die Fähigkeiten der Systeme entwickelten sich schneller als das Verständnis der Forscher darüber, wie sich diese zuverlässig an menschlichen Zielen und Werten ausrichten lassen.

OpenAI weist die Kritik zurück. Ein Sprecher des Unternehmens erklärte, OpenAI stelle sicher, dass seine Modelle nicht leistungsfähiger würden, als sie sicher betrieben und kontrolliert werden könnten. Wenn es notwendig sei, werde das Training pausiert oder die Veröffentlichung eines Modells zurückgehalten.

Robinsons Kritik fügt sich in eine breitere Debatte über das Tempo der KI-Entwicklung ein. Auch andere Unternehmen der Branche stehen wegen Sicherheitsfragen und dem unerwarteten Verhalten experimenteller Systeme unter Beobachtung (mehr dazu hier ).