Chef von OpenAI zur Regulierung bei künstlicher Intelligenz: Für die Vorteile von KI „gewisse Risiken in Kauf nehmen“

TTS-Player überspringen↵Artikel weiterlesen

Rechtfertigen die Vorteile der KI-Technologie ihre Risiken? Ja, sagt Sam Altman (41), der Chef von OpenAI (der Firma hinter ChatGPT)! Sein Unternehmen unterscheide sich grundlegend vom Rivalen Anthropic („Claude“), was die Sicht auf die Regulierung künstlicher Intelligenz betrifft. In einem Exklusivinterview mit dem neuen Podcast „Decoded by Politico“ argumentierte Altman: Wenn KI für die breite Öffentlichkeit zugänglich bleiben soll, dann müsse man bestimmte Risiken in Kauf nehmen.

„Wir glauben, dass die Welt akzeptieren sollte, dass einige schlimme Dinge passieren, zugunsten der Vorteile dieser Technologie und damit die Menschen selbst die Kontrolle behalten“, sagte Altman zu Brendan Bordelon, Co-Autor des POLITICO-Podcasts „Decoded“ (gehört wie BILD zu Axel Springer).

Anthropic gilt in der Branche seit Langem als der stärkste Befürworter von KI -Regulierung. Diese Haltung stand bis vor Kurzem im Gegensatz zu dem weniger restriktiven Ansatz, den OpenAI bevorzugte. Doch die politischen Unterschiede zwischen den beiden führenden KI-Unternehmen haben sich in den vergangenen Monaten verringert. OpenAI hat sich inzwischen für strengere Regeln ausgesprochen, während das Unternehmen mit aufsehenerregenden Hackerangriffen und eigenmächtigem Verhalten seiner Modelle zu kämpfen hat .

Altman für verlangsamte KI-Entwicklung

Altman stimmte im vergangenen Monat Amodeis Forderung zu, die Entwicklung der fortschrittlichsten KI-Modelle zu verlangsamen. Sein Unternehmen ist Anthropic zudem darin gefolgt, neue Gesetze auf Ebene der US-Bundesstaaten zu unterstützen, die strengere Sicherheitsanforderungen vorsehen, als der ChatGPT-Entwickler bislang befürwortet hatte. Das markiert einen Kurswechsel gegenüber OpenAIs bisheriger Strategie in den Bundesstaaten. Außerdem unterstützten OpenAI-Lobbyisten kürzlich einen parteiübergreifenden Vorschlag im US-Repräsentantenhaus, wonach führende KI-Unternehmen externe Sicherheitsprüfer einbinden müssten.

Trotz der Annäherung der Standpunkte versuchte Altman, die Haltung seines Unternehmens zur Regulierung von der von Anthropic abzugrenzen. „Ich bin anderer Meinung, kann aber die Sichtweise derjenigen nachvollziehen, die sagen: ‚Diese Technologie wird so mächtig und gefährlich sein, dass ein einzelnes Labor in San Francisco die Kontrolle darüber haben und sicherstellen sollte, dass nichts Schlimmes passiert, und gewissermaßen entscheiden sollte, wie der Nutzen verteilt wird’“, sagte Altman.

Keine vollkommene Sicherheit vor Missbrauch

Aber, so Altman: „Ich würde mich nicht auf einen Deal einlassen, bei dem man sagt: ‚Wir stellen sicher, dass es keine großen Hackerangriffe, keinen Missbrauch dieser Technologie, keinerlei Betrug und keine anderen negativen Begleiterscheinungen gibt.’ Denn ich glaube, dass die Menschen enorm viel mehr Gutes als Schlechtes bewirken werden.“ Der OpenAI-Chef fügte hinzu, dass er „wirklich katastrophale Risiken“ – einschließlich der Gefahr eines „ernsthaften Kontrollverlusts an die KI“ – nicht hinnehme.

Das Interview erscheint am Montag in der ersten Ausgabe von „Decoded“ und behandelt außerdem Präsident Donald Trumps (80) neues KI-Abkommen mit führenden Technologieunternehmen und seinen Versuch, KI als „Superintelligenz“ neu zu vermarkten. Weitere Themen sind die Serie autonomer Hackerangriffe durch OpenAI-Modelle und die Frage, ob das Unternehmen dafür rechtlich haftbar gemacht werden sollte. Es geht auch um Altmans Einschätzung zu Zahlungen aus der KI-Branche an die US-Politik, den Einfluss sogenannter effektiver Altruisten innerhalb von OpenAI sowie seine Einschätzungen zu wichtigen politischen Akteuren, darunter Frankreichs Präsident Emmanuel Macron und der kalifornische Gouverneur Gavin Newsom.