KI-Regulierung: Warum Trumps Vorgehen kaum Kontrolle schafft | Tagesanbruch

Guten Morgen, liebe Leserin, lieber Leser,

beginnen wir den heutigen Tagesanbruch mit einer etwas philosophisch angehauchten Frage: Wie sehr würden Sie sich an Vorgaben halten, die als "moralisch bindend" bezeichnet wurden? Oder anders gefragt: Für wie robust halten Sie ein Regelwerk, das nur an Ihre Moral appelliert, bei einem Verstoß jedoch zu keinerlei Konsequenzen führt?

Die Antwort ist sicher für jeden Menschen individuell. Aber denken Sie darüber nach, was es heißt, wenn US-Präsident Donald Trump mit Ihnen ein freiwilliges Regelwerk aufstellt, das er im Anschluss als "moralisch bindend" bezeichnet. Genau das hat Trump jetzt gemeinsam mit führenden amerikanischen Köpfen getan, die an Künstlicher Intelligenz arbeiten.

Allerdings ist der Begriff Regelwerk etwas zu hoch gegriffen. Das Papier, das Trump am Mittwoch mit den Chefs von KI-Firmen wie Anthropic und OpenAI, Google, Facebook-Gründer Mark Zuckerberg, Elon Musk und dem Boss des Chipgiganten Nvidia unterzeichnet hat, enthält vier Punkte, die im Kern Folgendes sagen: Die Kontrolle von KI ist schon gut, aber die Regeln können die Unternehmer vorerst selbst festlegen.

Donald Trump wird kaum der Mann sein, der eine sinnvolle Regulierung Künstlicher Intelligenz vorantreiben wird. Dafür gibt es zwei Gründe: Erstens ist die KI-Branche eines der wenigen Wachstumsfelder, das die US-Wirtschaft hat, und Trump wird einen Einbruch nicht riskieren. Und zweitens möchte er unter keinen Umständen Regeln erlassen, die die US-Unternehmen ins Hintertreffen gegen die Konkurrenz aus China bringen könnten.

Doch es gibt einen völlig anderen Ansatz, der einer Lösung deutlich näherkommen könnte, wie sich KI sinnvoll regulieren ließe. Eine Rolle spielt hier eine Institution, die Sie vielleicht überraschen wird: die Vereinten Nationen.

Die Forderung nach schärferen Regeln für KI ist zweierlei: Eine ernst gemeinte Warnung vor einer realen Gefahr – und eine PR-Kampagne. Mitarbeiter der großen Techunternehmen hatten sich zuletzt darin überboten, wer die drastischsten Warnungen über die Risiken der Technologie aussprechen kann. Wenige Jahre würde es noch dauern, dann sei das Ende der Menschheit denkbar, hieß es etwa.

Doch statt über die Zukunft zu spekulieren, lohnt sich der Blick auf die Gegenwart. Bereits heute zeigt sich, wozu KI in der Lage ist. In den vergangenen Wochen waren wiederholt Fälle bekannt geworden, in denen sich Modelle selbstständig in andere Systeme gehackt hatten. Eines von ChatGPT-Mutter OpenAI war etwa im Juni unbemerkt in eine Datenbank des staatlichen Gesundheitssystems in Australien eingedrungen.

Tagesanbruch – Der Newsletter für den Wissensvorsprung

Die Analyse zu den Themen, die Deutschland bewegen – kostenlos abonnieren.

Ähnliche Vorfälle gab es auch bei verschiedenen US-Behörden. Im Juli brachen autonome Systeme von OpenAI aus einer Testumgebung aus und griffen selbstständig die Onlineplattform Hugging Face an, auf der sich Millionen Nutzer über KI austauschen. Künstliche Intelligenz ist also schon jetzt in der Lage, sich der menschlichen Kontrolle ihrer Entwickler zu entziehen.

Die Chefs der großen Konzerne beteuern zwar, dass sie selbst an einer stärkeren Regulierung interessiert seien. Dabei sollte aber nicht vergessen werden, dass die KI-Unternehmen auch eigene Interessen verfolgen: Je nachdem, wie die Schraube der Regulierung angezogen wird, könnte dadurch neuen Entwicklern der Weg in den KI-Markt versperrt werden.

Im besten Fall könnten zusätzliche Regeln also die Marktmacht der großen Player stärken. OpenAI und Anthropic planen beide zudem einen Börsengang: Der Imageaufbau eines fortschrittlichen, aber gleichzeitig verantwortungsbewussten Unternehmens kommt da gerade recht.

Donald Trump wird die Gefahren der KI in jedem Fall nicht eindämmen. Sein neues "Regelwerk" zeigt deutlich, dass er das auch nicht will. Aber er wird die KI auch nicht kontrollieren können, weil er das alleine überhaupt nicht kann. Eine sinnvolle Regulierung der Branche kann nur dann funktionieren, wenn möglichst viele Staaten mitmachen. Selbst ein Regelkatalog wie der AI-Act der Europäischen Union ist dafür ein viel zu kleiner Rahmen.

Es bräuchte eine Institution, die möglichst weltumspannend agiert und von so vielen Staaten wie möglich akzeptiert wird. Und da landet man eben schnell bei den Vereinten Nationen.

Es war eines der großen Themen, die in der vergangenen Woche während der Generaldebatte in New York diskutiert wurden. "Killerroboter dürfen keinen Platz in unserer Zukunft haben", warnte etwa Generalsekretär António Guterres. Dazu sprachen die Chefs von Anthropic und OpenAI vor dem Sicherheitsrat der UN.

Natürlich sind die UN in keinem guten Zustand. Der Sicherheitsrat blockiert viele richtungsweisende Entscheidungen. Seine Zusammensetzung bildet längst nicht mehr die Machtgefüge der Welt ab. Donald Trump gibt sich selbst weiter größte Mühe, die Institution zu schwächen. Und der Generalsekretär Guterres, der zum Jahresende abtritt, kann nach fast zehn Jahren im Amt wenig Substanzielles vorweisen.

Trotzdem wäre es sinnvoll, wenn die UN die aktuelle Situation als eine Art Weckruf verstehen würden. In der Vergangenheit haben sie bereits ähnliche Impulse gesetzt. Sie waren etwa maßgeblich daran beteiligt, dass 1957 die Internationale Atomenergiebehörde IAEA entstand.

Eine vergleichbare Institution für KI wäre ein wirklicher Meilenstein. Und die Idee hat Unterstützer: 22 Staats- und Regierungschefs haben in der vergangenen Woche eine gemeinsame Erklärung veröffentlicht. Darin fordern sie, dass auf UN-Basis die "Schaffung einer internationalen Institution" geprüft werden sollte, die KI-Standards festlegen und überwachen kann. Zu den Unterzeichnern gehören etwa Bundeskanzler Friedrich Merz oder die EU-Kommissionspräsidentin Ursula von der Leyen.

Es wäre naiv zu glauben, dass die Schaffung einer solchen Behörde ein Selbstläufer ist. Denn bislang fehlt die Unterstützung der fünf ständigen Mitglieder des UN-Sicherheitsrats. Und ohne die Zustimmung der USA, Chinas, Russlands, Frankreich und Großbritannien wird es eine solche Behörde nicht geben.

Wer die nächste Generalsekretärin oder Generalsekretär der UN wird, wird sich in den kommenden Monaten klären. Wer auch immer das am Ende sein wird: Es wäre einen Versuch wert, für die Idee einer internationalen KI-Behörde zu werben. Mehr als das dünne Vier-Punkte-Papier, das Donald Trump am Mittwoch präsentiert hat, ist den UN immer noch zuzutrauen.

Die kleine statt der großen Lösung

Der Bundesgesundheitsminister Carsten Linnemann (CDU) nennt es einen "ersten wichtigen Schritt". Die saarländische Ministerpräsidentin Anke Rehlinger von der SPD nennt es dagegen "erst mal nur ein Weiter-so": Eigentlich wollte die Bundesregierung im Kabinett eine umfassende Pflegereform beschließen. Doch am gestrigen Mittwoch konnte sich die schwarz-rote Koalition lediglich auf einen Teil der Reform verständigen.

Die Einigung sieht so aus: Der Beitragsatz von 3,6 Prozent bleibt. Der Zuschlag für Kinderlose erhöht sich um 0,3 Prozentpunkte, und die Beitragsbemessungsgrenze wird um 300 Euro angehoben, weniger als im ersten Entwurf des Gesundheitsministeriums geplant. Ab 2028 sollen zudem auch für mitversicherte Ehepartner und für Minijobs Beiträge fällig werden.

Über die weiteren Schritte soll dann erst 2027 entschieden werden. Dazwischen wird eine Kommission tagen und Vorschläge erarbeiten. Nach der großen Reform, die Bundeskanzler Friedrich Merz regelmäßig ankündigt, klingt das in jedem Fall auch nicht – mal wieder. Und was bis 2027 aus dieser Bundesregierung noch wird, kann heute wohl niemand mit Sicherheit vorhersehen.

Haarscharf an der Katastrophe vorbei

Der Flug FZ1073 sollte von Dubai nach Tel Aviv fliegen. Doch dort kam die Maschine nie an. Ein Pilot griff einen seiner Kollegen in der Luft mit einem Messer an. Sein Ziel: Die Maschine sollte zum Absturz gebracht werden. Die israelische Regierung sprach von einem mutmaßlichen Terroranschlag.

Die Passagiere kamen mit einem Schrecken davon. Denn der Angreifer konnte an Bord überwältigt werden. Die Maschine konnte dadurch sicher in Saudi-Arabien notlanden. Mittlerweile sind alle Reisenden wieder in Tel Aviv angekommen.

Ohrenschmaus

Am Wochenende sah ich im Kino den neuen Film "Primetime". Ich finde, allein für dieses Lied hat es sich gelohnt.

Lesetipps

Warum ließ Kulturstaatsminister Wolfram Weimer drei Buchhandlungen vom Verfassungsschutz überprüfen und schloss sie anschließend vom Deutschen Buchhandlungspreis aus? Eigentlich empfahl eine Fachabteilung, alle Buchhandlungen auszuzeichnen, berichtet mein Kollege Jonas Mueller-Töwe.

Artikel lesen

Die Geschichte um den Strandkorb des CDU-Politikers Philipp Amthor zeigt, dass die CDU ihren Kompass verloren hat. Aber aus anderen Gründen, als viele meinen, schreibt unsere Kolumnistin Nicole Diekmann.

Artikel lesen

Der Steuerzahlerbund wirft der Politik vor, mit komplizierten Förderprogrammen Verschwendung zu begünstigen. Schon vor der Vorstellung des diesjährigen Schwarzbuchs liegt meiner Kollegin Christine Holthoff das Sonderkapitel vor.

Artikel lesen

Die Wahlsiegerin der Linken der Senatswahl in Berlin, Elif Eralp, steht wegen ihrer früheren Mitgliedschaft bei der Roten Hilfe in der Kritik. Was es mit der Institution auf sich hat, hat meine Kollegin Anna von Stefenelli sich angeschaut.

Artikel lesen

Zum Schluss

Ich wünsche Ihnen einen angenehmen Donnerstag. Morgen schreibt für Sie wieder Florian Harms.

Herzliche Grüße

Ihr

David Schafbuch

Korrespondent in New York