Künstliche Intelligenz: Staats- und Regierungschefs fordern stärkere Kontrolle hochentwickelter KI
Zu den Erstunterzeichnern des Aufrufs gehören neben den Initiatoren aus Finnland und Norwegen zum Beispiel Bundeskanzler Friedrich Merz (CDU), Kanadas Premierminister Mark Carney und die Präsidentin der Europäischen Kommission, Ursula von der Leyen.
Bürgerrechtler kritisieren das Vorhaben hingegen als zu zögerlich und fordern stattdessen harte Strafen gegen die Führungskräfte führender Technologieunternehmen.
»Führende Wissenschaftler und Führungskräfte warnen davor, dass das Entwicklungstempo unsere Fähigkeit, neu auftretende Risiken zu bewältigen, übersteigen könnte«, heißt es außerdem im Brief. KI müsse daher zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben und im Einklang mit dem Völkerrecht stehen.
Ein Drei-Punkte-Plan für weltweite Schutzstandards
Das Papier formuliert drei zentrale Forderungen:
Hersteller müssen nachvollziehbare Sicherheitsvorkehrungen treffen und unabhängigen Fachleuten vor der Freigabe neuer Programme umfassende Prüfungen ermöglichen.
Zudem sollen Regierungen einheitliche Vorgaben schaffen und sich schwerwiegende Störfälle gegenseitig melden.
Schließlich fordern die Unterzeichner die Staaten der Vereinten Nationen auf, den Aufbau einer weltweiten Einrichtung zu prüfen, die verbindliche Maßstäbe setzt, Kontrollen durchführt und Staaten zusammenruft, sobald bestimmte Leistungsgrenzen überschritten werden.
Neben Kanada und europäischen Ländern haben sich unter anderem Australien, Kenia, Singapur und Südafrika angeschlossen. Die im Bereich KI technologisch führenden Mächte USA und China fehlen bislang. Die Erklärung bleibt jedoch für weitere Unterzeichner offen.
Bürgerrechtler fordern persönliche Strafen für Konzernchefs
Deutliche Kritik an dem Vorstoß kommt von der Berliner Bürgerrechtsorganisation AlgorithmWatch, die vor zeitraubenden Scheinlösungen warnt. Man begrüße zwar das Bemühen, Gefahren für die Gesellschaft abzuwenden, sagte Geschäftsführer Matthias Spielkamp. Was die Politik jedoch übersehe, sei, dass man nicht die Beherrschung einer Technik verliere, sondern die Kontrolle über die Firmen, die sie herstellen. Ein weltweites Abkommen auszuhandeln, nehme Jahre in Anspruch, während die Konzerne unbeirrt weitermachen könnten.
Spielkamp sagte, die Europäische Union und die amerikanische Regierung könnten führende Anbieter schon heute in die Pflicht nehmen, wenn sie die bestehende europäische Gesetzgebung sowie bestehende Gesetze gegen Rechnerangriffe konsequent durchsetzen und Entwickler haftbar machen würden. Würden den Konzernchefs Haftstrafen oder ihren Unternehmen finanzielle Strafen in Milliardenhöhe drohen, wäre das verantwortungslose Vorgehen rasch beendet.