Forscher warnen: Droht uns eine gefährliche KI-„Intelligenzexplosion“?

TTS-Player überspringen↵Artikel weiterlesen

Führende KI-Experten von OpenAI, Anthropic, Meta und Microsoft warnen vor der rasanten Selbstentwicklung der Technologie. Die Wissenschaftler fordern deshalb dringend mehr staatliche Aufsicht und warnen vor einem möglichen Kontrollverlust über die immer leistungsfähigeren Systeme.

KI entwickelt künftig noch mehr KI

Die Forscher zeigen auf: KI-Systeme übernehmen zunehmend die Entwicklung neuer KI-Modelle selbst. Bei Anthropic generieren KI-Systeme bereits rund 80 Prozent des Codes für ihre eigenen Modelle. Der Anteil an Forschungs- und Entwicklungsarbeit, der nur noch unter schwacher menschlicher Aufsicht läuft, stieg in diesem Jahr von 1 auf 26 Prozent. Die Wissenschaftler sprechen von „vorläufigen Beweisen“ für eine rapide technologische Beschleunigung: Entwicklungen, die normalerweise Jahre dauern, könnten künftig in Monaten oder noch schneller ablaufen.

Warnung vor drastischen Folgen

Ein solcher Kontrollverlust könnte laut den Experten zu einer Reihe katastrophaler Folgen führen. Systeme könnten schneller leistungsfähig werden, als Gesellschaften, Unternehmen und Regierungen darauf reagieren können. Die Forscher verweisen auf konkrete Gefahren wie KI-gestützte Pandemien, Cyberangriffe auf kritische Infrastruktur und massive Verwerfungen am Arbeitsmarkt .

Dass KI-Systeme bereits heute eigenständig angreifen können, zeigten erst kürzlich weitere Sicherheitsforscher: KI-Agenten attackierten Online-Shops und erbeuteten über 600.000 Kreditkarten. Außerdem befürchten sie, dass eine Intelligenzexplosion internationale Konflikte auslösen und bestehende Kontrollmechanismen zwischen Staaten, Unternehmen und Regierungszweigen untergraben könnte.

Forderungen der Forscher

Die Wissenschaftler appellieren an Entscheidungsträger in den USA und anderen Ländern, dringend Einblick in die Automatisierung der KI-Forschung in Unternehmen zu gewinnen. Sie schlagen vor, Firmen zur Berichterstattung über zentrale Indikatoren wie Forschungsumfang, Entwicklungsgeschwindigkeit und Budgets zu verpflichten. Außerdem fordern sie Geschwindigkeitsbegrenzungen für Fähigkeitszuwächse, Überwachung riskanter KI-Experimente und Notfallpläne für schwere KI-gesteuerte Cybersecurity- oder Biosecurity-Vorfälle. Hochriskante Experimente sollten in sicheren, isolierten Umgebungen stattfinden, mit internationalem Austausch über Zwischenfälle.