König Charles warnt vor »existenziellen Gefahren« von KI

Dieser Ausdruck wurde am 17.09.2026 erstellt und ist ausschließlich für den persönlichen Gebrauch lizenziert.

Andere Nutzungen verletzen das Urheberrecht

Ansprache an Branchenvertreter König Charles warnt vor »existenziellen Gefahren« von KI-Systemen

Die rasanten Fortschritte von Claude, ChatGPT und Co. beunruhigen das britische Staatsoberhaupt: In einer Rede forderte König Charles die Branche zur Vorsicht auf. KI könne womöglich »finstere Fähigkeiten« entwickeln.

17.09.2026, 16.02 Uhr

War die Zusammenfassung hilfreich? Danke für Ihr Feedback!

Der britische König Charles hat sich angesichts zunehmender Gefahren von immer leistungsfähigeren KI-Systemen besorgt gezeigt. »Diejenigen, die diese Technologien entwickelt haben, warnen nun zunehmend davor, ​dass KI das Risiko birgt, finstere Fähigkeiten zu entwickeln – vielleicht sogar, Leben zu nehmen«, sagte der britische Monarch ‌vor hochrangigen Vertretern von Technologiekonzernen wie Anthropic, Google, Nvidia und OpenAI.

»In diesem Zusammenhang scheint es mir dringend notwendig, die existenziellen Gefahren angemessen zu berücksichtigen, die entstehen, wenn solche Technologien in die falschen Hände geraten und auf potenziell katastrophale Weise eingesetzt werden«, betonte das Staatsoberhaupt. Unternehmen dürften sich nicht darauf beschränken, ​diese Technologie weiterzuentwickeln. Sie müssten dafür Sorge tragen, dass künstliche Intelligenz im Dienste der Menschheit stehe.

Der König fragte, ob es nicht ausreichend Kontrollmöglichkeiten bräuchte, ehe es zu spät sei. »Diejenigen in unserer Welt, denen unsere Menschlichkeit und ihre entscheidende moralische Komponente zutiefst am Herzen liegen, suchen ängstlich nach Ihrer Zusicherung, dass wir nicht die Kontrolle über unser Schicksal – oder unsere Seelen – verlieren werden«, sagte Charles.

Hintergrund dieses Aufrufs ⁠sind die ⁠jüngsten Warnungen, die Menschheit könnte die Kontrolle über die Technologie verlieren und dadurch ihr eigenes Ende einläuten. Führende Forscher und Branchenvertreter plädierten daher dafür, das Tempo der Entwicklung zu drosseln. ‌

In den vergangenen Monaten hatten sich hoch entwickelte KI-Programme – sogenannte KI-Agenten, ‌die Aufgaben weitgehend eigenständig erledigen – wiederholt verselbstständigt. Sie umgingen Sicherheitsvorkehrungen und drangen in die IT-Systeme Dritter ein. US-Präsident Donald Trump lehnt eine verschärfte Regulierung der KI-Branche dennoch ‌ab. Die Warnungen vor den Gefahren der ​Technologie seien ein »Schwindel« und spielten China in ‌die Hände.

In diesem Herbst entscheidet sich womöglich, ob wir KI-Supermaschinen dauerhaft kontrollieren werden. Lesen Sie hier , warum selbst Unternehmensbosse nach mehr Regeln rufen. Und warum Donald Trump und Xi Jinping eigene Ziele verfolgen.

sol/dpa/Reuters