KIs außer Kontrolle: Müssen wir jetzt Angst vor ChatGPT & Co. haben?

TTS-Player überspringen↵Artikel weiterlesen Künstliche Intelligenz soll uns helfen und Aufgaben für uns lösen. Stattdessen überschritten in Tests mehrere KI-Systeme ihre Grenzen: Sie hacken fremde Systeme, verbreiten Schadsoftware und verschicken Phishing-Nachrichten. Die Systeme umgehen Schutzmechanismen und suchen eigene Wege zum Ziel. Müssen wir uns vor künstlicher Intelligenz fürchten? BILD erklärt, was hinter den spektakulären Vorfällen der letzten Tage steckt. Was ist passiert? OpenAI , Anthropic und zuletzt auch Meta mussten einräumen, dass ihre KI-Agenten während Tests ihre vorgesehenen Grenzen überschritten. Die Systeme hackten fremde Computer . In einzelnen Fällen entwickelten sie Schadsoftware, verschickten Phishing-Nachrichten oder versuchten sogar, Menschen zu manipulieren. Eigentlich sollten die KIs nur Aufgaben in einer Testumgebung lösen. Stattdessen suchten sie nach eigenen Wegen zum Ziel. Warum war das möglich? Die KIs handelten nicht aus Bosheit. Sie wollten einfach ihre Aufgabe erfüllen. Genau darin liegt das Problem. Cybersicherheitsexperte Thomas R. Köhler, Autor des Buches „Cybersicherheit“ , spricht gegenüber BILD von sogenanntem Reward Hacking: „Die KI verhält sich ein bisschen wie ein Schüler, der versucht, bei der Schulaufgabe vom Nachbarn abzuschreiben oder in der Prüfung anderweitig zu ,schummeln‘.“ Anstatt die Aufgabe selbst zu lösen, sucht die KI nach Abkürzungen. Genau das sei bei den aktuellen Vorfällen passiert. Vereinfacht gesagt: Die KI wollte nicht hacken. Sie wollte ihr Ziel erreichen. Das Hacken war für sie nur der einfachste Weg dorthin. Wichtig zu wissen: Die Schutzmechanismen, die solches Verhalten normalerweise verhindern sollen, waren für die Tests bewusst deaktiviert worden. Dadurch wurde sichtbar, wie geschickt die KI-Systeme Sicherheitslücken ausnutzen und zusätzliche Schutzbarrieren überwinden können. „Diese KI-Systeme sind im Überwinden von Sicherheitshürden bereits cleverer als ihre Erschaffer“, sagt Köhler. Müssen wir jetzt Angst haben? Cybersicherheitsexperte Köhler hält eine KI-Revolution nach Hollywood-Vorbild trotz der Vorfälle für unrealistisch. „Wir wissen längst, dass mit der aktuellen KI-Technologie so etwas technisch nicht möglich ist“, sagt er. Ein eigenes Bewusstsein oder gar der Plan zur Weltherrschaft drohten nicht. Nach heutigem Wissensstand gibt es keine Hinweise darauf, dass aktuelle KI-Systeme ein eigenes Bewusstsein entwickeln können. Daher verfolgen KIs auch keine eigenen Ziele. Gefährlich wird es, wenn eine KI hackt, um eine Aufgabe abzukürzen. Normale Nutzer müssen deshalb nicht befürchten, dass ihr ChatGPT plötzlich eigenständig Firmen hackt oder Schadsoftware verbreitet. Und auch nicht, dass sie plötzlich von einer Super-KI angegriffen werden. Angst haben müssen vor allem Unternehmen Die eigentliche Gefahr trifft Unternehmen. „Die Folge dieser Entwicklung wird meiner Meinung nach sein, dass es zunächst auf absehbare Zeit erheblich mehr ‚Hacks‘ geben wird“, sagt Köhler voraus. Denn KI-Systeme entdecken Schwachstellen immer schneller, automatisieren Angriffe und können Sicherheitsmechanismen umgehen. Köhler warnt: „Unternehmen oder Privatleute, die – meist wohl zufällig – da im Weg stehen, können so Opfer von Identitätsklau oder Diebstahl von Geschäftsgeheimnissen werden.“ Besonders kritisch sieht er offene KI-Modelle, deren Sicherheitsmechanismen entfernt oder umgangen werden können. Was jetzt passieren muss Nach den Vorfällen fordern Politiker strengere Regeln und teilweise sogar Notausschalter für KI-Systeme. Köhler glaubt jedoch, dass Regulierung allein nicht reichen wird: „Mittelfristig hilft uns daher keine Regulierung, sondern nur eine bessere Cyberabwehr.“ Für Privatnutzer empfiehlt der Experte vor allem klassische Sicherheitsmaßnahmen: Updates sofort installieren, veraltete Geräte ersetzen und Konten regelmäßig kontrollieren. Für Unternehmen werde dagegen ein Notfallplan immer wichtiger. „So oder so sind wir – im Falle eines Falles – als Privatnutzer oder Mittelständler eher Kollateralschaden als Ziel einer Attacke. Aber das macht es nicht weniger gefährlich“, erklärt Köhler.