KI-Agenten: Cybersecurity-Expertin erklärt, wer sie abschalten kann

TTS-Player überspringen↵Artikel weiterlesen

Berlin - Was passiert, wenn eine KI plötzlich eigene Entscheidungen trifft? Oder gar den Menschen als Feind sieht?

Die schlechten Nachrichten häufen sich: Laut Microsoft-Mitgründer Bill Gates (70) könnte KI „eine Milliarde Todesfälle“ verursachen. In Australien hat ein KI-Agent bereits eigenständig auf ein Regierungsportal zugegriffen. Gleichzeitig warnen KI-Größen wie Anthropic-Chef Dario Amodei (43), OpenAI-Chef Sam Altman (41) und selbst Elon Musk (55) vor einer Entwicklung, die außer Kontrolle geraten könnte. Der Mensch baut die mächtigste Technologie der Welt – aber hat er auch noch den Ausschalter? BILD fragt Cybersecurity-Expertin Prof. Dr. Haya Schulmann (47).

BILD: Kann so ein Vorfall wie in Australien auch bei uns passieren?

Haya Schulmann: „Dasselbe könnte überall passieren, auch bei uns. OpenAI wollte testen, wie gut eines seiner großen KI-Modelle im Internet recherchieren kann. Die Aufgabe war einfach: Wie viel gibt Australien für Medikamente aus? Diese Information ist öffentlich, und der KI-Agent vermutete die Antwort in einem Statistikportal der australischen Regierung. Dieses Portal hatte allerdings, wie viele an sich öffentliche Webseiten, eine Sperre gegen automatische Abfragen. Der Agent wurde deshalb abgewiesen. Das Portal wird als jahrzehntealtes Altsystem beschrieben, das daher vermutlich eher schlecht abgesichert war. Der Agent fand also einen Weg hinein und konnte sogar nicht-öffentliche Daten lesen und selbst Daten auf einen internen Server schreiben. Der Schaden war nach bisherigem Stand gering, persönliche Daten waren nicht betroffen.“

BILD: Was kann die KI mit meinen Daten anstellen? Was wäre ein Worst-Case-Szenario?

Schulmann: „Wir reden derzeit viel über die Gefahren der KI an sich, aber eigentlich führt das in die Irre. Die KI ist ein IT-Werkzeug, genauso wie Cloud Computing oder das Internet. Die Gefahr geht nicht von der Technik an sich aus, sondern davon, wie Hersteller sie bauen und testen, Anbieter sie betreiben, und von denen, die sie missbrauchen. Für alles gibt es Beispiele. KI-Systeme irren sich häufig, und die Hersteller sind noch weit davon entfernt, dieses Problem in den Griff zu bekommen. Wer sensible Daten – Passwörter, persönliche Dinge, vertrauliche Geschäftsdaten – in eine KI eingibt, muss sich klarmachen, dass der Betreiber der KI diese sehen kann. Oft räumen sich die Betreiber sogar das Recht ein, diese Daten für eigene Zwecke zu sichten und zu nutzen. Es lohnt also, die AGB zu lesen und von Widerspruchsmöglichkeiten Gebrauch zu machen. Und Cyberkriminelle nutzen KI schon heute sehr intensiv, vor allem für nahezu perfekt aussehende Phishing-Angriffe.“

Die Sorge vor einer übermächtigen KI

BILD: KI-Bosse warnen selbst, das Tempo zu drosseln. Wird KI am Ende die Macht übernehmen?

Schulmann: „Diese Sorgen halte ich für übertrieben. KI-Systeme machen Fehler, und je nach Situation können diese Fehler katastrophale Folgen haben. Aber das ist nichts Neues. Denken Sie an den Flugverkehr, da gilt genau dasselbe. Dort hat sich deshalb ein großer Fokus auf Sicherheit und Zuverlässigkeit entwickelt, es gibt internationale Standards, Prüf- und Zulassungsverfahren. Man hat diese Technologie weitgehend im Griff. Das alles brauchen wir auch hier. In der KI, wie wir sie heute kennen, stehen wir allerdings noch ganz am Anfang. ChatGPT kam Ende 2022 auf den Markt. Wir brauchen also nicht eine Drosselung des Tempos, sondern eine Verschiebung der Prioritäten. Hier sehe ich die Hersteller und Anbieter in der Pflicht, aber auch uns selbst, die Wissenschaft und die Unternehmen in Deutschland, und auch den Staat, der international auf die entsprechenden Sicherheitsstandards hinarbeiten muss.“

BILD: Es klingt ein bisschen nach Science-Fiction, aber viele fragen sich: Haben wir mit KI unseren eigenen Untergang geschaffen?

Schulmann: „Nein. KI ist Technik, die wir gestalten und regulieren können.“

Ja, man kann der KI den Stecker ziehen

BILD: Kann man KI im Notfall einfach abschalten?

Schulmann: „Die großen Modelle von OpenAI, Anthropic und Co. laufen in Rechenzentren, und dort kann der Anbieter sie jederzeit vom Netz nehmen. Wie schnell das geht, hat man im Juni gesehen: Auf Veranlassung der US-Regierung hat Anthropic sein damals neuestes Modell weltweit abgeschaltet, knapp drei Wochen lang. Den Schalter haben also der Hersteller und seine Regierung, nicht wir. Anders ist es bei Modellen zum Herunterladen, etwa aus China: Die laufen auf beliebigen fremden Rechnern, die kann niemand zentral abschalten. Und abschalten kann man nur, was man bemerkt. In Australien hat OpenAI den Vorfall erst nach rund zwei Monaten entdeckt.“

BILD: Kann man überhaupt verhindern, dass KI in die falschen Hände gerät?

Schulmann: „Nein, und KI wird längst in kriminellen und staatlichen Cyberoperationen genutzt. Exportkontrollen allein helfen dagegen nicht. Leistungsstarke Modelle aus China kann jeder – auch Cyberkriminelle und Spione – herunterladen und auf eigenen Rechnern betreiben. Ihre heutigen Sicherheitssperren lassen sich weitgehend wegtrainieren. Und Angreifer brauchen nicht einmal das. Im November 2025 hat Anthropic offengelegt, dass eine mutmaßlich staatsnahe chinesische Gruppe sein KI-System für eine Spionagekampagne gegen rund 30 Ziele benutzt hat. Man kann KI also nicht wegsperren.“

Wie man KI sicherer machen kann

BILD: Was können und müssen Unternehmen tun? Und wie soll Deutschland agieren?

Schulmann: „ Die Antwort hat zwei Teile. Erstens: Cyberkriminelle nutzen KI und werden dadurch schneller, effizienter und gezielter. Dagegen müssen wir uns alle besser schützen. Daran, was hier konkret zu tun ist, ändert KI allerdings vorerst wenig. Unternehmen müssen wissen, welche Systeme sie betreiben, denn was man nicht kennt, kann man auch nicht schützen. Altsysteme abschalten. Updates einspielen. Zwei-Faktor-Anmeldung überall. Netze trennen. Sicherungskopien, die nicht am Netz hängen. Für KI-Assistenten gilt, was für einen neuen Mitarbeiter gilt: nur die Rechte, die der Job braucht, und ein Protokoll, wer was getan hat.

Zweitens: Auf politischer Ebene brauchen wir eine Strategie, die Deutschland in die erste Liga bringt. Mehr Forschung und Entwicklung zu den großen KI-Modellen an sich, aber auch und vor allem zur Sicherheit von KI. In der Forschung sind wir hier schon recht gut, in der Anwendung hapert es noch. Und auf staatlicher Ebene müssen wir uns intensiv und treibend in die Diskussionen für internationale Standards und Prozesse einbringen.“