Wie bedrohlich sind KI-Ausbrüche für private Computer?

Fast täglich wird gerade über Fälle berichtet, in denen KI-Modelle Sicherheitsgrenzen überschreiten. Als erste Firma gab OpenAI bekannt, dass Modelle aus einer eigentlich abgeschotteten Testumgebung ausgebrochen sind und auf die US-Plattform Hugging Face zugegriffen haben. Die Künstliche Intelligenz suchte dort eigenständig nach Lösungen für eine Testaufgabe. Dabei führte sie über mehrere Tage rund 17.600 Aktionen aus, ohne dass einzelne Schritte von Menschen angeordnet wurden. Anthropic, Anbieter des Sprachmodells Claude, berichtete anschließend von vier ähnlichen Vorfällen. KI-Modelle hatten Internetzugriff, schrieben Schadsoftware und veröffentlichten diese im Netz. Sie wurde auch tatsächlich heruntergeladen. In einem Fall versuchte eine Künstliche Intelligenz, an Geld und eine Telefonnummer zu kommen, um sich bei einer Website registrieren zu können. Nun wurde bekannt, dass auch beim Facebook-Konzern Meta eine KI ihre vermeintlich gesicherte Umgebung verlassen und bei einer Fremdfirma eingedrungen ist. Kein "eigener Wille", sondern menschliche Fehler In keinem der Fälle hat dabei eine Künstliche Intelligenz eigenmächtig gehandelt, also gegen den Willen ihrer Programmierer. Sondern die Modelle befolgten vielmehr den Auftrag, den Menschen ihnen gegeben hatten: Testaufgaben lösen, Sicherheitslücken finden, Software bewerten. Sie handelten nicht "gegen" ihre Entwickler, sondern arbeiteten extrem konsequent an ihrem Auftrag. Und das in einem fehlerhaft gesicherten Umfeld - teils mit abgeschalteten Schutzmechanismen. Fachleute sprechen von Konfigurations- und Sicherungsfehlern, nicht von einer Rebellion der Maschinen. Studien, etwa vom britischen Institut für KI-Sicherheit AISI, zeigen: Autonome Fähigkeiten nehmen schnell zu. Aufgaben, die KI ohne laufende Anleitung erledigt, werden alle paar Monate deutlich komplexer. Wie viel Zugriff hat KI auf dem eigenen Rechner? Auf privaten Geräten arbeiten die meisten Nutzer mit klassischen Chat-KI-Systemen. Diese haben in der Regel keinen direkten Zugriff auf Festplatten, Heimnetz, Mikrofon oder Kamera, sondern vor allem auf das Internet, und das auch nur für eine öffentliche Websuche. "Bei einem normalen KI-Chatbot ist das mit der Sicherheit erledigt worden", fasst es KI-Expertin Marie Kilg im Interview mit dem Plusminus-Podcast zusammen. Kritisch wird es, wenn Nutzende einer KI weitergehende Rechte einräumen - etwa Lese- und Schreibrechte für ganze Ordner oder Konten. Diese Berechtigungen benötigen vor allem sogenannte KI-Agenten: Sie sollen autonom Mails sortieren, Reisen buchen, Bankgeschäfte durchführen oder Steuerunterlagen auswerten. Damit sie arbeiten können, brauchen sie Zugriff auf E-Mail-Postfächer, Dateien oder Unternehmenssysteme. Googles Gemini kann schon jetzt auf das Mailpostfach zugreifen, ein US-KI-Agent soll autonom die Steuererklärung machen. Kilg empfiehlt: "Immer, wenn so ein Agent ins Internet geht, dann muss man ganz genau hinschauen, was er macht." Präzise Aufträge sind gefragt Präzise Aufträge werden daher immer wichtiger: Ein unscharfes "Postfach optimieren" kann theoretisch dazu führen, dass ein Agent wichtige Mails löscht. Im Unternehmensumfeld sehen KI-Assistenten wie der Copilot von Microsoft alle Daten, auf die Mitarbeitende selbst Zugriff haben - inklusive E-Mails und Teams-Chats. Das erhöht die Effizienz, aber auch den potenziellen Schaden bei falscher Bedienung oder bei Angriffen, die von Kriminellen wiederum immer öfter mit KI durchgeführt werden. Das Bundeskriminalamt beschreibt Künstliche Intelligenz als zunehmend wichtiges Werkzeug von Tätern. KI-Agenten sicher nutzen: Rechte begrenzen Expertin Kilg sagt klar: Was KI-Modelle können, hänge vor allem von den Rechten ab, die Nutzerinnen, Nutzer oder Unternehmen vergeben. Im Interview empfiehlt sie deshalb Privatpersonen unter anderem die konsequente Bestätigungspflicht für alle folgenreichen Aktionen, etwa Löschen, Installationen oder Geldtransaktionen. Außerdem sollten Nutzer Kilg zufolge eine strikte Trennung vornehmen zwischen sensiblen Daten (Steuer, Bank, Adresse) und der Arbeit mit anonymisierten Datensätzen. Nutzer sollte zudem für "technische Zäune" sorgen wie virtuelle Umgebungen, begrenzte Lese- und Schreibrechte sowie regelmäßige Backups, falls doch etwas schiefgeht, so Kilg. International wird zudem ein "Kill Switch" für große KI-Systeme diskutiert - eine verpflichtende Not-Abschaltung, die Unternehmen und im Extremfall staatliche Stellen auslösen können sollen. Das EU-Gesetz zur Künstlichen Intelligenz sieht Elemente solcher Regulierung vor; auch in den USA läuft eine Debatte darüber, welche Eingriffsrechte Behörden bekommen.