Forscher warnt: ChatGPT und Claude haben „nur den Sinn, uns zu übertreffen“

TTS-Player überspringen↵Artikel weiterlesen Frankfurt/Berlin – Die Angst vor Künstlicher Intelligenz als Super-Hacker wächst! Und die Schäden durch Cyberangriffe steigen rasant: Laut einer neuen IBM-Studie kostet ein Datenleck Unternehmen in Deutschland inzwischen durchschnittlich 4,25 Millionen Euro. Das sind rund zehn Prozent mehr als 2025. Weltweit kommt KI-Technologie bereits bei mehr als einem Viertel aller Cyberattacken zum Einsatz. Gegenüber dem Vorjahr entspricht das einem Anstieg von rund 50 Prozent. Die Folge: Angriffe werden schneller und verursachen höhere Schäden. „Die Nutzung von KI beschleunigt das Angriffstempo und erhöht so die Folgeschäden für Unternehmen“, warnen die Studienautoren. Für Schlagzeilen sorgten zuletzt gleich mehrere Vorfälle: Ein autonomer Hackerangriff eines KI-Modells von OpenAI soll die Plattform „Hugging Face“ attackiert, fremde Zugangsdaten genutzt und weitere Onlinedienste kompromittiert haben. Der Vorfall alarmierte sogar die US-Politik. Am Freitag geriet dann auch OpenAI-Konkurrent Anthropic („Claude“) unter Druck. In internen Tests drangen KI-Modelle unbemerkt in fremde Systeme ein. Weder die betroffenen Unternehmen noch Anthropic selbst bemerkten die Vorfälle zunächst. Zukunftsforscher Prof. Dr. Thomas Druyen schlägt Alarm: „Die KI hat nur den Sinn, uns über den Kopf zu wachsen. Sie wurde erfunden, um das zu leisten, was wir nicht können. Aber wie wir den Gefahren dieser Megatechnologie begegnen, ist Daten, Geld und Social-Media-Profile seien längst nicht mehr sicher. Druyen: Bildung „radikal“ umbauen Wer KI erst nachträglich regulieren wolle, habe bereits verloren, so Druyen weiter. Er fordert eine deutlich schärfere Gesetzgebung: „Der zukünftige Schutz der Menschen muss vor der Erfindung beginnen und nicht nach dem Kontrollverlust.“ Die Entwickler müssten gesetzlich verpflichtet werden, funktionierende „Stopptasten“ in ihre Systeme einzubauen. Dafür brauche es völlig neue Regeln und Präventionsgesetze. Kritik übt Druyen auch an Europa. Während die USA ihren KI-Pionieren freie Hand gelassen hätten und China mit staatlicher Unterstützung voranschreite, sei der europäische Prozess „vor lauter Eingreifgier und Bürokratiewut zerbröselt“. Für die Gesellschaft fordert er einen radikalen Umbau des Bildungssystems. Kindergärten, Schulen und andere Bildungseinrichtungen bräuchten eine „radikale Zukunftspädagogik“. Der Umgang mit technologischem Wandel müsse zum festen Lernstoff werden, damit das Neue zum dauerhaften Unterrichtsgegenstand werde.