EU-Leitlinien für KI-Kennzeichnungspflichten ab August wirksam

close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. . Was ist echt, was menschen- und was ist computergeneriert? Unter der EU-Verordnung über Künstliche Intelligenz müssen Betreiber von KI-Systemen offenlegen, wenn es sich um KI-generierte Inhalte handelt – zumindest grundsätzlich. Wie das genau aussehen soll, hat die EU-Kommission nun beschlossen. Weiterlesen nach der Anzeige Der Grundsatz war längst beschlossen: In Artikel 50 der KI-Verordnung sind verschiedene Pflichten festgelegt, für die nun die konkreteren Ausführungsvorschriften beschlossen wurden. Bei einer direkten Interaktion zwischen Menschen und KI-Systemen müssen die Anbieter etwa dafür sorgen, dass Menschen darüber informiert werden, dass die vermeintliche Gegenseite eine trainierte Rechenmaschine ist. Auch wenn Emotions- oder biometrische Erkennungssysteme zum Einsatz kommen, muss darüber informiert werden. Wenn Inhalte wie Bilder, Texte oder Videos KI-generiert sind und als „echt“ gelten könnten, müssen diese maschinenlesbar als KI-generiert gekennzeichnet werden. Die Markierungs- und Erkennungspflichten, die nun angenommen wurden, umfassen einen Ansatz auf zwei Ebenen: sowohl mit Watermarking innerhalb der eigentlichen Inhalte als auch in signierten Metadaten soll die KI-Generierung hinterlegt sein – mit Ausnahme von reinen Texten. Weitere Ausnahmen betreffen künstlerische, fiktionale und satirische Inhalte sowie Situationen, in denen ein Mensch einen KI-generierten Text abgenommen hat und nach redaktionellen Sorgfaltspflichten verantwortet. Auch dann entfällt die Kennzeichnungspflicht. Wenn also ein Verlag etwa eine KI für seine Leser die Texte schreiben lässt, die ein Redakteur am Ende jedoch gegenliest, kann dies bereits die Kennzeichnungspflichten wieder aushebeln. Kennzeichnungspflicht gilt ab 2. August Wer sich nicht an die Vorschriften hält, muss mit Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Vorjahresumsatzes rechnen. Zuständig für die Durchsetzung sind entweder die nationalen Aufsichtsbehörden, das „AI Office“ der EU oder der Europäische Datenschutzbeauftragte. Während für neue KI-Systeme die Regeln bereits ab dem 2. August gelten, gilt eine Schonfrist bis 2. Dezember 2026 für derzeit bereits am Markt befindliche Systeme. Inwiefern das aber auch neue Versionen von bereits auf dem Markt befindlichen Modelle betrifft – also etwa größere Versionsschritte – ist umstritten. Kleineres Feintuning am Modell jedenfalls soll die Frist nicht verkürzen. Für bereits vor dem Stichtag generierte Inhalte gelten die Kennzeichnungspflichten nicht. Ebenfalls nicht umfasst ist dabei die private Nutzung – also etwa, wenn ein Nutzer mit einer KI ein Bild generiert und dieses online teilt. Die heute offiziell weiter ausdefinierten Transparenzvorschriften sind dabei ein wesentlicher Baustein der europäischen KI-Verordnung, die seit 2024 schrittweise in Kraft tritt. Die Europäische Union will damit einen gemeinsamen gesetzlichen Rahmen für die Anwendung von sogenannter KI bieten. „Mit den heute veröffentlichten Leitlinien unterstützt die Kommission die reibungslose und wirksame Anwendung des AI Acts, um KI-Systeme transparenter und vertrauenswürdiger zu gestalten, die mit Menschen interagieren – wie beispielsweise Chatbots, KI-Agenten und KI-Inhalte“, so die für technologische Souveränität zuständige Exekutiv-Vizepräsidentin der EU-Kommission, Henna Virkkunen. Zuletzt hatte die EU das Wirksamwerden einiger der Regeln der KI-Verordnung nach hinten verschoben. Dazu zählen unter anderem einige Regeln für Hochrisiko-KI, die nun erst im Dezember 2027 für Standalone-Systeme und im August 2028 für in Produkte eingebettete KI-Anwendungen voll in Kraft treten. Auch die Schonfrist Dezember für die heute bekanntgegebenen, genaueren Kennzeichnungspflichten kam mit diesem sogenannten „KI-Omnibus“. Über die Ausgestaltung der neuen Transparenzpflichten unter der KI-Verordnung wurde dabei lange und intensiv diskutiert – ihre Wirksamkeit müssen sie nun in der Realität beweisen. Weiterlesen nach der Anzeige