Claude: Chatbot von Anthropic markiert KI-Texte künftiger Modelle mit Wasserzeichen

Das zunächst nur grob skizzierte Kennzeichnungssystem ist eine Reaktion des Unternehmens auf das europäische KI-Gesetz (AI Act) sowie den EU-Verhaltenskodex für die Transparenz von KI-generierten Inhalten , den Anthropic wie viele andere Digitalfirmen auch freiwillig unterzeichnet hat. Seit dem 2. August gelten in der EU neue Transparenzvorschriften zum Thema künstliche Intelligenz (KI), bei deren Umsetzung der Kodex helfen soll. Anthropic erklärt dazu , dass alle ab diesem Datum in der EU eingeführten Claude-Modelle von Anfang an eine »maschinenlesbare Kennzeichnung« unterstützen. »Generierter Text wird mit eingebetteten Wasserzeichen versehen, und generierte Dateien enthalten digital signierte Herkunftsmetadaten, wo unterstützt«, heißt es. Daran, dieses System auch für bereits auf den Markt befindliche Claude-Modelle umzusetzen, arbeite man derzeit noch. Text rauskopieren? Die Markierung soll mitkommen Allzu konkrete Details zu seinen Text-Wasserzeichen nennt Anthropic bislang nicht, das Unternehmen betont aber: »Wir werden Benutzer und andere Dritte dabei unterstützen, Claudes Markierungen zu erkennen, wie der Kodex verlangt, und werden Details in zukünftiger Dokumentation bereitstellen.« Zum geplanten Text-Wasserzeichen schreibt Anthropic, man werde dieses »nicht sehen, und es ändert nicht die Bedeutung, Qualität oder Lesbarkeit von Claudes Antwort«. Die Markierung sei ein »Teil des Textes« und werde daher »mitgenommen«, wenn dieser kopiert und an anderer Stelle eingefügt wird. Das Wasserzeichen könne auch einige Bearbeitungen eines Textes überstehen. Kein Allheilmittel Zugleich warnt Anthropic schon jetzt davor, aus entdeckten Markierungen voreilige Schlüsse zu ziehen. So heißt es: »Menschen nutzen Claude häufig zum Korrekturlesen, Übersetzen, Zusammenfassen oder Konvertieren von Dateien. Die Ausgabe kann eine Claude-Markierung tragen, auch wenn die zugrunde liegenden Ideen, Texte oder Daten aus einer anderen Quelle stammen.« Alternativ könnten sich mit einem Wasserzeichen markierte Texte auch nach einer Verarbeitung durch Claude noch verändert haben, schreibt Anthropic, etwa indem sie gekürzt oder mit anderem Material kombiniert wurden. Das Fehlen einer Markierung wiederum garantiere nicht, dass ein Text nicht von Claude generiert oder verarbeitet wurde. Einerseits gebe es natürlich Texte, die bereits vor Einführung des Systems mit dem Chatbot erstellt wurden. Anderseits könnten KI-generierten Inhalten Markierungen auch dann fehlen, wenn etwa ein Absatz sehr kurz sei und deshalb zu wenig Text für ein zuverlässiges Signal umfasse. Auch durch starkes Umformulieren, Übersetzen oder Einmischen in andere Inhalte können die Wasserzeichen Anthropic zufolge aus Texten verschwinden. Viele bekannte Unterzeichner Den EU-Verhaltenskodex haben neben Anthropic unter anderem Google, Meta, Microsoft, Mistral und OpenAI unterzeichnet . In dem Dokument heißt es mit Verweis auf den AI Act, KI-Anbieter müssten sicherstellen, dass die Ergebnisse ihrer Systeme in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar seien. Die Lösungen sollten »wirksam, interoperabel, robust und zuverlässig« sein, soweit dies technisch machbar sei. Auch die Besonderheiten und Einschränkungen verschiedener Arten von Inhalten, die Umsetzungskosten und der allgemein anerkannte Stand der Technik seien zu berücksichtigen. OpenAI, die Firma hinter ChatGPT, betont auf ihrer Website , ihre KI-Tools würden neben Bildern inzwischen auch unterstützte Audiodateien mit SynthID-Wasserzeichen versehen, dazu verweist das Unternehmen auf ein entsprechendes eigenes Erkennungstool . An anderer Stelle schreibt OpenAI mit Verweis auf den EU-Verhaltenskodex, das Unternehmen verfolge das Ziel, seine Herkunftsangaben »auf alle Medienformen – einschließlich Text – auszuweiten«. Kunden und Entwickler sollten so klare Möglichkeiten bekommen, ihren eigenen Transparenzpflichten nachzukommen. Für bereits vor dem 2. August auf den Markt gekommene KI-Chatbots sehen die EU-Regeln eine Übergangsfrist bis zum 2. Dezember 2026 vor. Bis dahin haben Anbieter somit noch Zeit, ihre Systeme an die neuen Vorschriften für die Inhalts-Kennzeichnungen anzupassen.