Das unsichtbare Wasserzeichen im Text: Wie Firmen die Pflichten des AI Act erfüllen

Die Pflicht, KI-generierte Inhalte zu kennzeichnen, klingt nach einer Frage der Fairness gegenüber dem Leser. In der Praxis ist sie ein technisches Problem, mit dem die Branche unterschiedlich umgeht. heise online beschreibt, wie Anthropic die Textkennzeichnung auf weitere Claude-Modelle ausweitet. Den Hintergrund bilden die Vorgaben der EU-Verordnung über künstliche Intelligenz.

Laut heise sollen ab dem 30. September 2026 auch die Ergebnisse der Modelle Claude Fable 5, Claude Sonnet 5 und Claude Opus 4.8 ein unsichtbares Wasserzeichen tragen. Bereits gekennzeichnet sind Claude Fable 5.1, Claude Mythos 5.1, Claude Opus 5.5 und Claude Opus 5. Letzteres erhielt das Zeichen erst nach dem Start, im Zuge einer Aktualisierung. Bis zum 2. Dezember sollen ältere Modelle folgen. Die Information stammt aus einer E-Mail, die Anthropic am 24. September an Kunden verschickt hat. Ein wichtiges Detail: Das Zeichen wird auf Modellebene gesetzt, der Nutzer kann es nicht abschalten.

Wie es funktioniert

Die Methode beruht weder auf versteckten Zeichen noch auf Metadaten, die sich leicht entfernen lassen. Anthropic nutzt eine eigene Variante der Technik SynthID-Text, die Google DeepMind entwickelt hat. Der Mechanismus beeinflusst die Wahl eines von mehreren gleich wahrscheinlichen nächsten Token. Über einen längeren Text entsteht ein statistisches Muster. Mit dem passenden Schlüssel lässt es sich nachweisen, sofern der untersuchte Abschnitt lang genug ist. Das Unternehmen gibt an, die Textqualität leide darunter nicht.

Die Grenzen sind ernster, als die Einfachheit des Gedankens vermuten lässt. Anthropic räumt sie selbst ein. Ein Treffer zeigt lediglich an, dass Claude wahrscheinlich an der Entstehung des Textes beteiligt war. Das Modell kann einen fremden Abschnitt umschreiben, eigene Sätze ergänzen oder einen fremden Text übersetzen. Dann verschwindet das Zeichen. Es ist also kein Beweismittel, sondern ein Hinweis auf Wahrscheinlichkeit.

Woher die Pflicht kommt

Der Grund ist regulatorisch. Der EU AI Act legt Anbietern generativer Systeme Transparenzpflichten auf. Seit dem 2. August müssen sie dafür sorgen, dass von KI erzeugte Inhalte, darunter Texte, maschinenlesbar gekennzeichnet und als erzeugt erkennbar sind. Anthropic setzt seine Lösung global ein, auf allen Claude-Plattformen, obwohl die Initiative aus Europa kam.

Auch der institutionelle Rahmen gehört dazu. Die Europäische Kommission unterhält ein Büro für KI mit über 125 Beschäftigten in sechs Einheiten. Es treibt die Umsetzung des AI Act voran, einschließlich der Regeln für Modelle mit allgemeinem Verwendungszweck. Es kann unter anderem Bewertungen solcher Modelle vornehmen, Informationen verlangen und Sanktionen verhängen. Die Kennzeichnungspflicht ist damit nur eine von vielen Anforderungen, die Modellanbieter im Produktionsprozess berücksichtigen müssen.

Ob das überhaupt funktioniert

Die Kritik kommt von zwei Seiten. Zum einen weisen Praktiker darauf hin, dass Wasserzeichen in Text schon auf gewöhnliche Bearbeitung empfindlich reagieren und sich durch Übersetzen oder Zusammenfassen leicht entfernen lassen. Zum anderen stellt sich die umgekehrte Frage: Was, wenn das Zeichen in einem Text gefunden wird, den ein Mensch selbst geschrieben und das Modell nur zur Korrektur genutzt hat? Dann verwischt die Bedeutung von als KI gekennzeichnet, und ein falscher Vorwurf ist schnell erhoben. Am sichersten liest man den Mechanismus als Werkzeug für statistische Überwachung von Inhalten im Maßstab des Internets, nicht als Entscheidung über die Urheberschaft eines einzelnen Absatzes.