Unsichtbares ChatGPT-Wasserzeichen kommt in die EU: Was es verrät – und was nicht

Für ChatGPT und Codex bleibt das Watermarking zunächst auf die EU beschränkt. Entwickler:innen können es über die OpenAI API dagegen schon jetzt weltweit für ausgewählte Modelle aktivieren. Standardmäßig ist die Funktion dort ausgeschaltet. Zum Start soll das Watermarking auch außerhalb der API nicht weltweit standardmäßig aktiviert werden.

Für die Kennzeichnung setzt das Unternehmen auf die eigens entwickelte Methode textGrain. Sie fügt dem Text keine sichtbare Markierung hinzu, sondern erzeugt über die Wortwahl des Modells ein statistisches Signal. Ein Detektor kann anschließend prüfen, ob dieses Muster im Text enthalten ist. textGrain soll später außerdem als Open Source veröffentlicht werden.

---

KI-Kennzeichnung jetzt Gesetz:
Diese Regeln gelten für dich

---

Unsichtbare Wasserzeichen für ChatGPT: So funktioniert textGrain

Mit textGrain lässt sich prüfen, ob ein Text wahrscheinlich mit einem OpenAI-Modell erstellt oder bearbeitet wurde. Dabei werden weder sichtbare Zeichen noch zusätzliche Metadaten ergänzt. Stattdessen wird während der Generierung die Wortwahl des Modells statistisch beeinflusst. Über viele einzelne Wortentscheidungen hinweg entsteht so ein Muster, das für Leser:innen unsichtbar bleibt, von einem Detektor aber erkannt werden kann.

Wie diese Gewichtung technisch umgesetzt wird, beschreibt OpenAI in einem gemeinsam mit Forschenden der University of Pennsylvania und Yale veröffentlichten Bericht. Vereinfacht gesagt nutzt textGrain einen geheimen Schlüssel, um bestimmte mögliche Folgewörter leicht zu bevorzugen. Erst aus der Vielzahl dieser gewichteten Wortentscheidungen ergibt sich das Muster, nach dem der Detektor später sucht.

Der Eingriff in die Wortwahl soll die Qualität der Antworten dabei nicht merklich verändern. OpenAI zufolge zeigten sich in den bisherigen Tests keine relevanten Unterschiede bei der Modellleistung. Auch auf Geschwindigkeit und sprachliche Qualität soll das Watermarking keinen nennenswerten Einfluss haben.

Bei längeren ChatGPT-Texten steigt die Erkennungsrate

Wie zuverlässig der Detektor das Wasserzeichen erkennt, hängt von der Länge und vom Inhalt des Textes ab. Bei Passagen aus dem Bereich Psychologie stieg die Erkennungsrate in OpenAIs Tests von etwa 80 Prozent bei 200 Tokens auf rund 95 Prozent bei 400 Tokens. Zugleich war der Detektor so eingestellt, dass er bei nicht markierten Texten in einem Prozent der Fälle fälschlicherweise ein Wasserzeichen melden durfte.

Bei mathematischen Antworten fiel die Erkennung deutlich schlechter aus. Dort gibt es meist weniger Möglichkeiten, einen Inhalt unterschiedlich zu formulieren. Entsprechend weniger Spielraum hat textGrain, über die Wortwahl ein stabiles Muster einzubauen.

Schon zehn Prozent neue Wörter schwächen das Wasserzeichen

Besonders anfällig ist die Erkennung für nachträgliche Bearbeitungen. Bei Passagen mit 400 Tokens lag die Erkennungsrate zunächst bei etwa 92 Prozent. Nach dem Austausch von zehn Prozent der Wörter durch Synonyme sank sie auf 66 Prozent, bei 25 Prozent ersetzten Wörtern auf nur noch 17 Prozent.

Auch Übersetzungen können das Signal stark abschwächen oder vollständig entfernen. Ein fehlender Treffer ist deshalb kein Beleg dafür, dass ein Mensch den Text verfasst hat. Umgekehrt kann der Detektor auch fälschlicherweise ein Wasserzeichen melden.

Wegen dieser möglichen Fehler stellt OpenAI den Detektor zunächst nicht öffentlich bereit. Zugang erhalten vorerst nur ausgewählte Forschende und Fachorganisationen, die dabei helfen sollen, die Zuverlässigkeit und sinnvolle Einsatzmöglichkeiten zu untersuchen.

Was OpenAIs Wasserzeichen nicht verrät

Vor diesem Hintergrund ist entscheidend, welche Schlüsse sich aus einem Treffer überhaupt ziehen lassen. OpenAI selbst formuliert dazu:

[Watermarks] can indicate that an OpenAI system generated or processed part of a passage, but not how much human judgment, editing, or creativity went into it.

Daraus folgen mehrere Einschränkungen:

• Menschlicher Anteil: Ein Treffer zeigt nicht, wie viel Menschen selbst geschrieben, überarbeitet oder entschieden haben.
• Urheber:innenschaft und Verantwortung: Das Wasserzeichen sagt nicht, wem ein Text gehört, wer dafür verantwortlich ist oder ob seine Nutzung rechtmäßig war.
• Identität: Es lassen sich keine Personen, Organisationen, Accounts, Chats oder Prompts damit verknüpfen.
• Richtigkeit: Ein Treffer sagt nichts darüber aus, ob Aussagen korrekt, irreführend oder aus dem Zusammenhang gerissen sind.

Damit liefert das Wasserzeichen einen Hinweis auf die mögliche Beteiligung eines OpenAI-Modells – aber keinen vollständigen Herkunfts- oder Authentizitätsnachweis.

Nach Anthropic setzt auch OpenAI auf Text-Wasserzeichen

OpenAI ist mit dem Schritt nicht allein. Anthropic versieht Texte neuerer Claude-Modelle bereits seit August weltweit mit einem Wasserzeichen. Nach Angaben des Unternehmens gilt dies für Modelle, die nach dem 2. August veröffentlicht wurden; ältere Modelle sollen nach und nach folgen. Die Entscheidung stieß jedoch auch auf Kritik. Einige Claude User argumentierten laut TechCrunch, sie selbst hätten Anweisungen, Kontext und Entscheidungen geliefert, während Claude lediglich als Werkzeug gedient habe.

Auch OpenAI beschäftigt sich schon länger mit der Kennzeichnung von KI-Texten. Bereits vor über zwei Jahren arbeitete das Unternehmen an einem Detector für ChatGPT-Texte. Ein entsprechendes Wasserzeichen hatte OpenAI damals ebenfalls entwickelt, zunächst aber nicht veröffentlicht. Laut einem Bericht des Wall Street Journal aus dem Jahr 2024 spielte dabei unter anderem die Sorge eine Rolle, User könnten zu Wettbewerber:innen ohne vergleichbare Kennzeichnung wechseln.

Mit den Transparenzpflichten des EU AI Acts endet diese Zurückhaltung. OpenAI muss KI-generierte Inhalte künftig maschinenlesbar kennzeichnen, aber anders als Anthropic beschränkt das Unternehmen den Roll-out zunächst auf die EU. Neben OpenAI und Anthropic haben sich auch Google, Meta und Microsoft verpflichtet, den EU-Verhaltenskodex für KI-generierte Inhalte einzuhalten.

---

Claude markiert jeglichen KI-Content
– doch die Lösung hat einen Haken

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.