How Claude's text watermarking works
Zusammenfassung
Kurz
Anthropic erklärt, ein statistisches Muster in Claudes Wortwahl solle eine nachträgliche Einschätzung ermöglichen, ob Claude an einem Text mitgewirkt hat; das Unternehmen behauptet, Qualität, Lesbarkeit, Kosten und Geschwindigkeit würden dadurch praktisch nicht beeinflusst. Die Erkennung bleibt unsicher und funktioniert schlechter bei kurzen, stark vorgegebenen oder nur leicht bearbeiteten Texten sowie bei exaktem Code.
Mittel
Anthropic beschreibt ein Text-Wasserzeichen für Claude, das nach Unternehmensangaben bei künftigen Modellen eingesetzt werden soll. Es verändert die Quelle der Zufälligkeit bei der Auswahl zwischen ähnlich passenden Wörtern. Über viele Entscheidungen entsteht so ein statistisches Muster, das mit einem Schlüssel geprüft werden kann. Anthropic sagt, Leser könnten es nicht erkennen; Text oder unsichtbare Zeichen würden nicht hinzugefügt und zusätzliche Tokens seien nicht nötig.
Das Unternehmen behauptet, das Verfahren beeinträchtige Qualität, Inhalt und Lesbarkeit praktisch nicht. Es verweist auf eigene Tests sowie auf Untersuchungen von Google DeepMind, in denen keine signifikanten Qualitätsunterschiede festgestellt worden seien. Die Erkennung gibt jedoch nur eine Wahrscheinlichkeit für Claudes Mitwirkung an: Kurze Texte, sachlich festgelegte Formulierungen, leichtes Korrekturlesen und exakter Code bieten wenig Spielraum für das Wasserzeichen. Eine vollständige Umschreibung kann es entfernen.
Eine Detektions-API ist laut Bericht für bestimmte Organisationen und Unternehmen in privater Vorschau. Unterstützte Dateien erhalten stattdessen einen C2PA-Herkunftshinweis in den Metadaten. Anthropic erklärt, das Wasserzeichen enthalte keine Informationen über Personen oder Chats und ändere nichts an Eigentumsrechten oder Verantwortung. Als Grund für den Einsatz nennt das Unternehmen EU-Vorgaben; zum Start solle die Kennzeichnung weltweit gelten.
Ausführlich lesen
Der Bericht erklärt, wie Anthropic eine Text-Wasserzeichenmethode für Claude einsetzen will. Anthropic sagt, das Wasserzeichen solle bei künftigen Modellen helfen, die Wahrscheinlichkeit zu bestimmen, dass Claude an einem Text mitgewirkt hat. Als Anlass nennt das Unternehmen die Anforderungen des EU AI Act und den EU-Verhaltenskodex zu Transparenz bei KI-generierten Inhalten. Anthropic zufolge soll die Kennzeichnung beim Start weltweit gelten, weil eine verlässliche regionale Begrenzung noch fehle.
Das Verfahren nutzt laut Bericht zufällige Entscheidungen bei der Wortwahl. Sprachmodelle wählen schrittweise aus möglichen nächsten Wörtern. Wo mehrere Wörter gleichermaßen passen, beeinflusst ein Schlüssel zusammen mit vorhergehenden Wörtern die Quelle der Zufälligkeit. Dadurch entstehe über viele Wortentscheidungen ein statistisches Muster, das Lesende nicht erkennen, aber ein Detektionsverfahren mit dem passenden Schlüssel prüfen könne. Es werde weder Text hinzugefügt noch würden unsichtbare Zeichen eingefügt; zusätzliche Tokens seien nicht nötig.
Anthropic behauptet, das Verfahren habe praktisch keinen Einfluss auf Inhalt, Qualität oder Lesbarkeit und verursache kaum zusätzliche Verzögerung oder Kosten. Das Unternehmen verweist auf interne Tests ohne festgestellte Auswirkungen auf Kreativität und Lesbarkeit. Außerdem beschreibt es Ergebnisse aus der von Google DeepMind veröffentlichten SynthID-Text-Studie: Dort hätten sich bei Nutzerbewertungen keine statistisch signifikanten Unterschiede gezeigt; auch ein kontrollierter Vergleich durch menschliche Bewertende habe keinen Qualitätsunterschied ergeben. Der Bericht schildert diese Befunde, stellt aber keine eigene unabhängige Prüfung durch Anthropic dar.
Die Erkennung hat laut Anthropic klare Grenzen. Sie liefert nur eine Wahrscheinlichkeit für eine Mitwirkung Claudes und beweist weder, dass der Text vollständig von Claude stammt, noch dass er nicht von Menschen oder anderen KI-Systemen verfasst wurde. Kurze Texte bieten weniger Wortentscheidungen und sind daher schwerer zu beurteilen. Bei sachlich festgelegten Formulierungen, minimalem Korrekturlesen und exaktem Code gibt es weniger geeignete Wahlmöglichkeiten; entsprechend kann das Wasserzeichen dort schwach oder nicht nachweisbar sein. Übersetzungen seien dagegen markiert, weil Claude dabei jedes Wort auswähle. Leichte Bearbeitungen entfernten das Muster laut Bericht wahrscheinlich nicht vollständig, eine vollständige Ersetzung aller Wörter hingegen schon.
Eine Erkennungs-API befindet sich dem Bericht zufolge in einer privaten Vorschau für bestimmte berechtigte Organisationen und ausgewählte Unternehmen; Anthropic plant, den Zugang auszuweiten. Bei unterstützten Dateien wie PNG, JPG oder SVG soll stattdessen ein kryptografisch signierter C2PA-Herkunftshinweis in den Metadaten stehen. Er soll Claude-Beteiligung anzeigen, aber keine Nutzeridentität offenlegen. Anthropic sagt außerdem, Wasserzeichen änderten weder Eigentumsrechte noch rechtliche Verantwortung. Für ältere Modelle vor dem 2. August 2026 sei eine spätere Einführung vorgesehen.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Stufen und Anteile wurden nicht übernommen; die Bewertung oben beruht allein auf dem Berichtstext. Die Zusammenfassung wurde als Ganzes geprüft, weil beide Fassungen dieselben Kernaussagen enthalten.
Im Bericht, aber nicht in der Zusammenfassung
- Für ältere Claude-Modelle ist eine Übergangsfrist vorgesehen, und Wasserzeichen sollen auch für sie nachgerüstet werden.
- Übersetzungen, die Claude erstellt, tragen ebenfalls ein Wasserzeichen.
- Ein Wasserzeichen kann nicht unterscheiden, ob Claude einen Text geschrieben oder stark überarbeitet hat.
- Andere KI-Anbieter setzen eigene Wasserzeichen ein; rund 190 Unterzeichner haben den EU-Verhaltenskodex unterschrieben.
- Erkennungssoftware anderer Anbieter arbeitet ohne den Schlüssel und sucht nach typischen Stilmerkmalen.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Aussage, das Wasserzeichen ändere nichts an der Verantwortung, steht so nicht im Bericht; dort geht es nur um Eigentum und die Rechte der Nutzer.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 38 %einzelne zitierbare Belege
- JEV 33 %einzelne zitierbare Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 23 %Hintergrund, keine Belege
- JEV 41 %beantwortet direkt und ausführlich
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 24 %nur am Rande erwähnt
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 38 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 40 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 24 %nur am Rande erwähnt
- JEV 52 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 23 %gleiches Oberthema, hilft nicht
- Luna 50 %einzelne zitierbare Belege
- JEV 38 %beantwortet teilweise oder widerspricht
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %beantwortet teilweise oder widerspricht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 26 %gleiches Oberthema, hilft nicht
- Luna 58 %einzelne zitierbare Belege
- JEV 31 %beantwortet teilweise oder widerspricht
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage?
- SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle?
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 25 %einzelne zitierbare Belege
- JEV 35 %beantwortet teilweise oder widerspricht
- amos 26 %nur am Rande erwähnt
- SubQ 21 %einzelne zitierbare Belege
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 21 %gleiches Oberthema, hilft nicht
- Luna 52 %Hintergrund, keine Belege
- JEV 26 %nur am Rande erwähnt
- amos 28 %nur am Rande erwähnt
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben?
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 22 %nur am Rande erwähnt
- Luna 100 %kein Bezug
- JEV 57 %einzelne zitierbare Belege
- amos 27 %einzelne zitierbare Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 38 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 27 %beantwortet teilweise oder widerspricht
- Luna 51 %beantwortet teilweise oder widerspricht
- JEV 50 %beantwortet teilweise oder widerspricht
- amos 33 %beantwortet teilweise oder widerspricht
- SubQ 50 %beantwortet direkt und ausführlich
- drex 71 %beantwortet direkt und ausführlich
- d3-ultra
- Haiku-Prüfung einzelne zitierbare Belege
- SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind?
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv