Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind14. Mai 2024 · Q004068

Watermarking AI-generated text and video with SynthID

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Google beschreibt SynthID als unsichtbare Wasserzeichen für KI-generierte Texte und Videos: Bei Texten wird ein Muster über Token-Wahrscheinlichkeiten eingebettet, bei Videos in die Pixel jedes Einzelbilds. Laut Bericht ist die Erkennung unter anderem bei stark umgeschriebenen oder übersetzten Texten sowie bei kurzen sachlichen Antworten eingeschränkt; der bereitgestellte Text endet zudem mit einer abgebrochenen Bildbeschreibung.

Mittel

Der Bericht beschreibt Googles SynthID, ein Verfahren zur Markierung KI-generierter Texte und Videos. Für Texte verändert es während der Erzeugung die Wahrscheinlichkeiten möglicher Tokens, sodass ein unsichtbares Muster entsteht, das später zur Erkennung ausgewertet werden kann. Google zufolge soll dies Qualität, Genauigkeit, Kreativität und Geschwindigkeit nicht beeinträchtigen. Bei längeren, vielfältigen Texten funktioniere die Erkennung am besten; starkes Umschreiben, Übersetzen, kurze sachliche Antworten und Texte mit wenig erwartbarer Variation schränkten sie ein.

Für Videos werde das Wasserzeichen in die Pixel jedes Einzelbilds eingebettet. Google kündigt an, Veo-Videos auf VideoFX damit zu markieren und die Texttechnik später als Open Source bereitzustellen, ergänzt durch einen Forschungsbericht und Werkzeuge für Entwickler. SynthID sei laut Google kein vollständiger Schutz vor Missbrauch und könne mit anderen Erkennungsverfahren kombiniert werden. Der bereitgestellte Text enthält den Artikel, endet aber in einem nachgetragenen Abbildungsabschnitt mit einer abgebrochenen letzten Bildbeschreibung.

Ausführlich lesen

Der Bericht stellt Googles SynthID-Verfahren vor, mit dem KI-generierte Texte und Videos markiert und später auf solche Wasserzeichen geprüft werden sollen. Google begründet die Entwicklung mit dem zunehmenden Einsatz generativer KI und dem Risiko, dass damit erstellte Inhalte etwa zur Verbreitung von Falschinformationen oder für Phishing missbraucht werden. SynthID soll Menschen dabei helfen, besser einzuschätzen, ob Inhalte von KI stammen.

Für Text beschreibt Google ein Verfahren, das während der Erzeugung an den Wahrscheinlichkeiten möglicher nächster Tokens ansetzt. Tokens können Zeichen, Wörter oder Wortteile sein. Das Verfahren verändert ihre Auswahlwahrscheinlichkeiten so, dass ein für Menschen unsichtbares Muster entsteht. Zur Erkennung wird dieses Muster mit erwarteten Mustern für markierte und unmarkierte Texte verglichen. Laut Google soll die Markierung Qualität, sachliche Richtigkeit, Kreativität und Geschwindigkeit der Texterzeugung nicht beeinträchtigen. Die Technik sei mit den meisten verbreiteten Textgenerierungsmodellen kompatibel und für einen Einsatz in großem Umfang ausgelegt.

Die Wirksamkeit hängt laut Bericht von der Art des Textes ab. SynthID funktioniere am besten bei längeren, abwechslungsreichen Antworten, etwa Essays oder Skripten. Es könne auch nach dem Entfernen von Textpassagen, kleineren Änderungen oder leichter Paraphrasierung noch Hinweise liefern. Starkes Umschreiben oder Übersetzen in eine andere Sprache könne die Sicherheit der Erkennung jedoch deutlich senken. Bei sachlichen Fragen und Texten mit wenig erwartbarer Variation sei das Verfahren weniger wirksam, weil sich die Token-Wahrscheinlichkeiten dort schwerer verändern ließen, ohne die Genauigkeit zu beeinträchtigen. Google betont außerdem, dass SynthID kein umfassender Schutz vor absichtlichen Angreifern sei. Es könne zusammen mit anderen Erkennungsverfahren eingesetzt werden; auch allgemeine Klassifikatoren seien laut Bericht nicht immer zuverlässig und könnten Texte falsch einordnen.

Beim Video baut SynthID laut Google auf der Bild- und Audiomarkierung auf. Das Wasserzeichen werde direkt in die Pixel jedes Einzelbilds eingebettet und sei für Menschen unsichtbar, aber maschinell erkennbar. Ab dem Zeitpunkt der Ankündigung sollten alle mit Veo auf VideoFX erstellten Videos markiert werden.

Google kündigt an, die Textmarkierung im Gemini-Angebot einzusetzen und SynthID für Text später im Sommer als Open Source bereitzustellen. Geplant seien außerdem ein Forschungsbericht und die Veröffentlichung über das Responsible Generative AI Toolkit, damit Entwickler die Technik in eigene Modelle integrieren können. Das sind im Bericht angekündigte Vorhaben; Ergebnisse ihrer späteren Umsetzung werden darin nicht dokumentiert.

Der bereitgestellte Text enthält den Artikel und endet anschließend in einem nachgetragenen Abbildungsabschnitt, dessen letzte Bildbeschreibung abgebrochen ist.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht endet mit einer abgebrochenen Bildbeschreibung. Die Stufen und Anteile in Lunas Einordnung wurden nicht übernommen, es wurde nur eigenständig bewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Einsatz von SynthID-Text in der Gemini-App und Web-Erfahrung
  • Warnung, dass Klassifikatoren über Plattformen hinweg unzuverlässig sind und Texte fälschlich als KI-generiert markiert werden können

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Bei "kurz" und "mittel": kurze sachliche Antworten als Einschränkung. Der Bericht nennt faktische Prompts (z. B. Hauptstadt von Frankreich, Wordsworth-Gedicht), nicht kurze Antworten.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 19 %gleiches Oberthema, hilft nicht
    • Luna 79 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 43 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 27 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 41 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 85 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 41 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 62 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 35 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 24 %beantwortet teilweise oder widerspricht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 65 %Hintergrund, keine Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 31 %beantwortet teilweise oder widerspricht
    • Luna 65 %einzelne zitierbare Belege
    • JEV 52 %beantwortet teilweise oder widerspricht
    • amos 35 %beantwortet teilweise oder widerspricht
    • SubQ 63 %beantwortet direkt und ausführlich
    • drex 58 %beantwortet direkt und ausführlich
    • d3-ultra 45 %beantwortet direkt und ausführlich
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →