Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
mrkt30.com12. November 2026 · Q000608

What Article 50 Actually Requires Before December 2: Text Watermarks, Detection Limits and the Grace Period

mrkt30.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt die Kennzeichnungspflicht nach Artikel 50(2) des EU AI Act und die Übergangsfrist bis zum 2. Dezember für bereits vor dem 2. August vermarktete generative Systeme. Ein freiwilliger EU-Kodex empfiehlt kombinierte Kennzeichnungen, doch der Artikel betont, dass Wasserzeichen durch Bearbeitung, Übersetzung oder kurze Texte geschwächt werden und Erkennung nicht perfekt ist.

Mittel

Der Bericht fasst die Kennzeichnungspflichten aus Artikel 50(2) des EU AI Act zusammen. Anbieter generativer Systeme müssen synthetische Texte, Bilder, Audio und Videos maschinenlesbar markieren. Für Systeme, die schon vor dem 2. August auf dem Markt waren, ende die Übergangsfrist am 2. Dezember; später eingeführte Systeme müssten laut Artikel von Beginn an kennzeichnen. Für Nutzerunternehmen gelten zusätzliche Offenlegungspflichten. Begrenzte Ausnahmen betreffen unter anderem unterstützende Bearbeitung ohne wesentliche Veränderung der Eingabe.

Ein freiwilliger EU-Verhaltenskodex empfiehlt, signierte Metadaten und unsichtbare Wasserzeichen zu kombinieren. Wasserzeichen für längere freie Texte – ungefähr ab 200 Tokens – seien eine praktische Kodexempfehlung, keine gesetzliche Mindestgrenze. Der Artikel beschreibt, wie Wasserzeichen über statistisch gelenkte Wortwahl entstehen, und führt aus, dass Bearbeitung, Übersetzung, Kürze und geringe Wortwahlfreiheit die Erkennung schwächen. Er verweist dafür auf Anbieterangaben und Studien, deren Zahlen keine allgemeingültige Erkennungsleistung garantieren. Auch Bildmetadaten könnten verloren gehen. Die drei genannten Anbieter hätten unterschiedliche Verfahren; Textdetektoren seien nur eingeschränkt zugänglich. Perfekte Erkennung sei laut Bericht weder gefordert noch verfügbar. Wasserzeichen könnten dennoch eine zusätzliche Herkunftsspur schaffen. Unternehmen sollten Systeme, Zuständigkeiten, technische Grenzen und Nachweise dokumentieren. Für Artikel-50-Verstöße nennt der Bericht bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes; bei Start-ups und KMU solle der niedrigere Wert gelten.

Ausführlich lesen

Der Bericht erläutert die Kennzeichnungspflichten für KI-generierte Inhalte nach Artikel 50(2) des EU AI Act und stellt den 2. Dezember als Ende der Übergangsfrist für generative Systeme dar, die bereits vor dem 2. August auf dem EU-Markt waren. Systeme, die ab dem 2. August eingeführt wurden, müssten laut Artikel von Anfang an kennzeichnen. Die Pflicht betrifft Anbieter generativer Systeme und maschinenlesbare Markierungen für synthetische Texte, Bilder, Audio und Videos. Für Nutzerunternehmen gelten daneben eigene Offenlegungspflichten, etwa bei Deepfakes und bestimmten KI-Texten zu Angelegenheiten von öffentlichem Interesse; Chatbots sollen zudem kenntlich machen, dass Menschen mit einer Maschine sprechen. Der Bericht nennt begrenzte Ausnahmen, unter anderem für unterstützende Bearbeitung, die Eingaben oder deren Bedeutung nicht wesentlich verändert.

Der im Juni veröffentlichte Verhaltenskodex der EU-Kommission konkretisiere die Umsetzung, sei jedoch freiwillig. Er empfehle, soweit möglich, signierte Metadaten mit unsichtbaren Wasserzeichen zu kombinieren. Für frei formulierte Texte von mehr als ungefähr 200 Tokens (rund 150 Wörter) sehe der Kodex Wasserzeichen vor; die Grenze sei eine praktische Empfehlung und kein gesetzlicher Schwellenwert. Bei kürzeren Texten seien die Verfahren derzeit nicht zuverlässig genug. Wer den Kodex nicht unterzeichnet, müsse laut Bericht die Angemessenheit eigener Maßnahmen belegen. Unterzeichner sollen außerdem bis zum 2. Februar 2027 eine interoperable Erkennungslösung vorsehen.

Der Artikel beschreibt Textwasserzeichen als statistisches Muster: Ein System lenkt die Wortwahl mithilfe eines geheimen Schlüssels leicht in Richtung bestimmter plausibler Wörter. Je weniger Wahlmöglichkeiten bestehen, desto schwächer kann das Signal sein. Bearbeitung, Übersetzung und kurze Texte erschweren die Erkennung. Als Beispiele nennt der Bericht OpenAI-Angaben, nach denen bei einem 400-Token-Text der Austausch von zehn Prozent der Wörter die Erkennung von etwa 92 auf 66 Prozent senke und ein Austausch von 25 Prozent sie auf 17 Prozent. Für rund 200 Tokens nennt er etwa 80 Prozent bei flexibler Prosa, aber deutlich schlechtere Werte bei Mathematik. Diese Zahlen werden im Bericht referierten Studien und Anbieterangaben zugeschrieben; sie belegen keine allgemeine Erkennungsrate. Auch Bildmetadaten könnten durch Screenshots oder Bearbeitung verloren gehen.

OpenAI, Anthropic und Google nutzten dem Artikel zufolge unterschiedliche Verfahren und böten Textprüfung nur eingeschränkt oder noch nicht öffentlich an. Der Bericht betont, dass perfekte Erkennung weder gesetzlich verlangt noch technisch verfügbar sei. Wasserzeichen könnten dennoch Abschreckung, Kennzeichnung im Entstehungsprozess und eine zusätzliche Beweisspur liefern. Für Start-ups empfiehlt er, Systeme und Rollen zu erfassen, Markierung und Erkennungswege zu dokumentieren sowie Zuständigkeiten und Nachweise vertraglich zu klären. Als Sanktion nennt er für Verstöße gegen Artikel 50 bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes; die Sieben-Prozent-Stufe beziehe sich auf verbotene Praktiken. Für Start-ups und KMU gelte laut Bericht der niedrigere Betrag.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung weicht bei mehreren Fragen deutlich ab, besonders bei SF-E5 und SF-E1-T09 sowie bei SF-I1-T01. Die Stufen wurden unabhängig vom Bericht vergeben.

Im Bericht, aber nicht in der Zusammenfassung

  • Die neuen Verbote nach Artikel 5 für Systeme mit nicht einvernehmlichen intimen Bildern und bestimmtem Missbrauchsmaterial gelten ebenfalls ab dem 2. Dezember
  • Die OpenAI-Testwerte zur Synonymersetzung: Erkennung sinkt bei 10 Prozent Ersetzung von 92 auf 66 Prozent und bei 25 Prozent auf 17 Prozent
  • Die Interoperabilitätslösung für Wasserzeichen-Erkennung, zu der sich Signatarien bis 2. Februar 2027 verpflichten
  • Der Hinweis, dass die 7-Prozent-Obergrenze nur für verbotene Praktiken gilt und nicht für Transparenzverstöße

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 22 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 25 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 25 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 27 %beantwortet teilweise oder widerspricht
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 25 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 27 %Hintergrund, keine Belege
    • Luna 43 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 25 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 38 %gleiches Oberthema, hilft nicht

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 50 %einzelne zitierbare Belege
    • JEV 26 %beantwortet teilweise oder widerspricht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung Hintergrund, keine Belege

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 85 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 34 %einzelne zitierbare Belege
    • JEV 34 %beantwortet teilweise oder widerspricht
    • amos 23 %einzelne zitierbare Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 25 %nur am Rande erwähnt
    • Luna 46 %einzelne zitierbare Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 28 %einzelne zitierbare Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 31 %nur am Rande erwähnt
    • d3-ultra 56 %nur am Rande erwähnt

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 57 %Hintergrund, keine Belege
    • JEV 24 %gleiches Oberthema, hilft nicht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 24 %einzelne zitierbare Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 49 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 5 · umfangreiche Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 39 %beantwortet teilweise oder widerspricht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 42 %gleiches Oberthema, hilft nicht

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 27 %nur am Rande erwähnt
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 60 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 47 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 28 %beantwortet teilweise oder widerspricht
    • Luna 76 %umfangreiche Belege
    • JEV 47 %beantwortet teilweise oder widerspricht
    • amos 33 %beantwortet teilweise oder widerspricht
    • SubQ 52 %beantwortet direkt und ausführlich
    • drex 53 %beantwortet direkt und ausführlich
    • d3-ultra 64 %umfangreiche Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 5 · 37 % · umfangreiche Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →