EU Icons for labelling AI-generated content
Zusammenfassung
Kurz
Der Bericht erläutert freiwillig nutzbare EU-Symbole für Deepfakes und bestimmte KI-generierte oder bearbeitete Texte, für die nach Artikel 50 des AI Act eine Offenlegung erforderlich sein kann. Er beschreibt drei Kennzeichnungsvarianten, Ausnahmen und Empfehlungen zur Platzierung und Barrierefreiheit; die Symbole allein belegen keine Rechtskonformität, und die Platzierungshinweise sind nur eine Zusammenfassung.
Mittel
Der Bericht stellt kostenlose EU-Symbole zur Kennzeichnung KI-generierter oder KI-manipulierter Inhalte vor. Sie sollen Menschen helfen, solche Inhalte zu erkennen. Die gesetzliche Offenlegungspflicht nach Artikel 50 Absatz 4 des AI Act betrifft laut Bericht Deepfakes, die fälschlich authentisch oder wahr erscheinen könnten, sowie bestimmte KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse, wenn menschliche Prüfung, redaktionelle Kontrolle und eine verantwortliche Redaktion fehlen.
Ausnahmen gelten unter anderem für eindeutig künstlerische, satirische oder fiktionale Werke, sofern die Offenlegung deren Darstellung nicht beeinträchtigt, für gesetzlich erlaubte Strafverfolgungszwecke und für Texte mit menschlicher Prüfung und redaktioneller Verantwortung. Es gibt ein Basissymbol sowie Varianten für vollständig KI-generierte und teilweise KI-veränderte Inhalte, jeweils in mehreren Farb- und Transparenzfassungen. Nutzertests hätten laut Bericht bessere Ergebnisse ergeben, wenn das Basissymbol mit einem Textzusatz kombiniert wurde.
Die Symbole sind freiwillig; die gesetzlichen Pflichten bleiben bestehen, und das Symbol allein weist keine Rechtskonformität nach. Die Platzierungshinweise im Bericht sind ausdrücklich nur eine Zusammenfassung. Empfohlen werden eine frühzeitige, sichtbare Kennzeichnung, Sichtbarkeit beim Teilen und Herunterladen sowie barrierefreie Beschriftungen. Die Symbole können kostenlos und ohne Quellenangabe genutzt werden; ihre Nutzung bedeutet für Nichtunterzeichner keine Zugehörigkeit zum Verhaltenskodex.
Ausführlich lesen
Der Bericht beschreibt EU-Symbole, mit denen Urheber, Herausgeber und andere Anwender generativer KI Inhalte als KI-generiert oder KI-manipuliert kennzeichnen können. Die Symbole stehen kostenlos zur Verfügung und gehören zu Abschnitt 2 des Verhaltenskodex zur Kennzeichnung solcher Inhalte. Ihr Zweck ist laut Bericht, Menschen die künstliche Erzeugung oder Veränderung von Inhalten erkennbar zu machen und so Vertrauen, den Umgang mit möglichen Falschinformationen sowie eine informierte Rezeption zu unterstützen.
Eine Kennzeichnung ist nach der Darstellung nicht für alle KI-generierten oder bearbeiteten Inhalte vorgeschrieben. Artikel 50 Absatz 4 des AI Act betrifft zwei Kategorien: Deepfakes, die Personen, Gegenstände, Orte, Einheiten oder Ereignisse nachbilden und fälschlich authentisch oder wahr erscheinen könnten, sowie KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse, die ohne menschliche Prüfung oder redaktionelle Kontrolle veröffentlicht werden und für die keine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Der Bericht nennt Ausnahmen und Einschränkungen. Bei eindeutig künstlerischen, kreativen, satirischen, fiktionalen oder ähnlichen Werken ist die Transparenzpflicht auf eine angemessene Offenlegung begrenzt, die Darstellung oder Genuss des Werks nicht beeinträchtigt. Die Pflicht entfällt außerdem, wenn die betreffende Nutzung zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten gesetzlich erlaubt ist. Bei Texten greift sie laut Bericht nicht, wenn eine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat und eine Person oder Organisation die redaktionelle Verantwortung trägt.
Vorgesehen sind drei Symbolvarianten: ein Basissymbol, ein Symbol für vollständig KI-generierte Inhalte und eines für teilweise mit KI veränderte Inhalte. Für jedes gibt es schwarze und weiße Fassungen sowie Varianten mit 50 Prozent Transparenz. Das Basissymbol ist für Inhalte vorgesehen, an deren Erstellung KI beteiligt war, oder wenn ein eigener Textzusatz beziehungsweise eine interaktive Informationsebene eingesetzt wird. Die Vollständig-KI-Variante ist für Inhalte ohne von Menschen erstellte Bestandteile oder redaktionelle Kontrolle gedacht, abgesehen von der Eingabe der Prompts. Die Teilweise-verändert-Variante kennzeichnet vorhandenes, von Menschen erstelltes Material, das mit KI so bearbeitet wurde, dass daraus ein Deepfake oder ein einschlägiger öffentlicher Text wird. Als Beispiele nennt der Bericht Politiker-Deepfakes, KI-Musik, Nachrichtenzusammenfassungen und KI-möblierte Wohnungsfotos.
Die Symbole wurden laut Bericht mit Nutzern getestet; die Ergebnisse hätten gezeigt, dass sich die Leistung bei allen Messgrößen verbesserte, wenn das Basissymbol durch eine Textkennzeichnung ergänzt wurde. Ihre Verwendung ist freiwillig, die gesetzlichen Offenlegungspflichten sind es nicht. Ein Symbol allein belegt keine Einhaltung des AI Act; die Anwender bleiben für eine ausreichende Offenlegung verantwortlich. Unterzeichner des Verhaltenskodex sollen dessen Maßnahmen umsetzen. Der Bericht empfiehlt unter anderem eine erkennbare Anzeige spätestens beim ersten Kontakt, eine Platzierung ohne überlagernde Elemente und eine Einbettung, die beim Teilen oder Herunterladen sichtbar bleibt. Er bezeichnet diese Darstellung ausdrücklich als Zusammenfassung, nicht als vollständige Übersicht der Platzierungsregeln. Zur Barrierefreiheit werden gut lesbare Größe, verständliche Begleittexte, Alt-Texte oder ARIA-Kennzeichnungen und ausreichend lange Einblendungen empfohlen. Die Symbole dürfen kostenlos und ohne Quellenangabe genutzt werden; ihre Nutzung durch Nichtunterzeichner bedeutet laut Bericht keine Zugehörigkeit zum Kodex.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertungen der Einordnung beruhen allein auf dem Bericht und wurden unabhängig von Lunas Stufen und Anteilen vergeben. Lunas Stufen weichen in mehreren Fällen ab, besonders bei SF-E1-T05 und SF-M3.
Im Bericht, aber nicht in der Zusammenfassung
- Die drei Symbolvarianten sind mit ihren Anwendungsfällen beschrieben (Basissymbol bei KI-Beteiligung, Fully AI-Generated bei vollständig KI-erzeugten Inhalten, Partially AI-Modified bei teilweise KI-veränderten, zuvor menschlich erstellten Inhalten).
- Die Betreiber bleiben für eine normgerechte Offenlegung verantwortlich, und Unterzeichner des Verhaltenskodex müssen dessen Maßnahmen umsetzen.
- Die Barrierefreiheits-Empfehlungen (Alternativtext, ARIA-Labels, einfache Sprache, Sichtbarkeit lange genug für Lesende, zweite interaktive Ebene) fehlen weitgehend.
- Die Platzierungsregeln (rechtzeitig erkennbar, keine verdeckenden Elemente, direkte Einbettung außer bei kreativen Werken oder UI-Overlay) sind nur knapp angedeutet.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 29 %einzelne zitierbare Belege
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 78 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 61 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 83 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 37 %einzelne zitierbare Belege
- JEV
- amos 24 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 30 %beantwortet teilweise oder widerspricht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden?
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 25 %nur am Rande erwähnt
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 45 %gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 29 %beantwortet teilweise oder widerspricht
- Luna 56 %einzelne zitierbare Belege
- JEV
- amos 31 %beantwortet teilweise oder widerspricht
- SubQ 32 %umfangreiche Belege
- drex 53 %beantwortet direkt und ausführlich
- d3-ultra 48 %umfangreiche Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind?
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv