AI Product Images and Deep Fake Labels Under the AI…
Zusammenfassung
Kurz
Der Bericht sagt, dass KI-Produktbilder dann als kennzeichnungspflichtige Deepfakes gelten können, wenn sie über das tatsächliche Aussehen oder die Eigenschaften des Produkts täuschen; ästhetische Änderungen am Hintergrund seien meist unkritisch. Wer den KI-Einsatz verantwortet, muss die Kennzeichnung sicherstellen, doch ein Label macht irreführende Werbung nicht zulässig. Die Leitlinien der Kommission sind laut Bericht nicht bindend.
Mittel
Der Bericht fasst die Kommissionsleitlinien zu Artikel 50 des EU-KI-Gesetzes für KI-bearbeitete Produktwerbung zusammen. Nach der dargestellten Auslegung entscheidet nicht der KI-Einsatz an sich, sondern ob ein Bild das Produkt so verändert, dass Menschen über sein tatsächliches Aussehen, seine Eigenschaften oder Funktion getäuscht werden können. Ästhetische Hintergrundänderungen gelten demnach meist als geringfügig; veränderte Produktfarbe, Form oder Textur kann dagegen eine sichtbare Deepfake-Kennzeichnung erfordern. Die Bewertung sei objektiv und müsse auch die realistische Zielgruppe berücksichtigen. Ein maschinenlesbares Wasserzeichen reiche nicht.
Die Kennzeichnungspflicht treffe das Unternehmen, das den KI-Einsatz verantwortet. Eine Agentur bleibe laut den Leitlinienbeispielen zuständig, wenn sie Werkzeuge durch ihr Personal oder Freie bedienen lässt; eine Marke könne selbst zum Deployer werden, wenn sie Werkzeug, Prompts oder Parameter bestimmt. Eine Kennzeichnung heile keine irreführende Werbung. Der 2. Dezember 2026 betreffe laut Bericht eine Frist für Anbieter bestimmter KI-Systeme, nicht den Beginn der bereits geltenden Kennzeichnungspflicht der Anwender. Die Leitlinien sind nicht bindend; nur der Gerichtshof kann verbindlich auslegen. Der Autor empfiehlt als Praxisregel, das Produkt selbst nicht zu verändern.
Ausführlich lesen
Der Bericht erläutert, wann KI-bearbeitete Produktbilder in Werbung nach der Auslegung der Europäischen Kommission als „Deepfakes“ gelten können und sichtbar gekennzeichnet werden müssen. Anlass ist die formelle Veröffentlichung der Leitlinien zu Artikel 50 des EU-KI-Gesetzes im Amtsblatt am 12. November 2026. Laut Bericht waren die Leitlinien bereits am 20. Juli veröffentlicht worden; die Veröffentlichung im Amtsblatt verleihe der Kommissionsauslegung nun eine besonders zitierfähige Form.
Die zentrale Aussage des Autors: Entscheidend sei nicht, ob KI verwendet wurde, sondern ob die Bearbeitung den Eindruck erwecken könne, das Produkt sehe anders aus, funktioniere anders oder habe andere Eigenschaften, als es tatsächlich hat. Als Beispiel nennt der Bericht ein KI-Bild, das ein Produkt in Werbung oder Verpackung attraktiver oder hochwertiger erscheinen lässt und dadurch die Wahrnehmung beeinflussen oder irreführen kann. Dagegen seien laut den zitierten Leitlinien meist geringfügig für die Echtheitswahrnehmung: Farbkorrekturen, Erweiterungen oder ästhetischer Austausch des Hintergrunds, die Anordnung vorhandener Produkte und Größenänderungen. Ein echtes Auto in einer KI-generierten Landschaft sei demnach nicht automatisch ein Deepfake, solange die Darstellung nicht über das Auto täuscht. Auch eine offensichtlich fantastische Werbeszene falle nicht darunter.
Der Beitrag hebt drei Auslegungspunkte hervor: Die Beurteilung sei objektiv und hänge nicht von der guten Absicht des Teams ab. Unternehmen sollten die realistische Zielgruppe berücksichtigen, darunter Kinder und ältere Menschen. Außerdem genüge ein maschinenlesbares Wasserzeichen nicht; die Kennzeichnung müsse Menschen ohne besondere Hilfsmittel wahrnehmbar sein. Die Leitlinien seien jedoch nicht bindend. Eine verbindliche Auslegung könne nur der Gerichtshof der Europäischen Union geben; der Autor erwartet, dass Behörden und Rechtsberatung zunächst die Leitlinien heranziehen.
Zur Veranschaulichung vergleicht der Bericht zwei Bearbeitungen eines Sofas. Ein unverändertes Sofa in einem KI-erzeugten Wohnzimmer sei eine ästhetische Hintergrundänderung. Werden dagegen Stoff, Falten oder Farbton verändert, könne das Bild ein Produkt zeigen, das Kunden so nicht erhalten. Der Bericht ordnet dies als kennzeichnungspflichtigen Deepfake ein. Eine Kennzeichnung mache eine anderweitig rechtswidrige oder nach Verbraucherrecht irreführende Anzeige aber nicht zulässig; der Autor empfiehlt deshalb meist, das Produkt selbst nicht zu verändern.
Die Kennzeichnungspflicht nach Artikel 50 Absatz 4 treffe laut Leitlinien den „Deployer“, also das Unternehmen, das das KI-System unter eigener Verantwortung einsetzt. Beauftragt eine Werbeagentur Mitarbeitende oder Freie, bleibe nach dem Beispiel im Bericht die Agentur verantwortlich. Ein Auftraggeber, der lediglich die Agentur auswählt und nicht über den KI-Einsatz entscheidet, sei nicht automatisch Deployer. Wählt die Marke das Werkzeug, formuliert Prompts oder legt Parameter fest, könne sie diese Rolle übernehmen. Bei interner Erstellung mit einem generativen Werkzeug sei das Unternehmen selbst zuständig. Auch Unternehmen außerhalb der EU könnten erfasst sein, wenn sie Deepfakes offen im Internet veröffentlichen und mit Sichtbarkeit in der EU rechnen.
Der 2. Dezember 2026 betreffe laut Bericht eine begrenzte Übergangsfrist: Systeme, die vor dem 2. August 2026 auf den Markt kamen, hätten bis dahin Zeit für die maschinenlesbare Kennzeichnung und Erkennung nach Artikel 50 Absatz 2. Diese Pflicht richte sich an Anbieter der Generatoren. Die Pflicht der Anwender, Deepfakes zu kennzeichnen, gelte bereits seit dem 2. August; ältere Inhalte müssten nicht rückwirkend markiert werden, auch wenn die Kommission dies nach Möglichkeit empfehle. Als mögliche Sanktion nennt der Beitrag bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, wobei für KMU und Start-ups der niedrigere Betrag gelte. Am Beispiel Bulgariens weist er darauf hin, dass eine fehlende nationale Aufsichtsstruktur die Durchsetzung verzögern könne, die Pflicht aber nicht aufhebe.
Als praktische Regel schlägt der Autor vor, KI dürfe die Umgebung eines Produkts verändern, nicht das Produkt selbst. Teams sollten Originalbilder zum Vergleich aufbewahren und Änderungen an Form, Farbe, Größe, Beschaffenheit oder Funktion rückgängig machen oder das Bild nicht in Werbung beziehungsweise Verpackung verwenden. Die Aussagen des Beitrags beruhen auf den beschriebenen Kommissionsleitlinien und der Interpretation des Autors; der Bericht betont ausdrücklich deren nicht bindenden Charakter.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen sind sachlich korrekt und enthalten keine erfundenen Angaben, lassen aber Kernpunkte wie Bußgelder, Fristen und die Lage in Bulgarien aus; die kurze Fassung ist deutlich dünner. Die Einordnung beruht allein auf dem Bericht, Lunas Stufen und Anteile wurden nicht übernommen.
Im Bericht, aber nicht in der Zusammenfassung
- Bußgelder bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes, je nach Höhe, für KMU der niedrigere Betrag
- Bulgarien: der fehlende nationale Rahmen verzögert die Durchsetzung, setzt die Pflicht aber nicht aus
- Inhalte vor dem 2. August 2026 müssen nicht rückwirkend gekennzeichnet werden
- Auch Unternehmen außerhalb der EU sind erfasst, wenn ihre Deepfakes für Menschen in der Union sichtbar sein werden
- Die Kennzeichnung muss ohne Spezialwerkzeuge wahrnehmbar sein
- Die Leitlinien erschienen zuerst am 20. Juli, die Veröffentlichung im Amtsblatt folgte am 12. November
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 30 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 50 %einzelne zitierbare Belege
- JEV 34 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 52 %einzelne zitierbare Belege
- JEV 22 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 25 %einzelne zitierbare Belege
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 63 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 22 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 40 %umfangreiche Belege
- amos 26 %nur am Rande erwähnt
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 30 %nur am Rande erwähnt
- Luna 40 %einzelne zitierbare Belege
- JEV 49 %nur am Rande erwähnt
- amos 33 %einzelne zitierbare Belege
- SubQ 29 %nur am Rande erwähnt
- drex 30 %nur am Rande erwähnt
- d3-ultra 48 %nur am Rande erwähnt
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 29 %einzelne zitierbare Belege
- JEV 21 %einzelne zitierbare Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 20 %beantwortet teilweise oder widerspricht
- Luna 61 %einzelne zitierbare Belege
- JEV 41 %einzelne zitierbare Belege
- amos 28 %einzelne zitierbare Belege
- SubQ 27 %einzelne zitierbare Belege
- drex 41 %umfangreiche Belege
- d3-ultra 48 %einzelne zitierbare Belege
- Haiku-Prüfung nur am Rande erwähnt
- SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind?
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv