Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai13. Dezember 2023 · Q001018

Building a Glossary for Synthetic Media Transparency Methods

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Quelltext ist ein Auszug aus einer PAI-Reihe, die Begriffe und Verfahren zur Transparenz synthetischer Medien ordnet. Er unterscheidet indirekte Signale wie Wasserzeichen, Fingerprints und Metadaten von publikumsseitigen Hinweisen sowie von Erkennungsmethoden, die Muster im Inhalt auswerten. PAI betont, dass das Glossar keine Empfehlung darstellt und proaktive Signale manipuliert oder weggelassen werden können.

Mittel

Der vorliegende Quelltext ist ein Auszug aus Teil 1 einer PAI-Reihe über Transparenz bei synthetischen Medien. Er enthält ein Glossar zu „indirekter Offenlegung“. PAI sieht zwar viele Ansätze, aber keine Einigkeit darüber, welche Methoden wann eingesetzt und wie bewertet werden sollten. Das Glossar beruht laut Bericht auf sieben Workshops mit 18 Organisationen; die Aufnahme einer Methode ist ausdrücklich keine Empfehlung und spiegelt nicht zwingend die Positionen dieser Organisationen wider.

Indirekte Signale vermitteln Informationen über Herkunft oder Bearbeitung zunächst an Akteure in der Entwicklung und Verbreitung von Inhalten. Dazu zählen Wasserzeichen, Fingerprints und Metadaten. Sie können direkte, publikumsseitige Hinweise wie Labels unterstützen, gewährleisten aber nicht selbst Transparenz für das Publikum. Wasserzeichen werden in Inhalte eingebettet; Fingerprints werden als Hashes extern gespeichert; Metadaten begleiten den Inhalt und können signiert oder unsigniert sein. Synthetische Medienerkennung leitet die Wahrscheinlichkeit einer KI-Bearbeitung dagegen aus forensischen Merkmalen ab, ohne dass ein Signal eingefügt worden sein muss.

Der Bericht beschreibt Zielkonflikte: Offene Erkennungssysteme sind zugänglicher, aber leichter angreifbar; geschlossene Systeme begrenzen den Zugriff, senken jedoch die Zugänglichkeit. PAI betont, dass proaktive Signale in adversarialen Situationen fehlen oder verändert werden können. Der Auszug belegt keine universell wirksame Methode und bietet keine abschließende Empfehlung.

Ausführlich lesen

Der vorliegende Quelltext ist ein Auszug aus Teil 1 einer von Partnership on AI (PAI) entwickelten Reihe zu Transparenz bei synthetischen Medien. Er konzentriert sich auf „indirekte Offenlegung“ und enthält ein Glossar mit Begriffen und Methoden. Ein vollständiger Abschluss oder eine detaillierte Auswertung der Reihe liegt in diesem Text nicht vor.

PAI begründet den Bedarf an solchen Methoden mit der zunehmenden Verbreitung von Medien, die durch KI erzeugt oder verändert wurden. Der Bericht verweist auf eine Umfrage, laut der ein Drittel der befragten Amerikanerinnen und Amerikaner erwartete, KI werde ihr Vertrauen in das Ergebnis der US-Wahl 2024 verringern. Daraus leitet PAI Fragen ab, wie Publikum erkennen kann, ob Inhalte synthetisch oder irreführend sind und wie Organisationen mehr Transparenz schaffen können. PAI betont zugleich, es gebe keine perfekte Lösung. Verantwortliche könnten aber erklären, wie Inhalte entstanden oder bearbeitet worden sind, und gegebenenfalls kenntlich machen, dass Inhalte KI-generiert oder verändert wurden – einschließlich Unsicherheiten bei solchen Einschätzungen.

PAI zufolge gibt es bereits verschiedene Ansätze, doch die beteiligten Organisationen seien sich nicht einig, welche Methoden wann eingesetzt werden und wie deren Wirksamkeit bewertet werden soll. Als Grundlage für das Glossar nennt PAI eine Reihe von sieben Workshops mit 18 Organisationen aus dem eigenen Netzwerk. Die Aufnahme eines Verfahrens ins Glossar sei keine Empfehlung zu dessen Einsatz. Die Inhalte seien von PAI zusammengestellt und gäben nicht notwendigerweise die Positionen der beteiligten Organisationen wieder.

Das Glossar unterscheidet direkte, für das Publikum sichtbare Hinweise – etwa Labels oder Einblendungen – von indirekten Signalen, die zunächst Informationen über Herkunft oder Bearbeitung an Akteure in Entwicklung, Erstellung und Verbreitung übermitteln. Solche indirekten Angaben können laut PAI direkte Hinweise unterstützen, schaffen aber nicht automatisch Transparenz für das Publikum. Als indirekte Verfahren beschreibt der Text drei Ansätze: Wasserzeichen werden in Inhalte eingefügt und können sichtbar oder verborgen sein; verborgene Wasserzeichen benötigen ein Erkennungswerkzeug. Fingerprinting erzeugt einen Hash, der in einer Datenbank gespeichert wird, statt im Inhalt selbst eingebettet zu sein. Kryptografische Hashes erfordern eine exakte Übereinstimmung, während perzeptuelle Hashes kleinere Veränderungen tolerieren können. Metadaten halten Informationen zur Herkunft, Struktur oder Bearbeitung direkt am Inhalt fest. Signierte Metadaten nutzen sichere Verschlüsselung und ein geprüftes Zertifikat; unsignierte Metadaten bieten laut Glossar weniger Schutz vor unbemerkter Veränderung.

Davon unterscheidet PAI synthetische Medienerkennung: Sie leitet anhand unbeabsichtigter Muster oder forensischer Hinweise ab, wie wahrscheinlich eine KI-Erzeugung oder -Bearbeitung ist, ohne dass zuvor ein Signal eingefügt worden sein muss. Der Bericht beschreibt außerdem einen Zielkonflikt beim Zugang zu Erkennungssystemen: Offene Systeme verbessern die Zugänglichkeit, können aber leichter missbraucht werden; geschlossene Systeme begrenzen diesen Zugriff, sind dafür weniger zugänglich. PAI zufolge muss die Wahl nicht zwingend binär sein. Eine zentrale Einschränkung des Auszugs: Proaktive Signale können von Akteuren gezielt weggelassen oder verändert werden, und keines der beschriebenen Verfahren wird hier als alleinige oder universell wirksame Lösung belegt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 35 %einzelne zitierbare Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 39 %Hintergrund, keine Belege
    • JEV 23 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 51 %einzelne zitierbare Belege
    • JEV 39 %beantwortet teilweise oder widerspricht
    • amos 25 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 37 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 66 % · Hintergrund, keine Belege
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 24 %beantwortet teilweise oder widerspricht
    • Luna 74 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %beantwortet teilweise oder widerspricht
    • SubQ 37 %beantwortet direkt und ausführlich
    • drex 59 %beantwortet direkt und ausführlich
    • d3-ultra offen

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →