Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset29. Juli 2020 · Q005610

Deepfakes: A Grounded Threat Assessment

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur die Zusammenfassung eines Berichts über Deepfakes. Laut Bericht könnten einfache Fälschungen leichter verfügbar werden, während maßgeschneiderte Deepfakes eine größere Bedrohung darstellen, deren Einsatz durch Zeit, Datenlage und Zuordnungsrisiken begrenzt ist. Empfohlen werden Beispielsammlungen, bessere Forschungsstandards, zugängliche Erkennung samt Schulungen und markierte Trainingsdaten.

Mittel

Der vorliegende Text ist ein Auszug: Er enthält die Zusammenfassung von Tim Hwangs Bericht über Deepfakes, nicht den vollständigen Bericht. Er beschreibt die Sorge, dass realistische, mit maschinellem Lernen erzeugte Medien Desinformation unterstützen könnten.

Laut Zusammenfassung dürfte die Verbreitung der Technik den Einsatz einfacher Deepfakes erleichtern; der damalige Stand der Erkennung könne sie jedoch weitgehend eindämmen. Als größere künftige Gefahr bewertet der Bericht maßgeschneiderte Fälschungen technisch versierter Akteure. Auch Kampagnen mit mittleren Ressourcen könnten sie erstellen, seien aber durch das Risiko der Zuordnung, die Trainingszeit für Modelle und die Verfügbarkeit von Daten eingeschränkt.

Der Bericht empfiehlt eine frei zugängliche Sammlung von Deepfake-Beispielen, einheitliche Standards zur Dokumentation technischer Fortschritte, nutzerfreundliche Erkennungswerkzeuge samt Schulungen für gefährdete Berufsgruppen sowie die Markierung öffentlicher Trainingsdaten. Diese Markierung soll synthetische Inhalte leichter erkennbar machen und damit Erkennungskosten senken. Die Zusammenfassung enthält keine ausführlichen Belege oder Messwerte; die Bewertungen sind die Einschätzungen des Berichts.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug aus Tim Hwangs Bericht „Deepfakes: A Grounded Threat Assessment“: Er enthält die Zusammenfassung des Berichts und eine Bildreferenz, nicht den vollständigen Bericht. Die Zusammenfassung beschreibt, wie maschinelles Lernen zunehmend realistische gefälschte Bilder, Videos und Tonaufnahmen ermöglicht hat. Darin erscheinen bekannte Politiker mit Aussagen oder Handlungen, die ihnen zugeschrieben werden, obwohl sie sie nicht getätigt haben. Das habe in der nationalen Sicherheitsgemeinschaft Sorgen ausgelöst, dass solche Techniken Desinformationskampagnen verstärken könnten.

Der Bericht untersucht laut Auszug die technische Fachliteratur und fragt unter anderem, wie sich die Technologie entwickelt, wer sie missbräuchlich einsetzen könnte und warum Akteure Deepfakes statt einfacher hergestellter Fälschungen wählen würden. Seine erste Schlussfolgerung lautet, dass der missbräuchliche Einsatz einfacher Deepfakes mit der zunehmenden Verbreitung der Technik leichter werden dürfte. Der derzeitige Stand der Erkennung lasse solche Fälschungen jedoch nach Einschätzung des Berichts weitgehend eindämmen.

Als größere Gefahr im Zeitverlauf bewertet der Autor maßgeschneiderte Deepfakes, die technisch versierte Akteure erstellen. Laut Zusammenfassung können auch Kampagnen mit mittleren Ressourcen auf die nötigen Voraussetzungen zugreifen. Ihre Möglichkeiten seien aber durch den Bedarf, nicht zurückverfolgt zu werden, durch die Trainingszeit für ML-Modelle und durch die Verfügbarkeit geeigneter Daten begrenzt. Der Auszug liefert keine konkreten Messwerte oder detaillierten Belege zu diesen Einschätzungen.

Aus diesen Befunden leitet der Bericht vier Empfehlungen ab: eine frei zugängliche Sammlung von Deepfake-Beispielen aufzubauen, einheitlichere Standards für die Dokumentation von Fortschritten bei generativen Modellen zu schaffen, Erkennungsmethoden in leicht nutzbare Werkzeuge zu überführen und Schulungen für besonders gefährdete Berufsgruppen anzubieten sowie öffentliche Datensätze gezielt zu markieren. Solche „radioaktiven“ Daten sollen Modelle dazu bringen, leichter erkennbare synthetische Inhalte zu erzeugen. Das könnte die Erkennung verbilligter Deepfakes erleichtern und anspruchsvollere Akteure dazu zwingen, eigene Daten zu beschaffen.

Die Aussagen zu Bedrohung, Erkennung und Empfehlungen sind die im Auszug wiedergegebenen Einschätzungen des Berichts. Da nur die Zusammenfassung vorliegt, lassen sich Methode, Belege und Einschränkungen des vollständigen Textes hier nicht näher prüfen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 55 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 31 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 22 %einzelne zitierbare Belege
    • Luna 82 %einzelne zitierbare Belege
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 29 %beantwortet teilweise oder widerspricht
    • SubQ 38 %umfangreiche Belege
    • drex 35 %umfangreiche Belege
    • d3-ultra 36 %einzelne zitierbare Belege

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →