Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset20. Februar 2024 · Q003642

How Persuasive is AI-Generated Propaganda?

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der bereitgestellte Text ist eine kurze Zusammenfassung: Er berichtet von einem Experiment aus dem Dezember 2021, bei dem Propagandaartikel aus Kampagnen, die wahrscheinlich aus Russland oder dem Iran stammten, mit GPT-3-Texten zu denselben Themen verglichen wurden. Laut den Autoren waren ungeprüfte KI-Texte beinahe ebenso überzeugend; menschliche Auswahl oder Anpassung der Eingaben erhöhte ihre Überzeugungskraft weiter.

Mittel

Der vorliegende Text ist eine kurze Zusammenfassung des in *PNAS Nexus* erschienenen Artikels von Josh A. Goldstein und Mitautoren; Einzelheiten der Studie fehlen. Beschrieben wird ein Experiment aus dem Dezember 2021, das Artikel aus verdeckten Propagandakampagnen, die wahrscheinlich aus Russland oder dem Iran stammten, mit Propagandatexten von GPT-3 davinci zu denselben Themen verglich.

Laut der Zusammenfassung waren die ohne menschliche Auswahl oder Überarbeitung erzeugten KI-Texte beinahe so überzeugend wie die ursprünglichen Artikel. Menschliche Mitwirkung, etwa durch das Anpassen der Eingaben oder die Auswahl von KI-Ausgaben, steigerte die Überzeugungskraft der KI-Texte weiter. Der Bericht nennt weder die genaue Versuchsmethode noch Teilnehmenden, Messwerte oder die Größe der beobachteten Unterschiede. Die Herkunft der Kampagnen wird nur als wahrscheinlich angegeben.

Ausführlich lesen

Der bereitgestellte Text ist eine kurze Zusammenfassung des Beitrags „How Persuasive is AI-Generated Propaganda?“ und enthält keine ausführliche Darstellung der Studie. Josh A. Goldstein und die Mitautoren Jason Chao, Shelby Grossman, Alex Stamos und Michael Tomz veröffentlichten den Artikel in *PNAS Nexus*.

Die Autoren berichten von einem eigenen Experiment aus dem Dezember 2021. Darin verglichen sie die Überzeugungskraft von Artikeln aus verdeckten Propagandakampagnen, die wahrscheinlich aus Russland oder dem Iran stammten, mit Propagandaartikeln, die GPT-3 davinci zu denselben Themen erzeugt hatte.

Laut der Zusammenfassung waren die ungeprüften KI-Texte beinahe ebenso überzeugend wie die ursprünglichen Kampagnentexte. Eine Zusammenarbeit zwischen Menschen und KI erhöhte ihre Überzeugungskraft demnach noch weiter. Als Beispiele für solche Zusammenarbeit nennt der Text das Bearbeiten der an GPT-3 gerichteten Eingaben und die Auswahl der erzeugten Texte.

Der Bericht nennt keine Einzelheiten zu Versuchsaufbau, Teilnehmenden, Messverfahren, konkreten Themen oder Zahlen. Auch lässt sich aus der Zusammenfassung nicht entnehmen, wie groß die Unterschiede waren oder unter welchen Bedingungen die Ergebnisse gelten. Die Herkunft der Propagandaartikel wird ausdrücklich nur als wahrscheinlich bezeichnet.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Beide Zusammenfassungen geben den kurzen Abstract treu wieder. Die Einordnung stützt sich auf diesen Abstract, der weder Methodik noch Messwerte enthält, daher fallen die Stufen niedrig aus.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 59 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 65 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 72 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 23 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →