Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset18. Mai 2021 · Q004352

Truth, Lies, and Automation

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Auszug berichtet, GPT‑3 könne mit menschlicher Anleitung glaubwürdige Desinformationsbotschaften zu mehreren Aufgaben erzeugen und ihre Erstellung skalieren; bei gezielten Texten verwendete es laut Autoren auch rassistische Stereotype. Die Autoren sehen darin eine plausible, aber nicht unausweichliche Gefahr und betonen Grenzen der Studie, darunter einen kleinen Versuch zur Nachrichtenumdeutung und offene Fragen zur Wirkung neuer Verschwörungserzählungen.

Mittel

Der bereitgestellte Auszug aus „Truth, Lies, and Automation“ fragt, ob GPT‑3 Desinformationskampagnen unterstützen kann. Die Autoren untersuchten sechs Aufgaben. Ihrer Einschätzung nach kann das Modell schon mit wenig menschlicher Hilfe kurze Botschaften zu einem vorgegebenen Thema erzeugen, Erzählungen ausarbeiten, Nachrichten umdeuten und Verschwörungsstile nachahmen. Am wirkungsvollsten sei die Zusammenarbeit mit Menschen: Sie könnten in wenigen Minuten glaubwürdige, auf bestimmte Gruppen zugeschnittene Texte erstellen. Dabei verwendete GPT‑3 laut Bericht auch stereotype und rassistische Sprache.

In einem Versuch veränderten kurze, von Menschen ausgewählte GPT‑3-Botschaften die Positionen von Befragten zu Afghanistan und China. Nach fünf Botschaften verdoppelte sich dem Auszug zufolge der Anteil der Befragten, die Sanktionen gegen China ablehnten. Zugleich bleiben wichtige Grenzen: Die Untersuchung zur Umdeutung von Nachrichten war klein; wie Menschen auf neu entworfene Verschwörungserzählungen reagieren würden, ist ungeklärt. Die Autoren halten automatisierte Desinformation für plausibel, aber nicht unausweichlich, und empfehlen, die Verbreitungsinfrastruktur wie gefälschte Konten zu beobachten statt allein Texte auf ihre Urheberschaft zu prüfen. Die vorliegende Zusammenfassung enthält keine vollständigen Methodenangaben.

Ausführlich lesen

Der bereitgestellte Auszug aus dem Bericht „Truth, Lies, and Automation“ untersucht, ob automatisierte Systeme Inhalte für Desinformationskampagnen erzeugen können. Die Autoren stellen GPT‑3 als leistungsfähiges Sprachmodell vor, das Texte nach menschlichen Vorgaben verfasst. Ihre zentrale Einschätzung lautet: GPT‑3 ersetzt Menschen in solchen Kampagnen nicht vollständig, kann aber zusammen mit einer kundigen Person glaubwürdige Botschaften mittlerer bis hoher Qualität deutlich schneller und in größerer Menge hervorbringen.

Für die Untersuchung prüften die Autoren GPT‑3 bei sechs Aufgaben, die sie mit modernen Desinformationskampagnen verbinden. Das Modell schnitt laut ihrer Zusammenfassung besonders gut darin ab, viele kurze, gleichgerichtete Botschaften zu erzeugen. Auch beim Ausarbeiten längerer Erzählungen und beim Umschreiben von Nachrichten aus einer vorgegebenen Perspektive zeigte es brauchbare Leistungen; technische Feinabstimmung habe die Ergebnisse bei längeren Erzählungen verlässlicher gemacht. Die Bewertung der Umdeutung von Nachrichten beruhe allerdings auf einer kleinen Studie. GPT‑3 konnte außerdem den Stil von QAnon nachahmen und Verschwörungserzählungen entwerfen. Wie mögliche Anhänger auf solche Inhalte reagieren würden, blieb offen.

Bei gezielten Botschaften an bestimmte Bevölkerungsgruppen hielten die Autoren die Zusammenarbeit zwischen Mensch und Modell für besonders wirksam: Sie hätten glaubwürdige Texte in wenigen Minuten erstellen können. Zugleich zeigte GPT‑3 dabei laut Bericht stereotype und rassistische Sprache. In einem weiteren Versuch entwickelten Mensch und Modell kurze Botschaften zu einem möglichen Rückzug aus Afghanistan und zu Sanktionen gegen China. Diese hätten die Positionen von Befragten beeinflusst. Als Beispiel nennen die Autoren, dass sich nach fünf kurzen, von Menschen ausgewählten GPT‑3-Botschaften der Anteil der Befragten verdoppelt habe, die Sanktionen gegen China ablehnten. Der Auszug liefert dazu keine weiteren Angaben zur Versuchsanordnung oder zur Übertragbarkeit des Ergebnisses.

Die Autoren beschreiben das Modell als vielseitig, aber durch seine Trainingsdaten begrenzt und in seinen Texten nicht fehlerfrei. Mangelnder Fokus und die Neigung zu extremen Ansichten seien für Desinformation weniger hinderlich als für andere Anwendungen. Sie schätzen, dass Staaten mit ausreichendem technischem Wissen solche Systeme einsetzen könnten; ob sie dies tatsächlich tun würden, sei ungewiss. Auch der nötige Rechenaufwand könne laut Bericht schwer zu bewältigen, aber wahrscheinlich zu leisten sein.

Als Gegenmaßnahme empfehlen die Autoren, eher die Verbreitungsinfrastruktur – etwa gefälschte Social-Media-Konten – zu untersuchen als die Urheberschaft einzelner Texte. GPT‑3-Texte könnten menschlicher Schreibweise ähneln und sich deshalb schwer allein anhand des Textes erkennen lassen. Die Autoren verstehen ihre Ergebnisse als niedrige Schätzung des möglichen Potenzials: Ressourcenstärkere Akteure ohne vergleichbare ethische Beschränkungen könnten mehr aus solchen Systemen herausholen. Der Auszug beschreibt eine plausible Gefahr, keine zwangsläufige Entwicklung. Er enthält eine zusammenfassende Darstellung und eine Übersicht der sechs Aufgaben, aber keine vollständige Beschreibung der Methoden oder des gesamten Berichts.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 35 %beantwortet teilweise oder widerspricht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 29 %gleiches Oberthema, hilft nicht
    • JEV 29 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
    • SF-H2-T04 Wie sollen Staaten mit Open-Source-Modellen aus einem Land umgehen, die in einem anderen schädlich genutzt werden könnten, ohne legitime Forschungszusammenarbeit zu verhindern? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 49 %nur am Rande erwähnt
    • amos 31 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 20 %nur am Rande erwähnt
    • Luna 48 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 28 %einzelne zitierbare Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 31 %einzelne zitierbare Belege

    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 55 % · Hintergrund, keine Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →