Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi18. Juli 2025 · Q002744

The levers of political persuasion with conversational AI

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der vorliegende Text ist nur ein Abstract. Die Autorinnen und Autoren berichten aus drei Experimenten, dass Nachtraining und Promptvorgaben die Überzeugungskraft von Sprachmodellen stärker steigerten als Personalisierung oder Modellgröße; dabei sei die sachliche Genauigkeit systematisch gesunken.

Mittel

Der vorliegende Text ist nur das Abstract, kein vollständiger Bericht. Darin beschreiben die Autorinnen und Autoren drei Experimente mit insgesamt 76.977 Teilnehmenden. Sie untersuchten 19 Sprachmodelle zu 707 politischen Fragen und prüften die sachliche Richtigkeit von 466.769 Modellaussagen.

Laut Zusammenfassung steigerten Nachtraining und Promptvorgaben die Überzeugungskraft stärker als Personalisierung oder eine größere Modellgröße. Für Nachtraining wird ein Zuwachs von bis zu 51 Prozent, für Prompting von bis zu 27 Prozent berichtet. Die Forschenden führen den Effekt darauf zurück, dass die Modelle Informationen rasch abrufen und gezielt einsetzen konnten. Zugleich sei dort, wo die Überzeugungswirkung zunahm, die sachliche Genauigkeit systematisch gesunken.

Der Auszug enthält keine Einzelheiten zu Versuchsaufbau, Messung oder Unsicherheiten. Daher lassen sich diese Aspekte und die Reichweite der Ergebnisse anhand des Abstracts allein nicht beurteilen.

Ausführlich lesen

Der vorliegende Text ist nur ein Auszug: Er enthält die Zusammenfassung (Abstract) einer Studie, nicht den vollständigen Bericht. Die Autorinnen und Autoren untersuchen die verbreitete Sorge, dass dialogbasierte KI menschliche Überzeugungen stark beeinflussen könnte. Dafür führten sie nach eigener Darstellung drei groß angelegte Experimente mit insgesamt 76.977 Teilnehmenden durch. Sie prüften 19 Sprachmodelle, darunter Modelle, die ausdrücklich auf Überzeugungswirkung nachtrainiert worden waren, zu 707 politischen Fragen. Zusätzlich kontrollierten sie die sachliche Richtigkeit von 466.769 Aussagen der Modelle.

Laut Abstract lässt sich die Überzeugungskraft heutiger und naher künftiger KI stärker durch Nachtraining und durch Vorgaben im Prompt beeinflussen als durch Personalisierung oder eine größere Modellgröße. Die Autorinnen und Autoren berichten, dass Nachtraining die Überzeugungswirkung um bis zu 51 Prozent und Prompting sie um bis zu 27 Prozent steigerte. Diese Angaben beziehen sich auf die in der Zusammenfassung beschriebenen Experimente; der Auszug erläutert weder die Vergleichsbedingungen noch die genaue Berechnung der Prozentwerte.

Als Erklärung führen die Forschenden an, dass die untersuchten Methoden die Fähigkeit der Sprachmodelle nutzten, rasch auf Informationen zuzugreifen und diese gezielt einzusetzen. Zugleich berichten sie einen Zusammenhang zwischen gesteigerter Überzeugungswirkung und geringerer sachlicher Genauigkeit: Wo die Methoden die Modelle überzeugender machten, sank nach ihrer Darstellung systematisch die Faktentreue.

Die Zusammenfassung stellt die Ergebnisse als Gegenpunkt zu besonders weitreichenden Befürchtungen dar und betont, dass die Überzeugungswirkung vor allem von Trainings- und Promptmethoden ausgehe. Da nur das Abstract vorliegt, lassen sich die konkreten Versuchsaufbauten, Messverfahren, Unsicherheiten und Einschränkungen der Studie aus diesem Text nicht beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung stuft alle drei Fragen mit Stufe 3 ein, obwohl der Bericht dazu nichts Belegbares enthält. Die Bewertung beruht allein auf dem Abstract, weil der Quelltext nur diesen enthält.

Im Bericht, aber nicht in der Zusammenfassung

  • Kurzfassung nennt weder die Zahlen zu Nachtraining (bis 51 %) noch zu Prompting (bis 27 %)
  • Kurzfassung nennt nicht die Erklärung, dass die Methoden den raschen und gezielten Informationszugriff der Modelle ausnutzen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 52 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 53 %umfangreiche Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 52 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →