Do chatbots inform or misinform voters?
Zusammenfassung
Kurz
Laut der im Bericht beschriebenen AISI-Studie nutzten rund 13 Prozent der Wahlberechtigten im Vereinigten Königreich Chatbots für wahlrelevante Informationen. In kurzen randomisierten Versuchen verbesserten sich Einschätzungen zu wahren und falschen politischen Behauptungen durch Chatbot-Recherche etwa so stark wie durch Suchmaschinen; die Ergebnisse sind jedoch auf ein Land, eine Wahl und eine begrenzte Zahl von Modellen beschränkt.
Mittel
Der Bericht fasst eine AISI-Studie zur politischen Informationssuche mit Chatbots im Vereinigten Königreich zusammen. Eine repräsentative Befragung von 2.499 Erwachsenen rund um die Wahl 2024 ergab laut Forschenden, dass 32 Prozent der Chatbot-Nutzenden KI für Informationen mit Bezug zu ihrer Wahlentscheidung einsetzten – das entspricht etwa 13 Prozent der Wahlberechtigten.
In randomisierten Versuchen mit 2.858 Personen recherchierten die Teilnehmenden Themen wie Einwanderung, Klimawandel, Strafrecht und Impfstoffe entweder mit einem Chatbot oder einer Suchmaschine. Sie bewerteten wahre und falsche Behauptungen vor und nach der Recherche. Laut Bericht nahm die Zustimmung zu wahren Aussagen zu und zu falschen ab. Der Wissenszuwachs war bei Chatbots ungefähr so groß wie bei Suchmaschinen, auch wenn Chatbots zum überzeugenden Antworten aufgefordert wurden.
Die Forschenden betonen die Grenzen: Die Studie umfasste ein Land, eine Wahl, einige Modelle und kurze Sitzungen; langfristige Wirkungen wurden nicht untersucht. Da sich Modelle verändern und ihre Überzeugungsfähigkeit laut weiterer AISI-Forschung steigt, sei weitere Beobachtung nötig. Der Beitrag räumt Fehler in KI-Antworten ein und empfiehlt, Informationen nach Möglichkeit anhand anderer Quellen zu prüfen.
Ausführlich lesen
Der Bericht stellt eine Studie des britischen AI Security Institute (AISI) dazu vor, ob Chatbots Menschen bei politischen Fragen informieren oder in die Irre führen. Anlass sind Befürchtungen, dass KI-Antworten durch Fehler, irreführende Inhalte oder politische Verzerrungen die Meinungsbildung und Wahlen beeinträchtigen könnten. Der Beitrag betont, dass es bislang nur wenige empirische Erkenntnisse dazu gebe, wie häufig Menschen KI für politische Informationen nutzen und welche Auswirkungen das auf ihr Wissen hat.
Zur Verbreitung der Nutzung befragten die Forschenden rund um die britische Parlamentswahl 2024 eine repräsentative Stichprobe von 2.499 Erwachsenen im Vereinigten Königreich. Nach den Angaben im Bericht nutzten 32 Prozent der Chatbot-Nutzenden KI, um Informationen zu erhalten, die für ihre Wahlentscheidung relevant waren. Das entsprach etwa 13 Prozent aller wahlberechtigten Personen im Vereinigten Königreich.
Die Auswirkungen auf das Wissen untersuchten die Forschenden in einer Reihe randomisierter kontrollierter Versuche mit 2.858 Teilnehmenden aus dem Vereinigten Königreich. Die Teilnehmenden gaben zunächst ihre Einschätzung zu Behauptungen über vier Themen ab: Einwanderung, Klimawandel, Strafrechtsreform und Impfstoffe. Einige Behauptungen waren wahr, andere stellten falsche Informationen dar. Anschließend recherchierten die Teilnehmenden zwei zufällig ausgewählte Themen entweder mit einem Chatbot oder einer Suchmaschine; danach wurden ihre Einschätzungen erneut erhoben.
Laut Bericht verschlechterte die Recherche mit einem Chatbot das Wissen nicht. Bei den untersuchten Themen nahm vielmehr die Zustimmung zu wahren Aussagen zu und zu falschen Aussagen ab. Diese Veränderungen fielen laut den Forschenden nahezu genauso aus wie nach der Recherche mit einer Suchmaschine. Das Muster zeigte sich bei allen vier Themen und blieb auch bestehen, wenn Chatbots dazu aufgefordert wurden, überzeugender zu argumentieren. Die Autorinnen und Autoren folgern daraus, dass die untersuchten Chatbots und kurzen Recherchephasen die Teilnehmenden eher besser informiert zurückließen, als sie es zuvor waren.
Der Beitrag weist zugleich auf Grenzen der Studie hin: Untersucht wurde nur ein Land und eine Wahl, die Versuche umfassten eine begrenzte Zahl von KI-Modellen und kurze Nutzungssitzungen. Langfristige Folgen sowie andere Länder und Modelle seien damit nicht abgedeckt. Außerdem ändere sich das Verhalten von Modellen mit neuen Versionen, sodass die beobachteten Ergebnisse künftig anders ausfallen könnten. Der Bericht verweist zudem auf andere AISI-Forschung, der zufolge die Überzeugungsfähigkeit von KI-Modellen zunimmt; ihre realen Auswirkungen müssten deshalb weiter beobachtet werden.
Insgesamt hält der Beitrag die verbreitete Sorge vor einer allgemeinen Verschlechterung politischen Wissens durch Chatbots angesichts dieser Ergebnisse für möglicherweise übertrieben. Er räumt ein, dass KI-Ausgaben mitunter sachlich falsch sind, und empfiehlt, nach Möglichkeit weitere Informationsquellen zu prüfen. Die Studie belege jedoch nicht, dass die zunehmende Nutzung von KI bereits zu einem weitreichenden Verlust politischen Wissens führe.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern korrekt; sie lässt nur das Fazit aus, dass die Sorgen womöglich übertrieben sind. Die Einordnung stützt sich auf den Berichtstext, in dem keine der drei Sammelfragen direkt beantwortet wird.
Im Bericht, aber nicht in der Zusammenfassung
- Das Fazit des Berichts, dass die weit verbreiteten Sorgen über den Einfluss von Chatbots auf Politik und Wahlen womöglich übertrieben sind
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 65 %Hintergrund, keine Belege
- JEV 59 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv