Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset17. Dezember 2021 · Q004269

AI and the Future of Disinformation Campaigns

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Auszug aus Teil 2 einer CSET-Reihe behauptet, KI werde bereits für Desinformationskampagnen eingesetzt und könne gezielte, skalierbare Inhalte sowie digitale Imitationen erleichtern. Empfohlen werden unter anderem technische Erkennung, Frühwarnung und Zusammenarbeit über Plattformen hinweg, verantwortliche Forschung und Medienarbeit sowie Bildung zur Stärkung der öffentlichen Widerstandskraft; der vollständige Bericht liegt nicht vor.

Mittel

Der bereitgestellte Text ist ein Auszug aus der Zusammenfassung von Teil 2 einer zweiteiligen CSET-Reihe, nicht der vollständige Bericht. Die Autoren untersuchen, wie KI und maschinelles Lernen Desinformationskampagnen verstärken können. Laut Bericht wird KI dafür bereits eingesetzt: Datenanalysen erlaubten gezielte Ansprache, während Sprachgenerierung und Deepfake-Werkzeuge Inhalte in großem Umfang erzeugen und digitale Identitäten nachahmen könnten. Künftig könnten solche Systeme mit menschlicher Steuerung auch Bots befähigen, menschliches Verhalten nachzuahmen und maßgeschneiderte Nachrichten zu verbreiten. Als zusätzliche Risiken nennt der Text die Vermischung ausländischer und inländischer Einflussoperationen, kommerzielle Anbieter solcher Dienste und die schwierige Abgrenzung zwischen schädlicher Desinformation und geschützter Rede.

Die Autoren halten KI-gestützte Kampagnen für wahrscheinlich, sehen ihre Folgen aber als beeinflussbar. Sie empfehlen technische Erkennung und Herkunftsnachweise, Chatbot-Kennzeichnung, ein gemeinsames Frühwarnsystem und plattformübergreifenden Informationsaustausch. Weitere Vorschläge betreffen die Kontrolle kommerzieller Einflussdienste, Bedrohungstests bei der Produktentwicklung, Regeln für die Veröffentlichung missbrauchbarer Forschung, verantwortliche Medienabläufe, mehr Transparenz bei Empfehlungsalgorithmen und Bildungsangebote. Die Abwehr sei eine gesamtgesellschaftliche Aufgabe; entscheidend bleibe auch die Fähigkeit der Öffentlichkeit, Desinformation zu erkennen. Der Auszug enthält keine vollständige Methodik oder ausführlichen Belege.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält die Zusammenfassung und Empfehlungen aus Teil 2 einer zweiteiligen CSET-Reihe, nicht den vollständigen Bericht. Die Autoren untersuchen, wie künstliche Intelligenz und maschinelles Lernen Desinformationskampagnen verstärken könnten. Sie verstehen darunter verdeckte Einflussoperationen, bei denen absichtlich falsche oder irreführende Informationen verbreitet werden, um öffentliche Meinungen zu beeinflussen, Unruhe zu stiften oder gesellschaftliches Vertrauen zu schwächen.

Dem Bericht zufolge ist der Einsatz von KI für solche Kampagnen nicht nur denkbar, sondern finde bereits statt. Maschinelles Lernen könne große Datenmengen auswerten und Muster erkennen, um Menschen gezielt anzusprechen. Sprachgenerierung und Deepfake-Werkzeuge seien bereits in der Lage, irreführende Inhalte in großer Zahl zu erzeugen und digitale Identitäten nachzuahmen. Zusammen mit menschlichen Betreibern könnten diese Technologien künftig auch Bots ermöglichen, die menschliches Online-Verhalten nachahmen und gezielt zugeschnittene Nachrichten verbreiten. Als Risiken nennt der Text außerdem die zunehmende Überschneidung ausländischer und inländischer Einflussoperationen, deren Auslagerung an kommerzielle Dienstleister sowie Konflikte darüber, wie schädliche Desinformation von geschützter Meinungsäußerung zu unterscheiden ist.

Die Autoren halten KI-gestützte Kampagnen künftig für wahrscheinlich, meinen aber, ihre Folgen könnten begrenzt werden, wenn Gesellschaften jetzt handeln. Ihre Empfehlungen richten sich an Regierungen, Plattformen, Forschung, Medien und Öffentlichkeit. Dazu zählen technische Verfahren, die den Zugang von Angreifern zu Nutzerdaten erschweren und synthetische Medien besser erkennen oder auf ihre Herkunft zurückführen; eine Kennzeichnung von Chatbots; sowie ein Frühwarnsystem mit gemeinsamem Lagebild und schneller Informationsweitergabe zwischen Behörden, Plattformen und demokratischen Partnern.

Weitere Vorschläge sind die koordinierte Abwehr über Plattformgrenzen hinweg, mehr Transparenz und Rechenschaft bei der Erkennung und Meldung von Kampagnen sowie die Untersuchung kommerzieller Einflussdienste und ihrer Nutzung generativer Werkzeuge. Plattformen und Forschende sollen Bedrohungsanalysen und Sicherheitstests früh in die Produktentwicklung integrieren. Die Forschungsgemeinschaft solle Risiken der Veröffentlichung missbrauchbarer KI-Forschung bewerten. Medien sollten Abläufe entwickeln, die eine unbeabsichtigte Verstärkung von Desinformation verhindern. Plattformen sollten außerdem Empfehlungsalgorithmen für geprüfte Forschende zugänglicher machen und Maßnahmen gegen polarisierende Informationsblasen prüfen. Bildungsangebote sollen die Erkennungsfähigkeit und Widerstandskraft der Öffentlichkeit stärken.

Der Bericht konzentriert sich auf soziale Medien und das Online-Informationsumfeld; er ordnet diese als Teil einer größeren Vertrauenskrise ein. Er betont, dass Empfehlungen helfen könnten, die Verbreitung einzudämmen, die letztliche Abwehr aber auch von urteilsfähigen Menschen abhänge. Da nur der Auszug vorliegt, lassen sich die vollständige Methodik, ausführliche Belege und weitere Einschränkungen des Berichts hier nicht beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

    • SF-M3-T02 Wie weist ein Staat nach, dass ein Angriff KI-gestützt war und nicht herkömmlich, und welche gemeinsamen Forensik-Standards machen eine solche Zuschreibung für alle Beteiligten glaubwürdig? Welcher in mehreren Rechtsräumen anerkannte Vertrauensanker für Signaturen und welche Regel zum Abgleich der Uhren ergeben eine grenzüberschreitende Zeitleiste des Vorfalls, an der jede nachträgliche Änderung erkennbar ist, ohne sich auf die lokale Uhr eines Beteiligten zu verlassen? Und welches Wiederherstellungsverfahren gilt, wenn der Zeitdienst oder die Signatur kompromittiert ist? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 66 %einzelne zitierbare Belege
    • JEV offen
    • amos 30 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

    • SF-M4-T02 Wie sähen Selbstkontrolle und Informationsaustausch zwischen Laboren verschiedener Staaten praktisch aus (eine gemeinsame Vorlage für Vorfallberichte, gemeinsame Übungen oder ein gemeinsames Register), und wer dürfte die Berichte sehen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-M4-T04 Wenn Labore rivalisierender Staaten einen gemeinsamen, vertraulichen Meldekanal für Beinahe-Vorfälle einrichteten: Welche Leitungs- und Kontrollstruktur gäbe allen Beteiligten die Gewissheit, dass geteilte Angaben später nicht in einem geopolitischen Streit als Waffe eingesetzt werden? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %nur am Rande erwähnt
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 36 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV offen
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 45 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV offen
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 39 %einzelne zitierbare Belege
    • JEV offen
    • amos 25 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 22 %einzelne zitierbare Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV offen
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 22 %nur am Rande erwähnt
    • Luna 71 %einzelne zitierbare Belege
    • JEV offen
    • amos 25 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 4 · 47 % · einzelne zitierbare Belege
    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-H2-T04 Wie sollen Staaten mit Open-Source-Modellen aus einem Land umgehen, die in einem anderen schädlich genutzt werden könnten, ohne legitime Forschungszusammenarbeit zu verhindern? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV offen
    • amos 33 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 4 · 46 % · einzelne zitierbare Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV offen
    • amos 30 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 72 %Hintergrund, keine Belege
    • JEV offen
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV offen
    • amos 34 %nur am Rande erwähnt
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 28 %Hintergrund, keine Belege
    • d3-ultra 38 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 55 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 18 %einzelne zitierbare Belege
    • Luna 62 %einzelne zitierbare Belege
    • JEV offen
    • amos 31 %beantwortet teilweise oder widerspricht
    • SubQ 34 %umfangreiche Belege
    • drex 34 %umfangreiche Belege
    • d3-ultra 32 %umfangreiche Belege

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 4 · 42 % · einzelne zitierbare Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →