Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
cset22. Juni 2022 · Q005682

Andrew Lohn's Testimony Before the House Homeland Security Subcommittee on Cybersecurity, Infrastructure Protection, and Innovation

cset.georgetown.edu · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Lohn zufolge kann KI Cybersicherheit verbessern, ist aber selbst verwundbar und kann mit überzeugenden Texten zur Meinungsbeeinflussung eingesetzt werden. Eine von ihm angeführte kontrollierte Studie zeigte deutliche Meinungsverschiebungen nach dem Lesen KI-generierter Nachrichten; wie lange diese anhielten, sei jedoch unbekannt.

Mittel

Andrew Lohn beschreibt in seiner Aussage vor einem Unterausschuss des US-Repräsentantenhauses drei Verbindungen zwischen KI und Cybersicherheit: KI kann Angriffe erkennen, ist selbst angreifbar und kann zur digitalen oder gesellschaftlichen Schädigung eingesetzt werden. Sie helfe etwa bei der Erkennung von Spam, Phishing und Eindringlingen in Netzwerke. Da Angreifer ihre Methoden anpassten, müssten diese Abwehrfähigkeiten stetig verbessert werden. KI-Systeme könnten durch manipulierte Daten oder Bilder getäuscht und zur Offenlegung geschützter Informationen gebracht werden. Auch ihre Bausteine wie Daten, Bibliotheken und andere Modelle könnten kompromittiert werden.

Besonders betont Lohn das Risiko überzeugender KI-generierter Texte. Er berichtet von einem kontrollierten CSET-Experiment mit fünf Kurznachrichten pro Versuchsperson zu Sanktionen gegen China oder einem Truppenabzug aus Afghanistan. Die Nachrichten gingen mit messbaren Meinungsverschiebungen einher: Bei den China-Sanktionen kehrte sich die Mehrheitsmeinung in der Nachrichten-Gruppe um. Wie lange diese Effekte anhielten, sei laut Lohn unbekannt. Er empfiehlt, KI-Forschung und -Zugang zu fördern, zugleich Erwerb und Einsatz der Systeme zu beobachten sowie Medienkompetenz und vertrauenswürdige Informationsquellen zu stärken.

Ausführlich lesen

Andrew Lohn, Senior Fellow im CyberAI-Projekt des Center for Security and Emerging Technology an der Georgetown University, erläutert in seiner Aussage vor einem Unterausschuss des US-Repräsentantenhauses drei Beziehungen zwischen künstlicher Intelligenz (KI) und Cybersicherheit: KI kann digitale Systeme schützen, benötigt selbst Schutz und kann für Angriffe auf digitale Systeme sowie zur Beeinflussung der Gesellschaft eingesetzt werden. Er grenzt die Themen dabei so ab: Cybersicherheit schützt die digitale Welt; KI ist ein Teil dieser Welt und zeichnet sich dadurch aus, dass sie Aufgaben übernimmt, die zuvor Menschen vorbehalten waren.

Als Einsatzmöglichkeiten von KI zur Verteidigung nennt Lohn das Erkennen von Spam und Phishing sowie die Erkennung von Eindringlingen in Netzwerken. Angreifer versuchten, wie normale Nutzer zu erscheinen und Schadsoftware unauffällig wirken zu lassen. KI könne subtile Abweichungen erkennen. Lohn betont jedoch, dass solche Abwehrsysteme fortlaufend weiterentwickelt werden müssten, weil sich Angreifer anpassten.

Zugleich seien KI-Systeme selbst digitale Systeme mit allgemeinen und besonderen Schwachstellen. Angreifer könnten Daten oder Bilder so verändern, dass eine KI sie falsch einordnet, oder sie dazu bringen, geschützte Informationen preiszugeben. Risiken entstünden außerdem entlang des Entwicklungsprozesses: KI werde oft aus öffentlich verfügbaren Daten, Programmierbibliotheken und anderen Modellen zusammengesetzt, die kompromittiert werden könnten.

Als gesellschaftliches Risiko hebt Lohn KI-generierte Inhalte hervor. Neben gefälschten Bildern und Videos könnten überzeugende Texte eingesetzt werden, um politische Ansichten zu beeinflussen. Er verweist auf eine kontrollierte Untersuchung aus dem CSET-Bericht „Truth, Lies, and Automation“. Dabei lasen Versuchspersonen jeweils fünf KI-generierte Kurznachrichten, die entweder für oder gegen Sanktionen gegen China beziehungsweise für oder gegen einen Abzug aus Afghanistan argumentierten. Laut Lohn war die Gruppe, die Nachrichten zugunsten eines Abzugs gelesen hatte, im Vergleich zur Gruppe mit gegenteiligen Nachrichten um 50 Prozent eher dafür, Truppen abzuziehen, und um 30 Prozent seltener dafür, die Truppenstärke beizubehalten. Beim Thema China sank in der Gruppe, die Nachrichten gelesen hatte, die Unterstützung für Sanktionen so stark, dass fast die Hälfte dagegen war; im Vergleich zur Kontrollgruppe ohne Nachrichten war das doppelt so viel. Lohn sagt ausdrücklich, dass unbekannt sei, wie lange solche Wirkungen anhielten. Er hält diese Methode für potenziell attraktiv für ausländische Akteure und merkt an, dass vergleichbare Textgeneratoren zum Zeitpunkt seiner Aussage frei verfügbar seien.

Lohn plädiert dafür, den Zugang zu KI für wirtschaftliche und wissenschaftliche Fortschritte zu unterstützen, etwa durch eine nationale KI-Forschungsressource, zugleich aber zu beobachten, welche Länder die Systeme erwerben und wofür sie sie einsetzen. Als gesellschaftliche Gegenmaßnahmen nennt er vertrauenswürdige Informationsquellen und Medienkompetenz sowie die Eindämmung von Desinformation. Diese sollten nicht dazu führen, den Wert aller Informationen pauschal abzuwerten. Zusammen mit Forschung zu KI-Schwachstellen und zum Nutzen von KI für die Cybersicherheit könnten solche Maßnahmen nach seiner Einschätzung zur Sicherheit der Nation beitragen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Stufen wurden unabhängig von Lunas Einstufungen vergeben. Der Bericht beantwortet alle drei Sammelfragen kaum, daher liegen die Werte niedrig. Teilfragen waren nicht angegeben.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Afghanistan-Studie: Bei Lesern pro-Truppenabzug-Nachrichten stieg die Zustimmung zum Abzug um 50 Prozent, die Zustimmung zum Verbleib sank um 30 Prozent
  • Die Kernaussage, dass vergleichbare Textgeneratoren inzwischen frei verfügbar sind und damit auch vielen Staaten und technisch versierten Einzelpersonen offenstehen
  • Die Nennung des CSET-Berichts Truth, Lies, and Automation als Grundlage der Studie
  • Die Gefahr, dass Deepfakes weniger Aufmerksamkeit erhalten als die Textgenerierung, obwohl Letztere ebenso bedenklich ist
  • Die Warnung, den Wert aller Informationen nicht zu entwerten

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 78 %Hintergrund, keine Belege
    • JEV 66 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 82 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 51 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 62 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
  4. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 78 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 34 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 61 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 80 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 47 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 78 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 84 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 41 %gleiches Oberthema, hilft nicht
    • Luna 58 %Hintergrund, keine Belege
    • JEV 60 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 86 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 58 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 38 %einzelne zitierbare Belege
    • JEV 53 %nur am Rande erwähnt
    • amos 31 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
  1. SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 54 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 58 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 83 %gleiches Oberthema, hilft nicht
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 53 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 58 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 68 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 32 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 27 %Hintergrund, keine Belege
    • Luna 60 %Hintergrund, keine Belege
    • JEV 53 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 47 %Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →