Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Oktober 2025 · Q001202

PRC-linked abuse: Surveillance and influence activity

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der bereitgestellte Text ist eine OpenAI-Fallstudie aus dem Oktoberbericht 2025. OpenAI sagt, es habe mutmaßlich mit chinesischen Regierungsstellen verbundene Konten gesperrt, die ChatGPT für Pläne zur Überwachung, gezielte Recherche und Profilbildung nutzten; das Modell habe die beschriebenen Überwachungen nicht selbst ausgeführt. Die tatsächliche Nutzung der geplanten Werkzeuge und die Verbindungen der Nutzer sind laut Text nicht unabhängig bestätigt.

Mittel

Der bereitgestellte Text ist eine OpenAI-Fallstudie aus dem Oktoberbericht 2025, kein vollständiger Bericht. OpenAI berichtet, Konten gesperrt zu haben, deren Nutzer offenbar mit chinesischen Regierungsstellen verbunden waren und ChatGPT für Überwachungsplanung, Profilbildung oder politische Recherchen nutzten. Das Unternehmen beschreibt Anfragen zur Planung eines Social-Media-Analysetools sowie eines Frühwarnmodells, das Transportdaten mit Polizeidaten abgleichen sollte, um Reisen von als uigurbezogen und hochriskant eingestuften Personen zu erkennen. ChatGPT habe dabei laut OpenAI Vorschläge und Werbematerial erstellt, die Überwachung aber nicht selbst durchgeführt. Weitere Nutzer fragten nach Finanzierungsquellen eines regierungskritischen X-Kontos, Organisatoren einer Petition in der Mongolei und China-relevanten Nachrichten. Die Modelle hätten laut OpenAI nur öffentliche Informationen ausgegeben. OpenAI stellt die Fälle als begrenzten Einblick in Aktivitäten einzelner Nutzer dar. Die vermuteten Regierungsverbindungen und eine tatsächliche Nutzung der geplanten Werkzeuge sind nicht unabhängig bestätigt; im Frühwarnvorschlag blieb zudem die Kategorie „hochriskant“ undefiniert.

Ausführlich lesen

Der bereitgestellte Text ist eine OpenAI-Fallstudie aus dem Oktoberbericht 2025, kein vollständiger Bericht. OpenAI erklärt, dass es Konten gesperrt habe, deren Nutzer offenbar mit chinesischen Regierungsstellen in Verbindung standen und ChatGPT für Überwachungsplanung, gezielte Profilbildung oder Recherchen eingesetzt hätten. Das Unternehmen stellt die Fälle als Hinweise auf mögliche autoritäre Nutzung von KI dar und betont, dass es sich um einen begrenzten Einblick in Aktivitäten einzelner Nutzer handle, nicht um Belege für eine groß angelegte institutionelle Nutzung seiner Modelle.

Ein Teil der beschriebenen Anfragen betraf die Planung von Werkzeugen zur Auswertung großer Datensätze aus sozialen Medien. In einem Fall sollte ChatGPT Werbematerial und Projektpläne für ein angebliches „Social-Media-Sonden“-Produkt erstellen. Laut Beschreibung sollte dieses Beiträge auf mehreren westlichen und chinesischen Plattformen nach extremistischen sowie ethnischen, religiösen und politischen Inhalten durchsuchen. OpenAI sagt, das Modell sei nicht für die tatsächliche Überwachung eingesetzt worden. Das Unternehmen könne zudem nicht unabhängig bestätigen, ob eine chinesische Regierungsstelle das Werkzeug tatsächlich genutzt habe.

Ein weiterer Nutzer bat um einen Vorschlag für ein Frühwarnmodell, das als „hochriskante, uigurbezogene Zuflusswarnung“ bezeichnet wurde. Der Vorschlag sah laut OpenAI vor, Transportbuchungen mit Polizeidaten abzugleichen, um Reisen von Personen zu erkennen, die als uigurbezogen und hochriskant eingestuft würden. Was „hochriskant“ bedeutete, blieb dem Bericht zufolge undefiniert. Auch hier sei ChatGPT nur zur Ausarbeitung eines allgemeinen Vorschlags verwendet worden; OpenAI könne weder die vorgesehene Technik noch eine tatsächliche Nutzung des Systems bestätigen.

Daneben schildert OpenAI Anfragen zur gezielten Recherche über Kritiker und politische Aktivitäten: Ein Nutzer fragte nach Finanzierungsquellen eines X-Kontos, das die chinesische Regierung kritisierte; ein anderer nach den Organisatoren einer Petition in der Mongolei. OpenAI zufolge lieferten die Modelle nur öffentlich verfügbare Informationen und keine sensiblen Angaben wie die gesuchten Finanzierungsquellen oder Identitäten. Eine weitere Anfrage bezog sich auf eine tägliche Zusammenfassung China-relevanter Nachrichten, darunter sensible Themen wie das Tian’anmen-Jahrestag und den Geburtstag des Dalai Lama.

Die Fallstudie berichtet somit über gesperrte Konten und von OpenAI als verdächtig eingeordnete Anfragen. Ihre Grenzen sind ausdrücklich: Die Verbindung der Nutzer zu Regierungsstellen wird teils nur als wahrscheinlich oder scheinbar beschrieben; die tatsächliche Umsetzung und Nutzung der geplanten Überwachungswerkzeuge ist nicht unabhängig bestätigt. Die beschriebenen Aktivitäten zeigen Anfragen und Planungsarbeit, nicht den Nachweis, dass ChatGPT die Überwachung selbst ausführte.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung; die kurze ist sinngemäß treu, aber knapper und nennt die Einzelfälle nicht. Die Einordnung stützt sich nur auf den Berichtstext.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Bericht betont, dass die Aktivität eher einzelnen Nutzern als institutioneller Nutzung entsprach; die Zusammenfassung deutet das nur mit dem Begriff „begrenzter Einblick“ an.
  • Der Bericht rahmt die Fälle im Kontext autoritärer Nutzung und der Forderung nach „demokratischer KI“ sowie dem Fortschritt der PRC bei autokratischer KI; das fehlt.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, die Modelle hätten nur öffentliche Informationen ausgegeben, bezieht der Bericht ausdrücklich nur auf die Fälle Finanzierungsquellen und Petition, nicht auf die Nachrichtenrecherche.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 44 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 58 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  2. SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
    • clef 19 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 26 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 26 %Hintergrund, keine Belege
    • Luna 45 %Hintergrund, keine Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-E2-T08 Können zwei Staaten KI-Risiken für „politische Sicherheit“ und „gesellschaftliche Steuerung“ im selben technischen Kanal besprechen wie Cyber- und Militärrisiken, ohne dass eine Seite das politische System der anderen als das zu lösende Problem behandelt? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 25 %nur am Rande erwähnt
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →