Operation “Stop News”: Recidivist influence activity
Zusammenfassung
Kurz
OpenAI zufolge nutzte eine mutmaßlich aus Russland gesteuerte Fortsetzung der Operation „Stop News“ seine Modelle vor allem für Texte, Videoskripte und Werbematerial; die tatsächliche Erzeugung der Videos mit anderen KI-Modellen könne OpenAI nicht bestätigen. Die Kampagne erreichte laut Bericht nur begrenzte Resonanz und wird nach einer Neubewertung als Aktivität auf mehreren Plattformen ohne bedeutenden Durchbruch eingestuft.
Mittel
OpenAI berichtet, Konten gesperrt zu haben, die mit einer aus Russland stammenden Einflussoperation namens „Stop News“ verbunden gewesen seien. Die Aktivitäten hätten eine frühere Kampagne fortgesetzt und offenbar zu einem von OpenAI vermuteten Marketingunternehmen gehört. Die Betreiber nutzten OpenAI-Modelle nach Darstellung des Berichts hauptsächlich für Text: etwa für französischsprachige Beiträge, die Frankreich und die USA in Afrika kritisierten und Russland positiv darstellten, sowie englischsprachige Inhalte gegen die Ukraine und ihre Unterstützer.
Sie ließen außerdem russische Vorlagen in Videoskripte umarbeiten, ins Französische übersetzen und mit SEO-Beschreibungen und Hashtags versehen. Für manche Videos wurden abschnittsweise Prompts erstellt, offenbar für andere KI-Modelle. OpenAI kann nicht bestätigen, welche Modelle die Videos oder die KI-Nachrichtenperson erzeugten. Weitere Inhalte umfassten Werbung für russische Unternehmen und nicht lizenzierte Online-Glücksspiele.
Die Reichweite blieb laut Bericht begrenzt: Das zentrale X-Konto hatte 172 Follower; YouTube und TikTok jeweils etwa 1.900. OpenAI fand keine Hinweise auf größere Verbreitung oder Resonanz außerhalb der Kanäle. Die Aktivität wird nun als Kategorie 2 eingestuft. Eine frühere Einstufung in Kategorie 3 beruhte auf Partnerschaften mit britischen Websites, die spätere Untersuchungen laut Bericht als wahrscheinlich fiktiv und durch technische Schwachstellen ermöglicht bewerteten.
Ausführlich lesen
Der Bericht beschreibt eine von OpenAI so bezeichnete Wiederaufnahme der Einflussoperation „Stop News“. OpenAI erklärt, Konten gesperrt zu haben, deren Aktivitäten mit einer aus Russland stammenden, offenbar von einem Marketingunternehmen betriebenen Operation verbunden gewesen seien. Diese habe bereits 2024 unter demselben Namen Aufmerksamkeit erregt. Die Betreiber hätten auch KI-Werkzeuge anderer Anbieter eingesetzt; OpenAI könne jedoch nicht unabhängig bestätigen, welche Modelle letztlich für bestimmte Videos verwendet wurden.
Nach Darstellung des Berichts nutzten die Betreiber OpenAI-Modelle vor allem, um Texte für soziale Medien und Websites zu erstellen, die sich als Nachrichtenangebote in Afrika und Großbritannien ausgaben. Im Vergleich zur früheren Aktivität sei die Bilderzeugung deutlich seltener gewesen. Stattdessen hätten die Betreiber häufig längere russischsprachige Vorlagen in Skripte für kurze Nachrichten-Videos umarbeiten lassen, diese ins Französische übersetzen und dazu suchmaschinenoptimierte Beschreibungen und Hashtags erstellen lassen. Bei aufwendigeren Abläufen seien Skripte in kurze Abschnitte zerlegt und für jeden Abschnitt Videoprompts erzeugt worden, offenbar zur Verwendung mit anderen KI-Modellen. Einige Skripte seien auf Kanälen mit Bezug zu Newstop Africa, andere auf nicht entsprechend gebrandeten YouTube- und TikTok-Kanälen erschienen. Dort habe eine KI-generierte Nachrichtenperson gesprochen, zwischen Szenen mit Bezug zu Afrika. OpenAI sagt, dass diese Person und die Videos nicht nachweislich mit eigenen Modellen erzeugt wurden.
Die vom Bericht beschriebenen Inhalte hätten drei Schwerpunkte gehabt: französischsprachige Beiträge gegen den Einfluss Frankreichs und der USA in Afrika bei gleichzeitiger positiver Darstellung Russlands; englischsprachige Beiträge gegen die Ukraine und ihre Unterstützer; sowie Werbematerial für russische Unternehmen, darunter Anzeigen für nicht lizenzierte Online-Glücksspiele. Gelegentlich seien Bilder, Werbeartikel und Google-Anzeigentexte für Newstop Africa erstellt worden. Laut OpenAI könnten Beiträge, die die Marke neben etablierten Medien nannten, dazu gedient haben, ihr Glaubwürdigkeit zu verleihen. Die Mischung aus Einflussinhalten und kommerzieller Werbung passe nach Einschätzung des Unternehmens zu einem Auftragnehmer, der verdeckte Kampagnen neben gewöhnlicher Werbung anbiete.
Als Reichweite nennt der Bericht begrenzte Werte: Das zentrale Newstop-Africa-X-Konto hatte im August 2025 172 Follower; der meistgeteilte Beitrag kam laut X auf vier Retweets. Die Nachrichtenkanäle auf YouTube und TikTok hatten jeweils ungefähr 1.900 Follower. Das TikTok-Konto verzeichnete 5.855 Likes für 56 Videos; die Aufrufe reichten von 87 bis 63.300. YouTube zeigte insgesamt rund 255.000 Aufrufe für 50 Videos. OpenAI fand jedoch keine Hinweise auf Weiterverbreitung, Medienzitate oder größere Resonanz außerhalb dieser Kanäle.
OpenAI ordnet die Aktivität deshalb nun der Kategorie 2 seiner „Breakout Scale“ zu: Aktivität auf mehreren Plattformen, aber ohne bedeutenden Durchbruch in authentische Gemeinschaften. Die frühere Einstufung von 2024 als Kategorie 3 beruhte wesentlich auf vermeintlichen Informationspartnerschaften mit britischen Websites. Spätere Untersuchungen von VIGINUM und Open-Source-Forschenden deuteten laut Bericht darauf hin, dass diese Partnerschaften wahrscheinlich erfunden waren und Inhalte über technische Schwachstellen ohne Wissen der Website-Betreiber hinzugefügt wurden. Die Darstellung beruht auf OpenAIs eigener Untersuchung; für den Einsatz fremder Modelle und die Herkunft einzelner Videos nennt der Bericht ausdrücklich Grenzen der unabhängigen Bestätigung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung ist im Kern korrekt, Lunas Angaben lassen sich am Text belegen. Die Einordnung stützt sich nur auf den Bericht; mehrere Sammelfragen sind für diesen Bericht nur am Rande einschlägig.
Im Bericht, aber nicht in der Zusammenfassung
- Ausrichtung auf Afrika und das Vereinigte Königreich sowie die Imitation echter Nachrichtenseiten durch die Stop-News-Websites
- Der Rückgang der Bildgenerierung gegenüber der Vorgängerkampagne, die im Bericht als auffällig genannt wird
- Die Videos mit einem KI-Nachrichtensprecher, die mit Aufnahmen von Ereignissen in Afrika kombiniert wurden
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 56 %Hintergrund, keine Belege
- JEV 37 %Hintergrund, keine Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 18 %gleiches Oberthema, hilft nicht
- Luna 45 %einzelne zitierbare Belege
- JEV 44 %beantwortet teilweise oder widerspricht
- amos 33 %einzelne zitierbare Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 33 %einzelne zitierbare Belege
- d3-ultra 33 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 38 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 38 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 43 %Hintergrund, keine Belege
- JEV 41 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 28 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 30 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 35 %einzelne zitierbare Belege
- JEV 55 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 27 %einzelne zitierbare Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 71 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 37 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 19 %gleiches Oberthema, hilft nicht
- Luna 71 %einzelne zitierbare Belege
- JEV 58 %einzelne zitierbare Belege
- amos 35 %einzelne zitierbare Belege
- SubQ 30 %gleiches Oberthema, hilft nicht
- drex 26 %umfangreiche Belege
- d3-ultra 39 %Hintergrund, keine Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv