Operation "Doppelganger": Russian influence activity targeting Ukraine
Zusammenfassung
Kurz
OpenAI berichtet, vier mit „Doppelganger“ verbundene Kontengruppen gesperrt zu haben, die seine Modelle für mehrsprachige Kommentare, Übersetzungen und Artikel nutzten. Die Inhalte hätten überwiegend die Ukraine und westliche Institutionen negativ dargestellt; OpenAI zufolge blieb die echte Publikumsresonanz gering, und die modellbezogene Aktivität erreichte auf seiner Skala Kategorie 2 von 6.
Mittel
OpenAI erklärt, vier Kontengruppen gesperrt zu haben, die mit der russischen Einflussoperation „Doppelganger“ verbunden gewesen seien. Sie hätten seine Modelle für mehrsprachige Social-Media-Kommentare, Übersetzungen und Artikel genutzt. Die Aktivitäten richteten sich laut Bericht an Zielgruppen in Europa und Nordamerika und verteilten sich auf 9GAG, X, Facebook sowie mehrere Websites, die Doppelganger zugeschrieben würden. Auf 9GAG hätten neu angelegte Konten Kampagnenbeiträge wiederholt kommentiert und unterstützt; auf X seien kurze Kommentare mit Links zu solchen Websites erschienen. Weitere Gruppen hätten russische Texte übersetzt, französische Artikel redigiert oder Beiträge für Facebook erstellt. OpenAI zufolge war der Großteil der Inhalte gegen die Ukraine und westliche Institutionen gerichtet und stellte Russland positiv dar. Versuche, Karikaturen prominenter Politiker und Russlandkritiker zu erzeugen, seien von den Modellen abgelehnt worden. OpenAI berichtet zudem, den API-Zugang eines Dienstes deaktiviert zu haben, der offenbar Zugangsbeschränkungen umging.
Die Wirkung sei gering gewesen: Auf 9GAG hätten Beiträge typischerweise wenige positive und deutlich mehr negative Stimmen erhalten. X-Beiträge hätten zwar oft etwa 1.000 Teilungen, aber keine Likes oder Antworten gehabt, was OpenAI als mögliche künstliche Verstärkung wertet. Das Unternehmen stuft die Aktivität auf der Breakout Scale in Kategorie 2 von 6 ein: plattformübergreifende Veröffentlichung ohne bedeutsame Resonanz. Zuordnungen und Wirkungseinschätzung stammen von OpenAI und werden im Bericht nicht unabhängig überprüft.
Ausführlich lesen
OpenAI berichtet, vier Gruppen von Konten gesperrt zu haben, die mit der russischen Einflussoperation „Doppelganger“ verbunden gewesen seien. Die Gruppen hätten seine Modelle für Beiträge, Übersetzungen und Website-Texte genutzt. Laut Bericht richtete sich die Aktivität an Menschen in Europa und Nordamerika und verbreitete Inhalte auf mehreren sozialen Plattformen und Websites. Die unterschiedlichen Arbeitsweisen deutet OpenAI als Hinweis auf funktional getrennte Teams innerhalb der Operation.
Eine Gruppe erzeugte kurze Kommentare auf Englisch, Französisch, Deutsch, Italienisch und Polnisch. Sie erschienen auf 9GAG und X neben Memes, Videos und Links, die nach OpenAIs Einschätzung nicht mit seinen Modellen erstellt worden waren. Auf 9GAG hätten drei bis fünf Konten regelmäßig mit kurzen Reaktionen auf Kampagnenbeiträge geantwortet; einige dieser Konten seien am selben Tag angelegt worden und hätten ausschließlich mit den Kampagneninhalten interagiert. Andere Nutzer hätten sie teils als Bots bezeichnet. Auf X hätten die beteiligten Konten meist nur ein oder zwei Beiträge veröffentlicht und dazu scheinbar willkürliche Links geteilt, die zu Websites führten, die wiederholt Doppelganger zugeschrieben worden seien. Diese Websites hätten den Zugriff nach dem Standort der IP-Adresse beschränkt; laut Bericht waren manche Artikel offenbar aufgrund eines Fehlers nur aus Frankreich abrufbar. OpenAI erklärt außerdem, dass diese Gruppe über einen Dienst auf die Modelle zugegriffen habe, der mit Unternehmen in Russland und Tschechien verbunden gewesen sei und offenbar Zugangsbeschränkungen umgehen sollte. OpenAI habe den API-Zugang dieses Dienstes deaktiviert.
Eine zweite Gruppe habe russische, offenbar eigens verfasste Artikel ins Englische und Französische übertragen und kurze Kommentare dazu erstellt. Die Artikel seien später auf rrn.media erschienen. Eine dritte Gruppe habe französische Texte erstellen, redigieren und korrigieren lassen; sie seien auf franceeteu.today veröffentlicht worden. Die vierte Gruppe habe Inhalte von grenzezank.com verarbeitet und daraus kurze Beiträge für eine gleichnamige Facebook-Gruppe und -Seite erzeugt. In Einzelfällen hätten die Beteiligten zudem versucht, Karikaturen bekannter europäischer Politiker und Russlandkritiker generieren zu lassen. OpenAI zufolge lehnten die Modelle diese Anfragen ab.
Inhaltlich habe sich der Großteil der Veröffentlichungen auf den Krieg in der Ukraine konzentriert. Laut OpenAI stellten sie die Ukraine, die USA, die NATO und die EU negativ und Russland positiv dar. Wiederkehrende Behauptungen hätten Russland als wichtigen Wirtschaftspartner Europas beschrieben, westliche Führungspersonen als von ihrer Wählerschaft entfremdet und die Ukraine als schwach, korrupt oder kurz vor einer Niederlage.
OpenAIs Einschätzung zur Reichweite fällt begrenzt aus: Die identifizierten Aktivitäten hätten offenbar keine nennenswerte positive Resonanz eines authentischen Publikums erzielt. Auf 9GAG hätten typische Beiträge fünf bis zehn positive Stimmen erhalten, hauptsächlich von Konten, die ebenfalls Kampagneninhalte verbreiteten, und 15 bis 200 negative Stimmen. Auf X hätten typische Beiträge etwa 1.000 Teilungen, aber keine Antworten oder Likes gehabt; diese Diskrepanz deutet OpenAI als Hinweis auf künstliche Verstärkung. Nach der von OpenAI herangezogenen Breakout Scale ordnet das Unternehmen die modellbezogene Aktivität in Kategorie 2 von 6 ein: Beiträge auf mehreren Plattformen, jedoch ohne Durchbruch oder bedeutsame Publikumsresonanz. Dies sind Einschätzungen des Unternehmens; der Bericht liefert keine unabhängige Überprüfung seiner Zuordnungen oder Wirkungsbewertung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Geprüft wurde die längere Zusammenfassung „mittel“, die kurze Zusammenfassung „kurz“ ist im Wesentlichen treu und nennt Kategorie 2 von 6 korrekt. Der Bericht ist eine einzelne Fallstudie zu einer Operation, deshalb sind die Einordnungen für die allgemeinen Fragen überwiegend niedrig.
Im Bericht, aber nicht in der Zusammenfassung
- Die Geofencing-Strategie der Websites und der Fehler, dass einige Artikel nur von einer französischen IP-Adresse aufrufbar waren
- Dass die vier Cluster unterschiedliche Taktiken zeigten, was OpenAI als Hinweis auf arbeitsteilige Teams wertet
- Dass viele Memes alt und aus dem Netz kopiert waren und nicht mit den Modellen erzeugt wurden
- Die Hinweise auf Bot-Verhalten: Konten, die nur Kampagneninhalte kommentierten und meist am selben Tag angelegt wurden, sowie die Kritik anderer Nutzer
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Aussage, dass Zuordnungen und Wirkungseinschätzung von OpenAI stammen und im Bericht nicht unabhängig überprüft werden, steht so nicht im Bericht. Der Bericht nennt zwar Attribution über Websites und einen Verweis auf eine externe Quelle, eine Bewertung dieser Art fehlt aber.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %einzelne zitierbare Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 18 %gleiches Oberthema, hilft nicht
- Luna 61 %einzelne zitierbare Belege
- JEV 44 %beantwortet teilweise oder widerspricht
- amos 34 %einzelne zitierbare Belege
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 35 %einzelne zitierbare Belege
- d3-ultra 30 %Hintergrund, keine Belege
- Haiku-Prüfung umfangreiche Belege
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %Hintergrund, keine Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %einzelne zitierbare Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %Hintergrund, keine Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 28 %umfangreiche Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 23 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 33 %einzelne zitierbare Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 58 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 25 %gleiches Oberthema, hilft nicht
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 64 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 29 %gleiches Oberthema, hilft nicht
- JEV 52 %einzelne zitierbare Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 67 %einzelne zitierbare Belege
- JEV 43 %umfangreiche Belege
- amos 25 %einzelne zitierbare Belege
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 44 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 26 %einzelne zitierbare Belege
- amos 24 %nur am Rande erwähnt
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %einzelne zitierbare Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 49 %einzelne zitierbare Belege
- JEV 46 %einzelne zitierbare Belege
- amos 26 %nur am Rande erwähnt
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 48 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %einzelne zitierbare Belege
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 19 %einzelne zitierbare Belege
- Luna 61 %einzelne zitierbare Belege
- JEV 44 %einzelne zitierbare Belege
- amos 31 %einzelne zitierbare Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 25 %umfangreiche Belege
- d3-ultra 41 %Hintergrund, keine Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen?
- SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird?
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- Alle Berichte im Archiv