Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai1. Oktober 2024 · Q002340

Tort Report: Abusive reporting activity

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Auszug berichtet, OpenAI habe eine kleine Zahl von Konten gesperrt, die KI für allgemeine Meldetexte gegen Beiträge unabhängiger vietnamesischer Medien auf Facebook und YouTube eingesetzt hätten. OpenAI konnte nicht feststellen, ob Meldungen eingereicht wurden; die identifizierten Beiträge waren weiterhin online, weshalb das Unternehmen die beobachtete Wirkung als Kategorie 1 von 6 einstufte.

Mittel

Der vorliegende Text ist ein Auszug aus OpenAIs Fallstudie „Tort Report“, ursprünglich veröffentlicht im Oktober 2024. OpenAI berichtet, eine kleine Zahl überwiegend vietnamesischsprachiger Konten gesperrt zu haben. Sie hätten mithilfe von KI kurze, teils englische, teils vietnamesische Kommentare erstellt, die offenbar als Meldungen gegen Beiträge unabhängiger vietnamesischer Medien auf Facebook und YouTube dienen sollten.

Als Grundlage hätten die Modelle nur Videotitel und Beschreibungen erhalten, nicht den vollständigen Videoinhalt. Die Kommentare seien meist allgemein geblieben und hätten Regelverstöße behauptet, ohne konkrete Belege zu nennen. OpenAI konnte nach eigener Aussage nicht feststellen, ob solche Meldungen tatsächlich eingereicht wurden. Die identifizierten Zielbeiträge seien zum Berichtszeitpunkt weiterhin online gewesen; Einschränkungen oder Sperrungen habe man nicht beobachtet. Deshalb ordnet OpenAI die Aktivität auf der Breakout-Skala als Kategorie 1 von 6 ein. Diese Bewertung beschreibt die begrenzte Beobachtung des Unternehmens und belegt nicht, ob außerhalb dieser Sichtbarkeit Meldungen erfolgten.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus OpenAIs Fallstudie „Tort Report: Abusive reporting activity“, die laut Text ursprünglich im Oktober 2024 veröffentlicht wurde. OpenAI berichtet, eine kleine Zahl von Konten gesperrt zu haben, die überwiegend auf Vietnamesisch arbeiteten. Diese Konten hätten mithilfe von KI kurze Kommentare auf Englisch und Vietnamesisch erstellt, offenbar um Meldungen gegen Beiträge unabhängiger vietnamesischer Medien auf Facebook und YouTube einzureichen.

Den Angaben zufolge bezogen sich die Eingaben an die Modelle auf Titel und Beschreibung der Videos. OpenAI sah keine Hinweise darauf, dass die Modelle den vollständigen Videoinhalt angesehen, transkribiert oder anderweitig verarbeitet hätten. Die erzeugten Kommentare seien meist allgemein gehalten gewesen: Sie behaupteten, ein Video verletze Plattformregeln, nannten aber üblicherweise keine konkreten Belege.

OpenAI erklärt, wegen der begrenzten Einblicke nicht feststellen zu können, ob tatsächlich Meldungen bei Facebook oder YouTube eingereicht wurden. Bei den identifizierten Zielbeiträgen habe man zum Berichtszeitpunkt keine Löschung oder Einschränkung beobachtet; ein Beispielvideo sei laut Bildunterschrift am 15. Juli noch online gewesen. Daher bewertet OpenAI die Aktivität auf der Breakout-Skala mit Kategorie 1, der niedrigsten von sechs Stufen, und berichtet von keiner beobachteten Wirkung auf den beiden Plattformen.

Die Einschätzung ist ausdrücklich begrenzt: Der Auszug belegt weder, dass Meldungen tatsächlich abgeschickt wurden, noch erlaubt er eine umfassende Aussage über sämtliche Aktivitäten oder mögliche Wirkungen. Er hält lediglich fest, dass OpenAI keine Einschränkungen oder Sperrungen der identifizierten Beiträge beobachtet habe.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 44 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 44 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 49 %einzelne zitierbare Belege
    • amos 24 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 63 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 31 %Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →