Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai26. September 2024 · Q009213

Upgrading the Moderation API with our new multimodal moderation model

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI zufolge soll das neue, auf GPT‑4o basierende Moderationsmodell Text und teilweise auch Bilder präziser prüfen; neu sind außerdem zwei textbasierte Kategorien für unerlaubte Handlungen. Das Unternehmen meldet Verbesserungen in einer internen Auswertung von 40 Sprachen, doch der Bericht nennt keine detaillierte Testmethodik und die Bildprüfung deckt derzeit nur bestimmte Kategorien ab.

Mittel

OpenAI stellt mit `omni-moderation-latest` ein auf GPT‑4o basierendes Modell für die Moderation API vor. Es soll Text und Bilder prüfen, schädliche Inhalte genauer erkennen und Wahrscheinlichkeitswerte besser kalibrieren. Die Bildprüfung umfasst derzeit Gewalt, Selbstverletzung und sexuelle Inhalte, wobei sexuelle Inhalte mit Minderjährigen ausgenommen sind. Andere Kategorien bleiben vorerst textbasiert. Neu hinzu kommen textbasierte Kategorien für unerlaubte Handlungen sowie solche mit Gewalt.

OpenAI berichtet, das Modell habe sich in einem internen Test mit 40 Sprachen gegenüber dem Vorgänger insgesamt um 42 Prozent verbessert und in 98 Prozent der getesteten Sprachen zugelegt. Für Khmer und Swati nennt das Unternehmen 70 Prozent Verbesserung; die größten relativen Zuwächse seien bei Telugu, Bengali und Marathi aufgetreten. Die API soll für alle Entwickler kostenlos sein, mit nutzungsabhängigen Ratenlimits. Der Bericht nennt Grammarly und ElevenLabs als Anwender. Er enthält keine ausführlichen Angaben zum Testaufbau oder unabhängige Prüfungen der Leistungsbehauptungen.

Ausführlich lesen

Der Bericht kündigt OpenAIs neues Moderationsmodell `omni-moderation-latest` für die Moderation API an. Das Modell basiert laut OpenAI auf GPT‑4o und verarbeitet sowohl Text als auch Bilder. Es soll schädliche Inhalte genauer erkennen als das Vorgängermodell, besonders in anderen Sprachen als Englisch. Wie frühere Versionen nutzt es GPT-basierte Klassifikatoren, um Inhalte unter anderem auf Hass, Gewalt und Selbstverletzung zu prüfen. Hinzu kommen weitere Schadenskategorien und laut Bericht besser kalibrierte Wahrscheinlichkeitswerte, die genauer ausdrücken sollen, wie wahrscheinlich eine Zuordnung zu einer Kategorie ist.

Die Bildmoderation ist derzeit auf bestimmte Kategorien beschränkt: Gewalt, grafische Gewalt, Selbstverletzung, Selbstverletzungsabsicht, Anleitungen zur Selbstverletzung und sexuelle Inhalte. Sexuelle Inhalte mit Minderjährigen sind dabei ausdrücklich nicht eingeschlossen. Für die übrigen Kategorien gilt laut Bericht zunächst nur Textunterstützung; OpenAI kündigt an, die multimodale Abdeckung künftig ausbauen zu wollen. Zwei neu hinzugekommene, ebenfalls textbasierte Kategorien betreffen unerlaubte Handlungen und unerlaubte Handlungen mit Gewalt. Als Beispiel für die erste nennt der Bericht Ratschläge zum Ladendiebstahl.

OpenAI berichtet von einem internen Vergleich mit dem Vorgängermodell anhand einer mehrsprachigen Auswertung für 40 Sprachen. Demnach verbesserte sich die Leistung insgesamt um 42 Prozent und in 98 Prozent der geprüften Sprachen. Für Khmer und Swati, die der Bericht als ressourcenarm bezeichnet, wird eine Verbesserung um 70 Prozent angegeben. Besonders große relative Zuwächse nennt OpenAI für Telugu (6,4-fach), Bengali (5,6-fach) und Marathi (4,6-fach). Außerdem soll die Leistung in zehn aufgeführten Sprachen – darunter Deutsch, Spanisch, Chinesisch und Französisch – sogar die Englischleistung des Vorgängermodells übertreffen. Der Bericht erläutert, dass ein höherer AUPRC-Wert auf eine bessere Unterscheidung sicherer von unsicheren Beispielen im schwierigen mehrsprachigen Testsatz hinweist; konkrete Werte oder nähere Angaben zum Testaufbau enthält der vorliegende Text jedoch nicht.

OpenAI beschreibt die API als kostenlos für alle Entwicklerinnen und Entwickler. Es gelten allerdings Ratenlimits, die sich nach der Nutzungsstufe richten. Als Anwendungsbeispiele nennt der Bericht Grammarly, das die API als Teil seiner Schutzmaßnahmen für KI-Kommunikationshilfe nutzt, und ElevenLabs, das sie zusammen mit eigenen Lösungen zur Prüfung von durch Audio-KI erzeugten Inhalten einsetzt. OpenAI begründet die Aktualisierung mit dem gewachsenen Umfang und der größeren Vielfalt moderierter Inhalte, besonders bei weit verbreiteten KI-Anwendungen. Die Leistungsangaben und Produktbeschreibungen sind Aussagen des Unternehmens; unabhängige Prüfergebnisse oder weitere methodische Details werden im Bericht nicht vorgelegt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung nennt nur Sammelfragen, keine Teilfragen; deshalb wurden die drei Sammelfragen in der angegebenen Reihenfolge bewertet. Die Angaben zu Stufe und Anteil in Lunas Einordnung wurden nicht übernommen.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kurzfassung nennt keine Zahlen (42 % insgesamt, 98 % der Sprachen, 70 % für Khmer und Swati) und nicht, dass das Modell kostenlos ist.
  • Die Kurzfassung erwähnt die kalibrierten Wahrscheinlichkeitswerte nicht, obwohl der Bericht sie als Neuerung nennt.
  • Die Mittelfassung lässt die Anwender Grammarly und ElevenLabs und die Verbindung zur Moderation API seit 2022 aus, die der Bericht als Kontext nennt.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 54 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %umfangreiche Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 28 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 56 %beantwortet teilweise oder widerspricht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 25 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 25 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 21 %einzelne zitierbare Belege
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →