Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai9. September 2025 · Q002607

SafetyKit scales risk agents with OpenAI’s most capable models

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht schildert, wie SafetyKit spezialisierte OpenAI-gestützte Agenten für Betrugs- und Compliance-Prüfungen einsetzt und meldet mehr als 95 Prozent Genauigkeit, 16 Milliarden täglich verarbeitete Tokens sowie über zehn Punkte Leistungsgewinn bei schwierigen Bildaufgaben. Diese Zahlen beruhen laut Text auf SafetyKits eigenen Angaben und Evaluationen; Prüfmethodik und unabhängige Bestätigung fehlen.

Mittel

Der Bericht beschreibt SafetyKits multimodale KI-Agenten zur Erkennung von Betrug und verbotenen Aktivitäten auf Marktplätzen, bei Zahlungsdiensten und Fintechs. SafetyKit ordnet Inhalte spezialisierten Agenten zu und kombiniert dafür je nach Aufgabe OpenAI-Modelle und Werkzeuge: GPT‑4.1 soll Richtlinien und große Prüfvolumen bewältigen, GPT‑5 komplexe multimodale Bewertungen vornehmen. Deep Research und Computer Using Agent unterstützen Händlerprüfungen und die Automatisierung anspruchsvoller Aufgaben. Beispiele sind das Erkennen von Telefonnummern oder QR-Codes in Produktbildern sowie das Prüfen vorgeschriebener Hinweise unter Berücksichtigung regionaler Regeln.

Laut SafetyKit erreichen die Agenten bei der Prüfung sämtlicher Kundeninhalte mehr als 95 Prozent Genauigkeit. Das Unternehmen gibt außerdem an, täglich 16 Milliarden Tokens zu verarbeiten, gegenüber 200 Millionen sechs Monate zuvor. GPT‑5 habe die Benchmarkwerte bei besonders schwierigen Bildaufgaben um mehr als zehn Punkte verbessert und sei binnen weniger Tage eingesetzt worden.

Die Kennzahlen und Leistungsbehauptungen stammen aus dem Unternehmensbericht; die Genauigkeit basiert ausdrücklich auf SafetyKits eigenen Evaluationen. Prüfmethodik, Stichproben und unabhängige Bestätigung werden nicht angegeben. Die Ergebnisse lassen sich daher anhand des Textes nicht unabhängig beurteilen.

Ausführlich lesen

Der Bericht stellt SafetyKit als Anbieter multimodaler KI-Agenten für Marktplätze, Zahlungsplattformen und Fintechs vor. Die Agenten sollen Betrug und verbotene Aktivitäten in Texten, Bildern, Finanztransaktionen, Produktangeboten und weiteren Inhalten erkennen. Der Beitrag beschreibt, wie SafetyKit OpenAI-Modelle und weitere OpenAI-Werkzeuge für Moderation, Compliance-Prüfungen und Risikobewertungen einsetzt.

SafetyKit ordnet Inhalte zunächst der Agentenart zu, die für die jeweilige Risikokategorie entwickelt wurde, und wählt dazu passende Modelle. Laut Bericht nutzt GPT‑5 multimodales Schlussfolgern, um Risiken in Texten, Bildern und Benutzeroberflächen zu bewerten. GPT‑4.1 soll detaillierte Richtlinien zuverlässig befolgen und große Prüfvolumen bewältigen. Reinforcement Fine-Tuning werde eingesetzt, um bei komplexen Sicherheitsrichtlinien Präzision und Trefferquote zu steigern. Deep Research könne aktuelle Online-Recherchen in Händlerprüfungen einbeziehen; der Computer Using Agent automatisiere anspruchsvolle Richtlinienaufgaben.

Als Beispiele nennt der Bericht einen Betrugserkennungsagenten, der neben Text auch QR-Codes oder Telefonnummern in Produktbildern prüft. Ein Agent für Offenlegungspflichten untersucht Angebote und Webseiten auf vorgeschriebene Hinweise. Dabei extrahiere GPT‑4.1 relevante Textstellen, während GPT‑5 die Einhaltung der Regeln bewerte. Bei Wellness-Produkten könnten etwa Produktbehauptungen und regionale Vorgaben darüber entscheiden, ob ein Hinweis nötig ist. SafetyKit zufolge stützen sich solche Bewertungen auf eine interne Richtlinienbibliothek; das Modell liefere strukturierte Ergebnisse, mit denen der Agent mögliche Verstöße markiere.

Der Beitrag berichtet, SafetyKit prüfe neue OpenAI-Modelle anhand besonders schwieriger eigener Fälle und setze leistungsstarke Versionen teils rasch ein. Nach dem Start von o3 habe das Unternehmen laut eigener Darstellung die Leistung bei schwierigen Fällen verbessert. GPT‑5 sei innerhalb weniger Tage in anspruchsvollen Agenten eingesetzt worden und habe bei den schwierigsten Bildaufgaben Benchmarkwerte um mehr als zehn Punkte verbessert. Das Unternehmen teile zudem Evaluationsergebnisse und Fehlerfälle mit OpenAI.

Als zentrale Kennzahlen nennt der Bericht mehr als 95 Prozent Genauigkeit bei der Prüfung sämtlicher Kundeninhalte, 16 Milliarden verarbeitete Tokens täglich gegenüber 200 Millionen sechs Monate zuvor sowie Leistungsgewinne von mehr als zehn Punkten bei schwierigen Bildaufgaben. SafetyKit gibt an, in diesem Zeitraum auf Bereiche wie Zahlungsrisiken, Betrug, Schutz vor sexueller Ausbeutung von Kindern und Geldwäsche ausgeweitet zu haben; neue Kunden hätten jeweils hunderte Millionen Endnutzer unter seinem Schutz.

Die Aussagen und Kennzahlen werden im Bericht überwiegend SafetyKit beziehungsweise dessen CEO zugeschrieben. Die Genauigkeit beruht ausdrücklich auf SafetyKits eigenen Evaluationen. Der Text nennt weder deren Prüfaufbau, Stichproben und Vergleichsmaßstäbe noch unabhängige Bestätigungen. Auch die Benchmarkwerte und die behaupteten Auswirkungen auf Kunden werden nicht methodisch aufgeschlüsselt. Der Bericht belegt daher die dargestellten Unternehmensangaben, liefert aber keine Grundlage, sie unabhängig zu überprüfen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Einordnung bewertet nur die drei angegebenen Sammelfragen, Teilfragen wurden nicht angegeben. Der Bericht ist ein Herstellerfallbeispiel von OpenAI ohne Belege zu Governance oder Selbstüberwachung von KI-Laboren.

Im Bericht, aber nicht in der Zusammenfassung

  • Reinforcement Fine-Tuning steigert Recall und Precision über Standardmodelle hinaus
  • Ausweitung auf Zahlungsrisiken, Geldwäsche und Schutz vor Kindesmissbrauch sowie Kunden mit hunderten Millionen Endnutzern
  • Zuordnung jeder Inhaltskategorie zum jeweils passenden OpenAI-Modell als Grundprinzip
  • Entlastung menschlicher Moderatoren von belastenden Inhalten
  • Rückmeldung von Evals und Fehlerfällen an OpenAI

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 24 %Hintergrund, keine Belege
    • JEV 23 %gleiches Oberthema, hilft nicht
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 54 %einzelne zitierbare Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 22 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 29 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 42 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →