Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai22. April 2026 · Q006238

Introducing OpenAI Privacy Filter

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI stellt Privacy Filter als offenes, lokal ausführbares Modell vor, das personenbezogene Daten in Texten anhand von acht Kategorien erkennen und schwärzen soll. Das Unternehmen berichtet hohe Benchmarkwerte, weist aber auf mögliche Fehler, unterschiedliche Leistung je nach Sprache und Fachgebiet sowie den Bedarf an menschlicher Prüfung in sensiblen Bereichen hin.

Mittel

Der Bericht beschreibt OpenAI Privacy Filter als offenes Modell, das personenbezogene Daten in Texten kontextabhängig erkennen und markieren soll. OpenAI zufolge kann es lokal laufen, verarbeitet bis zu 128.000 Tokens und erfasst acht Kategorien, darunter Namen, Kontaktdaten, Kontonummern und Geheimnisse wie Passwörter. Entwickelt wurde es als Token-Klassifikator, trainiert mit öffentlichen und synthetischen Daten sowie teilweise modellgestützter Annotation.

OpenAI berichtet auf dem Benchmark PII-Masking-300k von 96 Prozent F1; nach Korrektur von Beschriftungsproblemen seien es 97,43 Prozent. Bei einer untersuchten domänenspezifischen Feinabstimmung sei der F1-Wert von 54 auf 96 Prozent gestiegen. Diese Leistungswerte sind Angaben des Unternehmens. Es weist darauf hin, dass das Modell Fehler machen kann und kein vollständiges Anonymisierungswerkzeug oder Compliance-Nachweis ist. Leistung kann sich je nach Sprache und Fachgebiet unterscheiden; für sensible Anwendungen seien menschliche Prüfung und domänenspezifische Bewertung wichtig. Die Vorschau steht unter Apache 2.0 auf Hugging Face und GitHub bereit.

Ausführlich lesen

Der Bericht stellt OpenAI Privacy Filter als offenes Modell zur Erkennung und Schwärzung personenbezogener Daten in Texten vor. OpenAI zufolge ist es für schnelle Verarbeitung großer oder langer Texte ausgelegt und kann lokal ausgeführt werden, sodass ungefilterte Daten das Gerät nicht verlassen müssen. Das Unternehmen erklärt, eine fein abgestimmte Version selbst in datenschutzorientierten Abläufen einzusetzen.

Das Modell soll über einfache Mustererkennung hinausgehen: Es berücksichtigt den sprachlichen Kontext, um private Angaben von Informationen zu unterscheiden, die öffentlich sind und erhalten bleiben sollen. Technisch beschreibt OpenAI es als bidirektionales Token-Klassifikationsmodell mit Span-Decodierung. Es markiert alle Tokens in einem Durchlauf und setzt die Markierungen anschließend mithilfe eines eingeschränkten Viterbi-Verfahrens zu zusammenhängenden Bereichen zusammen. Die veröffentlichte Version umfasst laut Bericht 1,5 Milliarden Gesamtparameter, davon 50 Millionen aktive, und unterstützt bis zu 128.000 Tokens Kontext. Entwickler können Präzision und Trefferquote an ihren Anwendungsfall anpassen.

Erfasst werden acht Kategorien: private Personen, Adressen, E-Mail-Adressen, Telefonnummern, URLs und Datumsangaben sowie Kontonummern und Geheimnisse wie Passwörter oder API-Schlüssel. Für die Entwicklung definierte OpenAI zunächst eine Datenschutz-Taxonomie, passte ein vortrainiertes Sprachmodell zu einem Klassifikator an und trainierte es mit öffentlichen und synthetischen Daten. Teilweise unvollständige öffentliche Beschriftungen wurden laut Bericht mit modellgestützter Annotation und Überprüfung ergänzt. Ein Beispiel zeigt, wie Namen, ein Datum, eine Kontonummer, eine E-Mail-Adresse und eine Telefonnummer in einem Geschäftstext markiert werden.

OpenAI berichtet für den Benchmark PII-Masking-300k einen F1-Wert von 96 Prozent, bei 94,04 Prozent Präzision und 98,04 Prozent Trefferquote. Nach Korrektur von Beschriftungsproblemen, die das Unternehmen bei der Auswertung identifiziert habe, liege der F1-Wert bei 97,43 Prozent; Präzision und Trefferquote betrügen dann 96,79 beziehungsweise 98,08 Prozent. Bei einer untersuchten domänenspezifischen Anpassung sei der F1-Wert durch Feinabstimmung mit wenigen Daten von 54 auf 96 Prozent gestiegen. Der Bericht verweist außerdem auf zusätzliche Tests, unter anderem zu Geheimnissen in Code, Mehrsprachigkeit und kontextabhängigen Fällen.

Die Ergebnisse und Leistungsbeschreibungen sind Angaben von OpenAI. Der Bericht betont, dass das Modell kein vollständiges Anonymisierungswerkzeug und keine Compliance-Zertifizierung sei. Fehler, übersehene Kennungen und zu weitgehende oder unzureichende Schwärzungen seien möglich, besonders bei kurzen oder mehrdeutigen Texten. Die Leistung könne je nach Sprache, Schrift, Namenskonvention und Fachgebiet variieren. Für sensible Rechts-, Medizin- und Finanzanwendungen empfiehlt der Bericht domänenspezifische Prüfung, Anpassung und menschliche Kontrolle. Veröffentlicht werde eine Vorschau unter Apache 2.0 auf Hugging Face und GitHub, gedacht für Erprobung, Anpassung und kommerziellen Einsatz.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: ok

Lunas Zusammenfassungen sind treu und enthalten keine erfundenen Angaben; nur die Modellgröße und die interne Nutzung bei OpenAI fehlen. Bei der Einordnung weicht die Bewertung bei SF-H3, SF-V5-T02 und SF-F1-T07 deutlich ab, weil der Bericht ein Produktrelease zu einem engen PII-Modell ist und keine allgemeinen KI-Sicherheitsfragen behandelt.

Im Bericht, aber nicht in der Zusammenfassung

  • Modellgröße: 1,5 Mrd. Parameter insgesamt, 50 Mio. aktiv
  • OpenAI nutzt eine feinabgestimmte Version selbst in eigenen datenschutzbezogenen Workflows

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 64 %einzelne zitierbare Belege
    • JEV 44 %umfangreiche Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 36 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 5 · 42 % · umfangreiche Belege · Haiku-Prüfung: Stufe 5 · umfangreiche Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 45 %gleiches Oberthema, hilft nicht
    • JEV 26 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 54 %einzelne zitierbare Belege
    • JEV 31 %beantwortet teilweise oder widerspricht
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 82 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 51 %umfangreiche Belege
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 34 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 36 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-H3-T06 Welcher unabhängig prüfbare Mindestbeleg zeigt, dass eine bestimmte Person, Organisation oder ein geschützter Datensatz aus einem veröffentlichten Modell und seinen Adaptern (Zusatzmodulen) verlernt wurde, und welches Restrisiko einer Extraktion lässt sich womöglich nie auf null senken? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →