Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai18. Mai 2022 · Q009027

DALL·E 2 research preview update

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI berichtet von mehr als drei Millionen mit DALL·E 2 erstellten Bildern und verbesserten Filtern zur Erkennung möglicher Richtlinienverstöße. Das Unternehmen will zunächst bis zu 1.000 Wartelisten-Nutzer pro Woche aufnehmen und bittet weiterhin darum, fotorealistische Bilder mit Gesichtern nicht zu teilen; die Angaben zur Wirksamkeit der Maßnahmen werden im Bericht nicht unabhängig überprüft.

Mittel

Der Bericht schildert, wie OpenAI nach einer begrenzten Vorschau von DALL·E 2 den Zugang schrittweise erweitern will. Nach Unternehmensangaben hatten frühe Nutzer gemeinsam mehr als drei Millionen Bilder erstellt. OpenAI erklärt, Textfilter verbessert und die automatisierte Erkennung möglicher Verstöße angepasst zu haben. Weniger als 0,05 Prozent der heruntergeladenen oder öffentlich geteilten Bilder seien markiert worden; rund 30 Prozent dieser markierten Bilder hätten menschliche Prüfer als Richtlinienverstöße bestätigt, worauf Konten deaktiviert worden seien.

Der Bericht nennt auch mögliche Verzerrungen aus den Trainingsdaten. Frühe Nutzer sollten fotorealistische Generierungen mit Gesichtern nicht teilen und problematische Ergebnisse melden. OpenAI zufolge habe dies potenziellen Schaden begrenzt; die Bitte solle fortgesetzt werden. Geplant sei, zunächst bis zu 1.000 Wartelisten-Nutzer pro Woche aufzunehmen und das Tempo mit wachsendem Wissen und Vertrauen in die Sicherheitsmaßnahmen zu erhöhen. Die Angaben und Einschätzungen stammen von OpenAI; eine unabhängige Prüfung oder detaillierte Analyse der Maßnahmen enthält der Bericht nicht.

Ausführlich lesen

Der Bericht beschreibt ein Update zur begrenzten Vorschau von DALL·E 2 und die schrittweise Erweiterung des Nutzerkreises. OpenAI zufolge hatten ausgewählte Nutzer seit Beginn der Vorschau im Vormonat gemeinsam mehr als drei Millionen Bilder erstellt. Das Unternehmen erklärt, die Rückmeldungen aus dieser Nutzung in die Sicherheitsmaßnahmen einfließen zu lassen.

Als Änderungen nennt der Bericht verbesserte Textfilter sowie eine Anpassung des automatisierten Systems, das mögliche Verstöße gegen die Inhaltsrichtlinien erkennen und darauf reagieren soll. Laut OpenAI wurden weniger als 0,05 Prozent der heruntergeladenen oder öffentlich geteilten Bilder als potenzielle Richtlinienverstöße markiert. Von den markierten Bildern hätten menschliche Prüfer ungefähr 30 Prozent als tatsächliche Verstöße bestätigt; dies habe zur Deaktivierung der betreffenden Konten geführt.

Der Bericht hebt außerdem mögliche Verzerrungen hervor, die DALL·E aus seinen Trainingsdaten übernommen haben könne. Um potenzielle Schäden zu begrenzen, habe OpenAI frühe Nutzer gebeten, fotorealistische Bildgenerierungen mit Gesichtern nicht zu teilen und problematische Ergebnisse zu melden. Das Unternehmen bewertet diese Maßnahme als wirksam und kündigt an, sie in der nächsten Phase fortzuführen.

OpenAI kündigt an, zunächst jede Woche bis zu 1.000 Personen von der Warteliste aufzunehmen. Das Unternehmen wolle die Zugangsgeschwindigkeit erhöhen, sobald es durch weitere Erfahrungen mehr über das System gelernt und größeres Vertrauen in die Sicherheitsmaßnahmen gewonnen habe. Alle Nutzer müssten sich an die Inhaltsrichtlinien halten. Als Einblick in bisherige Kreationen verweist der Bericht auf den Instagram-Account @openaidalle. Die beigefügten Bildbeschreibungen nennen vier Beispiele, darunter ein digitales Motiv mit Händen und einem leuchtenden Würfel sowie abstrakte und pastellfarbene Darstellungen.

Die Zahlen, die Bewertung der Schutzmaßnahmen und die Pläne zur Ausweitung des Zugangs werden im Bericht als Angaben beziehungsweise Einschätzungen von OpenAI präsentiert. Er enthält keine unabhängige Überprüfung, keine näheren Angaben zur Zahl der markierten Bilder und keine detaillierte Analyse der Verzerrungen oder der Wirksamkeit der Filter.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu, lässt aber in der Kurzfassung zentrale Kennzahlen und den Verzerrungshinweis aus. Die Einordnung stützt sich auf den Bericht, der eine Produktaktualisierung zu DALL·E 2 ist und die gestellten Sicherheitsfragen nur am Rande berührt; Lunas höhere Stufen (4) sind daher überwiegend nicht gedeckt.

Im Bericht, aber nicht in der Zusammenfassung

  • In der Kurzfassung fehlen die Anteile markierter Bilder (unter 0,05 Prozent) und die Bestätigungsquote von rund 30 Prozent durch menschliche Prüfer.
  • In der Kurzfassung fehlt der Hinweis auf mögliche Verzerrungen aus den Trainingsdaten.
  • In beiden Fassungen fehlen die Pflicht aller Nutzer zur Einhaltung der Inhaltsrichtlinie und der Verweis auf den Instagram-Account.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 46 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 50 %einzelne zitierbare Belege
    • JEV 55 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 60 %einzelne zitierbare Belege
    • JEV 55 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %beantwortet teilweise oder widerspricht
    • amos 23 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 24 %einzelne zitierbare Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 26 %einzelne zitierbare Belege
    • JEV 75 %umfangreiche Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 44 %umfangreiche Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 56 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 61 %umfangreiche Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 31 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 59 %nur am Rande erwähnt
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 58 %umfangreiche Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 65 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →