Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai23. März 2026 · Q007899

Creating with Sora safely

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht fasst OpenAIs eigene Schutzmaßnahmen für Sora zusammen: Herkunftskennzeichnung, Einwilligungs- und Jugendschutz, Inhaltsfilter sowie Melde-, Lösch- und Blockierfunktionen. Er räumt ein, dass perfekter Audioschutz schwierig ist, und liefert keine unabhängige Prüfung der Wirksamkeit; laut Hinweis ist Sora seit dem 26. April 2026 nicht mehr verfügbar.

Mittel

Der Bericht stellt OpenAIs eigene Sicherheitsmaßnahmen für Sora 2 und die Sora-App vor und weist darauf hin, dass Sora seit dem 26. April 2026 nicht mehr verfügbar sei. Die Schutzmaßnahmen werden behauptet, aber nicht unabhängig belegt.

Laut OpenAI erhalten Sora-Videos Herkunftssignale und C2PA-Metadaten; viele tragen zusätzlich Wasserzeichen. Für Videos aus Fotos realer Personen seien Einwilligungsbestätigung und besonders strenge Regeln vorgesehen, vor allem bei Kindern und jung wirkenden Personen. Die Funktion „Characters“ soll Menschen Kontrolle über die Nutzung ihres Aussehens und ihrer Stimme geben, einschließlich Widerruf, Prüfung und Meldung von Videos.

Für Jugendliche nennt der Text Inhaltsfilter, Einschränkungen bei reifen Inhalten, Direktnachrichten und Feed-Empfehlungen sowie elterliche Einstellungen. Mehrere Prüfebenen sollen problematische Video-, Text- und Audioinhalte erkennen. Bei Audio räumt OpenAI ein, dass perfekter Schutz schwierig sei. Nutzer können Inhalte selbst teilen oder löschen, Verstöße melden und Konten blockieren.

Der Artikel beschreibt Maßnahmen und Absichten des Anbieters, nennt jedoch keine unabhängigen Wirksamkeitsnachweise oder Kennzahlen.

Ausführlich lesen

Der bereitgestellte Bericht beschreibt OpenAIs Sicherheitsansatz für Sora 2 und die Sora-App. Ein vorangestellter Hinweis sagt, dass Sora seit dem 26. April 2026 nicht mehr verfügbar sei. Die folgenden Aussagen geben OpenAIs eigene Darstellung der vorgesehenen Schutzmaßnahmen wieder; der Text liefert keine unabhängige Überprüfung ihrer Wirksamkeit.

OpenAI zufolge tragen alle mit Sora erzeugten Videos sichtbare und unsichtbare Herkunftssignale sowie C2PA-Metadaten. Interne Suchwerkzeuge sollen Videos mit hoher Genauigkeit auf Sora zurückführen können. Viele Videos hätten zusätzlich bewegliche Wasserzeichen mit dem Namen der erstellenden Person.

Für Videos aus Fotos realer Personen verlange Sora laut Bericht eine Bestätigung, dass Einwilligung und Upload-Rechte vorliegen. Solche Erzeugungen unterlägen besonders strengen Schutzvorkehrungen; bei Bildern von Kindern und jung wirkenden Personen seien die Regeln noch strenger. Geteilte Videos dieser Art würden stets ein Wasserzeichen tragen. Mit der Funktion „Characters“ könnten Menschen die Nutzung ihres Aussehens und ihrer Stimme kontrollieren, Zugriffsrechte entziehen und Videos mit ihrer Figur prüfen, löschen oder melden. Zusätzliche Regeln sollten unter anderem erhebliche Veränderungen des Aussehens und erniedrigende Situationen begrenzen. Der Bericht erwähnt außerdem Maßnahmen gegen Darstellungen öffentlicher Personen, mit einer Ausnahme für die Characters-Funktion.

Für Jugendliche nennt OpenAI Einschränkungen bei reifen Inhalten, Filter für den Feed, Voreinstellungen gegen Erwachsenenempfehlungen und von Erwachsenen initiierte Nachrichten sowie elterliche Kontrollen für Direktnachrichten und personalisierte Feeds. Jugendliche hätten zudem standardmäßig Grenzen für fortlaufendes Scrollen.

Weitere Schutzebenen sollen unsichere Inhalte bereits bei der Erstellung abfangen. Dazu würden Eingaben und Ausgaben über mehrere Videobilder hinweg sowie Audiotranskripte geprüft. Als Beispiele für blockierte Inhalte nennt der Text sexuelles Material, Terrorpropaganda und die Förderung von Selbstverletzung. Nach der Erzeugung würden Feed-Inhalte automatisiert anhand der Nutzungsrichtlinien geprüft; menschliche Prüfung konzentriere sich auf besonders schwerwiegende Schäden. Für Audio räumt OpenAI ein, dass perfekter Schutz schwierig sei. Das System prüfe erzeugte Sprachtranskripte und solle Musikimitationen lebender Künstler oder bestehender Werke blockieren; außerdem würden begründete Entfernungsgesuche von Kreativen berücksichtigt.

Nutzerinnen und Nutzer bestimmten laut Bericht, ob und wann sie Videos teilen, und könnten veröffentlichte Inhalte löschen. Videos, Profile, Nachrichten, Kommentare und Characters könnten gemeldet werden. Das Blockieren eines Kontos solle dessen Zugriff auf Profil, Beiträge, Characters und Direktnachrichten verhindern. Grenzen der Darstellung: Der Artikel beschreibt Richtlinien und Systeme aus Sicht des Anbieters, nennt aber keine Messwerte oder unabhängigen Ergebnisse. Er enthält zudem keinen Bericht über eine eigene Untersuchung; die erwähnten Abbildungen sind lediglich als Titelbilder aufgeführt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas zwei Zusammenfassungen wurden gemeinsam bewertet. Die mittlere ist vollständig und ohne Erfindungen, die kurze ist knapper und lässt die Details zu Characters und zur Herkunftsnachweis-Technik aus. Lunas Einordnung der Sammelfragen war bei SF-V1 (4 statt 2) zu hoch. Die Abbildungen (Control Room, GPT-6 Cyber, Gewaltprävention) gehören nicht zum Sora-Inhalt und wurden zu Recht nicht zusammengefasst.

Im Bericht, aber nicht in der Zusammenfassung

  • Sperre für Musik, die lebende Künstler oder bestehende Werke imitiert, und Takedown-Anfragen von Urhebern
  • Interne Reverse-Image- und Audiosuche zur Rückverfolgung von Videos auf Sora
  • Blockierung von Darstellungen öffentlicher Personen außer über die Characters-Funktion (in der kurzen Fassung zusätzlich die Details zu Characters und C2PA)

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 25 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 50 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %gleiches Oberthema, hilft nicht
    • amos 24 %einzelne zitierbare Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 62 %einzelne zitierbare Belege
    • JEV 52 %umfangreiche Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 18 %gleiches Oberthema, hilft nicht
    • Luna 46 %einzelne zitierbare Belege
    • JEV 37 %umfangreiche Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 32 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV 24 %einzelne zitierbare Belege
    • amos 21 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 40 %nur am Rande erwähnt
    • amos 30 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
  1. SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 23 %beantwortet teilweise oder widerspricht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 51 %beantwortet teilweise oder widerspricht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 24 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 18 %nur am Rande erwähnt
    • Luna 44 %einzelne zitierbare Belege
    • JEV 40 %beantwortet teilweise oder widerspricht
    • amos 22 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 24 %einzelne zitierbare Belege
    • Luna 90 %einzelne zitierbare Belege
    • JEV 46 %beantwortet teilweise oder widerspricht
    • amos 32 %beantwortet teilweise oder widerspricht
    • SubQ 38 %umfangreiche Belege
    • drex 36 %umfangreiche Belege
    • d3-ultra 41 %umfangreiche Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 4 · 48 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →