Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind18. September 2025 · Q001410

Whose View of Safety? A Deep DIVE Dataset for Pluralistic Alignment of Text-to-Image Models

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Abstract-Auszug. Die Autorinnen und Autoren stellen den Datensatz DIVE mit Bewertungen zu 1.000 Prompts vor und berichten, dass Sicherheitsurteile je nach demografischer Perspektive und Kontext variieren und von herkömmlichen Bewertungen abweichen können. Details zu Methoden und Befunden fehlen im Auszug.

Mittel

Der bereitgestellte Text ist ein Auszug aus dem Abstract, nicht der vollständige Bericht. Darin argumentieren die Autorinnen und Autoren, dass Text-zu-Bild-Modelle vielfältige und mitunter widersprüchliche menschliche Sicherheitsvorstellungen berücksichtigen und auf unterschiedliche Perspektiven ausgerichtet werden sollten.

Sie stellen DIVE vor, einen nach ihrer Beschreibung ersten multimodalen Datensatz für pluralistische Ausrichtung. Eine demografisch vielfältige Gruppe von Bewertenden habe ausführliches Feedback zu 1.000 Prompts gegeben; wiederholte Bewertungen sollten differenzierte Sicherheitsurteile abbilden. Als Ergebnis berichten die Autorinnen und Autoren, dass demografische Merkmale ein wichtiger Hinweis auf verschiedene Sichtweisen seien und Schadensbewertungen je nach Kontext deutlich variieren könnten. Diese Unterschiede wichen dem Abstract zufolge von herkömmlichen Evaluationen ab.

Als mögliche Konsequenzen nennen sie effizientere Datenerhebung, Urteilsfähigkeiten großer Sprachmodelle und steuerbare Modelle. Der Auszug enthält jedoch keine Einzelheiten zu Stichprobe, Methoden oder konkreten Ergebnissen, sodass sich diese Aussagen hier nicht weiter prüfen lassen. Der Beitrag erschien laut Quelltext bei NeurIPS 2025.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält den Abstract sowie Angaben zu Autorinnen und Autoren und zum Veröffentlichungsort, nicht den vollständigen Bericht. Der Beitrag behandelt die Frage, wie Text-zu-Bild-Modelle unterschiedliche menschliche Sicherheitsvorstellungen berücksichtigen können. Die Autorinnen und Autoren vertreten die Auffassung, dass solche Modelle vielfältige und teils widersprüchliche Werte verstehen und sich auf unterschiedliche Perspektiven ausrichten lassen sollten. Andernfalls könnten sie an unterschiedlichen menschlichen Erfahrungen vorbeigehen.

Als ersten Beitrag stellen sie den Datensatz DIVE (Diverse Intersectional Visual Evaluation) vor, den sie als ersten multimodalen Datensatz für pluralistische Ausrichtung bezeichnen. Dem Abstract zufolge sammelten demografisch vielfältig zusammengesetzte menschliche Bewertende ausführliches Feedback zu 1.000 Eingabeaufforderungen; durch wiederholte Bewertungen sollten differenzierte Einschätzungen von Sicherheit erfasst werden.

Als zweites berichten die Autorinnen und Autoren von empirischen Ergebnissen, nach denen demografische Merkmale ein wichtiger Hinweis auf unterschiedliche Sichtweisen in diesem Anwendungsbereich seien. Sie behaupten außerdem, dass sich Einschätzungen möglicher Schäden je nach Kontext deutlich unterschieden und von Ergebnissen herkömmlicher Bewertungen abwichen.

Drittens skizzieren sie mögliche Folgen für die Entwicklung ausgerichteter Text-zu-Bild-Modelle. Dazu zählen effizientere Verfahren zur Datenerhebung, die Fähigkeit großer Sprachmodelle, menschliche Urteile einzuschätzen, sowie die Steuerbarkeit von Modellen entsprechend unterschiedlichen Perspektiven.

Der Auszug beschreibt weder die konkrete Zusammensetzung der Bewertungsgruppe noch die Erhebungs- und Auswertungsmethoden im Detail. Auch Zahlen zu den beobachteten Unterschieden, eine ausführliche Ergebnisdarstellung und Belege für die vorgeschlagenen Anwendungen fehlen hier. Daher lassen sich die Aussagen über Datensatz und Befunde nur als Zusammenfassung der im Abstract berichteten Ansprüche wiedergeben. Der Beitrag ist laut Quelltext bei NeurIPS 2025 erschienen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 27 %beantwortet teilweise oder widerspricht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 23 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →