Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind25. Juni 2026 · Q001430

Going PLACES: Participatory Localized Red Teaming forText-to-Image Safety in the Global South

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt PLACES, einen mit lokalen Gemeinschaften in Ghana, Nigeria sowie Karnataka und Punjab erhobenen Datensatz mit über 26.000 Beispielen für Fehler von Text-zu-Bild-Modellen. Die Autorinnen und Autoren berichten von regionalen kulturellen und sprachlichen Angriffsmustern sowie bislang unzureichend berücksichtigten Schäden; sie plädieren deshalb für stärker lokal eingebundene Sicherheitsarbeit. Der vollständige Bericht liegt hier nicht vor.

Mittel

Der bereitgestellte Bericht ist nur ein Auszug: Er umfasst das Abstract, die Autorenliste und die Angabe zu FAccT 2026. Die Ergebnisse werden daher als Aussagen der Autorinnen und Autoren zusammengefasst.

Die Arbeit untersucht, ob die Sicherheit von Text-zu-Bild-Modellen kulturelle Kontexte außerhalb westlicher Normen ausreichend berücksichtigt. Dafür beschreiben die Forschenden gemeinschaftsbezogene Red-Team-Studien in Ghana, Nigeria und den indischen Regionen Karnataka und Punjab. Lokale Beteiligung und Workshops sollten helfen, Normen vor Ort einzuordnen.

Als Ergebnis stellen sie PLACES vor, einen Datensatz mit mehr als 26.000 Beispielen für Modellfehler. Laut ihrer Analyse unterscheiden sich die Eingaben in kultureller, sozialer und sprachlicher Hinsicht von geografisch unspezifischen Crowdsourcing-Daten. Sie berichten über lokale Angriffsmuster und thematische Häufungen, etwa zu Religion in Indien. Als übersehene Schäden nennen sie unter anderem religiöse Normverletzungen, ignorierte Gepflogenheiten und bedrohliche Symbolik. Die Autorinnen und Autoren folgern, dass T2I-Sicherheit neben großen Datenmengen auch lokal angepasste, partizipative Erhebung und Kontextualisierung braucht. Details zu Modellen und Auswertung fehlen im Auszug.

Ausführlich lesen

Der bereitgestellte Bericht ist ein Auszug: Er enthält die Zusammenfassung (Abstract), eine Autorenliste und die Angabe zur Konferenz FAccT 2026, aber keine vollständige Darstellung der Studie. Die Aussagen zu Methode und Ergebnissen gebe ich daher als Behauptungen der Autorinnen und Autoren wieder.

Die Arbeit „Going PLACES“ untersucht die Sicherheit von Text-zu-Bild-Modellen (T2I) aus einer lokal verankerten Perspektive. Laut Abstract seien bestehende Sicherheitskonzepte überwiegend an westlichen Normen ausgerichtet. Dadurch könnten sie kulturelle Unterschiede und Risiken in anderen Teilen der Welt unzureichend berücksichtigen.

Als Ansatz beschreiben die Autorinnen und Autoren gemeinschaftsbezogene Red-Team-Studien im Globalen Süden. Sie hätten gezielt sekundäre urbane Zentren einbezogen und mit lokalen Gemeinschaften sowie Universitäten zusammengearbeitet. Workshops sollten dabei helfen, lokale Normen in den Kontext zu setzen. Die Datenerhebung fand laut Bericht in Ghana, Nigeria sowie in den indischen Regionen Karnataka und Punjab statt.

Als Ergebnis stellen die Forschenden den Datensatz PLACES mit mehr als 26.000 Beispielen für Fehler von T2I-Modellen vor. Ihrer Analyse zufolge unterscheiden sich die erfassten Eingaben in sozialen, kulturellen und sprachlichen Merkmalen deutlich von bestehenden, geografisch nicht spezifisch ausgerichteten Crowdsourcing-Daten. Sie berichten außerdem von regional geprägten Angriffsmustern und thematischen Häufungen, etwa rund um Religion in Indien.

Die Autorinnen und Autoren behaupten, die Untersuchung mache kontextuelle Lücken in bestehenden Sicherheitsrahmen sichtbar. Zu den neuartigen Schäden, die sie nennen, gehören Verstöße gegen religiöse Normen, Missachtung örtlicher Gepflogenheiten und bedrohlich wirkende Symbolik. Daraus leiten sie ab, dass bessere Sicherheit nicht allein durch größere Datenmengen erreicht werde: Erforderlich seien auch lokal angepasste und partizipative Methoden zur Datenerhebung und Einordnung.

Der Auszug enthält keine Angaben zu den konkreten Modellen, zur detaillierten Durchführung, zur Auswertung oder zu quantitativen Vergleichen der Ergebnisse. Diese Grenzen lassen sich anhand des bereitgestellten Textes nicht weiter beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 23 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 36 %Hintergrund, keine Belege

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 6 · 45 % · beantwortet teilweise oder widerspricht
    • SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 36 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 34 %beantwortet teilweise oder widerspricht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 51 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 46 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 42 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 52 % · Hintergrund, keine Belege
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →