Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai23. Januar 2025 · Q001192

Creating Equitable AI Systems with the Participatory & Inclusive Demographic Data Guidelines

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Partnership on AI stellt Leitlinien vor, die helfen sollen, demografische Daten für Fairnessprüfungen zu erheben und zu nutzen, ohne die Risiken für marginalisierte Gruppen zu übergehen. Rückmeldungen aus einer internationalen Arbeitsgruppe und einer öffentlichen Kommentierungsphase führten zu Ergänzungen etwa zu Intersektionalität, kollektiven Rechten, zugänglicher Einwilligung und Alter; die Seite beschreibt die Leitlinien, bewertet ihre Wirksamkeit aber nicht unabhängig.

Mittel

Partnership on AI begründet die Entwicklung partizipativer und inklusiver Leitlinien mit zwei miteinander verbundenen Risiken: Algorithmische Verzerrungen können marginalisierte Gruppen benachteiligen, während die Erhebung sensibler demografischer Daten selbst zusätzliche Schäden verursachen kann. Die Leitlinien sollen Fachleuten helfen, solche Daten für Fairnessprüfungen verantwortungsvoll zu erheben und zu nutzen. Laut Bericht behandeln sie den gesamten Datenlebenszyklus und nennen je Phase Risiken, Mindestanforderungen, empfohlene Praktiken und Leitfragen. Ein Arbeitsbuch und eine Fallstudie ergänzen sie.

An der Entwicklung waren eine 16-köpfige, international besetzte Arbeitsgruppe, Workshop-Teilnehmende, öffentliche Kommentierende sowie sieben beratende Fachleute beteiligt. Rückmeldungen führten unter anderem zu stärkerer Berücksichtigung von Intersektionalität und kollektiven Rechten, präziseren Anforderungen an zugängliche Einwilligung, der Aufnahme des Alters in die Definition demografischer Daten und einer klareren Beschreibung der Zielgruppe. Der mehrjährige Arbeitsstrang ist abgeschlossen; seine Erkenntnisse sollen laut Partnership on AI weitere Arbeit zu Datenlieferketten, KI-Sicherheit und inklusiver KI informieren. Die Seite beschreibt Entstehung und Zweck, bewertet aber nicht unabhängig die Wirksamkeit und führt die konkreten Empfehlungen der verlinkten Leitlinien nicht aus.

Ausführlich lesen

Der Bericht von Partnership on AI beschreibt, warum die Organisation partizipative und inklusive Leitlinien zur Erhebung und Nutzung demografischer Daten entwickelt hat. Er stellt die zunehmende Verbreitung von KI-Systemen in Bereichen wie Arbeit, Gesundheit, sozialen Medien und Verkehr als Ausgangspunkt dar. Nach Darstellung des Berichts können Verzerrungen in Daten oder bei der Systementwicklung zu algorithmischer Diskriminierung führen und marginalisierte Gruppen besonders belasten. Zugleich könne auch das Erheben sensibler demografischer Angaben zusätzliche Risiken und Schäden für Betroffene mit sich bringen.

Die Leitlinien sollen Entwicklerinnen und Entwicklern, Teams in Technologieunternehmen und weiteren Datenpraktikern helfen, demografische Daten für Fairnessprüfungen so zu erheben und zu verwenden, dass die Interessen der Datengebenden und ihrer Gemeinschaften berücksichtigt werden. Die Seite beschreibt den Aufbau entlang des Lebenszyklus demografischer Daten: Für die einzelnen Phasen benennen die Leitlinien laut Bericht Risiken, grundlegende Anforderungen, empfohlene Praktiken und Leitfragen. Ein begleitendes Arbeitsbuch und eine Fallstudie sollen zusätzliche Umsetzungshilfe bieten. Die Seite selbst führt die einzelnen Empfehlungen jedoch nicht aus.

Zur Entwicklung berichtet Partnership on AI von einer Arbeitsgruppe mit 16 Fachleuten aus Technologiebranche, Wissenschaft, Zivilgesellschaft und Behörden in sechs Ländern: den USA, Großbritannien, Kanada, Südafrika, den Niederlanden und Australien. Die Gruppe kam monatlich zusammen. Ergänzend flossen Rückmeldungen aus Workshops und einer öffentlichen Kommentierungsphase von Mai bis Dezember ein. Sieben beauftragte Fachleute mit Expertise unter anderem zu Datengerechtigkeit, KI-Ethik im Globalen Süden, Rassengerechtigkeit, LGBTQ+-Gerechtigkeit und Behindertenrechten berieten das Vorhaben.

Nach der ersten Veröffentlichung zur öffentlichen Kommentierung im Frühjahr 2024 wurden laut Bericht mehrere Aspekte überarbeitet: Intersektionalität erhielt mehr Gewicht, kollektive Rechte wurden in die Definition von Datengerechtigkeit aufgenommen, und die Anforderungen an verständliche und zugängliche Einwilligung wurden mit Blick auf unterschiedliche Behinderungen geschärft. Außerdem wurde die Definition demografischer Daten um das Alter erweitert und der Zielkreis der Ressource genauer erläutert. Als besonders hilfreiche Beiträge hebt der Bericht Kommentare von Research ICT Africa und dem Google Equitable AI Research Roundtable hervor.

Die Leitlinien gehören zu einem mehrjährigen Arbeitsstrang über demografische Daten und algorithmische Fairness, der inzwischen abgeschlossen ist. Partnership on AI erklärt, die gewonnenen Einsichten als Grundlage für weitere Arbeit zu Lieferketten von Daten, KI-Sicherheit sowie partizipativer und inklusiver KI nutzen zu wollen. Der Bericht stellt somit vor allem Ziel, Entstehung und Überarbeitungen der Leitlinien dar; er liefert keine unabhängige Wirksamkeitsbewertung und fasst die konkreten Vorgaben der verlinkten Dokumente nicht vollständig zusammen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassung ordnet die Rückmeldungen teils der Arbeitsgruppe zu; laut Bericht stammten sie aus Workshops und der öffentlichen Kommentierung, während die Arbeitsgruppe die Leitlinien entwarf. Der Bericht beantwortet keine der drei Sammelfragen oder Teilfragen direkt; die Bewertungen spiegeln nur den Bezug zum Bericht wider, nicht Lunas angegebene Stufen und Anteile.

Im Bericht, aber nicht in der Zusammenfassung

  • Die sieben beratenden Fachleute mit Schwerpunkten wie Datengerechtigkeit, Behindertenrechten und Rassengerechtigkeit (nur in der mittleren Fassung ohne Themen genannt)
  • Der Dank an Research ICT Africa und den Google Equitable AI Research Roundtable als Quellen wesentlicher Kommentare

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 22 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 87 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 55 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 36 %beantwortet teilweise oder widerspricht
    • amos 33 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 20 %Hintergrund, keine Belege
    • Luna 51 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 58 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →