Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai13. Dezember 2023 · Q001339

Eyes Off My Data

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist ein Auszug aus der Zusammenfassung eines PAI-Berichts über differenziell private föderierte Statistiken zur Prüfung algorithmischer Benachteiligung. Experten zufolge stärkt die Methode Datenschutz und Sicherheit, reicht aber allein nicht aus; nötig seien außerdem klare Fairnessziele, ausreichende Ressourcen und sorgfältige Erhebungsregeln. Der Auszug beschreibt Apples Maßnahmen bei „IDs in Apple Wallet“, nennt aber keine quantitativen Wirksamkeitsergebnisse.

Mittel

Der bereitgestellte Text ist ein Auszug aus der Zusammenfassung des PAI-Berichts „Eyes Off My Data“. Er behandelt föderierte Statistiken mit differenziellem Datenschutz als Unterstützung für nachträgliche Prüfungen, ob algorithmische Systeme Bevölkerungsgruppen benachteiligen. Der Bericht verweist auf Risiken der demografischen Datenerhebung, darunter Datenschutzverletzungen, falsche Zuordnungen und eine Nutzung außerhalb der Erwartungen Betroffener; marginalisierte Gruppen seien besonders gefährdet.

Grundlage der Empfehlungen waren zwei von PAI veranstaltete Expertenrunden. Apple schilderte den Einsatz der Methode zur Bias-Prüfung von „IDs in Apple Wallet“, das damals nur in ausgewählten US-Bundesstaaten verfügbar war. Der Ansatz kombiniert statistisches Rauschen zum Schutz vor Identifizierung mit Analysen auf einzelnen Geräten statt auf einem zentral gespeicherten Datensatz.

Die Teilnehmenden hielten Schutztechnik allein für unzureichend, um Bias und alle sozialen Risiken zu beseitigen. Sie empfahlen sowohl allgemeine Voraussetzungen für Fairnessprüfungen als auch sorgfältige Entscheidungen zum Verfahren. Dazu zählen Ressourcen und eine klare Vorstellung von Fairness. Apple setzte laut Auszug unter anderem eine 90-tägige Speicherfrist, aktive Zustimmung, verständliche Datenerklärungen und organisatorische Kontrolle ein. Der Auszug nennt keine quantitativen Wirksamkeitsergebnisse.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält die Zusammenfassung des PAI-Berichts „Eyes Off My Data“, nicht den vollständigen Bericht. Thema ist der Einsatz föderierter Statistiken mit differenziellem Datenschutz, um nach der Einführung algorithmischer Systeme mögliche Benachteiligungen zwischen Bevölkerungsgruppen zu untersuchen.

PAI zufolge sind Prüfungen vor und nach der Einführung wichtig. Nachträgliche Prüfungen zeigen, wie ein System in realen sozialen, politischen und wirtschaftlichen Zusammenhängen wirkt. Dafür können demografische Daten nötig sein; ihre Erhebung und Nutzung birgt jedoch Datenschutz- und Sicherheitsrisiken sowie Gefahren wie eine falsche Zuordnung der sozialen Identität oder eine Verwendung, die Betroffene nicht erwarten. Laut Bericht treffen diese Risiken marginalisierte Gruppen besonders stark.

Der Auszug beschreibt zwei von PAI organisierte Expertenrunden. Apple, Partnerorganisation von PAI, erläuterte dort den Einsatz der Methode bei der nachträglichen Bias-Prüfung der Funktion „IDs in Apple Wallet“. Der konkrete Anwendungsfall bezog sich zum damaligen Berichtszeitpunkt auf ausgewählte US-Bundesstaaten. Die Teilnehmenden aus den Bereichen verantwortungsvolle KI, algorithmische Fairness und soziale Ungleichheit diskutierten außerdem weitere Anwendungskontexte und mögliche soziale Risiken.

Die Methode verbindet laut Text zwei Ansätze: Differenzieller Datenschutz fügt statistisches Rauschen hinzu, um eine Identifizierung einzelner Personen zu erschweren. Föderierte Statistiken analysieren Nutzerdaten auf den einzelnen Geräten, statt dafür einen zentralen Datensatz anzulegen und zu übertragen. Die Experten betonten, dass diese technischen Schutzmaßnahmen allein weder algorithmische Verzerrungen noch sämtliche Risiken der Erhebung und Analyse demografischer Daten beheben. Sie können aber Datenschutz und Sicherheit stärken und damit eine umfassendere Fairnessprüfung unterstützen.

Der Auszug ordnet Empfehlungen in allgemeine Gesichtspunkte für nachträgliche Fairnessprüfungen und konkrete Gestaltungsentscheidungen beim Einsatz der Methode. Dazu gehören ausreichend Zeit, Personal und Geld sowie eine klare, abgestimmte Vorstellung davon, was eine Organisation unter Fairness und Gerechtigkeit versteht. Bei der Anwendung können einzelne technische Entscheidungen zudem die Schutzwirkung der Methode mindern. Als mit den Empfehlungen vereinbare Maßnahmen bei Apple nennt der Text eine Speicherfrist von 90 Tagen, eine aktive Zustimmung der Nutzenden, eine verständliche Erklärung der bereitgestellten Daten und organisatorische Kontrolle über Abfragen und Parameter. Der Auszug dokumentiert Experteneinschätzungen und Empfehlungen; er enthält keine Angaben zu quantitativen Ergebnissen oder dazu, wie wirksam die Maßnahmen im konkreten Einsatz waren.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 53 %einzelne zitierbare Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 60 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 49 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →