Eyes Off My Data: Premise of the Project
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der vorliegende Auszug beschreibt PAI’s mehrperspektivischen Ansatz zu algorithmischer Fairness und die Untersuchung von Apples Einsatz differenziell privater föderierter Statistiken bei US-Ausweisen in Apple Wallet. Zwei Expertentreffen mit 38 Teilnehmenden erörterten technische und gesellschaftliche Chancen und Grenzen; laut PAI war keine Bewertung von Apples Erfolg beabsichtigt, und für andere Kontexte sei weitere Forschung nötig.
Mittel
Der vorliegende Auszug erläutert, weshalb Partnership on AI (PAI) algorithmische Fairness sowohl technisch als auch gesellschaftlich betrachtet. Fairness bedeute nach dem dargestellten Ansatz mehr als statistische Gleichheit: Auch strukturelle Ungleichheiten, Machtverhältnisse und Diskriminierungsgeschichte seien zu berücksichtigen. Zugleich könne die Umsetzung verantwortungsvoller KI an rechtlichen und organisatorischen Hürden scheitern; auch Entwicklungsprozesse und Datensätze seien relevant.
Als Fall diente Apples Einsatz differenziell privater föderierter Statistiken zur Fairnessbewertung nach der Einführung von US-Ausweisen in Apple Wallet. PAI betont, die Fallbesprechung habe Apples Vorgehen nicht auf Erfolg oder Misserfolg bewertet. Zwei virtuelle Treffen mit 38 Fachleuten aus Industrie, Wissenschaft und Zivilgesellschaft untersuchten technische und soziale Aspekte. Dabei ging es unter anderem darum, wie Identitäten für Fairnessanalysen definiert werden und ob marginalisierte Menschen sie sicher offenlegen können. Die Grundlage des Whitepapers bildeten diese Gespräche, eine Literaturübersicht und regelmäßiger Austausch mit Apple-Teams. Weitere Forschung zu nichtwestlichen Kontexten und nichtkommerziellen Organisationen wird als nötig bezeichnet.
Ausführlich lesen
Der vorliegende Text ist ein Auszug aus dem Bericht und behandelt dessen Projektprämisse. Er beschreibt, warum Partnership on AI (PAI) algorithmische Fairness nicht allein als technische Frage versteht. PAI zufolge sollte Fairness über statistische Gleichheit hinausgehen und soziale Gerechtigkeit berücksichtigen, darunter strukturelle Ungleichheiten, Machtverhältnisse sowie Diskriminierungs- und Unterdrückungsgeschichte. Dafür bringt die Organisation technische Fachleute, Sozialwissenschaftlerinnen und -wissenschaftler sowie zivilgesellschaftliche Stimmen zusammen.
Der Auszug betont außerdem die Schwierigkeiten, Prinzipien verantwortungsvoller KI praktisch umzusetzen. Rechtliche Haftung, Personalbedarf und organisatorische Anreize könnten die Anwendung solcher Praktiken erschweren. Eine Bewertung müsse auch berücksichtigen, wie ein System entwickelt wurde und welche Bestandteile, etwa Datensätze, dafür verwendet wurden. PAI begründet damit den Wert, Teams bei der Umsetzung verantwortungsvoller Verfahren zu beobachten und aus konkreten Fällen zu lernen.
Als Fallbeispiel arbeitete PAI mit Apple an der Frage, ob differentially private federated statistics (differenziell private föderierte Statistiken) eine robustere Erkennung algorithmischer Verzerrungen unterstützen können. Apple setzte das Verfahren nach Darstellung des Auszugs bei der Einführung von US-Ausweisen in Apple Wallet ein, um Fairness nach der Bereitstellung des Systems zu bewerten. PAI erklärt ausdrücklich, dass die Fallbesprechung keine Bewertung des Erfolgs oder Misserfolgs von Apples gewählter Technik bezweckte. Sie sollte der KI-Gemeinschaft Orientierung zu einer neuen und wichtigen Technik geben.
PAI veranstaltete dazu zwei virtuelle Expertentreffen von jeweils drei Stunden. Insgesamt nahmen 38 Fachleute aus Industrie, Wissenschaft und Zivilgesellschaft teil, darunter Personen mit Expertise zu Gleichstellung in Bezug auf Herkunft, Behinderung, Geschlecht und LGBTQIA+-Identitäten sowie zu Datenschutz und algorithmischer Fairness. Der konkrete US-Kontext digitaler Ausweise führte laut Bericht zu Fragen danach, wie soziale Identitäten definiert und gemessen werden und ob Menschen mit stark marginalisierten Identitäten sich sicher genug fühlen, diese offenzulegen. Die Teilnehmenden betrachteten sowohl technische als auch soziale Aspekte und diskutierten, welche Risiken die eingesetzte Datenschutztechnik möglicherweise nicht beseitigt und welche zusätzlichen Maßnahmen Organisationen ergreifen könnten.
Die Workshops bezogen auch Fachleute aus Kanada und dem Vereinigten Königreich ein, um mögliche Unterschiede zu den USA anzusprechen. Der Auszug hält zugleich fest, dass weitere Forschung nötig sei: insbesondere zu nichtwestlichen Kontexten und zu nichtkommerziellen Organisationen, die KI entwickeln oder einsetzen. Als Grundlage des Whitepapers nennt PAI die Diskussionen der beiden Treffen, eine Sichtung verfügbarer Fachliteratur zu differenzieller Privatsphäre, föderiertem Lernen und sozialen Fragen bei der Erhebung und Nutzung demografischer Daten sowie regelmäßige Gespräche mit Apple-Mitarbeitenden. Diese umfassten vor allem Produkt- und Entwicklungsteams, daneben auch Kontakte zu Geschäftsentwicklung, Marketing und Recht.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 23 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 46 %Hintergrund, keine Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 81 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 85 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 26 %einzelne zitierbare Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 81 %Hintergrund, keine Belege
- JEV 34 %Hintergrund, keine Belege
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 49 %Hintergrund, keine Belege
- JEV 44 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 51 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 50 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV 31 %Hintergrund, keine Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 40 %einzelne zitierbare Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 58 %Hintergrund, keine Belege
- JEV 54 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 39 %Hintergrund, keine Belege
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 82 %Hintergrund, keine Belege
- JEV 29 %Hintergrund, keine Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 41 %einzelne zitierbare Belege
- JEV 36 %Hintergrund, keine Belege
- amos 31 %nur am Rande erwähnt
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv