e5bf810 - Partnership on AI
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Text ist ein Auszug aus Fazit und Danksagung, nicht der vollständige Bericht. Er beschreibt die Nutzung und Nichtnutzung demografischer Daten als Risikoabwägung und kündigt weitere Forschung sowie einen PAI-Leitfaden zu verantwortungsvoller Datenerhebung und -nutzung an; Fragen zu Datenkollektiven bleiben offen. PAI würdigt die Mitwirkenden und erklärt, dass das Papier nicht als Position eines einzelnen Partners zu verstehen sei.
Mittel
Der bereitgestellte Text ist nur ein Auszug aus dem Schluss- und Danksagungsteil eines Partnership-on-AI-Whitepapers; die ausführliche Risikoanalyse und ihre Belege liegen hier nicht vor. Das Fazit beschreibt die faire algorithmische Entscheidungsfindung mit demografischen Daten als Abwägung: Sowohl ihre Nutzung als auch ihr Nichtgebrauch könne Risiken bergen. Die im Papier begonnene Übersicht sei laut den Verfassenden der Auftakt zu weiterer Forschung über verschiedene Disziplinen und Branchen hinweg.
PAI kündigte für 2022 an, mit Partnern einen Leitfaden zur verantwortungsvollen Erhebung und Nutzung solcher Daten zu entwickeln. Dieser sollte klären, wann Datenerhebung angemessen ist, welche Informationen gebraucht werden und wie sensible Daten verwendet werden können, einschließlich sinnvoller Einwilligung und Vergütung. Daneben nennt der Auszug Datenkooperativen und Datentreuhandmodelle als Forschungsansätze und stellt Fragen zu deren Aufbau und unabhängiger Verwaltung, ohne sie zu beantworten. Die Danksagung würdigt Mitwirkende aus Workshops, Gesprächen und PAI. Zugleich betont PAI, dass das Whitepaper nicht die Position einer bestimmten Organisation, Person oder eines einzelnen Partners wiedergibt.
Ausführlich lesen
Der bereitgestellte Text ist ein Auszug aus dem Schluss- und Danksagungsteil eines Whitepapers von Partnership on AI, kein vollständiger Bericht. Er fasst daher weder die zuvor beschriebenen Risiken noch die Belege und Einzelheiten des Papiers zusammen.
Im Fazit stellt das Whitepaper die faire algorithmische Entscheidungsfindung mit demografischen Daten als Abwägung verschiedener Risiken dar: Sowohl die Verwendung als auch der Verzicht auf solche Daten könne Risiken mit sich bringen. Die Autorinnen und Autoren beschreiben ihre Übersicht über zentrale Risiken als Ausgangspunkt für eine umfassendere Diskussion. Zur Bearbeitung der offenen Fragen brauche es nach ihrer Einschätzung Forschung aus unterschiedlichen Disziplinen und Branchen.
Der Text kündigt an, dass Partnership on AI im Jahr 2022 mit Partnern an einem Leitfaden zum verantwortungsvollen Erheben und Nutzen demografischer Daten für faire algorithmische Entscheidungen arbeiten wolle. Der geplante Leitfaden solle behandeln, in welchen Situationen eine Datenerhebung angemessen ist, welche Daten benötigt werden und wie Organisationen sensible Informationen erheben und einsetzen sollten. Als ausdrücklich genannte Gesichtspunkte führt der Auszug sinnvolle Einwilligung und Vergütung an. Das sind Vorhaben und Themen des angekündigten Leitfadens; der Auszug berichtet nicht über dessen Fertigstellung oder Ergebnisse.
Als weiteren Forschungsbereich nennt PAI alternative Formen der Datengovernance, insbesondere Datenkooperativen und Datentreuhandmodelle. Der Text formuliert dazu offene Fragen: Welche Voraussetzungen sollte ein Datenkollektiv erfüllen, und welche unabhängige Organisation wäre geeignet, ein solches Kollektiv für sensible Daten zum Training von Machine-Learning-Systemen aufzubauen und zu verwalten? Antworten darauf enthält der Auszug nicht.
Die Danksagung würdigt verschiedene Beteiligte, darunter Personen, die an Einzelgesprächen sowie an einem von PAI veranstalteten FAccT-CRAFT-Workshop und einer RightsCon-Sitzung teilnahmen. Besonders hervorgehoben werden fünf Vortragende des Workshops. Außerdem nennt der Text Mitarbeitende, die das Projekt und das Whitepaper leiteten oder mit Ideen, Rat und Unterstützung beitrugen. Abschließend schränkt PAI die Zuschreibung ein: Obwohl Beiträge aus Partnerorganisationen eingeflossen seien, dürfe das Dokument nicht als Position einer bestimmten Organisation, Person oder eines einzelnen PAI-Partners verstanden werden.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 51 %gleiches Oberthema, hilft nicht
- JEV 57 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 53 %Hintergrund, keine Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 42 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 30 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 47 %Hintergrund, keine Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 25 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 32 %nur am Rande erwähnt
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv