Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai4. Juni 2024 · Q000690

a5250a6 - Partnership on AI

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt Einladungs- und Organisationsschritte für ein Panel von IT-Beschaffungsfachleuten, das ein PAI-Dokument zu Transparenz bei Machine-Learning-Systemen prüfen sollte. Er nennt den geplanten Ablauf, ein Honorar und unterstützende Materialien, berichtet aber keine Panelergebnisse. Es handelt sich nur um einen Appendix-Auszug; ob alle geplanten Schritte stattfanden, ist daraus nicht ersichtlich.

Mittel

Der vorliegende Auszug aus „Appendix B: Diverse Voices Process and Artifacts“ zeigt, wie ein Panel aus IT-Beschaffungsfachleuten für ein Projekt der University of Washington und der Partnership on AI (PAI) angesprochen und organisiert werden sollte. Gegenstand war ein PAI-Dokument mit Empfehlungen, die Unternehmen zu mehr Transparenz bei der Entwicklung von Machine-Learning-Systemen verhelfen sollten. Laut Einladung sollten mehrere Diverse-Voices-Panels unterschiedliche Perspektiven einbringen. Auch Nicht-Technologinnen und -Technologen konnten teilnehmen; vorgesehen war ein Honorar von 200 US-Dollar.

Der geplante Ablauf bestand aus der Lektüre des Dokuments, einem zweistündigen Panelgespräch und der Prüfung einer überarbeiteten Fassung. Eine Bestätigungsmail nennt als Termin den 15. November an der University of Washington School of Law. Die Teilnehmenden sollten Schwächen, fehlende Inhalte, Verbesserungen und aussagekräftige Beispiele aus ihrer Berufserfahrung benennen. Als weitere Ressourcen werden ein Transkriptionsdienst und ein Handbuch zur Durchführung des Verfahrens aufgeführt.

Der Text ist nur ein Auszug mit Materialien und E-Mail-Beispielen. Ergebnisse des Panels, endgültige Empfehlungen und deren Umsetzung werden darin nicht berichtet; die Vorlagen belegen auch nicht, dass alle geplanten Schritte tatsächlich stattfanden.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug aus „Appendix B: Diverse Voices Process and Artifacts“. Er beschreibt anhand zweier E-Mail-Beispiele, wie ein Fachpanel für IT-Beschaffung im Rahmen des Diverse Voices-Projekts der University of Washingtons Tech Policy Lab eingeladen und organisiert werden sollte. Der Auszug enthält keine Auswertung des Panels oder seiner Rückmeldungen.

Die Einladung erläutert, dass das Projekt mit der Partnership on AI (PAI) an einem Dokument zur Entwicklung von Machine-Learning-Systemen arbeitet. Dieses solle Unternehmen Empfehlungen zur Verbesserung der Transparenz bei maschinellem Lernen geben. Als Beispiele für Bereiche, in denen solche Systeme eingesetzt würden, nennt die E-Mail standardisierte Prüfungen an Schulen, Strafjustiz, Gesichtserkennung und Bankwesen. Laut Einladung sollen mehrere Diverse-Voices-Panels unterschiedliche Perspektiven einbringen; IT-Beschaffungsfachleute könnten dabei wertvolle Einblicke liefern. Die Teilnahme sei auch ohne technisches Fachwissen möglich und werde mit einem Honorar von 200 US-Dollar vergütet.

Der beschriebene Ablauf umfasst drei Schritte: die Lektüre des PAI-Dokuments (ein bis zwei Stunden), ein zweistündiges Gespräch zur Verbesserung der Prinzipien sowie die Prüfung einer überarbeiteten Fassung mit den Panelkommentaren und Empfehlungen (ein bis zwei Stunden). Der Termin sollte anhand einer Verfügbarkeitsabfrage so gewählt werden, dass möglichst viele Fachleute teilnehmen könnten. Die zweite E-Mail bestätigt für das Beschaffungspanel einen Termin am 15. November um 12 Uhr an der University of Washington School of Law in Seattle. Sie bittet die Teilnehmenden, das ABOUT-ML-Dokument aus Sicht von Beschaffungsfachleuten zu prüfen und Schwächen, fehlende Inhalte, Verbesserungsmöglichkeiten sowie passende Erfahrungsberichte zu bedenken.

Als weitere Materialien und Unterstützungsangebote nennt der Auszug Rev als Transkriptionsdienst, der Eingaben transkribiere und für das ABOUT-ML-Team zusammenfasse, sowie ein ausführliches Handbuch zum Diverse-Voices-Verfahren. Der Text hebt dessen Nutzen insbesondere für die Synthesephase hervor.

Die belegten Grenzen sind eng: Es handelt sich um einen Appendix-Auszug mit Prozessbeschreibungen und Vorlagen, nicht um den vollständigen Bericht. Es werden weder die tatsächlich erzielten Ergebnisse noch die Zahl oder Zusammensetzung der Panelmitglieder, die endgültigen Empfehlungen oder deren Umsetzung mitgeteilt. Die Einladungs- und Bestätigungsmails dokumentieren geplante beziehungsweise organisatorische Schritte; sie belegen für sich allein nicht, ob alle beschriebenen Aktivitäten wie vorgesehen stattfanden.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Modelle teilen und schützen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 50 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 47 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 22 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 31 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →