Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai8. November 2022 · Q003238

5f231bc

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt PAIs Anliegen, Datenanreicherungsarbeit in der KI sichtbarer zu machen und durch Leitlinien bessere Arbeitsbedingungen zu unterstützen. Er skizziert die Motivation für eine Fallstudie mit DeepMind, das sein bestehendes Ethikprüfverfahren für bezahlte Datenaufgaben als unzureichend ansah; Umsetzungsergebnisse enthält der Auszug nicht.

Mittel

Der Auszug von Partnership on AI (PAI) behandelt die Bedeutung von Datenanreicherungsarbeit für KI und skizziert eine Fallstudie mit DeepMind. Er enthält den Hintergrund und die Motivation, aber keine Ergebnisse der Umsetzung.

PAI zufolge beruhen KI-Systeme auf aufbereiteten Datensätzen, während die Arbeit und die Bedingungen der daran beteiligten Menschen oft wenig sichtbar seien. Es fehlten formelle Schutzmaßnahmen und branchenweite Standards. PAI sieht mehr Transparenz und praktische Leitlinien als mögliche Wege, die Rolle dieser Beschäftigten anzuerkennen, bessere Arbeitsbedingungen zu fördern und Vertrauen in KI zu stärken.

Nach Workshops mit Fachleuten und der Veröffentlichung eines Papiers zu verantwortungsvoller Beschaffung wollte PAI Empfehlungen mit einem Unternehmen praktisch erproben und die Erfahrungen sowie Hilfsmittel für andere zugänglich machen. DeepMind hatte bereits ein Ethikprüfverfahren für Forschung mit menschlichen Versuchspersonen. Dieses ließ sich laut Text nicht ohne Weiteres auf bezahlte Datenanreicherungsaufgaben übertragen. Das Unternehmen suchte deshalb spezifischere Regeln und ein eigenes Prüfverfahren. Es erwartete davon effizientere und gründlichere Prüfungen sowie bessere Datenqualität; ob diese Erwartungen erfüllt wurden, geht aus dem Auszug nicht hervor.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus einer Veröffentlichung von Partnership on AI (PAI). Er behandelt die Bedeutung von Datenanreicherungsarbeit für die Entwicklung von KI und beschreibt den Hintergrund einer Zusammenarbeit mit DeepMind. Konkrete Ergebnisse der Umsetzung oder eine vollständige Darstellung der Fallstudie enthält der Auszug nicht.

PAI argumentiert, dass KI-Systeme auf umfangreichen, angereicherten Datensätzen beruhen, die Arbeit zur Erstellung dieser Datensätze aber oft zu wenig Beachtung findet. Mehr Transparenz darüber, wie solche Daten entstehen, sei wichtig, um Verantwortlichkeit in der KI-Branche zu stärken. Dabei gehe es sowohl um die Qualität und Verlässlichkeit der Modelle als auch um die Arbeitsbedingungen der Menschen, die Daten für algorithmische Systeme aufbereiten.

Der Text beschreibt die Lage dieser Beschäftigten als prekär: Trotz ihrer zentralen Rolle fehle es ihnen an formellen Schutzvorkehrungen, und Unternehmen hätten nur begrenzte Orientierung dazu, wie sie verantwortungsvoll mit ihnen arbeiten sollten. Zudem gebe es weder branchenweite Standards für Datenanreicherung noch gemeinsame Vorgaben zum Umgang mit den Beschäftigten. PAI plädiert deshalb dafür, Datenanreicherung nicht als beiläufigen oder ad hoc organisierten Vorgang, sondern als zentrale Arbeit in der KI-Entwicklung anzuerkennen. Mehr Offenheit und praktisch anwendbare Leitlinien könnten nach Darstellung von PAI den öffentlichen Austausch fördern, die Sichtbarkeit der Beschäftigten erhöhen und das Vertrauen in KI-Modelle stärken.

Als Vorgehen schildert PAI zunächst eine Reihe von Workshops mit Fachleuten aus Wirtschaft, Zivilgesellschaft und Wissenschaft sowie ein daraus hervorgegangenes Papier zu verantwortungsvoller Beschaffung von Datenanreicherungsarbeit. Dieses Papier habe mögliche Verbesserungen der Arbeitsbedingungen aufgezeigt. Die Fallstudie sollte anschließend anhand der Zusammenarbeit mit einem Unternehmen prüfen, wie sich Empfehlungen praktisch umsetzen lassen, welche Schwierigkeiten dabei auftreten und welche Hilfsmittel anderen Unternehmen die Übernahme erleichtern könnten. PAI wollte mit der Veröffentlichung außerdem eine Diskussion darüber anstoßen, was Unternehmen zusätzlich tun sollten, wo ihr Einfluss endet und welche Rolle Politik, Gewerkschaften oder Datenanbieter spielen könnten.

Als ersten Partner nennt PAI DeepMind. Der Text beschreibt das Unternehmen als britisches KI-Forschungslabor mit mehr als 1.000 Beschäftigten und einem Team für verantwortungsvolle Entwicklung und Innovation. DeepMind verfügte bereits über ein Verfahren zur Prüfung von Forschung mit menschlichen Versuchspersonen, einschließlich eines extern geleiteten Ethikgremiums nach IRB-Protokollen. Diese Verfahren setzten unter anderem voraus, dass Teilnehmende freiwillig ein- und austreten können und Bezahlung oder Beschäftigung nicht vom erfolgreichen Abschluss einer Aufgabe abhängen.

Laut Auszug passten diese Vorgaben nicht ohne Weiteres zu bezahlten Aufgaben von Datenanreicherungsbeschäftigten. DeepMind habe daher spezifischere Regeln und ein eigenes Prüfverfahren für solche Projekte benötigt. Das Unternehmen vermutete, zentrale Leitlinien könnten Forschenden Zeit sparen, Prüfungen verbessern und effizienter machen sowie die Datenqualität erhöhen. Der Text beschreibt diese Erwartungen und die Motivation der Zusammenarbeit, belegt aber im vorliegenden Ausschnitt nicht, ob diese Ziele erreicht wurden oder welche konkreten Arbeitsbedingungen sich verändert haben.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Fähigkeiten messen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 56 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 22 %Hintergrund, keine Belege
    • Luna 62 %einzelne zitierbare Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 23 %Hintergrund, keine Belege
    • d3-ultra offen

Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 37 %einzelne zitierbare Belege
    • JEV 22 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 26 %gleiches Oberthema, hilft nicht
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 31 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 52 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →