Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai18. Juli 2022 · Q002955

1c5f463

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Auszug aus der Einleitung eines Whitepapers fordert, Betroffene und Nutzer früh und durchgängig an der KI-Entwicklung zu beteiligen, ihre Arbeit anzuerkennen und Machtungleichgewichte zu berücksichtigen. Als Grundlagen nennt er eine Literaturübersicht und knapp 70 Interviews; konkrete Schritt-für-Schritt-Verfahren bietet das Whitepaper laut Auszug nicht. Die vollständigen Ergebnisse liegen hier nicht vor.

Mittel

Der vorliegende Text ist ein Auszug aus der Einleitung eines Partnership-on-AI-Whitepapers zu inklusiver KI- und ML-Entwicklung. Inklusive Systeme definiert der Text als solche, an deren Entwicklung Menschen außerhalb der technischen Teams aktiv mitwirken – sowohl direkte Nutzer als auch Personen, die von der Anwendung betroffen sind. Beteiligung könne gerechtere Praktiken unterstützen, vielfältige Bedürfnisse sichtbar machen und helfen, etwa algorithmische Verzerrungen aufzudecken. Zugleich erschwerten unklare Vorstellungen von „Inklusion“ deren Umsetzung.

Das Whitepaper formuliert vier Leitprinzipien: Beteiligung als Arbeit anerkennen, Machtungleichgewichte beachten, Inklusion über den gesamten Entwicklungsprozess hinweg berücksichtigen und sie mit anderen Grundsätzen verantwortungsvoller KI verbinden. Empfohlen werden ausreichende Zeit und Ressourcen, inklusive Ansätze bereits vor Entwicklungsbeginn sowie Schulungen für ein umfassendes Ethikverständnis.

Laut Einleitung beruhen die Erkenntnisse auf Fachgesprächen, einer interdisziplinären Forschungsübersicht und knapp 70 Interviews, ergänzt durch Gespräche mit Gleichstellungs- und DEI-Fachleuten. Der Text stellt klar, dass das Whitepaper keine konkrete Schritt-für-Schritt-Anleitung bietet. Da nur die Einleitung bereitgestellt wurde, sind die vollständigen Studienergebnisse hier nicht enthalten.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug aus der Einleitung eines Whitepapers von Partnership on AI über inklusive Entwicklung von KI- und ML-Systemen. Er definiert inklusive KI/ML als algorithmische Systeme, die unter aktiver Beteiligung von Menschen außerhalb der Entwicklungsteams entstehen. Gemeint sind sowohl spätere Nutzerinnen und Nutzer als auch Personen, die von einem System betroffen sind, ohne es selbst zu bedienen. Als Beispiel nennt der Text Schülerinnen und Schüler, deren Abschlussnoten 2020 in England algorithmisch bestimmt wurden: Die Prüfungsbehörde sei dabei Nutzerin des Systems, die Schülerinnen und Schüler seien betroffene Nichtnutzer.

Der Bericht führt an, dass inklusive Forschung und Gestaltung ein Bekenntnis zu gerechteren Praktiken ausdrücken könnten. Befürworter verwiesen zudem auf mögliche geschäftliche Vorteile: Ein besseres Verständnis vielfältiger Bedürfnisse könne den Markt erweitern und Beteiligten helfen, Probleme wie algorithmische Verzerrungen zu erkennen. Zugleich gebe es erhebliche Hindernisse für eine breitere Einführung inklusiver Entwicklung. Eine zentrale Herausforderung seien unterschiedliche oder unklare Vorstellungen davon, was „Inklusion“ bedeutet und welche Ziele sie verfolgt.

Als Orientierung nennt das Whitepaper vier Grundsätze: Beteiligung ist Arbeit und soll anerkannt werden; die Beteiligung von Interessengruppen muss Machtungleichgewichte berücksichtigen; Inklusion soll alle Phasen des Entwicklungsprozesses umfassen; und sie soll mit anderen Prinzipien verantwortungsvoller KI verbunden werden. Daraus leitet der Text drei Empfehlungen ab: Zeit und Mittel für inklusive Entwicklung bereitstellen, inklusive Vorgehensweisen schon vor Entwicklungsbeginn einführen und ein zusammenhängendes Verständnis von Ethik durch Schulungen fördern.

Laut Einleitung stützen sich die Erkenntnisse auf Gespräche mit Fachleuten aus der Industrie, eine interdisziplinäre Sichtung bestehender Forschung und knapp 70 Interviews mit Fachleuten und Forschenden aus KI, Datenwissenschaft, UX und Technik. Mehr als ein Drittel der Interviewten habe außerhalb der USA, der EU, des Vereinigten Königreichs oder Kanadas gearbeitet. Ergänzende Gespräche mit Personen aus den Bereichen soziale Gerechtigkeit und Diversity, Equity and Inclusion seien in die Empfehlungen eingeflossen.

Die Einleitung grenzt den Anspruch des Whitepapers ausdrücklich ein: Es sei keine Schritt-für-Schritt-Anleitung für konkrete Beteiligungsverfahren, sondern solle die Diskussion darüber erneuern, wie unterschiedliche Erfahrungen und Perspektiven in KI/ML einbezogen werden können. Da hier nur die Einleitung vorliegt, enthält dieser Auszug keine näheren Ausführungen zum vollständigen Vorgehen oder zu detaillierten Ergebnissen der zugrunde liegenden Studie.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 37 %gleiches Oberthema, hilft nicht
    • JEV 33 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 82 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 73 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 50 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 72 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 21 %Hintergrund, keine Belege
    • Luna 43 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →