Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai20. Juli 2022 · Q001955

Making AI Inclusive: 4 Guiding Principles for Ethical Engagement

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Auszug aus der Einleitung eines PAI-Whitepapers plädiert dafür, Nutzerinnen, Nutzer und andere Betroffene aktiv in die KI-Entwicklung einzubeziehen. Er nennt vier Leitprinzipien und drei Empfehlungen, darunter Beteiligungsarbeit anzuerkennen, Machtungleichgewichte zu berücksichtigen und Inklusion früh sowie über den gesamten Entwicklungsprozess hinweg einzuplanen. Eine konkrete Schritt-für-Schritt-Anleitung enthält der Auszug nicht.

Mittel

Der vorliegende Text ist ein Auszug aus der Einleitung des PAI-Whitepapers „Making AI Inclusive“. Er beschreibt inklusive KI/ML als Entwicklung algorithmischer Systeme unter aktiver Beteiligung von Menschen außerhalb der Entwicklungsteams, darunter direkte Nutzerinnen und Nutzer sowie mittelbar Betroffene. Laut Whitepaper kann diese Beteiligung helfen, vielfältige Bedürfnisse und mögliche Verzerrungen zu erkennen; zugleich erschwert die Uneinigkeit darüber, was „Inklusion“ bedeutet, eine breitere Umsetzung.

Das Papier nennt vier Leitprinzipien: Beteiligungsarbeit anerkennen, Machtungleichgewichte angehen, Inklusion über alle Entwicklungsphasen hinweg berücksichtigen und sie mit anderen Prinzipien verantwortungsvoller KI verbinden. Empfohlen werden ausreichende Zeit und Ressourcen, inklusive Strategien bereits vor Entwicklungsbeginn und Schulungen zu einem integrierten Ethikverständnis.

Die Grundlage bildet eine Studie mit Fachgesprächen, einer interdisziplinären Literaturübersicht und knapp 70 Interviews; ergänzend wurden Stimmen aus sozialer Gerechtigkeit und DEI einbezogen. Der Auszug bietet keine Schritt-für-Schritt-Anleitung und führt keine detaillierten Studienergebnisse aus.

Ausführlich lesen

Der vorliegende Quelltext ist ein Auszug aus der Einleitung des PAI-Whitepapers „Making AI Inclusive: 4 Guiding Principles for Ethical Engagement“, verfasst von Tina Park. Er behandelt, was inklusive Entwicklung von KI und maschinellem Lernen (ML) bedeuten kann, welche Hürden dabei bestehen und welche Grundsätze und Empfehlungen das Whitepaper dafür formuliert. Der Auszug enthält keine detaillierte Umsetzung konkreter Beteiligungsmethoden.

Das Whitepaper versteht inklusive KI/ML grundsätzlich als Entwicklung algorithmischer Systeme unter aktiver Mitwirkung von Menschen, die nicht zum Entwicklungsteam gehören. Dazu zählt es sowohl direkte Nutzerinnen und Nutzer als auch Menschen, die von einem System betroffen sind, ohne es selbst zu verwenden. Als Beispiel für solche mittelbar Betroffenen nennt der Text Schülerinnen und Schüler in England, deren Abschlussnoten 2020 durch einen Algorithmus bestimmt wurden. Methoden wie UX-Forschung und partizipatives Design sollen solche Perspektiven einbeziehen.

Laut Whitepaper kann inklusive Forschung und Gestaltung dazu beitragen, Ungleichheiten zu berücksichtigen, unterschiedliche Bedürfnisse besser zu verstehen und mögliche Verzerrungen in algorithmischen Systemen aufzudecken. Der Text führt außerdem als mögliches geschäftliches Argument an, dass ein besseres Verständnis vielfältiger Bedürfnisse den Markt für ein Produkt oder eine Dienstleistung erweitern könne. Zugleich gebe es erhebliche Hindernisse für eine breitere Umsetzung. Eine zentrale Schwierigkeit sei, dass Bedeutung und Ziele von „Inklusion“ nicht immer eindeutig seien; für Veränderungen brauche es daher zunächst gemeinsame Grundannahmen.

Das Whitepaper stellt vier Leitprinzipien für ethische Beteiligung vor: Jede Beteiligung ist Arbeit und sollte anerkannt werden; Beteiligungsprozesse müssen bestehende Machtungleichgewichte berücksichtigen; Inklusion sollte über alle Phasen der Entwicklung hinweg stattfinden; und sie sollte mit weiteren Prinzipien verantwortungsvoller KI verbunden werden. Dazu nennt es drei Empfehlungen: ausreichend Zeit und Mittel für inklusive Entwicklung einplanen, inklusive Strategien schon vor Entwicklungsbeginn festlegen und durch Schulungen ein zusammenhängendes Verständnis von Ethik fördern.

Als Grundlage beschreibt der Auszug eine Studie mit Gesprächen mit Branchenfachleuten, einer interdisziplinären Sichtung bestehender Forschung zu Beteiligung sowie knapp 70 Interviews mit KI-Fachleuten und Forschenden, darunter Datenwissenschaftlerinnen und -wissenschaftler, UX-Forschende und Technologinnen und Technologen. Mehr als ein Drittel der Interviewten arbeitete außerhalb der USA, der EU, des Vereinigten Königreichs oder Kanadas. Ergänzende Gespräche mit Vertreterinnen und Vertretern sozialer Gerechtigkeit und von Diversity, Equity and Inclusion flossen in die Empfehlungen ein. Der Text legt weder konkrete Studienergebnisse noch eine Schritt-für-Schritt-Anleitung dar; er beschreibt das Whitepaper als Beitrag zu weiteren Gesprächen über die Einbindung breiterer Erfahrungen in KI/ML.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 24 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 47 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 4 · 47 % · einzelne zitierbare Belege
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 56 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 23 %Hintergrund, keine Belege
    • Luna 42 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 50 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →