Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai6. August 2021 · Q003706

fbd7a03

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt PAI zufolge den Plan von ABOUT ML, ML-Dokumentation zunächst intern zu verankern, externe Rechenschaftspflicht zu unterstützen und später mögliche Branchenstandards zu entwickeln. Dazu sollen neben Entwickelnden und Prüfern auch betroffene Menschen und ihre Interessenvertretungen einbezogen werden. Der Text nennt bisher Beteiligte und Ziele, weist aber keine tatsächliche Wirkung nach.

Mittel

Der Text ist ein Auszug aus dem ABOUT-ML-Referenzdokument. Er erläutert, welche Gruppen das von PAI koordinierte Vorhaben einbeziehen und erreichen möchte. Der Plan sieht drei Schritte vor: zunächst interne Prozesse und Werkzeuge für ML-Dokumentation fördern, anschließend externe Rechenschaftspflicht unterstützen und bei breiter Anwendung mögliche gemeinsame Branchenstandards entwickeln. Diese Standards sollen weiterentwickelbar bleiben.

Einbezogen werden sollen sowohl Personen, die ML-Systeme entwickeln, beschaffen, genehmigen oder prüfen, als auch Menschen, die von solchen Systemen betroffen sind. Zu den vorgesehenen Nutzenden der Dokumentationsmaterialien zählt der Text unter anderem Entwickler, Beschaffende, Endnutzende, Compliance-Teams und externe Prüfer. Betroffene Nichtnutzende und ihre Interessenvertretungen sollen ebenfalls Zugang erhalten. Als Beteiligte an den bisherigen Fassungen nennt PAI unter anderem Forschende, Partner, öffentliche Kommentierende, einen Lenkungsausschuss und Diverse-Voices-Panels mit Laien, Menschen aus einkommensarmen Gemeinschaften und Beschaffungsverantwortlichen. PAI hofft, damit Transparenz und verantwortungsvolle ML-Praxis zu stärken. Der Auszug beschreibt jedoch vor allem Ziele und Beteiligungsansätze; einen Nachweis ihrer tatsächlichen Wirkung liefert er nicht.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus dem ABOUT-ML-Referenzdokument, vor allem aus dem Abschnitt dazu, für wen das Projekt gedacht ist und wie es entstanden ist. Er beschreibt Zielgruppen, einzubeziehende Interessengruppen, den bisherigen Stand der Beteiligung und die Entstehung des Vorhabens; Aussagen über Wirkungen sind teilweise als Erwartungen oder Überzeugungen von PAI formuliert.

PAI unterscheidet drei aufeinander aufbauende Ziele. Zunächst sollen Menschen innerhalb von Organisationen, die ML-Systeme entwickeln, interne Prozesse und Werkzeuge für die empfohlene Dokumentation voranbringen. Danach sollen Akteure mit Einfluss auf externe Rechenschaftspflicht – etwa zivilgesellschaftliche Organisationen, Behörden sowie interne Politik- und Compliance-Teams – die Inhalte und Nutzbarkeit der Dokumentation mitgestalten. Bei breiter Anwendung und weiterer Überarbeitung könnten Organisationen, die ML-Systeme entwickeln, schließlich gemeinsame branchenweite Ausgangsstandards festlegen. Diese Standards sollen laut Text veränderbar bleiben.

Bei der Entwicklung der Ressourcen sollen insbesondere Menschen gehört werden, die von ML-Technologien betroffen sind und sonst womöglich wenig Einfluss haben. Ebenfalls einzubeziehen seien Personen, die Empfehlungen praktisch umsetzen, deren Einführung genehmigen oder ML-Systeme prüfen können. Als wahrscheinliche Nutzerinnen und Nutzer der Dokumentationsmaterialien nennt der Text unter anderem Entwickler und Bereitsteller, Beschaffende, API-Nutzende, Endnutzende, interne Compliance-Teams, externe Prüfer und Marketinggruppen. Auch betroffene Nichtnutzende – etwa Menschen, deren Kreditwürdigkeit durch ein Modell bewertet wird – und Organisationen, die sie vertreten, sollen Zugang zu den Materialien erhalten.

Für die Veröffentlichungen bis Mitte 2021 führt der Auszug Beiträge von PAI-Redakteurinnen und -Redakteuren, Forschenden zu Datasheets, Model Cards und Factsheets, PAI-Partnern, öffentlichen Kommentierenden und einem Lenkungsausschuss an. Hinzu kamen Diverse-Voices-Panels mit Laien, die ML-Systeme bei ihrer Arbeit nutzen oder voraussichtlich nutzen, Mitgliedern einkommensarmer Gemeinschaften und Personen mit Erfahrung in der öffentlichen oder gemeinnützigen Technologiebeschaffung. Der Text beschreibt die Zusammensetzung dieser Panels, belegt damit aber nicht, dass alle betroffenen Gruppen repräsentiert sind.

Zur Entstehung berichtet der Auszug, dass PAI frühere Forschungs- und Dokumentationsansätze wie Datasheets for Datasets, Model Cards und Factsheets zusammenführen und weiterentwickeln wollte. Forschende, Unternehmen, gemeinnützige Organisationen, politische Akteure, Nutzende und betroffene Personen wirkten laut Darstellung an dem Vorhaben mit. PAI verbindet damit die Erwartung, Transparenz und Rechenschaftspflicht zu stärken und so verantwortungsvollere Entwicklung und Einführung von ML zu unterstützen. Der Text beschreibt Ziele, Vorgehensabsichten und Beteiligte; er enthält in diesem Auszug keine Auswertung, die eine tatsächliche Wirkung des Projekts nachweist.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 44 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F4-T06 Wenn ein Prüfrahmen davon ausgeht, dass der Entwickler ein kommerzielles Frontier-Labor ist: Was gilt für ein Modell, das in einem Militärkommando, einem Geheimdienst oder bei einem Cloud-Anbieter entwickelt wird, der nach keiner bisher verwendeten Bezeichnung ein „Labor“ ist, und wer ist dann das Gegenüber für die Prüfung? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 59 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 51 %Hintergrund, keine Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 28 %Hintergrund, keine Belege
    • Luna 55 %einzelne zitierbare Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 26 %Hintergrund, keine Belege
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-H3-T01 Welcher gemeinsame Standard für Datenherkunft und Transparenz der Trainingsdaten erlaubt jedem Staat zu prüfen, ob ausländische Modelle mit unrechtmäßig beschafften Daten trainiert wurden (geschützte Werke, private Kommunikation, als geheim eingestuftes Material), ohne die Daten selbst offenzulegen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 44 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 22 %Hintergrund, keine Belege
    • Luna 39 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege
    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 45 %nur am Rande erwähnt
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %Hintergrund, keine Belege
    • Luna 49 %einzelne zitierbare Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 52 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 53 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 48 %nur am Rande erwähnt
    • amos 35 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →