Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai19. November 2024 · Q000845

From Principles to Practices

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug stellt PAI’s Fallbank zu verantwortungsvoller Governance synthetischer Medien vor. Sie soll Praxisbeispiele aus elf beteiligten Organisationen nutzen, um Transparenz und Richtlinien zu fördern; als Themen nennt der Text Einwilligung, Offenlegung und die Abgrenzung schädlicher von kreativen Anwendungen. Die angekündigten sieben Praktiken und konkreten Fallanalysen sind in diesem Auszug nicht enthalten.

Mittel

Dies ist nur ein Auszug aus der Einleitung des Berichts „From Principles to Practices“; die angekündigten sieben bewährten Praktiken und die Fallanalysen selbst fehlen. Der Text begründet PAI’s Sammlung von Praxisfällen mit dem zunehmenden Einsatz synthetischer Medien und möglichen Schäden wie Deepfake-Pornografie, politischer Irreführung und Betrug. Zugleich betont er, dass Governance auch kreative Anwendungen und den Schutz der Privatsphäre berücksichtigen müsse und Wahrheit, Ausdrucksfreiheit, Innovation sowie Schadensminderung in Einklang bringen solle.

PAI beschreibt eine Fallbank mit elf Akteuren aus unterschiedlichen Bereichen des Ökosystems, darunter Entwickler, Ersteller, Verbreiter und zivilgesellschaftliche Organisationen. Die Beispiele sollen den 2023 veröffentlichten Rahmen für verantwortungsvolle synthetische Medien praktisch erschließen, institutionelle Entscheidungen transparenter machen und die Weiterentwicklung von Richtlinien unterstützen. Als zentrale Themen nennt der Auszug Einwilligung, Offenlegung und die Unterscheidung schädlicher von kreativen Nutzungen. Er hebt außerdem gemeinsame Werte bei unterschiedlichen Umsetzungspraktiken, anpassungsfähige Governance und freiwillige Verpflichtungen als Ergänzung staatlicher Regulierung hervor. Wie die Fälle konkret ausgewertet wurden und welche Einzelergebnisse sie zeigen, geht aus dem Auszug nicht hervor.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus der Einleitung zu „From Principles to Practices“ von Claire Leibowicz und Christian Cardona, kein vollständiger Bericht. Er beschreibt, warum die Partnership on AI (PAI) eine Sammlung von Fallbeispielen zur verantwortungsvollen Steuerung synthetischer Medien zusammengestellt hat. Als Hintergrund nennt der Text Fälle nicht einvernehmlicher Deepfake-Pornografie, irreführender politischer Darstellungen, eines Deepfake-Betrugs mit einem behaupteten Verlust von 25 Millionen US-Dollar sowie den Einsatz synthetischer Medien im Umfeld von Wahlen. Diese Beispiele führt der Bericht als Begründung für den Handlungsbedarf an.

Der Text stellt die Governance-Frage als Abwägung dar: Regeln sollen unterschiedliche Anwendungen synthetischer Medien berücksichtigen, von kreativem Erzählen und dem Schutz der Privatsphäre bis zu Täuschung, Betrug und Verleumdung. Dabei gehe es zugleich darum, Wahrheit zu schützen, Ausdrucksfreiheit zu wahren, Innovation zu ermöglichen und Schäden zu mindern. Laut Text nahm der politische Handlungsdruck 2024 zu; in den USA sollte NIST im Anschluss an eine Executive Order bestehende Standards und Methoden zur Authentifizierung, Herkunftsverfolgung und Kennzeichnung synthetischer Inhalte erfassen.

Als Vorgehen präsentiert PAI eine Fallbank mit Beispielen aus der Praxis, die den 2023 veröffentlichten „Responsible Practices for Synthetic Media“-Rahmen konkretisieren und weiterentwickeln soll. Der Bericht bezeichnet diese Sammlung als die erste bekannte ihrer Art. Die elf beteiligten Akteure ordnet der Text verschiedenen Rollen im Ökosystem zu: Technologieentwickler, Ersteller und Verbreiter synthetischer Medien sowie zivilgesellschaftliche Organisationen. Letztere seien wichtig für die Governance, auch wenn sie üblicherweise nicht selbst solche Medien herstellen oder verbreiten. Die Fälle sollen institutionelle Entscheidungen und Praktiken transparenter machen und Erkenntnisse für künftige Richtlinien und gemeinschaftliche Governance liefern.

Als übergreifende Themen hebt der Auszug Einwilligung, Offenlegung sowie die Unterscheidung zwischen schädlichen und kreativen Anwendungen hervor. Außerdem schreibt er den Fällen drei Leitgedanken zu: Verschiedene Institutionen können gemeinsame Werte verfolgen und diese dennoch mit unterschiedlichen Praktiken umsetzen; Governance müsse sich an ein dynamisches Feld anpassen; und freiwillige Selbstverpflichtungen sollten staatliche Regulierung ergänzen, nicht ersetzen. Der Auszug kündigt sieben daraus abgeleitete bewährte Praktiken an, führt sie aber nicht aus. Konkrete Fallanalysen, die Herleitung der sieben Praktiken und belastbare Ergebnisse des vollständigen Berichts sind in dem bereitgestellten Text nicht enthalten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 50 %Hintergrund, keine Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 89 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 70 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 76 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 86 %Hintergrund, keine Belege
    • JEV 49 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 65 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 76 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 27 %Hintergrund, keine Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 58 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 61 %Hintergrund, keine Belege
    • JEV 46 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 53 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 74 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 20 %Hintergrund, keine Belege
    • Luna 52 %einzelne zitierbare Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 31 %gleiches Oberthema, hilft nicht
    • drex 22 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 40 %nur am Rande erwähnt
    • amos 31 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 21 %Hintergrund, keine Belege
    • Luna 60 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 28 %nur am Rande erwähnt
    • drex 24 %nur am Rande erwähnt
    • d3-ultra offen

    • SF-E1-T01 Wie bekommen Staaten des Globalen Südens, Hochschulen und Zivilgesellschaft eine verbindliche Stimme statt Beobachterstatus in den entstehenden KI-Sicherheitsplattformen, Prüfverbünden und Normungsgremien? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
    • SF-E1-T05 Welche Mechanismen könnten geschaffen werden, damit Standards und Praktiken der KI-Sicherheit in Ländern des Globalen Südens berücksichtigt und nicht allein von wenigen Staaten bestimmt werden? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 23 %Hintergrund, keine Belege
    • Luna 68 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 27 %nur am Rande erwähnt
    • drex 23 %Hintergrund, keine Belege
    • d3-ultra offen

  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %nur am Rande erwähnt
    • Luna 39 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 33 %nur am Rande erwähnt
    • drex 28 %nur am Rande erwähnt
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 78 %Hintergrund, keine Belege
    • JEV 29 %Hintergrund, keine Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 45 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 32 %nur am Rande erwähnt
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 60 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
    • SF-E5-T03 Wie können Menschen, die von KI betroffen sind, die Sicherheitszusagen ihrer Regierungen verbindlich mitbestimmen, bevor diese sie auf einem Gipfel festlegen? Zum Beispiel über einen Bürgerrat, ein Einspruchsrecht nach öffentlicher Anhörung oder eine unabhängige Vertretung mit festen Rechten, und nicht nur über Gespräche mit Fachleuten. Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 25 %beantwortet teilweise oder widerspricht
    • Luna 52 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 29 %einzelne zitierbare Belege
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 4 · 40 % · einzelne zitierbare Belege
    • SF-I1-T03 Wenn KI-erzeugte Einflussnahme vor allem über gemeinsam genutzte Systeme für Empfehlungen, Rangfolgen, Werbung und Nutzerbindung wirkt und nicht über die Ausgabe eines einzelnen Modells: Welche gemeinsame Messung, welche Vorfallschwelle und welcher abgestimmte Reaktionsablauf sollten gelten, ohne dass Plattformaufsicht zur Zensur von Meinungen wird? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →