Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pai17. März 2026 · Q000766

Demand and Incentives for External AI Assurance

partnershiponai.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist ein Auszug zu einem PAI-Bericht über Nachfrage und Anreize für unabhängige KI-Prüfungen. Dem Bericht zufolge fördern Regulierung, Haftung, Markterwartungen und ein besseres Verständnis von KI-Risiken die Nachfrage; fehlender Zugang zu Systemen und Unterlagen behindert Prüfungen. Versicherungen könnten das Ökosystem unterstützen, deckten aber vor allem Haftungsrisiken ab und seien kein sofortiger Hebel für mehr Assurance.

Mittel

Der vorliegende Text ist ein Auszug aus der Beschreibung und den Kernaussagen des PAI-Berichts, nicht dessen vollständiger Inhalt. Der Bericht untersucht, warum die Nachfrage nach unabhängiger Prüfung von KI-Systemen bislang gering ist und wie sie steigen könnte. Laut Auszug treiben vor allem Regulierung, Haftung und Markterwartungen die Nachfrage; auch ein stärkeres Bewusstsein für KI-Risiken und den Nutzen von Assurance könne sie fördern. Ein Hindernis ist, dass Prüfstellen oft keinen ausreichenden Zugang zu Systemen, Modellen, Komponenten und Dokumentation erhalten. Mehr Nachfrage nach geprüfter KI könnte diesen Zugang begünstigen, möglicherweise ergänzt durch politische Maßnahmen. Vertrauen in die Qualität der Prüfstellen gilt ebenfalls als wichtig. Versicherungen könnten gemeinsam mit Assurance bestimmte Risiken angehen und Vertrauen unterstützen. Sie seien aber kein unmittelbar einsetzbarer Hebel: Das Assurance-Ökosystem müsse sich erst weiterentwickeln. Zudem adressiere Versicherung hauptsächlich Haftungsrisiken und nicht alle Arten von KI-Risiken. Methodik und Datengrundlage werden im vorliegenden Auszug nicht näher erläutert.

Ausführlich lesen

Der vorliegende Text ist ein Auszug aus der Beschreibung und den Kernaussagen eines PAI-Berichts, nicht der vollständige Bericht. „Demand and Incentives for External AI Assurance“ untersucht, wodurch die Nachfrage nach unabhängiger externer Prüfung von KI-Systemen entsteht, weshalb sie bislang begrenzt ist und welche politischen, wirtschaftlichen und institutionellen Maßnahmen ihre Verbreitung fördern könnten. Der Text beschreibt externe Assurance als wichtigen Weg, Sicherheit, Qualität und Zuverlässigkeit von KI-Systemen nachzuweisen und Verantwortlichkeit gegenüber Aufsichtsbehörden und Öffentlichkeit zu unterstützen.

Dem Bericht zufolge entsteht Nachfrage vor allem durch Regulierung, Haftung und Markterwartungen. Sie könne außerdem steigen, wenn Akteure entlang der Wertschöpfungskette KI-Risiken stärker wahrnehmen und den Nutzen unabhängiger Prüfungen besser verstehen. Der Bericht nennt zugleich ein praktisches Hindernis: Prüfende hätten häufig keinen ausreichenden Zugang zu den Systemen, Modellen, weiteren Komponenten und Unterlagen, die für aussagekräftige Bewertungen nötig seien. Eine größere Nachfrage nach geprüfter KI könne Anreize für Zugang schaffen; möglicherweise sei dafür zusätzlich ein direktes politisches Eingreifen erforderlich. Auch Vertrauen in die Qualität unabhängiger Prüfstellen wird als Voraussetzung für weiteres Wachstum genannt.

Der Auszug behandelt außerdem die mögliche Rolle von Versicherungen. Sie könnten laut Bericht mit Assurance zusammenwirken, bestimmte KI-Risiken adressieren und Vertrauen fördern. Versicherung sei jedoch kein sofort verfügbares Mittel, um die Nutzung unabhängiger Prüfungen zu steigern: Viele Voraussetzungen für KI-Versicherung seien dieselben wie für ein stärkeres Assurance-Ökosystem, das sich zunächst weiterentwickeln müsse. Ein sich gegenseitig verstärkender Kreislauf aus Versicherung und Assurance könne sich teilweise von selbst bilden, lasse sich aber durch Versicherer und politische Akteure beschleunigen. Versicherungen seien vor allem zur Behandlung von Risiken im Zusammenhang mit rechtlicher Haftung geeignet und deckten nicht alle Arten von KI-Risiken ab.

Der Text nennt keine ausführliche Methodik, Datengrundlage oder quantitativen Ergebnisse. Er verweist auf den Bericht als dritten Teil einer PAI-Reihe zum Ausbau des KI-Assurance-Ökosystems.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 80 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
    • SF-M5-T08 Welchen gemeinsamen Mindeststandard für Versicherung oder finanzielle Verantwortung würden Staaten für Einsätze der leistungsstärksten KI-Modelle annehmen, die grenzüberschreitende Schäden verursachen, und wie wäre er zu bemessen, damit er Sicherheit in die Kosten der Skalierung einpreist, ohne zu einer Auflagen-Hürde zu werden, die nur die zwei größten Labore nehmen können? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 54 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F4-T05 Wie sollen eingebettete Prüfer (unabhängige Prüfer mit dauerhaftem, mitarbeiterähnlichem Zugang in KI-Firmen) auch bei kleineren KI-Firmen zum Einsatz kommen, die gefährliche Fähigkeiten entwickeln können, ohne nach Rechenaufwand oder Umsatz zur Spitze zu zählen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 22 %Hintergrund, keine Belege
    • Luna 46 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 23 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P1-T01 Wie ließen sich unabhängige Zertifizierungsstellen für KI-Sicherheit schaffen, die alle Seiten anerkennen? Luna: Stufe 4 · 49 % · einzelne zitierbare Belege
    • SF-P1-T02 Bekommen ausländische Prüfer in den Laboren eines Staates denselben mitarbeiterähnlichen Zugang, der von den Laboren eines anderen verlangt wird, und würden dessen Labore das umgekehrt annehmen? Würden ein eigenes KI-Gesetz und eine nationale Aufsichtsplattform, die ein Staat ankündigt, von einem anderen Staat bestellte Prüfer annehmen, mit demselben Zugang und mit Veröffentlichung ohne redaktionelle Kontrolle? Und welche Regel gilt für ihre Notizen, wenn ein Gericht oder eine Sicherheitsbehörde eine Offenlegung über ihren Sicherheitsauftrag hinaus erzwingt: Dürfen sie dann eine unabhängige Aufsicht informieren? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 62 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-P2-T02 Bevor eine Prüfvereinbarung zwischen Staaten auf eingebetteten Prüfungen aufbaut, also auf unabhängigen Prüfern mit dauerhaftem, mitarbeiterähnlichem Zugang in KI-Firmen: Sagen die Labore jeweils zu, dass keine eingebettete Prüfung, die das geprüfte Labor selbst bezahlt, in diesem Zusammenhang als Beleg dient? Und behandeln die Regierungen eine vom Labor bezahlte Prüfung für sich genommen als unzureichend für Tests von Modellen auf akute Risiken vor der Veröffentlichung, damit die ersten Berichte nicht stillschweigend einen Präzedenzfall setzen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-P2-T03 Welchen Zugang bekommen die Prüfer: laufend und nur lesend zu den Trainingsabläufen, nicht nur zu einzelnen Zwischenständen, ohne neue Wege für Datenabfluss? Welchen gemeinsamen Mindeststandard für den Zugang gewähren die Labore, damit Berichte branchenweit vergleichbar sind, wer entwirft ihn, und was wäre nötig, damit ein Prüferteam zugleich in zwei konkurrierenden Laboren arbeitet? Welchen kontrollierten Zugang zu Denkspuren (den schrittweisen Überlegungen eines Modells) bekommen sie, und was dürfen sie daraus veröffentlichen, ohne unerlaubte Destillation zu ermöglichen, also das Trainieren eines anderen Modells mit diesen Spuren? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P2-T04 Werden die Zugangsrechte der Prüfer veröffentlicht, gibt es einen unabhängigen, befristeten Einspruch gegen Schwärzungen, ein unabhängiges Verfahren für den Streit, wenn ein Labor einen Befund als Geschäftsgeheimnis schwärzt und der Prüfer ihn für ein Sicherheitsproblem hält, und ein öffentliches Register verweigerter Zugänge und Schwärzungen, damit das Schweigen eines Prüfers nicht als Zeichen von Sicherheit gelesen wird? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 20 %Hintergrund, keine Belege
    • Luna 50 %einzelne zitierbare Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 34 %Hintergrund, keine Belege
    • SubQ 32 %einzelne zitierbare Belege
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-P3-T04 Wer prüft die KI-Modelle, die andere Modelle prüfen, auf Anweisungen, Versionen und Fehlerfälle, und welche unabhängige Prüfung zeigt, dass das geprüfte Modell sie nicht manipulieren kann, besonders wenn sie aus derselben Modellfamilie stammen? Und wenn gemeinsame Tests, Schweregrade und die Ersteinstufung von Meldungen von Sprachmodellen entworfen, durchgeführt und zusammengefasst werden: Nimmt jeder Staat einen Prüfmechanismus an, dessen Kernbausteine aus ausländischen Laboren stammen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 61 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E1-T09 Bekommen zivile Forschende an Hochschulen und unabhängige Organisationen der Zivilgesellschaft geregelten Zugang zu Modellen, Daten und Befunden der Prüfer, oder bleibt die Prüfung bei staatlich bestellten Stellen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 37 %gleiches Oberthema, hilft nicht
    • JEV 41 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 36 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Wirtschaft und Haftung
  1. SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 34 %nur am Rande erwähnt
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-W2-T03 Welche Mindestkriterien für Sicherheit, etwa Prüfkarten mit wiederholbaren Tests, die Freigabe durch im Labor eingebettete Prüfer oder Verzeichnisse, an denen jede Manipulation sichtbar wird, würden Staaten für jedes mit öffentlichen Mitteln beschaffte KI-System verbindlich machen, damit Sicherheitszusagen automatisch an diese Käufe gebunden sind, statt auf freiwilligen Versprechen der Labore zu beruhen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  2. SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →