Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
pypi.org12. November 2026 · Q000429

rh-model-signing

pypi.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt ein Python-Paket zum Signieren und Prüfen von ML-Modellen und OCI-Images, unter anderem mit Sigstore, Schlüsseln und optionalen PKCS-#11-Geräten. Die Dokumentation erläutert CLI und API, private Sigstore-Instanzen, Transparenzprotokolle sowie optionale Telemetrie, liefert aber keine unabhängigen Testergebnisse oder Leistungsnachweise.

Mittel

Der Bericht stellt Version 1.0.7 des Pakets `rh-model-signing` vor. Es soll Herkunft und Unversehrtheit von ML-Modellen überprüfbar machen. Dazu erzeugt es Signaturen mit Sigstore oder mit herkömmlichen Schlüsseln beziehungsweise Zertifikaten. Die Signatur umfasst laut Beschreibung Dateipfade und Hashes; bei der Prüfung werden Signatur und neu berechnete Hashes kontrolliert. Sigstore-Signaturen erscheinen außerdem in einem Transparenzprotokoll, dessen Einträge überwacht werden können.

Die Anleitung behandelt eine Kommandozeile und eine Python-API sowie lokale Modelle und OCI-Images in Registries. Sie zeigt unter anderem die Verifikation über eine erwartete Identität, die Einrichtung privater Sigstore-Instanzen mit TUF und die optionale Nutzung von PKCS-#11-Geräten. Für die Hardware-Schlüssel nennt sie technische Voraussetzungen und unterstützt NIST-Kurven P-256, P-384 und P-521. Zusätzlich beschreibt der Bericht optionale OpenTelemetry-Unterstützung und einstellbare Protokollstufen.

Es handelt sich um eine Funktions- und Nutzungsbeschreibung mit Beispielen, nicht um einen unabhängigen Wirksamkeitsnachweis. Testergebnisse oder Leistungswerte werden nicht genannt; die Prüfung setzt passende Identitäts- und Vertrauenseinstellungen voraus.

Ausführlich lesen

Der Bericht beschreibt Version 1.0.7 des Python-Pakets `rh-model-signing`, das die Integrität und Herkunft von ML-Modellen überprüfbar machen soll. Die Projektbeschreibung begründet den Bedarf mit dem Wachstum ML-gestützter Anwendungen und möglichen Angriffen auf deren Nutzer. Als Ziel nennt sie nachvollziehbare, verifizierbare Aussagen über Modelle, sodass Nutzer nicht allein dem Modelltrainer vertrauen müssen. Das Paket unterstützt laut Bericht Signaturen mit Sigstore sowie herkömmliche Verfahren mit Schlüsseln, Zertifikaten und optional PKCS-#11-Geräten.

Beim Signieren wird ein JSON-formatierter Sigstore-Bundle erzeugt. Es enthält Verifikationsmaterial und ein DSSE-Umschlagformat mit einer in-toto-Aussage, Signatur und einer Liste aus Dateipfaden und Hashes. Bei der Prüfung werden laut Dokumentation zunächst Signatur und anschließend neu berechnete Modell-Hashes mit den signierten Werten verglichen. So soll erkennbar werden, ob Modelldateien nach dem Signieren verändert wurden. Als mögliche spätere Verwendung der Aussagen werden Angaben aus Model Cards genannt; dies ist im Bericht als künftige Idee formuliert, nicht als bereits umgesetzte Funktion. Sigstore-Signaturen werden außerdem in einem öffentlichen, fortlaufenden Transparenzprotokoll erfasst. Prüfer können laut Bericht einen Einschlussnachweis kontrollieren; Signierende sollen das Protokoll auf unerwartete Ereignisse unter ihrer Identität überwachen.

Die Anleitung stellt eine CLI mit `sign`, `verify` und `trust-instance` sowie eine Python-API für Hashing, Signieren und Verifizieren vor. Sie zeigt Beispiele für lokale Modelle, das Erzeugen eines Digests, die Signaturprüfung anhand von Identität und Anbieter sowie schlüsselbasierte Verfahren. Für private Sigstore-Instanzen beschreibt sie das einmalige Einrichten des Vertrauens über TUF und anschließend die Verwendung der Instanz-URL; alternativ lässt sich eine manuelle Vertrauenskonfiguration angeben. Die Dokumentation nennt außerdem automatisierte Identitäten für GitHub Actions, GitLab CI, Google Cloud und Buildkite.

Weitere beschriebene Funktionen sind das Signieren und Prüfen von OCI-Container-Images in Registries, optional mit Ablage der Signatur in einer Datei, in der Registry oder an beiden Orten. Registry-Zugangsdaten sollen aus Docker- oder Podman-Konfigurationen stammen; für ältere Registries gibt es einen alternativen Anheftungsmodus. PKCS-#11-Unterstützung setzt unter anderem eine passende Modul- und Schlüsselauswahl voraus und beschränkt den Signaturschlüssel auf NIST-Kurven P-256, P-384 oder P-521. Optionale Zusatzfunktionen umfassen OpenTelemetry-Tracing und konfigurierbare Protokollstufen.

Der Bericht ist eine Paket- und Nutzungsdokumentation mit Installations- und Codebeispielen. Er enthält keine unabhängigen Testergebnisse, Leistungswerte oder Belege dafür, dass die beschriebenen Abläufe in einer konkreten Umgebung erfolgreich ausgeführt wurden. Die Aussagen zur Schutzwirkung sind daher als Zweck und Funktionsbeschreibung des Projekts zu verstehen; die Dokumentation macht die Prüfung zudem von der korrekten Identität, Vertrauenskonfiguration und den verwendeten Schlüsseln abhängig.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung der Zusammenfassung bezieht sich auf die mittlere Fassung; die kurze Fassung lässt zusätzlich die Motivation und den Vertrauensanspruch aus. Bei SF-P3-T02 und SF-O3-T02 weicht die Einordnung deutlich von Lunas Stufen ab, weil der Bericht dort kaum Belege liefert.

Im Bericht, aber nicht in der Zusammenfassung

  • Motivation: Die wachsende Zahl ML-gestützter Anwendungen eröffnet Angreifern Wege, ML-Nutzer zu schädigen, und das Projekt will die ML-Lieferkette wie die Software-Lieferkette absichern
  • Kernanspruch, dass Nutzer die Angaben selbst prüfen können, statt dem Modelltrainer vertrauen zu müssen
  • Sigstore kommt ohne Verwaltung kryptografischen Schlüsselmaterials aus
  • Die Signatur-Prädikate sind dafür vorgesehen, künftig Modellkarten-Informationen zu speichern

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 23 %Hintergrund, keine Belege
    • Luna 38 %einzelne zitierbare Belege
    • JEV 40 %beantwortet direkt und ausführlich
    • amos 23 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 26 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 20 %Hintergrund, keine Belege
    • Luna 51 %umfangreiche Belege
    • JEV 39 %beantwortet teilweise oder widerspricht
    • amos 29 %einzelne zitierbare Belege
    • SubQ 23 %einzelne zitierbare Belege
    • drex 23 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-H3-T02 Welche gemeinsamen Prüfstandards und Verfahren zum Herkunftsnachweis erkennen versteckte Verhaltensauslöser und eine systemweite Verschlechterung der Ausrichtung an den vorgesehenen Zielen und Werten, wenn Training immer mehr auf synthetischen Daten anderer Spitzenmodelle beruht? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-H3-T05 Wenn ein Modell nacheinander von Laboren in verschiedenen Rechtsordnungen feinjustiert, mit anderen Modellen zusammengeführt oder destilliert wird (ein weiteres Modell wird mit seinen Ausgaben trainiert) und jede Stufe Fähigkeiten hinzufügen oder Schutzvorkehrungen entfernen kann: Welches gemeinsame Herkunftsregister, das sich nur ergänzen und nicht ändern lässt, verfolgt eine Gefahr bis zu der Änderung zurück, die sie brachte, ohne die vollständigen Trainingsdaten eines einzelnen Labors zu verlangen? Und wenn dabei ein Verhalten entsteht, das keines der Ursprungslabore vorhergesehen hat: Welche Register- oder Vorabmeldepflicht gilt vor dem Einsatz, und welcher Staat ist bei grenzüberschreitendem Schaden zuständig? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-H3-T06 Welcher unabhängig prüfbare Mindestbeleg zeigt, dass eine bestimmte Person, Organisation oder ein geschützter Datensatz aus einem veröffentlichten Modell und seinen Adaptern (Zusatzmodulen) verlernt wurde, und welches Restrisiko einer Extraktion lässt sich womöglich nie auf null senken? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 22 %Hintergrund, keine Belege
    • Luna 21 %einzelne zitierbare Belege
    • JEV 56 %beantwortet direkt und ausführlich
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-O3-T01 Wenn ein Sicherheitsbericht, eine Meldung an den Meldekanal, eine Modellbeschreibung (Modellkarte) oder ein Verzeichnis der Trainingsdaten veröffentlicht wird: Welche öffentlichen kryptografischen Belege (signierte Verzeichnisse, verkettete Prüfsummen, Register, die sich nur erweitern lassen) lassen Außenstehende prüfen, dass das Dokument seit der Veröffentlichung nicht verändert wurde, und wer betreibt die Infrastruktur dafür so, dass niemand diese Prüfungen allein widerrufen kann? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 5 · umfangreiche Belege
    • SF-O3-T02 Wenn langlebige Vorfallakten, Sicherheitsnachweise, Identitäten von KI-Agenten und Prüfsignaturen die heutige Kryptografie überdauern: Welche Regeln für den Wechsel auf quantensichere Verfahren, den Schlüsselwechsel und die weitere Prüfung älterer Belege sollten alle annehmen, ohne früher anerkannte Belege ungültig zu machen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 26 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →