https://github.com/google/trillian/blob/master/docs/papers/VerifiableDataStructures.pdf
Zusammenfassung
Kurz
Das Papier beschreibt ein überprüfbares Protokoll, eine überprüfbare Schlüssel-Wert-Map und eine Map, die aus Protokolloperationen aufgebaut wird. Laut Papier ermöglichen sie Beweise für Einträge und Werte sowie die Erkennung von Split-View-Angriffen; eine vollständige Betriebsprüfung kann jedoch das Herunterladen und erneute Abspielen des gesamten Protokolls erfordern.
Mittel
Das Papier von Eijdenberg, Laurie und Cutter (November 2015) beschreibt drei Datenstrukturen, mit denen Dienste ihre Daten transparent und unabhängig überprüfbar machen sollen.
Ein überprüfbares Protokoll nimmt Einträge nur ergänzend auf und veröffentlicht signierte Baumköpfe. Clients können damit laut Papier Einträge, die Erweiterbarkeit und mögliche Split-View-Angriffe effizient prüfen. Eine überprüfbare Map ordnet Schlüssel Werten zu und erlaubt effiziente Beweise für vorhandene wie fehlende Werte. Ihre Schlüsselpositionen werden über SHA-256-Hashes bestimmt. Laut Übersicht belegt sie jedoch weder den korrekten Betrieb noch den aktuellen Wert eines Schlüssels.
Eine log-gestützte Map wird durch das geordnete Abspielen von Protokolloperationen aufgebaut. Ihre signierten Map-Köpfe werden wiederum in einem separaten Protokoll veröffentlicht, sodass Clients die Sichtbarkeit der Map für Prüfer nachvollziehen können. Ein Auditor kann durch Herunterladen und erneutes Abspielen des gesamten Protokolls zusätzlich den Betrieb über die Zeit prüfen. Das Papier schreibt weder das Format der Operationen noch deren genaue Wirkung vor; die beteiligten Komponenten können von verschiedenen Betreibern stammen. Vollständige Aufzählungen und manche Betriebsprüfungen erfordern eine Vollprüfung durch spezialisierte Auditoren.
Ausführlich lesen
Das Papier „Verifiable Data Structures“ von Adam Eijdenberg, Ben Laurie und Al Cutter (November 2015) beschreibt Datenstrukturen, mit denen Dienste ihre Angaben überprüfbar machen sollen. Die Grundidee ist, ein Vertrauensmodell um Transparenz zu ergänzen: Abhängige Nutzer und Systeme können Aussagen selbst prüfen, statt sich allein auf den Betreiber zu verlassen.
Als erste Struktur erläutert das Papier ein überprüfbares, nur erweiterbares Protokoll. Einträge werden angehängt und sollen nach ihrer Aufnahme weder verändert noch entfernt werden. In regelmäßigen Abständen veröffentlicht das Protokoll einen signierten Baumkopf mit dem Hash der Einträge für eine bestimmte Protokollgröße. Laut Papier können Clients damit Einträge effizient auf Aufnahme prüfen, Erweiterbarkeit kontrollieren und sogenannte Split-View-Angriffe erkennen. Alle Einträge lassen sich ebenfalls aufzählen, dafür ist jedoch eine vollständige Prüfung des Datensatzes nötig. Die Beschreibung wird als gleichwertig zu RFC 6962 eingeordnet.
Die zweite Struktur ist eine überprüfbare Map, die Schlüssel Werten zuordnet. Ihr Baum umfasst konzeptionell 2²⁵⁶ Positionen: Der SHA-256-Hash eines Schlüssels bestimmt den Index. Das Papier merkt an, dass die meisten Knoten leer seien und der Wurzelhash deshalb trotzdem effizient berechnet werden könne. Clients sollen für einen Schlüssel einen Wert oder dessen Nichtvorhandensein samt Beweis prüfen und Split-View-Angriffe erkennen können. Eine solche Map kann laut Tabelle Werte effizient belegen, aber weder die korrekte Arbeitsweise selbst noch einen aktuellen Wert für einen Schlüssel nachweisen.
Die dritte Struktur verbindet beide Ansätze: Eine Map wird aus den geordneten Operationen eines überprüfbaren Protokolls aufgebaut. Signierte Map-Kopfzeilen enthalten den Map-Wurzelhash und beziehen sich auf einen Stand des zugrunde liegenden Protokolls. Diese Kopfzeilen werden zusätzlich in einem separaten überprüfbaren Protokoll veröffentlicht. So können Clients laut Papier prüfen, ob die ihnen gezeigte Map auch für externe Prüfer sichtbar ist. Ein Auditor – oder ein Client, der das ganze Protokoll herunterlädt und erneut abspielt – kann zusätzlich die korrekte Entwicklung der Datenbank über die Zeit prüfen.
Als Beispiel zeigt das Papier eine Datenbank, deren `set`- und `delete`-Operationen zunächst im Protokoll gespeichert und anschließend auf die Map angewandt werden. Das Papier legt weder ein konkretes Format der Protokolleinträge noch deren genaue Wirkung auf die Map fest. Protokoll, Map und das Protokoll der Map-Kopfzeilen können zudem von unterschiedlichen Parteien betrieben werden. Eine vollständige Aufzählung und bei der log-gestützten Map auch die Prüfung des vollständigen korrekten Betriebs erfordern laut Übersicht eine Vollprüfung; sie wird eher spezialisierten Prüfern als jedem Client zugeschrieben.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertung bezieht sich auf die mittlere Zusammenfassung; die kurze Fassung ist kürzer, aber ohne erkennbare Fehler. Der Bericht behandelt verifizierbare Datenstrukturen (Protokolle und Maps), nicht KI-Governance, daher fallen die meisten Fragen nur schwach aus.
Im Bericht, aber nicht in der Zusammenfassung
- Die Motivation des Papiers, Vertrauen durch Transparenz in ein Vertrauen-aber-prüfen zu verwandeln
- Die Aussage, dass das Protokoll RFC 6962 und die Map dem Sparse Merkle Tree aus dem Revocation-Transparency-Papier entspricht
- Die Angabe, dass die Map den Schlüssel über seinen SHA-256-Hash adressiert und 2^256 Positionen umfasst
- Das Beispiel der Zertifikats-Transparenz, in dem ein Dritter eine Map über das Protokoll eines anderen Betreibers bereitstellt
- Das Beispiel der verifizierbaren Datenbank, die Operationen im Protokoll sammelt und über Callbacks in die Map anwendet
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P1-T03 Wenn eine Sicherheitsvereinbarung verlangt, Prüfergebnisse, Angaben aus Modellsteckbriefen oder die Forensik von Vorfällen zwischen den Partnern zu teilen: Welches kleinste Datenfeld müsste jeder Partner sehen, um dem Bericht eines anderen zu trauen, und auf welches größte würde er verzichten?
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 41 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 36 %einzelne zitierbare Belege
- JEV 29 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-P5-T02 Könnten Staaten gemeinsame Kennzahlen und Vergleichsmaßstäbe für den Fortschritt bei ihren Transparenzzusagen veröffentlichen, mit vereinbarten Prüfabständen, damit die Öffentlichkeit beurteilen kann, ob ihre Gespräche messbare Ergebnisse für die Sicherheit bringen?
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 35 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 40 %einzelne zitierbare Belege
- JEV 39 %beantwortet teilweise oder widerspricht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung einzelne zitierbare Belege
- SF-O3-T01 Wenn ein Sicherheitsbericht, eine Meldung an den Meldekanal, eine Modellbeschreibung (Modellkarte) oder ein Verzeichnis der Trainingsdaten veröffentlicht wird: Welche öffentlichen kryptografischen Belege (signierte Verzeichnisse, verkettete Prüfsummen, Register, die sich nur erweitern lassen) lassen Außenstehende prüfen, dass das Dokument seit der Veröffentlichung nicht verändert wurde, und wer betreibt die Infrastruktur dafür so, dass niemand diese Prüfungen allein widerrufen kann?
- SF-O3-T02 Wenn langlebige Vorfallakten, Sicherheitsnachweise, Identitäten von KI-Agenten und Prüfsignaturen die heutige Kryptografie überdauern: Welche Regeln für den Wechsel auf quantensichere Verfahren, den Schlüsselwechsel und die weitere Prüfung älterer Belege sollten alle annehmen, ohne früher anerkannte Belege ungültig zu machen?
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 59 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Alle Berichte im Archiv