Optimal stopping: spending evaluation compute where it counts
Zusammenfassung
Kurz
AISI beschreibt optstop als Werkzeug, das KI-Evaluationen anhand laufender Unsicherheit vorzeitig beenden kann, wenn Messungen präzise genug oder stabil sind. In den berichteten Tests auf öffentlichen Benchmarks sparte es laut AISI 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern; die Aufgaben müssen dafür randomisiert angeordnet sein.
Mittel
Der Bericht stellt **optstop** vor, ein quelloffenes Python-Paket des britischen AI Security Institute (AISI), das unnötige Durchläufe bei KI-Evaluationen einsparen soll. Bei fest vorgegebenen Stichproben können bereits präzise gemessene Aufgaben weiter getestet werden, während unsichere Fälle zu wenig Daten erhalten. Optstop verfolgt deshalb die Unsicherheit auf Aufgaben- und Gruppierungsebene und beendet weitere Durchläufe, sobald ein Präzisionsziel erreicht ist oder sich die Schätzung stabilisiert. Wenn beides nicht eintritt, läuft der Test bis zum geplanten Ende. Bei geschätzten Erfolgsraten unter einem Prozent verlangt ein Schutzmechanismus laut Bericht zusätzliche Daten; Stoppentscheidungen werden protokolliert.
AISI testete das Werkzeug mit binären, ordinalen und kontinuierlichen Bewertungen, jeweils bei niedriger, mittlerer und hoher erwarteter Leistung, auf öffentlichen Benchmarks wie MATH, GPQA Diamond und WritingBench. Nach Angaben des Instituts sparte optstop in allen neun Testbedingungen 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern. Die Einführung kann nach dem Bericht zunächst nachträglich oder im Schattenbetrieb erprobt werden. Für den Betrieb ist eine randomisierte Aufgabenreihenfolge wichtig. Die Aussagen beziehen sich auf die beschriebenen Tests; für die gesonderte Validierung der Regeln verweist AISI auf eine begleitende Arbeit.
Ausführlich lesen
Der Bericht des britischen AI Security Institute (AISI) beschreibt **optstop**, ein quelloffenes Python-Paket, das Evaluationen von KI-Modellen effizienter machen soll. Hintergrund ist laut AISI, dass leistungsfähigere Modelle immer längere und kostspieligere Tests erfordern, während kurze Entwicklungs- und Veröffentlichungszyklen wenig Zeit für Evaluation lassen. Fest vorgegebene Testbudgets könnten die Fähigkeiten neuer Modelle unterschätzen; zugleich können unnötige Durchläufe bei Evaluationen mit sehr hohen Tokenzahlen erhebliche Ressourcen binden.
Bei einer Evaluation werden Aufgaben eines Benchmarks mehrfach ausgeführt, um zufällige Leistungsschwankungen auszugleichen. Die Zahl dieser Wiederholungen wird üblicherweise vor Beginn festgelegt. Dadurch können bereits präzise geschätzte Ergebnisse weiter getestet werden, während bei unsicheren Fällen womöglich Daten fehlen. Optstop soll dieses Problem durch sequenzielle Messung lösen: Es verfolgt die Unsicherheit der Leistungsschätzungen auf Aufgaben- und Gruppierungsebene und führt weitere Durchläufe dort aus, wo noch Unsicherheit besteht.
Dafür verwendet das Werkzeug glaubwürdige Intervalle und ein hierarchisches Bayes-Modell, das Informationen über Aufgaben hinweg zusammenführt, ohne deren Leistungsunterschiede gleichzusetzen. Die Stichprobenahme kann enden, wenn ein festgelegtes Präzisionsziel erreicht ist oder sich das Intervall stabilisiert hat. Wird keine dieser Bedingungen erfüllt, läuft die Evaluation bis zum geplanten Ende weiter. Als Schutz gegen das Übersehen seltener Erfolge verlangt optstop nach Angaben des Berichts mehr Daten, wenn die geschätzte Erfolgsrate unter einem Prozent liegt. Das Werkzeug protokolliert seine Stoppentscheidungen und die jeweilige Begründung.
AISI erprobte optstop bei drei Arten von Bewertungsmaßstäben – binär, ordinal und kontinuierlich – sowie bei niedriger, mittlerer und hoher erwarteter Modellleistung. Die Tests nutzten öffentliche Benchmarks wie MATH, GPQA Diamond und WritingBench. Nach Darstellung des Instituts sparte optstop in allen neun Kombinationen 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern. Bei einem von vornherein kleineren Testumfang könne die Zahl eingesparter Durchläufe geringer ausfallen; auch wenige vermiedene Tests könnten bei langen, teuren Durchläufen relevant sein.
Der Bericht empfiehlt eine schrittweise Einführung: zunächst nachträglich auf abgeschlossenen Evaluationen, dann im Schattenbetrieb parallel zur regulären Auswertung und schließlich mit aktivem Abbruch. Als praktische Voraussetzung nennt er eine randomisierte Reihenfolge der Aufgaben, um Verzerrungen durch ihre Position in der Warteschlange zu vermeiden. Die Ergebnisse beziehen sich auf die beschriebenen Tests; der Bericht stellt optstop als mögliche Hilfe gegen Evaluationsengpässe dar und verweist für die getrennte Validierung der Regeln und Schutzmechanismen auf eine begleitende Arbeit.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Der Bericht beschreibt ein Werkzeug zur Effizienz statistischer Evaluationen und berührt die Sammelfragen nur am Rande; die Einordnungen bleiben deshalb niedrig.
Im Bericht, aber nicht in der Zusammenfassung
- Das hierarchische Bayes-Modell auf Gruppenebene, das Aufgaben mit unterschiedlich vielen Durchläufen verbindet
- Die Abgrenzung zu adaptiver Aufgabenauswahl, die eine kalibrierte Aufgabenbank braucht, die optstop nicht benötigt
- Der Hinweis, dass bei schlankeren Designs weniger Durchläufe eingespart werden können
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 28 %Hintergrund, keine Belege
- Luna 46 %einzelne zitierbare Belege
- JEV 41 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 27 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern?
- SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen?
- SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt?
- SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit?
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 27 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 25 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 48 %gleiches Oberthema, hilft nicht
- amos 25 %Hintergrund, keine Belege
- SubQ 42 %gleiches Oberthema, hilft nicht
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 28 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 52 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 21 %Hintergrund, keine Belege
- Luna 45 %umfangreiche Belege
- JEV 30 %umfangreiche Belege
- amos 29 %Hintergrund, keine Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P3-T05 Welches Mindestpaket (Datenverzeichnisse, Code, Zufallsstartwerte, Abbilder der Rechenumgebung, Prüferversionen, Fehlerprotokolle und Annahmen über die Hardware) muss ein Labor sichern oder kontrolliert hinterlegen, damit ein Prüfer ein sicherheitskritisches Trainings- oder Prüfergebnis auch nach Ende seines Zugangs nachrechnen kann, und welche Geheimnisse bleiben unzugänglich?
- SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?
- SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 62 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 44 %einzelne zitierbare Belege
- JEV 41 %beantwortet teilweise oder widerspricht
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T04 Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 32 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 78 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 21 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 59 %einzelne zitierbare Belege
- JEV 23 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle?
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 34 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 25 %Hintergrund, keine Belege
- Luna 41 %einzelne zitierbare Belege
- JEV 31 %einzelne zitierbare Belege
- amos 27 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 29 %nur am Rande erwähnt
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv