Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi27. August 2026 · Q000921

Optimal stopping: spending evaluation compute where it counts

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

AISI beschreibt optstop als Werkzeug, das KI-Evaluationen anhand laufender Unsicherheit vorzeitig beenden kann, wenn Messungen präzise genug oder stabil sind. In den berichteten Tests auf öffentlichen Benchmarks sparte es laut AISI 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern; die Aufgaben müssen dafür randomisiert angeordnet sein.

Mittel

Der Bericht stellt **optstop** vor, ein quelloffenes Python-Paket des britischen AI Security Institute (AISI), das unnötige Durchläufe bei KI-Evaluationen einsparen soll. Bei fest vorgegebenen Stichproben können bereits präzise gemessene Aufgaben weiter getestet werden, während unsichere Fälle zu wenig Daten erhalten. Optstop verfolgt deshalb die Unsicherheit auf Aufgaben- und Gruppierungsebene und beendet weitere Durchläufe, sobald ein Präzisionsziel erreicht ist oder sich die Schätzung stabilisiert. Wenn beides nicht eintritt, läuft der Test bis zum geplanten Ende. Bei geschätzten Erfolgsraten unter einem Prozent verlangt ein Schutzmechanismus laut Bericht zusätzliche Daten; Stoppentscheidungen werden protokolliert.

AISI testete das Werkzeug mit binären, ordinalen und kontinuierlichen Bewertungen, jeweils bei niedriger, mittlerer und hoher erwarteter Leistung, auf öffentlichen Benchmarks wie MATH, GPQA Diamond und WritingBench. Nach Angaben des Instituts sparte optstop in allen neun Testbedingungen 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern. Die Einführung kann nach dem Bericht zunächst nachträglich oder im Schattenbetrieb erprobt werden. Für den Betrieb ist eine randomisierte Aufgabenreihenfolge wichtig. Die Aussagen beziehen sich auf die beschriebenen Tests; für die gesonderte Validierung der Regeln verweist AISI auf eine begleitende Arbeit.

Ausführlich lesen

Der Bericht des britischen AI Security Institute (AISI) beschreibt **optstop**, ein quelloffenes Python-Paket, das Evaluationen von KI-Modellen effizienter machen soll. Hintergrund ist laut AISI, dass leistungsfähigere Modelle immer längere und kostspieligere Tests erfordern, während kurze Entwicklungs- und Veröffentlichungszyklen wenig Zeit für Evaluation lassen. Fest vorgegebene Testbudgets könnten die Fähigkeiten neuer Modelle unterschätzen; zugleich können unnötige Durchläufe bei Evaluationen mit sehr hohen Tokenzahlen erhebliche Ressourcen binden.

Bei einer Evaluation werden Aufgaben eines Benchmarks mehrfach ausgeführt, um zufällige Leistungsschwankungen auszugleichen. Die Zahl dieser Wiederholungen wird üblicherweise vor Beginn festgelegt. Dadurch können bereits präzise geschätzte Ergebnisse weiter getestet werden, während bei unsicheren Fällen womöglich Daten fehlen. Optstop soll dieses Problem durch sequenzielle Messung lösen: Es verfolgt die Unsicherheit der Leistungsschätzungen auf Aufgaben- und Gruppierungsebene und führt weitere Durchläufe dort aus, wo noch Unsicherheit besteht.

Dafür verwendet das Werkzeug glaubwürdige Intervalle und ein hierarchisches Bayes-Modell, das Informationen über Aufgaben hinweg zusammenführt, ohne deren Leistungsunterschiede gleichzusetzen. Die Stichprobenahme kann enden, wenn ein festgelegtes Präzisionsziel erreicht ist oder sich das Intervall stabilisiert hat. Wird keine dieser Bedingungen erfüllt, läuft die Evaluation bis zum geplanten Ende weiter. Als Schutz gegen das Übersehen seltener Erfolge verlangt optstop nach Angaben des Berichts mehr Daten, wenn die geschätzte Erfolgsrate unter einem Prozent liegt. Das Werkzeug protokolliert seine Stoppentscheidungen und die jeweilige Begründung.

AISI erprobte optstop bei drei Arten von Bewertungsmaßstäben – binär, ordinal und kontinuierlich – sowie bei niedriger, mittlerer und hoher erwarteter Modellleistung. Die Tests nutzten öffentliche Benchmarks wie MATH, GPQA Diamond und WritingBench. Nach Darstellung des Instituts sparte optstop in allen neun Kombinationen 57 bis 97 Prozent der geplanten Durchläufe, ohne die geschätzten Punktzahlen zu verändern. Bei einem von vornherein kleineren Testumfang könne die Zahl eingesparter Durchläufe geringer ausfallen; auch wenige vermiedene Tests könnten bei langen, teuren Durchläufen relevant sein.

Der Bericht empfiehlt eine schrittweise Einführung: zunächst nachträglich auf abgeschlossenen Evaluationen, dann im Schattenbetrieb parallel zur regulären Auswertung und schließlich mit aktivem Abbruch. Als praktische Voraussetzung nennt er eine randomisierte Reihenfolge der Aufgaben, um Verzerrungen durch ihre Position in der Warteschlange zu vermeiden. Die Ergebnisse beziehen sich auf die beschriebenen Tests; der Bericht stellt optstop als mögliche Hilfe gegen Evaluationsengpässe dar und verweist für die getrennte Validierung der Regeln und Schutzmechanismen auf eine begleitende Arbeit.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht beschreibt ein Werkzeug zur Effizienz statistischer Evaluationen und berührt die Sammelfragen nur am Rande; die Einordnungen bleiben deshalb niedrig.

Im Bericht, aber nicht in der Zusammenfassung

  • Das hierarchische Bayes-Modell auf Gruppenebene, das Aufgaben mit unterschiedlich vielen Durchläufen verbindet
  • Die Abgrenzung zu adaptiver Aufgabenauswahl, die eine kalibrierte Aufgabenbank braucht, die optstop nicht benötigt
  • Der Hinweis, dass bei schlankeren Designs weniger Durchläufe eingespart werden können

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV 41 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 25 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 25 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 45 %umfangreiche Belege
    • JEV 30 %umfangreiche Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 41 %beantwortet teilweise oder widerspricht
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 78 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 21 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 23 %einzelne zitierbare Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 25 %Hintergrund, keine Belege
    • Luna 41 %einzelne zitierbare Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 29 %nur am Rande erwähnt
    • d3-ultra offen
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →