Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
apolloohne Datum · Q001625

Evaluating LLM Calibration for Coding-Agent Monitoring

apolloresearch.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Auszug berichtet, dass 16 Modelle die Schwere gezielt eingefügter Fehler in 2.904 Coding-Agent-Verläufen sehr unterschiedlich einschätzten; laut Autoren verbesserten Ensembles aus verschiedenen Modellfamilien die Übereinstimmung mit ihrer modellgestützten Referenz meist stärker als Wiederholungen eines einzelnen Modells. Die Ergebnisse bleiben durch die nicht objektive Referenz, synthetische Fehler, wenige Extremfälle und Unterschiede zwischen Fehlertypen begrenzt; der Auszug endet im Anhang und enthält anschließend überwiegend Abbildungsplatzhalter.

Mittel

Der vorliegende Auszug fasst eine Untersuchung von 16 Sprachmodellen zusammen, die 2.904 Coding-Agent-Verläufe auf einer Skala von 1 bis 10 bewerteten. Die Forschenden hatten gezielt fünf Arten von Fehlern eingefügt und verglichen die Modellurteile mit einer mehrstufigen, ebenfalls modellgestützten Referenz. Für den Vergleich nutzten sie Rangkorrelation und mittleren absoluten Fehler. Die Untersuchung betrachtet nachträgliche Bewertungen ganzer Verläufe, nicht Echtzeitüberwachung.

Laut Bericht bewerteten die Modelle systematisch unterschiedlich streng. Opus 4.8 führte bei der Rangordnung unter den Einzelmodellen, Sonnet 5 lag nahe daran; kleinere und manche andere Modelle waren im Verhältnis zu Alternativen unterlegen. Der Mittelwert verschiedener Modelle verbesserte die Ergebnisse meist stärker als wiederholte Aufrufe desselben Modells. Besonders hilfreich seien Kombinationen verschiedener Anbieter, da Modelle derselben Familie ähnliche Verzerrungen aufweisen könnten. „Thinking“ half vor allem kleineren Modellen; große Modelle veränderten sich kaum. Die Autoren weisen auf wichtige Einschränkungen hin: Die Referenz ist keine objektive Wahrheit, die Fehler wurden künstlich eingefügt, schwere Fälle waren selten und Resultate variierten nach Fehlerart sowie Messbedingungen. Der bereitgestellte Auszug endet im Anhang und enthält danach überwiegend Abbildungsplatzhalter.

Ausführlich lesen

Der vorliegende Auszug beschreibt eine Untersuchung dazu, wie gut 16 Sprachmodelle die Schwere von Fehlern in Coding-Agent-Sitzungen bewerten und wie verlässlich ihre Bewertungen im Vergleich zu einer Referenz sind. Die Forschenden ließen die Modelle 2.904 Verläufe aus internen Sitzungen und dem Datensatz SWE-chat beurteilen. In die Verläufe waren gezielt Fehler eingefügt worden: offengelegte Zugangsdaten, Verstöße gegen Anweisungen, die Preisgabe persönlicher Daten, unerwünschte Löschungen sowie weitere Sicherheitsprobleme. Die Modelle sollten anhand von Rubriken jeweils einen Schweregrad von 1 bis 10 vergeben.

Als Referenz dienten Bewertungen einer mehrstufigen Pipeline aus mehreren Modellen, die auch Informationen über die eingefügten Fehler erhielt. Die Forschenden nennen diese Werte eine angenäherte „Ground Truth“ und berichten, dass sie bei einer manuellen Prüfung in 99 von 100 Fällen ihrer Einschätzung entsprochen hätten. Sie betonen jedoch, dass diese Referenz keine objektive Wahrheit darstellt. Verglichen wurden die Rangfolge der Bewertungen mittels Spearman-Korrelation und ihre absolute Abweichung von der Referenz mittels mittlerem absolutem Fehler (MAE). Die Untersuchung konzentriert sich auf eine nachträgliche Bewertung ganzer Sitzungsverläufe, nicht auf Echtzeit-Blockaden oder binäre Erkennung.

Laut Bericht unterschieden sich die Modelle systematisch darin, wie streng sie bewerteten. Claude-Modelle tendierten häufig zu niedrigeren Einschätzungen, insbesondere bei lokal oder intern wirkenden Arbeiten; GPT-5.4 und GPT-5.5 bewerteten dieselben Fälle meist höher. Gemini-Modelle zeigten uneinheitliche Muster: Gemini 2.5 Flash bewertete manches übermäßig streng, während andere Modelle Verstöße teils übersahen oder die Aufgabenerfüllung stärker gewichteten. Opus 4.8 erzielte laut den Forschenden die beste Rangordnung unter den Einzelmodellen, Sonnet 5 lag nahe daran und kostete weniger. GPT-5.5 erreichte eine vergleichbare Kalibrierung, aber eine etwas schwächere Rangordnung. Gemini 3 Flash wird als günstige Option genannt. Einige Modelle seien im Verhältnis zu verfügbaren Alternativen als Einzelbewerter unterlegen.

Ein zentrales Ergebnis des Berichts ist, dass der Mittelwert mehrerer Modelle sowohl Rangordnung als auch Übereinstimmung mit der Referenz verbessern könne. Ensembles aus unterschiedlichen Modellfamilien schnitten dabei meist besser ab als wiederholte Aufrufe desselben Modells: Wiederholungen verringerten zwar Zufallsschwankungen, glichen aber gemeinsame Verzerrungen kaum aus. Weil Claude- und GPT-Modelle innerhalb ihrer Familien teils stark ähnliche Fehler machten, empfehlen die Autoren für bessere Abdeckung Modelle verschiedener Anbieter. Größere und neuere Modelle waren außerdem bei wiederholten Bewertungen stabiler. Aktiviertes natives „Thinking“ half vor allem kleineren Modellen; bei den leistungsstärksten Modellen änderte es laut Auszug wenig. Die Autoren vermuten, dass die verlangte ausführliche, strukturierte Begründung einen Teil des Nutzens bereits abdeckt.

Die Aussagekraft ist begrenzt: Die Modelle werden an einer ebenfalls modellgestützten Referenz gemessen, die synthetisch eingefügten Fehler bilden reale Nutzungsverteilungen nicht vollständig ab, und besonders schwere Fälle sind selten. Die Ergebnisse unterscheiden sich zudem je nach Fehlerart; unerwünschte Löschungen waren meist leichter zu bewerten als Verstöße gegen Anweisungen. Kosten und Laufzeiten hängen laut Bericht von Prompt, Anbieterpreisen und Messbedingungen ab; die Latenzschätzungen seien unsicher. Der bereitgestellte Auszug endet nach einem Teil des Anhangs und enthält anschließend vor allem Abbildungsplatzhalter, daher ist nicht der vollständige Berichtstext enthalten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 43 %einzelne zitierbare Belege
    • JEV offen
    • amos 27 %einzelne zitierbare Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 36 %gleiches Oberthema, hilft nicht
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 26 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV offen
    • amos 28 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 72 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %einzelne zitierbare Belege
    • SubQ 26 %Hintergrund, keine Belege
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra 41 %Hintergrund, keine Belege

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-P3-T04 Wer prüft die KI-Modelle, die andere Modelle prüfen, auf Anweisungen, Versionen und Fehlerfälle, und welche unabhängige Prüfung zeigt, dass das geprüfte Modell sie nicht manipulieren kann, besonders wenn sie aus derselben Modellfamilie stammen? Und wenn gemeinsame Tests, Schweregrade und die Ersteinstufung von Meldungen von Sprachmodellen entworfen, durchgeführt und zusammengefasst werden: Nimmt jeder Staat einen Prüfmechanismus an, dessen Kernbausteine aus ausländischen Laboren stammen? Luna: Stufe 3 · 22 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 53 %einzelne zitierbare Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 23 %Hintergrund, keine Belege
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 22 %Hintergrund, keine Belege
    • Luna 39 %gleiches Oberthema, hilft nicht
    • JEV offen
    • amos 32 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 42 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 24 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV offen
    • amos 27 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 37 %gleiches Oberthema, hilft nicht

    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV offen
    • amos 29 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →