Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai8. Juli 2026 · Q001892

Separating signal from noise in coding evaluations

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI berichtet, dass seine Prüfung 200 von SWE-Bench Pros Aufgaben als fehlerhaft einstufte und menschliche Prüfer 249 fanden; daraus schätzt das Unternehmen, dass rund 30 Prozent des Benchmarks problematisch sind. Häufige Ursachen seien widersprüchliche oder unvollständige Aufgabenbeschreibungen sowie Tests, die zu streng oder zu wenig umfassend sind. OpenAI nimmt deshalb seine frühere Empfehlung für den Benchmark zurück und rät, seine Ergebnisse mit Vorsicht zu bewerten.

Mittel

Der Bericht prüft, ob SWE-Bench Pro Modellfähigkeiten zuverlässig misst. OpenAI hatte den Programmierbenchmark zuvor als Ersatz für SWE-bench Verified empfohlen, zieht diese Empfehlung nun aber zurück. Die Prüfung kombinierte einen automatischen Filter mit wiederholten Analysen durch Codex-basierte Agenten, abschließenden Urteilen von Forschenden und einer unabhängigen Bewertung durch fünf erfahrene Entwickler je Aufgabe.

Von den untersuchten Fällen stufte die Pipeline 200 Aufgaben (27,4 Prozent) als fehlerhaft ein; die menschliche Prüfung fand 249 (34,1 Prozent). OpenAI schätzt deshalb, dass rund 30 Prozent des Benchmarks problematisch sind. Genannte Ursachen sind zu strenge oder lückenhafte Tests, unvollständige Aufgabenbeschreibungen und irreführende Vorgaben. So können versteckte Tests eine andere Formatierung verlangen als die Beschreibung, sodass eine anweisungsgemäße Lösung als falsch gilt.

Die menschlichen Prüfer markierten häufiger mehrere Probleme und besonders oft eine geringe Testabdeckung. Da die vertiefte Prüfung bei den vom Filter markierten Aufgaben ansetzte, spiegeln die Zahlen das eingesetzte Prüfverfahren wider. Der Bericht führt die Fehler auch darauf zurück, dass Aufgaben aus Änderungen an bestehenden Repositories übernommen wurden und deren Beschreibungen und Tests nicht immer eine faire, klar abgegrenzte Bewertung ergeben. OpenAI empfiehlt, Benchmark-Ergebnisse kritisch zu prüfen und gezielt von erfahrenen Entwicklern erstellte Tests zu fördern.

Ausführlich lesen

Der Bericht untersucht die Verlässlichkeit von SWE-Bench Pro, einem Benchmark für anspruchsvolle Programmieraufgaben. OpenAI erklärt, genaue Messungen seien wichtig, weil Benchmark-Ergebnisse Fortschritte und Grenzen von Modellen abbilden und in Sicherheits- und Einsatzentscheidungen einfließen. Nachdem eine frühere Prüfung grundlegende Probleme bei SWE-bench Verified festgestellt hatte, hatte OpenAI SWE-Bench Pro als bessere Alternative empfohlen. Die hier berichtete Prüfung führt diese Empfehlung zurück.

OpenAI zufolge soll SWE-Bench Pro realistische Aufgaben über längere Arbeitsabläufe testen. Modelle müssen eine Lösung erstellen, die neue Tests für eine Funktion besteht und zugleich bestehende Funktionalität erhält. Auf dem öffentlichen Datensatz mit 731 Aufgaben seien die Passraten führender Modelle innerhalb von acht Monaten von 23,3 auf 80,3 Prozent gestiegen. Der Bericht warnt jedoch, dass fehlerhafte Aufgaben solche Ergebnisse verzerren können.

Für die Qualitätsprüfung analysierte OpenAI Aufgabenbeschreibungen, Modellversuche, Metadaten, Tests und Fehlerverläufe. Ein automatischer Filter markierte zunächst 286 potenziell problematische Aufgaben. Die markierten Fälle wurden anschließend auf zwei Wegen weiter untersucht: Codex-basierte Ermittlungsagenten prüften Aufgaben mehrfach im jeweiligen Repository und in dessen Testumgebung; Forschende beurteilten die Zusammenfassungen und trafen ein abschließendes Urteil. Parallel bewerteten fünf erfahrene Softwareentwickler jede Aufgabe unabhängig anhand der Beschreibung, Tests und Referenzlösung. Uneinigkeit oder geringe Sicherheit führten zu weiterer Prüfung.

Die automatische Analyse stufte 200 Aufgaben, also 27,4 Prozent, als fehlerhaft ein; die menschliche Prüfung kam auf 249 beziehungsweise 34,1 Prozent. OpenAI schätzt daraus, dass ungefähr 30 Prozent der Aufgaben defekt sind, und rät Modellentwicklern, Benchmark-Ergebnisse sorgfältig zu prüfen. Die beschriebenen Probleme umfassen zu strenge Tests, die nicht verlangte Implementierungsdetails voraussetzen, unvollständige Aufgabenbeschreibungen, Tests mit zu geringer Abdeckung und irreführende Beschreibungen, die den Testerwartungen widersprechen. Als Beispiel nennt der Bericht eine Abweichung bei der Zahl führender Leerzeichen: Eine Lösung, die der Aufgabenbeschreibung folgt, kann dadurch an versteckten Tests scheitern.

Die Prüfer fanden Überschneidungen zwischen den beiden Prüfwegen; bei 74 Prozent der von der Agenten-Pipeline markierten Kategorien stimmten menschliche Bewertungen in ihren Einschätzungen überein. Menschen markierten häufiger mehrere Probleme pro Aufgabe und beanstandeten besonders oft eine geringe Testabdeckung. Der Bericht charakterisiert die Agenten-plus-Menschen-Pipeline deshalb als eher zurückhaltend: Sie erfasste ähnliche grundlegende Fehlerarten, zählte aber manche von Menschen erkannte oder überlappende Probleme nicht mit.

Als Grenzen und Ursachen nennt der Bericht, dass Aufgaben aus Änderungen in bestehenden öffentlichen und privaten Repositories stammen. Deren Beschreibungen, zusammengeführter Code und Tests seien oft für die Zusammenarbeit von Menschen entstanden und bildeten nicht zwingend eine saubere, unabhängige Bewertungsaufgabe. Die Prüfung vertiefte zunächst die vom Filter markierten Fälle; die Zahlen sind daher Ergebnisse dieses Prüfverfahrens. OpenAI plädiert für Benchmarks, die erfahrene Entwickler gezielt zur Messung von Modellfähigkeiten erstellen und die stärker menschlich begleitet werden.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung; die kurze Zusammenfassung ist ebenfalls im Wesentlichen treu. Der Bericht stammt aus einem Benchmark-Audit, nicht aus der KI-Sicherheitspolitik, daher sind die Einordnungen durchweg niedrig.

Im Bericht, aber nicht in der Zusammenfassung

  • Der automatische Filter markierte zunächst 286 Aufgaben, die dann vertieft geprüft wurden
  • Die Gutachter stimmten bei den vom Agenten markierten Kategorien in 74 Prozent der Fälle überein
  • Die Agenten-Pipeline labelt konservativ und unterzählt Zusatzprobleme, die Menschen sahen
  • Die Einschätzung, dass Modelle inzwischen Prompts, Tests und Grenzfälle tiefer und konsistenter prüfen können
  • Die Forderung, Benchmarks von erfahrenen Entwicklern entwickeln zu lassen, bei denen die menschliche Aufsicht gewahrt bleibt

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, dass die Zahlen das eingesetzte Prüfverfahren widerspiegeln, ist eine eigene Deutung und kein Befund des Berichts

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 27 %Hintergrund, keine Belege
    • Luna 32 %einzelne zitierbare Belege
    • JEV 27 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 23 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 23 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %Hintergrund, keine Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 22 %einzelne zitierbare Belege
    • amos 25 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 20 %Hintergrund, keine Belege
    • Luna 62 %umfangreiche Belege
    • JEV 40 %beantwortet direkt und ausführlich
    • amos 27 %einzelne zitierbare Belege
    • SubQ 27 %einzelne zitierbare Belege
    • drex 35 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-P3-T09 Was geschieht, wenn sich ein gemeinsames Prüfverfahren oder die Befunde eines Prüfers später als unzuverlässig erweisen: Wie findet man jede Einsatzfreigabe, die wesentlich darauf beruhte, prüft sie erneut, und welche vorläufigen Betriebsbedingungen gelten, bevor modellbezogene Vorfälle auftreten? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 29 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 24 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %einzelne zitierbare Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 38 %umfangreiche Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →