Separating signal from noise in coding evaluations
Zusammenfassung
Kurz
OpenAI berichtet, dass seine Prüfung 200 von SWE-Bench Pros Aufgaben als fehlerhaft einstufte und menschliche Prüfer 249 fanden; daraus schätzt das Unternehmen, dass rund 30 Prozent des Benchmarks problematisch sind. Häufige Ursachen seien widersprüchliche oder unvollständige Aufgabenbeschreibungen sowie Tests, die zu streng oder zu wenig umfassend sind. OpenAI nimmt deshalb seine frühere Empfehlung für den Benchmark zurück und rät, seine Ergebnisse mit Vorsicht zu bewerten.
Mittel
Der Bericht prüft, ob SWE-Bench Pro Modellfähigkeiten zuverlässig misst. OpenAI hatte den Programmierbenchmark zuvor als Ersatz für SWE-bench Verified empfohlen, zieht diese Empfehlung nun aber zurück. Die Prüfung kombinierte einen automatischen Filter mit wiederholten Analysen durch Codex-basierte Agenten, abschließenden Urteilen von Forschenden und einer unabhängigen Bewertung durch fünf erfahrene Entwickler je Aufgabe.
Von den untersuchten Fällen stufte die Pipeline 200 Aufgaben (27,4 Prozent) als fehlerhaft ein; die menschliche Prüfung fand 249 (34,1 Prozent). OpenAI schätzt deshalb, dass rund 30 Prozent des Benchmarks problematisch sind. Genannte Ursachen sind zu strenge oder lückenhafte Tests, unvollständige Aufgabenbeschreibungen und irreführende Vorgaben. So können versteckte Tests eine andere Formatierung verlangen als die Beschreibung, sodass eine anweisungsgemäße Lösung als falsch gilt.
Die menschlichen Prüfer markierten häufiger mehrere Probleme und besonders oft eine geringe Testabdeckung. Da die vertiefte Prüfung bei den vom Filter markierten Aufgaben ansetzte, spiegeln die Zahlen das eingesetzte Prüfverfahren wider. Der Bericht führt die Fehler auch darauf zurück, dass Aufgaben aus Änderungen an bestehenden Repositories übernommen wurden und deren Beschreibungen und Tests nicht immer eine faire, klar abgegrenzte Bewertung ergeben. OpenAI empfiehlt, Benchmark-Ergebnisse kritisch zu prüfen und gezielt von erfahrenen Entwicklern erstellte Tests zu fördern.
Ausführlich lesen
Der Bericht untersucht die Verlässlichkeit von SWE-Bench Pro, einem Benchmark für anspruchsvolle Programmieraufgaben. OpenAI erklärt, genaue Messungen seien wichtig, weil Benchmark-Ergebnisse Fortschritte und Grenzen von Modellen abbilden und in Sicherheits- und Einsatzentscheidungen einfließen. Nachdem eine frühere Prüfung grundlegende Probleme bei SWE-bench Verified festgestellt hatte, hatte OpenAI SWE-Bench Pro als bessere Alternative empfohlen. Die hier berichtete Prüfung führt diese Empfehlung zurück.
OpenAI zufolge soll SWE-Bench Pro realistische Aufgaben über längere Arbeitsabläufe testen. Modelle müssen eine Lösung erstellen, die neue Tests für eine Funktion besteht und zugleich bestehende Funktionalität erhält. Auf dem öffentlichen Datensatz mit 731 Aufgaben seien die Passraten führender Modelle innerhalb von acht Monaten von 23,3 auf 80,3 Prozent gestiegen. Der Bericht warnt jedoch, dass fehlerhafte Aufgaben solche Ergebnisse verzerren können.
Für die Qualitätsprüfung analysierte OpenAI Aufgabenbeschreibungen, Modellversuche, Metadaten, Tests und Fehlerverläufe. Ein automatischer Filter markierte zunächst 286 potenziell problematische Aufgaben. Die markierten Fälle wurden anschließend auf zwei Wegen weiter untersucht: Codex-basierte Ermittlungsagenten prüften Aufgaben mehrfach im jeweiligen Repository und in dessen Testumgebung; Forschende beurteilten die Zusammenfassungen und trafen ein abschließendes Urteil. Parallel bewerteten fünf erfahrene Softwareentwickler jede Aufgabe unabhängig anhand der Beschreibung, Tests und Referenzlösung. Uneinigkeit oder geringe Sicherheit führten zu weiterer Prüfung.
Die automatische Analyse stufte 200 Aufgaben, also 27,4 Prozent, als fehlerhaft ein; die menschliche Prüfung kam auf 249 beziehungsweise 34,1 Prozent. OpenAI schätzt daraus, dass ungefähr 30 Prozent der Aufgaben defekt sind, und rät Modellentwicklern, Benchmark-Ergebnisse sorgfältig zu prüfen. Die beschriebenen Probleme umfassen zu strenge Tests, die nicht verlangte Implementierungsdetails voraussetzen, unvollständige Aufgabenbeschreibungen, Tests mit zu geringer Abdeckung und irreführende Beschreibungen, die den Testerwartungen widersprechen. Als Beispiel nennt der Bericht eine Abweichung bei der Zahl führender Leerzeichen: Eine Lösung, die der Aufgabenbeschreibung folgt, kann dadurch an versteckten Tests scheitern.
Die Prüfer fanden Überschneidungen zwischen den beiden Prüfwegen; bei 74 Prozent der von der Agenten-Pipeline markierten Kategorien stimmten menschliche Bewertungen in ihren Einschätzungen überein. Menschen markierten häufiger mehrere Probleme pro Aufgabe und beanstandeten besonders oft eine geringe Testabdeckung. Der Bericht charakterisiert die Agenten-plus-Menschen-Pipeline deshalb als eher zurückhaltend: Sie erfasste ähnliche grundlegende Fehlerarten, zählte aber manche von Menschen erkannte oder überlappende Probleme nicht mit.
Als Grenzen und Ursachen nennt der Bericht, dass Aufgaben aus Änderungen in bestehenden öffentlichen und privaten Repositories stammen. Deren Beschreibungen, zusammengeführter Code und Tests seien oft für die Zusammenarbeit von Menschen entstanden und bildeten nicht zwingend eine saubere, unabhängige Bewertungsaufgabe. Die Prüfung vertiefte zunächst die vom Filter markierten Fälle; die Zahlen sind daher Ergebnisse dieses Prüfverfahrens. OpenAI plädiert für Benchmarks, die erfahrene Entwickler gezielt zur Messung von Modellfähigkeiten erstellen und die stärker menschlich begleitet werden.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung; die kurze Zusammenfassung ist ebenfalls im Wesentlichen treu. Der Bericht stammt aus einem Benchmark-Audit, nicht aus der KI-Sicherheitspolitik, daher sind die Einordnungen durchweg niedrig.
Im Bericht, aber nicht in der Zusammenfassung
- Der automatische Filter markierte zunächst 286 Aufgaben, die dann vertieft geprüft wurden
- Die Gutachter stimmten bei den vom Agenten markierten Kategorien in 74 Prozent der Fälle überein
- Die Agenten-Pipeline labelt konservativ und unterzählt Zusatzprobleme, die Menschen sahen
- Die Einschätzung, dass Modelle inzwischen Prompts, Tests und Grenzfälle tiefer und konsistenter prüfen können
- Die Forderung, Benchmarks von erfahrenen Entwicklern entwickeln zu lassen, bei denen die menschliche Aufsicht gewahrt bleibt
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Die Aussage, dass die Zahlen das eingesetzte Prüfverfahren widerspiegeln, ist eine eigene Deutung und kein Befund des Berichts
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 27 %Hintergrund, keine Belege
- Luna 32 %einzelne zitierbare Belege
- JEV 27 %Hintergrund, keine Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 23 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus?
- SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern?
- SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen?
- SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt?
- SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit?
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 23 %Hintergrund, keine Belege
- amos 27 %Hintergrund, keine Belege
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %Hintergrund, keine Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 22 %einzelne zitierbare Belege
- amos 25 %gleiches Oberthema, hilft nicht
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 38 %einzelne zitierbare Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 20 %Hintergrund, keine Belege
- Luna 62 %umfangreiche Belege
- JEV 40 %beantwortet direkt und ausführlich
- amos 27 %einzelne zitierbare Belege
- SubQ 27 %einzelne zitierbare Belege
- drex 35 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung umfangreiche Belege
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P3-T04 Wer prüft die KI-Modelle, die andere Modelle prüfen, auf Anweisungen, Versionen und Fehlerfälle, und welche unabhängige Prüfung zeigt, dass das geprüfte Modell sie nicht manipulieren kann, besonders wenn sie aus derselben Modellfamilie stammen? Und wenn gemeinsame Tests, Schweregrade und die Ersteinstufung von Meldungen von Sprachmodellen entworfen, durchgeführt und zusammengefasst werden: Nimmt jeder Staat einen Prüfmechanismus an, dessen Kernbausteine aus ausländischen Laboren stammen?
- SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?
- SF-P3-T09 Was geschieht, wenn sich ein gemeinsames Prüfverfahren oder die Befunde eines Prüfers später als unzuverlässig erweisen: Wie findet man jede Einsatzfreigabe, die wesentlich darauf beruhte, prüft sie erneut, und welche vorläufigen Betriebsbedingungen gelten, bevor modellbezogene Vorfälle auftreten?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 56 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 49 %einzelne zitierbare Belege
- JEV 26 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 29 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 24 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 32 %Hintergrund, keine Belege
- amos 24 %Hintergrund, keine Belege
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %nur am Rande erwähnt
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 44 %einzelne zitierbare Belege
- JEV 38 %umfangreiche Belege
- amos 26 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 28 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 23 %gleiches Oberthema, hilft nicht
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Alle Berichte im Archiv