Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
metr31. Januar 2025 · Q002650

An update on our preliminary evaluations of Claude 3.5 Sonnet and o1

metr.org · Originalbericht öffnen ↗

Zusammenfassung

Kurz

METR fand in vorläufigen Tests von Claude 3.5 Sonnet (Oktober-Version) und einem Vorab-Checkpoint von o1 keine deutlichen Belege für gefährlich hohe Fähigkeiten. Wegen Einschränkungen bei Agentenaufbau, Testumfang, verfügbaren Informationen und Budgets kann die Organisation solche Fähigkeiten aber nicht ausschließen; sie plant weitere Bewertungen und neue Sicherheitsmethoden.

Mittel

METR bewertet vorläufig das im Oktober 2024 aktualisierte Claude 3.5 Sonnet und einen Vorab-Checkpoint von OpenAI o1. In den untersuchten Tests fand die Organisation keine deutlichen Belege für gefährlich hohe Fähigkeiten. Wegen methodischer Grenzen könne sie aber nicht ausschließen, dass die Systeme solche Fähigkeiten besitzen.

Bei 77 Aufgaben zu autonomen Fähigkeiten erreichte Claude laut METR ungefähr die Leistung menschlicher Testpersonen nach einer Stunde. o1 kam mit einem eigens angepassten Agentenaufbau auf etwa zwei Stunden menschlicher Vergleichsleistung. Bei sieben KI-Forschungsaufgaben und einem Zeitbudget von acht Stunden entsprach Claude ungefähr dem 37. und o1 dem 30. Perzentil menschlicher Fachleute. Die Resultate variierten mit dem Agentenaufbau und verbesserten sich teils durch zusätzliche Durchläufe.

METR nennt begrenzte Anpassungszeit, fehlenden Zugang zu o1s internen Gedankengängen, den verwendeten Standardwert für „reasoning_effort“ und unvollständige Trainingsinformationen als Einschränkungen. Die Organisation folgert, dass einzelne Tests nur wenige Agentenaufbauten abdecken und gründliche Bewertungen zunehmend hohe Zeit- und Tokenbudgets erfordern könnten. Sie will weitere Fähigkeitenprüfungen durchführen und neue Sicherheitsbewertungsmethoden erforschen. Tests vor der Veröffentlichung allein hält sie nicht für ausreichendes Risikomanagement.

Ausführlich lesen

METR berichtet über vorläufige Bewertungen des im Oktober 2024 aktualisierten Claude 3.5 Sonnet und eines Vorab-Checkpoints von OpenAI o1. Die Organisation fand in ihren Untersuchungen keine deutlichen Belege für gefährlich hohe Fähigkeiten. Sie betont jedoch, dass die Tests keine verlässliche Obergrenze für die Fähigkeiten der Systeme liefern und daher nicht ausschließen, dass solche Fähigkeiten vorhanden sind. METR hält Tests vor der Veröffentlichung außerdem allein nicht für eine ausreichende Strategie zum Risikomanagement.

Für die Bewertung autonomer Fähigkeiten nutzte METR 77 Aufgaben, die untersuchen sollen, wie weit ein Modell davon entfernt ist, Cyberangriffe selbstständig nachzubilden und auszuführen. Die Aufgaben deckten unter anderem Cyberangriffe, KI-Forschung und -Entwicklung sowie selbstständige Replikation und Anpassung ab. Im Vergleich zu menschlichen Testpersonen erreichte der Claude-Agent laut METR eine Leistung ähnlich derjenigen, die Menschen in ungefähr einer Stunde erzielen. o1 lag zunächst etwas darunter. Mit einem eigens angepassten Agentenaufbau, der das Modell Situationen analysieren, mehrere Handlungsoptionen erzeugen und bewerten sowie die bestbewertete Option ausführen ließ, entsprach o1 ungefähr einer menschlichen Leistung nach zwei Stunden.

METR nennt mehrere Gründe, warum die tatsächlichen Fähigkeiten höher liegen könnten als die Testergebnisse nahelegen: Bei o1 wurde mangels Kenntnis des Parameters „reasoning_effort“ dessen Standardwert „medium“ verwendet; die internen Gedankengänge des Modells waren nicht zugänglich; und die Anpassung der Agentenaufbauten war zeitlich begrenzt. Zudem fehlten wichtige Informationen über Training und dafür optimierte Werkzeuge oder Prompts. Deshalb könne METR nicht sicher sagen, dass die Systeme keine gefährlichen Fähigkeiten besitzen. Die Organisation weist auch darauf hin, dass sie nicht ausschließen kann, dass ein Modell seine Leistung im Test absichtlich schlechter erscheinen lässt.

Für KI-Forschungs- und Entwicklungsaufgaben setzte METR RE-Bench ein, eine Sammlung aus sieben anspruchsvollen, realitätsnahen Aufgaben. Bei acht Stunden pro Aufgabe ordnete METR Claude 3.5 Sonnet ungefähr dem 37. und o1 ungefähr dem 30. Perzentil menschlicher Fachleute zu. Die Ergebnisse hingen offenbar auch vom Agentenaufbau ab: Bei o1 schnitt die AIDE-Konfiguration etwas besser ab als der angepasste Aufbau; bei Claude funktionierte ein leicht modifizierter Basisaufbau im Allgemeinen besser als AIDE.

METR folgert, dass Ergebnisse stark davon abhängen können, wie viel Aufwand in die Anpassung der Agenten und in Rechen- beziehungsweise Inferenzbudgets fließt. Schon begrenzte Anpassungen hätten die gemessene autonome Leistung von o1 deutlich erhöht; wiederholte Durchläufe verbesserten die Ergebnisse auf RE-Bench ebenfalls. Um künftig gründlich zu prüfen, ob riskante Fähigkeiten nachweisbar sind, könnten daher sehr hohe Zeit- und Tokenbudgets nötig werden. Das wäre laut METR teuer und erschwere zugleich Sicherheitsargumente, die allein auf gemessenen Fähigkeiten beruhen. Die Organisation will weitere Fähigkeitenbewertungen durchführen, unter anderem für DeepSeek-R1, und neue Methoden zur Sicherheitsbewertung erforschen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Abbildungen sind nur als Dateipfade eingebunden und wurden nicht ausgewertet; die Bewertung stützt sich auf den Textkörper. Der Canary-Block am Ende wurde als Teil des Quellmaterials behandelt und nicht als Anweisung.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Verdopplung der menschlichen Vergleichszeit durch den angepassten o1-Agentenaufbau als zentrales Ergebnis dafür, wie stark der Aufwand bei der Ausreizung die Fähigkeiten hebt
  • Die Warnung, dass Modelle die Tests womöglich absichtlich unterlaufen könnten (Sandbagging, Scheming), wodurch die Bewertung unsicher bleibt

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 24 %umfangreiche Belege
    • Luna 64 %umfangreiche Belege
    • JEV 41 %umfangreiche Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 34 %einzelne zitierbare Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 38 %umfangreiche Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-F1-T03 Auf welche einzelne Zahl zur offensiven Cyberfähigkeit eines Modells würden sich Regierungen einigen, um sie vor der Freigabe zu veröffentlichen, nicht erst danach? Luna: Stufe 4 · 27 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 23 %Hintergrund, keine Belege
    • Luna 64 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F2-T02 Wenn ein Staat fremde Modelle als Zeichen einer neuen Stufe nennt: Beruht das auf eigenen Messungen, die er so veröffentlichen könnte wie andere ihre Messungen? Und haben Labore vergleichbare Prüfungen fremder Modelle durchgeführt und sich entschieden, sie nicht zu veröffentlichen? Gefragt wurde das zu Minister Chen Yixins Nennung von Claude Mythos und GPT-5.5-Cyber als Zeichen der Phase „KI gegen KI“ bei Cyberangriff und -abwehr, nachdem die US-Prüfstelle CAISI Messungen von GLM-5.3 (17. September 2026) und, mit dem britischen AI Security Institute, von Kimi K3 (Juli 2026) veröffentlicht hatte, und zu Prüfungen von OpenAI und Anthropic an Modellen von DeepSeek, GLM, Qwen oder Kimi. Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 72 %Hintergrund, keine Belege
    • JEV 66 %gleiches Oberthema, hilft nicht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 63 %gleiches Oberthema, hilft nicht

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 24 %Hintergrund, keine Belege
    • Luna 40 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
  5. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 74 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 30 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 24 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 25 %Hintergrund, keine Belege
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht

  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 24 %Hintergrund, keine Belege
    • Luna 50 %umfangreiche Belege
    • JEV 33 %beantwortet teilweise oder widerspricht
    • amos 33 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 41 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 29 %Hintergrund, keine Belege
    • Luna 69 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 46 %Hintergrund, keine Belege

    • SF-T1-T01 Welche messbaren, maschinell prüfbaren Fähigkeitsschwellen sollen Labore veröffentlichen, die vor dem Einsatz von Agentensystemen eine verpflichtende Pause und eine Prüfung von außen auslösen, abgestimmt über alle Labore hinweg? Wer führt das Register, und wo soll die Gesellschaft die verbindliche Sicherheitsgrenze für weitere Steigerungen der Fähigkeiten ziehen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 28 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 37 %einzelne zitierbare Belege
    • SubQ 31 %Hintergrund, keine Belege
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 37 %einzelne zitierbare Belege

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 35 %Hintergrund, keine Belege
    • JEV 28 %nur am Rande erwähnt
    • amos 27 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 20 %Hintergrund, keine Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 26 %Hintergrund, keine Belege
    • Luna 72 %Hintergrund, keine Belege
    • JEV 28 %nur am Rande erwähnt
    • amos 32 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %Hintergrund, keine Belege
    • Luna 58 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 33 %Hintergrund, keine Belege
    • d3-ultra 39 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 30 %Hintergrund, keine Belege
    • Luna 42 %einzelne zitierbare Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 43 %gleiches Oberthema, hilft nicht

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 51 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 53 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →