Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi17. Juli 2026 · Q001342

How Far Behind the Frontier are Leading Open Weight Models on Cyber?

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Kurz

AISI zufolge liegen die getesteten führenden offenen Modelle bei Cyberfähigkeiten etwa vier bis sieben Monate hinter geschlossenen Spitzenmodellen; bei internen Tests aus 2025 war der Abstand noch größer. Die Vergleiche sind jedoch begrenzt, besonders bei den Cyber-Ranges, und erlauben keine Aussagen über andere Fähigkeiten oder über die künftige Entwicklung.

Mittel

AISI vergleicht in seinem Bericht die Cyberfähigkeiten führender KI-Modelle mit offenen Gewichten mit denen geschlossener Modelle. Offene Modelle lassen sich privat betreiben und anpassen, bieten laut AISI aber weniger Möglichkeiten für Überwachung, Zugangskontrolle und nachträgliche Schutzmaßnahmen. Ihre Veröffentlichung könne daher ein dauerhaftes Missbrauchsrisiko schaffen.

Getestet wurden GLM-5.2 und DeepSeek V4-Pro. Auf einzelnen Cyberaufgaben erreichte GLM-5.2 laut AISI ein ähnliches Niveau wie Opus 4.6 und GPT-5.3-Codex, die etwa vier Monate früher erschienen waren. Auf simulierten, mehrstufigen Angriffen lag es ungefähr bei Opus 4.5, das weniger als sieben Monate älter war. DeepSeek V4-Pro blieb in den Cyber-Ranges hinter Sonnet 4.5 zurück. Insgesamt schätzt AISI den Abstand der offenen Modelle zur geschlossenen Spitze auf vier bis sieben Monate, gegenüber sechs bis zehn Monaten bei intern getesteten offenen Modellen aus weiten Teilen des Jahres 2025.

AISI stuft die Range-Vergleiche als weniger belastbar ein, weil weniger Testszenarien vorliegen und die Ergebnisse nicht zwischen fehlendem Cyberwissen und Schwächen bei langfristiger Planung unterscheiden. Die Tests könnten offene Modelle leicht unterschätzen; Aussagen zu anderen Fähigkeiten sind daraus nicht möglich. AISI sieht für Verteidiger ein kurzes Vorbereitungsfenster, betont aber, dass die künftige Entwicklung des Abstands ungewiss ist.

Ausführlich lesen

AISI untersucht seit 2023 die Cyberfähigkeiten fortgeschrittener KI-Modelle. Nach den hier dargestellten Auswertungen lagen führende Modelle mit offenen Gewichten bisher hinter geschlossenen Modellen, deren Parameter privat bleiben und deren Nutzung über die Anbieter kontrolliert werden kann. Offene Gewichte bieten laut AISI Vorteile: Modelle lassen sich privat betreiben, an Aufgaben anpassen und gemeinsam weiterentwickeln. Zugleich erschwert ihre öffentliche Verfügbarkeit Schutzmaßnahmen wie Nutzungsüberwachung, Zugangskontrolle und das Zurückziehen eines Modells. AISI sieht deshalb bei leistungsfähigen offenen Modellen ein dauerhaftes, schwer umkehrbares Missbrauchsrisiko.

Der Bericht vergleicht die Ergebnisse auf zwei Arten von Tests. Eng umrissene Cyberaufgaben prüfen einzelne Fähigkeiten, etwa Schwachstellenanalyse und -ausnutzung, Reverse Engineering, Web-Exploitation und Kryptografie. Cyber-Ranges testen dagegen, ob ein Modell in simulierten Netzwerken einen mehrstufigen Angriff über längere Zeit selbstständig planen und durchführen kann. AISI untersuchte GLM-5.2 und DeepSeek V4-Pro, die zum Veröffentlichungszeitpunkt als aussichtsreiche offene Modelle galten, und verglich sie mit geschlossenen Modellen sowie mit internen Ergebnissen aus 2025.

Auf den engen Aufgaben schnitt GLM-5.2 laut AISI ähnlich ab wie Opus 4.6 und GPT-5.3-Codex, die etwa vier Monate früher erschienen waren. DeepSeek V4-Pro lag ungefähr auf dem Niveau von Opus 4.5, das rund fünf Monate zuvor veröffentlicht worden war. Auf der Cyber-Range „The Last Ones“, einem simulierten Angriff über 32 Schritte, reichte GLM-5.2 ungefähr so weit wie Opus 4.5, also ein weniger als sieben Monate älteres Modell. DeepSeek V4-Pro blieb dort hinter Sonnet 4.5 zurück. AISI berichtet, dass die Range-Ergebnisse mit denen weiterer Testszenarien weitgehend übereinstimmten. Insgesamt schätzt die Organisation den Rückstand der jüngsten offenen Modelle auf die geschlossene Cyber-Spitze auf vier bis sieben Monate. Das sei geringer als der intern gemessene Abstand von sechs bis zehn Monaten bei offenen Modellen aus dem Zeitraum Januar bis September 2025.

Der Vergleich auf den Cyber-Ranges ist laut AISI weniger belastbar als jener der engen Aufgaben, weil weniger Ranges einbezogen wurden. Außerdem zeigen reine Verlaufskurven nicht, ob ein Modell an einem Schritt wegen fehlender Cyberkenntnisse oder wegen Schwierigkeiten mit längerfristiger Planung und Ausführung scheitert. AISI merkt auch an, dass die Tests die maximal möglichen Fähigkeiten offener Modelle leicht unterschätzen könnten: Gezielte Optimierungen und spezielle Methoden zur Leistungssteigerung wurden nicht verfolgt. Aus den Ergebnissen lassen sich zudem keine Aussagen über andere Fähigkeiten als Cyberfähigkeiten ableiten.

Der Bericht nennt auch Kostenunterschiede: Bei den angegebenen Preisen kostete ein Lauf mit 100 Millionen Tokens ungefähr 85 US-Dollar bei Opus 4.5 und 4.6, geschätzt 46 Dollar bei GLM-5.2 und 1,19 Dollar bei DeepSeek V4-Pro. Die tatsächlichen Rechenkosten offener Modelle können laut AISI abweichen, da die Organisation dafür keine First-Party-Anbieter nutzte. AISI folgert, dass Verteidiger nur ein kurzes Zeitfenster haben könnten, um sich auf Fähigkeiten vorzubereiten, die später ohne vergleichbare Schutzmaßnahmen verfügbar werden. Wie sich der Abstand künftig entwickelt, sei ungewiss; AISI kündigt weitere Tests an, darunter Kimi K3 nach Veröffentlichung seiner Gewichte.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die beiden Zusammenfassungen von Luna wurden gemeinsam bewertet. Ihre Fakten stimmen mit dem Bericht überein; die Lücken betreffen vor allem Kosten und Schutzmaßnahmen.

Im Bericht, aber nicht in der Zusammenfassung

  • Kostenvergleich: rund 85 Dollar pro 100-Millionen-Token-Range-Lauf bei Opus 4.5 und 4.6 gegenüber etwa 46 Dollar für GLM-5.2 und 1,19 Dollar für DeepSeek V4-Pro
  • Schutzmaßnahmen: Monitoring, Klassifikatoren und Nutzersperren greifen nach der Veröffentlichung der Gewichte nicht mehr, und Verweigerungstraining lässt sich mit Gewichtszugang leicht umkehren
  • Der Hinweis, dass der GLM-5.2-Befund nicht vorhersagt, ob künftige offene Modelle die Sprünge von Mythos Preview und GPT-5.5 aus dem April 2026 nachvollziehen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 52 % · Hintergrund, keine Belege
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-M4-T07 Wenn KI-Labore verschiedener Staaten sich selbst überwachen und Angaben zu Cyberangriffen mit KI austauschen sollen: Welche überprüfbaren Mindestzusagen machen sie dafür, ohne Kundendaten oder ihre eigenen Modelle herauszugeben? Zum Beispiel feste Arten von Vorfällen, eine Frist für Meldungen und das Offenlegen der Ergebnisse von Angriffstests. Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 26 %umfangreiche Belege
    • Luna 70 %umfangreiche Belege
    • JEV 46 %umfangreiche Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 29 %einzelne zitierbare Belege
    • drex 40 %umfangreiche Belege
    • d3-ultra offen
    • Haiku-Prüfung umfangreiche Belege

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 5 · 39 % · umfangreiche Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
    • SF-F1-T03 Auf welche einzelne Zahl zur offensiven Cyberfähigkeit eines Modells würden sich Regierungen einigen, um sie vor der Freigabe zu veröffentlichen, nicht erst danach? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 20 %Hintergrund, keine Belege
    • Luna 70 %Hintergrund, keine Belege
    • JEV 33 %umfangreiche Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F2-T01 Wenn ein Ministerium ein Modell als Beleg nennt, dass eine Schwelle überschritten ist: Veröffentlicht das Ministerium die Tests, die Modellversion und was es gemessen hat, und veröffentlicht das Labor die Cyber-Prüfung dieser Version auch in der Sprache des Ministeriums? Und welches Ergebnis würde das Ministerium dazu bringen, seine Behauptung zurückzunehmen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F2-T02 Wenn ein Staat fremde Modelle als Zeichen einer neuen Stufe nennt: Beruht das auf eigenen Messungen, die er so veröffentlichen könnte wie andere ihre Messungen? Und haben Labore vergleichbare Prüfungen fremder Modelle durchgeführt und sich entschieden, sie nicht zu veröffentlichen? Gefragt wurde das zu Minister Chen Yixins Nennung von Claude Mythos und GPT-5.5-Cyber als Zeichen der Phase „KI gegen KI“ bei Cyberangriff und -abwehr, nachdem die US-Prüfstelle CAISI Messungen von GLM-5.3 (17. September 2026) und, mit dem britischen AI Security Institute, von Kimi K3 (Juli 2026) veröffentlicht hatte, und zu Prüfungen von OpenAI und Anthropic an Modellen von DeepSeek, GLM, Qwen oder Kimi. Luna: Stufe 4 · 46 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-F2-T03 Ein Minister beschreibt Risiken durch Spionage und Datenabfluss, etwa über quelloffene KI-Agentenwerkzeuge, und durch ein Ungleichgewicht in der technologischen Entwicklung, das Monopole und Technologiebeschränkungen verschärfen. Welche veröffentlichten Belege würden diese Risiken an der Fähigkeit eines Modells statt an seiner Herkunft festmachen? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 22 %Hintergrund, keine Belege
    • Luna 36 %Hintergrund, keine Belege
    • JEV 25 %gleiches Oberthema, hilft nicht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
  5. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 27 %Hintergrund, keine Belege
    • Luna 69 %Hintergrund, keine Belege
    • JEV 58 %Hintergrund, keine Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F5-T02 Könnten Staaten gemeinsame rote Linien vereinbaren, die den Einsatz KI-verstärkter Cyberfähigkeiten gegen kritische zivile Infrastruktur strikt verbieten? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 32 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 24 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 27 %Hintergrund, keine Belege
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 25 %Hintergrund, keine Belege
    • Luna 56 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 29 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 28 %Hintergrund, keine Belege
    • Luna 53 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 56 %einzelne zitierbare Belege
    • JEV 42 %umfangreiche Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 40 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 29 %nur am Rande erwähnt
    • d3-ultra offen

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 28 %Hintergrund, keine Belege
    • Luna 38 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 26 %Hintergrund, keine Belege
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 4 · 45 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-H2-T02 Wenn ein Staat Agentenwerkzeuge mit offenem Quellcode als Risiko für Spionage und Datenabfluss einstuft und sich offen veröffentlichte Modellgewichte nicht zurückholen lassen: Welche konkreten, für die beteiligten Regierungen annehmbaren Regeln sollen die Veröffentlichung von Modellen mit offenen Gewichten und selbstständigen Agentenfähigkeiten bestimmen, und wie vermeiden diese Regeln, die offene Forschung abzuwürgen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege
    • SF-H2-T04 Wie sollen Staaten mit Open-Source-Modellen aus einem Land umgehen, die in einem anderen schädlich genutzt werden könnten, ohne legitime Forschungszusammenarbeit zu verhindern? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 31 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 31 %nur am Rande erwähnt
    • d3-ultra offen

  3. SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 51 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 61 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 27 %nur am Rande erwähnt
    • Luna 38 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 34 %nur am Rande erwähnt
    • d3-ultra offen

  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 66 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 38 %Hintergrund, keine Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →