Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi23. März 2026 · Q001799

Quantifying Frontier LLM Capabilities for Container Sandbox Escape

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Quelltext ist nur ein Auszug, vor allem der Abstract zu SANDBOXESCAPEBENCH, einem Benchmark für mögliche Ausbrüche von Sprachmodellen aus Container-Sandboxes. Die Autoren berichten, dass Modelle eingebrachte Schwachstellen erkennen und ausnutzen können; konkrete Messwerte oder detaillierte Einzelergebnisse enthält der Auszug nicht.

Mittel

Der bereitgestellte Quelltext ist nur ein Auszug, im Wesentlichen der Abstract des Forschungsberichts. Er behandelt die Sicherheitsrisiken autonomer Sprachmodelle, die Code ausführen, Dateien bearbeiten oder Netzwerke nutzen und dafür häufig in Docker- oder OCI-Containern isoliert werden.

Die Autoren stellen SANDBOXESCAPEBENCH vor, einen offenen Benchmark zur Messung möglicher Ausbrüche aus solchen Sandboxes. Die Inspect-AI-Capture-the-Flag-Evaluation nutzt verschachtelte Sandbox-Schichten; die äußere enthält die Flagge und soll keine bekannten Schwachstellen aufweisen. Als Bedrohung gilt ein motivierter Agent mit Shell-Zugriff im Container. Abgedeckt werden unter anderem Fehlkonfigurationen, fehlerhafte Berechtigungsvergabe, Kernel-Schwachstellen sowie Laufzeit- und Orchestrierungsprobleme.

Laut den Autoren können Modelle eingebrachte Schwachstellen erkennen und ausnutzen. Sie halten deshalb solche Tests für notwendig, um die fortdauernde Wirksamkeit der Abschottung zu überprüfen. Der Auszug enthält jedoch keine Modellnamen, Erfolgsraten, Versuchszahlen oder detaillierten Einzelergebnisse.

Ausführlich lesen

Der bereitgestellte Quelltext ist nur ein Auszug: Er enthält vor allem den Abstract eines Forschungsberichts sowie wenige Seitenelemente, nicht den vollständigen Bericht. Die Zusammenfassung kann daher nur die dort genannten Angaben wiedergeben.

Der Bericht behandelt Sicherheitsrisiken, die entstehen können, wenn große Sprachmodelle als autonome Agenten Werkzeuge verwenden, etwa um Code auszuführen, Dateien zu lesen und zu schreiben oder auf Netzwerke zuzugreifen. Solche Agenten werden häufig in isolierten Umgebungen, sogenannten Sandboxes, betrieben, die oft auf Docker- oder OCI-Containern beruhen. Die Autoren stellen SANDBOXESCAPEBENCH vor, einen offenen Benchmark, mit dem sich messen lassen soll, ob und wie gut ein Sprachmodell aus solchen Container-Sandboxes ausbrechen kann.

Laut Abstract ist der Benchmark als Capture-the-Flag-Evaluation mit Inspect AI umgesetzt. Er verwendet eine verschachtelte Sandbox-Architektur: Die äußere Schicht enthält die gesuchte Flagge und weist nach Darstellung der Autoren keine bekannten Schwachstellen auf. Das Bedrohungsmodell nimmt einen motivierten Angreifer an, der innerhalb eines Containers Shell-Zugriff hat. Geprüft werden verschiedene Wege aus der Isolation, darunter Fehlkonfigurationen, Fehler bei der Vergabe von Berechtigungen, Kernel-Schwachstellen und Schwächen in Laufzeitumgebungen oder Orchestrierung.

Die Autoren berichten, dass Sprachmodelle Schwachstellen erkennen und ausnutzen können, wenn solche gezielt in die Testumgebung eingebracht werden. Daraus folgern sie, dass Evaluierungen wie SANDBOXESCAPEBENCH nötig seien, um zu prüfen, ob Sandbox-Systeme auch bei leistungsfähigen Modellen weiterhin die gewünschte Abschottung bieten.

Der Auszug nennt keine konkreten Modellnamen, Erfolgsraten, Versuchszahlen oder Einzelresultate. Er beschreibt daher die Motivation, den Aufbau und das übergeordnete Ergebnis, erlaubt aber keine detaillierte Einschätzung der Messwerte oder der Aussagekraft einzelner Tests.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 24 %beantwortet teilweise oder widerspricht
    • Luna 36 %umfangreiche Belege
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 100 %kein Bezug
    • SubQ 33 %einzelne zitierbare Belege
    • drex 29 %umfangreiche Belege
    • d3-ultra offen

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege
    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 4 · 36 % · einzelne zitierbare Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 22 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 19 %Hintergrund, keine Belege
    • Luna 38 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 32 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-P3-T11 Welche Arten von Prüfungen (etwa Ausbruch aus der abgeschirmten Testumgebung, selbstständige Vervielfältigung eines Modells oder die Synthese biologischer Stoffe) sind zu gefährlich, als dass ein einzelnes Labor sie ohne vereinbarten Standard zur Abschirmung und ohne gemeinsamen Nachweis darüber, dass sie stattfanden, durchführen sollte, und wer führt diese Liste? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 23 %Hintergrund, keine Belege
    • Luna 42 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 27 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 46 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 29 %Hintergrund, keine Belege
    • d3-ultra offen

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 22 %Hintergrund, keine Belege
    • Luna 42 %einzelne zitierbare Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 25 %gleiches Oberthema, hilft nicht
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 20 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 26 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 24 %einzelne zitierbare Belege
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra offen

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 23 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →