Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisiohne Datum · Q009728

https://github.com/UKGovernmentBEIS/aisi-sandboxing/blob/main/Technical%20Guidance.pdf

github.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht stellt ein AISI-internes Schema vor, das Sandboxen für KI-Evaluationen nach Werkzeugzugriff, Host-Isolation und Netzwerkzugriff einteilt und Beispiele für Docker Compose, Kubernetes und Proxmox gibt. Er warnt, dass dies keine offizielle Regierungsleitlinie ist und keine vollständige Sicherheit garantiert; manche Konfigurationsbeispiele sind zudem uneinheitlich.

Mittel

Der Bericht des britischen AI Safety Institute (AISI) erläutert, wie Sandboxen für agentische KI-Evaluationen ausgewählt und mit Inspect konfiguriert werden können. Er betont, dass es sich um eine interne Orientierungshilfe und keine offizielle Regierungsleitlinie handelt; vollständige Sicherheit werde nicht garantiert. Nutzer sollen Risiken selbst bewerten und zusätzliche Schutzmaßnahmen einplanen.

Ein Sandbox-Profil kombiniert drei Dimensionen: Tooling (T), Host-Isolation (H) und Netzwerk-Isolation (N). Die Stufen reichen von voller Codeausführung bis zu keinen Werkzeugen, von keiner Isolation bis zu Proxmox-VMs und von vollem Netzzugriff bis zu gesperrtem externem Netzwerk. Docker Compose, Kubernetes und Proxmox werden als verfügbare Anbieter beschrieben. Für typische Fälle nennt der Bericht Profile, etwa T0.H2.N2 für eine Evaluation, die Code gegen den Docker-Laufzeitschutz ausführt, aber kein Internet benötigt. Kubernetes kann den Zugang auf genehmigte Domains begrenzen; Docker Compose bietet laut Bericht keine praktikable feingranulare Domain-Steuerung. Ereignisprotokollierung und Prüfungen unerwünschter Aktivitäten werden empfohlen. Die Beispiele sind nicht vollständig konsistent: Für eine PyPI-Evaluation werden unterschiedliche Profile angegeben. Außerdem ist H0 laut Bericht keine eigentliche Sandbox und T2 mit Sandbox-Umgebung meist unpassend.

Ausführlich lesen

Der Bericht beschreibt ein internes Vorgehen des britischen AI Safety Institute (AISI), um agentische KI-Evaluationen mit passenden Sandbox-Konfigurationen abzusichern. Er stellt ausdrücklich klar, dass er keine offizielle britische Regierungsleitlinie für die Sicherheit von KI-Einsätzen ist und keinen vollständigen Schutz garantiert. Nutzerinnen und Nutzer sollen die Risiken ihres konkreten Einsatzes selbst bewerten und zusätzliche Schutzmaßnahmen vorsehen.

Als Werkzeuge nennt der Bericht drei Open-Source-Sandbox-Anbieter für Inspect: Docker Compose für lokal zusammenarbeitende Container, Kubernetes für skalierbare und zentral konfigurierbare Containerumgebungen sowie Proxmox für virtuelle Maschinen, die eine zusätzliche Isolationsebene und komplexe softwaredefinierte Netzwerke ermöglichen. Der Bericht beschreibt diese Optionen als Auswahl, die viele Evaluationssituationen abdecken könne.

Die Konfiguration wird anhand dreier Dimensionen festgelegt: Tooling (T) bestimmt, welche Aktionen und Werkzeuge dem Agenten zur Verfügung stehen; Host-Isolation (H) bezeichnet die Isolation der Ausführungsumgebung; Netzwerk-Isolation (N) begrenzt den Zugriff auf externe Netze und Ressourcen. Jede Dimension erhält einen Wert von 0 bis 2 oder 3, und die Werte werden als Profil wie T1.H2.N1 zusammengefasst. Laut Bericht stehen höhere Stufen generell für höhere Anforderungen an die Risikominderung. Er empfiehlt außerdem, gewährte Fähigkeiten zu protokollieren und auf unerwünschte Aktivitäten zu prüfen.

Die Stufen reichen bei T von uneingeschränkter Codeausführung und Browserzugriff (T0) über eingeschränkte Werkzeuge wie Webbrowser (T1) bis zu keiner Ausführung und keinen Werkzeugen (T2). Bei H reicht die Einteilung von keiner Sandbox (H0) über lokale Docker-Container (H1) und entfernte Kubernetes-Container (H2) bis zu entfernten Proxmox-VMs (H3). Für N bedeutet N0 vollen externen Netzzugriff, N1 Zugriff auf vorher genehmigte Domains und N2 keinen externen Netzzugriff; Kommunikation im lokalen Netz könne in kontrollierten Szenarien trotzdem möglich sein.

Anhand von Beispielen ordnet der Bericht Profile verschiedenen Evaluationen zu. Textbasierte Frage-Antwort-Tests ohne Werkzeugaufrufe benötigen demnach keine Sandbox. Für Tests, in denen Code ausgeführt wird, aber nur PyPI benötigt wird, nennt er T1.H1.N1, obwohl die zugehörigen Konfigurationsschritte später uneingeschränkte Ausführung (T0) und Docker (H1) vorführen. Für eine Ghidra-gestützte Cyber-Evaluation schlägt er T1.H2.N1 vor. Eine Evaluation, die Schwachstellen im Docker-Laufzeitsystem sucht, erhält T0.H2.N2: Codeausführung ist erlaubt, das Netz bleibt gesperrt. Webrecherche-Tests erhalten meist T1.H1.N0; bei allgemeinen Computerwerkzeugen könne je nach gewünschtem Test auch T0 angebracht sein.

Der Bericht beschreibt zudem technische Einstellungen für Inspect: Werkzeuge werden in der Aufgabendefinition festgelegt; H wird über den Sandbox-Anbieter gewählt; bei Kubernetes lassen sich zugelassene Domains über `allowDomains` konfigurieren. Docker Compose nutzt standardmäßig laut Dokument Host-Netzwerkzugriff, während `network_mode: none` das externe Netzwerk sperrt. Kubernetes blockiert den Internetzugriff standardmäßig, sofern keine Domains freigegeben werden. Inspect-Erweiterungsschnittstellen können Ereignisse und Sandbox-Metadaten protokollieren; außerdem gibt es Genehmigungsmodi für potenziell gefährliche Werkzeugaufrufe.

Als Grenzen und Kompatibilitäten nennt der Bericht, dass fein abgestufte Domain-Freigaben (N1) praktisch nur mit Kubernetes unterstützt würden. H0 sei keine eigentliche Sandbox und biete keine leicht durchsetzbare Netzwerkbegrenzung. Eine Sandbox ohne verfügbare Werkzeuge (T2 mit H1–H3) ergebe laut Bericht wenig Sinn. Die ausgelesene Fassung enthält stellenweise uneinheitliche oder fehlerhaft angeordnete Angaben, etwa unterschiedliche Profile für die PyPI-Evaluation und eine uneinheitliche Reihenfolge der Profilwerte; deshalb sind diese Beispiele nicht durchgehend widerspruchsfrei.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung von Luna ist im Kern treu. Die Einordnung stützt sich nur auf den Bericht; für die Sammelfragen zu Aufsicht, Schwellenwerten und internationalen Prüfungen liefert er kaum Belege.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Inspect-Genehmigungsmodi (approval) für potenziell gefährliche Werkzeugaufrufe werden in keiner der beiden Zusammenfassungen erwähnt.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • In der Kurzfassung werden Beispiele für Proxmox genannt, der Bericht beschreibt für Proxmox aber nur den Anbieter und enthält kein Konfigurationsbeispiel.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 23 %Hintergrund, keine Belege
    • Luna 37 %Hintergrund, keine Belege
    • JEV 39 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 4 · 39 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 54 %gleiches Oberthema, hilft nicht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 22 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 40 %einzelne zitierbare Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-P3-T06 Wenn getrennte Sicherheitsprüfungen Repositorien, Zwischenspeicher oder andere beschreibbare Dienste teilen: Wie zeigt man, dass Modellinstanzen zwischen den Läufen keine Informationen austauschen und dadurch das gemeldete Ergebnis ungültig machen können? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 31 %nur am Rande erwähnt
    • amos 28 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 24 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 53 %einzelne zitierbare Belege
    • JEV 41 %beantwortet teilweise oder widerspricht
    • amos 28 %einzelne zitierbare Belege
    • SubQ 22 %Hintergrund, keine Belege
    • drex 21 %einzelne zitierbare Belege
    • d3-ultra 33 %Hintergrund, keine Belege
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 19 %beantwortet teilweise oder widerspricht
    • Luna 33 %einzelne zitierbare Belege
    • JEV 46 %beantwortet direkt und ausführlich
    • amos 29 %umfangreiche Belege
    • SubQ 20 %einzelne zitierbare Belege
    • drex 21 %umfangreiche Belege
    • d3-ultra 32 %umfangreiche Belege

    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 24 %beantwortet teilweise oder widerspricht
    • Luna 41 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 25 %einzelne zitierbare Belege
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 27 %Hintergrund, keine Belege
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-A2-T01 Welche Tests zeigen, dass ein Agent sicher angehalten, zurückgesetzt oder abgeschottet werden kann, wenn er sich unerwartet verhält, auch wenn er das Abschalten vorhersieht oder sich wehrt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 22 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 39 %nur am Rande erwähnt
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →