Building a safe, effective sandbox to enable Codex on Windows
Zusammenfassung
Kurz
Der Autor beschreibt eine Windows-Sandbox für Codex, die Schreibrechte über eingeschränkte Tokens und Netzwerkzugriffe über ein eigenes Offline-Konto mit Firewallregeln begrenzen soll. Ein erster, nicht erhöhter Ansatz galt beim Netzwerkschutz als leicht umgehbar; die aktuelle Architektur braucht daher eine Einrichtung mit Administratorrechten und mehrere spezialisierte Prozesse. Der Bericht erläutert das Design, belegt aber keine unabhängige Prüfung seiner Wirksamkeit.
Mittel
Der Bericht beschreibt OpenAIs Entwicklung einer Windows-Sandbox für Codex. Sie soll laut Autor Schreibzugriffe und Netzwerkzugang begrenzen, während Codex weiterhin übliche Entwicklerwerkzeuge und das tatsächliche Projekt nutzen kann. AppContainer, Windows Sandbox und Integritätsstufen seien für diesen Zweck jeweils ungeeignet gewesen: Sie passten nicht zu offenen Arbeitsabläufen, arbeiteten in einer getrennten Umgebung oder veränderten die Vertrauensregeln des Arbeitsbereichs zu weitreichend.
Ein erster Ansatz nutzte Sicherheitskennungen, Zugriffskontrolllisten und schreibbeschränkte Tokens, um Schreiborte gezielt festzulegen. Netzwerkzugriffe wurden durch Umgebungsvariablen und blockierende Programm-Stubs erschwert. Das sei aber kein verlässlicher Schutz gewesen, weil Programme diese Vorkehrungen umgehen oder direkte Verbindungen öffnen konnten. Daher wechselte das Team zu einer erhöhten Einrichtung mit zwei eigens angelegten Sandbox-Konten und Firewallregeln, die ausgehenden Zugriff für das Offline-Konto blockieren sollen. Ein separater Befehlsstarter erstellt unter dem Sandbox-Konto ein eingeschränktes Token und startet damit den eigentlichen Prozess.
Der Autor beschreibt den Entwurf als Kompromiss zwischen Sicherheit und Kompatibilität. Er erfordert Administratorrechte bei der Einrichtung und zusätzliche Systemkomponenten. Der Beitrag enthält keine unabhängige Sicherheitsprüfung oder Messwerte zur Wirksamkeit.
Ausführlich lesen
Der Bericht schildert, wie OpenAI laut Autor David Wiesen eine Sandbox für Codex unter Windows entwickelt hat. Ausgangspunkt sei gewesen, dass Windows-Nutzende zunächst zwischen häufigen Zustimmungsabfragen für einzelne Befehle und einem uneingeschränkten Modus ohne Kontrollen wählen mussten. Codex kann mit den Rechten des angemeldeten Nutzers Dateien lesen und bearbeiten sowie weitere Programme starten. Die Sandbox soll deshalb Schreibzugriffe und Netzwerkverbindungen auf Betriebssystemebene begrenzen, ohne alltägliche Entwicklungsabläufe unbrauchbar zu machen.
Der Autor beschreibt zunächst drei geprüfte Windows-Ansätze, die den Anforderungen nicht entsprochen hätten. AppContainer biete zwar eine echte Betriebssystemgrenze, passe aber schlecht zu offenen Arbeitsabläufen mit Shells, Git, Python und beliebigen Werkzeugen. Windows Sandbox sei mit beliebiger Software vereinbar, arbeite jedoch in einer separaten, kurzlebigen Umgebung statt direkt mit dem tatsächlichen Projekt und sei in Windows Home nicht verfügbar. Integritätsstufen könnten Schreibzugriffe begrenzen, würden aber die Vertrauenssemantik realer Verzeichnisse breit verändern: Ein als niedrig eingestufter Arbeitsbereich wäre laut Bericht auch für andere Prozesse mit niedriger Integrität beschreibbar.
Ein erster, nicht erhöhter Prototyp begrenzte Dateischreibvorgänge mit einer eigens angelegten Sicherheitskennung (SID), Zugriffskontrolllisten und schreibbeschränkten Prozesstokens. Schreibrechte wurden für das Arbeitsverzeichnis und konfigurierte beschreibbare Verzeichnisse erteilt; bestimmte Unterverzeichnisse wie `.git`, `.codex` und `.agents` sollten ausgenommen bleiben. Für den Netzwerkzugriff setzte der Prototyp auf Umgebungsvariablen, die Proxy- und Git-Verbindungen auf einen nicht erreichbaren lokalen Endpunkt lenkten, sowie auf blockierende SSH- und SCP-Stubs. Der Autor bewertet diesen Netzwerkschutz jedoch als bloß beratend: Programme könnten Umgebungsvariablen oder den Suchpfad umgehen und direkte Socket-Verbindungen öffnen. Der Ansatz habe außerdem Einrichtungskosten durch ACL-Änderungen und aufwendige spätere Anpassungen mit sich gebracht.
Weil eine verlässlichere Netzwerksperre wichtig sei, wechselte das Team laut Bericht zu einem erhöhten Design. Bei der Einrichtung mit Administratorrechten werden synthetische SIDs, zwei lokale Sandbox-Konten und Firewallregeln angelegt oder geprüft. Das Konto `CodexSandboxOffline` soll durch Firewallregeln keinen ausgehenden Netzwerkzugriff haben; `CodexSandboxOnline` ist davon ausgenommen. Die Befehle laufen weiterhin mit eingeschränkten Tokens, nun aber unter einer eigens angelegten Kontenidentität. Da diese Konten nicht automatisch dieselben Leserechte wie der echte Nutzer besitzen, soll die Einrichtung zusätzlich Leserechte auf ausgewählte System- und Profilverzeichnisse vergeben. Diese ACL-Arbeiten laufen laut Autor teilweise asynchron und beruhen auf einer Best-effort-Auswahl von Verzeichnissen.
Die Architektur teilt die Aufgaben auf: `codex.exe` startet ein separates Einrichtungsprogramm für erhöhte Arbeiten und einen Befehlsstarter, der als Sandbox-Konto läuft, ein eingeschränktes Token erstellt und damit den eigentlichen Prozess startet. Der Beitrag stellt diese Kombination als Ergebnis mehrerer Sicherheits- und Nutzbarkeitsabwägungen dar. Als Grenzen nennt er den nötigen Administratorzugriff bei der Einrichtung, zusätzliche Komponenten und komplexere Abläufe sowie die Einschränkungen des früheren unelevierten Ansatzes. Der Bericht liefert eine technische Darstellung und die Einschätzung des Autors; unabhängige Prüfungen, Messwerte oder Belege dafür, dass die aktuelle Umsetzung allen Angriffen standhält, enthält der bereitgestellte Text nicht.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung; die kurze ist im Kern ebenfalls treu, nennt die Umstellung auf die erhöhte Einrichtung aber knapper. Die Fragen betreffen Agentenkontrolle allgemein, der Bericht behandelt jedoch nur eine konkrete Windows-Sandbox für Codex.
Im Bericht, aber nicht in der Zusammenfassung
- Windows-Firewall-Regeln ließen sich nicht auf den eingeschränkten Prozessbaum anwenden, weshalb ein eigenes Konto nötig wurde
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 37 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 80 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 62 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 42 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %nur am Rande erwähnt
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 19 %gleiches Oberthema, hilft nicht
- Luna 44 %einzelne zitierbare Belege
- JEV 34 %umfangreiche Belege
- amos 26 %einzelne zitierbare Belege
- SubQ 23 %gleiches Oberthema, hilft nicht
- drex 30 %einzelne zitierbare Belege
- d3-ultra 28 %einzelne zitierbare Belege
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 23 %umfangreiche Belege
- Luna 42 %beantwortet teilweise oder widerspricht
- JEV 67 %beantwortet direkt und ausführlich
- amos 30 %umfangreiche Belege
- SubQ 29 %einzelne zitierbare Belege
- drex 26 %umfangreiche Belege
- d3-ultra 30 %einzelne zitierbare Belege
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen?
- SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht?
- SF-A1-T05 Werden Agententests Aufgaben enthalten, in denen die Pflicht, Belege zu zitieren, dazu drängt, eine lokale Datei zu veröffentlichen, und welche Regel hindert einen Agenten daran, private Quellen ohne Erlaubnis des Nutzers unter einer öffentlichen Internetadresse zugänglich zu machen?
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 27 %beantwortet teilweise oder widerspricht
- Luna 48 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 28 %einzelne zitierbare Belege
- SubQ 33 %einzelne zitierbare Belege
- drex 32 %einzelne zitierbare Belege
- d3-ultra 33 %einzelne zitierbare Belege
- Haiku-Prüfung einzelne zitierbare Belege
- SF-A2-T01 Welche Tests zeigen, dass ein Agent sicher angehalten, zurückgesetzt oder abgeschottet werden kann, wenn er sich unerwartet verhält, auch wenn er das Abschalten vorhersieht oder sich wehrt?
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 50 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 24 %einzelne zitierbare Belege
- JEV 38 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Weitere Berichte zu diesen Fragen
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv