Apollo Is Adopting Inspect
Zusammenfassung
Kurz
Apollo Research will nach einem dreimonatigen internen Test Inspect AI für neue Evaluationen übernehmen und sein internes Framework auslaufen lassen. Das Unternehmen erwartet Vorteile durch gemeinsame Infrastruktur und zusätzliche Funktionen, nennt aber auch Risiken wie Migrationsaufwand, weniger Kontrolle und mögliche Komplexität; die langfristigen Vorteile sind Erwartungen, keine im Bericht nachgewiesenen Ergebnisse.
Mittel
Apollo Research will Inspect AI nach einem erfolgreichen dreimonatigen internen Test als Framework für neue Evaluationen einsetzen und das eigene System auslaufen lassen. Das Unternehmen berichtet, mit seinem bisherigen, speziell zugeschnittenen Framework Zehntausende Stichproben ausgeführt zu haben. Für Inspect sprächen die Unterstützung bestehender Anwendungsfälle, erwartete künftige Funktionen wie sichere Agenten-Sandboxes sowie Werkzeuge für Web-Browsing und Freigaben. Apollo lobt außerdem die Kompetenz und Reaktionsfähigkeit des Entwicklungsteams.
Als Nachteile nennt Apollo weniger Kontrolle über Architekturentscheidungen, mögliche zusätzliche Komplexität, langsamere Feature-Entwicklung durch externe Abstimmung und eine Migration, die Wochen dauern und neue Fehler aufdecken könne. Während des Tests seien Probleme aufgetreten, die Apollo jedoch nicht für grundlegende Hindernisse halte. Das Unternehmen erwartet, dass sich die Umstellung durch bessere und schnellere Evaluationen auszahlt, besonders wenn weitere Teams Inspect nutzen. Es will an Verbesserungen etwa bei Konfigurationsverwaltung und Typsicherheit mitarbeiten. Diese Einschätzungen beruhen auf Apollos Erfahrungen und Erwartungen; langfristige Ergebnisse oder eine abgeschlossene Migration werden im Bericht nicht belegt.
Ausführlich lesen
Apollo Research kündigt an, Inspect AI als Framework für seine Evaluationen einzuführen. Nach einem erfolgreichen dreimonatigen internen Test will das Unternehmen sein eigenes Framework auslaufen lassen und alle neuen Evaluationen mit Inspect erstellen. Bereits vorhandene Evaluationen sollen migriert werden.
Apollo beschreibt, dass es im vorherigen Jahr ein leichtgewichtiges, auf die eigenen Anforderungen zugeschnittenes System entwickelt und damit Zehntausende Stichproben über verschiedene Aufgaben und Modelle hinweg ausgeführt habe. Der Wechsel zu einem offenen Framework sei daher nicht selbstverständlich gewesen. Als mögliche Vorteile nennt Apollo, gemeinsame Infrastrukturprobleme wie skalierbare Aufgaben und sichere Agenten-Sandboxes zusammen mit anderen zu lösen, Evaluationen leichter zwischen Teams auszutauschen und fachliche Zusammenarbeit durch gemeinsame Begriffe und vergleichbaren Code zu erleichtern. Außerdem wolle das Unternehmen offene Werkzeuge stärken.
Apollo führt auch Nachteile an: Bei Inspect habe es weniger Einfluss auf grundlegende Architekturentscheidungen; anders als das interne Framework priorisiere Inspect derzeit etwa keine Typsicherheit. Ein allgemeineres Framework könne zudem mehr Komplexität und Aufwand bei Entwicklung und Fehlersuche mit sich bringen. Neue Funktionen könnten wegen Abstimmungen mit externen Maintainerinnen und Maintainer langsamer umgesetzt werden. Die Migration bestehender Implementierungen könne Wochen beanspruchen und neue Fehler sichtbar machen.
Für Inspect spreche laut Apollo, dass es während des Tests bestehende Anwendungsfälle unterstützt habe und die dabei aufgetretenen Probleme als lösbar eingeschätzt würden. Das Unternehmen halte das Design für flexibel genug für künftige Anforderungen und erwarte Funktionen, deren Eigenentwicklung Monate dauern könnte, darunter sichere Sandboxes und Werkzeuge für interpretierbarkeitsbasierte Evaluationen. Vorhandene Funktionen wie Web-Browsing-Werkzeuge und ein Freigabemodus eröffneten weitere Möglichkeiten, auch wenn Apollo sie nicht unbedingt sofort benötige. Positiv bewertet das Unternehmen außerdem die Reaktionsfähigkeit und Kompetenz des Inspect-Teams am britischen AI Safety Institute sowie dessen Umgang mit Rückmeldungen und unterschiedlichen Architekturansichten.
Apollo sagt, es sei inzwischen zuversichtlich, dass das Team die Anforderungen berücksichtigen und die Software mindestens einige Jahre pflegen werde. Die erwartete Rendite der anfänglichen Umstellungskosten liege darin, künftig bessere Evaluationen schneller erstellen zu können; eine breitere Nutzung könne diesen Effekt verstärken. Apollo wolle selbst zu Verbesserungen beitragen, besonders bei Konfigurationsverwaltung und Typsicherheit, sowie möglicherweise Funktionen oder Tutorials zu Evaluationen von fortgeschrittenen Agenten in großem Maßstab beisteuern. Zugleich ermutigt es andere, Inspect zu prüfen, weil ein gemeinsames Format den Austausch von Aufgaben erleichtern und den Infrastrukturaufwand verringern könnte. Der Bericht präsentiert diese Einschätzungen als Apollos begründete Erwartungen und Erfahrungen aus einem dreimonatigen Versuch; unabhängige Ergebnisse zur langfristigen Wirkung oder zur Migration werden nicht berichtet.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung wurde anhand der mittleren Fassung bewertet, die kurze Fassung ist inhaltlich überwiegend treu und lässt vor allem die Vorteile des Teilens und die Skepsis Apollos aus. Die Einordnung stützt sich auf den Bericht, der im Kern eine Entscheidung zur Evals-Infrastruktur von Apollo Research beschreibt.
Im Bericht, aber nicht in der Zusammenfassung
- Der Nutzen des gemeinsamen Teilens von Evals und des Austauschs von Expertise sowie das Ziel, Inspect als gemeinsamen Standard zu etablieren
- Die anfängliche Skepsis Apollos gegenüber dem Wechsel und die Erwartung, dass sich die Migration langfristig auszahlt
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Web-Browsing und Approval-Modus werden als künftig erwartete Funktionen dargestellt, der Bericht nennt sie aber als bereits vorhandene Inspect-Features
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 27 %Hintergrund, keine Belege
- Luna 50 %Hintergrund, keine Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 27 %gleiches Oberthema, hilft nicht
- drex 25 %Hintergrund, keine Belege
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern?
- SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen?
- SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt?
- SF-F1-T09 Wem gehört eine gemeinsam gebaute Testsammlung, wer darf sie an wessen Modellen erneut laufen lassen, darf ein Beteiligter seine Aufgaben zurückziehen, nachdem Ergebnisse veröffentlicht sind, und was wird dann aus der Vergleichbarkeit?
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 27 %nur am Rande erwähnt
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 42 %gleiches Oberthema, hilft nicht
- JEV
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 19 %gleiches Oberthema, hilft nicht
- Luna 62 %einzelne zitierbare Belege
- JEV
- amos 31 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 25 %gleiches Oberthema, hilft nicht
- d3-ultra 56 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 59 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 50 %einzelne zitierbare Belege
- JEV
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 25 %Hintergrund, keine Belege
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 31 %gleiches Oberthema, hilft nicht
- d3-ultra 49 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 34 %nur am Rande erwähnt
- JEV
- amos 30 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 37 %einzelne zitierbare Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage?
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 26 %Hintergrund, keine Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 60 %einzelne zitierbare Belege
- JEV
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 61 %einzelne zitierbare Belege
- JEV
- amos 25 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-E4-T03 Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv