Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
apolloohne Datum · Q001404

Apollo Research is becoming a PBC

apolloresearch.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Apollo Research will als Public Benefit Corporation weiterarbeiten, um nach eigener Einschätzung KI-Sicherheitsforschung und Produkte besser ausbauen zu können. Geplant sind ein eigenständiger Produktbereich für Agentensicherheit, zusätzliche Aufsicht durch missionsgebundene Verwaltungsratsmitglieder und eine extern bewertete Übertragung geistigen Eigentums. Die künftige Form der gemeinnützigen Einheit ist noch ungeklärt; der Bericht gibt Apollos eigene Angaben wieder.

Mittel

Apollo Research kündigt an, sich von seinem bisherigen steuerlich unterstützten Träger zu lösen und als Public Benefit Corporation (PBC) weiterzuarbeiten. Das Unternehmen begründet den Schritt mit wachsender Nachfrage nach KI-Sicherheitsforschung und Evaluationen sowie dem Bedarf, die Arbeit stärker auszubauen. Diese Einschätzungen und Marktprognosen gibt der Bericht als Apollos eigene Begründung wieder.

Apollo will weiter mit führenden KI-Unternehmen forschen und Modelle bewerten. Zusätzlich soll ein separater Produktbereich Sicherheitswerkzeuge entwickeln. Der aktuelle Schwerpunkt liegt laut Unternehmen auf Beobachtbarkeit und Kontrolle von KI-Coding-Agenten. Zunächst richtet sich das Angebot an Unternehmen an der Spitze der Agentenentwicklung; später soll es breiter verfügbar werden. Für den Produktaufbau hat Apollo nach eigenen Angaben eine von 50Y angeführte, überzeichnete Seed-Runde aufgenommen; eine Summe wird nicht genannt. Forschung und Produktgeschäft sollen organisatorisch getrennt bleiben, wobei philanthropische Mittel Teile der Forschung und Governance weiter unterstützen sollen.

Zur Missionssicherung plant Apollo unabhängige Sitze im Verwaltungsrat und nennt Daniel Kokotajlo als ersten Mission Director. Für übertragenes geistiges Eigentum sei eine externe Bewertung erfolgt und die gemeinnützige Einheit zum bewerteten Wert entschädigt worden. Wie diese Einheit künftig genau weitergeführt wird, ist noch offen. Verbleibende Mittel sollen laut Apollo dem gemeinnützigen Auftrag dienen. Der Bericht enthält Unternehmensangaben und Pläne, aber keine unabhängige Prüfung ihrer Umsetzung.

Ausführlich lesen

Apollo Research kündigt an, sich von seinem bisherigen steuerlich unterstützten Träger zu lösen und als Public Benefit Corporation (PBC) weiterzuarbeiten. Nach eigener Darstellung soll diese Organisationsform besser geeignet sein, die Mission zu erfüllen, extreme Risiken fortgeschrittener KI-Systeme zu verstehen und zu verringern. Das Unternehmen begründet den Schritt mit wachsender Nachfrage nach Sicherheitsforschung und Modellevaluationen sowie mit dem Bedarf, Forschung und Werkzeuge deutlich stärker auszubauen. Apollo erwartet, dass KI-Fähigkeiten und damit verbundene Risiken weiter zunehmen und Sicherheit für Entwickler und Nutzer zu einem großen Markt wird. Diese Einschätzungen sind die Begründung des Unternehmens, keine im Bericht unabhängig belegten Prognosen.

Apollo will weiter mit führenden KI-Unternehmen an Modellevaluationen und gemeinsamer Forschung arbeiten und seine Forschung zu Sicherheit an der KI-Spitze ausbauen. Daneben entsteht ein eigenständiger Produktbereich, der Forschungsergebnisse in Werkzeuge überführen soll. Als aktuellen Schwerpunkt nennt Apollo die Beobachtbarkeit und Kontrolle von KI-Coding-Agenten; der Bericht verweist außerdem auf ein Angebot zur Überwachung von KI-Agenten. Zunächst sollen die Produkte Unternehmen erreichen, die besonders weit entwickelte Agenten bauen oder einsetzen. Später sollen die Werkzeuge für einen breiteren Kreis von Nutzern angepasst werden. Die angestrebten Lösungen sollen nach Apollos Vorstellung auch für künftig leistungsfähigere, transformative KI-Systeme relevant sein.

Das Unternehmen erklärt, seine Forschungsarbeit zu verstärken und die Forschungs- und Produktbereiche organisatorisch zu trennen. Governance und bestimmte Forschungsarbeiten sollen teilweise weiterhin durch philanthropische Mittel unterstützt werden. Für den Aufbau der Produkte hat Apollo nach eigenen Angaben eine Seed-Finanzierungsrunde abgeschlossen. Sie wurde von 50Y angeführt, weitere Investoren werden im Bericht aufgelistet; die Runde sei überzeichnet gewesen. Eine konkrete Summe nennt der Text nicht.

Zur langfristigen Sicherung der Mission kündigt Apollo besondere Aufsichtssitze im Verwaltungsrat an: den dritten und – sobald der Verwaltungsrat auf sechs Sitze anwächst – den sechsten Sitz. Diese sollen unabhängige „Mission Directors“ besetzen, die laut Unternehmen dem Auftrag Vorrang geben können. Als ersten Mission Director nennt Apollo Daniel Kokotajlo. Weitere Governance-Regeln seien noch in Arbeit.

Für die Übertragung geistigen Eigentums berichtet Apollo, eine externe Bewertungsfirma beauftragt und das zu übertragende geistige Eigentum anschließend zum ermittelten Wert gekauft zu haben; die gemeinnützige Einheit sei dafür entschädigt worden. Apollo erklärt außerdem, Förderstiftungen früher transparent über die mögliche Umstellung informiert und sie seit einer öffentlichen Ankündigung 2023 erwogen zu haben. Die künftige Ausgestaltung der gemeinnützigen Einheit ist laut Bericht jedoch noch nicht abschließend festgelegt. Verbleibende Mittel sollen im Sinne ihrer Mission ausgegeben werden, etwa zur Förderung des Evaluationsfeldes, der Erforschung von Täuschungsverhalten und der Governance gegen Kontrollverlust. Der Bericht beschreibt somit Apollos Pläne und eigene Angaben; unabhängige Prüfungen oder detaillierte Umsetzungsnachweise enthält er nicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen (kurz und mittel) geben den Bericht korrekt wieder und verwenden nur Angaben aus dem Text; die fehlenden Punkte betreffen Stiftungstransparenz und die Marktthese. Die Einordnung stützt sich ausschließlich auf den Berichtstext, die Anteilswerte aus Lunas Einordnung wurden nicht übernommen.

Im Bericht, aber nicht in der Zusammenfassung

  • Apollo hat Stiftungen seit der öffentlichen Ankündigung 2023 transparent über einen möglichen Wechsel zum PBC-Modell informiert
  • Langfristige Marktthese: Frontier-KI-Sicherheit werde ein großer Markt, den Apollo aktiv mitgestalten will

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV offen
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht

  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV offen
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 57 %einzelne zitierbare Belege
    • JEV offen
    • amos 28 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-P2-T05 Was muss ein Prüfer veröffentlichen, wenn ein Labor seinen Sicherheitsrahmen, seine Prüfwerkzeuge oder seine Offenlegungsregeln so ändert, dass frühere Zusagen weniger durchsetzbar werden, etwa indem es enger fasst, was als meldepflichtiger Vorfall gilt, und ist er dann vor Entlassung geschützt? Und wenn Prüfer laufend KI-Agenten beobachten, die selbstständig an Modellarchitekturen und Algorithmen forschen: Welche rechtlich durchsetzbaren Regeln und welche Maßnahmen gegen unbeabsichtigte Weitergabe von Wissen (eine „kognitive Quarantäne“) verhindern bei späteren Prüfungen und bei Personalwechsel, dass sie geschützte algorithmische Durchbrüche zu Konkurrenten tragen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 49 %einzelne zitierbare Belege
    • JEV offen
    • amos 30 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 30 %Hintergrund, keine Belege
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV offen
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 23 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV offen
    • amos 31 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 36 %einzelne zitierbare Belege
    • JEV offen
    • amos 32 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 44 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV offen
    • amos 32 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 72 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV offen
    • amos 24 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 41 %gleiches Oberthema, hilft nicht

    • SF-H4-T01 Wer trägt die Verantwortung für Modellgewichte (die gelernten Parameter), Sicherheitsberichte und die Befunde der unabhängigen Prüfer im Labor, wenn ein Labor verkauft, umgebaut oder aufgelöst wird oder einen Trainingslauf aufgibt, und wird diese Kette vorher veröffentlicht? Welche Sicherheits- und Prüfpflichten gehen mit, wenn jemand Modelle, Gewichte oder Trainingsabläufe eines Labors erwirbt oder eine Firma außerhalb der KI ein Labor kauft, und muss eine Regierung vor dem Abschluss benachrichtigt werden? Welche Zusagen gelten weiter, gegen wen lassen sie sich durchsetzen, und gibt es einen Mechanismus, der das Unternehmen überdauert? Luna: Stufe 4 · 49 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

  2. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 52 %einzelne zitierbare Belege
    • JEV offen
    • amos 33 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 34 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV offen
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV offen
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV offen
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV offen
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →