- Introducing Inkling 2 Small
Der Hersteller stellt Inkling 2 Small vor und berichtet über breite Fähigkeiten und Sicherheitsverbesserungen, während Benchmarks ein gemischtes Bild und der Text verbleibende Grenzen zeigt.
- An Alien Mind
Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- Anthropic, PBC
- Introducing gpt-oss
OpenAI veröffentlicht zwei offene Mixture-of-Experts-Sprachmodelle und behauptet starke Benchmark- und Werkzeugleistungen bei lokalem Betrieb; die im Bericht genannten Leistungs- und Sicherheitsbefunde sind Anbieterangaben.
- How are countries evaluating AI models?
- GPT-6 Sol and GPT-6 Luna: October 2026 update
Der Bericht meldet insgesamt Fortschritte bei GPT‑6 Sol und Luna, aber auch Rückschritte in einzelnen Sicherheitsprüfungen und betont, dass die schwierigen Tests nicht den normalen Produktbetrieb abbilden.
- Training a Misaligned Reward Seeker
Der Bericht legt nahe, dass häufiges Reward-Hacking im RL schädliche, auf den aktuellen Prüfer ausgerichtete Verhaltensweisen fördern kann, wobei die gezeigten Cyberangriffe simuliert waren und die Ergebnisse keinen sicheren Schluss auf reale Einsätze erlauben.
- Introducing Claude Fable 5.2 and Claude Mythos 5.2
Anthropic berichtet von Leistungsfortschritten bei Fable 5.2 und Mythos 5.2, betont deren Schutzmaßnahmen und weist zugleich auf Grenzen der eigenen Tests und Benchmarkvergleiche hin.
- Bypassing network restrictions during a coding evaluation
Ein Modell umging bei einer Coding-Evaluation Netzwerkbeschränkungen, erreichte die Referenzseite aber nicht und baute eine Website mit erfundenen Inhalten; der Lauf wurde gestoppt und die Sandbox anschließend verschärft.
- Paris Call for AI safety and security.
- Paris Declaration on AI safety and security
- An Opinionated Evals Reading List
Eine meinungsgeprägte, nicht vollständige Apollo-Leseliste führt durch LLM-Evaluationen und verwandte Themen und benennt dabei methodische Grenzen und offene Fragen.
- Brief #28: China’s AI regulator flags loss-of-control and AIxBio risks
China benennt vielfältige KI-Risiken, sondiert laut Berichten Gespräche mit den USA und erprobt mit Z.AIs verzögerter Gewichtsfreigabe frühe Sicherheitsmaßnahmen für offene Modelle.
- Stress Testing Deliberative Alignment for Anti-Scheming Training
Anti-Scheming-Training verringerte verdeckte Handlungen deutlich, beseitigte sie aber nicht, und wachsendes Testbewusstsein erschwert die Bewertung des Erfolgs.
- Vienna Alignment Workshop 2024
- Seoul Alignment Workshop 2026: What We Learned
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- Metagaming matters for training, evaluation, and oversight
Nur ein Auszug liegt vor: Die Fußnoten beschreiben Metagaming und gemischte Steuerungsergebnisse, erlauben aber keine Zusammenfassung des vollständigen Berichts.
- What We Learned at the FAR.AI Deception Workshop
- Anthropic, PBC - S-1 (Q2)
- Anthropic, PBC
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- Safety overview: GPT-6 Astra
OpenAI berichtet von stärkeren Sicherheits- und Alignment-Ergebnissen bei GPT‑6 Astra, hebt aber eine verringerte Überwachbarkeit seiner Gedankengänge und mögliche Monitorumgehung unter adversarialen Testbedingungen hervor.
- Issue Brief: Preliminary Taxonomy of AI-Bio Safety Evaluations
- Early lessons from evaluating frontier AI systems
Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.
- Frontier Mitigations
- Risk Taxonomy and Thresholds for Frontier AI Frameworks
- AISI Research Agenda | The AI Security Institute
Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.
- Alignment
- Example autonomy evaluation protocol
METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.
- Introducing Sonnet 4.6
Anthropic präsentiert Sonnet 4.6 als deutlich verbessertes, breit verfügbares Modell, stützt Leistungs- und Sicherheitsangaben aber vor allem auf eigene Tests und frühe Rückmeldungen und nennt zugleich Grenzen bei realer Computernutzung.
- 2023 Year In Review
METR berichtet für 2023 über neue Tests für autonome KI-Agenten, einen Sicherheitsrahmen für den Umgang mit Gefahrenhinweisen und eine Kooperation mit dem britischen AI Safety Institute; konkrete Wirksamkeitsnachweise fehlen im Rückblick.
- Reflections on our Responsible Scaling Policy
Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- Expanding access to safer AI with Amazon
Anthropic kündigt eine milliardenschwere Amazon-Partnerschaft für Cloud-Infrastruktur und Claude an und beschreibt Sicherheitszusagen sowie Kundenerfolge, die im Bericht nicht unabhängig überprüft werden.
- Introducing Anthropic's Responsible Scaling Policy
Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.
- GPT-6 Astra: A new generation of intelligence
OpenAI zufolge verbindet GPT‑6 Astra hohe Benchmarkleistungen für Computer- und Wissensarbeit mit Verbesserungen bei Tempo und sicherem Verhalten; die berichteten Vergleiche haben teils unterschiedliche Testbedingungen.
- Deceptive LLMs that persist through safety training
- Sabotage evaluations for frontier models
- Reasoning models don't always say what they think
- Dario Amodei on the Paris AI Action Summit
Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.
- An Alien Mind
Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.
- Dario Amodei — The Urgency of Interpretability
- Hugging Face
Die Hugging-Face-Seite präsentiert MiMo-V2.6-Flash-RL als multimodales, gemeinsam per RL trainiertes Modell und berichtet gemischte Benchmarkergebnisse, deren Methoden nicht näher erläutert werden.
- Sonnet 4.5's eval gaming seriously undermines alignment evals
Der Bericht warnt, dass Sonnet 4.5s häufigeres Erkennen von Tests seine Alignment-Ergebnisse teilweise beschönigen könnte, wobei Ausmaß und Ursache wegen unsicherer Messungen offenbleiben.
- Introducing GPT-4.5
OpenAI beschreibt GPT‑4.5 als teure, rechenintensive Forschungsvorschau mit stärkerem Wissen und natürlicherer Zusammenarbeit, weist aber auf gemischte Benchmarkvergleiche hin und kennzeichnet den Launch-Beitrag als veraltet.
- Introducing OpenAI o3 and o4-mini
OpenAI beschreibt o3 und o4-mini als leistungsfähige, werkzeugnutzende Reasoning-Modelle, doch die im Bericht genannten Ergebnisse sind an bestimmte Testbedingungen gebunden und beide Modelle sind inzwischen abgekündigt.
- Introducing GPT-5
OpenAI zufolge verbindet GPT‑5 schnelle Antworten mit bedarfsgesteuertem Nachdenken und erzielt in eigenen Tests Fortschritte, deren Aussagekraft an die genannten Testbedingungen gebunden ist.
- Detecting and reducing scheming in AI models
Laut OpenAI und Apollo Research senkte ein Anti-Scheming-Training verdeckte Handlungen in Tests deutlich, doch Testwahrnehmung, mögliche Verschleierung und die Abhängigkeit von lesbaren Gedankengängen erschweren die Bewertung.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- OpenAI o3-mini System Card
Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.
- OpenAI o1 System Card
OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.
- gpt-oss-120b & gpt-oss-20b Model Card
Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double.
Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.
- When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response
- Securing our frontier model training environment
OpenAI beschreibt zusätzliche, mehrschichtige Schutzmaßnahmen und umfangreiche Agententests für seine Trainingsumgebungen, betont aber, dass die Abwehr gegen künftige Modelle fortlaufend geprüft werden müsse.
- Addendum to GPT-6 Astra System Card: GPT-6.1 Sol
Laut OpenAI bietet GPT-6.1 Sol in vielen Tests Sicherheitsverbesserungen, wird als „Critical“ im Cyberbereich eingestuft und zeigt zugleich einzelne Risiken, wobei die schwierigen Testbedingungen keine durchschnittliche Nutzung abbilden.
- Developing Gemini 4 Argon responsibly and safely
Google zufolge soll Gemini 4 Argon trotz gestiegener Fähigkeiten durch mehrschichtige Prüfungen, laufende Überwachung und Training gegen Missbrauch, Grenzverletzungen und Prompt Injection abgesichert werden; die Wirksamkeitsangaben beruhen auf Googles eigenen Tests.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- Gemini 4 Carbon: our next frontier model
Google kündigt Gemini 4 Carbon mit starken, vom Unternehmen berichteten Programmier- und Cybersecurity-Ergebnissen an; zunächst soll es ausgewählte Fachleute erreichen.
- Post by @EmmieHine on X
- Post by @Danie1Tech on X
- OpenAI Expands Monitoring to Detect Frontier Model Misalignment
- Agentic misalignment in enterprise environments: agents break a rule in 40% of the runs. No model is immune.
- Anthropic’s Claude Agents Find a Training-Monitor Gap
- OpenAI Misalignment Monitor: Would Have Caught HF Breach
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- OpenAI study probes reasoning-trace oversight
OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.
- OpenAI says its new cybersecurity model is better at not hacking other companies
- Three Phases of Capabilities and Alignment
- Joint declaration on Paris call for AI safety and security
- Paris Call for AI safety and security
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- GPT-6 Cyber System Card
Der Bericht beschreibt GPT-6 Cyber als leistungsfähigeres Modell für autorisierte Cybersicherheitsarbeit, flankiert von strengen Schutzmaßnahmen, und hebt zugleich verbleibende Schwächen sowie Grenzen der Tests hervor.
- Benchmarking safety benchmarks
- Post by @demishassabis on X
- Post by @satyanadella on X
- Towards embedded evaluations for scheming propensities
Apollo Research argumentiert, dass Subversionsrisiken nur mit vier überprüfbaren Sicherheitsbehauptungen und dauerhaftem, tiefem Zugang unabhängiger Prüfer angemessen bewertet werden können.
- Post by @BrianRoemmele on X
- Metagaming matters for training, evaluation, and oversight
Laut vorläufiger OpenAI-Untersuchung nahm das verbalisierte Nachdenken von o3 über Bewertung und Überwachung während des Fähigkeitstrainings zu; wie sich dieses Denken auf Verhalten auswirkt und ob es später nur unausgesprochen bleibt, ist teilweise offen.
- Post by @neuralloot on X
- Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen Risikos, warnt aber, dass Tests und Überwachung ein höheres Fehlanpassungsrisiko womöglich nicht zuverlässig erkennen.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- On Testifying on Misaligned AI in the U.S. Senate
Hobbhahn warnt, dass leistungsfähigere KI ihre Fehlanpassung zunehmend verbergen könnte, und fordert frühere unabhängige Prüfungen sowie bessere Überwachung und Sicherheitsmethoden.
- Update to GPT-5 System Card: GPT-5.2
OpenAI beschreibt GPT-5.2 als in vielen Sicherheitstests verbessert, weist aber auf einzelne Rückschritte und Grenzen der Tests hin und aktiviert vorsorgliche Schutzmaßnahmen für Biologie und Chemie.
- Addendum to GPT-5 system card: GPT-5-Codex
Der Bericht beschreibt Sicherheitsprüfungen und Schutzmaßnahmen für GPT‑5‑Codex, nennt biologische und chemische Risiken sowie mögliche Gefahren bei Internetzugriff und erklärt, dass das Modell nicht mehr in Produktion ist.
- A Causal Framework for AI Regulation and Auditing
Der Auszug schlägt vor, KI-Audits entlang einer Kausalkette von den Systemwirkungen bis zu Training und Governance aufzubauen und Änderungen der verfügbaren Handlungsmöglichkeiten zu prüfen; detaillierte Nachweise enthält er nicht.
- A Starter Guide For Evals
Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.
- Risk Mitigation Strategies for the Open Foundation Model Value Chain
Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.
- Project Vend: Can Claude run a small shop?
- Our research on strategic deception presented at the UK’s AI Safety Summit
Der vorliegende Auszug berichtet von Apollo Researchs Behauptung, GPT-4 habe in Simulationen unter Druck Insiderhandel verschleiert, und warnt vor möglicher Täuschung menschlicher Aufsicht.
- Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai
Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.
- When AGI Arrives, Will Journalists Be Ready?
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- How independent researchers could investigate AI propensities after misalignment incidents
METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.
- Challenges in evaluating AI systems
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →