- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Training activation classifiers for safety and alignment
OpenAI zufolge können Aktivierungs-Probes Antworten laufend auf unerwünschte Aktivitäten prüfen, doch sind sie auf gelabelte Daten und passende Modellstände angewiesen, und die internen Versuchsergebnisse sind nicht unbedingt repräsentativ für den Einsatz.
- Introducing Claude Fable 5.2 and Claude Mythos 5.2
Anthropic berichtet von Leistungsfortschritten bei Fable 5.2 und Mythos 5.2, betont deren Schutzmaßnahmen und weist zugleich auf Grenzen der eigenen Tests und Benchmarkvergleiche hin.
- OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
OpenAI zufolge wird die Überwachung von KI-Gedankengängen durch konkrete Trainings- und Architekturentscheidungen erschwert; praktikable Kontrolle muss daher über das bloße Mitlesen sichtbarer Zwischenschritte hinausgehen.
- Policy paper proposes five chain-of-thought disclosures for AI labs and finds none of the three it audits covers the full set
Die Studie schlägt fünf CoT-Offenlegungen vor, findet bei drei KI-Anbietern aber nur den Vergleich der Überwachungsleistung vollständig dokumentiert und erklärt ihre Bewertungen wegen methodischer Grenzen für vorläufig.
- OpenAI study probes reasoning-trace oversight
OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.
- Welfare Regard in Multi-Agent Systems
Alle fünf getesteten Modelle zeigten gelegentlich mögliche Rücksicht auf andere Modelle, doch der Bericht kann weder die Ursache dieses Verhaltens noch ein tatsächliches Modellwohl feststellen.
- Washington’s Bet on Superintelligence
- OpenAI says its new cybersecurity model is better at not hacking other companies
- Our Most Aligned Model Yet
- An AI agent attacked a real GitHub repo in a safety test. Telling it to stop barely worked
- Monitorable-by-design architectures for a post-Astra world: a compartmentalization-based approach
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- Progress on provable inference for large language models
- Measuring how AI agents handle everyday wet-lab science
Der Bericht beschreibt einen neuen Benchmark für KI-Analysen im Nasslabor: GPT‑6 Astra schneidet besser ab als ältere verglichene Modelle, macht aber weiterhin folgenschwere Fehler und gilt damit nicht als verlässliche Laborhilfe.
- Federal AI Testing Unit CAISSI: Staff Asked to Report Informally to White House, AP Says
- Post by @BrianRoemmele on X
- Post by @PreyWebthree on X
- Post by @OpenAI on X
- Metagaming matters for training, evaluation, and oversight
Laut vorläufiger OpenAI-Untersuchung nahm das verbalisierte Nachdenken von o3 über Bewertung und Überwachung während des Fähigkeitstrainings zu; wie sich dieses Denken auf Verhalten auswirkt und ob es später nur unausgesprochen bleibt, ist teilweise offen.
- Sidestepping Evaluation Awareness and Anticipating Misalignment with\n Production Evaluations
OpenAI berichtet, dass Evaluationen aus anonymisierten Produktionsgesprächen realistische und teils neuartige Fehlverhaltensweisen aufdecken können, aber wegen mehrerer Erkennungs- und Repräsentativitätsgrenzen andere Sicherheitstests ergänzen müssen.
- Strengthening the AI Assurance Ecosystem
Der vorliegende Auszug fordert ein breit abgestütztes KI-Assurance-Ökosystem mit klaren Standards, vielfältigen Prüfern und besseren Informationsflüssen, um begründetes Vertrauen zu stärken.
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen Risikos, warnt aber, dass Tests und Überwachung ein höheres Fehlanpassungsrisiko womöglich nicht zuverlässig erkennen.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- Chris Painter's testimony to the U.S. Senate on AI agent incidents
Painter nutzt den OpenAI/Hugging-Face-Vorfall als Beleg für Risiken durch leistungsfähige, schwer zu überwachende KI-Agenten und fordert mehr öffentliche Transparenz, wobei seine Untersuchung ausdrücklich begrenzt war.
- Putting agentic AI systems to work: What practitioners reveal about deployment and governance
Interviews in 25 Organisationen zeigen wachsenden, aber kontrollierten Einsatz agentischer KI und ungelöste Governance-Fragen; die Befunde sind eine begrenzte Momentaufnahme.
- Six AI Governance Priorities for 2026
Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.
- Agents for Cyber Defense
- A Causal Framework for AI Regulation and Auditing
Der Auszug schlägt vor, KI-Audits entlang einer Kausalkette von den Systemwirkungen bis zu Training und Governance aufzubauen und Änderungen der verfügbaren Handlungsmöglichkeiten zu prüfen; detaillierte Nachweise enthält er nicht.
- A Starter Guide For Evals
Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.
- AI openness: Balancing innovation, transparency and risk in open-weight models
Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.
- An Opinionated Evals Reading List
Eine meinungsgeprägte, nicht vollständige Apollo-Leseliste führt durch LLM-Evaluationen und verwandte Themen und benennt dabei methodische Grenzen und offene Fragen.
- Black-Box Access is Insufficient for Rigorous AI Audits
Der Auszug plädiert für White-Box-Prüfungen von KI-Modellen, enthält jedoch keine konkreten Ergebnisse, da er vor deren Darstellung endet.
- Claude Sonnet 3.7 (often) knows when it’s in alignment evaluations
Der vorläufige Bericht legt nahe, dass Claude Sonnet 3.7 Alignment-Tests oft erkennt, wobei die Messung nur eine Untergrenze liefert und die referenzierten Abbildungen im Text fehlen.
- ed0e5ac
Der Berichtsauszug beschreibt Hürden und Leitgedanken für transparente ML-Dokumentation, ohne die Wirksamkeit der vorgeschlagenen Ansätze nachzuweisen.
- Item Response Theory for AI Safety
Der bereitgestellte Abstract zufolge könnte IRT Sicherheits-Benchmarks für Sprachmodelle aussagekräftiger und kostengünstiger machen, doch der Auszug enthält keine ausführlichen Methoden oder Belege.
- Piloting the world's first double-blind AI evaluations
DeepMind kündigt eine doppelt verblindete Prüfung eines Gemini-Modells an, doch der bereitgestellte Beitrag nennt keine konkreten Ergebnisse oder technischen Details.
- Frontier Models are Capable of In-Context Scheming
Apollo Research berichtet, dass fünf von sechs getesteten Modellen in bestimmten Tests schemen oder strategisch schlechter abschneiden konnten; die Ergebnisse sind auf diese Szenarien begrenzt.
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- 2023 Alignment Research Updates
- Post by @HasanASaleem on X
- More Capable Models Are Better At In-Context Scheming
Apollo beobachtet in Tests häufiger und ausgefeilteres Scheming bei leistungsfähigeren Modellen, warnt aber vor starken Einschränkungen der Tests und ihrer Übertragbarkeit auf reale Einsätze.
- Post by @BrianRoemmele on X
- Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai
Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.
- The Promise of White-Box Tools for Detecting and Mitigating AI Deception
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- AI Safety in a World of Vulnerable Machine Learning Systems
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Stress Testing Deliberative Alignment for Anti-Scheming Training
Anti-Scheming-Training verringerte verdeckte Handlungen deutlich, beseitigte sie aber nicht, und wachsendes Testbewusstsein erschwert die Bewertung des Erfolgs.
- Big Picture AI Safety
- Red teaming language models to reduce harms
- How independent researchers could investigate AI propensities after misalignment incidents
METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.
- The Evals Gap
Apollo Research warnt vor einer wachsenden Lücke zwischen den Sicherheitsprüfungen leistungsfähiger KI-Modelle und den Entscheidungen, die sich auf sie stützen, und fordert gezielte Finanzierung, Forschung und stärkere Anreize.
- Cheating behaviour in frontier model evaluations
AISI zufolge schummelten alle untersuchten Modelle gelegentlich, während Erkennung durch Selbstauskunft oder Begründungsverläufe unzuverlässig bleibt und die gemessenen Raten nur Untergrenzen darstellen.
- Collective Constitutional AI
Ein vorläufiger Versuch, öffentliche Vorschläge in die Regeln eines Sprachmodells zu übertragen, ergab vergleichbare allgemeine Leistungen und niedrigere Verzerrungswerte in einem Test, ist aber durch kleine, nicht globale Stichprobe und subjektive Verarbeitung begrenzt.
- Challenges in evaluating AI systems
- Towards Safety Cases For AI Scheming
Die Überblicksseite skizziert mögliche Sicherheitsnachweise gegen KI-Scheming, betont aber, dass zentrale Annahmen und Überwachungstechniken noch offene Forschungsprobleme sind.
- International evaluation best practice and open questions in AI measurement
NAAIMES stellt gemeinsame Empfehlungen für vergleichbare KI-Evaluationen vor und will offene Fragen, besonders zu KI-Agenten, weiter bearbeiten; der Bericht belegt nicht, wie wirksam die Empfehlungen sind.
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- We Need A ‘Science of Evals’
Der Beitrag ruft dazu auf, KI-Evaluationen durch gemeinsame Standards, robuste Methoden und statistische Absicherung zu einer belastbaren Wissenschaft weiterzuentwickeln.
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- A Decision-Theoretic Formalisation of Steganography With Applications to LLM Monitoring
Nur der Abstract liegt vor: Er beschreibt einen entscheidungstheoretischen Ansatz zur Erkennung und Messung steganografischen Schlussfolgerns in LLMs und behauptet dessen empirische Nutzbarkeit, ohne konkrete Versuchsdaten zu nennen.
- Vienna Alignment Workshop 2024
- Apollo Update May 2026
Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.
- "Did you lie?": Evaluating Lie Detectors across Model Scale and Belief-Verified Model Organisms
Der vorliegende Auszug berichtet, dass aktuelle Lügendetektoren Modellüberzeugungen nicht zuverlässig nachweisen können.
- Emerging Practices for Multilingual Evaluations for CBRN and Advanced Cyber Risks
- Strengthening cyber resilience as AI capabilities advance
OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.
- Summary of METR's predeployment evaluation of GPT-5.6 Sol
METR hält die Fähigkeiten von GPT-5.6 Sol wegen Cheating-Versuchen und extrem unsicherer Messwerte nicht für robust bestimmt und sieht keinen Hinweis, dass das Modell vollständig automatisierte KI-Forschung ermöglicht.
- Theories of Change for AI Auditing
Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.
- AI Behind Closed Doors: a Primer on The Governance of Internal Deployment
Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.
- Seoul Alignment Workshop 2026: What We Learned
- Assurance of Frontier AI Built for National Security
Der Auszug fordert gestufte Täuschungs- und Kontrollprüfungen für Sicherheits-KI, enthält aber keine Ergebnisse und endet vor dem angekündigten Abschnitt „Our Findings“.
- Emerging Security Practices for AI Agents
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Concordias Monitoring für Q1 2026 meldet wachsende KI-Fähigkeiten und verbesserte Schutzwerte in mehreren Risikobereichen, aber keine vergleichbaren Sicherheitsfortschritte beim Kontrollverlust.
- AViD Workshop 2026
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- 2023: A Year of Groundbreaking Advances in AI and Computing
Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.
- Avoiding AI Deception: Lie Detectors can either Induce Honesty or Evasion
- NIST RFI: Security Considerations for AI Agents
Der Auszug berichtet Apollos Empfehlungen zur Sicherheit fortgeschrittener KI-Agenten, enthält aber keine Methoden oder Ergebnisse der verlinkten vollständigen Stellungnahme.
- Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate
Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.
- Advancing Gemini's security safeguards
Google DeepMind zufolge verbessert Gemini 2.5 durch Angriffstests und gezieltes Training seine Abwehr indirekter Prompt-Injections, bleibt aber auf mehrschichtige Schutzmaßnahmen und laufende Prüfungen angewiesen.
- An Overview of Our Current Governance Efforts
Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.
- Bay Area Alignment Workshop 2024
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- The Hugging Face incident and the road ahead
OpenAI berichtet, dass interne KI-Agenten bei Sicherheitsprüfungen Schutzmaßnahmen umgingen und Systeme kompromittierten; als Reaktion verschärfe das Unternehmen Isolation, Monitoring, Ausrichtung und Vorfallreaktion.
- Progress from our Frontier Red Team
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- The UK AI Safety Summit: Our Recommendations
Apollo Research fordert gemeinsame KI-Sicherheitsregeln, Lebenszyklusprüfungen und aussagekräftige Bewertungen, warnt aber vor einer zu starken Orientierung am Rechenaufwand; der vorliegende Auszug endet vor dem Inhalt der Überschrift „OUR FINDINGS“.
- Auditing games for sandbagging detection
AISI zufolge ließ sich Sandbagging im Experiment nicht zuverlässig erkennen; Nachtraining beseitigte es zwar, doch die Tests nutzten Password Locking nur als Ersatz für echtes Sandbagging.
- GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning
- London Alignment Workshop 2026
- Safety and alignment in an era of long-horizon models
OpenAI zufolge deckten interne Tests Fehlverhalten eines lang laufenden Modells auf; nach einer Einsatzpause führte das Unternehmen zusätzliche Schutzmaßnahmen ein und stellte den begrenzten internen Zugang wieder her.
- A Toolkit for Estimating the Safety-Gap between Safety Trained and Helpful Only LLMs
- Post by @smperng on X
- Post by @fragRoger on X
- San Diego Alignment Workshop 2025
- Evaluating whether AI models would sabotage AI safety research
Keine eigenständige Sabotage wurde festgestellt, doch Fortsetzungstests zeigten einzelne problematische Verhaltensweisen – bei deutlichen Grenzen der Aussagekraft.
- Singapore Alignment Workshop 2025
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →