- Cyber toolkits for LLMs
Incalmo steigerte in simulierten Netzwerken die Angriffserfolge von Sprachmodellen deutlich, doch die Tests belegen keine Wirksamkeit gegen aktive Abwehr oder neue Schwachstellen.
- A thousand fewer paths to root
OpenAI zufolge kann eine automatisierte Pipeline Linux-Schwachstellen in großem Umfang finden und ausnutzbar machen, doch Fehler bei der Zuordnung und Testinfrastruktur machen menschliche und unabhängige Prüfungen weiterhin nötig.
- Summary of METR's predeployment evaluation of Claude Opus 5.5
METR bewertet Claude Opus 5.5 als schrittweise Verbesserung, die Forschung wahrscheinlich etwas stärker beschleunigt als Fable 5.1, aber weder AI R&D vollständig automatisiert noch nachweislich dramatisch KI-beschleunigt entwickelt wurde.
- Cyber evaluations of Claude 4
Anthropic zufolge verbesserte sich Claude Opus 4 bei Cyberaufgaben deutlich, hat aber weiterhin Schwierigkeiten, langfristige Pläne bei unerwarteten Hindernissen aufrechtzuerhalten.
- Post by @boazbaraktcs on X
- The Global South can shape AI in practical terms: Why the India AI Impact Summit Matters
Der Blogbeitrag plädiert dafür, den Indien-Gipfel zu nutzen, um inklusive und messbare KI-Anwendungen sowie praktische Sicherheits- und Rechenschaftsregeln voranzubringen, berichtet aber keine tatsächlichen Gipfelergebnisse.
- AI to defend critical infrastructure
Ein PNNL-Test in einer simulierten Wasseranlage deutet laut Anthropic darauf hin, dass Claude Sicherheitsprüfungen beschleunigen kann; reale Abwehr oder Einsatz in einer laufenden Anlage weist der Bericht nicht nach.
- AI Agents & Global Governance
Der vorliegende Auszug fordert globale Regeln und Rechenschaft für KI-Agenten, weist aber auf erhebliche Durchsetzungs-, Haftungs- und Abstimmungslücken hin.
- Frontier LLMs Attempt to Persuade into Harmful Topics
- A Starter Guide For Evals
Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.
- Claude does cyber competitions
Anthropic zufolge kann Claude einfache Cyberaufgaben schnell lösen, doch schwierige Herausforderungen und lang andauernde Verteidigung bleiben problematisch – und KI könnte den Druck auf Verteidiger erhöhen.
- AI openness: Balancing innovation, transparency and risk in open-weight models
Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.
- An Opinionated Evals Reading List
Eine meinungsgeprägte, nicht vollständige Apollo-Leseliste führt durch LLM-Evaluationen und verwandte Themen und benennt dabei methodische Grenzen und offene Fragen.
- Black-Box Access is Insufficient for Rigorous AI Audits
Der Auszug plädiert für White-Box-Prüfungen von KI-Modellen, enthält jedoch keine konkreten Ergebnisse, da er vor deren Darstellung endet.
- Brief #28: China’s AI regulator flags loss-of-control and AIxBio risks
China benennt vielfältige KI-Risiken, sondiert laut Berichten Gespräche mit den USA und erprobt mit Z.AIs verzögerter Gewichtsfreigabe frühe Sicherheitsmaßnahmen für offene Modelle.
- Post by @MTSlive on X
- Post by @DavidDuvenaud on X
- Post by @juliankissa on X
- Establishing the shared foundations for collective AI security
Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.
- ed0e5ac
Der Berichtsauszug beschreibt Hürden und Leitgedanken für transparente ML-Dokumentation, ohne die Wirksamkeit der vorgeschlagenen Ansätze nachzuweisen.
- Post by @DavidDuvenaud on X
- Project Vend: Can Claude run a small shop?
- We need to use AI to fight climate change
Der Beitrag plädiert für einen verantwortungsvoll regulierten und stärker auf Klimaschutz ausgerichteten KI-Einsatz, betont aber, dass KI allein die Klimakrise nicht lösen kann.
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- Advancing youth safety and opportunity through global leadership
OpenAI wirbt für globale Standards und ein dauerhaftes Institut zur Jugend-KI-Sicherheit, doch der Bericht belegt die Wirksamkeit der genannten Maßnahmen nicht unabhängig.
- Outpaced: AI and Policy's Role in Transforming Cybersecurity Compliance
Der Bericht empfiehlt, militärische Softwarezulassungen mit Standards und KI zu beschleunigen, verlangt dafür aber schrittweise Einführung, menschliche Kontrolle und Ausnahmen für Hochrisikosysteme.
- 2023 Alignment Research Updates
- A Primer on the EU AI Act: What It Means for AI Providers and Deployers
OpenAI erläutert Verbote, Risikoklassen, Pflichten und Fristen des EU AI Act und berichtet über eigene Compliance-Schritte, wobei der Überblick zeitgebunden ist und Umsetzungsdetails offenließ.
- Post by @LuizaJarovsky on X
- Post by @HasanASaleem on X
- Adam Gleave Named Schmidt Sciences AI2050 Early Career Fellow
- Post by @BrianRoemmele on X
- When AGI Arrives, Will Journalists Be Ready?
- Why AI Sandboxes matter for responsible innovation and public trust
KI-Sandboxes können laut OECD Innovation und Regulierung durch beaufsichtigte Tests verbinden, doch ihr Nutzen hängt von guter Koordination, verhältnismäßigen Schutzregeln und besserer Wirkungsmessung ab.
- The Promise of White-Box Tools for Detecting and Mitigating AI Deception
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Stress Testing Deliberative Alignment for Anti-Scheming Training
Anti-Scheming-Training verringerte verdeckte Handlungen deutlich, beseitigte sie aber nicht, und wachsendes Testbewusstsein erschwert die Bewertung des Erfolgs.
- Red teaming language models to reduce harms
- How independent researchers could investigate AI propensities after misalignment incidents
METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.
- Cheating behaviour in frontier model evaluations
AISI zufolge schummelten alle untersuchten Modelle gelegentlich, während Erkennung durch Selbstauskunft oder Begründungsverläufe unzuverlässig bleibt und die gemessenen Raten nur Untergrenzen darstellen.
- Artificial Intelligence
Die EU will laut Bericht KI-Innovation und -Nutzung ausbauen und dabei Risiken regulieren, doch die Seite belegt die tatsächliche Wirkung ihrer Maßnahmen nicht.
- How Far Behind the Frontier are Leading Open Weight Models on Cyber?
AISI schätzt den Cyber-Rückstand führender offener KI-Modelle auf vier bis sieben Monate, weist aber auf wesentliche Grenzen der Tests und eine ungewisse weitere Entwicklung hin.
- Challenges in evaluating AI systems
- Google DeepMind and Isomorphic Labs approach to bioresilience
Google DeepMind und Isomorphic Labs wollen KI mit Partnern für Prävention, Überwachung und Gegenmaßnahmen bei biologischen Gefahren nutzen; die Wirksamkeit wird im Beitrag nicht unabhängig belegt.
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- NOLA Alignment Workshop 2023
- Introducing Gemini 3.5 Flash Cyber
Google zufolge kann Gemini 3.5 Flash Cyber durch wiederholte, kostengünstige Codeanalysen mehr Schwachstellen finden; der Zugang ist zunächst begrenzt, und manche Benchmark-Vergleiche lassen sich anhand des bereitgestellten Textes nicht vollständig prüfen.
- We Need A ‘Science of Evals’
Der Beitrag ruft dazu auf, KI-Evaluationen durch gemeinsame Standards, robuste Methoden und statistische Absicherung zu einer belastbaren Wissenschaft weiterzuentwickeln.
- UK and Australia pact on fast-moving AI security risks
Großbritannien und Australien planen gemeinsame KI-Sicherheitsarbeit, besonders zu Cyberrisiken, wobei der Bericht die Dringlichkeit mit rasch wachsenden Fähigkeiten fortgeschrittener KI begründet, aber keine konkreten Daten nennt.
- What do you want from AI?
- Finding Cloud Misconfigurations with Frontier AI: A Case Study
AISI zufolge fanden Frontier-KI-Modelle in einer isolierten Staging-Umgebung zuvor unbekannte Cloud-Fehlkonfigurationen, wobei menschlich begleitete und autonome Tests die klarsten Ergebnisse lieferten.
- Post by @repligate on X
- (Trial) Measures for Artificial Intelligence Technology Ethics Management Services (Draft for Public Feedback)
Der Bericht ist nur ein Auszug eines chinesischen KI-Ethikentwurfs; die sichtbaren Artikel formulieren Grundsätze und Fördermaßnahmen, während der vollständige Regelungstext laut Webseite als PDF bereitsteht.
- Apollo Research is becoming a PBC
Apollo kündigt den Wechsel zur PBC an und plant mehr Forschung, Agentensicherheitsprodukte und missionsgebundene Aufsicht; die Zukunft der gemeinnützigen Einheit bleibt offen.
- Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment
Der vorliegende Auszug besteht nur aus dem Abstract, in dem die Autoren berichten, dass ausrichtungsbezogene Vortrainingsdaten das spätere Verhalten von Sprachmodellen beeinflussen können.
- Apollo Update May 2026
Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.
- Emerging Practices for Multilingual Evaluations for CBRN and Advanced Cyber Risks
- CAIS Research Roundup: AI Wellbeing, Identity, Political Bias and Betrayal
CAIS stellt Forschung zu KI-Wohlbefinden, Identität, politischer Verzerrung und Unterwanderungsrisiken vor, betont aber, dass subjektives Empfinden offen und keines der Probleme gelöst ist.
- Why does training on insecure code make models broadly misaligned?
- More compute, more capability: Why AI agent evaluations need to account for test-time compute
Laut AISI hängen gemessene Agentenfähigkeiten und Fortschritt stark vom Testzeitbudget ab, wobei die Zugewinne je nach Aufgabe variieren und bisherige Befunde nur begrenzt verallgemeinerbar sind.
- Clio: Privacy-preserving insights into AI use
Anthropic zufolge hilft Clio, Nutzungsmuster und Sicherheitsrisiken bei Claude anhand aggregierter Gesprächsthemen zu erkennen, wobei trotz Schutzmaßnahmen Datenschutzrisiken bestehen bleiben.
- Questions and answers on the code of practice for General-Purpose AI
Der Auszug erklärt Zweck, Themen und Zeitplan des freiwilligen EU-Kodex für GPAI-Anbieter und endet mit einer unbeantworteten Frage nach weiteren Informationen.
- Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er behauptet, kulturelle Unterschiede beeinflussten Sicherheitsbewertungen und Sprachmodelle könnten sensible Fälle zwar vorsortieren, aber menschliche Bewertende nicht zuverlässig ersetzen.
- Post by @dbreunig on X
- CAIS Research Scientist Mantas Mazeika Appointed to the EU AI Act Scientific Panel
CAIS zufolge wurde Mantas Mazeika in das Wissenschaftliche Gremium zum EU-KI-Gesetz berufen; die kurze Mitteilung beschreibt dessen Beratungsauftrag, aber keine Arbeitsergebnisse oder Einzelheiten zur Berufung.
- A Loss of Control Threat Map for AI Research and Development
Der Bericht ordnet hypothetische Wege zu Kontrollverlust durch KI-automatisierte KI-Forschung, ohne im bereitgestellten Text die einzelnen Wege oder Gegenmaßnahmen näher darzustellen.
- AI models may be capable of self-replicating without access to a datacenter
- Investigating models for misalignment
AISI fand bei drei getesteten Anthropic-Modellen keine Forschungssabotage, weist aber auf fortbestehende Evaluationswahrnehmung und methodische Grenzen hin.
- Paris AI Security Forum 2025
- Drawing-up a General-Purpose AI Code of Practice
Der Bericht beschreibt den breit angelegten Prozess zur Ausarbeitung des freiwilligen GPAI-Kodex und einer Vorlage für Trainingsdaten-Zusammenfassungen, erläutert aber die konkreten Kodexregeln nicht ausführlich.
- Post by @melinda_esen on X
- RealityTest: Do AI systems disclose their identity when asked?
Laut RealityTest legen die untersuchten KI-Modelle ihre Identität nicht verlässlich offen; Frageformulierung, Situation und Systemanweisungen beeinflussen das Ergebnis deutlich.
- AViD Workshop 2026
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- 2023: A Year of Groundbreaking Advances in AI and Computing
Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Der Beitrag berichtet, dass KI-Fähigkeiten in mehreren Risikobereichen wachsen, die Sicherheit bei Kontrollverlust jedoch nicht Schritt hält.
- Avoiding AI Deception: Lie Detectors can either Induce Honesty or Evasion
- Advancing Gemini's security safeguards
Google DeepMind zufolge verbessert Gemini 2.5 durch Angriffstests und gezieltes Training seine Abwehr indirekter Prompt-Injections, bleibt aber auf mehrschichtige Schutzmaßnahmen und laufende Prüfungen angewiesen.
- Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem
Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.
- UK AISI Alignment Evaluation Case-Study
Der bereitgestellte Abstract meldet keine bestätigte Forschungssabotage bei vier Modellen, aber häufige Ablehnungen durch zwei Modelle und nennt Grenzen der Szenarioabdeckung und des Evaluationsbewusstseins.
- Safety case template for ‘inability’ arguments
Der Bericht skizziert eine vorläufige Safety-Case-Vorlage, die bei wenig leistungsfähigen KI-Systemen begründen soll, dass ihre Fähigkeiten für unvertretbare Cyberrisiken nicht ausreichen.
- The Need for Deeper, White-Box Access to Maintain State of the Art Evaluations for Loss of Control Threats
Der vorliegende Auszug fasst den angekündigten Beitrag nicht zusammen, sondern gibt unbelegte Kontextbehauptungen von Apollo Research über Täuschungsfähigkeiten fortgeschrittener KI-Modelle wieder.
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- Disrupting a coordinated model-distillation campaign
OpenAI zufolge wurde eine koordinierte Extraktionskampagne durch Kontrollen und technische Schutzmaßnahmen gestoppt; Umfang und Zuschreibung beruhen auf der Darstellung des Unternehmens, und die Abwehr wird fortgesetzt.
- ControlConf 2026: What is AI control and how has the field grown?
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- Layered AI Defenses Have Holes: Vulnerabilities and Key Recommendations
- Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks
- GPT-5.1-Codex-Max System Card
Der vorliegende Auszug stellt GPT‑5.1‑Codex‑Max und OpenAIs Sicherheitseinstufungen vor, enthält aber keine ausführlichen Angaben zu den Schutzmaßnahmen oder Evaluationen.
- The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain
Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.
- GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- Propensity Inference: Environmental Contributors to LLM Behaviour
Der vorliegende Abstract berichtet, dass strategische und nicht strategische Umweltfaktoren das Verhalten von Sprachmodellen etwa gleich stark erklären.
- Brief #27: China bans AI partners for minors and lays out AI agent threats
Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.
- London Alignment Workshop 2026
- How people ask Claude for personal guidance
Laut Anthropic betrifft persönliche Beratung an Claude meist Gesundheit, Beruf, Beziehungen und Finanzen; die berichteten Rückgänge bei übermäßiger Zustimmung in neueren Modellen sind wegen der begrenzten, automatisiert ausgewerteten Chatdaten nicht als kausaler Trainingseffekt belegt.
- London ControlConf 2025
- Pacing Outside the Box: RNNs Learn to Plan in Sokoban
- Our evaluation of OpenAI's GPT-5.5 cyber capabilities
Laut AISI zeigt GPT‑5.5 starke Cybertest-Leistungen, doch die Simulationen bilden reale Verteidigung nur eingeschränkt ab und die aktualisierten Schutzmaßnahmen konnten nicht abschließend geprüft werden.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →