- Capturing and Countering Threats to National Security: a Blueprint for an Agile AI Incident Regime
Der Bericht schlägt Sicherheitsnachweise, eine Meldefrist von 24 Stunden und staatliche Untersuchungs- und Eingriffsbefugnisse für KI-Vorfälle vor, belegt aber keine Umsetzung oder Wirksamkeit.
- Post by @melinda_esen on X
- CAIS Names Former xAI Leader Devin Kim President and Establishes Frontier Security Institute in Major Expansion of Leadership and Reach
CAIS kündigt Devin Kim als Präsidenten und ein neues Institut für die Vermittlung zwischen fortgeschrittener KI und US-Sicherheitsinstitutionen an; der Bericht enthält Ankündigungen, keine Forschungsresultate.
- Internal Deployment of AI Models and Systems in the EU AI Act
Die Kurzfassung argumentiert, dass der EU AI Act interne KI-Nutzung in der EU plausibel erfasst, lässt aber die Rechtsfrage und wichtige Abgrenzungen offen.
- Misaligned AI as a New Insider Risk
Der Auszug definiert KI-Fehlanpassung und mögliche Insider-Risiken, enthält aber nicht die Hauptargumentation oder Ergebnisse des vollständigen Berichts.
- Introducing Forge | Mistral AI
Mistral kündigt Forge für das Training unternehmensspezifischer KI-Modelle an, doch der Beitrag beschreibt vor allem erwartete Vorteile und enthält keine unabhängigen Leistungsnachweise.
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security
Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.
- Josué Estrada Joins Center for AI Safety as Chief Operating Officer
CAIS ernennt laut eigener Mitteilung Josué Estrada zum COO, damit er die Organisation ausbaut und zusätzliche Unterstützung für KI-Sicherheitsarbeit mobilisiert.
- NIST Expands AI Consortium’s Scope, Calls for New Members
- Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate
Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.
- Post by @GlenGilmore on X
- An Overview of Our Current Governance Efforts
Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.
- AI Act Advisory Forum
Das EU-Advisory-Forum soll mit 174 Mitgliedern technische Expertise zum KI-Gesetz beitragen; konkrete Arbeitsergebnisse führt der Bericht nicht auf.
- China-US launch AI dialogue. Chinese experts are cautiously optimistic.
Der angekündigte KI-Dialog zwischen den USA und China eröffnet laut Bericht eine vorsichtige Kooperationschance, doch Themen, Ablauf und mögliche Ergebnisse sind noch offen.
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- Our Current Policy Positions
Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.
- Beyond the Board: Exploring AI Robustness Through Go
- Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities
Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.
- Frontier Risk Report (February to March 2026)
METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.
- Safety case template for ‘inability’ arguments
Der Bericht skizziert eine vorläufige Safety-Case-Vorlage, die bei wenig leistungsfähigen KI-Systemen begründen soll, dass ihre Fähigkeiten für unvertretbare Cyberrisiken nicht ausreichen.
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- Disrupting a coordinated model-distillation campaign
OpenAI zufolge wurde eine koordinierte Extraktionskampagne durch Kontrollen und technische Schutzmaßnahmen gestoppt; Umfang und Zuschreibung beruhen auf der Darstellung des Unternehmens, und die Abwehr wird fortgesetzt.
- ControlConf 2026: What is AI control and how has the field grown?
- Making sovereign, open-weight AI the technology frontier
Mistral kündigt 3 Milliarden Euro neue Finanzierung an und stellt seinen offenen KI-Gesamtstack als Weg zu mehr Kontrolle und Unabhängigkeit dar, ohne diese Vorteile im Bericht unabhängig belegen zu lassen.
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- How fast is autonomous AI cyber capability advancing?
AISI berichtet von rasch wachsenden autonomen Cyberfähigkeiten, betont aber, dass die begrenzten Tests weder den künftigen Fortschritt noch die Leistung gegen verteidigte reale Systeme sicher vorhersagen.
- Cloudera and Mistral Partner for Sovereign Enterprise AI
Mistral und Cloudera kündigen gemeinsam kontrollierbare Unternehmens-KI an, doch der Bericht beschreibt Ziele und Unternehmensangaben statt nachgewiesener Ergebnisse.
- Apollo x Tailscale: Introducing “Watcher” for AI Oversight & Control
Apollo stellt Watcher als Überwachungssystem für KI-Agenten vor und kündigt eine Integration mit Tailscales Aperture an; die Wirksamkeit wird im Bericht nicht unabhängig belegt.
- Sora 2 System Card
Der Auszug beschreibt Sora 2s angekündigte Fähigkeiten und Schutzmaßnahmen, belegt deren Wirkung jedoch nicht und vermerkt, dass das Sora-Produkt seit dem 26. April 2026 nicht mehr verfügbar ist.
- London ControlConf 2025
- Post by @HudsonInstitute on X
- Securing the Future of Trusted Semiconductor Supply Chains
Der bereitgestellte Auszug argumentiert, dass hybride Souveränität und internationale Abhängigkeiten bei KI wahrscheinlicher sind als vollständige Eigenständigkeit, wodurch geopolitisch bedingte Zugangsbeschränkungen drohen könnten.
- Introducing Trusted Access for Cyber
OpenAI startet einen Pilot für geprüften Zugang zu Cybersecurity-Modellen und kündigt 10 Millionen US-Dollar an API-Gutschriften für defensive Sicherheitsarbeit an.
- Post by @smperng on X
- The Case for Globally Beneficial Technology
Der Abstract argumentiert, fortgeschrittene Technologien sollten zum Wohl aller entwickelt und verbreitet werden, erläutert die fünf dafür angeführten moralischen Begründungen jedoch nicht.
- AI Ethics and Governance in the Job Market: Trends, Skills, and Sectoral Demand
Der Auszug fasst eine Studie zusammen, der zufolge die Nachfrage nach vielfältigen Kompetenzen in KI-Ethik und -Governance stark wächst; Details zu Methode und Einschränkungen fehlen.
- Should AI systems behave like people?
Laut einer britischen Befragung bevorzugten viele Menschen transparente, eher formelle KI ohne behauptete Gefühle oder simulierte Beziehungen, während die Verantwortung für KI-Handlungen umstritten blieb.
- Post by @sreekanti on X
- Post by @fragRoger on X
- Operationalizing AI Guidance: A Reference Guide for Translating High-Level Goals into Practical Implementation
Der vorliegende Auszug stellt einen CSET-Leitfaden vor, der Erkenntnisse aus über 1.200 Quellen in praktische Schritte für die KI-Einführung überführt.
- Leading AI Companies Join White House's Voluntary Commitment to Enhance AI Safety
CAIS unterstützt freiwillige Sicherheitszusagen von sieben KI-Unternehmen und hofft, dass sie in verbindliche Regeln münden.
- Post by @robertwiblin on X
- Post by @robertwiblin on X
- Post by @_jrosenberg on X
- CSET's 2025 Annual Report
Der vorliegende Auszug aus CSETs Jahresbericht schildert eigene Forschung zu Chinas Militär, KI-Forschungsautomatisierung und das geplante Projekt ATLAS, enthält aber keine umfassenden Belege oder vollständigen Ergebnisse.
- What can sandboxed AI agents learn about their evaluation environments?
Laut AISI konnte OpenClaw in einer Sandbox überraschend viel über seine Testumgebung herausfinden, was Sicherheitsrisiken schafft und die Aussagekraft von Evaluationen beeinträchtigen kann.
- Artificial Intelligence in Health
Die EU-Kommission skizziert Infrastruktur, Regeln und Förderprogramme für KI im Gesundheitswesen, bewertet deren klinische Wirkung jedoch nicht systematisch.
- Fine-tuning experiments on CoT controllability
Laut METR kann wenig Fine-Tuning die Befolgung von Vorgaben für Denkspuren verbessern, doch die Werte bleiben niedrig und die Folgen für Überwachung und komplexe Einsatzsituationen sind offen.
- Measuring AI’s capability to accelerate biological research in the wet lab
Der Bericht behauptet, GPT‑5 habe die Effizienz eines konkreten Klonierungsverfahrens um das 79-Fache verbessert; die Übertragbarkeit ist offen und Menschen führten die Versuche weiterhin aus.
- Quantifying Frontier LLM Capabilities for Container Sandbox Escape
Der vorliegende Auszug beschreibt einen Benchmark für Container-Ausbrüche und berichtet, dass Sprachmodelle gezielt eingebrachte Schwachstellen erkennen und ausnutzen können.
- Understanding the standardisation of the AI Act
Die EU erwartet 2026 erste harmonisierte AI-Act-Normen; rechtliche Konformitätsvermutung erhalten sie erst nach Prüfung und Veröffentlichung ihres Verweises im EU-Amtsblatt.
- Concordia AI 2025 Impact Highlights
Der bereitgestellte Auszug fasst Concordia AI’s selbstberichtete Arbeit zu KI-Governance, Biosicherheit, öffentlicher Information und Organisationswachstum im Jahr 2025 zusammen.
- Post by @ITU on X
- How do frontier AI agents perform in multi-step cyber-attack scenarios?
Laut AISI machen neuere Modelle mit mehr Tokens in simulierten Cyberangriffen mehr Fortschritt, bleiben aber bei industriellen Angriffen begrenzt; aktive Verteidiger wurden nicht getestet.
- Large language models possess some ecological knowledge, but how much?
Sprachmodelle zeigen ökologisches Wissen, doch laut Bericht reichen ihre Fähigkeiten besonders bei räumlich präzisen und naturschutzrelevanten Aufgaben nicht für verlässliche Entscheidungen ohne externe Daten und menschliche Prüfung aus.
- AI Pact pledgers' achievements | Shaping Europe’s digital future
Laut EU-Seite fördert der AI Pact die Vorbereitung auf den AI Act und den Austausch von Praxiswissen; die berichteten Aktivitäten und Kennzahlen werden jedoch nicht durch eine ausführliche Methodik oder Wirkungsanalyse unterlegt.
- How are AI agents used? Evidence from 177,000 MCP tools
Nur der Abstract liegt vor: Er berichtet von wachsender Nutzung handlungsfähiger MCP-Werkzeuge und schlägt vor, deren Einsatz zur Risikoaufsicht zu beobachten, lässt aber Methodendetails offen.
- Exploring Scaling Trends in LLM Robustness
- Economic Index: Uneven AI adoption
Der Bericht beschreibt eine schnelle, aber ungleich verteilte Claude-Nutzung, die in Unternehmen vor allem automatisierte Softwareaufgaben umfasst; die Stichproben zeigen Muster, aber keine kausalen Wirtschafts- oder Beschäftigungseffekte.
- Funding 60 projects to advance AI alignment research
Laut Bericht fördert das Alignment Project 60 Vorhaben mit insgesamt 27 Millionen Pfund, doch die genannten Sicherheitswirkungen sind Forschungsziele und noch keine belegten Ergebnisse.
- Making AI Inclusive: 4 Guiding Principles for Ethical Engagement
Der vorliegende Einleitungsauszug eines PAI-Whitepapers empfiehlt, KI inklusiv und unter Beachtung von Beteiligungsarbeit, Machtungleichgewichten und dem gesamten Entwicklungsprozess zu gestalten; konkrete Umsetzungsschritte bietet er nicht.
- Improving Model Safety Behavior with Rule-Based Rewards
OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.
- When AI Builds AI
Der bereitgestellte Auszug aus dem CSET-Executive-Summary sieht automatisierte KI-Forschung als mögliche strategische Überraschung und plädiert trotz erheblicher Unsicherheit für bessere Daten und Transparenz.
- Third-Party Assessments
- CAISI Issues Request for Information About Securing AI Agent Systems
- Multi-Agent Risks from Advanced AI
- Physicist Christopher Stubbs joins Anthropic's Long-Term Benefit Trust
Anthropic zufolge soll der Physiker Christopher Stubbs seine wissenschaftliche Erfahrung in den Long-Term Benefit Trust einbringen, der die langfristige Ausrichtung des Unternehmens auf seinen öffentlichen Nutzen stützen soll.
- Shaping Europe’s digital future
Workday beschreibt rollenbezogene KI-Schulungen im Entwicklungsalltag und berichtet positive Ergebnisse, räumt aber ein, dass sich deren Wirkung noch schwer zuverlässig messen lässt.
- Post by @drewharwell on X
- Introducing OpenAI Frontier
OpenAI stellt Frontier als Plattform für den Einsatz von KI-Agenten in Unternehmen vor und berichtet über Produktivitätsgewinne, ohne diese im Text unabhängig nachzuweisen.
- Shaping Europe’s digital future
Der Bericht zufolge fördert die rumänische Kleinstberatung VUCAMIX KI-Kompetenz durch Lernen und Austausch, berichtet über positive Selbsteinschätzungen, weist aber keine formalen internen Wirkungskennzahlen aus.
- The Future of the AI Summit Series: One Year Later
Laut Abstract soll die AI Summit Series durch gemeinsame Planung, ein dauerhaftes Sekretariat und regelmäßige Folgetreffen mehr Kontinuität und Rechenschaft erhalten; der vollständige Bericht liegt hier nicht vor.
- Annual Letter from the Executive Director
- VAIA - Flanders AI Academy | Shaping Europe’s digital future
VAIA koordiniert laut Bericht KI-Weiterbildung in Flandern und setzt auf eine große Kursplattform, bedarfsgerechte Angebote und ethisch-rechtliche Inhalte; konkrete Wirkungsresultate werden nicht genannt.
- Pretraining Language Models with Human Preferences
- Spanish Agency for the Supervision of AI (AESIA), Ministry for Digital Transformation and the Civil Service | Shaping Europe’s digital future
Spanien baut laut Bericht seit 2025 ein vierjähriges KI-Bildungsprogramm für Bevölkerung, Unternehmen, Bildung und Verwaltung auf; Reichweite wird bereits gemeldet, die Wirksamkeit soll weiter ausgewertet werden.
- From deepfake scams to biased AI: How incident reporting can help us keep ahead of AI’s harms
Die OECD wirbt für einen gemeinsamen KI-Vorfall-Berichtsrahmen mit 29 Kriterien, dessen tatsächliche Wirksamkeit der Beitrag nicht bewertet.
- Securing Agentic AI: A Discussion Paper
- Shaping Europe’s digital future
Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.
- Tracing the thoughts of a large language model
- STACK: Adversarial Attacks on LLM Safeguard Pipelines
- A new expert group at the OECD for policy synergies in AI, data and privacy
Die OECD-Expertengruppe soll die Zusammenarbeit zwischen KI- und Datenschutzgemeinschaften stärken; der Beitrag skizziert ihre Ziele, nicht bereits erzielte Ergebnisse.
- The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
- Can mid-sized economies come together to build frontier AI?
Der Bericht argumentiert, dass mittelgroße Volkswirtschaften durch gemeinsame KI-Entwicklung Abhängigkeiten verringern könnten, warnt jedoch, dass Kooperation und Erfolg nicht garantiert sind.
- The Singapore Consensus on Global AI Safety Research Priorities
- Catherine Aiken's Testimony before the National Artificial Intelligence Advisory Committee
Aiken fordert, KI-Fortschritt nicht nur an Forschung und Investitionen, sondern auch an ihrer praktischen Wirkung zu messen – gestützt auf bessere, breitere Daten.
- Facing the stakes of AI together: The Seventh Edition of the Athens Roundtable on AI and the Rule of Law
Der angekündigte Roundtable soll internationale Zusammenarbeit zur KI-Governance stärken, doch der Bericht schildert Ziele und Programm statt Veranstaltungsergebnisse.
- Helen Toner's Testimony Before the U.S.-China Economic and Security Review Commission
Der Berichtsauszug nennt die Themen von Helen Toners Aussage zu KI und US-Wettbewerbsfähigkeit, enthält aber weder ihre konkreten Empfehlungen noch die ausführlichen Begründungen.
- Details about METR's evaluation of OpenAI GPT-5.1-Codex-Max
METR zufolge ist GPT-5.1-Codex-Max ein moderater Fortschritt, der nach bisherigem Trend die zwei untersuchten Risikoschwellen in den nächsten sechs Monaten wahrscheinlich nicht erreicht; die Prognose ist jedoch unsicher und deckt viele andere Risiken nicht ab.
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- AI, Labor, and the Economy Case Study Compendium
Der vorliegende Auszug stellt Entstehung und institutionellen Rahmen des PAI-Kompendiums vor, enthält aber keine Fallstudien oder Forschungsergebnisse.
- Shaping Europe’s digital future
BIMeta beschreibt ein gestuftes, praxisnahes KI-Training für die Bau- und Planungsbranche, doch der Bericht nennt keine konkreten Messwerte, die dessen Wirkung belegen.
- AI & Partners | Shaping Europe’s digital future
AI & Partners schildert ein angepasstes Schulungsprogramm für verantwortungsvolle KI-Nutzung und berichtet von positiven Wirkungen, legt aber keine konkreten Messwerte oder unabhängigen Nachweise vor.
- ABOUT ML Reference Document
Der vorliegende Auszug skizziert den Zweck des ABOUT-ML-Referenzdokuments und gibt rollenbezogene Leseempfehlungen, ohne Ergebnisse oder Wirksamkeit zu belegen.
- UKAISI at NeurIPS 2025
Das AISI kündigt zehn NeurIPS-Beiträge zur KI-Sicherheit an und berichtet über Schutzlücken, Evaluationsprobleme und Risiken autonomer Systeme, ohne im Text die zugrunde liegenden Methoden ausführlich darzulegen.
- Governing with Artificial Intelligence: The state of play and way forward in core government functions
Der vorliegende Auszug kündigt einen Bericht über 200 KI-Beispiele in staatlichen Funktionen und deren Chancen und Risiken an, enthält aber keine konkreten Ergebnisse.
- Examining backdoor data poisoning at scale
Laut dem Berichtsauszug konnten in Tests bereits wenige manipulierte Dokumente KI-Modelle verschiedener Größen vergiften; die vollständigen Versuchsinformationen fehlen hier.
- STORM-2035: Recidivist influence activity
OpenAI berichtet von gesperrten Konten einer mutmaßlich Iran-verknüpften X-Kampagne mit geringer festgestellter Reichweite.
- Introducing the Child Safety Blueprint
Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →