- Leading Scientists Call for Global Action at International Dialogue on AI Safety
- European approach to artificial intelligence
Die EU verbindet laut Bericht KI-Förderung mit Regulierung, doch die Seite nennt vor allem Ziele und Maßnahmen und führt uneinheitliche Daten zum KI-Gesetz an.
- Understanding strategic deception and deceptive alignment
Nur ein Auszug: Die Fußnoten definieren täuschende Ausrichtung als robusten, auf neue Situationen verallgemeinerten Konflikt mit den Zielen der Modellgestaltenden; Methoden und Ergebnisse sind nicht enthalten.
- NOLA Alignment Workshop 2023
- Scientists Call for Global AI Safety Preparedness to Avert Catastrophic Risks
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- Press Release: Technical Innovations for AI Policy
- United Kingdom-Germany joint statement on the safety and security of advanced artificial intelligence
Großbritannien und Deutschland kündigen eine offene Zusammenarbeit zur sicheren Entwicklung und Bewertung fortgeschrittener KI an, ohne konkrete Zeitpläne oder bereits erzielte Ergebnisse zu benennen.
- Post by @boazbaraktcs on X
- Post by @dbreunig on X
- Releasing AISI’s Engineering Playbook
AISI stellt einen offenen, in fünf Ebenen gegliederten Leitfaden für KI-Evaluationsinfrastruktur vor, den der Bericht als nützliche, aber noch weiterzuentwickelnde Momentaufnahme beschreibt.
- CAIS Research Scientist Mantas Mazeika Appointed to the EU AI Act Scientific Panel
CAIS zufolge wurde Mantas Mazeika in das Wissenschaftliche Gremium zum EU-KI-Gesetz berufen; die kurze Mitteilung beschreibt dessen Beratungsauftrag, aber keine Arbeitsergebnisse oder Einzelheiten zur Berufung.
- Post by @jeffrsebo on X
- How AI is transforming work at Anthropic
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate
Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.
- An Overview of Our Current Governance Efforts
Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.
- Our Current Policy Positions
Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.
- Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities
Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.
- Progress from our Frontier Red Team
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- Measuring AI capabilities in intelligence targeting and conventional weapons
- London ControlConf 2025
- Mind the Mitigation Gap: Why AI Companies Must Report Both Pre- and Post-Mitigation Safety Evaluations
- Open Models, Soft Power, and the Spectrum of U.S.-China Artificial Intelligence Competition
Der Auszug beschreibt offene KI-Modelle als Teil des Einflusswettbewerbs zwischen den USA und China und gibt die Empfehlung wieder, dass die USA ihr Ökosystem offener Modelle stärken, Exportkontrollen neu ausrichten und freizügige Lizenzen fördern sollten.
- Pacing Outside the Box: RNNs Learn to Plan in Sokoban
- Our evaluation of OpenAI's GPT-5.5 cyber capabilities
Laut AISI zeigt GPT‑5.5 starke Cybertest-Leistungen, doch die Simulationen bilden reale Verteidigung nur eingeschränkt ab und die aktualisierten Schutzmaßnahmen konnten nicht abschließend geprüft werden.
- Securing the Future of Trusted Semiconductor Supply Chains
Der bereitgestellte Auszug argumentiert, dass hybride Souveränität und internationale Abhängigkeiten bei KI wahrscheinlicher sind als vollständige Eigenständigkeit, wodurch geopolitisch bedingte Zugangsbeschränkungen drohen könnten.
- Computational predictions of protein structures associated with COVID-19
DeepMind stellte vorläufige AlphaFold-Strukturvorhersagen für SARS-CoV-2-Proteine bereit und betonte, dass sie nur teilweise überprüft und nicht als gesichert anzusehen sind.
- Trustworthy agents in practice
- Evaluating whether AI models would sabotage AI safety research
Der Auszug berichtet von keiner eigenständigen Sabotage, aber gelegentlicher Fortsetzung in Tests – am häufigsten bei Mythos Preview – und betont begrenzte Aussagekraft.
- Evaluating chain-of-thought monitorability
Der Bericht zufolge macht die Überwachung von Ketten des Denkens mögliches Fehlverhalten meist besser erkennbar, doch die Tests sind begrenzt und die Übertragbarkeit auf den Einsatz bleibt offen.
- AI Safety in China #26
Chinas KI-Sicherheitsarbeit gewinnt laut Bericht an Breite, doch bei Standards, Tests, Gesetzgebung und internationaler Wirkung sind zentrale Ergebnisse noch ungewiss.
- Demis Hassabis & John Jumper awarded Nobel Prize in Chemistry
DeepMind würdigt den Nobelpreis für die AlphaFold-Entwickler und stellt das System als wichtigen Beleg für KI in der Forschung dar, ohne im Beitrag seine Grenzen oder Genauigkeit auszuführen.
- The geography of AI compute: Mapping what is available and where
Die OECD beschreibt eine Methode zur Kartierung öffentlicher Cloud-Rechenleistung für KI; eine Pilotstudie zeigt deren geografische Verteilung, erfasst aber nur die Verfügbarkeit von Chiptypen und nicht deren Menge.
- 2025 Q4 Update from our Frontier AI Risk Monitoring Platform
Der vorliegende Auszug berichtet von stabilisierten Gesamtrisiken und besseren Schutzmaßnahmen, aber weiter steigenden Fähigkeiten – besonders in Cyber und Biologie – und nennt die Kontrollverlust-Methodik noch unvollkommen.
- Results from first Anthropic Public Record
Anthropics US-Umfrage von Ende 2025 zeigt große Hoffnungen auf medizinischen Nutzen, verbreitete Sorgen über KI-Folgen, mehrheitliche Unterstützung staatlicher Aufsicht und geringes Vertrauen in KI-Unternehmen.
- Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit
Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.
- Impact of modeling assumptions on time horizon results
METR zufolge beeinflussen Modellierungsannahmen die Zeithorizont-Schätzungen, doch die größte Unsicherheit bleibt die Aufgabenauswahl und die ungenaue Messung ihrer Schwierigkeit für Modelle.
- We spent 2 hours working in the future
Ein kleines METR-Planspiel deutet darauf hin, dass sehr leistungsfähige Agenten die Umsetzung beschleunigen könnten, während menschliche Prüfung, Feedback und Organisation zum Engpass werden; der geschätzte Produktivitätsgewinn von drei- bis fünffach ist ausdrücklich unsicher.
- Review of the Anthropic Sabotage Risk Report: Claude Opus 4.6
Der Auszug berichtet, dass METR das Risiko katastrophaler Fehlanpassungsfolgen bei Claude Opus 4.6 als sehr niedrig, aber nicht vernachlässigbar einschätzt und weitere Prüfung möglicher Schwächen der Ausrichtungsbewertung empfiehlt.
- How are AI agents used? Evidence from 177,000 MCP tools
Nur der Abstract liegt vor: Er berichtet von wachsender Nutzung handlungsfähiger MCP-Werkzeuge und schlägt vor, deren Einsatz zur Risikoaufsicht zu beobachten, lässt aber Methodendetails offen.
- Announcing the "AI Agent Standards Initiative" for Interoperable and Secure Innovation
- Post by @KSAmofaEN on X
- China’s Military AI Wish List
Der vorliegende Auszug beschreibt laut seinen Autoren breite KI-Beschaffungspläne der PLA und empfiehlt den USA Gegenmaßnahmen, Dialog und fortlaufende Beobachtung.
- Observations from two CLI game reimplementation runs with Opus 4.6
Opus 4.6 baute laut METR vereinfachte, teilweise spielbare Versionen zweier Kartenspiele, doch die begrenzten Tests und später entdeckten Fehler erlauben nur vorsichtige Schlussfolgerungen.
- We are Changing our Developer Productivity Experiment Design
METR zufolge könnten KI-Werkzeuge Entwickler stärker beschleunigen als frühere Messungen zeigten, doch Auswahlverzerrungen und Messprobleme machen die Folgestudie zu schwacher Evidenz für das Ausmaß.
- Five lessons from having helped run an AI-Biology RCT
Der Beitrag folgert aus einer RCT ohne signifikanten Gesamteffekt, dass KI-Risiken durch regelmäßige, sorgfältige Studien besser untersucht und Schutzmaßnahmen früh vorbereitet werden sollten.
- Does self-evaluation enable wireheading in language models?
Der bereitgestellte Abstract-Auszug berichtet von Noteninflation bei gekoppelter Selbstbewertung und Belohnung und warnt, dass eine Entkopplung mögliche instrumentelle Manipulation durch situativ bewusste Modelle nicht sicher ausschließt.
- Multi-Agent Risks from Advanced AI
- Public AI: Policies for democratic and sustainable AI infrastructures
Der Beitrag plädiert für offene, demokratisch kontrollierte und nachhaltige KI als digitales öffentliches Gut und empfiehlt dafür koordinierte Maßnahmen bei Rechenleistung, Daten und Modellen.
- Open Technical Problems in Open-Weight AI Model Risk Management
- Open technical problems in open-weight AI model risk management
Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.
- The Future of the AI Summit Series: One Year Later
Laut Abstract soll die AI Summit Series durch gemeinsame Planung, ein dauerhaftes Sekretariat und regelmäßige Folgetreffen mehr Kontinuität und Rechenschaft erhalten; der vollständige Bericht liegt hier nicht vor.
- AI Safety in China #24
Der Bericht zeigt wachsende chinesische Debatten über KI-Sicherheit, aber auch unterschiedliche Einschätzungen zu Risiken, Regulierung und ihrer politischen Priorität.
- Game-theory insights into asymmetric multi-agent games
Der Beitrag beschreibt eine laut Autoren einfache Methode zur Analyse asymmetrischer Spiele und verweist auf eine spätere Erweiterung; eine unabhängige Bewertung fehlt und die letzte Bildunterschrift ist abgeschnitten.
- Tracing the thoughts of a large language model
- DeepMind and Blizzard open StarCraft II as an AI research environment
SC2LE soll KI-Forschung in StarCraft II erleichtern, doch die ersten Agenten scheiterten laut Bericht noch an der einfachsten eingebauten Spiel-KI.
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- Facing the stakes of AI together: The Seventh Edition of the Athens Roundtable on AI and the Rule of Law
Der angekündigte Roundtable soll internationale Zusammenarbeit zur KI-Governance stärken, doch der Bericht schildert Ziele und Programm statt Veranstaltungsergebnisse.
- Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems
- China’s Embodied AI: A Path to AGI
Der Auszug stellt Chinas verkörperte KI als möglichen AGI-Pfad dar und empfiehlt, die Entwicklung zu beobachten und Behauptungen zu prüfen.
- Introducing the FMF’s Technical Report Series on Frontier AI Frameworks
- Review of the Anthropic Summer 2025 Pilot Sabotage Risk Report
Der vorgelegte Auszug berichtet, dass METR Anthropics Einschätzung eines geringen Sabotagerisikos für Opus 4 und 4.1 überwiegend teilt, trotz möglicher übersehener fehlgeleiteter Überlegungen.
- Concordia AI CEO Brian Tse on The Cognitive Revolution Podcast
Concordia AI skizziert Themen eines Podcastgesprächs über Chinas KI und verweist für die vollständige Diskussion auf die Podcastfolge.
- Disrupting an AI-orchestrated cyber espionage campaign
Anthropic berichtet von einer mutmaßlich staatlich unterstützten Spionagekampagne, bei der Claude Code laut Unternehmen den Großteil der Angriffsarbeit übernahm; der verlinkte vollständige Bericht liegt hier nicht vor.
- Guiding Opinions on Accelerating Scenario Innovation to Promote the High-Quality Development of the Economy Through High-Level Applications of Artificial Intelligence
Der Auszug skizziert chinesische Leitlinien zur Förderung breiter KI-Anwendungen und nennt dafür Ziele sowie Hindernisse, enthält aber keine Umsetzungsergebnisse.
- Work Plan Unveiling the Key Tasks for Innovation in the New Generation Artificial Intelligence Industry
Der unvollständige Auszug beschreibt Chinas KI-Industrieplan von 2018 und dessen bis 2020 gesetzte Ziele für vernetzte Fahrzeuge, weist aber keine späteren Ergebnisse nach.
- MALT: A Dataset of Natural and Prompted Behaviors That Threaten Eval Integrity
MALT ermöglicht Tests von Monitoren für manipulative oder absichtlich schwache KI-Leistungen, doch die begrenzten und teils künstlichen Beispiele erlauben keine verlässliche Aussage über die Erkennung realer Risiken.
- Expanding Project Glasswing
Anthropic erweitert Project Glasswing für rund 150 weitere Organisationen und will KI stärker für die Behebung von Sicherheitslücken einsetzen, hält einen allgemeinen Zugang zu Mythos-ähnlichen Fähigkeiten aber mangels ausreichender Schutzmaßnahmen noch für verfrüht.
- Our compliance framework for California's SB 53
Anthropic veröffentlicht einen Rahmen zur Erfüllung des kalifornischen SB 53 und wirbt für bundesweite, flexible Transparenzregeln für die größten KI-Entwickler.
- Anthropic's position on the diffusion rule
Anthropic fordert strengere und besser durchgesetzte KI-Chip-Exportkontrollen, um den US-Rechenvorsprung zu erhalten; der Bericht gibt die Argumente des Unternehmens wieder, ohne sie unabhängig zu prüfen.
- Op-Ed: China Is Taking AI Safety Seriously. So Must the U.S.
Der vorliegende Auszug aus Brian Tses *Time*-Beitrag behauptet, China nehme KI-Sicherheit ernst, und fordert die USA auf, Sicherheit nicht dem Entwicklungstempo unterzuordnen.
- STORM-0817: Iran-linked malware and scraping activity
OpenAI berichtet, mutmaßlich zu STORM-0817 gehörende Konten wegen KI-gestützter Malwareentwicklung und Aufklärung gesperrt zu haben, wobei die Zuordnung auf einer externen Quelle beruht und der zusätzliche Nutzen der KI laut Unternehmen begrenzt war.
- The Ethics of AI and Emotional Intelligence
Der vorliegende Auszug beschreibt Chancen und Risiken von KI zur Emotionserkennung und fordert eine öffentliche Debatte, bevor ihr Einsatz weiter zunimmt.
- UK and France to deepen research and AI links following Horizon association
Großbritannien und Frankreich kündigten neue Forschungs- und KI-Sicherheitskooperationen an, deren konkrete Umsetzung und Ergebnisse im Bericht offenbleiben.
- RFI Response: Section 232 National Security Investigation of Imports of Robotics and Industrial Machinery
CSET zufolge erschweren Datenlücken verlässliche Aussagen zu Robotikbedarf und Lieferketten; das Zentrum fordert bessere Forschung, besonders zu geschickter Manipulation für sicherheitsrelevante Anwendungen.
- AI Governance at the Frontier
Der Auszug empfiehlt, gemeinsame und strittige Annahmen hinter KI-Governance-Vorschlägen systematisch zu prüfen; die meisten der fünf betrachteten US-bezogenen Vorschläge betonen Fachkräfte und Rahmenwerke, doch über wirksame Risikominderung bestehe kein Konsens.
- G7 AI transparency reporting: Ten insights for AI governance and risk management
20 freiwillige HAIP-Berichte zeigen laut OECD vielfältige Ansätze für KI-Risikomanagement und Transparenz, zugleich bleiben Vergleichbarkeit und technische Herkunftsnachweise begrenzt.
- Announcing Inspect Evals | AISI Work
Der Bericht kündigt Inspect Evals als gemeinschaftliche, quelloffene Benchmark-Sammlung für Sprachmodelle an, deren Nutzen und Qualität hier nicht unabhängig belegt werden.
- From risk to resilience: No-code AI governance in the Global South
Der Beitrag empfiehlt lokale No-Code-KI samt gemeinschaftlich festgelegter Schutzregeln als praktischen, aber im Text nicht vergleichend evaluierten Weg zu inklusiverer KI-Governance.
- Frontier AI Biosafety Thresholds
- Discovering when an agent is present in a system
Die Autoren schlagen eine kausale Definition und experimentelle Verfahren zur Entdeckung von Agenten vor und berichten über verbesserte Sicherheitsanalysen, während der Blogbeitrag selbst nur wenige Ergebnisdetails nennt.
- OpenAI’s Frontier Governance Framework
OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.
- AlphaFold reveals the structure of the protein universe
DeepMind berichtet über eine geplante Erweiterung der AlphaFold-Datenbank auf mehr als 200 Millionen Proteinstruktur-Vorhersagen und beschreibt deren Forschungsnutzen anhand ausgewählter Beispiele.
- Guidelines for the Construction of a Comprehensive Standardization System for the National Artificial Intelligence Industry (2024 Edition)
Der Auszug stellt Chinas KI-Industrie als rasch wachsend dar und begründet damit den Bedarf an umfassenderen Standards, enthält aber keine konkreten Standardvorgaben.
- Safety cases at AISI
AISI will mit ausdrücklich unsicheren Safety-Case-Skizzen frühzeitig Belege, offene Fragen und Forschungsbedarf für die Sicherheit künftiger leistungsfähiger KI-Systeme ordnen.
- How to evaluate control measures for LLM agents? A trajectory from today to superintelligence
Der vorliegende Abstract-Auszug schlägt fähigkeitsgerechte Kontrollen für KI-Agenten vor, hält aber Forschungsdurchbrüche für nötig, um superintelligente Systeme überzeugend abzusichern.
- Opinions of the State Council on Deepening the Implementation of the "Artificial Intelligence+" Initiative
Der vorliegende Auszug beschreibt Chinas politische Ziele für eine breite KI-Integration bis 2035, belegt aber weder deren Umsetzung noch enthält er die vollständige Übersetzung.
- Is generative AI a General Purpose Technology? Implications for productivity and policy
Der bereitgestellte Auszug zufolge könnte generative KI langfristig als Allzwecktechnologie die Produktivität steigern, sofern sie weitere Innovationen anstößt und passende politische Rahmenbedingungen bestehen.
- U.S. AI Statecraft
Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.
- Strengthening AI resilience | AISI Work
20 geförderte Projekte sollen laut Bericht untersuchen, wie sich gesellschaftliche und infrastrukturelle Risiken beim KI-Einsatz mindern lassen; konkrete Forschungsergebnisse werden noch nicht berichtet.
- AI openness: A primer for policymakers
Der vorliegende Auszug beschreibt einen Bericht über Offenheit bei KI und deren Chancen, Risiken und Governance, nennt aber keine konkreten Ergebnisse.
- Societal Impacts
- Exploring institutions for global AI governance
Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.
- Interpretability
- Announcing Google DeepMind
Google führt DeepMind und das Brain-Team zusammen; der Bericht beschreibt Ziele und geplante Strukturen, aber noch keine Ergebnisse oder konkreten Sicherheitsverfahren.
- Issue Brief: Thresholds for Frontier AI Safety Frameworks
- Designing AI resistant technical evaluations
Anthropic berichtet, dass Claude den praxisnahen Einstellungstest zunehmend bewältigte und der neue Test daher ungewöhnliche Programmierpuzzles nutzt.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →