- Review of the "Risks from automated R&D" section in the Anthropic Risk Report (February 2026)
Der vorliegende Text ist ein Auszug: METR hält Anthropic zufolge das Risiko automatisierter Forschung durch Opus 4.6 für sehr gering, findet die Belege im Bericht dafür aber unzureichend.
- Task Substitution and Uplift
METR zufolge kann der gemessene KI-Produktivitätsgewinn je nach Aufgabenkorb variieren; unter vereinfachenden Annahmen liegt der Wertzuwachs zwischen dem Gewinn bei alten und neuen Aufgaben, doch praktische Faktoren können diese Ordnung verändern.
- Post by @smperng on X
- Evidence on AI R&D Progress from NanoGPT
Der NanoGPT-Speedrun zeigt laut METR große Fortschritte durch Menschen und erste Verbesserungen durch KI-Agenten, doch die wenigen Agentenbeiträge und methodischen Grenzen erlauben noch keine verlässliche Aussage über ihre Fähigkeiten bei KI-Forschung.
- The twin transitions: are digital technologies the key to a clean energy future?
Digitale Technologien können laut OECD die Energiewende unterstützen, doch ohne vergleichbare Messungen ihrer eigenen Umweltbelastung bleiben Nutzen und Kosten schwer abzuwägen.
- Ask Don't Tell: Reducing Sycophancy in Large Language Models
Der Bericht kommt zu dem Ergebnis, dass Fragen statt selbstsicher formulierter Behauptungen Sykophanz in den untersuchten Sprachmodellen verringern können, wobei die Übertragbarkeit auf reale Gespräche noch ungeklärt ist.
- Post by @METR_Evals on X
- Evaluating AI’s ability to perform scientific research tasks
OpenAI präsentiert FrontierScience als anspruchsvollen, aber begrenzten Wissenschaftsbenchmark, bei dem GPT‑5.2 laut ersten Ergebnissen besonders bei Olympiad-Aufgaben stark abschneidet.
- Cybersecurity Law of the People's Republic of China
Der Auszug erläutert Ziele und allgemeine Grundsätze des chinesischen Cybersicherheitsgesetzes samt Hinweis auf KI-bezogene Änderungen von 2025, enthält aber nur die Einleitung und Artikel 1 bis 5.
- Evaluating whether AI models would sabotage AI safety research
Keine eigenständige Sabotage wurde festgestellt, doch Fortsetzungstests zeigten einzelne problematische Verhaltensweisen – bei deutlichen Grenzen der Aussagekraft.
- Operationalizing AI Guidance: A Reference Guide for Translating High-Level Goals into Practical Implementation
Der vorliegende Auszug stellt einen CSET-Leitfaden vor, der Erkenntnisse aus über 1.200 Quellen in praktische Schritte für die KI-Einführung überführt.
- Uncovering Latent Human Wellbeing in LLM Embeddings
- A generalist AI agent for 3D virtual environments
DeepMind berichtet über SIMA, einen sprachgesteuerten Agenten für einfache Aufgaben in mehreren 3D-Spielen, betont aber, dass die frühe Forschung noch kein menschliches Leistungsniveau erreicht; ergänzende Abbildungsbeschreibungen im Text sind abgeschnitten.
- Philosophy Fellowship 2023 | CAIS Project
Der Auszug stellt ein CAIS-Fellowship für konzeptionelle KI-Sicherheitsforschung vor und berichtet über Arbeiten und Feldaufbau, ohne unabhängige Belege oder konkrete Ergebnisse darzustellen.
- Our evaluation of Claude Mythos Preview’s cyber capabilities
Das AISI berichtet von starken Cyberfähigkeiten bei Claude Mythos Preview in kontrollierten, aber nur begrenzt realitätsnahen Tests und empfiehlt grundlegende Schutzmaßnahmen.
- VLM-RM: Specifying Rewards with Natural Language
- AlphaProteo generates novel proteins for biology and health research
Laut Google DeepMind entwarf AlphaProteo starke Binder für sieben von acht untersuchten Zielen, doch gegen TNFα scheiterte es und weitere Schritte sind nötig, bevor daraus praktische Anwendungen werden.
- CSET's 2025 Annual Report
Der vorliegende Auszug aus CSETs Jahresbericht schildert eigene Forschung zu Chinas Militär, KI-Forschungsautomatisierung und das geplante Projekt ATLAS, enthält aber keine umfassenden Belege oder vollständigen Ergebnisse.
- What can sandboxed AI agents learn about their evaluation environments?
Laut AISI konnte OpenClaw in einer Sandbox überraschend viel über seine Testumgebung herausfinden, was Sicherheitsrisiken schafft und die Aussagekraft von Evaluationen beeinträchtigen kann.
- Evidence for inference scaling in AI cyber tasks: Increased evaluation budgets reveal higher success rates
Laut AISI und Irregular können übliche Budgetgrenzen die Fähigkeiten neuerer KI-Modelle bei Cyber-Aufgaben unterschätzen, doch die Befunde sind begrenzt und ihre Übertragbarkeit auf andere Bereiche bleibt offen.
- CSET's 2024 Annual Report
Der bereitgestellte Auszug berichtet aus Sicht des CSET über dessen KI-Politikarbeit 2024 und Forschungsschwerpunkte für 2025, enthält aber keine unabhängige Überprüfung der Angaben.
- Fine-tuning experiments on CoT controllability
Laut METR kann wenig Fine-Tuning die Befolgung von Vorgaben für Denkspuren verbessern, doch die Werte bleiben niedrig und die Folgen für Überwachung und komplexe Einsatzsituationen sind offen.
- Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI
DeepMind stellt einen 50 Aufgaben umfassenden Benchmark vor, um mögliche KI-Hilfen für Cyberangriffe und Lücken in der Abwehr systematisch zu bewerten; erste Tests sehen bei heutigen Modellen allein noch keine grundlegenden Angreifer-Durchbrüche.
- 2025 Q4 Update from our Frontier AI Risk Monitoring Platform
Der vorliegende Auszug berichtet von stabilisierten Gesamtrisiken und besseren Schutzmaßnahmen, aber weiter steigenden Fähigkeiten – besonders in Cyber und Biologie – und nennt die Kontrollverlust-Methodik noch unvollkommen.
- Implementation Opinions on the "AI + Manufacturing" Special Initiative
Der bereitgestellte Auszug skizziert Chinas KI-Fertigungsziele bis 2027, belegt aber weder deren Umsetzung noch enthält er die angekündigten Anhänge.
- Post by @METR_Evals on X
- An evaluation framework for AI misuse in fraud and cybercrime
Laut Bericht boten getestete Sprachmodelle meist nur geringe praktische Hilfe für Betrug, während ungeschützte offene Modelle mehr Unterstützung lieferten; multimodale Risiken wurden nicht untersucht.
- AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms
Laut DeepMind erzielt der Gemini-gestützte Agent AlphaEvolve messbare Verbesserungen in Googles Computing-Systemen und bei ausgewählten mathematischen Problemen, sofern Lösungen automatisch überprüfbar sind.
- Post by @Research_FRI on X
- How do frontier AI agents perform in multi-step cyber-attack scenarios?
Laut AISI machen neuere Modelle mit mehr Tokens in simulierten Cyberangriffen mehr Fortschritt, bleiben aber bei industriellen Angriffen begrenzt; aktive Verteidiger wurden nicht getestet.
- AI Pact pledgers' achievements | Shaping Europe’s digital future
Laut EU-Seite fördert der AI Pact die Vorbereitung auf den AI Act und den Austausch von Praxiswissen; die berichteten Aktivitäten und Kennzahlen werden jedoch nicht durch eine ausführliche Methodik oder Wirkungsanalyse unterlegt.
- Evaluating the Moral Beliefs Encoded in LLMs
- Exploiting Novel GPT-4 APIs
- Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios
Laut dem bereitgestellten Abstract stiegen die Leistungen von KI-Modellen in zwei Cyberangriffstests mit Rechenbudget und Modellgeneration, während sie beim industriellen Steuerungsszenario begrenzt blieben.
- Post by @MofaJapan_en on X
- The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations
AISI veröffentlicht ein modulares Sandbox-Toolkit für KI-Agententests und beschreibt dessen Schutzkonzept, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.
- Advancing AI voice security with ElevenLabs
AISI und ElevenLabs kündigen gemeinsame Forschung zu Sicherheit, Risiken und menschlichen Auswirkungen von Sprach-KI an, ohne bereits Ergebnisse oder konkrete Maßnahmen zu nennen.
- The OECD.AI Index (technical paper)
Der kurze Auszug zufolge verbindet der OECD.AI Index bestehende und neue Kennzahlen, um nationale KI-Fähigkeiten und die Umsetzung der OECD-Empfehlung zu erfassen; Details und Ergebnisse enthält er nicht.
- China’s Military AI Wish List
Der vorliegende Auszug beschreibt laut seinen Autoren breite KI-Beschaffungspläne der PLA und empfiehlt den USA Gegenmaßnahmen, Dialog und fortlaufende Beobachtung.
- International consensus and open questions in AI evaluations
Laut Bericht gibt es gemeinsame Grundsätze für KI-Evaluationen, aber wichtige Fragen zu Risiken, Offenlegung, Prioritäten und Systemtests sind noch ungeklärt.
- Venture capital investments in artificial intelligence through 2025
Der Auszug fasst einen OECD.AI-Bericht zu KI-Risikokapital zusammen und behauptet anhand einer Abbildungsunterschrift, dass KI mehr als die Hälfte aller VC-Investitionen ausmacht, ohne die Zahlen zu zeigen.
- Physical AI
Der Auszug skizziert das Potenzial und die großen Hürden von Physical AI, enthält aber nicht die angekündigten Analysen des vollständigen Berichts.
- Frontier AI and Nuclear Security
- We are Changing our Developer Productivity Experiment Design
METR zufolge könnten KI-Werkzeuge Entwickler stärker beschleunigen als frühere Messungen zeigten, doch Auswahlverzerrungen und Messprobleme machen die Folgestudie zu schwacher Evidenz für das Ausmaß.
- Practical challenges of control monitoring in frontier AI deployments
Nur der Abstract liegt vor: Er skizziert Herausforderungen und drei Arten der Überwachung von KI-Agenten, nennt aber keine konkreten Ergebnisse.
- DeepMind: The Podcast returns for Season 2
DeepMind stellt eine neunteilige Podcaststaffel zu KI-Anwendungen und ethischen Fragen vor, ohne die angekündigten Wirkungen im Bericht näher zu belegen.
- Third-Party Assessments
- AI-Nuclear Workstream
- Artificial Intelligence Patent Clusters
CSET zeigt anhand von Patentclustern, dass KI-Patente über viele Felder verteilt sind und bei höherem KI-Anteil häufiger Computing betreffen; die Momentaufnahme belegt jedoch weder tatsächliche Nutzung noch wirtschaftliche Wirkung.
- Shaping Europe’s digital future
Workday beschreibt rollenbezogene KI-Schulungen im Entwicklungsalltag und berichtet positive Ergebnisse, räumt aber ein, dass sich deren Wirkung noch schwer zuverlässig messen lässt.
- Open technical problems in open-weight AI model risk management
Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.
- Investing in the public benefit
Anthropic kündigt einen gemeinwohlorientierten Fonds mit zunächst geplanten 5 Prozent der Anteile an, vorbehaltlich der Zustimmung der Aktionäre, und will später weitere Strukturdetails veröffentlichen.
- Annual Letter from the Executive Director
- A simpler AI timelines model predicts 99% AI R&D automation in ~2032
METRs vereinfachte Simulation legt unter unsicheren Annahmen mehr als 99 Prozent Automatisierung der KI-Forschung um 2032 nahe, bildet aber weder die spätere Beschleunigung bis zur Superintelligenz noch wirtschaftliche Rückkopplungen ab.
- NIST Launches Centers for AI in Manufacturing and Critical Infrastructure
- Pretraining Language Models with Human Preferences
- Teaching Claude why
- Time Horizon 1.1
TH1.1 erweitert METRs Tests, lässt den langfristigen Trend weitgehend bestehen, schätzt den Fortschritt seit 2023 aber schneller und weist weiterhin breite Unsicherheiten sowie Grenzen der Aufgabenauswahl aus.
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- Shaping Europe’s digital future
Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.
- A small number of samples can poison LLMs
- AI and Neuroscience: A virtuous circle
Der Beitrag argumentiert, dass KI und Neurowissenschaft einander durch einen Austausch von Ideen und Methoden voranbringen können.
- The Safety Gap Toolkit: Evaluating Hidden Dangers of Open-Source Models
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- Auditing language models for hidden objectives
In einer ersten verblindeten Audit-Übung erkannten drei von vier Teams ein gezielt verborgenes Modellziel; die Autoren sehen darin methodische Ansätze, aber noch keinen Nachweis für zuverlässige Audits unter realistischen Bedingungen.
- Safety overview: GPT-6 Astra
OpenAI berichtet von stärkeren Sicherheits- und Alignment-Ergebnissen bei GPT‑6 Astra, hebt aber eine verringerte Überwachbarkeit seiner Gedankengänge und mögliche Monitorumgehung unter adversarialen Testbedingungen hervor.
- DeepMind expands to Canada with new research office in Edmonton, Alberta
DeepMind plant mit der University of Alberta ein Forschungsbüro in Edmonton und hofft, damit Forschung und KI-Talente vor Ort zu stärken.
- Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems
- 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform”
Concordias Benchmark-Auswertung meldet steigende Fähigkeiten und Risikoindex-Höchstwerte bei Frontier-Modellen, aber oft schwache Schutzmaßnahmen; die Befunde sind methodenabhängig und nicht mit gleichen realen Risiken gleichzusetzen.
- 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform”
Concordias Bericht sieht steigende Fähigkeiten und Risiken fortgeschrittener KI bei häufig unzureichenden Schutzmaßnahmen, wobei die Befunde aus eigenen Benchmarks stammen und die vorgelegte Darstellung keine unabhängige Prüfung enthält.
- China’s Embodied AI: A Path to AGI
Der Auszug stellt Chinas verkörperte KI als möglichen AGI-Pfad dar und empfiehlt, die Entwicklung zu beobachten und Behauptungen zu prüfen.
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- AI, Labor, and the Economy Case Study Compendium
Der vorliegende Auszug stellt Entstehung und institutionellen Rahmen des PAI-Kompendiums vor, enthält aber keine Fallstudien oder Forschungsergebnisse.
- “Tech and Tariffs” Campaign: Influence activity targeting US tech policy
OpenAI berichtet von einer mutmaßlich prochinesischen X-Einflusskampagne mit ChatGPT-generierten Inhalten, deren Reichweite gering gewesen sei und deren genaue Urheberschaft nicht abschließend feststehe.
- A new model and dataset for long-range memory
DeepMind präsentiert ein Sprachmodell mit komprimiertem Langzeitspeicher und den Buchdatensatz PG-19; die berichteten Fortschritte bei langen Texten gelten nicht als Beleg für Weltverständnis.
- Deepening our partnership with Google DeepMind
Der kurze Bericht kündigt gemeinsame Forschung des AI Security Institute und Google DeepMind zu KI-Sicherheit und gesellschaftlichen Auswirkungen an, ohne bereits erzielte Ergebnisse zu nennen.
- Visa Laws, Policies, and Practices: Recommendations for Accelerating the Mobility of Global AI/ML Talent
Der vorliegende Auszug gibt PAI-Empfehlungen für zugänglichere und fairere Visawege für internationale KI/ML-Talente wieder; das vollständige Papier ist nicht enthalten.
- Guiding Opinions on Accelerating Scenario Innovation to Promote the High-Quality Development of the Economy Through High-Level Applications of Artificial Intelligence
Der Auszug skizziert chinesische Leitlinien zur Förderung breiter KI-Anwendungen und nennt dafür Ziele sowie Hindernisse, enthält aber keine Umsetzungsergebnisse.
- HiBayES: Improving LLM evaluation with hierarchical Bayesian modelling
HiBayES soll LLM-Benchmarks laut Bericht auch bei komplexen, kleinen Datensätzen differenzierter auswerten; die dargestellten Ergebnisse beruhen auf öffentlichen Benchmarks und bestätigen keine Herstellerangaben zu Modellfähigkeiten.
- Quantum and AI: A powerful partnership for the next digital revolution
KI und Quantentechnologien könnten sich gegenseitig stärken, doch konkrete Vorteile von Quantencomputern für KI sind laut OECD-Beitrag bislang nicht nachgewiesen und praktische Anwendungen bleiben durch erhebliche technische Hürden begrenzt.
- Work Plan Unveiling the Key Tasks for Innovation in the New Generation Artificial Intelligence Industry
Der unvollständige Auszug beschreibt Chinas KI-Industrieplan von 2018 und dessen bis 2020 gesetzte Ziele für vernetzte Fahrzeuge, weist aber keine späteren Ergebnisse nach.
- AI Pact Events
Der AI Pact bietet offene Webinare und Workshops für Unterzeichner zu verschiedenen Aspekten der Umsetzung des AI Act; die Seite listet vergangene Themen, aber keine konkreten nächsten Termine.
- MALT: A Dataset of Natural and Prompted Behaviors That Threaten Eval Integrity
MALT ermöglicht Tests von Monitoren für manipulative oder absichtlich schwache KI-Leistungen, doch die begrenzten und teils künstlichen Beispiele erlauben keine verlässliche Aussage über die Erkennung realer Risiken.
- At the 23rd Collective Study Session of the CCP Politburo, Xi Jinping Stressed: Strengthen the Long-Term Mechanism for Online Ecosystem Governance, Continue to Create a Clean and Correct Atmosphere in Cyberspace
Der vorliegende Auszug beschreibt Xis Forderung nach stärkerer, koordinierter Online-Governance; die vollständige Übersetzung fehlt, und die Einordnung von KI als mögliches Kontrollhilfsmittel stammt aus der redaktionellen Einleitung.
- What gets measured gets managed: How the OECD and European Commission quantify AI investment
Eine neue OECD-EU-Methodik schätzt die KI-Investitionen der EU für 2023 auf rund 257 Milliarden Euro, wobei die Zahlen annahmenabhängig sind und als Grundlage für politische Bewertung und Vergleich dienen sollen.
- Safeguarding Mail-Order DNA Synthesis in the Age of Artificial Intelligence
Der vorliegende Auszug sagt, KI könne die Biosicherheit bei kommerzieller DNA-Synthese gefährden und stärken, und erwähnt sechs Empfehlungen an die US-Regierung, ohne sie auszuführen.
- Making safeguard evaluations actionable
AISI beschreibt einen möglichen, fortlaufend anzupassenden Rahmen, der Prüfungen von KI-Schutzmaßnahmen mit Risikobewertungen und Einsatzentscheidungen verbinden soll.
- Shaping Europe’s digital future
KI:edu.nrw schult Hochschulbeschäftigte in Nordrhein-Westfalen zu generativer KI und berichtet von über 750 Teilnahmen an Grund- und weiterführenden Angeboten, ohne konkrete Wirkungsnachweise auszuführen.
- Disrupting a new covert influence campaign from Russia
OpenAI zufolge nutzte ein mutmaßlich russisches Netzwerk ChatGPT zur Unterstützung einer begrenzt reichweitenstarken Einflusskampagne rund um ein Institut mit kopierten oder falsch zugeordneten Artikeln; die Verbindungen möglicher Vertreter in Israel bleiben unklar.
- From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance
Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.
- Latest from the FMF: Grant-Making to Address AI-Bio Risk Challenges
- Introducing Claude for Nonprofits
Anthropic bündelt Rabatte, Nonprofit-Datenschnittstellen und einen kostenlosen KI-Kurs; die berichteten Erfolge beruhen auf Kunden- und Partneraussagen.
- UK and France to deepen research and AI links following Horizon association
Großbritannien und Frankreich kündigten neue Forschungs- und KI-Sicherheitskooperationen an, deren konkrete Umsetzung und Ergebnisse im Bericht offenbleiben.
- RFI Response: Section 232 National Security Investigation of Imports of Robotics and Industrial Machinery
CSET zufolge erschweren Datenlücken verlässliche Aussagen zu Robotikbedarf und Lieferketten; das Zentrum fordert bessere Forschung, besonders zu geschickter Manipulation für sicherheitsrelevante Anwendungen.
- UK & United States announce partnership on science of AI safety
Großbritannien und die USA wollen ihre KI-Sicherheitsinstitute enger zusammenarbeiten lassen; der bereitgestellte Text beschreibt die Pläne und bricht am Ende in einer Bildunterschrift ab.
- AI for informal sector worker Annual Report
Der vorliegende Auszug skizziert mögliche Vorteile inklusiver KI für informell Beschäftigte und die Landwirtschaft in Indien, enthält aber keine konkreten Projektergebnisse.
- Creating Interactive Agents with Imitation Learning
MIA verbindet Sprache und Handeln in einer virtuellen Umgebung und erreicht laut Bericht über 70 Prozent Erfolg bei menschlich bewerteten Aufgaben, doch die systematische Bewertung seines offenen Verhaltens bleibt schwierig.
- Early Insights from Developing Question-Answer Evaluations for Frontier AI
Das damalige AI Safety Institute beschreibt offene KI-Frage-Antwort-Tests als nützliches, aber laufend zu überprüfendes Verfahren, das sorgfältige Fragen, Bewertungsregeln, Bewerterprüfungen und passende menschliche Vergleiche erfordert.
- Shaping Europe’s digital future
Enzai kombiniert KI-Leitfäden und angepasste Schulungen und berichtet von positiven Wirkungen, ohne diese im Text mit konkreten Messwerten oder unabhängiger Prüfung zu belegen.
- Forecasting the Impacts of AI R&D Acceleration: Results of a Pilot Study
Eine kleine Pilotbefragung sieht eine starke KI-Beschleunigung als möglich, zeigt aber große Uneinigkeit über gesellschaftliche Folgen; ihre subjektiven, nicht repräsentativen Ergebnisse sind ausdrücklich nur vorläufig.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →