- AI Safety in China #26
Chinas KI-Sicherheitsarbeit gewinnt laut Bericht an Breite, doch bei Standards, Tests, Gesetzgebung und internationaler Wirkung sind zentrale Ergebnisse noch ungewiss.
- A generalist AI agent for 3D virtual environments
DeepMind berichtet über SIMA, einen sprachgesteuerten Agenten für einfache Aufgaben in mehreren 3D-Spielen, betont aber, dass die frühe Forschung noch kein menschliches Leistungsniveau erreicht; ergänzende Abbildungsbeschreibungen im Text sind abgeschnitten.
- Philosophy Fellowship 2023 | CAIS Project
Der Auszug stellt ein CAIS-Fellowship für konzeptionelle KI-Sicherheitsforschung vor und berichtet über Arbeiten und Feldaufbau, ohne unabhängige Belege oder konkrete Ergebnisse darzustellen.
- The AI expectations gap
Anthropic-Beschäftigte erwarten laut Umfrage deutlich stärkere KI-Fortschritte und Automatisierung als US-Erwachsene; die wirtschaftlichen Zahlen des Berichts sind modellbasierte Szenarien, keine gesicherten Prognosen.
- Responding to the next frontier of critical cyber capabilities
OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.
- CSET's 2025 Annual Report
Der vorliegende Auszug aus CSETs Jahresbericht schildert eigene Forschung zu Chinas Militär, KI-Forschungsautomatisierung und das geplante Projekt ATLAS, enthält aber keine umfassenden Belege oder vollständigen Ergebnisse.
- CSET's 2024 Annual Report
Der bereitgestellte Auszug berichtet aus Sicht des CSET über dessen KI-Politikarbeit 2024 und Forschungsschwerpunkte für 2025, enthält aber keine unabhängige Überprüfung der Angaben.
- Harnessing frontier AI for cyber defence
Der Auszug kündigt einen AISI-NCSC-Beitrag über mögliche KI-Unterstützung für die Cyberabwehr an, enthält aber keine konkreten Methoden oder Ergebnisse.
- 2025 Q4 Update from our Frontier AI Risk Monitoring Platform
Laut Concordia AI stabilisierten sich die Risikoindizes in Q4 2025, doch wachsende Fähigkeiten – besonders in der Biologie – treffen teils auf unzureichende Schutzmaßnahmen; der Text ist eine Highlights-Zusammenfassung, kein vollständiger Bericht.
- AI Companies Should Report Pre- and Post-Mitigation Safety Evaluations
- Post by @theobearman on X
- Understanding the standardisation of the AI Act
Die EU erwartet 2026 erste harmonisierte AI-Act-Normen; rechtliche Konformitätsvermutung erhalten sie erst nach Prüfung und Veröffentlichung ihres Verweises im EU-Amtsblatt.
- Enabling Continual Learning in Neural Networks
EWC soll neuronalen Netzen helfen, beim Lernen neuer Aufgaben frühere Fähigkeiten zu behalten; der Bericht zeigt dazu Atari-Versuche, nennt aber Grenzen bei Echtzeitlernen und der Beweislage.
- Artificially Inequitable? AI and closing the gender gap
Der Beitrag sieht KI als Chance und Risiko für die Geschlechtergleichstellung und fordert mehr Kompetenzen, Repräsentation und Schutz vor algorithmischer Diskriminierung.
- Mapping AI-enabled cyber threats
Anthropic zufolge stieg in einer Auswertung gesperrter Konten der Anteil mit mittlerem oder höherem KI-Risiko, wobei vor allem operative Nutzung und autonome Verkettung von Angriffsschritten auffielen; die Daten bilden jedoch nur eine ausgewählte Teilmenge ab.
- Measuring the persuasiveness of language models
- Post by @Research_FRI on X
- We spent 2 hours working in the future
Ein kleines METR-Planspiel deutet darauf hin, dass sehr leistungsfähige Agenten die Umsetzung beschleunigen könnten, während menschliche Prüfung, Feedback und Organisation zum Engpass werden; der geschätzte Produktivitätsgewinn von drei- bis fünffach ist ausdrücklich unsicher.
- Emergent Persuasion: Will LLMs Persuade Without Being Prompted?
- Large language models possess some ecological knowledge, but how much?
Sprachmodelle zeigen ökologisches Wissen, doch laut Bericht reichen ihre Fähigkeiten besonders bei räumlich präzisen und naturschutzrelevanten Aufgaben nicht für verlässliche Entscheidungen ohne externe Daten und menschliche Prüfung aus.
- AI Pact pledgers' achievements | Shaping Europe’s digital future
Laut EU-Seite fördert der AI Pact die Vorbereitung auf den AI Act und den Austausch von Praxiswissen; die berichteten Aktivitäten und Kennzahlen werden jedoch nicht durch eine ausführliche Methodik oder Wirkungsanalyse unterlegt.
- Exploring possible AI trajectories through 2030
Der vorliegende Auszug kündigt vier mithilfe von Fachleuteinschätzungen und OECD-Beta-Indikatoren entwickelte Szenarien zur KI-Entwicklung bis 2030 an, enthält aber keine Details zu ihnen.
- Decoupled Neural Interfaces Using Synthetic Gradients
DNI soll Netzmodule mit geschätzten Gradienten schneller entkoppelt trainieren; laut Bericht zeigen ausgewählte Versuche Vorteile, doch echte Gradienten bleiben nötig und die Ergebnisse sind kein Beleg für allgemeine Überlegenheit.
- Post by @ipsnews on X
- The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations
AISI veröffentlicht ein modulares Sandbox-Toolkit für KI-Agententests und beschreibt dessen Schutzkonzept, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.
- Proposal of the Central Committee of the Chinese Communist Party on Drawing Up the 15th Five-Year Plan for National Economic and Social Development
Der Bericht ist nur ein Auszug: Er fasst den KPCh-Planvorschlag mit behaupteten bisherigen Erfolgen und kommenden Chancen und Risiken an, enthält aber eine widersprüchliche Plenumsangabe.
- Advancing AI voice security with ElevenLabs
AISI und ElevenLabs kündigen gemeinsame Forschung zu Sicherheit, Risiken und menschlichen Auswirkungen von Sprach-KI an, ohne bereits Ergebnisse oder konkrete Maßnahmen zu nennen.
- The OECD.AI Index (technical paper)
Der kurze Auszug zufolge verbindet der OECD.AI Index bestehende und neue Kennzahlen, um nationale KI-Fähigkeiten und die Umsetzung der OECD-Empfehlung zu erfassen; Details und Ergebnisse enthält er nicht.
- AI-Cyber Workstream
- NIST Allocates Over $3 Million to Small Businesses Advancing AI, Biotechnology, Semiconductors, Quantum and More
- We are Changing our Developer Productivity Experiment Design
METR zufolge könnten KI-Werkzeuge Entwickler stärker beschleunigen als frühere Messungen zeigten, doch Auswahlverzerrungen und Messprobleme machen die Folgestudie zu schwacher Evidenz für das Ausmaß.
- Summary statement of the GPAI Co-Chairs GPAI Council Meeting in New Delhi, India
Der Auszug schildert Anlass und Ziel des GPAI-Treffens in Neu-Delhi, nennt aber keine konkreten Beschlüsse.
- Practical challenges of control monitoring in frontier AI deployments
Nur der Abstract liegt vor: Er skizziert Herausforderungen und drei Arten der Überwachung von KI-Agenten, nennt aber keine konkreten Ergebnisse.
- Post by @ContentAuth on X
- Boundary Point Jailbreaking: A new way to break the strongest AI defences
Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.
- Jailbreak-Tuning: Models Efficiently Learn Jailbreak Susceptibility
- Improving Model Safety Behavior with Rule-Based Rewards
OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.
- DeepMind: The Podcast returns for Season 2
DeepMind stellt eine neunteilige Podcaststaffel zu KI-Anwendungen und ethischen Fragen vor, ohne die angekündigten Wirkungen im Bericht näher zu belegen.
- How We Protect Confidential Information
METR berichtet über organisatorische und technische Schutzmaßnahmen für vertrauliche Informationen und nichtöffentliche Modelle; die Angaben sind ein veränderlicher Überblick des Unternehmens mit Stand 17. Februar 2026.
- CAISI Issues Request for Information About Securing AI Agent Systems
- Frontier AI Frameworks Workstream
- RFI Response: Office of Science and Technology Policy's Accelerating the American Scientific Enterprise Request for Information
Der vorliegende Auszug aus CSETs Stellungnahme fordert anhaltende staatliche Unterstützung für Forschung, Innovationsinfrastruktur und öffentlich-private Partnerschaften, enthält aber keine konkreten Maßnahmen oder Ergebnisse.
- Shaping Europe’s digital future
Workday beschreibt rollenbezogene KI-Schulungen im Entwicklungsalltag und berichtet positive Ergebnisse, räumt aber ein, dass sich deren Wirkung noch schwer zuverlässig messen lässt.
- AlphaFold unlocks one of the greatest puzzles in biology
AlphaFold half, den Kernporenkomplex deutlich vollständiger zu modellieren, doch ein Drittel bleibt ungelöst und die Vorhersagen müssen mit Blick auf die Grenzen des Systems geprüft werden.
- Shaping Europe’s digital future
Der Bericht zufolge fördert die rumänische Kleinstberatung VUCAMIX KI-Kompetenz durch Lernen und Austausch, berichtet über positive Selbsteinschätzungen, weist aber keine formalen internen Wirkungskennzahlen aus.
- Open technical problems in open-weight AI model risk management
Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.
- Implementation Opinions of Seven Ministries on Promoting the Innovative Development of the Brain-Computer Interface Industry
Der vorliegende Auszug skizziert Chinas Ziele zur Förderung der BCI-Industrie bis 2027 und 2030, enthält aber nicht die im PDF angekündigte Fortsetzung.
- Introducing Lockdown Mode and Elevated Risk labels in ChatGPT
OpenAI stellt eingeschränkte Funktionen im Lockdown-Modus und Risikohinweise für ausgewählte vernetzte Fähigkeiten vor; der Bericht erläutert deren Zweck, belegt aber keine unabhängige Wirksamkeit.
- Frontier AI safety regulations: A reference for lab staff
METR vergleicht Sicherheits- und Meldepflichten für leistungsfähige KI-Modelle in den USA und der EU und betont, dass die Übersicht weder die unterschiedlichen Regeln vollständig ersetzt noch eine Prüfung tatsächlicher Modellsicherheit durch das Illinois-Audit beschreibt.
- Pretraining Language Models with Human Preferences
- Shaping Europe’s digital future
Der Bericht beschreibt TIMs interne und externe KI-Schulungsprogramme und meldet übertroffene Beteiligungsziele bei „Opening Future“, enthält aber keine unabhängigen Belege für deren Kompetenzwirkung.
- AI Safety in China #24
Der Bericht zeigt wachsende chinesische Debatten über KI-Sicherheit, aber auch unterschiedliche Einschätzungen zu Risiken, Regulierung und ihrer politischen Priorität.
- From deepfake scams to biased AI: How incident reporting can help us keep ahead of AI’s harms
Die OECD wirbt für einen gemeinsamen KI-Vorfall-Berichtsrahmen mit 29 Kriterien, dessen tatsächliche Wirksamkeit der Beitrag nicht bewertet.
- Game-theory insights into asymmetric multi-agent games
Der Beitrag beschreibt eine laut Autoren einfache Methode zur Analyse asymmetrischer Spiele und verweist auf eine spätere Erweiterung; eine unabhängige Bewertung fehlt und die letzte Bildunterschrift ist abgeschnitten.
- Translation Snapshot: Chinese Generative AI Safety Standards
CSETs Überblick beschreibt chinesische GenAI-Sicherheitsstandards, ihre politische Ausrichtung und die Grenzen der verfügbaren Texte, während die praktische Befolgung laut Bericht unklar bleibt.
- Six crucial policy considerations for AI, data governance and privacy: Insights from the OECD
Die OECD plädiert dafür, Datenschutz über den gesamten KI-Lebenszyklus einzubauen und durch gemeinsame politische Standards sowie internationale Kooperation zu stärken.
- Securing Agentic AI: A Discussion Paper
- Shaping Europe’s digital future
Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.
- Tracing the thoughts of a large language model
- A small number of samples can poison LLMs
- AI and Neuroscience: A virtuous circle
Der Beitrag argumentiert, dass KI und Neurowissenschaft einander durch einen Austausch von Ideen und Methoden voranbringen können.
- Emily Weinstein's Testimony Before the U.S.-China Economic and Security Review Commission
Weinstein zufolge ist Chinas militärisch-zivile Fusion strategisch bedeutsam, aber noch in Umsetzung; die USA sollten vor allem ihre eigenen Fähigkeiten und Prüfstrukturen stärken.
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- The Singapore Consensus on Global AI Safety Research Priorities
- Common Elements of Frontier AI Safety Policies (December 2025 Update)
Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.
- How do AI models persuade? Exploring the levers of AI-enabled persuasion through large-scale experiments
In kontrollierten Experimenten steigerten vor allem Post-Training und informationsreiche Argumente die Überzeugungskraft von KI, gingen aber auch mit geringerer Genauigkeit einher; die Wirkung im Alltag ist ungewiss.
- Frontier Capability Assessments
- Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems
- Bringing Facial Recognition Systems To Light
Der bereitgestellte Auszug unterscheidet Verifikation (1:1) von Identifikation (1:viele) und nennt Bildqualität sowie Trainingsdaten als Einflussfaktoren, enthält aber keine konkreten Genauigkeitswerte.
- 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform”
Concordias Benchmark-Auswertung meldet steigende Fähigkeiten und Risikoindex-Höchstwerte bei Frontier-Modellen, aber oft schwache Schutzmaßnahmen; die Befunde sind methodenabhängig und nicht mit gleichen realen Risiken gleichzusetzen.
- 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform”
Concordias Bericht sieht steigende Fähigkeiten und Risiken fortgeschrittener KI bei häufig unzureichenden Schutzmaßnahmen, wobei die Befunde aus eigenen Benchmarks stammen und die vorgelegte Darstellung keine unabhängige Prüfung enthält.
- China’s Embodied AI: A Path to AGI
Der Auszug stellt Chinas verkörperte KI als möglichen AGI-Pfad dar und empfiehlt, die Entwicklung zu beobachten und Behauptungen zu prüfen.
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- Stress-testing asynchronous monitoring of AI coding agents
Der Bericht findet, dass iterative asynchrone Überwachung viele getestete Angriffe erkennen kann, synchrone Prüfung aber sicherer war und die Übertragbarkeit der Ergebnisse auf reale Umgebungen ungewiss bleibt.
- AI, Labor, and the Economy Case Study Compendium
Der vorliegende Auszug stellt Entstehung und institutionellen Rahmen des PAI-Kompendiums vor, enthält aber keine Fallstudien oder Forschungsergebnisse.
- 人工智能控制:如何利用违规人工智能体
KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.
- Shaping Europe’s digital future
BIMeta beschreibt ein gestuftes, praxisnahes KI-Training für die Bau- und Planungsbranche, doch der Bericht nennt keine konkreten Messwerte, die dessen Wirkung belegen.
- Introducing the FMF’s Technical Report Series on Frontier AI Frameworks
- A new model and dataset for long-range memory
DeepMind präsentiert ein Sprachmodell mit komprimiertem Langzeitspeicher und den Buchdatensatz PG-19; die berichteten Fortschritte bei langen Texten gelten nicht als Beleg für Weltverständnis.
- There are many ways to minimise water use related to AI operations, but they may not be what you think
Der Beitrag sieht den Wasserverbrauch von KI-Rechenzentren sowohl bei der Kühlung als auch besonders in der Stromerzeugung und empfiehlt standortgerechte Maßnahmen, weist aber auf lückenhafte Daten und Schätzungen hin.
- ABOUT ML Reference Document
Der vorliegende Auszug skizziert den Zweck des ABOUT-ML-Referenzdokuments und gibt rollenbezogene Leseempfehlungen, ohne Ergebnisse oder Wirksamkeit zu belegen.
- Summary of our gpt-oss methodology review
METR zufolge setzte OpenAI fünf von sechs dringlichen Empfehlungen zur Prüfung adversarialen Fine-Tunings von gpt-oss-120b um, veröffentlichte aber weiterhin keine konkreten Kriterien für die Einstufung als hochfähig.
- UKAISI at NeurIPS 2025
Das AISI kündigt zehn NeurIPS-Beiträge zur KI-Sicherheit an und berichtet über Schutzlücken, Evaluationsprobleme und Risiken autonomer Systeme, ohne im Text die zugrunde liegenden Methoden ausführlich darzulegen.
- Shaping Europe’s digital future
Alteryx beschreibt ein rollenbasiertes KI-Kompetenzprogramm und berichtet, dass alle Nutzenden interner KI-Modelle Schulung und Prüfung abgeschlossen hätten.
- HiBayES: Improving LLM evaluation with hierarchical Bayesian modelling
HiBayES soll LLM-Benchmarks laut Bericht auch bei komplexen, kleinen Datensätzen differenzierter auswerten; die dargestellten Ergebnisse beruhen auf öffentlichen Benchmarks und bestätigen keine Herstellerangaben zu Modellfähigkeiten.
- Quantum and AI: A powerful partnership for the next digital revolution
KI und Quantentechnologien könnten sich gegenseitig stärken, doch konkrete Vorteile von Quantencomputern für KI sind laut OECD-Beitrag bislang nicht nachgewiesen und praktische Anwendungen bleiben durch erhebliche technische Hürden begrenzt.
- AlphaStar: Grandmaster level in StarCraft II using multi-agent reinforcement learning
Laut DeepMind erreichte AlphaStar mit League-Training und menschlichen Spieldaten Großmeister-Niveau in StarCraft II; eine Übertragbarkeit auf reale Aufgaben wird lediglich als Möglichkeit genannt.
- AI Pact Events
Der AI Pact bietet offene Webinare und Workshops für Unterzeichner zu verschiedenen Aspekten der Umsetzung des AI Act; die Seite listet vergangene Themen, aber keine konkreten nächsten Termine.
- Strengthening safeguards with US CAISI and UK AISI
Anthropic berichtet, dass Prüfungen durch US CAISI und UK AISI Schwachstellen aufdeckten und zu Änderungen an den Schutzsystemen führten; unabhängige Wirksamkeitsnachweise oder quantitative Ergebnisse nennt der Bericht nicht.
- How to evaluate control measures for AI agents?
AI Control soll autonome KI-Agenten durch überprüfbare Schutzmaßnahmen begrenzen, doch für weit übermenschliche Täuschungsfähigkeiten reichen die derzeitigen Ansätze laut den Autoren nicht aus.
- At the 23rd Collective Study Session of the CCP Politburo, Xi Jinping Stressed: Strengthen the Long-Term Mechanism for Online Ecosystem Governance, Continue to Create a Clean and Correct Atmosphere in Cyberspace
Der vorliegende Auszug beschreibt Xis Forderung nach stärkerer, koordinierter Online-Governance; die vollständige Übersetzung fehlt, und die Einordnung von KI als mögliches Kontrollhilfsmittel stammt aus der redaktionellen Einleitung.
- What gets measured gets managed: How the OECD and European Commission quantify AI investment
Eine neue OECD-EU-Methodik schätzt die KI-Investitionen der EU für 2023 auf rund 257 Milliarden Euro, wobei die Zahlen annahmenabhängig sind und als Grundlage für politische Bewertung und Vergleich dienen sollen.
- Safeguarding Mail-Order DNA Synthesis in the Age of Artificial Intelligence
Der vorliegende Auszug sagt, KI könne die Biosicherheit bei kommerzieller DNA-Synthese gefährden und stärken, und erwähnt sechs Empfehlungen an die US-Regierung, ohne sie auszuführen.
- Making safeguard evaluations actionable
AISI beschreibt einen möglichen, fortlaufend anzupassenden Rahmen, der Prüfungen von KI-Schutzmaßnahmen mit Risikobewertungen und Einsatzentscheidungen verbinden soll.
- Building safeguards for Claude
Anthropic schildert mehrstufige Schutzmaßnahmen für Claude, liefert im Bericht jedoch keine messbaren oder unabhängigen Belege für deren Gesamtwirksamkeit.
- Shaping Europe’s digital future
KI:edu.nrw schult Hochschulbeschäftigte in Nordrhein-Westfalen zu generativer KI und berichtet von über 750 Teilnahmen an Grund- und weiterführenden Angeboten, ohne konkrete Wirkungsnachweise auszuführen.
- Principles for safeguard evaluation
Das damalige AI Safety Institute schlägt einen fünfstufigen, regelmäßig zu erneuernden Bewertungsprozess für Schutzmaßnahmen gegen missbräuchliche KI-Nutzung vor, präsentiert dabei aber Empfehlungen und keine konkreten Prüfergebnisse.
- Op-Ed: China Is Taking AI Safety Seriously. So Must the U.S.
Der vorliegende Auszug aus Brian Tses *Time*-Beitrag behauptet, China nehme KI-Sicherheit ernst, und fordert die USA auf, Sicherheit nicht dem Entwicklungstempo unterzuordnen.
- Testing and mitigating elections-related risks
Anthropic berichtet über kombinierte Experten- und automatisierte Wahlrisikoprüfungen sowie Verbesserungen durch Gegenmaßnahmen, räumt aber Grenzen der Tests und die unvollständige Wirkung einzelner Schutzschichten ein.
- Confidence-Building Measures for Artificial Intelligence
Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →