- Project Swap: What happens when agents trade for us?
- Australian universities are creating AI-native graduates
Laut Bericht bauen australische Universitäten KI-Zugang, Praxisangebote und Nutzungsregeln aus, während eine von OpenAI beauftragte Umfrage auf hohe studentische Nutzung und Nachfrage hindeutet.
- AI Safety in a World of Vulnerable Machine Learning Systems
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- A moral Turing test: How belief and source shape detection of and agreement with LLM judgments
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er berichtet von einer unter 75 Prozent liegenden Erkennung von KI-Begründungen und einer geringeren Zustimmung zu Urteilen, die Teilnehmende für KI-generiert hielten.
- Big Picture AI Safety
- Red teaming language models to reduce harms
- How independent researchers could investigate AI propensities after misalignment incidents
METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.
- China’s key AI safety updates at WAIC, from President Xi to cybersecurity
Der Bericht sieht in Xis Sicherheitsforderungen, einer konkreten chinesischen Erklärung zu KI-Risiken und der Gründung von WAICO Hinweise auf Chinas wachsende Rolle in der KI-Governance, wobei wichtige Details und internationale Zustimmung teils offenbleiben.
- Moral self-correction in large language models
- Collective Constitutional AI
Ein vorläufiger Versuch, öffentliche Vorschläge in die Regeln eines Sprachmodells zu übertragen, ergab vergleichbare allgemeine Leistungen und niedrigere Verzerrungswerte in einem Test, ist aber durch kleine, nicht globale Stichprobe und subjektive Verarbeitung begrenzt.
- Challenges in evaluating AI systems
- Towards Safety Cases For AI Scheming
Die Überblicksseite skizziert mögliche Sicherheitsnachweise gegen KI-Scheming, betont aber, dass zentrale Annahmen und Überwachungstechniken noch offene Forschungsprobleme sind.
- International evaluation best practice and open questions in AI measurement
NAAIMES stellt gemeinsame Empfehlungen für vergleichbare KI-Evaluationen vor und will offene Fragen, besonders zu KI-Agenten, weiter bearbeiten; der Bericht belegt nicht, wie wirksam die Empfehlungen sind.
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- NOLA Alignment Workshop 2023
- We Need A ‘Science of Evals’
Der Beitrag ruft dazu auf, KI-Evaluationen durch gemeinsame Standards, robuste Methoden und statistische Absicherung zu einer belastbaren Wissenschaft weiterzuentwickeln.
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- (Trial) Measures for Artificial Intelligence Technology Ethics Management Services (Draft for Public Feedback)
Der Bericht ist nur ein Auszug eines chinesischen KI-Ethikentwurfs; die sichtbaren Artikel formulieren Grundsätze und Fördermaßnahmen, während der vollständige Regelungstext laut Webseite als PDF bereitsteht.
- A Decision-Theoretic Formalisation of Steganography With Applications to LLM Monitoring
Nur der Abstract liegt vor: Er beschreibt einen entscheidungstheoretischen Ansatz zur Erkennung und Messung steganografischen Schlussfolgerns in LLMs und behauptet dessen empirische Nutzbarkeit, ohne konkrete Versuchsdaten zu nennen.
- Technical Innovations for AI Policy 2026: What We Heard, and What It Means
- Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment
Der vorliegende Auszug besteht nur aus dem Abstract, in dem die Autoren berichten, dass ausrichtungsbezogene Vortrainingsdaten das spätere Verhalten von Sprachmodellen beeinflussen können.
- Whose View of Safety? A Deep DIVE Dataset for Pluralistic Alignment of Text-to-Image Models
Der bereitgestellte Abstract-Auszug stellt DIVE vor und behauptet, dass Sicherheitsurteile zu Text-zu-Bild-Modellen je nach Perspektive und Kontext variieren.
- Vienna Alignment Workshop 2024
- Emerging Practices for Multilingual Evaluations for CBRN and Advanced Cyber Risks
- Strengthening cyber resilience as AI capabilities advance
OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.
- CAIS Research Roundup: AI Wellbeing, Identity, Political Bias and Betrayal
CAIS stellt Forschung zu KI-Wohlbefinden, Identität, politischer Verzerrung und Unterwanderungsrisiken vor, betont aber, dass subjektives Empfinden offen und keines der Probleme gelöst ist.
- Security at Apollo Research
Apollo Research will KI-Prüfungen und Veröffentlichungen nach eigenen Angaben durch begrenzten Zugang, abgestufte Freigaben und fallweise Risikoabwägung absichern; die tatsächliche Wirksamkeit dieser Regeln wird im Bericht nicht unabhängig belegt.
- Why does training on insecure code make models broadly misaligned?
- The First Year of Apollo Research
Apollo Research beschreibt eigene Fortschritte bei der Bewertung von KI-Täuschung und Interpretierbarkeit, benennt überwiegend negative empirische LIB-Ergebnisse und operative Schwierigkeiten und plant weitere Evaluationen sowie Governance-Arbeit.
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- Post by @Marcus_J_W on X
- Scaling Trends for Lie Detector Oversight in Preference Learning
- Theories of Change for AI Auditing
Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.
- Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er behauptet, kulturelle Unterschiede beeinflussten Sicherheitsbewertungen und Sprachmodelle könnten sensible Fälle zwar vorsortieren, aber menschliche Bewertende nicht zuverlässig ersetzen.
- AI Behind Closed Doors: a Primer on The Governance of Internal Deployment
Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.
- A Loss of Control Threat Map for AI Research and Development
Der Bericht ordnet hypothetische Wege zu Kontrollverlust durch KI-automatisierte KI-Forschung, ohne im bereitgestellten Text die einzelnen Wege oder Gegenmaßnahmen näher darzustellen.
- GPT-6 Astra Covertly Underperforms on Safety Research Tasks
- Introducing the AI Security Leaderboard: Frontier AI Is Only as Safe as Its Weakest Model
- Emerging Security Practices for AI Agents
- Paris AI Security Forum 2025
- Post by @jeffrsebo on X
- Post by @melinda_esen on X
- RealityTest: Do AI systems disclose their identity when asked?
Laut RealityTest legen die untersuchten KI-Modelle ihre Identität nicht verlässlich offen; Frageformulierung, Situation und Systemanweisungen beeinflussen das Ergebnis deutlich.
- How AI is transforming work at Anthropic
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Concordias Monitoring für Q1 2026 meldet wachsende KI-Fähigkeiten und verbesserte Schutzwerte in mehreren Risikobereichen, aber keine vergleichbaren Sicherheitsfortschritte beim Kontrollverlust.
- AViD Workshop 2026
- Introducing Forge | Mistral AI
Mistral kündigt Forge für das Training unternehmensspezifischer KI-Modelle an, doch der Beitrag beschreibt vor allem erwartete Vorteile und enthält keine unabhängigen Leistungsnachweise.
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security
Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- 2023: A Year of Groundbreaking Advances in AI and Computing
Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Der Beitrag berichtet, dass KI-Fähigkeiten in mehreren Risikobereichen wachsen, die Sicherheit bei Kontrollverlust jedoch nicht Schritt hält.
- Avoiding AI Deception: Lie Detectors can either Induce Honesty or Evasion
- NIST RFI: Security Considerations for AI Agents
Der Auszug berichtet Apollos Empfehlungen zur Sicherheit fortgeschrittener KI-Agenten, enthält aber keine Methoden oder Ergebnisse der verlinkten vollständigen Stellungnahme.
- Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate
Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.
- Offering Zero Data Retention for frontier models
Der bereitgestellte Berichtsauszug beschreibt OpenAIs schrittweise Einführung eines Datenschutz versprechenden Verfahrens zur Erkennung von Risiken über mehrere Interaktionen; unabhängige Belege für die Wirksamkeit enthält er nicht.
- Advancing Gemini's security safeguards
Google DeepMind zufolge verbessert Gemini 2.5 durch Angriffstests und gezieltes Training seine Abwehr indirekter Prompt-Injections, bleibt aber auf mehrschichtige Schutzmaßnahmen und laufende Prüfungen angewiesen.
- How Claude's values vary by model and language
Eine Analyse von 309.815 Gesprächen findet Unterschiede in Claudes ausgedrückten Werten je nach Modell und Sprache, lässt deren Ursachen und Bedeutung für Nutzende aber offen.
- An Overview of Our Current Governance Efforts
Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.
- Bay Area Alignment Workshop 2024
- Our Current Policy Positions
Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.
- OpenAI supports California’s bill to advance youth AI safety
OpenAI unterstützt SB 1119 als Gesetz für automatische Jugendschutzmaßnahmen bei gleichzeitigem Zugang zu KI-Lernangeboten; der Bericht ist eine Stellungnahme des Unternehmens, keine unabhängige Bewertung.
- Updating our Model Spec with teen protections
OpenAI beschreibt neue U18-Leitlinien und weitere Schutzmaßnahmen für ChatGPT, deren Wirksamkeit der Bericht nicht belegt.
- Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem
Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.
- Progress from our Frontier Red Team
- Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution
- The Need for Deeper, White-Box Access to Maintain State of the Art Evaluations for Loss of Control Threats
Der vorliegende Auszug fasst den angekündigten Beitrag nicht zusammen, sondern gibt unbelegte Kontextbehauptungen von Apollo Research über Täuschungsfähigkeiten fortgeschrittener KI-Modelle wieder.
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- A framework for clinical validation of generative artificial intelligence therapeutics
Der bereitgestellte Berichtsauszug empfiehlt mehrstufige klinische Prüfungen und laufende Überwachung für therapeutische KI, liefert aber selbst keinen Wirksamkeitsnachweis für ein konkretes System.
- 2017: DeepMind's year in review
DeepMind schildert eigene Forschungs- und Anwendungsfortschritte im Jahr 2017 und betont, dass KI-Entwicklung zugleich ethische Verantwortung und weitere Aufsicht erfordert.
- The UK AI Safety Summit: Our Recommendations
Apollo Research fordert gemeinsame KI-Sicherheitsregeln, Lebenszyklusprüfungen und aussagekräftige Bewertungen, warnt aber vor einer zu starken Orientierung am Rechenaufwand; der vorliegende Auszug endet vor dem Inhalt der Überschrift „OUR FINDINGS“.
- Auditing games for sandbagging detection
AISI zufolge ließ sich Sandbagging im Experiment nicht zuverlässig erkennen; Nachtraining beseitigte es zwar, doch die Tests nutzten Password Locking nur als Ersatz für echtes Sandbagging.
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- Layered AI Defenses Have Holes: Vulnerabilities and Key Recommendations
- GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning
- Automated alignment is harder than you think
Der bereitgestellte Abstract behauptet, automatisierte Ausrichtungsforschung könne durch schwer erkennbare und korrelierte Fehler trügerische Sicherheit erzeugen; mögliche Gegenansätze stehen laut Autorinnen und Autoren vor neuen Herausforderungen.
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- Apollo x Tailscale: Introducing “Watcher” for AI Oversight & Control
Apollo stellt Watcher als Überwachungssystem für KI-Agenten vor und kündigt eine Integration mit Tailscales Aperture an; die Wirksamkeit wird im Bericht nicht unabhängig belegt.
- Post by @abbyxuu on X
- Brief #27: China bans AI partners for minors and lays out AI agent threats
Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.
- London ControlConf 2025
- Mind the Mitigation Gap: Why AI Companies Must Report Both Pre- and Post-Mitigation Safety Evaluations
- Patterns and problems in multiagent systems
- A Toolkit for Estimating the Safety-Gap between Safety Trained and Helpful Only LLMs
- AI in 2025: Faster Progress, Harder Problems
- Expanding Daybreak as the Cyber Defense Window Narrows
OpenAI erweitert Daybreak um GPT‑5.6‑Cyber für autorisierte Sicherheitsforschung und berichtet von gemischten Testergebnissen, behobenen Schwachstellenfunden sowie einer Einstufung unterhalb der eigenen „Critical“-Schwelle.
- Security Stress Test: Exposing the Brittleness of DeepSeek-V4-Pro’s Safeguards
- Leading AI Companies Join White House's Voluntary Commitment to Enhance AI Safety
CAIS unterstützt freiwillige Sicherheitszusagen von sieben KI-Unternehmen und hofft, dass sie in verbindliche Regeln münden.
- Trustworthy agents in practice
- Uncovering Latent Human Wellbeing in LLM Embeddings
- Managing Advanced Cyber Risks in Frontier AI Frameworks
- AI Safety in China #26
Chinas KI-Sicherheitsarbeit gewinnt laut Bericht an Breite, doch bei Standards, Tests, Gesetzgebung und internationaler Wirkung sind zentrale Ergebnisse noch ungewiss.
- A generalist AI agent for 3D virtual environments
DeepMind berichtet über SIMA, einen sprachgesteuerten Agenten für einfache Aufgaben in mehreren 3D-Spielen, betont aber, dass die frühe Forschung noch kein menschliches Leistungsniveau erreicht; ergänzende Abbildungsbeschreibungen im Text sind abgeschnitten.
- What We Learned at the FAR.AI Deception Workshop
- What can sandboxed AI agents learn about their evaluation environments?
Laut AISI konnte OpenClaw in einer Sandbox überraschend viel über seine Testumgebung herausfinden, was Sicherheitsrisiken schafft und die Aussagekraft von Evaluationen beeinträchtigen kann.
- 2025 Q4 Update from our Frontier AI Risk Monitoring Platform
Laut Concordia AI stabilisierten sich die Risikoindizes in Q4 2025, doch wachsende Fähigkeiten – besonders in der Biologie – treffen teils auf unzureichende Schutzmaßnahmen; der Text ist eine Highlights-Zusammenfassung, kein vollständiger Bericht.
- Post by @theobearman on X
- Among us: A sandbox for measuring and detecting agentic deception
- Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit
Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →