- FACTS Grounding: A new benchmark for evaluating the factuality of large language models
FACTS Grounding bewertet anhand von 1.719 Beispielen, ob Sprachmodelle Nutzerfragen ausführlich und ohne unbelegte Aussagen aus vorgegebenen Dokumenten beantworten; laut Bericht führt Gemini 2.0 Flash Experimental die anfängliche Rangliste mit 83,6 Prozent an.
- Adversarial Policies Beat Superhuman Go AIs
- Infusion: Shaping model behaviour by editing training data via influence functions
Vorliegt nur ein Abstract-Auszug: Die Forschenden berichten, dass Infusion mit kleinen Änderungen an Trainingsdaten Modellverhalten beeinflussen kann, besonders durch Verstärkung bereits gelernter Verhaltensweisen.
- Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit
Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.
- Post by @AlexBores on X
- Mapping AI-enabled cyber threats
Anthropic zufolge stieg in einer Auswertung gesperrter Konten der Anteil mit mittlerem oder höherem KI-Risiko, wobei vor allem operative Nutzung und autonome Verkettung von Angriffsschritten auffielen; die Daten bilden jedoch nur eine ausgewählte Teilmenge ab.
- Catastrophic Goodhart: regularizing RLHF with KL divergence does not mitigate heavy-tailed reward misspecification
- ClearHarm: A more challenging jailbreak dataset
- Codebook Features: Sparse and Discrete Interpretability for Neural Networks
- A Socio-technical approach to AI literacy: A quick guide
Der Bericht plädiert für umfassende KI-Kompetenz, die technische Fähigkeiten mit kritischer, verantwortlicher und menschenzentrierter Anwendung im jeweiligen sozialen und organisatorischen Kontext verbindet.
- How are AI agents used? Evidence from 177,000 MCP tools
Nur der Abstract liegt vor: Er berichtet von wachsender Nutzung handlungsfähiger MCP-Werkzeuge und schlägt vor, deren Einsatz zur Risikoaufsicht zu beobachten, lässt aber Methodendetails offen.
- Adversarial Distillation
- Exploring Scaling Trends in LLM Robustness
- Separating signal from noise in coding evaluations
OpenAI schätzt, dass rund 30 Prozent der SWE-Bench-Pro-Aufgaben fehlerhaft sind, und zieht seine frühere Empfehlung für den Benchmark zurück.
- Interpreting emergent planning in model-free reinforcement learning
- Boundary Point Jailbreaking of Black-Box LLMs
Der Auszug beschreibt BPJ als automatisierten Black-Box-Jailbreak und berichtet von behaupteten Angriffserfolgen, weist aber auf viele markierte Optimierungsanfragen als mögliche Erkennungsspur hin.
- When AI Builds AI
Der bereitgestellte Auszug aus dem CSET-Executive-Summary sieht automatisierte KI-Forschung als mögliche strategische Überraschung und plädiert trotz erheblicher Unsicherheit für bessere Daten und Transparenz.
- CAISI Issues Request for Information About Securing AI Agent Systems
- Shaping Europe’s digital future
Workday beschreibt rollenbezogene KI-Schulungen im Entwicklungsalltag und berichtet positive Ergebnisse, räumt aber ein, dass sich deren Wirkung noch schwer zuverlässig messen lässt.
- Introducing OpenAI Frontier
OpenAI stellt Frontier als Plattform für den Einsatz von KI-Agenten in Unternehmen vor und berichtet über Produktivitätsgewinne, ohne diese im Text unabhängig nachzuweisen.
- Measuring Time Horizon using Claude Code and Codex
Laut METR verbesserten Claude Code und Codex den gemessenen Zeithorizont von Opus 4.5 beziehungsweise GPT-5 in diesen Tests nicht eindeutig; die Aussage ist durch methodische und aufgabenbezogene Einschränkungen begrenzt.
- Frontier AI safety regulations: A reference for lab staff
METR vergleicht Sicherheits- und Meldepflichten für leistungsfähige KI-Modelle in den USA und der EU und betont, dass die Übersicht weder die unterschiedlichen Regeln vollständig ersetzt noch eine Prüfung tatsächlicher Modellsicherheit durch das Illinois-Audit beschreibt.
- RL with KL penalties is better viewed as Bayesian inference
- From deepfake scams to biased AI: How incident reporting can help us keep ahead of AI’s harms
Die OECD wirbt für einen gemeinsamen KI-Vorfall-Berichtsrahmen mit 29 Kriterien, dessen tatsächliche Wirksamkeit der Beitrag nicht bewertet.
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- Six crucial policy considerations for AI, data governance and privacy: Insights from the OECD
Die OECD plädiert dafür, Datenschutz über den gesamten KI-Lebenszyklus einzubauen und durch gemeinsame politische Standards sowie internationale Kooperation zu stärken.
- A new expert group at the OECD for policy synergies in AI, data and privacy
Die OECD-Expertengruppe soll die Zusammenarbeit zwischen KI- und Datenschutzgemeinschaften stärken; der Beitrag skizziert ihre Ziele, nicht bereits erzielte Ergebnisse.
- Can mid-sized economies come together to build frontier AI?
Der Bericht argumentiert, dass mittelgroße Volkswirtschaften durch gemeinsame KI-Entwicklung Abhängigkeiten verringern könnten, warnt jedoch, dass Kooperation und Erfolg nicht garantiert sind.
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- Towards Automated Circuit Discovery for Mechanistic Interpretability
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- Reflections on qualitative research
- HiBayES: Improving LLM evaluation with hierarchical Bayesian modelling
HiBayES soll LLM-Benchmarks laut Bericht auch bei komplexen, kleinen Datensätzen differenzierter auswerten; die dargestellten Ergebnisse beruhen auf öffentlichen Benchmarks und bestätigen keine Herstellerangaben zu Modellfähigkeiten.
- Causal Bayesian Networks: A flexible tool to enable fairer machine learning
Kausale Bayes-Netze könnten laut den Autoren Fairness in ML differenzierter erfassen, doch ihre Aussagekraft hängt von korrekten Kausalannahmen und einer kontextbezogenen Bewertung der Wirkungswege ab.
- Human-AI Collaboration Trust Literature Review: Key Insights and Bibliography
Eine Sichtung von 78 Artikeln zeigt laut Bericht, dass Forschung zu Mensch-KI-Vertrauen stärker Kontext, begründetes Misstrauen und institutionelles Vertrauen berücksichtigen sollte.
- Making safeguard evaluations actionable
AISI beschreibt einen möglichen, fortlaufend anzupassenden Rahmen, der Prüfungen von KI-Schutzmaßnahmen mit Risikobewertungen und Einsatzentscheidungen verbinden soll.
- Confidence-Building Measures for Artificial Intelligence
Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.
- AlphaZero: Shedding new light on chess, shogi, and Go
Laut DeepMind besiegte AlphaZero führende Programme in drei Brettspielen und entwickelte dabei eigenständige Strategien; die Übertragung dieses Lernansatzes auf reale Aufgaben bleibt laut Bericht offen.
- World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes
Die Gipfel-Mitteilung beschreibt internationale Pläne für gemeinsame KI-Sicherheitstests und weitere Forschung, jedoch noch keine fertigen Standards oder konkreten Prüfergebnisse.
- Shaping Europe’s digital future
Booking.com berichtet über gestufte KI-Schulungen für Beschäftigte, doch der Bericht nennt Reichweitenindikatoren statt konkreter Belege für deren Wirkung.
- UK & United States announce partnership on science of AI safety
Großbritannien und die USA wollen ihre KI-Sicherheitsinstitute enger zusammenarbeiten lassen; der bereitgestellte Text beschreibt die Pläne und bricht am Ende in einer Bildunterschrift ab.
- Fairer Algorithmic Decision-Making and Its Consequences: Interrogating the Risks and Benefits of Demographic Data Collection, Use, and Non-Use
Der Auszug argumentiert, dass demografische Daten algorithmische Fairness unterstützen können, ihre Erhebung und Nutzung aber Risiken birgt und nicht von Schäden durch das System selbst ablenken sollte.
- Conference on frontier AI safety frameworks
Der Bericht kündigt eine Konferenz und ihren Themenaufruf zu Sicherheitsrahmen für fortgeschrittene KI an, berichtet jedoch keine Ergebnisse.
- Creating Interactive Agents with Imitation Learning
MIA verbindet Sprache und Handeln in einer virtuellen Umgebung und erreicht laut Bericht über 70 Prozent Erfolg bei menschlich bewerteten Aufgaben, doch die systematische Bewertung seines offenen Verhaltens bleibt schwierig.
- Effective context engineering for AI agents
- Bounty programme for novel evaluations and agent scaffolding
AISI suchte Beiträge zu KI-Evaluationen und Agenten-Gerüsten gegen Prämien; die Ausschreibung ist abgelaufen, und der Bericht nennt zwei unterschiedliche erste Fristen.
- Equipping agents with Agent Skills
- From risk to resilience: No-code AI governance in the Global South
Der Beitrag empfiehlt lokale No-Code-KI samt gemeinschaftlich festgelegter Schutzregeln als praktischen, aber im Text nicht vergleichend evaluierten Weg zu inklusiverer KI-Governance.
- Evaluating Multimodal Interactive Agents
Die vorgestellte STS bewertet Agenten anhand menschlich bewerteter Fortsetzungen realer Interaktionsszenarien und korreliert laut Bericht mit interaktiver Evaluation mit Spearman r=0,81.
- Interviewing AI researchers on automation of AI R&D
Acht Interviews zeigen breite Uneinigkeit über das Tempo der KI-Forschungsautomatisierung, aber einen gemeinsamen Fokus auf Programmierung und Fehlersuche als mögliche Haupttreiber.
- How to govern AI in agriculture responsibly: risks, tools and solutions
Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.
- New Zealand created its AI Strategy and Guidance products to incorporate OECD values in a distinct manner
Neuseelands neue KI-Strategie und Leitlinien sollen KI-Innovation mit OECD-Prinzipien, verantwortlicher Unternehmenspraxis und dem Schutz von Māori-Daten verbinden; konkrete Wirkungsnachweise nennt der Bericht nicht.
- HiBayES: A hierarchical bayesian modelling framework for AI evaluation statistics
Der Auszug beschreibt HiBayES als Verfahren zur bayesschen Auswertung von KI-Tests, enthält aber keine konkreten Ergebnisse oder Belege für die behaupteten Vorteile.
- U.S. AI Statecraft
Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.
- Strengthening AI resilience | AISI Work
20 geförderte Projekte sollen laut Bericht untersuchen, wie sich gesellschaftliche und infrastrukturelle Risiken beim KI-Einsatz mindern lassen; konkrete Forschungsergebnisse werden noch nicht berichtet.
- From bugs to bypasses: adapting vulnerability disclosure for AI safeguards
Der Auszug sieht mögliche Vorteile öffentlicher Schwachstellenprogramme für KI, betont aber, dass sie gründliche Sicherheitsarbeit nicht ersetzen und allein keine Sicherheit belegen.
- Guidelines on obligations for General-Purpose AI providers
Die Kommission legt unverbindlich aus, welche Dokumentations-, Urheberrechts-, Transparenz- und Risikopflichten Anbieter allgemeiner KI-Modelle nach dem EU-KI-Gesetz erfüllen sollen.
- 010ee6f
Der vorliegende Leitfadenauszug empfiehlt öffentliche Beteiligung über den gesamten KI-Entwicklungszyklus, um laut Bericht Risiken und Bedürfnisse besser zu erkennen, doch das angekündigte Regelwerk und Diagramm sowie empirische Belege fehlen.
- FMF Response: Request for Information on the Development of an AI Action Plan
- Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities
Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.
- Frontier Red Team
- Issue Brief: Thresholds for Frontier AI Safety Frameworks
- The HAIP Reporting Framework: Feedback on a quiet revolution in AI transparency
Frühe qualitative Rückmeldungen sehen HAIP als nützlichen, aber noch erklärungsbedürftigen Transparenzrahmen, dessen Weiterentwicklung Flexibilität, Vergleichbarkeit und kontextbezogene Bewertung ausbalancieren sollte.
- AI System-to-Model Innovation
Der bereitgestellte Text ist ein Auszug aus einer Executive Summary, die wechselseitige Innovation zwischen KI-Modellen und zusammengesetzten Systemen beschreibt und Schutz, breiteren Zugang sowie vorausschauende Beobachtung empfiehlt.
- GPAI SAFE project report: Mapping the global AI safety risks and solutions landscape
Der kurze Auszug beschreibt SAFE als GPAI-Initiative für praktische, industriegeleitete Ansätze zur Absicherung kommerzialisierter generativer KI.
- Lessons from studying two-hop latent reasoning
Der Abstract-Auszug berichtet, dass Sprachmodelle laut den Autoren latentes zweistufiges Schlussfolgern zeigen können, die Ergebnisse aber von der Art der Fakten abhängen.
- Introducing ChatGPT for Excel and new financial data integrations
OpenAI zufolge sollen ChatGPT für Excel und neue Datenintegrationen Finanzarbeit erleichtern, wobei der Bericht interne Leistungswerte und Beta-Einschränkungen nennt.
- Issue Brief: AI for Cyber Defense
- Artificial Intelligence Security Standardization White Paper
Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.
- The levers of political persuasion with conversational AI
Nur ein Abstract liegt vor: Laut den Forschenden steigerten Nachtraining und Prompting die politische Überzeugungswirkung von Sprachmodellen, gingen dabei aber mit geringerer sachlicher Genauigkeit einher.
- Language models, like humans, show content effects on reasoning tasks
Menschen und Sprachmodelle lassen sich bei logischen Aufgaben vom Bedeutungsgehalt beeinflussen; wie diese Ähnlichkeit entsteht, bleibt offen.
- 042b51c
Nur ein Glossarauszug: Er erläutert Begriffe aus KI, Datenschutz und Organisationspraxis, aber keine Methoden oder Ergebnisse des übergeordneten Berichts.
- Safety case template for frontier AI: A cyber inability argument
Nur das Abstract liegt vor: Die Autoren schlagen eine beleggestützte CAE-Vorlage zur Bewertung offensiver Cyberfähigkeiten von KI vor, berichten aber keine konkreten Modellergebnisse.
- The Alignment Project by AISI — The AI Security Institute
Das Alignment Project vergab laut Bericht in seiner ersten Runde über 27 Millionen Pfund für KI-Ausrichtungsforschung; Bewerbungen sind geschlossen und ein ähnliches Programm ist 2026 unwahrscheinlich.
- Advancing the field of systemic AI safety: grants open
Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.
- Hacia la igualdad sustantiva en el ámbito de la inteligencia artificial (IA): políticas transformadoras de IA para la igualdad de género y la diversidad
Der bereitgestellte Auszug warnt, dass KI trotz ihres Entwicklungspotenzials Ungleichheiten und Vorurteile verstärken kann, und fordert robuste Regeln für Gleichstellung und Vielfalt.
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
Der vorliegende Einleitungsauszug beschreibt GPT‑5.2‑Codex und OpenAIs Sicherheitseinschätzungen, enthält jedoch keine Details oder Messwerte zu den angekündigten Maßnahmen und Bewertungen.
- An update on our general capability evaluations
METRs vorläufige Messreihe deutet auf breite, aber ungleichmäßige Fähigkeiten getesteter KI-Agenten und niedrige Kosten bei lösbaren Aufgaben hin; die begrenzten Vergleichsdaten und einfachen Testverfahren lassen noch keine abschließenden Schlüsse zu.
- ML Engineers Needed for New AI R&D Evals Project
METR will ML-Fachleute einstellen, um Tests zu KI-F&E-Fähigkeiten und möglichen Schutzmaßnahmen zu entwickeln.
- Sharing trustworthy AI models with privacy-enhancing technologies
Der bereitgestellte Text ist nur ein kurzer Auszug: Er beschreibt mögliche Vorteile von PETs für vertrauensvolle KI-Kooperation, weist auf ungelöste Abwägungen hin und nennt politische Fördermaßnahmen, ohne Methodik oder konkrete Wirkungsdaten darzulegen.
- Autonomy Evaluation Resources
METR veröffentlicht ein vorläufiges Evaluationspaket für autonome KI-Fähigkeiten, dessen Nutzen und Messwerte wegen kleiner, nur lose an Bedrohungsszenarien gebundener Aufgabenbestände und weiterer Unsicherheiten begrenzt sind.
- Qodo builds context into AI code review with Codex
Laut Qodo soll sein Codex-Plugin Codearbeit und unabhängige Prüfung mit Organisationswissen verbinden; der Bericht schildert diese Vorteile, belegt sie aber nicht unabhängig.
- Example autonomy evaluation protocol
METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.
- Shaping Europe’s digital future
Der vorliegende Auszug fasst den risikobasierten Ansatz, abgestufte Pflichten für GPAI-Modelle und die Vollzugsstruktur des KI-Gesetzes zusammen, ohne konkrete Anwendungsdaten zu nennen.
- AI for Military Decision-Making
Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.
- 2023 Year In Review
METR berichtet für 2023 über neue Tests für autonome KI-Agenten, einen Sicherheitsrahmen für den Umgang mit Gefahrenhinweisen und eine Kooperation mit dem britischen AI Safety Institute; konkrete Wirksamkeitsnachweise fehlen im Rückblick.
- Bounty: Diverse hard tasks for LLM agents
Der veraltete METR-Aufruf skizziert Anforderungen und Vergütung für anspruchsvolle, sorgfältig geprüfte Aufgaben zur Bewertung autonomer LLM-Agenten.
- Early experiments in accelerating science with GPT-5
Der Bericht stellt ausgewählte frühe Fälle vor, in denen GPT‑5 Forschende unterstützt haben soll, betont aber, dass menschliche Prüfung unverzichtbar bleibt und die Beispiele keine systematische Bewertung darstellen.
- Putting Explainable AI to the Test: A Critical Look at AI Evaluation Approaches
Der vorliegende Auszug berichtet von uneinheitlichen Begriffen und einem Übergewicht an Korrektheitsprüfungen bei erklärbaren KI-Empfehlungssystemen; ob sich das verallgemeinern lässt, bleibt offen.
- A look at the risks and opportunities for AI in tax administrations
Der Beitrag spricht sich für den Einsatz von KI in Steuerverwaltungen aus, sofern Risiken wie Verzerrung, Intransparenz und Vertrauensverlust aktiv durch gute Daten, Kompetenzaufbau und Aufsicht begrenzt werden.
- Chinese Critiques of Large Language Models
Der Auszug argumentiert, dass der Westen neben LLMs alternative Wege zu allgemeiner KI verfolgen sollte, während China laut Bericht bereits eine breitere Strategie verfolgt.
- fb15a2a
Der bereitgestellte Auszug empfiehlt transparente Angaben zu Nutzung, Verteilung und Pflege von ML-Datensätzen und benennt dabei praktische, rechtliche und historische Zielkonflikte; es liegt nur ein Auszug vor.
- d9430c7
Der Auszug stellt PAI’s ABOUT ML als iteratives Vorhaben für bessere interne und externe ML-Dokumentation dar, belegt aber keine erreichten oder wirksamen Ergebnisse.
- Government automated-decision-making: transparency and responsibility in the public sector
Öffentliche Algorithmenregister können Transparenz fördern, reichen laut Beitrag ohne verständliche Informationen, gemeinsame Standards und unabhängige Kontrolle aber nicht aus.
- How Third Moment Research runs 10,000 agents for 36+ hours
Third Moment Research berichtet, mit OpenAI-Modellen und Codex Tausende lang laufende Agenten zu betreiben und deren Arbeit schrittweise zu verbessern; die dargestellten Erfolge sind Unternehmensangaben.
- Digital EconomyOutlook 2024, Volume 1: Embracing the Technology Frontier
Der vorliegende Auszug skizziert Chancen und Risiken digitaler Technologien und kündigt eine Untersuchung zu KI an, enthält aber keine konkreten Ergebnisse.
- From PISA to AI: How the OECD is measuring what AI can do
Die OECD präsentiert vorläufige, noch zu aktualisierende Skalen für KI-Fähigkeiten und schätzt, dass KI trotz deutlicher Grenzen vor allem Aufgaben mittlerer Schwierigkeit bald beeinflussen könnte.
- A milestone in international AI transparency: The OECD publishes initial submissions from the G7 Hiroshima AI Process Reporting Framework
Die OECD veröffentlicht erste KI-Governance-Berichte von 19 Organisationen; konkrete Auswertungsergebnisse enthält der Beitrag noch nicht.
- Trust Issues: Discrepancies in Trustworthy AI Keywords Use in Policy and Research
Der vorliegende Auszug berichtet über Gemeinsamkeiten und Unterschiede in Definitionen vertrauenswürdiger KI und betont die Bedeutung internationaler Abstimmung zwischen Politik und Technik.
- State-of-the-art Foundation AI Models Should be Accompanied by Detection Mechanisms as a Condition of Public Release
Der Auszug skizziert Foundation-Modelle und kündigt die Forderung an, ihre öffentliche Freigabe an Erkennungsmechanismen zu knüpfen, enthält aber keine nähere Begründung oder Umsetzung.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →