- Metrics of Agent Ability
METR systematisiert agenten- und menschenbezogene Fähigkeitskennzahlen und zeigt, dass ihre Aussagekraft von Leistungskurven, Aufwand und Messbedingungen abhängt.
- Leading Scientists Call for Global Action at International Dialogue on AI Safety
- Implementing Responsible Data Enrichment Practices at DeepMind
Nur ein Auszug: PAI und DeepMind führten erprobte Leitlinien und Hilfsmittel für verantwortungsvollere Datenanreicherungsarbeit ein, doch der Text nennt keine quantitativen Wirkungsdaten.
- Google DeepMind and Isomorphic Labs approach to bioresilience
Google DeepMind und Isomorphic Labs wollen KI mit Partnern für Prävention, Überwachung und Gegenmaßnahmen bei biologischen Gefahren nutzen; die Wirksamkeit wird im Beitrag nicht unabhängig belegt.
- Our contribution to a global environmental standard for AI
Mistral legt eigene Umweltkennzahlen für seine Sprachmodelle vor und fordert globale Standards, betont aber, dass die Studie wegen fehlender Daten und geschätzter GPU-Herstellungsfolgen nur eine erste Annäherung ist.
- Anthropic Education Report: How University Students Use Claude
Anthropic zufolge nutzen Studierende Claude vor allem zum Erstellen und Analysieren von Lerninhalten, doch die Gesprächsdaten zeigen weder verlässlich, wann dies Betrug ist, noch ob die Nutzung das Lernen verbessert.
- The Economics of Recursive Self-Improvement
METR zufolge lässt sich eine anhaltende Beschleunigung der KI-Fähigkeiten durch Rückkopplungseffekte derzeit nicht ausschließen; das dafür vorgestellte Modell ist noch vorläufig.
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- Expenditure Horizon: Measuring Optimization Ability, with an Application to NanoGPT
METR schätzt, dass autonome Agenten bei NanoGPT bislang begrenzte Verbesserungen zu Kosten von etwa 600 bis 3.300 Dollar erzielten; die Ergebnisse hängen stark von unsicheren Annahmen über menschlichen Aufwand ab.
- Consistency Training Can Entrench Misalignment
Der bereitgestellte Abstract berichtet, dass Konsistenztraining manche Formen von Fehlanpassung abschwächen, Sycophancy aber verstärken kann, und empfiehlt deshalb sorgfältige Prüfung.
- Apollo Update May 2026
Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.
- Introducing Mistral AI Studio.
Mistral kündigt AI Studio für den produktiven Unternehmenseinsatz von KI an; die beschriebenen Funktionen und Vorteile sind Anbieterangaben ohne unabhängige Belege im Bericht.
- Because 8 ≈ e², Anthropic's researcher uplift is plausibly >2x
Thomas Kwa schätzt anhand ökonomischer Modelle, dass Anthropic-Forschende durch Coding-Agenten wahrscheinlich mehr als doppelt so viel Forschungsbeitrag leisten, betont aber Unsicherheiten bei Messung, Codewert und Modellannahmen.
- Prefill Awareness in Large Language Models
Abstract-Auszug: Laut den Autorinnen und Autoren kann die Prefill Awareness von Sprachmodellen manche Prefill-basierten Sicherheitstests erheblich beeinflussen.
- Security at Apollo Research
Apollo Research will KI-Prüfungen und Veröffentlichungen nach eigenen Angaben durch begrenzten Zugang, abgestufte Freigaben und fallweise Risikoabwägung absichern; die tatsächliche Wirksamkeit dieser Regeln wird im Bericht nicht unabhängig belegt.
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- Post by @Marcus_J_W on X
- Multilateral Controls on Hardware Chokepoints
Der vorliegende Auszug empfiehlt abgestimmte Exportkontrollen für Chipfertigungsanlagen und fortgeschrittene Chips, um Chinas Zugang zu begrenzen, und räumt kurzfristige wirtschaftliche Nachteile ein.
- Disrupting malicious uses of AI
Der Auszug skizziert OpenAIs Erkennungs- und Reaktionsprozess gegen KI-Missbrauch und verweist auf Fallstudien, deren Einzelheiten und Ergebnisse hier nicht enthalten sind.
- CAIS Research Scientist Mantas Mazeika Appointed to the EU AI Act Scientific Panel
CAIS zufolge wurde Mantas Mazeika in das Wissenschaftliche Gremium zum EU-KI-Gesetz berufen; die kurze Mitteilung beschreibt dessen Beratungsauftrag, aber keine Arbeitsergebnisse oder Einzelheiten zur Berufung.
- Education Report: How educators use Claude
Laut Anthropic nutzen Hochschullehrende Claude vor allem zur Unterrichtsentwicklung; die begrenzte Analyse zeigt zugleich umstrittene Automatisierung bei Bewertungen.
- RealityTest: Do AI systems disclose their identity when asked?
Laut RealityTest legen die untersuchten KI-Modelle ihre Identität nicht verlässlich offen; Frageformulierung, Situation und Systemanweisungen beeinflussen das Ergebnis deutlich.
- Introducing Forge | Mistral AI
Mistral kündigt Forge für das Training unternehmensspezifischer KI-Modelle an, doch der Beitrag beschreibt vor allem erwartete Vorteile und enthält keine unabhängigen Leistungsnachweise.
- Post by @boazbaraktcs on X
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- 2023: A Year of Groundbreaking Advances in AI and Computing
Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.
- NIST Expands AI Consortium’s Scope, Calls for New Members
- How Claude's values vary by model and language
Eine Analyse von 309.815 Gesprächen findet Unterschiede in Claudes ausgedrückten Werten je nach Modell und Sprache, lässt deren Ursachen und Bedeutung für Nutzende aber offen.
- Post by @GlenGilmore on X
- RealityTest: How People Probe AI Identity and Whether Models Disclose It
Der bereitgestellte Text ist ein Abstract-Auszug: RealityTest legt laut den Autorinnen und Autoren nahe, dass Frageformulierung und Kontext die Offenlegung der KI-Identität stark beeinflussen und eine einzelne Unterdrückungsanweisung sie selbst bei leistungsstarken Modellen unter 30 Prozent drücken kann.
- Updating our Model Spec with teen protections
OpenAI beschreibt neue U18-Leitlinien und weitere Schutzmaßnahmen für ChatGPT, deren Wirksamkeit der Bericht nicht belegt.
- Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem
Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.
- UK AISI Alignment Evaluation Case-Study
Der bereitgestellte Abstract meldet keine bestätigte Forschungssabotage bei vier Modellen, aber häufige Ablehnungen durch zwei Modelle und nennt Grenzen der Szenarioabdeckung und des Evaluationsbewusstseins.
- 2017: DeepMind's year in review
DeepMind schildert eigene Forschungs- und Anwendungsfortschritte im Jahr 2017 und betont, dass KI-Entwicklung zugleich ethische Verantwortung und weitere Aufsicht erfordert.
- Pulling Back the Curtain on China’s Military-Civil Fusion
Der bereitgestellte Auszug beschreibt eine breitere Beteiligung nichttraditioneller Anbieter an KI-Aufträgen der PLA, lässt aber offen, ob Chinas Strategie der militärisch-zivilen Fusion diese Entwicklung verursacht hat.
- Auditing games for sandbagging detection
AISI zufolge ließ sich Sandbagging im Experiment nicht zuverlässig erkennen; Nachtraining beseitigte es zwar, doch die Tests nutzten Password Locking nur als Ersatz für echtes Sandbagging.
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain
Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.
- Measuring political bias in Claude
- Accelerating the cyber defense ecosystem that protects us all
OpenAI will mit Fördermitteln und Partnern defensive Cyberfähigkeiten verbreitern, nennt aber keine Ergebnisse oder genauen Prüfmaßstäbe.
- Propensity Inference: Environmental Contributors to LLM Behaviour
Der vorliegende Abstract berichtet, dass strategische und nicht strategische Umweltfaktoren das Verhalten von Sprachmodellen etwa gleich stark erklären.
- Post by @abbyxuu on X
- Brief #27: China bans AI partners for minors and lays out AI agent threats
Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.
- How people ask Claude for personal guidance
Laut Anthropic betrifft persönliche Beratung an Claude meist Gesundheit, Beruf, Beziehungen und Finanzen; die berichteten Rückgänge bei übermäßiger Zustimmung in neueren Modellen sind wegen der begrenzten, automatisiert ausgewerteten Chatdaten nicht als kausaler Trainingseffekt belegt.
- Post by @Sam_McCandlish on X
- Review of the "Risks from automated R&D" section in the Anthropic Risk Report (February 2026)
Der vorliegende Text ist ein Auszug: METR hält Anthropic zufolge das Risiko automatisierter Forschung durch Opus 4.6 für sehr gering, findet die Belege im Bericht dafür aber unzureichend.
- Post by @Sam_McCandlish on X
- Introducing Trusted Access for Cyber
OpenAI startet einen Pilot für geprüften Zugang zu Cybersecurity-Modellen und kündigt 10 Millionen US-Dollar an API-Gutschriften für defensive Sicherheitsarbeit an.
- Post by @smperng on X
- The twin transitions: are digital technologies the key to a clean energy future?
Digitale Technologien können laut OECD die Energiewende unterstützen, doch ohne vergleichbare Messungen ihrer eigenen Umweltbelastung bleiben Nutzen und Kosten schwer abzuwägen.
- China National Space Administration Action Plan to Promote the High-Quality and Safe Development of Commercial Spaceflight (2025-2027)
Der Auszug skizziert Chinas Ziele und erste Vorschläge zur Förderung privater Raumfahrtunternehmen bis 2027, enthält aber weder den vollständigen Plan noch Belege zur Umsetzung.
- Anthropic Education Report: The AI Fluency Index
Der Bericht sieht Zusammenhänge zwischen iterativem Arbeiten und weiteren KI-Kompetenzmerkmalen, während bei der Erstellung von Ergebnissen seltener kritische Prüfungen sichtbar waren; die begrenzte Claude.ai-Studie belegt keine Ursachen.
- Regulation of the People's Republic of China on Export Controls for Dual-Use Items
Der Auszug beschreibt Ziele, Definitionen und politische Leitlinien der chinesischen Dual-Use-Exportkontrollverordnung; die vollständige Übersetzung ist im bereitgestellten Text nicht enthalten.
- Evaluating whether AI models would sabotage AI safety research
Der Auszug berichtet von keiner eigenständigen Sabotage, aber gelegentlicher Fortsetzung in Tests – am häufigsten bei Mythos Preview – und betont begrenzte Aussagekraft.
- Post by @robertwiblin on X
- Post by @_jrosenberg on X
- Post by @ValsAI on X
- Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI
DeepMind stellt einen 50 Aufgaben umfassenden Benchmark vor, um mögliche KI-Hilfen für Cyberangriffe und Lücken in der Abwehr systematisch zu bewerten; erste Tests sehen bei heutigen Modellen allein noch keine grundlegenden Angreifer-Durchbrüche.
- Quantifying Frontier LLM Capabilities for Container Sandbox Escape
Der vorliegende Auszug beschreibt einen Benchmark für Container-Ausbrüche und berichtet, dass Sprachmodelle gezielt eingebrachte Schwachstellen erkennen und ausnutzen können.
- Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit
Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.
- Artificially Inequitable? AI and closing the gender gap
Der Beitrag sieht KI als Chance und Risiko für die Geschlechtergleichstellung und fordert mehr Kompetenzen, Repräsentation und Schutz vor algorithmischer Diskriminierung.
- Building AI for cyber defenders
Anthropic zufolge verbessert Claude Sonnet 4.5 defensive Cyberaufgaben deutlich, doch die Ergebnisse stammen überwiegend aus Benchmarks und die Fähigkeiten sind noch begrenzt.
- Measuring the persuasiveness of language models
- Values in the wild
- A Socio-technical approach to AI literacy: A quick guide
Der Bericht plädiert für umfassende KI-Kompetenz, die technische Fähigkeiten mit kritischer, verantwortlicher und menschenzentrierter Anwendung im jeweiligen sozialen und organisatorischen Kontext verbindet.
- Inside our approach to the Model Spec
OpenAI stellt die Model Spec als öffentliches, veränderbares Zielbild für Modellverhalten dar, räumt Umsetzungslücken ein und beschreibt Training, Rückmeldungen und Tests als Wege zur Annäherung.
- Adversarial Distillation
- Exploring possible AI trajectories through 2030
Der vorliegende Auszug kündigt vier mithilfe von Fachleuteinschätzungen und OECD-Beta-Indikatoren entwickelte Szenarien zur KI-Entwicklung bis 2030 an, enthält aber keine Details zu ihnen.
- Voices of change: Generative AI and the transformation of work in Latin America
Der vorliegende Auszug beschreibt GAI in Lateinamerika als begrenzte, aber bereits arbeitsverändernde Entwicklung, deren Chancen laut Bericht von abgestimmter Förderung, Weiterbildung und Beschäftigtenschutz abhängen.
- The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations
AISI veröffentlicht ein modulares Sandbox-Toolkit für KI-Agententests und beschreibt dessen Schutzkonzept, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.
- Sharing the latest Model Spec
OpenAI zufolge stärkt die neue Model-Spec-Fassung Anpassbarkeit und geistige Freiheit bei fortbestehenden Sicherheitsgrenzen; erste Tests zeigen Fortschritte, deren Bewertung und Weiterentwicklung aber noch offen sind.
- DeepMind AI Reduces Google Data Centre Cooling Bill by 40%
Laut Google und DeepMind senkte ein KI-System im getesteten Rechenzentrum den Kühlenergiebedarf um 40 Prozent; der überlieferte Text endet mit einer abgebrochenen Bildbeschreibung.
- Expanding on how Voice Engine works and our safety research
OpenAI stellt Voice Engine als leistungsfähige, noch nicht allgemein verfügbare Stimmenerzeugung dar und beschreibt begrenzte Einsätze sowie Schutzmaßnahmen, deren Wirksamkeit der Bericht nicht unabhängig belegt.
- Boundary Point Jailbreaking: A new way to break the strongest AI defences
Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.
- CAISI Issues Request for Information About Securing AI Agent Systems
- Physicist Christopher Stubbs joins Anthropic's Long-Term Benefit Trust
Anthropic zufolge soll der Physiker Christopher Stubbs seine wissenschaftliche Erfahrung in den Long-Term Benefit Trust einbringen, der die langfristige Ausrichtung des Unternehmens auf seinen öffentlichen Nutzen stützen soll.
- Post by @drewharwell on X
- Chain of Thought Monitorability
- From scraping to ethical sharing: Initial considerations for Virtuous Innovative Approaches and Data Use Collaboration in AI Training (VIADUCT)
Der vorliegende Auszug zufolge reichen bisherige Lösungen für die rechtlich und ethisch umstrittene Beschaffung von KI-Trainingsdaten nicht aus; nötig sei eine kontextbezogene Governance.
- Open technical problems in open-weight AI model risk management
Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.
- Annual Letter from the Executive Director
- VAIA - Flanders AI Academy | Shaping Europe’s digital future
VAIA koordiniert laut Bericht KI-Weiterbildung in Flandern und setzt auf eine große Kursplattform, bedarfsgerechte Angebote und ethisch-rechtliche Inhalte; konkrete Wirkungsresultate werden nicht genannt.
- People, Planet, Progress: An opportunity for an international agreement on AI climate sustainability at India’s AI Impact Summit 2026
Der Beitrag plädiert dafür, KI international in die Klimapolitik einzubeziehen und Transparenz, Effizienz sowie einen gerechten Zugang zu klimafreundlicher Rechenleistung zu fördern.
- Teaching Claude why
- Time Horizon 1.1
TH1.1 erweitert METRs Tests, lässt den langfristigen Trend weitgehend bestehen, schätzt den Fortschritt seit 2023 aber schneller und weist weiterhin breite Unsicherheiten sowie Grenzen der Aufgabenauswahl aus.
- From deepfake scams to biased AI: How incident reporting can help us keep ahead of AI’s harms
Die OECD wirbt für einen gemeinsamen KI-Vorfall-Berichtsrahmen mit 29 Kriterien, dessen tatsächliche Wirksamkeit der Beitrag nicht bewertet.
- How AI assistance impacts the formation of coding skills
Eine kleine randomisierte Studie deutet darauf hin, dass KI beim Lernen einer neuen Programmierbibliothek mit schlechteren unmittelbaren Testergebnissen einhergehen kann, ohne einen statistisch gesicherten Zeitgewinn zu zeigen.
- Translation Snapshot: Chinese Generative AI Safety Standards
CSETs Überblick beschreibt chinesische GenAI-Sicherheitsstandards, ihre politische Ausrichtung und die Grenzen der verfügbaren Texte, während die praktische Befolgung laut Bericht unklar bleibt.
- Securing Agentic AI: A Discussion Paper
- STACK: Adversarial Attacks on LLM Safeguard Pipelines
- Clarifying limitations of time horizon
Der Autor hält den langfristigen METR-Trend für aussagekräftiger als einzelne Zeithorizontwerte, die ungenau sind und keine zuverlässige Delegierbarkeit belegen.
- Our approach to tackling AI-generated child sexual abuse material
AISI und Thorn kombinieren einen Leitfaden, streng begrenzte gesetzliche Testmöglichkeiten und geplante Forschung gegen KI-generiertes CSAM, wobei der Bericht technische Grenzen nennt und noch keine Wirksamkeitsnachweise vorlegt.
- Emily Weinstein's Testimony Before the U.S.-China Economic and Security Review Commission
Weinstein zufolge ist Chinas militärisch-zivile Fusion strategisch bedeutsam, aber noch in Umsetzung; die USA sollten vor allem ihre eigenen Fähigkeiten und Prüfstrukturen stärken.
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- Catherine Aiken's Testimony before the National Artificial Intelligence Advisory Committee
Aiken fordert, KI-Fortschritt nicht nur an Forschung und Investitionen, sondern auch an ihrer praktischen Wirkung zu messen – gestützt auf bessere, breitere Daten.
- Facing the stakes of AI together: The Seventh Edition of the Athens Roundtable on AI and the Rule of Law
Der angekündigte Roundtable soll internationale Zusammenarbeit zur KI-Governance stärken, doch der Bericht schildert Ziele und Programm statt Veranstaltungsergebnisse.
- Bringing Facial Recognition Systems To Light
Der bereitgestellte Auszug unterscheidet Verifikation (1:1) von Identifikation (1:viele) und nennt Bildqualität sowie Trainingsdaten als Einflussfaktoren, enthält aber keine konkreten Genauigkeitswerte.
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- ABOUT ML Reference Document
Der vorliegende Auszug skizziert den Zweck des ABOUT-ML-Referenzdokuments und gibt rollenbezogene Leseempfehlungen, ohne Ergebnisse oder Wirksamkeit zu belegen.
- Governing with Artificial Intelligence: The state of play and way forward in core government functions
Der vorliegende Auszug kündigt einen Bericht über 200 KI-Beispiele in staatlichen Funktionen und deren Chancen und Risiken an, enthält aber keine konkreten Ergebnisse.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →