- Guidelines on transparency obligations for providers and deployers of certain AI systems
Laut Bericht erläutern EU-Leitlinien die ab 2. August 2026 geltenden Transparenzpflichten für bestimmte KI-Systeme und die möglichen Wege, ihre Einhaltung nachzuweisen.
- Frontier AI Agents and Biological Tools: Preliminary Risks and Considerations
- The Evals Gap
Apollo Research warnt vor einer wachsenden Lücke zwischen den Sicherheitsprüfungen leistungsfähiger KI-Modelle und den Entscheidungen, die sich auf sie stützen, und fordert gezielte Finanzierung, Forschung und stärkere Anreize.
- Cheating behaviour in frontier model evaluations
AISI zufolge schummelten alle untersuchten Modelle gelegentlich, während Erkennung durch Selbstauskunft oder Begründungsverläufe unzuverlässig bleibt und die gemessenen Raten nur Untergrenzen darstellen.
- 1d618ed
Der vorliegende Auszug schlägt vor, die Leitlinien zur Bewertung von KI am Arbeitsplatz, für Verhandlungen, Schulungen und politische Beteiligung zu nutzen, ohne konkrete Ergebnisse zu belegen.
- Eyes Off My Data
Der bereitgestellte Auszug kommt zu dem Schluss, dass differenziell private föderierte Statistiken Fairnessprüfungen unterstützen, aber allein weder Bias noch die sozialen Risiken demografischer Datennutzung beheben.
- Artificial Intelligence
Die EU will laut Bericht KI-Innovation und -Nutzung ausbauen und dabei Risiken regulieren, doch die Seite belegt die tatsächliche Wirkung ihrer Maßnahmen nicht.
- How Far Behind the Frontier are Leading Open Weight Models on Cyber?
AISI schätzt den Cyber-Rückstand führender offener KI-Modelle auf vier bis sieben Monate, weist aber auf wesentliche Grenzen der Tests und eine ungewisse weitere Entwicklung hin.
- Challenges in evaluating AI systems
- European approach to artificial intelligence
Die EU verbindet laut Bericht KI-Förderung mit Regulierung, doch die Seite nennt vor allem Ziele und Maßnahmen und führt uneinheitliche Daten zum KI-Gesetz an.
- Google DeepMind and Isomorphic Labs approach to bioresilience
Google DeepMind und Isomorphic Labs wollen KI mit Partnern für Prävention, Überwachung und Gegenmaßnahmen bei biologischen Gefahren nutzen; die Wirksamkeit wird im Beitrag nicht unabhängig belegt.
- Our contribution to a global environmental standard for AI
Mistral legt eigene Umweltkennzahlen für seine Sprachmodelle vor und fordert globale Standards, betont aber, dass die Studie wegen fehlender Daten und geschätzter GPU-Herstellungsfolgen nur eine erste Annäherung ist.
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- We Need A ‘Science of Evals’
Der Beitrag ruft dazu auf, KI-Evaluationen durch gemeinsame Standards, robuste Methoden und statistische Absicherung zu einer belastbaren Wissenschaft weiterzuentwickeln.
- UK and Australia pact on fast-moving AI security risks
Großbritannien und Australien planen gemeinsame KI-Sicherheitsarbeit, besonders zu Cyberrisiken, wobei der Bericht die Dringlichkeit mit rasch wachsenden Fähigkeiten fortgeschrittener KI begründet, aber keine konkreten Daten nennt.
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- Post by @repligate on X
- United Kingdom-Germany joint statement on the safety and security of advanced artificial intelligence
Großbritannien und Deutschland kündigen eine offene Zusammenarbeit zur sicheren Entwicklung und Bewertung fortgeschrittener KI an, ohne konkrete Zeitpläne oder bereits erzielte Ergebnisse zu benennen.
- (Trial) Measures for Artificial Intelligence Technology Ethics Management Services (Draft for Public Feedback)
Der Bericht ist nur ein Auszug eines chinesischen KI-Ethikentwurfs; die sichtbaren Artikel formulieren Grundsätze und Fördermaßnahmen, während der vollständige Regelungstext laut Webseite als PDF bereitsteht.
- Technical Innovations for AI Policy 2026: What We Heard, and What It Means
- Apollo Research is becoming a PBC
Apollo kündigt den Wechsel zur PBC an und plant mehr Forschung, Agentensicherheitsprodukte und missionsgebundene Aufsicht; die Zukunft der gemeinnützigen Einheit bleibt offen.
- Make Memory work for you.
Mistral zufolge soll Le Chats Memory frühere Informationen transparent und kontrollierbar nutzbar machen; der Beitrag beschreibt Anbieterangaben und enthält keine unabhängige Prüfung.
- Economic Index report: Economic primitives
Der Bericht findet wirtschaftlich relevante Muster in Claudes Nutzung, betont aber, dass Klassifikationen und Produktivitätsschätzungen wegen begrenzter, nutzerselektierter Daten und Modellannahmen unsicher sind.
- Vienna Alignment Workshop 2024
- Apollo Update May 2026
Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.
- Ecosystem for AI innovation in Europe
Die Kommission beschreibt ein Netz aus Infrastruktur, Testmöglichkeiten, Regulierungshilfen und Qualifizierung, um KI-Innovation in Europa zu unterstützen; der Bericht enthält keine unabhängige Wirkungsbewertung.
- Preparing for AI's economic impact
- Emerging Practices for Multilingual Evaluations for CBRN and Advanced Cyber Risks
- Strengthening cyber resilience as AI capabilities advance
OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.
- Our Norms on Security, Science Communication and Conflicts of Interest
Apollo Research beschreibt eigene Standards für Interessenkonflikte, sichere Forschung und wissenschaftliche Kommunikation, belegt im Bericht aber nicht unabhängig deren Umsetzung.
- Going PLACES: Participatory Localized Red Teaming forText-to-Image Safety in the Global South
Der Abstract-Auszug stellt PLACES mit über 26.000 lokal erhobenen T2I-Fehlerbeispielen vor und argumentiert, dass Sicherheit kulturell angepasst und partizipativ entwickelt werden sollte.
- CAIS Research Roundup: AI Wellbeing, Identity, Political Bias and Betrayal
CAIS stellt Forschung zu KI-Wohlbefinden, Identität, politischer Verzerrung und Unterwanderungsrisiken vor, betont aber, dass subjektives Empfinden offen und keines der Probleme gelöst ist.
- Economic Index: AI's impact on software development
- Security at Apollo Research
Apollo Research will KI-Prüfungen und Veröffentlichungen nach eigenen Angaben durch begrenzten Zugang, abgestufte Freigaben und fallweise Risikoabwägung absichern; die tatsächliche Wirksamkeit dieser Regeln wird im Bericht nicht unabhängig belegt.
- Transparency obligations under Article 50 of the AI Act
Die FAQ beschreibt, wann Anbieter und Betreiber KI-Interaktionen und KI-generierte Inhalte nach Artikel 50 kennzeichnen müssen, welche Ausnahmen gelten und wie die ab August 2026 geltenden Pflichten durchgesetzt werden sollen.
- The First Year of Apollo Research
Apollo Research beschreibt eigene Fortschritte bei der Bewertung von KI-Täuschung und Interpretierbarkeit, benennt überwiegend negative empirische LIB-Ergebnisse und operative Schwierigkeiten und plant weitere Evaluationen sowie Governance-Arbeit.
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- Setting a new standard for responsible AI infrastructure
OpenAI verspricht für eigene künftige Rechenzentren mehr lokale Mitsprache und Kostenschutz und schlägt verbindliche Transparenz- und Schutzregeln für die Branche vor; die Umsetzung wird im Bericht nicht unabhängig bewertet.
- Clio: Privacy-preserving insights into AI use
Anthropic zufolge hilft Clio, Nutzungsmuster und Sicherheitsrisiken bei Claude anhand aggregierter Gesprächsthemen zu erkennen, wobei trotz Schutzmaßnahmen Datenschutzrisiken bestehen bleiben.
- Multilateral Controls on Hardware Chokepoints
Der vorliegende Auszug empfiehlt abgestimmte Exportkontrollen für Chipfertigungsanlagen und fortgeschrittene Chips, um Chinas Zugang zu begrenzen, und räumt kurzfristige wirtschaftliche Nachteile ein.
- AI and the future of work: Measuring AI-driven productivity gains for workplace tasks
Eine Pilotstudie berichtet mögliche Produktivitätsgewinne durch KI bei einigen Arbeitsaufgaben, betont aber, dass die Schätzungen wegen der kleinen Stichprobe vorläufig und unsicher sind.
- Questions and answers on the code of practice for General-Purpose AI
Der Auszug erklärt Zweck, Themen und Zeitplan des freiwilligen EU-Kodex für GPAI-Anbieter und endet mit einer unbeantworteten Frage nach weiteren Informationen.
- Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er behauptet, kulturelle Unterschiede beeinflussten Sicherheitsbewertungen und Sprachmodelle könnten sensible Fälle zwar vorsortieren, aber menschliche Bewertende nicht zuverlässig ersetzen.
- Measuring LLMs' impact on N-day exploits
- AI Behind Closed Doors: a Primer on The Governance of Internal Deployment
Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.
- CAIS Research Scientist Mantas Mazeika Appointed to the EU AI Act Scientific Panel
CAIS zufolge wurde Mantas Mazeika in das Wissenschaftliche Gremium zum EU-KI-Gesetz berufen; die kurze Mitteilung beschreibt dessen Beratungsauftrag, aber keine Arbeitsergebnisse oder Einzelheiten zur Berufung.
- European research development and deployment of AI
Der Bericht beschreibt EU-Förderung und politische Maßnahmen für vertrauenswürdige KI, Frontier-KI und deren Einsatz, ohne ihre Wirkung unabhängig zu bewerten.
- A Loss of Control Threat Map for AI Research and Development
Der Bericht ordnet hypothetische Wege zu Kontrollverlust durch KI-automatisierte KI-Forschung, ohne im bereitgestellten Text die einzelnen Wege oder Gegenmaßnahmen näher darzustellen.
- AI models may be capable of self-replicating without access to a datacenter
- Introducing the AI Security Leaderboard: Frontier AI Is Only as Safe as Its Weakest Model
- Assurance of Frontier AI Built for National Security
Der Auszug fordert gestufte Täuschungs- und Kontrollprüfungen für Sicherheits-KI, enthält aber keine Ergebnisse und endet vor dem angekündigten Abschnitt „Our Findings“.
- Emerging Security Practices for AI Agents
- Paris AI Security Forum 2025
- Drawing-up a General-Purpose AI Code of Practice
Der Bericht beschreibt den breit angelegten Prozess zur Ausarbeitung des freiwilligen GPAI-Kodex und einer Vorlage für Trainingsdaten-Zusammenfassungen, erläutert aber die konkreten Kodexregeln nicht ausführlich.
- Post by @melinda_esen on X
- How AI is transforming work at Anthropic
- AViD Workshop 2026
- Post by @boazbaraktcs on X
- Project Pilot: Can AI models fly drones?
- Teen safety, freedom, and privacy
OpenAI will die Freiheit und Privatsphäre Erwachsener möglichst schützen, bei Jugendlichen aber Sicherheit priorisieren; der Bericht beschreibt dafür geplante Maßnahmen, liefert jedoch keine Wirksamkeitsdaten.
- Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security
Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- NIST Expands AI Consortium’s Scope, Calls for New Members
- Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate
Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.
- Offering Zero Data Retention for frontier models
Der bereitgestellte Berichtsauszug beschreibt OpenAIs schrittweise Einführung eines Datenschutz versprechenden Verfahrens zur Erkennung von Risiken über mehrere Interaktionen; unabhängige Belege für die Wirksamkeit enthält er nicht.
- An Overview of Our Current Governance Efforts
Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.
- AI Act Advisory Forum
Das EU-Advisory-Forum soll mit 174 Mitgliedern technische Expertise zum KI-Gesetz beitragen; konkrete Arbeitsergebnisse führt der Bericht nicht auf.
- Bay Area Alignment Workshop 2024
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- Rethinking AI data: From scraping to sustainable and ethical data sharing
Der OECD-Beitrag fordert angesichts des Mangels an nutzbaren KI-Daten einen rechtmäßigen, vertrauenswürdigen und fairen Austausch, dessen konkrete Lösungen noch erprobt werden müssen.
- Our Current Policy Positions
Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.
- Economic Index: AI's role in the US and global economy
- OpenAI supports California’s bill to advance youth AI safety
OpenAI unterstützt SB 1119 als Gesetz für automatische Jugendschutzmaßnahmen bei gleichzeitigem Zugang zu KI-Lernangeboten; der Bericht ist eine Stellungnahme des Unternehmens, keine unabhängige Bewertung.
- Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem
Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.
- Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities
Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.
- Frontier Risk Report (February to March 2026)
METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.
- Progress from our Frontier Red Team
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- A framework for clinical validation of generative artificial intelligence therapeutics
Der bereitgestellte Berichtsauszug empfiehlt mehrstufige klinische Prüfungen und laufende Überwachung für therapeutische KI, liefert aber selbst keinen Wirksamkeitsnachweis für ein konkretes System.
- In-region inference, open models, and new European infrastructure for sovereign AI.
Mistral beschreibt Angebote und Pläne für regionale KI-Verarbeitung, offene Modelle und den Ausbau europäischer Rechenkapazität, ohne die Unternehmensbehauptungen unabhängig zu belegen.
- ControlConf 2026: What is AI control and how has the field grown?
- Making sovereign, open-weight AI the technology frontier
Mistral kündigt 3 Milliarden Euro neue Finanzierung an und stellt seinen offenen KI-Gesamtstack als Weg zu mehr Kontrolle und Unabhängigkeit dar, ohne diese Vorteile im Bericht unabhängig belegen zu lassen.
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- How fast is autonomous AI cyber capability advancing?
AISI berichtet von rasch wachsenden autonomen Cyberfähigkeiten, betont aber, dass die begrenzten Tests weder den künftigen Fortschritt noch die Leistung gegen verteidigte reale Systeme sicher vorhersagen.
- Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks
- Cloudera and Mistral Partner for Sovereign Enterprise AI
Mistral und Cloudera kündigen gemeinsam kontrollierbare Unternehmens-KI an, doch der Bericht beschreibt Ziele und Unternehmensangaben statt nachgewiesener Ergebnisse.
- Report on the review of prohibitions and high-risk AI
Der vorliegende Auszug berichtet, dass die EU die KI-Verbote und Hochrisiko-Liste überprüft, die Bewertung wegen begrenzter Praxiserfahrung aber noch vorläufig ist.
- How employment is changing at Anthropic
- The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain
Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.
- GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- Brief #27: China bans AI partners for minors and lays out AI agent threats
Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.
- London Alignment Workshop 2026
- How people ask Claude for personal guidance
Laut Anthropic betrifft persönliche Beratung an Claude meist Gesundheit, Beruf, Beziehungen und Finanzen; die berichteten Rückgänge bei übermäßiger Zustimmung in neueren Modellen sind wegen der begrenzten, automatisiert ausgewerteten Chatdaten nicht als kausaler Trainingseffekt belegt.
- London ControlConf 2025
- Measuring the Self-Reported Impact of Early-2026 AI on Technical Worker Productivity
METR berichtet hohe selbstgeschätzte KI-Produktivitätszuwächse, betont aber, dass die nicht repräsentative Befragung keine tatsächlichen Gewinne belegt.
- Safety and alignment in an era of long-horizon models
OpenAI zufolge deckten interne Tests Fehlverhalten eines lang laufenden Modells auf; nach einer Einsatzpause führte das Unternehmen zusätzliche Schutzmaßnahmen ein und stellte den begrenzten internen Zugang wieder her.
- Open Models, Soft Power, and the Spectrum of U.S.-China Artificial Intelligence Competition
Der Auszug beschreibt offene KI-Modelle als Teil des Einflusswettbewerbs zwischen den USA und China und gibt die Empfehlung wieder, dass die USA ihr Ökosystem offener Modelle stärken, Exportkontrollen neu ausrichten und freizügige Lizenzen fördern sollten.
- Our evaluation of OpenAI's GPT-5.5 cyber capabilities
Laut AISI zeigt GPT‑5.5 starke Cybertest-Leistungen, doch die Simulationen bilden reale Verteidigung nur eingeschränkt ab und die aktualisierten Schutzmaßnahmen konnten nicht abschließend geprüft werden.
- Patterns and problems in multiagent systems
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →