- Post by @Sam_McCandlish on X
- London Alignment Workshop 2026
- Trusted access for the next era of cyber defense
OpenAI baut verifizierten KI-Zugang für Cyberverteidiger aus und führt GPT‑5.4‑Cyber zunächst begrenzt ein; die berichteten Erfolge und Sicherheitsbewertungen sind OpenAIs eigene Angaben.
- Measuring AI capabilities in intelligence targeting and conventional weapons
- London ControlConf 2025
- Safety and alignment in an era of long-horizon models
OpenAI zufolge deckten interne Tests Fehlverhalten eines lang laufenden Modells auf; nach einer Einsatzpause führte das Unternehmen zusätzliche Schutzmaßnahmen ein und stellte den begrenzten internen Zugang wieder her.
- AI Now Summit 2026
Mistral kündigt neue Industrie-KI, den Agenten Vibe und ein Rechenzentrum an; der Bericht beschreibt Ziele und Pläne, keine belegten Ergebnisse.
- Patterns and problems in multiagent systems
- Gemini Deep Think: Redefining the Future of Scientific Research
DeepMind berichtet über vielversprechende, teils menschlich begleitete Forschungsbeiträge von Gemini Deep Think, ohne Durchbrüche der höchsten mathematischen Kategorien zu beanspruchen.
- A Toolkit for Estimating the Safety-Gap between Safety Trained and Helpful Only LLMs
- Introducing Trusted Access for Cyber
OpenAI startet einen Pilot für geprüften Zugang zu Cybersecurity-Modellen und kündigt 10 Millionen US-Dollar an API-Gutschriften für defensive Sicherheitsarbeit an.
- Post by @sreekanti on X
- Mistral x HUMAIN
Mistral und HUMAIN kündigen gemeinsame Vorhaben für souveräne KI in Saudi-Arabien und der Region an; ihre erwarteten Vorteile sind Ziele, deren tatsächliche Ergebnisse laut Bericht unsicher bleiben.
- Post by @fragRoger on X
- AI in 2025: Faster Progress, Harder Problems
- How Australia uses Claude
- Expanding Daybreak as the Cyber Defense Window Narrows
OpenAI erweitert Daybreak um GPT‑5.6‑Cyber für autorisierte Sicherheitsforschung und berichtet von gemischten Testergebnissen, behobenen Schwachstellenfunden sowie einer Einstufung unterhalb der eigenen „Critical“-Schwelle.
- Anthropic Education Report: The AI Fluency Index
Der Bericht sieht Zusammenhänge zwischen iterativem Arbeiten und weiteren KI-Kompetenzmerkmalen, während bei der Erstellung von Ergebnissen seltener kritische Prüfungen sichtbar waren; die begrenzte Claude.ai-Studie belegt keine Ursachen.
- Biosecurity and AI: Risks and Opportunities
Der Beitrag hält KI-gestützten Bioterrorismus für ein mögliches, aber unsicheres Risiko und empfiehlt öffentliche Gesundheitsmaßnahmen sowie gezielte Sicherheitsvorkehrungen unter Abwägung ihrer Folgen für die Forschung.
- Singapore Alignment Workshop 2025
- Leading AI Companies Join White House's Voluntary Commitment to Enhance AI Safety
CAIS unterstützt freiwillige Sicherheitszusagen von sieben KI-Unternehmen und hofft, dass sie in verbindliche Regeln münden.
- Technical Innovations for AI Policy 2025
- Managing Advanced Cyber Risks in Frontier AI Frameworks
- Post by @robertwiblin on X
- Scaling Trusted Access for Cyber with GPT-5.5 and GPT-5.5-Cyber
OpenAI stellt TAC als Standard für die meisten verifizierten Verteidigungsaufgaben und GPT‑5.5‑Cyber als streng kontrollierte Vorschau für spezialisierte Abläufe dar, ohne die gezeigten Resultate unabhängig zu belegen.
- Empowering YouTube creators with generative AI
DeepMind kündigt KI-generierte Bilder und Kurzvideos für YouTube Shorts an, beschreibt sie als kreative Unterstützung und nennt SynthID sowie YouTube-Hinweise zur Kennzeichnung.
- Post by @_jrosenberg on X
- Responding to the next frontier of critical cyber capabilities
OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.
- Post by @ValsAI on X
- Measuring AI’s capability to accelerate biological research in the wet lab
Der Bericht behauptet, GPT‑5 habe die Effizienz eines konkreten Klonierungsverfahrens um das 79-Fache verbessert; die Übertragbarkeit ist offen und Menschen führten die Versuche weiterhin aus.
- Post by @theobearman on X
- GPT-5 System Card
Der Auszug beschreibt GPT‑5s Modellverbund und von OpenAI behauptete Verbesserungen; gpt-5-thinking wird im Bio-/Chemiebereich vorsorglich als hoch eingestuft, bei zugleich fehlender definitiver Evidenz für erhebliche Schadenshilfe.
- Measuring LLMs’ ability to develop exploits
- Artificially Inequitable? AI and closing the gender gap
Der Beitrag sieht KI als Chance und Risiko für die Geschlechtergleichstellung und fordert mehr Kompetenzen, Repräsentation und Schutz vor algorithmischer Diskriminierung.
- Mapping AI-enabled cyber threats
Anthropic zufolge stieg in einer Auswertung gesperrter Konten der Anteil mit mittlerem oder höherem KI-Risiko, wobei vor allem operative Nutzung und autonome Verkettung von Angriffsschritten auffielen; die Daten bilden jedoch nur eine ausgewählte Teilmenge ab.
- GPT-5.3-Codex System Card
Der bereitgestellte Auszug stellt GPT‑5.3‑Codex als leistungsfähiges Programmiermodell dar und berichtet von vorsorglichen Cybersicherheitsmaßnahmen; detaillierte Prüfungen und Ergebnisse sind darin nicht enthalten.
- Concordia AI 2025 Impact Highlights
Concordia AI berichtet von umfangreicher internationaler und China-bezogener Arbeit zur KI-Sicherheit im Jahr 2025, legt im Tätigkeitsbericht aber keine unabhängige Prüfung der Angaben oder messbare Belege für eine Risikominderung vor.
- Measuring the persuasiveness of language models
- LLM-Assisted Reanalysis of Unsolved Rare Disease Genomes Increases Diagnostic Yield
Eine rückblickende Studie berichtet, dass ein fachlich überprüftes LLM bei 376 ungelösten genetischen Fällen 18 zusätzliche lokale Diagnosen fand (4,8 Prozent); prospektive Studien müssen den klinischen Nutzen noch bestätigen.
- We spent 2 hours working in the future
Ein kleines METR-Planspiel deutet darauf hin, dass sehr leistungsfähige Agenten die Umsetzung beschleunigen könnten, während menschliche Prüfung, Feedback und Organisation zum Engpass werden; der geschätzte Produktivitätsgewinn von drei- bis fünffach ist ausdrücklich unsicher.
- Large language models possess some ecological knowledge, but how much?
Sprachmodelle zeigen ökologisches Wissen, doch laut Bericht reichen ihre Fähigkeiten besonders bei räumlich präzisen und naturschutzrelevanten Aufgaben nicht für verlässliche Entscheidungen ohne externe Daten und menschliche Prüfung aus.
- Applying machine learning to radiotherapy planning for head & neck cancer
DeepMind und UCLH prüfen explorativ, ob maschinelles Lernen die Segmentierung für Kopf-Hals-Strahlentherapie beschleunigen kann; eine Zeitersparnis ist bislang nur erhofft.
- ChatGPT agent System Card
Der Auszug beschreibt ChatGPT agent und seine Schutzmaßnahmen sowie eine vorsorgliche biologische und chemische Risikoeinstufung; Einzelheiten und Bewertungsergebnisse enthält er nicht.
- Many SWE-bench-Passing PRs Would Not Be Merged into Main
METR berichtet, dass SWE-bench-Ergebnisse die Annahme von KI-Patches durch Maintainer deutlich überschätzen können, wobei die Studie begrenzt ist und keinen Schluss auf die Leistung nach Feedback-Überarbeitungen erlaubt.
- OpenAI o3 and o4-mini System Card
Der vorliegende Auszug beschreibt OpenAIs Fähigkeiten- und Sicherheitseinschätzung zu o3 und o4-mini, enthält aber keine ausführlichen Evaluierungsdetails.
- Funding 60 projects to advance AI alignment research
Laut Bericht fördert das Alignment Project 60 Vorhaben mit insgesamt 27 Millionen Pfund, doch die genannten Sicherheitswirkungen sind Forschungsziele und noch keine belegten Ergebnisse.
- Expanding on how Voice Engine works and our safety research
OpenAI stellt Voice Engine als leistungsfähige, noch nicht allgemein verfügbare Stimmenerzeugung dar und beschreibt begrenzte Einsätze sowie Schutzmaßnahmen, deren Wirksamkeit der Bericht nicht unabhängig belegt.
- India Country Brief: Anthropic Economic Index
- Improving Model Safety Behavior with Rule-Based Rewards
OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.
- Donating Agent Skills to the Agentic AI Foundation
Anthropic will den offenen Agent-Skills-Standard an die AAIF übergeben und schlägt gemeinschaftliche Weiterentwicklung mit versionierten Veröffentlichungen, Vorschlagsverfahren und Sicherheitshinweisen vor.
- Shaping Europe’s digital future
Criteos KI-Schulungen sollen Wissen und verantwortungsvolle Praxis fördern; laut Bericht nahmen über 170 Personen am Bootcamp teil, dessen Wirkung aber vorwiegend qualitativ beschrieben wird.
- Sora System Card
OpenAIs Bericht beschreibt Soras Fähigkeiten und Schutzmaßnahmen, nennt deren Testwerte, räumt aber Umgehungsmöglichkeiten und Grenzen ein, ohne eine unabhängige Bestätigung der Wirksamkeit vorzulegen.
- Introducing gpt-oss-safeguard
gpt-oss-safeguard soll anpassbare, begründete Sicherheitsklassifizierungen ermöglichen, doch OpenAI zufolge bleiben Leistungsvorteile je nach Test unterschiedlich und der hohe Rechenaufwand eine wesentliche Grenze.
- Physicist Christopher Stubbs joins Anthropic's Long-Term Benefit Trust
Anthropic zufolge soll der Physiker Christopher Stubbs seine wissenschaftliche Erfahrung in den Long-Term Benefit Trust einbringen, der die langfristige Ausrichtung des Unternehmens auf seinen öffentlichen Nutzen stützen soll.
- Introducing OpenAI Frontier
OpenAI stellt Frontier als Plattform für den Einsatz von KI-Agenten in Unternehmen vor und berichtet über Produktivitätsgewinne, ohne diese im Text unabhängig nachzuweisen.
- Claude computes a nine-loop amplitude in N=4 super-Yang-Mills
- Frontier AI safety regulations: A reference for lab staff
METR vergleicht Sicherheits- und Meldepflichten für leistungsfähige KI-Modelle in den USA und der EU und betont, dass die Übersicht weder die unterschiedlichen Regeln vollständig ersetzt noch eine Prüfung tatsächlicher Modellsicherheit durch das Illinois-Audit beschreibt.
- OpenAI frontier models and Codex are now available on AWS
Der Bericht meldet OpenAI-Modelle und Codex auf AWS sowie eine geplante Sicherheitslösung, beschreibt aber überwiegend Unternehmensbehauptungen und noch laufende Kundenbewertungen.
- How AI assistance impacts the formation of coding skills
Eine kleine randomisierte Studie deutet darauf hin, dass KI beim Lernen einer neuen Programmierbibliothek mit schlechteren unmittelbaren Testergebnissen einhergehen kann, ohne einen statistisch gesicherten Zeitgewinn zu zeigen.
- Strengthening societal resilience with Rosalind Biodefense
OpenAI will ausgewählten Entwicklern und öffentlichen Partnern GPT‑Rosalind für biologische Abwehr zugänglich machen; der Bericht beschreibt Vorhaben und Schutzmaßnahmen, aber noch keine nachgewiesenen Ergebnisse.
- Our approach to tackling AI-generated child sexual abuse material
AISI und Thorn kombinieren einen Leitfaden, streng begrenzte gesetzliche Testmöglichkeiten und geplante Forschung gegen KI-generiertes CSAM, wobei der Bericht technische Grenzen nennt und noch keine Wirksamkeitsnachweise vorlegt.
- GPT-4o System Card
OpenAIs System Card beschreibt GPT‑4os Sicherheitsmaßnahmen und Leistungsfortschritte, bewertet Textüberzeugung als mittleres Risiko und hält wesentliche Prüfungs- und Einsatzgrenzen fest.
- 5 key findings from our first Frontier AI Trends Report
Laut AISI wachsen KI-Fähigkeiten und ihre gesellschaftliche Nutzung schnell, doch Schutzlücken, begrenzte Testbedingungen und unsichere Zukunftsverläufe lassen wesentliche Risiken offen.
- Can mid-sized economies come together to build frontier AI?
Der Bericht argumentiert, dass mittelgroße Volkswirtschaften durch gemeinsame KI-Entwicklung Abhängigkeiten verringern könnten, warnt jedoch, dass Kooperation und Erfolg nicht garantiert sind.
- Catherine Aiken's Testimony before the National Artificial Intelligence Advisory Committee
Aiken fordert, KI-Fortschritt nicht nur an Forschung und Investitionen, sondern auch an ihrer praktischen Wirkung zu messen – gestützt auf bessere, breitere Daten.
- Common Elements of Frontier AI Safety Policies (December 2025 Update)
Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.
- AlphaGo's next move
DeepMind beendet AlphaGos Wettkampfauftritte und kündigt neue Forschungsarbeit sowie Materialien an, die der Go-Gemeinschaft AlphaGos Strategien zugänglich machen sollen.
- Danish Agency for Digital Government | Shaping Europe’s digital future
Die Agentur berichtet über gut nachgefragte, laufend angepasste KI-Einsteigerworkshops, nennt aber keine messbaren Lernergebnisse; weiterführende Kurse sind geplant.
- Stress-testing asynchronous monitoring of AI coding agents
Der Bericht findet, dass iterative asynchrone Überwachung viele getestete Angriffe erkennen kann, synchrone Prüfung aber sicherer war und die Übertragbarkeit der Ergebnisse auf reale Umgebungen ungewiss bleibt.
- 人工智能控制:如何利用违规人工智能体
KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.
- AI & Partners | Shaping Europe’s digital future
AI & Partners schildert ein angepasstes Schulungsprogramm für verantwortungsvolle KI-Nutzung und berichtet von positiven Wirkungen, legt aber keine konkreten Messwerte oder unabhängigen Nachweise vor.
- Strengthening our safety ecosystem with external testing
OpenAI beschreibt externe Modellprüfungen als Ergänzung seiner Sicherheitsarbeit, stellt deren Nutzen jedoch aus eigener Perspektive dar.
- Summary of our gpt-oss methodology review
METR zufolge setzte OpenAI fünf von sechs dringlichen Empfehlungen zur Prüfung adversarialen Fine-Tunings von gpt-oss-120b um, veröffentlichte aber weiterhin keine konkreten Kriterien für die Einstufung als hochfähig.
- Detecting and preventing distillation attacks
Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.
- Disrupting an AI-orchestrated cyber espionage campaign
Anthropic berichtet von einer mutmaßlich staatlich unterstützten Spionagekampagne, bei der Claude Code laut Unternehmen den Großteil der Angriffsarbeit übernahm; der verlinkte vollständige Bericht liegt hier nicht vor.
- Introducing the Child Safety Blueprint
Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.
- Redesigning source control at Anthropic
- AlphaStar: Grandmaster level in StarCraft II using multi-agent reinforcement learning
Laut DeepMind erreichte AlphaStar mit League-Training und menschlichen Spieldaten Großmeister-Niveau in StarCraft II; eine Übertragbarkeit auf reale Aufgaben wird lediglich als Möglichkeit genannt.
- How to evaluate control measures for AI agents?
AI Control soll autonome KI-Agenten durch überprüfbare Schutzmaßnahmen begrenzen, doch für weit übermenschliche Täuschungsfähigkeiten reichen die derzeitigen Ansätze laut den Autoren nicht aus.
- Expanding Project Glasswing
Anthropic erweitert Project Glasswing für rund 150 weitere Organisationen und will KI stärker für die Behebung von Sicherheitslücken einsetzen, hält einen allgemeinen Zugang zu Mythos-ähnlichen Fähigkeiten aber mangels ausreichender Schutzmaßnahmen noch für verfrüht.
- Building safeguards for Claude
Anthropic schildert mehrstufige Schutzmaßnahmen für Claude, liefert im Bericht jedoch keine messbaren oder unabhängigen Belege für deren Gesamtwirksamkeit.
- Op-Ed: China Is Taking AI Safety Seriously. So Must the U.S.
Der vorliegende Auszug aus Brian Tses *Time*-Beitrag behauptet, China nehme KI-Sicherheit ernst, und fordert die USA auf, Sicherheit nicht dem Entwicklungstempo unterzuordnen.
- Testing and mitigating elections-related risks
Anthropic berichtet über kombinierte Experten- und automatisierte Wahlrisikoprüfungen sowie Verbesserungen durch Gegenmaßnahmen, räumt aber Grenzen der Tests und die unvollständige Wirkung einzelner Schutzschichten ein.
- Standardizing AI Iconography
CAIS präsentiert Beispiel-Icons zur Kennzeichnung synthetischer Medien, deren Verlässlichkeit laut Bericht von den Erkennungs- und Moderationssystemen der Plattformen abhängt.
- Le rôle du Gouvernement en tant que fournisseur de données pour l’Intelligence Artificielle Phase 2 : Un outil pratique pour le partage de données gouvernementales pour l’IA
Der vorliegende Auszug beschreibt eine OECD-Checkliste für Regierungsteams, die das Teilen staatlicher Daten für KI planen oder bewerten sollen, und nennt dabei öffentliche Interessen und Rechte als Ziele.
- How people use Claude for support and advice
- Asimov AI S.R.L. | Shaping Europe’s digital future
Asimov AI schult Kunden kontextbezogen zu KI und Halluzinationen und berichtet von positiven Erfahrungen, die im Bericht jedoch nicht unabhängig oder quantitativ belegt werden.
- World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes
Die Gipfel-Mitteilung beschreibt internationale Pläne für gemeinsame KI-Sicherheitstests und weitere Forschung, jedoch noch keine fertigen Standards oder konkreten Prüfergebnisse.
- CDTI - Club dirigenti tecnologie dell'Informazione | Shaping Europe’s digital future
Der italienische Verband CDTI plant kontextbezogene KI-Schulungen und will ihre Wirkung künftig messen; konkrete Ergebnisse weist der Bericht noch nicht aus.
- Conference on frontier AI safety frameworks
Der Bericht kündigt eine Konferenz und ihren Themenaufruf zu Sicherheitsrahmen für fortgeschrittene KI an, berichtet jedoch keine Ergebnisse.
- Early lessons from evaluating frontier AI systems
Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.
- Fontys University of Applied Sciences | Shaping Europe’s digital future
Fontys bietet KI-Workshops für Beschäftigte an und berichtet von über 2.000 Teilnehmenden seit 2023; bis 2026 sollen mindestens 5.000 erreicht werden.
- Equipping agents with Agent Skills
- Preliminary Taxonomy of AI-Bio Misuse Mitigations
- National Standard of the People's Republic of China: Cybersecurity Technology - Generative Artificial Intelligence Data Annotation Safety Specifications (Draft for Feedback)
Der Auszug stellt einen chinesischen Entwurf zu Sicherheitsregeln für GenAI-Datenannotation vor, enthält aber außer Geltungsbereich und ersten Definitionen keine detaillierten Vorschriften.
- German Rectors' Conference (HRK) | Shaping Europe’s digital future
Die HRK setzt auf akademische Szenarien und anpassbare Empfehlungen, um KI-Kompetenz an Hochschulen zu stärken; die Wirkung ist laut Bericht noch nicht abschließend belegt.
- Gjensidige Forsikring ASA | Shaping Europe’s digital future
Gjensidige kombiniert verpflichtende KI-Grundlagen mit rollenbezogenen Trainings und vielfältigen Lernkanälen; konkrete quantitative Wirkungsdaten nennt der Bericht nicht.
- How much water does AI consume? The public deserves to know
Der Beitrag fordert transparente Messungen des erheblichen, standortabhängigen Wasserfußabdrucks von KI, dessen globale Größenordnung er für 2027 schätzt.
- National Standard of the People's Republic of China: Cybersecurity Technology - Basic Safety Requirements for Generative Artificial Intelligence Services (Draft for Feedback)
Der vorliegende Auszug skizziert einen chinesischen KI-Sicherheitsstandard und behauptet, sein Schwerpunkt sei die Verhinderung unerwünschter Inhalte; der übrige Standard ist hier nicht enthalten.
- Frontier Mitigations
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →