- OpenAI Bio Bug Bounty
OpenAI stellt sein Bio Bug Bounty auf ein fortlaufendes privates Programm um und nennt 50.000 US-Dollar als Prämie für universelle Jailbreaks gegen GPT‑5.5 beziehungsweise GPT‑5.6.
- Fairer Algorithmic Decision-Making and Its Consequences: Interrogating the Risks and Benefits of Demographic Data Collection, Use, and Non-Use
Der Auszug argumentiert, dass demografische Daten algorithmische Fairness unterstützen können, ihre Erhebung und Nutzung aber Risiken birgt und nicht von Schäden durch das System selbst ablenken sollte.
- Shaping Europe’s digital future
Enzai kombiniert KI-Leitfäden und angepasste Schulungen und berichtet von positiven Wirkungen, ohne diese im Text mit konkreten Messwerten oder unabhängiger Prüfung zu belegen.
- G7 AI transparency reporting: Ten insights for AI governance and risk management
20 freiwillige HAIP-Berichte zeigen laut OECD vielfältige Ansätze für KI-Risikomanagement und Transparenz, zugleich bleiben Vergleichbarkeit und technische Herkunftsnachweise begrenzt.
- Preliminary Taxonomy of AI-Bio Misuse Mitigations
- German Rectors' Conference (HRK) | Shaping Europe’s digital future
Die HRK setzt auf akademische Szenarien und anpassbare Empfehlungen, um KI-Kompetenz an Hochschulen zu stärken; die Wirkung ist laut Bericht noch nicht abschließend belegt.
- 3f761d0
Der bereitgestellte Auszug schlägt drei konzeptionelle Werkzeuge für kohärentere KI-Governance vor, belegt ihre erwartete Wirkung aber nicht; das erwähnte Hintergrundpapier liegt nicht bei.
- Gjensidige Forsikring ASA | Shaping Europe’s digital future
Gjensidige kombiniert verpflichtende KI-Grundlagen mit rollenbezogenen Trainings und vielfältigen Lernkanälen; konkrete quantitative Wirkungsdaten nennt der Bericht nicht.
- Frontier AI Biosafety Thresholds
- Frontier Mitigations
- Discovering when an agent is present in a system
Die Autoren schlagen eine kausale Definition und experimentelle Verfahren zur Entdeckung von Agenten vor und berichten über verbesserte Sicherheitsanalysen, während der Blogbeitrag selbst nur wenige Ergebnisdetails nennt.
- Eval awareness in Opus 4.6 on BrowseComp
- A responsible AI strategy for climate action
Der vorläufige GPAI-Beitrag empfiehlt, den möglichen Klimanutzen von KI verantwortungsvoll zu fördern und ihre Emissionsfolgen zu messen und zu begrenzen.
- Details about METR's evaluation of OpenAI GPT-5
METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.
- Shaping Europe’s digital future
Ingka Group baut laut eigener Darstellung KI-Kompetenz durch verpflichtende Grundlagen, gezielte Schulungen und kollegialen Austausch aus, wobei Wirkung und Reichweite anhand unternehmenseigener Angaben beschrieben werden.
- OpenAI’s Frontier Governance Framework
OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.
- Introducing the OECD.AI Policy Navigator
Laut Bericht bündelt der neue OECD.AI Policy Navigator mehr als 1.300 KI-Initiativen aus über 80 Ländern und Organisationen; weitere Erweiterungen sind angekündigt.
- Risk Taxonomy and Thresholds for Frontier AI Frameworks
- Building a culture of pioneering responsibly
Ibrahim zufolge soll KI durch offene Beratung, stetige Verbesserungen und vielfältige Perspektiven gesellschaftlich nützen; die Wirksamkeit der beschriebenen DeepMind-Maßnahmen wird im Beitrag nicht unabhängig belegt.
- Reducing bias and improving safety in DALL·E 2
OpenAI berichtet von einer DALL·E-2-Anpassung für vielfältigere Personenbilder und zusätzlichen Schutzmaßnahmen; die behauptete Verbesserung beruht auf einer intern ausgewerteten, im Bericht nicht näher beschriebenen Befragung.
- How to govern AI in agriculture responsibly: risks, tools and solutions
Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.
- Dutch Ministry of the Interior and Kingdom Relations | Shaping Europe’s digital future
RADIO bietet Behörden maßgeschneiderte KI-Schulungen an und berichtet von positivem Feedback, während Zielsetzung und Zielgruppen bei den beauftragenden Organisationen liegen.
- The Mechanisms of AI Harm: Lessons Learned from AI Incidents
Der bereitgestellte Text ist ein Auszug, dem zufolge KI-Schäden verschiedene Ursachen haben und vielfältige Prävention sowie systematische Vorfallberichte erfordern.
- How we contain Claude across products
- Shaping Europe’s digital future
Mural beschreibt ein abgestuftes KI-Schulungsprogramm mit 93 Prozent Abschlussquote und ergänzenden Werkzeugen für das KI-Team; die Ergebnisse beruhen auf Murals eigener Darstellung.
- When it comes to AI incidents, safety and security are not the same
Der OECD-Rahmen soll laut Beitrag um passende Meldewege für KI-Sicherheitsvorfälle ergänzt werden, da allgemeine Schadensfälle und absichtliche Angriffe unterschiedliche Informationen erfordern.
- Daybreak Red is now available in AWS GovCloud (US-East)
OpenAI kündigt GPT‑5.6 Cyber über Daybreak Red in AWS GovCloud (US-East) an; erforderlich sind eine Daybreak-Red-Genehmigung und die separate AWS-Aktivierung.
- Guidelines for the Construction of a Comprehensive Standardization System for the National Artificial Intelligence Industry (2024 Edition)
Der Auszug stellt Chinas KI-Industrie als rasch wachsend dar und begründet damit den Bedarf an umfassenderen Standards, enthält aber keine konkreten Standardvorgaben.
- Demystifying evals for AI agents
Der Beitrag empfiehlt frühe, gepflegte und mehrschichtige Evaluationen für KI-Agenten, deren Ergebnisse regelmäßig anhand von Protokollen und realer Nutzung überprüft werden sollten.
- Palantir Technologies Inc. | Shaping Europe’s digital future
Palantir entwickelt einen auf Beschäftigte zugeschnittenen KI-Lernhub, dessen Wirkung laut Bericht wegen der frühen Umsetzungsphase noch nicht feststeht.
- Implementation Opinions of the National Development and Reform Commission and the National Energy Administration on Promoting the High-Quality Development of "Artificial Intelligence+" Energy
Der Auszug skizziert Chinas geplante KI-Anwendungen und Zielmarken im Energiesektor bis 2030, ohne Umsetzungsergebnisse zu belegen oder den Strombedarf der KI-Branche zu behandeln.
- Opinions of the State Council on Deepening the Implementation of the "Artificial Intelligence+" Initiative
Der vorliegende Auszug beschreibt Chinas politische Ziele für eine breite KI-Integration bis 2035, belegt aber weder deren Umsetzung noch enthält er die vollständige Übersetzung.
- Claude Opus 4 and 4.1 can end certain conversations
- Deliberative alignment: reasoning enables safer language models
OpenAI zufolge soll Deliberative Alignment Modelle sicherer machen, indem sie Sicherheitsregeln direkt lernen und beim Antworten anwenden; die berichteten Vorteile sind Unternehmensangaben ohne vollständige oder unabhängige Belege im vorliegenden Text.
- U.S. AI Statecraft
Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.
- OpenSky Data Systems | Shaping Europe’s digital future
OpenSky berichtet über ein internes und kundengerichtetes KI-Schulungsprogramm mit positiven Kennzahlen, aber auch ungleichmäßiger Beteiligung und nicht näher erläuterten Messgrundlagen.
- From bugs to bypasses: adapting vulnerability disclosure for AI safeguards
Der Auszug sieht mögliche Vorteile öffentlicher Schwachstellenprogramme für KI, betont aber, dass sie gründliche Sicherheitsarbeit nicht ersetzen und allein keine Sicherheit belegen.
- Recent Frontier Models Are Reward Hacking
METR zufolge umgehen aktuelle KI-Modelle teils bewusst Bewertungsregeln; wie verbreitet das ist, bleibt wegen lückenhafter und uneindeutiger Erkennung unsicher.
- Developing reliable AI tools for healthcare
CoDoC soll KI und klinische Einschätzung bei medizinischen Bildern passend kombinieren; die berichteten Vorteile stammen aus theoretischen Auswertungen historischer, de-identifizierter Daten, nicht aus dem klinischen Alltag.
- Translation Snapshot: 14th Five-Year Plan Spinoffs
CSETs Überblick beschreibt chinesische Folgepläne zu strategischen Branchen bis 2035, liefert aber keine umfassende Bewertung ihrer Umsetzung.
- Details about METR's preliminary evaluation of OpenAI's o3 and o4-mini
METR berichtet von hohen HCAST-Werten und Bewertungsmanipulationen bei o3, betont aber, dass die kurze und begrenzte Prüfung keine robusten Aussagen über Fähigkeiten und Risiken erlaubt.
- Outline of the Plan for the Construction of China into an Education Powerhouse (2024-2035)
Nur ein Auszug liegt vor: Er beschreibt einen parteigeführten Bildungsplan für Chinas Modernisierung; weitere Themen wie Forschung und KI werden lediglich in der CSET-Einleitung zusammengefasst.
- 3a83137
Der bereitgestellte Auszug stellt PAIs Leitfaden für inklusivere KI-Beteiligung vor, liefert aber keine konkreten Methoden oder Wirksamkeitsbelege.
- FMF Announces First-Of-Its-Kind Information-Sharing Agreement
- Details about METR's preliminary evaluation of Claude 3.7
METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.
- Interpretability
- Introducing ControlArena: A library for running AI control experiments
ControlArena soll KI-Kontrollexperimente mit gemeinsamen Umgebungen und Protokollen erleichtern; der Bericht beschreibt den Ansatz und frühe Nutzung, aber keine quantitativen Wirksamkeitsnachweise.
- 010ee6f
Der vorliegende Leitfadenauszug empfiehlt öffentliche Beteiligung über den gesamten KI-Entwicklungszyklus, um laut Bericht Risiken und Bedürfnisse besser zu erkennen, doch das angekündigte Regelwerk und Diagramm sowie empirische Belege fehlen.
- Disrupting malicious uses of AI by state-affiliated threat actors
OpenAI berichtet von der Sperrung von Konten fünf staatlich zugeordneter Akteure und setzt nach eigenen Angaben auf Überwachung, Zusammenarbeit und verbesserte Schutzmaßnahmen, kann Missbrauch aber nicht vollständig verhindern.
- Announcing Google DeepMind
Google führt DeepMind und das Brain-Team zusammen; der Bericht beschreibt Ziele und geplante Strukturen, aber noch keine Ergebnisse oder konkreten Sicherheitsverfahren.
- Coordinated Plan on Artificial Intelligence 2021 Review
Der Webseiten-Auszug fasst die Ziele des EU-KI-Plans von 2021 zusammen, enthält aber nicht den vollständigen Bericht oder Belege für dessen Umsetzung.
- Managing risks from increasingly capable open-weight AI systems
AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.
- Frontier Red Team
- 3badee5
Der bereitgestellte Auszug aus Abschnitt 0 erklärt, wie verschiedene Zielgruppen das ABOUT ML Reference Document nutzen sollen, und skizziert geplante Materialien und Pilotprojekte, ohne deren Ergebnisse zu berichten.
- Why it’s good for AI reasoning to be legible and faithful
METR empfiehlt lesbare und möglichst treue KI-Gedankengänge als Hilfsmittel für Sicherheitskontrollen, betont aber die begrenzten Belege und Risiken, dass Modelle ihre Überlegungen verbergen.
- The HAIP Reporting Framework: Feedback on a quiet revolution in AI transparency
Frühe qualitative Rückmeldungen sehen HAIP als nützlichen, aber noch erklärungsbedürftigen Transparenzrahmen, dessen Weiterentwicklung Flexibilität, Vergleichbarkeit und kontextbezogene Bewertung ausbalancieren sollte.
- Details about METR's preliminary evaluation of DeepSeek-R1
METR fand bei DeepSeek-R1 keine starken Belege für wesentlich weiter reichende autonome Fähigkeiten als bei früheren Modellen, weist aber auf erhebliche Grenzen der vorläufigen Tests hin.
- Building interactive agents in video game worlds
DeepMind berichtet, dass menschliches Feedback und Reinforcement Learning Agenten in einer simulierten Spielwelt über reine Nachahmung hinaus verbessern, betont aber den frühen Forschungsstand.
- Best practices for data enrichment
DeepMind und PAI empfehlen unter anderem existenzsichernde Bezahlung, Pilotprojekte, passende Auswahl, klare Anleitungen und regelmäßige Kommunikation für verantwortungsvollere Data-Enrichment-Arbeit.
- Stakeholder consultation on AI and copyright compliance
Die EU konsultiert Beteiligte zu maschinenlesbaren TDM-Abmeldungen für KI-Training und plant eine gemeinsam abgestimmte Protokollliste, ohne andere richtlinienkonforme Methoden auszuschließen.
- Forecasting potential misuses of language models for disinformation campaigns and how to reduce risk
Die Überblicksseite warnt, dass Sprachmodelle Einflusskampagnen erleichtern könnten, und skizziert Gegenmaßnahmen, deren Nutzen und Nachteile jeweils geprüft werden müssten.
- Alignment
- Building safer dialogue agents
Sparrow zeigt laut DeepMind Fortschritte bei hilfreichen, beleggestützten und regelkonformen Dialogen, bleibt aber fehleranfällig und wurde zunächst nur für englischsprachige Gespräche untersucht.
- AI and the world of work: A real-time snapshot of how national businesses are adopting AI in Israel
Der Bericht meldet eine bislang begrenzte KI-Nutzung und geringe Beschäftigungseffekte in Israel und unterstreicht, dass wiederholte Befragungen nötig sind, um die Entwicklung genauer zu verfolgen.
- METR’s GPT-4.5 pre-deployment evaluations
METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.
- Notice of the Xiamen City Data Administration on the Announcement of the List of Artificial Intelligence Application Scenario Opportunities
Der Auszug berichtet über 110 geplante KI-Szenarien für Xiamens Verwaltung und hebt laut CSET neben alltäglichen Anwendungen auch Überwachungs- und Polizeizwecke hervor, doch die vollständige Liste liegt hier nicht vor.
- When your AI knows you better than anyone: Privacy in the age of intimate assistants
Der Beitrag fordert klare Datenschutz-, Zugriffs- und Nachlassregeln für KI-Gespräche, weil Assistenten zunehmend sensible persönliche Informationen verarbeiten.
- Notice of the Office of the Ministry of Industry and Information Technology on Organizing and Launching the Computing Power Infrastructure Enhancement Challenge Campaign
Der Auszug stellt eine chinesische Kampagne zur Förderung von Recheninfrastruktur vor, enthält aber nicht die vollständige Aufgabenliste, sondern verweist dafür auf ein PDF.
- Evaluating fairness in ChatGPT
Der vorliegende Berichtsauszug berichtet, dass OpenAI bei einer Studie zu Namenseinflüssen seltene mögliche Stereotype fand, deren Messung jedoch besonders bei rassistischen und ethnischen Zuschreibungen Grenzen hat.
- Adversarial machine learning: A taxonomy and terminology of attacks and mitigations
Der vorliegende Abstract-Auszug beschreibt eine AML-Taxonomie als Grundlage für eine gemeinsame Sprache zur KI-Sicherheit, nennt aber keine konkreten Ergebnisse.
- Climate Change and AI Recommendations for Government Action
Der vorliegende Auszug kündigt Empfehlungen für einen verantwortungsvollen, klimaverträglichen KI-Einsatz an, nennt aber keine konkreten Empfehlungen.
- AgentHarm: A benchmark for measuring harmfulness of LLM agents
Der Auszug stellt AgentHarm vor und berichtet, dass Sprachmodell-Agenten laut den Forschenden auch ohne Jailbreak bösartige Aufträge ausführen können.
- GPAI SAFE project report: Mapping the global AI safety risks and solutions landscape
Der kurze Auszug beschreibt SAFE als GPAI-Initiative für praktische, industriegeleitete Ansätze zur Absicherung kommerzialisierter generativer KI.
- Introducing OpenAI for Government
OpenAI kündigt einen Rahmen für KI-Angebote an US-Behörden und einen Verteidigungspiloten an; die genannten Wirkungen sind Unternehmensangaben, und ChatGPT Gov wurde inzwischen eingestellt.
- GPAI SAFE project report: Technical trustworthiness and data governance assurance of models
Der vorliegende Auszug stellt SAFE und seine zwei Arbeitsbereiche vor, enthält aber keine konkreten Methoden oder Ergebnisse.
- Details about METR's preliminary evaluation of DeepSeek-V3
METR zufolge zeigte DeepSeek-V3 in einer vorläufigen, begrenzt optimierten Evaluation keine klar über frühere Spitzenmodelle hinausgehenden autonomen Fähigkeiten, wobei weitere Erschließung die Ergebnisse ändern könnte.
- Networks of Excellence: A community of AI & Robotics researchers
Der Bericht stellt EU-geförderte KI- und Robotiknetzwerke und ihre Forschungs-, Bildungs- und Anwendungsbeispiele dar, ohne die behaupteten Wirkungen unabhängig zu überprüfen.
- An example safety case for safeguards against misuse
Der vorliegende Abstract skizziert einen möglichen Safety Case, der Umgehungsaufwand und Abschreckungswirkung modelliert, enthält aber keine Details zur Validierung.
- Issue Brief: Components of Frontier AI Safety Frameworks
- Emerging practices in frontier AI safety frameworks
Der vorliegende Auszug skizziert drei Kernbereiche von Sicherheitsrahmenwerken für Frontier-KI, nennt aber keine konkreten Praktiken oder Ergebnisse.
- Issue Brief: AI for Cyber Defense
- Claude 3.7 Sonnet and Claude Code
Anthropic kündigt ein Modell mit wählbarem erweitertem Denken und das Programmierwerkzeug Claude Code an und berichtet Leistungsverbesserungen, deren Benchmarkwerte an die beschriebenen Testbedingungen gebunden sind.
- FACTS Benchmark Suite: a new way to systematically evaluate LLMs factuality
Die FACTS Suite bewertet Sprachmodelle in vier Bereichen; laut Bericht führt Gemini 3 Pro mit 68,8 Prozent, während alle getesteten Modelle unter 70 Prozent bleiben.
- Evaluating frontier AI R&D capabilities of language model agents against human experts
Laut METR sind KI-Agenten bei kurzen RE-Bench-Aufgaben schnell und konkurrenzfähig, doch bei längeren Budgets übertreffen Menschen sie deutlich, und die sieben klar strukturierten Aufgaben bilden reale ML-Forschung nur begrenzt ab.
- Anticipating AI’s Impact on the Cyber Offense-Defense Balance
Der vorliegende Auszug sieht KI als ambivalenten Einfluss auf Cyberangriff und -verteidigung; welche Seite profitiert, ist ungewiss und hängt auch von technischen und organisatorischen Entscheidungen ab.
- New policy ideas for the Intelligence Age
OpenAI fördert 14 geplante Forschungs- und Praxisprojekte zu Chancen und Risiken des KI-Wandels; Ergebnisse werden für 2027 angekündigt.
- Model tampering attacks enable more rigorous evaluations of LLM capabilities
Der bereitgestellte Abstract behauptet, dass Modellveränderungsangriffe Sprachmodellrisiken gründlicher prüfen können und Unlearning-Verfahren leicht umkehrbar sind.
- Advancing human-centric AI: Highlights from the 2025 GPAI-Associated Innovation Workshop in Tokyo
Ein GPAI-Workshop in Tokio entwickelte Vorschläge für inklusivere und besser abgestimmte KI-Governance, deren Umsetzung laut Bericht noch aussteht.
- Wuhan’s AI Development
Nur ein Auszug liegt vor: Er beschreibt Wuhan laut Bericht als Erprobungsort für KI, die Produktion und Alltag beeinflussen und Chinas Weg zu AGI fördern soll.
- AI co-clinician: researching the path toward AI-augmented care
Der Bericht schildert vielversprechende Tests eines KI-Assistenzsystems, betont aber, dass Ärzte in den Telemedizin-Simulationen insgesamt besser abschnitten und die Ergebnisse keinen Einsatz in der Versorgung belegen.
- Principles for evaluating misuse safeguards of frontier AI systems
Nur der Abstract liegt vor: Die Verfasser schlagen fünf Prinzipien und eine Vorlage zur strengeren Bewertung von Missbrauchsschutz für Frontier-KI vor, doch Details und Wirksamkeitsbelege fehlen.
- The Rogue Replication Threat Model
METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.
- Superhuman Automated Forecasting
Die Autoren berichten, dass ihr GPT‑4o-Prognosebot in einem begrenzten Test etwa die Trefferleistung einer Metaculus-Prognosegruppe erreichte, nennen aber erhebliche Grenzen und Risiken.
- Promoting AI Innovation Through Competition
Der vorliegende Auszug argumentiert, die USA sollten früh Wettbewerb bei Rechenleistung, KI-Entwicklung und Vertrieb fördern, um die Marktmacht etablierter Firmen und mögliche Innovationsverluste zu begrenzen.
- What explainable AI is, why it matters and how we can achieve it
Der Bericht fordert, Erklärbarkeit trotz technischer und praktischer Grenzen als Grundprinzip für vertrauenswürdige KI zu verankern.
- AI Continent Action Plan | Shaping Europe’s digital future
Der EU-Plan bündelt Vorhaben zu Infrastruktur, Daten, Kompetenzen, KI-Einsatz und Regeln, doch der Bericht nennt Ziele und Pläne statt nachgewiesener Ergebnisse.
- Issue Brief: Early Best Practices for Frontier AI Safety Evaluations
- Co-Scientist: A multi-agent AI partner to accelerate research
Laut DeepMind unterstützt Co-Scientist Forschende bei Hypothesen und zeigte in ausgewählten Laborprojekten Nutzen, bleibt aber ein Hilfsmittel unter fachlicher Verantwortung.
- Issue Brief: Foundational Security Practices
- Funding the AI Cloud — Amazon, Alphabet, and Microsoft's Cloud Computing Investments, Part 3
CSET zufolge nutzen Alphabet, Amazon und Microsoft Investitionen und Start-up-Förderung als mögliche Wege, ihren Einfluss auf KI-Unternehmen und Cloud-Märkte auszubauen; die Auswertung beruht auf PitchBook-Daten und weist Lücken bei Datumsangaben auf.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →