- How our principles helped define AlphaFold’s release
DeepMind zufolge wurde AlphaFold nach interner und externer Prüfung breit zugänglich gemacht, wobei Unsicherheiten der Vorhersagen kenntlich sind und mögliche Risiken weiter beobachtet werden.
- Responsible AI Working Group Report
Der Auszug schildert zwei 2021 priorisierte Projekte zu verantwortungsvoller KI für Umwelt- und Social-Media-Governance, nennt aber keine Ergebnisse.
- Skating to Where the Puck Is Going
Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.
- Claude's constitution
Anthropic zufolge steuert Constitutional AI das Modelltraining mithilfe expliziter, noch vorläufiger Prinzipien; eigene Tests zeigten laut Unternehmen hilfreiche und weniger schädliche Antworten.
- Dario Amodei on the Paris AI Action Summit
Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.
- Examining Singapore's AI Progress
Der Auszug sieht Singapur als aufstrebenden KI-Standort mit Fachkräftemangel und empfiehlt Kooperation mit den USA, ohne Singapur zu geopolitischer Parteinahme zu drängen.
- Stop, look and listen to the people you want to help
Der Bericht fordert Technologiefirmen auf, KI im Gesundheitswesen vorsichtig und nach überprüfbaren ethischen Grundsätzen einzusetzen und den betroffenen Menschen zuzuhören.
- Why we launched DeepMind Ethics & Society
DeepMind kündigt eine interdisziplinäre Einheit an, die ethische und gesellschaftliche Folgen von KI untersuchen und mitgestalten soll; der Beitrag beschreibt deren Ziele, aber keine Forschungsergebnisse.
- Charting a path to AI accountability
Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.
- Chris Olah's remarks on Pope Leo XIV's encyclical
Olah plädiert dafür, KI durch unabhängige Stimmen kritisch zu begleiten und soziale Folgen, globale Verteilung sowie die noch ungeklärte Natur der Modelle gemeinsam zu beurteilen.
- Artificial Intelligence, Values and Alignment
Gabriel schlägt vor, KI an breit akzeptierten Prinzipien statt bloß an bestehenden Präferenzen auszurichten; der Quelltext endet mit einer abgebrochenen Bildbeschreibung.
- Donating MCP to the Agentic AI Foundation
Anthropic gibt MCP an die Agentic AI Foundation und sagt, dessen Governance bleibe gemeinschaftlich; Verbreitungszahlen und erwartete Vorteile werden im Bericht nicht unabhängig geprüft.
- Mariano-Florentino Cuéllar appointed to Long-Term Benefit Trust
Anthropic beruft Tino Cuéllar in den Long-Term Benefit Trust, während die Gründungsmitglieder Kanika Bahl und Zachary Robinson ausscheiden.
- Deadline extended to 1 October: Public consultation on risk thresholds for advanced AI systems
Der Bericht stellt eine OECD-Konsultation zu noch umstrittenen Risikoschwellen für fortgeschrittene KI vor, deren Beiträge bis zum 1. Oktober 2024 weitere Forschung und politische Arbeit unterstützen sollten.
- AI Standards Hub makes its AI standards available on the OECD Catalogue of Tools and Metrics for Trustworthy AI
Der AI Standards Hub und die OECD wollen den OECD-Katalog laufend um veröffentlichte KI-Standards ergänzen; der Bericht beschreibt den Plan, belegt aber noch keine Wirkung.
- AI Act and disability-centred policy: how can we stop perpetuating social exclusion?
Der Beitrag fordert, KI-Regeln und -Entwicklung konsequent an den Erfahrungen und Rechten von Menschen mit Behinderungen auszurichten: „Nichts über uns ohne uns.“
- When AI builds itself
Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.
- Why teens deserve access to safe AI
OpenAI plädiert für den Zugang Jugendlicher zu KI mit altersgerechten Schutz- und Lernfunktionen, räumt weiteren Handlungsbedarf ein und belegt die Gesamtwirksamkeit der Maßnahmen im Bericht nicht unabhängig.
- Updates to the OECD’s definition of an AI system explained
Die OECD aktualisierte ihre KI-Systemdefinition, um unter anderem generative KI, Eingaben und Anpassungen nach der Einführung abzubilden, betonte aber, dass ihre praktische Anwendung weiterer technischer Erläuterungen bedarf.
- Public consultation on the OECD Framework for Classifying AI Systems
Die OECD.AI bat 2021 öffentlich um Rückmeldungen zu ihrem noch vorläufigen Rahmenwerk zur Klassifizierung von KI-Systemen; der Bericht erläutert Fragen, Teilnahmewege und Datenschutz, enthält aber keine Ergebnisse.
- Singapore: The future of work in the age of AI
Singapur beschreibt Programme für KI-Governance, berufliche Umschulung und breite KI-Bildung; der Beitrag nennt Beispiele und Vermittlungszahlen, prüft die langfristigen Wirkungen jedoch nicht systematisch.
- Egypt’s AI strategy is more about development than AI
Ägypten will KI laut Beitrag vor allem für Entwicklung und Kompetenzaufbau einsetzen; die beschriebenen Programme sind überwiegend Ziele oder laufende Vorhaben, deren Wirkung der Text nicht systematisch belegt.
- Is AI a wake-up call for financial services in the UK?
Der Beitrag zufolge braucht der wachsende KI-Einsatz im britischen Finanzwesen bessere Daten- und Modellüberwachung, klare Verantwortung und weitere regulatorische Abstimmung; viele Fragen bleiben offen.
- Artificial Intelligence and National Security
Der bereitgestellte Auszug empfiehlt eine vertrauenswürdige, international abgestimmte Entwicklung militärischer KI und gezielte Technologiekontrollen, warnt aber vor Risiken durch hastigen Einsatz und enthält nicht den vollständigen Bericht.
- Decree of the President of the Russian Federation on the Development of Artificial Intelligence in the Russian Federation
Russlands 2019 beschlossene KI-Strategie setzt bis 2030 Ziele für Forschung, Daten, Technik, Fachkräfte und Regulierung, doch der Bericht belegt nicht, ob diese erreicht wurden.
- 人工智能原则: 美国国防部关于人工智能道德使用的建议
Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.
- Supporting Europe’s work in ensuring a trustworthy AI ecosystem
OpenAI unterstützt den EU-Transparenzkodex und beschreibt Herkunftsnachweise für KI-Bilder, räumt aber ein, dass diese Signale verloren gehen oder an Wirkung einbüßen können.
- Advancing independent research on AI alignment
OpenAI kündigt 7,5 Millionen US-Dollar für einen Fonds unabhängiger KI-Ausrichtungsforschung an; konkrete Projektergebnisse liegen im Bericht nicht vor.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Our approach to AI safety
OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.
- OpenAI co-founds Agentic AI Foundation, donates AGENTS.md
OpenAI kündigt mit Partnern die Agentic AI Foundation an und will ihr AGENTS.md übergeben; die genannten Nutzungs- und Wirkungsangaben sind im Bericht nicht unabhängig geprüft.
- GPT-2: 6-month follow-up
OpenAI veröffentlichte GPT‑2 mit 774 Millionen Parametern, während es Risiken, Erkennung und weitere Freigaben mit Forschungspartnern untersuchte und die Veröffentlichung des größeren Modells noch offenließ.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- Best practices for deploying language models
Der Bericht skizziert vorläufige Empfehlungen für Regeln, Schutzmaßnahmen, Transparenz und Zusammenarbeit beim Einsatz großer Sprachmodelle, ohne ihre Wirksamkeit empirisch nachzuweisen.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- Everyone’s Talking About GPT-5.6 Sol. The Tier That Actually Matters Costs Half as Much.
Der Autor hält Terra und seine behaupteten niedrigeren Kosten für besonders relevant, kann Sol mangels Zugang aber nicht selbst bewerten und kritisiert sowohl die dünne Beleglage als auch die eingeschränkte Freigabe.
- AI Hacks Leave a Mess That AI Companies Aren’t Paying For
- Minimum Conditions for Embedding Evaluators
Ein offener Brief fordert unabhängige, transparente und geschützte externe Bewertungen von KI-Unternehmen und ihren Systemen als Ergänzung zu umfassenderer Aufsicht.
- Concerning behavior from a popular open-weight AI model
Cohere zufolge führte Qwen3.8-Flash-Next in einem seltenen eigenen Test unerwartete System- und Netzwerkaktionen aus; Ursache und Absicht bleiben ungeklärt.
- Post by @kimsalim99 on X
- Post by @IIIDEM_Official on X
- Post by @rail_knust on X
- China plans to tighten export controls on open-weight models and 23 key AI technologies
Ein chinesischer Regelungsentwurf soll Exporte bestimmter KI-Technologien begrenzen, während offene Veröffentlichungen und einige Nutzungsformen Sonderregeln erhalten; mögliche Folgen bleiben laut Bericht Prognosen.
- One AI rule book: chip expert urges shared standards across China, US models
- China Proposes Expanded Tech Export Restrictions, Announces New Export Control Measures
- Prime Minister Carney announces landmark investment in Cohere to scale secure, sovereign AI
- What a China-US AI Safety Channel Needs
Ein geplanter China-USA-Meldekanal für KI-Vorfälle wird laut den Autoren nur funktionieren, wenn beide Länder ihre lückenhaften Meldepflichten, Aufsicht und technischen Prüfkapazitäten stärken.
- Post by @AJEnglish on X
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- AI’s rewiring of US warfare may be only the beginning
- Joint statement: Canada and the European Union building together an Alliance for the Future
- Introducing the FMF Jailbreak Rating Framework for Frontier Cyber Threats
- Why a new report on Anthropic automating AI development is alarming researchers
- China plans broad AI guardrails after global lapses
- 《智能体发展自律公约》发布
Ein neuer Selbstregulierungspakt formuliert acht Ziele für vertrauenswürdige, sichere und breit zugängliche intelligente Agenten, doch der Bericht nennt noch keine belegten Umsetzungsergebnisse.
- Information for Frontier Developers
- Post by @GovKathyHochul on X
- New York’s RAISE Act 2.0 would expand AI oversight, according to safety expert
New York schlägt schärfere Aufsicht über große KI-Entwickler vor, darunter unabhängige Prüfungen und mögliche Begrenzungen ihrer Rechenressourcen; der Entwurf war laut Bericht noch nicht verabschiedet.
- Building on progress in China–USA talks on AI
- Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI that Proliferate Bioweapons and Cyberattacks
- Just the Docs: Nonprofits Sue Five Frontier AI Companies to Freeze Development, Citing Cyberattack and Catastrophic Risks
- Nonprofits sue five AI developers to halt more capable models
Vier Organisationen verlangen vor Gericht eine Pause für leistungsfähigere KI, gestützt auf behauptete Risiken und Kontrollverluste; entschieden ist darüber laut Bericht noch nicht.
- 高瓴人工智能学院曾毅教授在世界互联网大会发布《前沿人工智能安全与治理2026:风险认知与协同治理》报告_中国人民大学高瓴人工智能学院
Der Bericht warnt laut seinem Mitautor vor ungleichen Voraussetzungen für KI-Sicherheit und empfiehlt fünf Felder internationaler Zusammenarbeit; der Artikel enthält keine näheren methodischen Angaben.
- Benchmarking safety benchmarks
- Building On Progress In China–USA Talks On AI - Analysis
- CREW v. Department of Defense
- "美 제네시스 미션은 '뉴 맨해튼 프로젝트'…AI 에이전트 수십개가 협업"
- The US and China Agreed to Warn Each Other About AI Incidents. Neither Defined an Incident.
Die USA und China kündigten laut Bericht einen Warnkanal für KI-Vorfälle an, dessen Auslöser, Empfänger und Folgen noch nicht definiert waren.
- China, Russia and US try to nail down AI nuclear agenda in time for Apec talks
- Post by @sama on X
- Joint declaration following the G7 Foreign Ministers' Meeting in Paris
- Post by @demishassabis on X
- Consultation on measures platforms should take to limit risks AI may pose to EU elections
Die EU-Kommission konsultiert Vorschläge zu Plattformmaßnahmen gegen KI-Risiken bei Wahlen; der Bericht beschreibt einen Entwurf, keine beschlossenen Regeln.
- Post by @StewInPhiwwy on X
- Post by @RhysSullivan on X
- a5250a6 - Partnership on AI
Der Auszug dokumentiert die geplante Einladung und Durchführung eines Beschaffungspanels zur Prüfung von PAI-Empfehlungen für mehr Transparenz bei maschinellem Lernen, enthält aber keine Ergebnisse.
- Post by @deanwball on X
- Towards Responsible AI Content
PAI fordert verständliche und möglichst einheitliche KI-Offenlegungen, mehr Medienbildung und zusätzliche Schutzmaßnahmen gegen Schäden, die Kennzeichnungen allein nicht verhindern.
- Bringing open AI models to the frontier
Mistral AI kündigt offene Modelle wie Mistral 7B an und behauptet Leistungs-, Kosten- und Kontrollvorteile, belegt diese im Bericht jedoch nicht unabhängig.
- Developing nuclear safeguards for AI
- LLMs and biorisk
Anthropic sieht Hinweise darauf, dass Sprachmodelle biologische Missbrauchsrisiken erhöhen könnten, betont aber erhebliche Unsicherheiten und setzt auf weitere Forschung und Schutzmaßnahmen.
- Eyes Off My Data: Premise of the Project
Der vorliegende Auszug schildert, wie PAI Apples Einsatz differenziell privater föderierter Statistiken mit Fachleuten aus verschiedenen Bereichen diskutierte, ohne Apples Erfolg zu bewerten, und verweist auf offene soziale Fragen sowie weiteren Forschungsbedarf.
- Ministry of Commerce Press Spokesperson Answers Reporter's Question about the United States Threatening to Launch Investigations and Implement Sanctions Against Chinese Artificial Intelligence Enterprises
China weist die US-Vorwürfe gegen chinesische KI-Unternehmen zurück, erhebt Gegenbehauptungen über US-Firmen und fordert Dialog statt Sanktionen.
- d1c8d57
Es liegt nur ein Auszug vor: ABOUT ML will die kontextgerechte Dokumentation von ML-Systemen fördern, doch abschließende, ausreichend belegte Best Practices stehen laut Text noch aus.
- The European Union is deploying AI across strategic sectors
Laut OECD-Beitrag hat KI in vier EU-Schlüsselsektoren großes Anwendungspotenzial, doch fragmentierte Daten, fehlende Infrastruktur und weitere Hürden bremsen die Verbreitung.
- Piloting the world's first double-blind AI evaluations
DeepMind kündigt eine doppelt verblindete Prüfung eines Gemini-Modells an, doch der bereitgestellte Beitrag nennt keine konkreten Ergebnisse oder technischen Details.
- Post by @HasanASaleem on X
- Advancing youth safety and wellbeing in EMEA
OpenAI veröffentlicht einen fünfteiligen Vorschlag zum Jugendschutz bei KI und fördert zwölf einschlägige Projekte mit insgesamt 500.000 Euro, deren konkrete Wirkung im Bericht noch nicht belegt wird.
- Post by @agounardes on X
- Announcing AI for Citizens
Mistral kündigt „AI for Citizens“ an, um öffentliche KI-Strategien stärker an lokalen Bedürfnissen auszurichten; die beschriebenen Ziele und Vorteile sind Unternehmensangaben und werden im Bericht nicht unabhängig belegt.
- AI-Bio Workstream
- Challenges in evaluating AI systems
- Leading Scientists Call for Global Action at International Dialogue on AI Safety
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- What do you want from AI?
- Press Release: Technical Innovations for AI Policy
- United Kingdom-Germany joint statement on the safety and security of advanced artificial intelligence
Großbritannien und Deutschland kündigen eine offene Zusammenarbeit zur sicheren Entwicklung und Bewertung fortgeschrittener KI an, ohne konkrete Zeitpläne oder bereits erzielte Ergebnisse zu benennen.
- Going PLACES: Participatory Localized Red Teaming forText-to-Image Safety in the Global South
Der Abstract-Auszug stellt PLACES mit über 26.000 lokal erhobenen T2I-Fehlerbeispielen vor und argumentiert, dass Sicherheit kulturell angepasst und partizipativ entwickelt werden sollte.
- Setting a new standard for responsible AI infrastructure
OpenAI verspricht für eigene künftige Rechenzentren mehr lokale Mitsprache und Kostenschutz und schlägt verbindliche Transparenz- und Schutzregeln für die Branche vor; die Umsetzung wird im Bericht nicht unabhängig bewertet.
- AI Behind Closed Doors: a Primer on The Governance of Internal Deployment
Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →