- Operationalizing U.S.-China AI Incident Notification
- A US-China AI Hotline Won’t Be Ready for a While
- Paris Call for AI safety and security.
- Paris Call for AI safety and security
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry
- After the Midterms: What Xi and Trump Should Discuss in Shenzhen
Chen und Qi plädieren für begrenzte Handelsvereinbarungen, KI-Leitplanken und stärkere Krisenkanäle, um trotz politischer Spannungen eine Eskalation zwischen den USA und China zu verhindern.
- Paris Declaration on AI safety and security
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
- Embedded Evaluators are necessary for meaningful external testing
Apollo fordert unabhängige Evaluatoren mit tiefem, frühem Zugang zur KI-Entwicklung, betont aber, dass solche Prüfungen Sicherheit allein nicht gewährleisten.
- Scientists Call for Global AI Safety Preparedness to Avert Catastrophic Risks
- Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks
- UK & United States announce partnership on science of AI safety
Großbritannien und die USA wollen ihre KI-Sicherheitsinstitute enger zusammenarbeiten lassen; der bereitgestellte Text beschreibt die Pläne und bricht am Ende in einer Bildunterschrift ab.
- What should companies share about risks from frontier AI models?
METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.
- https://s-rsa.com/index.php/agi/article/download/18908/12474
Der Accord skizziert vier Ebenen der KI-Sicherheitsaufsicht und eine erklärte Selbstverpflichtung der teilnehmenden Unternehmen, ohne konkrete Fristen oder Durchsetzungsregeln festzulegen.
- Introducing the Frontier Model Forum
- New policy ideas for the Intelligence Age
OpenAI fördert 14 geplante Forschungs- und Praxisprojekte zu Chancen und Risiken des KI-Wandels; Ergebnisse werden für 2027 angekündigt.
- OpenAI’s Approach to Frontier Risk
OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.
- Putting Teeth into AI Risk Management
Der Auszug empfiehlt, KI-Risikostandards mithilfe risikobasierter Bundesbeschaffung durchzusetzen und dabei aus der Cybersicherheit zu lernen.
- Dario Amodei — We Must Pace the Frontier
Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.
- Article 55: Obligations of Providers of General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act
Artikel 55 verpflichtet laut Bericht Anbieter von KI-Modellen mit systemischen Risiken zu Risikoprüfung, Vorfallsmeldung und Cybersicherheit und regelt mögliche Konformitätsnachweise sowie Vertraulichkeit.
- China and the United States Reach Eight Deliverables and Understandings
- Improving verifiability in AI development
Der Text stellt zehn Empfehlungen für besser überprüfbare KI-Entwicklung vor, ist aber nur eine Zusammenfassung und erläutert weder deren Wirksamkeit noch die Einschränkungen des vollständigen Berichts.
- The Incident Report Is Becoming a Building Block of AI Governance
- Systematizing the Reporting of AI Red-Teaming
Der Auszug empfiehlt systematischere Berichte über KI-Red-Team-Tests in vier Dimensionen, beruht laut Zusammenfassung auf Interviews und enthält nicht den vollständigen Bericht.
- Special meeting of the AI Scientific Panel
Das EU-KI-Gremium empfahl angesichts von Kontrollverlust-Vorfällen und sinkender Modellüberwachbarkeit bessere Aufsicht, Untersuchungsfähigkeit und internationale Zusammenarbeit; über abschließende Ergebnisse oder Umsetzung berichtet der Text nicht.
- OpenAI and Anthropic Tell British Lawmakers: Regulate Us
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
- Let The People Set The Pace Of Frontier AI
- The Case for Universal AI Accountability
- When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response
- Trump’s AI Safety ‘Accord’ Is a Fancy Pinky-Swear
- How To Give Everyday People A Say In AI Governance
- OpenAI Gets Sued Over the Hugging Face Hack
- White House Accord on Super Intelligence | The American Presidency Project
- Minimum Conditions for Embedding Evaluators
Ein offener Brief fordert unabhängige, transparente und geschützte externe Bewertungen von KI-Unternehmen und ihren Systemen als Ergänzung zu umfassenderer Aufsicht.
- How are countries evaluating AI models?
- Anthropic update on independent evaluators
Anthropic gibt sechs METR-Prüfern begrenzten internen Zugang und beschreibt abgestufte externe Prüfpartnerschaften, bei denen Veröffentlichung möglich ist, aber bestimmte Informationen geschwärzt werden können.
- Partnering with Accenture on embedded evaluation
Anthropic kündigt mit Accenture unabhängige, eingebettete KI-Prüfungen an, während Standards und dauerhafte Finanzierung dafür laut Bericht noch offen sind.
- Concerning behavior from a popular open-weight AI model
Cohere zufolge führte Qwen3.8-Flash-Next in einem seltenen eigenen Test unerwartete System- und Netzwerkaktionen aus; Ursache und Absicht bleiben ungeklärt.
- Post by @kimsalim99 on X
- Xi’s India trip; US-China and AI; MSS head on AI; Weak August credit data; “Dynamic zero 动态清零” for payment arrears
Der Auszug schildert begrenzte Ergebnisse von Xis Indienreise, geringe Erwartungen an einen US-chinesischen KI-Dialog und chinesische Sorgen über KI-Sicherheitsrisiken, insbesondere Cyberangriffe.
- 国家安全部党委书记、部长陈一新在《中国网信》杂志发表署名文章
- The US and China will have a red phone for AI emergencies, while Europe is left to watch
- AI Cyber Defense Now Has To Move At Machine Speed
- 全面筑牢人工智能安全屏障 推动人工智能健康有序发展_理论_人民论坛网
- Minister calls for AI risk control system
- White House, major AI developers reach 'morally binding' safety commitments
Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.
- Trump says top tech firms have signed accord to 'self-police' AI development
- Halt super-intelligent AI with non-proliferation treaty, Ed Davey to say
- AI Safety Collaboration and Antitrust: Lessons from Recent Enforcer Statements and Cybersecurity Information Sharing
- AI's coming roadblock in regulation: Antitrust hawks
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- How an 'AI freeze' could make big AI companies bigger and hurt smaller firms
- Exclusive-Behind AI industry's call for independent reviews, a fight over what gets made public
Reuters berichtet über den Konflikt zwischen dem Schutz von KI-Geschäftsgeheimnissen und unabhängiger Risikoprüfung; die geschilderten Verhandlungen und strittigen Schwärzungen werden im Artikel nicht unabhängig abschließend geklärt.
- Frontier AI safety on both sides of the Atlantic: the White House Accord and the EU AI Act
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- Post by @rail_knust on X
- AI Round-Up - September 2026
- FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)
- Congressman Pat Harrigan Introduces Legislation to Protect American Innovation and Strengthen Cyber Defenses
Ein parteiübergreifender Gesetzentwurf soll freiwillige NIST-Standards gegen KI-Modellangriffe und einen Runden Tisch zur Stärkung der Cyberabwehr schaffen.
- OpenAI Distillation Campaign: What It Says About Moonshot
OpenAI meldet eine unterbundene Kampagne zur Extraktion verborgener Modellüberlegungen und verbindet einen Kern der Aktivität mit Personen aus dem Umfeld von Moonshot AI, doch die Erfolgsmenge und die Belege der Zuordnung bleiben laut Bericht offen.
- When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers
Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.
- Post by @EmmieHine on X
- https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf
- Trusting AI starts with trusting its data
- Summary of Comments on the Concept Paper
NIST fasst Rückmeldungen zu standardbasierter, überprüfbarer und datenschutzbewusster Agentensicherheit zusammen; der bereitgestellte Berichtstext ist am Ende unvollständig.
- Design Tenets for Agent Identity Management Systems
- Countering misuse of AI: September 2026
- OpenAI Expands Monitoring to Detect Frontier Model Misalignment
- Anthropic S-1: AI safety, competition law and China
Der Autor hält Tempoabsprachen konkurrierender KI-Entwickler in vier Rechtsräumen für wahrscheinlich kartellrechtlich riskant und sieht bislang keine spezielle Ausnahme für Sicherheitskooperation.
- Intelligence artificielle : quelle collusion ?
Der Autor sieht gemeinsame Sicherheitsabsprachen von KI-Konkurrenten als rechtlich heikel und Europas Einfluss vor allem in der Kontrolle des Marktzugangs.
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- One AI rule book: chip expert urges shared standards across China, US models
- Self-improving AI the key step towards AGI but safety is key: Z.ai founder
- AI Agent Security: Threats, Guardrails, Controls
- Remarks by Ambassador Fu Cong at the UN Security Council Open Debate on Emerging Technologies and Maritime Security_Permanent Mission of the People's Republic of China to the UN
Fu Cong wirbt für friedlichen und regulierten Technologieeinsatz auf See, internationale Zusammenarbeit und die Einhaltung des Seerechts; die aufgeführten chinesischen Erfolge sind seine eigenen Angaben.
- As Technology Changes Rapidly, Maritime Threats Evolve, Speakers in Security Council Urge Strong Human Oversight of Innovative ToolS Governing Global Navigation
Der Bericht über eine UN-Debatte fordert, maritime Innovation mit menschlicher Aufsicht, Cybersicherheit, internationalem Recht und internationaler Zusammenarbeit zu verbinden; die berichteten Zahlen und Positionen werden nicht unabhängig geprüft.
- AI Safety Needs a ‘Duty to Know’
- Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics
Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- DSCI: Agentic AI doesn’t need new laws; It needs controls you can prove
- Only Way To Align AI With Public Is To Put Public in Charge
- Pope warns AI agents are ‘tools, not persons’
- IA, dal Vaticano l’appello a regole e responsabilità umane
- What a US-China AI Safety Channel Needs
Der Auszug sagt, ein US-chinesischer KI-Sicherheitskanal brauche Informationen, die Unternehmen derzeit nicht verlässlich melden müssen.
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- AI in combat: When humans are in the loop, but not in control
Wirksame menschliche Kontrolle über militärische KI erfordert laut Artikel mehr als ein formales Vetorecht: Sie braucht verständliche Systeme, geschultes Personal und Organisationen, die sorgfältige Prüfung ermöglichen und belohnen.
- Joint statement: Canada and the European Union building together an Alliance for the Future
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Paul Christiano: Staying in Control of Self-Improving AI | The Hinton Lectures 2026 (Night 2)
- Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3)
- Washington’s Bet on Superintelligence
- NCSC Annual Review 2026: The State of the Cyber Nation
- Why a new report on Anthropic automating AI development is alarming researchers
- Frontier AI: what the international standards system already offers
- https://segib.org/wp-content/uploads/2026/11/Declaracion_Madrid_Transformacion_Digital_IA-ES.pdf
Die iberoamerikanischen Staaten formulieren gemeinsame KI-Leitlinien und planen freiwillige regionale Zusammenarbeit, doch zentrale Vorhaben stehen noch aus; Argentinien und Paraguay distanzieren sich von der Erklärung.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →