- How are countries evaluating AI models?
- White House, major AI developers reach 'morally binding' safety commitments
Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.
- Trump says top tech firms have signed accord to 'self-police' AI development
- Frontier AI safety on both sides of the Atlantic: the White House Accord and the EU AI Act
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- China’s AI Export Draft Puts Its Paperwork on Deals
- Delaware DOJ launches probe of OpenAI following Hugging Face hack
Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.
- Joint declaration on Paris call for AI safety and security
- Paris Call for AI safety and security.
- Information for Frontier Developers
- Paris Call for AI safety and security
- New York’s RAISE Act 2.0 would expand AI oversight, according to safety expert
New York schlägt schärfere Aufsicht über große KI-Entwickler vor, darunter unabhängige Prüfungen und mögliche Begrenzungen ihrer Rechenressourcen; der Entwurf war laut Bericht noch nicht verabschiedet.
- Paris Declaration on AI safety and security
- Anthropic says AI speeding up its own research has crossed its safety threshold
Anthropic meldet laut Bericht eine erwartungsbasierte Überschreitung seiner KI-Forschungsschwelle, doch Belege, Schutzmaßnahmen und Folgen bleiben teilweise offen.
- Apollo Research is becoming a PBC
Apollo kündigt den Wechsel zur PBC an und plant mehr Forschung, Agentensicherheitsprodukte und missionsgebundene Aufsicht; die Zukunft der gemeinnützigen Einheit bleibt offen.
- Anthropic, PBC - S-1 (Q2)
- Anthropic, PBC
- Anthropic, PBC
- Reflections on our Responsible Scaling Policy
Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- Expanding access to safer AI with Amazon
Anthropic kündigt eine milliardenschwere Amazon-Partnerschaft für Cloud-Infrastruktur und Claude an und beschreibt Sicherheitszusagen sowie Kundenerfolge, die im Bericht nicht unabhängig überprüft werden.
- Anthropic is endorsing SB 53
Anthropic unterstützt SB 53 als Transparenz- und Sicherheitsrahmen für große KI-Entwickler, sieht aber Nachbesserungsbedarf bei der Erfassung von Modellen, den Offenlegungspflichten und der Anpassung der Regeln.
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Dario Amodei — We Must Pace the Frontier
Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.
- 生成式人工智能服务管理暂行办法_中央网络安全和信息化委员会办公室
- 关键信息基础设施安全保护条例_信息产业(含电信)_中国政府网
- 生成式人工智能服务管理暂行办法_国务院部门文件_中国政府网
- https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-22-Driving-Efficient-Acquisition-of-Artificial-Intelligence-in-Government.pdf
- READ IN FULL: White House Accord on Super Intelligence
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.
OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.
- The Incident Report Is Becoming a Building Block of AI Governance
- Safety Cases: A Scalable Approach to Frontier AI Safety
Der arXiv-Auszug stellt Safety Cases als möglichen Beitrag zur Sicherheit fortgeschrittener KI vor, belegt ihre Wirkung aber nicht konkret.
- Special meeting of the AI Scientific Panel
Das EU-KI-Gremium empfahl angesichts von Kontrollverlust-Vorfällen und sinkender Modellüberwachbarkeit bessere Aufsicht, Untersuchungsfähigkeit und internationale Zusammenarbeit; über abschließende Ergebnisse oder Umsetzung berichtet der Text nicht.
- OpenAI and Anthropic Tell British Lawmakers: Regulate Us
- Let The People Set The Pace Of Frontier AI
- The Case for Universal AI Accountability
- Trump’s AI Safety ‘Accord’ Is a Fancy Pinky-Swear
- ‘Bumper sticker bill’: AI kill switch rides the midterm elections wave
- Why Anthropic’s draft bill sets $1 billion threshold for AI risk
- White House Accord on Super Intelligence | The American Presidency Project
- Partnering with Accenture on embedded evaluation
Anthropic kündigt mit Accenture unabhängige, eingebettete KI-Prüfungen an, während Standards und dauerhafte Finanzierung dafür laut Bericht noch offen sind.
- Concerning behavior from a popular open-weight AI model
Cohere zufolge führte Qwen3.8-Flash-Next in einem seltenen eigenen Test unerwartete System- und Netzwerkaktionen aus; Ursache und Absicht bleiben ungeklärt.
- AI Cyber Defense Now Has To Move At Machine Speed
- Artificial Intelligence Safety Collaboration and Antitrust Law
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- States Can Facilitate an AI Slowdown Without the Federal Government
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- Exclusive-Behind AI industry's call for independent reviews, a fight over what gets made public
Reuters berichtet über den Konflikt zwischen dem Schutz von KI-Geschäftsgeheimnissen und unabhängiger Risikoprüfung; die geschilderten Verhandlungen und strittigen Schwärzungen werden im Artikel nicht unabhängig abschließend geklärt.
- AI Round-Up - September 2026
- FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)
- https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf
- Trusting AI starts with trusting its data
- Summary of Comments on the Concept Paper
NIST fasst Rückmeldungen zu standardbasierter, überprüfbarer und datenschutzbewusster Agentensicherheit zusammen; der bereitgestellte Berichtstext ist am Ende unvollständig.
- Design Tenets for Agent Identity Management Systems
- OpenAI Expands Monitoring to Detect Frontier Model Misalignment
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- No AI Exemption: What the FTC’s Investigation of Leading AI Developers Means for Your Business
Der Beitrag warnt, dass KI bestehende Rechtspflichten nicht aufhebt, und empfiehlt Unternehmen belegbare Aussagen, sorgfältige Anbieterprüfung und dokumentierte KI-Governance.
- Model Cards as Security Route-Admission Inputs
- Federal AI Procurement in 2026: What Contractors Need to Know to Win
Der iQuasar-Beitrag empfiehlt, Angebote für die zentralisierte US-Bundesbeschaffung von KI mit passenden Vertragswegen, nachvollziehbarer Compliance und belegbarer Leistung auszurichten, ohne seine Empfehlungen durch eigene empirische Ergebnisse zu belegen.
- China Proposes Expanded Tech Export Restrictions, Announces New Export Control Measures
- When AI Fails: Building Fault-Tolerant AI Systems
- Prime Minister Carney announces landmark investment in Cohere to scale secure, sovereign AI
- Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics
Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- Data Security Council unveils India-specific agentic AI liability guide
- DSCI: Agentic AI doesn’t need new laws; It needs controls you can prove
- Pope warns AI agents are ‘tools, not persons’
- IA, dal Vaticano l’appello a regole e responsabilità umane
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- Liability Could Rein In Rogue AI Agents. Current Law Falls Short.
- ETSI unveils new standard to reduce production of harmful deepfakes
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Paul Christiano: Staying in Control of Self-Improving AI | The Hinton Lectures 2026 (Night 2)
- Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3)
- Washington’s Bet on Superintelligence
- Against SURA
- Frontier AI: what the international standards system already offers
- How Can We Price AI's Risks?
- India's AI security framework: Will OpenAI, Anthropic have to comply?
- China plans broad AI guardrails after global lapses
- Where the Weight Lies: A Balancing Act for the Governance of Open-Weight AI Models
- Paris Call for AI Safety: CeSIA signs, urges safeguards
CeSIA unterzeichnete den Pariser KI-Sicherheitsaufruf und fordert verbindliche Risikoschwellen, unabhängige Prüfungen mit Modellzugang sowie staatliche Aussetzungsbefugnisse.
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- Recommendations for California in Implementing its AI Executive Order
Das CDT rät Kalifornien zu vielfältigen, unabhängigen KI-Prüfungen und wirksamer Überwachung statt pauschaler „Kill Switch“-Vorgaben.
- A Macroprudential Layer for Frontier AI Governance – Simon Institute for Longterm Governance
Der Autor plädiert dafür, die Prüfung einzelner KI-Akteure um eine systemweite Aufsicht zu ergänzen, räumt aber ein, dass deren Zuständigkeiten und Instrumente noch offen sind.
- 国家发改委:AI全生命周期安全标准将建立
China kündigt umfassende KI-Sicherheitsregeln und begleitende Aufsicht sowie soziale Maßnahmen an, doch konkrete Vorschriften und ein Zeitplan stehen laut Bericht noch aus.
- Where Competition Law Stops: Political Power, National Security and AI Safety
- AI Governance in Federal Proposals: What Vendors Need
- Beyond the Test Lab: Embedding Independent Oversight in AI Safety
- Konzept zur Prüfung von Hochleistungs-KI vom TÜV-Verband und TÜV AI.Lab
- AI Arms Control in a Contested World
- Post by @demishassabis on X
- Post by @satyanadella on X
- Towards embedded evaluations for scheming propensities
Apollo Research argumentiert, dass Subversionsrisiken nur mit vier überprüfbaren Sicherheitsbehauptungen und dauerhaftem, tiefem Zugang unabhängiger Prüfer angemessen bewertet werden können.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →