- Jailbreak Rating Framework for Frontier Cyber Threats
- Our Most Aligned Model Yet
- Post by @me_deepu on X
- Frontier AI: what the international standards system already offers
- UN Security Council to focus on AI under Latvia’s first-ever presidency
Lettlands erste UN-Sicherheitsratspräsidentschaft plant im November Beratungen zu KI und mehreren Krisen, während die Botschafterin globale KI-Regeln der UN-Generalversammlung zuordnet.
- Russia and US seek to block plan for binding rules on autonomous weapons
- India's AI security framework: Will OpenAI, Anthropic have to comply?
- Three Phases of Capabilities and Alignment
- 《关于加强智能体终端设备进网管理的通知》政策解读
- Post by @ProfSchrepel on X
- Where the Weight Lies: A Balancing Act for the Governance of Open-Weight AI Models
- Delaware DOJ launches probe of OpenAI following Hugging Face hack
Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.
- Introducing Inkling 2 Small
Der Hersteller stellt Inkling 2 Small vor und berichtet über breite Fähigkeiten und Sicherheitsverbesserungen, während Benchmarks ein gemischtes Bild und der Text verbleibende Grenzen zeigt.
- Being a pain in the ass to (or in) AI companies is a real job now | Rob Wiblin
Die bereitgestellte Episodenseite, kein vollständiges Transkript, gibt Wiblins These wieder, dass interne Kritik und öffentlicher Druck KI-Unternehmen beeinflussen können und Verantwortlichmachen ein unterschätzter Berufsweg sei.
- Information for Frontier Developers
- SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry
- Organisations need to prove that their AI agents can shut down
- Test Whether an AI Agent Stays Stopped
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- Post by @GovKathyHochul on X
- How Often AI Agents Get Pulled Back After Go-Live
Der Bericht zufolge zogen 32 von 40 befragten Teams ihren gestarteten KI-Agenten zurück, doch die kleine, selbstberichtete Befragung belegt keine repräsentative Häufigkeit.
- A Macroprudential Layer for Frontier AI Governance – Simon Institute for Longterm Governance
Der Autor plädiert dafür, die Prüfung einzelner KI-Akteure um eine systemweite Aufsicht zu ergänzen, räumt aber ein, dass deren Zuständigkeiten und Instrumente noch offen sind.
- OpenAI executive urges caution in China-US AI talks, warns of distillation
- Building on progress in China–USA talks on AI
- Progress on provable inference for large language models
- Review of the "Risks from automated R&D" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen unmittelbaren Katastrophenrisikos, hält aber eine bereits erreichte Frühwarnschwelle für plausible und warnt vor weiterer Beschleunigung.
- After the Midterms: What Xi and Trump Should Discuss in Shenzhen
Chen und Qi plädieren für begrenzte Handelsvereinbarungen, KI-Leitplanken und stärkere Krisenkanäle, um trotz politischer Spannungen eine Eskalation zwischen den USA und China zu verhindern.
- 10 Ways AI Labs Can Limit Antitrust Risks of Safety Pacts | Insights
- Remarks by President António Costa at the press conference following the informal meeting of Heads of State or Government of 13 November 2026
- AI Governance in Federal Proposals: What Vendors Need
- Beyond the Test Lab: Embedding Independent Oversight in AI Safety
- Microsoft outage renews European calls to detox from US tech
- EU leaders hold first high-level AI talks in Dublin, agree on European team for Ukraine peace talks
In Dublin diskutierte die EU erstmals ausführlich auf Führungsebene über KI und vereinbarte ein gemeinsames Team für Ukraine-Friedensgespräche, ohne formelle KI-Schlussfolgerungen zu verabschieden.
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- How Close is Recursive Self-Improvement? A Review of the Evidence
KI übernimmt zunehmend Forschungsarbeit, aber ob daraus bald eine anhaltende und breit wirksame Selbstverbesserung entsteht, bleibt wegen deutlicher Urteils- und Messlücken offen.
- GPT-6 Cyber System Card
Der Bericht beschreibt GPT-6 Cyber als leistungsfähigeres Modell für autorisierte Cybersicherheitsarbeit, flankiert von strengen Schutzmaßnahmen, und hebt zugleich verbleibende Schwächen sowie Grenzen der Tests hervor.
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
- Federal AI Testing Unit CAISSI: Staff Asked to Report Informally to White House, AP Says
- Building On Progress In China–USA Talks On AI - Analysis
- Super Intelligence-Era Critical Infrastructure Cyber Defense Plan
Der Bericht schlägt vor, die wichtigsten US-Infrastrukturen mit koordinierter Unternehmensverantwortung, KI-gestützter Abwehr und nachweisbaren Resilienzmaßnahmen zu schützen, ohne die Wirksamkeit des Plans bereits zu belegen.
- How scientists use Claude
- CREW v. Department of Defense
- "美 제네시스 미션은 '뉴 맨해튼 프로젝트'…AI 에이전트 수십개가 협업"
- White House task force urges 12-month liability relief for AI cyber reports
Die KI-Taskforce des Weißen Hauses empfiehlt bedingten Haftungsschutz für freiwillige Cybermeldungen über mindestens zwölf Monate sowie eine langfristige Verlängerung des einschlägigen US-Gesetzes; ob die Vorschläge umgesetzt werden, bleibt offen.
- Trump AI task force targets AI-powered cyberattack reporting
Die US-KI-Taskforce diskutiert Meldepflichten und rechtlichen Schutz bei Angriffen durch KI-Agenten, während der Bericht auf verspätete Offenlegungen und ein bald auslaufendes Gesetz zum Austausch von Bedrohungsinformationen hinweist.
- Mitigating the Risks of AI Integration Into Nuclear Weapons Operations
- China, Russia and US try to nail down AI nuclear agenda in time for Apec talks
- Emerging Technologies, Nuclear-Conventional Entanglement, and Nuclear Risks: P5 and Implications for Nuclear Non-Proliferation
Der vorliegende Auszug gibt Yuans Warnung vor KI-bedingten Eskalationsrisiken und seine Forderung nach gemeinsamen Grenzen für KI in der nuklearen Führung wieder, ist aber nicht der vollständige Bericht.
- Trump, Xi and Putin could discuss AI curbs in nuclear command
Ein mögliches Treffen von Trump, Xi und Putin könnte laut SCMP-Berichten Regeln für KI in der nuklearen Führung erörtern, ist aber samt Tagesordnung noch unbestätigt.
- G7 Foreign Ministers’ Meeting in Paris (Overview of the “Session 2: Artificial Intelligence”)
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- L'IA dans les conflits : l'heure est venue de « désarmer » l'IA - Commissaire aux droits de l'homme
- Joint declaration following the G7 Foreign Ministers' Meeting in Paris
- AI Arms Control in a Contested World
- xAI Watermarks Grok by Default, 23 Days Before EU Deadline
Laut Bericht markieren die drei KI-Anbieter Text nach unterschiedlichen Voreinstellungen, während der Zugang zur Erkennung begrenzt bleibt und ein Wasserzeichen nicht zwingend die Urheberschaft nachweist.
- What Article 50 Actually Requires Before December 2: Text Watermarks, Detection Limits and the Grace Period
Laut Bericht müssen generative KI-Anbieter ihre Inhalte kennzeichnen, doch Wasserzeichen bleiben begrenzt zuverlässig und die Übergangsfrist für ältere Systeme endet am 2. Dezember.
- Post by @rohanpaul_ai on X
- Marking, Provenance, Authenticity: Three Different Things
- AI Transparency Under Article 50: Chatbot Disclosure, Deepfake Labels and Machine-Readable Marking
- EU AI watermark rule vs US law: no federal rule yet
- Deepfakes Are Dominating Global Elections, and Regulation Is Playing Catch-Up
- Commission Guidance on Article 50 Transparency Obligations (EU AI Act)
Der Bericht beschreibt die nicht bindende Kommissionsauslegung der Transparenzpflichten für Anbieter und Betreiber nach Artikel 50 des EU-KI-Gesetzes, einschließlich Kennzeichnung, Offenlegung, Ausnahmen und Fristen.
- IT Rules 2026: AI Content Labels, Deepfakes and Takedowns
- Commentary: EU AI watermarks from Dec 2, 2026
- Post by @ryangrim on X
- AI disclosure label
Der Bericht schildert, wie sichtbare KI-Kennzeichnungen für Werbung zunehmen, aber durch uneinheitliche Regeln, lückenhafte Erkennung und praktische Umsetzungsprobleme begrenzt bleiben.
- Beyond Detection: The Challenge of Governing AI Slop
- Post by @rarestbarbie on X
- AI chatbots are becoming political advisers. Their answers can mislead voters
- EU DSA election guidelines consultation: AI risks
Die EU konsultiert neue DSA-Wahlleitlinien gegen KI- und Manipulationsrisiken; Forschungsbezug, endgültiger Zeitplan und spätere Berichtsform bleiben laut Bericht begrenzt beziehungsweise offen.
- AI Act Omnibus Sets 2 December Deadline For Deepfake Watermarks
Laut Bericht greifen am 2. Dezember 2026 das Nudifier-Verbot und die Wasserzeichenpflicht für bestimmte ältere KI-Systeme, während Hochrisiko-Fristen verschoben wurden und die Unternehmen weiter Dokumentations- und Risikoprüfungen leisten müssen.
- Towards embedded evaluations for scheming propensities
Apollo Research argumentiert, dass Subversionsrisiken nur mit vier überprüfbaren Sicherheitsbehauptungen und dauerhaftem, tiefem Zugang unabhängiger Prüfer angemessen bewertet werden können.
- Cloud and AI Development Act
Der CADA soll laut Bericht Europas Cloud- und KI-Infrastruktur ausbauen und ihre Souveränität stärken; konkrete Umsetzungsergebnisse werden nicht genannt.
- Market Surveillance Authorities under the AI Act
Laut Bericht überwachen nationale Behörden die Einhaltung des KI-Gesetzes und können Verstöße untersuchen und ahnden, während das KI-Büro für KI-Modelle mit allgemeinem Verwendungszweck zuständig ist.
- a5250a6 - Partnership on AI
Der Auszug dokumentiert die geplante Einladung und Durchführung eines Beschaffungspanels zur Prüfung von PAI-Empfehlungen für mehr Transparenz bei maschinellem Lernen, enthält aber keine Ergebnisse.
- AI Act Scientific Panel
Der Bericht stellt Auftrag und Zusammensetzung eines 60-köpfigen EU-Expertengremiums zum AI Act vor, enthält aber kaum Angaben zu den Ergebnissen seiner Arbeit.
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- Post by @deanwball on X
- Decoding AI Governance: A Toolkit for Navigating Evolving Norms, Standards, and Rules
Ein gemeinsamer Beitrag von Partnership on AI und Microsoft schlägt drei noch vorläufige Werkzeuge vor, um KI-Governance besser zu ordnen und abzustimmen, und lädt zur Weiterentwicklung durch Beteiligte ein.
- OpenAI Codex
Der veraltete OpenAI-Beitrag beschreibt Codex als Sprach-zu-Code-Modell für Programmieraufgaben und berichtet über seinen damaligen Beta-Start, ohne unabhängige Leistungsnachweise zu liefern.
- a61b27e
Der vorliegende Auszug empfiehlt zielgruppengerechte und verantwortungsbewusste Dokumentation von ML-Datensätzen, einschließlich ihrer Zwecke, Verarbeitung und menschlichen sowie gesellschaftlichen Auswirkungen.
- Post by @OpenAI on X
- Strengthening the AI Assurance Ecosystem
Der vorliegende Auszug fordert ein breit abgestütztes KI-Assurance-Ökosystem mit klaren Standards, vielfältigen Prüfern und besseren Informationsflüssen, um begründetes Vertrauen zu stärken.
- Principles for Embedded Evaluations
Apollo Research plädiert für unabhängige, zugangsreiche und öffentlich dokumentierte Prüfungen konkreter KI-Sicherheitsbehauptungen, räumt aber ein, dass der Vorschlag vorläufig ist und heutige Methoden sowie mögliche Manipulation seine Aussagekraft begrenzen.
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- Eyes Off My Data: Conclusion
Der vorliegende Schlussabschnitt empfiehlt, datenschutzfreundliche Statistik als begrenzte Unterstützung umfassender Fairnessprüfungen einzusetzen und dabei Zweck, Beteiligung, Schutz und Speicherdauer sorgfältig festzulegen.
- Speeding up planning decisions with AI
Laut Bericht beschleunigte PlanAssist die Prüfung von Bauanträgen im frühen Pilotprojekt, soll nun breiter erprobt werden und lässt die endgültige Entscheidung bei Planungsfachleuten.
- How EXL integrated employee feedback into its AI governance framework
Der Auszug zufolge setzte EXL Beschäftigtenbefragungen für Verbesserungen seiner KI-Governance ein, doch konkrete Ergebnisse und Wirkungen sind hier nicht enthalten, da nur ein Auszug der Fallstudie vorliegt.
- Towards technical best practice for frontier AI development
AISI fordert freiwillig entwickelte und fortlaufend angepasste technische Praktiken, damit Sicherheitsprüfungen und Aufsicht mit den Fähigkeiten fortgeschrittener KI Schritt halten.
- Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen Risikos, warnt aber, dass Tests und Überwachung ein höheres Fehlanpassungsrisiko womöglich nicht zuverlässig erkennen.
- Accelerating engineering for the physical world
OpenAI sieht frühe Chancen, technische Entwicklungsarbeit mit KI zu beschleunigen, betont aber, dass Modelle bei Fertigungsdetails noch unzuverlässig sind und menschliche Prüfung nötig bleibt.
- From Principles to Practices
Der Auszug kündigt PAI’s Fallbeispiele zur Governance synthetischer Medien an, enthält aber weder die versprochenen sieben Praktiken noch die konkreten Analysen.
- Introducing Mistral Large 4
Mistral präsentiert ML4 mit vielversprechenden, überwiegend vom Anbieter berichteten Benchmark-Ergebnissen; die Vorschau ist verfügbar, offene Gewichte und weitere technische Details sollen später folgen.
- Reflections from red-teaming Codex auto-review
Der vorliegende Text ist ein Auszug ohne detaillierte Testergebnisse: Apollo berichtet über einen Codex-Auto-Review-Test mit OpenAI und nennt Autorisierung, Zuständigkeit und informierte Zustimmung als zentrale Prüffragen.
- AI Pact
Der AI Pact soll laut Bericht durch offenen Austausch und freiwillige, nicht rechtsverbindliche Unternehmenszusagen auf die Umsetzung des AI Act vorbereiten.
- Enabling independent research on how people use Claude
- a81c481
Der Auszug stellt PAIs Bericht zu Auswirkungen von Foundation Models vor und skizziert Dokumentationspraktiken, Herausforderungen und Empfehlungen, enthält aber nicht den vollständigen Bericht.
- European AI Office
Das Europäische KI-Büro soll laut Bericht die EU-KI-Regeln umsetzen und durchsetzen sowie vertrauenswürdige KI fördern; konkrete Ergebnisse oder die Wirksamkeit seiner Maßnahmen bewertet der Text nicht.
- Our approach to working with AI companies
METR beschreibt Transparenz- und Unabhängigkeitsmaßnahmen für seine Risikobewertungen, räumt aber ein, dass freiwilliger Unternehmenszugang, mögliche Schwärzungen und ungeprüfte Informationen die öffentliche Evidenz begrenzen.
- MiniMax|Japanese IP, Ready for the Global AI Era
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →