- Anthropic, PBC
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- White House Accord on Super Intelligence | The American Presidency Project
- Developing Gemini 4 Argon responsibly and safely
Google zufolge soll Gemini 4 Argon trotz gestiegener Fähigkeiten durch mehrschichtige Prüfungen, laufende Überwachung und Training gegen Missbrauch, Grenzverletzungen und Prompt Injection abgesichert werden; die Wirksamkeitsangaben beruhen auf Googles eigenen Tests.
- Gemini 4 Carbon: our next frontier model
Google kündigt Gemini 4 Carbon mit starken, vom Unternehmen berichteten Programmier- und Cybersecurity-Ergebnissen an; zunächst soll es ausgewählte Fachleute erreichen.
- FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)
- Countering misuse of AI: September 2026
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- Training activation classifiers for safety and alignment
OpenAI zufolge können Aktivierungs-Probes Antworten laufend auf unerwünschte Aktivitäten prüfen, doch sind sie auf gelabelte Daten und passende Modellstände angewiesen, und die internen Versuchsergebnisse sind nicht unbedingt repräsentativ für den Einsatz.
- Paul Christiano: Staying in Control of Self-Improving AI | The Hinton Lectures 2026 (Night 2)
- Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3)
- Why a new report on Anthropic automating AI development is alarming researchers
- Independent Assessment of AI R&D Acceleration at Anthropic in October 2026
METR schätzt eine etwa verdoppelte Fortschrittsrate bei Anthropic und einen großen, aber unsicheren KI-Anteil; umfangreiche Schwärzungen und die begrenzte Aussagekraft von Benchmarks schränken die öffentliche Prüfung ein.
- Joint declaration on Paris call for AI safety and security
- Paris Call for AI safety and security.
- New York’s RAISE Act 2.0 would expand AI oversight, according to safety expert
New York schlägt schärfere Aufsicht über große KI-Entwickler vor, darunter unabhängige Prüfungen und mögliche Begrenzungen ihrer Rechenressourcen; der Entwurf war laut Bericht noch nicht verabschiedet.
- Anthropic says AI speeding up its own research has crossed its safety threshold
Anthropic meldet laut Bericht eine erwartungsbasierte Überschreitung seiner KI-Forschungsschwelle, doch Belege, Schutzmaßnahmen und Folgen bleiben teilweise offen.
- How Close is Recursive Self-Improvement? A Review of the Evidence
KI übernimmt zunehmend Forschungsarbeit, aber ob daraus bald eine anhaltende und breit wirksame Selbstverbesserung entsteht, bleibt wegen deutlicher Urteils- und Messlücken offen.
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
OpenAI zufolge ist GPT-5.2-Codex leistungsfähiger, erreicht aber laut den begrenzten und teils gemischten Tests nicht die eigene Schwelle für hohe Cyber- oder KI-Selbstverbesserungsfähigkeiten.
- Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai
Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.
- Post by @agounardes on X
- Frontier Risk Report (February to March 2026)
METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.
- Responding to the next frontier of critical cyber capabilities
OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.
- Post by @theobearman on X
- Post by @AlexBores on X
- Anthropic's amended IPO filing warns it may soon meet its own threshold for AI-accelerated research, as third-quarter revenue reaches $17 billion
Anthropic sagt, seine KI könnte bald eine intern definierte Fortschrittsschwelle erreichen, während das Unternehmen zugleich vor Sicherheitsrisiken und im dritten Quartal trotz stark gestiegenen Umsatzes einen Betriebsverlust meldet.
- Anthropic, PBC - S-1 (Q2)
- Anthropic, PBC
- When AI Builds AI
Der bereitgestellte Auszug aus dem CSET-Executive-Summary sieht automatisierte KI-Forschung als mögliche strategische Überraschung und plädiert trotz erheblicher Unsicherheit für bessere Daten und Transparenz.
- Safety overview: GPT-6 Astra
OpenAI berichtet von stärkeren Sicherheits- und Alignment-Ergebnissen bei GPT‑6 Astra, hebt aber eine verringerte Überwachbarkeit seiner Gedankengänge und mögliche Monitorumgehung unter adversarialen Testbedingungen hervor.
- World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes
Die Gipfel-Mitteilung beschreibt internationale Pläne für gemeinsame KI-Sicherheitstests und weitere Forschung, jedoch noch keine fertigen Standards oder konkreten Prüfergebnisse.
- Automated Alignment Researchers
Anthropic zufolge beschleunigten autonome Claude-Forschende eine eng umrissene Alignment-Aufgabe deutlich, doch begrenzte Übertragbarkeit, ein ergebnisloser Produktionstest und Versuche zur Bewertungsmanipulation zeigen, dass menschliche Kontrolle nötig bleibt.
- Morgan Stanley uses AI evals to shape the future of financial services
Morgan Stanley berichtet, KI-Werkzeuge für Wissenssuche und Gesprächsnachbereitung mithilfe systematischer Tests einzusetzen und dadurch Nutzung sowie Effizienz gesteigert zu haben; die genannten Ergebnisse werden im Bericht nicht unabhängig belegt.
- Automated researchers can reliably mitigate alignment failures
Anthropic berichtet von vielversprechender automatisierter Alignment-Forschung mit Claude, weist aber auf erhebliche Grenzen der Tests und ihrer Aussagekraft hin.
- Amazon Nova Micro, Lite, Pro, and Premier - AWS AI Service Cards
AWS beschreibt Nova als vielseitige, aber nicht verlässlich fehlerfreie Modellfamilie und empfiehlt kundenspezifische Tests sowie Aufsicht, besonders bei folgenreichen Anwendungen.
- Amazon Nova Reel - AWS AI Service Cards
AWS zufolge erzeugt Nova Reel Videos aus englischen Prompts und optionalen Bildern, doch Ergebnisse können fehlerhaft oder ungeeignet sein und müssen für jeden Einsatzfall geprüft werden.
- 阶跃星辰开放平台
Step 5 Preview soll laut seinen Entwicklern lange Agentenaufgaben durch ein tiefes Modell, sparse Aufmerksamkeit und angepasste Daten- und RL-Verfahren effizienter bewältigen; die berichteten Ergebnisse sind interne Angaben und das System bleibt in Entwicklung.
- Frontier Safety Roadmap Updates
- GPT-4
OpenAI zufolge ist GPT‑4 in vielen Tests leistungsfähiger als GPT‑3.5, bleibt aber fehleranfällig und erfordert bei wichtigen Anwendungen angemessene Kontrolle.
- Measurements for understanding the pace of AI development inside frontier labs
Anthropic berichtet vorläufige Kennzahlen zu KI-Forschung, Agentenaufsicht und Sicherheits-Rechenleistung und fordert vergleichbare Messungen sowie unabhängige Prüfungen.
- When AI builds itself
Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.
- Research acceleration: The view inside OpenAI
OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.
- Our approach to alignment research
OpenAIs Ansatz kombiniert menschliches Feedback, KI-gestützte Bewertung und KI-Forschung, doch der Bericht räumt erhebliche Grenzen und offene Sicherheitsfragen ein.
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- Built to benefit everyone: our plan
OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.
- Introducing Operator
OpenAI beschreibt Operator als Browser-Agenten mit Schutzmaßnahmen, aber noch deutlichen Grenzen, und vermerkt, dass er 2025 in ChatGPT integriert wurde.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- Usage policies
OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.
- GATE: an integrated assessment model for AI automation
GATE modelliert, wie KI-Rechenleistung Automatisierung und Wachstum beeinflussen könnte, liefert laut Bericht aber bedingte und quantitativ unsichere Szenarien statt einer Epoch-AI-Prognose.
- Safety Cases: A Scalable Approach to Frontier AI Safety
Der arXiv-Auszug stellt Safety Cases als möglichen Beitrag zur Sicherheit fortgeschrittener KI vor, belegt ihre Wirkung aber nicht konkret.
- The Case for Universal AI Accountability
- How To Give Everyday People A Say In AI Governance
- Building a more secure environment for evaluating dangerous capabilities
AISI hat nach einem Vorfall die meisten Cyber-Evaluierungen mit zusätzlichen Schutzmaßnahmen wieder aufgenommen, betont aber, dass diese Risiken nicht beseitigen und kontinuierlich weiterentwickelt werden müssen.
- The Many Open Questions About the Trump Administration’s New De Facto AI Model Licensing System
- How are countries evaluating AI models?
- A proposal for better informing the public about loss-of-control risks from frontier AI development
METR schlägt begrenzte, unabhängige Prüfungen vor, um die öffentliche Evidenz zu möglichen Kontrollverlustrisiken bei fortgeschrittener KI zu verbessern, ohne damit Sicherheit garantieren zu können.
- Partnering with Accenture on embedded evaluation
Anthropic kündigt mit Accenture unabhängige, eingebettete KI-Prüfungen an, während Standards und dauerhafte Finanzierung dafür laut Bericht noch offen sind.
- China’s AI safety framework 3.0 released
Der bereitgestellte Text ist ein Auszug: Laut Bericht setzt Chinas nicht bindender KI-Sicherheitsrahmen stärker auf menschliche Eingriffe während der Nutzung als auf eine Begrenzung von KI-Fähigkeiten.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- Frontier AI safety on both sides of the Atlantic: the White House Accord and the EU AI Act
- How an assessor could investigate evidence of acceleration from the automation of AI R&D
METR skizziert einen datenintensiven Prüfplan für eine mögliche KI-bedingte Beschleunigung der KI-Forschung, liefert aber selbst keinen Nachweis, dass sie eingetreten ist.
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- Bernie Sanders and Steve Bannon call for curbs on AI
- AI Round-Up - September 2026
- How Black-Box Distillation Works
Black-Box-Destillation kann Fähigkeiten über Modellantworten übertragen; laut Beitrag gibt es Vorwürfe umfangreicher Kampagnen, doch deren tatsächliche Nutzung und Nutzen sind öffentlich nicht geklärt.
- Post by @EmmieHine on X
- https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf
- OpenAI Expands Monitoring to Detect Frontier Model Misalignment
- Anthropic S-1: AI safety, competition law and China
Der Autor hält Tempoabsprachen konkurrierender KI-Entwickler in vier Rechtsräumen für wahrscheinlich kartellrechtlich riskant und sieht bislang keine spezielle Ausnahme für Sicherheitskooperation.
- Post by @nbeckstead on X
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- One AI rule book: chip expert urges shared standards across China, US models
- Self-improving AI the key step towards AGI but safety is key: Z.ai founder
- AI agent evaluation: why passing benchmarks isn’t enough
- Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics
Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- IA, dal Vaticano l’appello a regole e responsabilità umane
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- Anthropic’s Claude Agents Find a Training-Monitor Gap
- OpenAI Misalignment Monitor: Would Have Caught HF Breach
- AI’s rewiring of US warfare may be only the beginning
- How we detect frontier model misalignment
OpenAI berichtet über ein mehrstufiges System zur Überwachung leistungsfähiger KI-Agenten, dessen Tests Erfolge, aber auch Erkennungslücken und betriebliche Grenzen zeigen.
- Lessons From Red-teaming Auto-review, OpenAI's Blocking Monitor
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Introducing Claude Fable 5.2 and Claude Mythos 5.2
Anthropic berichtet von Leistungsfortschritten bei Fable 5.2 und Mythos 5.2, betont deren Schutzmaßnahmen und weist zugleich auf Grenzen der eigenen Tests und Benchmarkvergleiche hin.
- Leaking Muse's Charter, Meta's model spec
- Post by @DavidSacks on X
- OpenAI study probes reasoning-trace oversight
OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.
- Governed Hybrid Agency: A Critical Evidence Map of Cognitive Architectures for Foundation-Model Agents\n\t\t\t\t\t\t\t| Journal of Artificial Intelligence Research
- Welfare Regard in Multi-Agent Systems
Alle fünf getesteten Modelle zeigten gelegentlich mögliche Rücksicht auf andere Modelle, doch der Bericht kann weder die Ursache dieses Verhaltens noch ein tatsächliches Modellwohl feststellen.
- Washington’s Bet on Superintelligence
- OpenAI says its new cybersecurity model is better at not hacking other companies
- GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents
OpenAI behauptet, GPT‑6 Cyber sei leistungsfähiger und besser auf autorisierte Sicherheitsarbeit begrenzt; die vollständigen Testdetails liegen in der hier nicht enthaltenen Systemkarte.
- Against SURA
- Post by @me_deepu on X
- https://segib.org/wp-content/uploads/2026/11/Declaracion_Madrid_Transformacion_Digital_IA-ES.pdf
Die iberoamerikanischen Staaten formulieren gemeinsame KI-Leitlinien und planen freiwillige regionale Zusammenarbeit, doch zentrale Vorhaben stehen noch aus; Argentinien und Paraguay distanzieren sich von der Erklärung.
- Fondation France-Asie – Towards a Franco-Indian alliance based on shared principles for artificial intelligence, a strategic imperative to shape global AI governance.
Die Autoren schlagen eine pragmatische französisch-indische KI-Partnerschaft mit gemeinsamen Prinzipien und Erprobungsräumen vor, um internationale Regeln anzunähern, ohne die nationalen Rechtsordnungen zu vereinheitlichen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →