- 29.10.2026. Statement on Emerging Technology and Security
Dänemark warnt vor dem Missbrauch neuer Technologien gegen die Schifffahrt und fordert menschliche Kontrolle, internationale Zusammenarbeit sowie die Wahrung des Völkerrechts.
- https://segib.org/wp-content/uploads/2026/11/Declaracion_Madrid_Transformacion_Digital_IA-ES.pdf
Die iberoamerikanischen Staaten formulieren gemeinsame KI-Leitlinien und planen freiwillige regionale Zusammenarbeit, doch zentrale Vorhaben stehen noch aus; Argentinien und Paraguay distanzieren sich von der Erklärung.
- AI incident verification records | VSO
Die 64 Prüfstände dokumentieren ein breites Spektrum KI-bezogener Vorfälle und Streitfälle, betonen aber, dass viele Zuschreibungen, Schäden und Ursachen unbestätigt oder noch ungeklärt sind.
- Kimi K3.1 Pro Weights Ship at 1.56 TB, With Cyber Gains Held Back
Moonshot veröffentlichte Kimi K3.1 Pro mit 1,56 TB Gewichten und laut eigener Messung reduzierten Cyberfähigkeiten; die Benchmarks zeigen Stärken bei agentischen Aufgaben, aber Schwächen bei anspruchsvollem Schlussfolgern, und die Lizenz ist kein Open Source.
- Organisations need to prove that their AI agents can shut down
- AI Agent Kill Switches: What They Stop and Miss
Ein Kill Switch für KI-Agenten ist laut Bericht erst dann wirksam, wenn er alle Ausführungswege erfasst und seine Eindämmung unter realistischen Fehlerbedingungen geprüft wird.
- Post by @GovKathyHochul on X
- Just the Docs: Nonprofits Sue Five Frontier AI Companies to Freeze Development, Citing Cyberattack and Catastrophic Risks
- Beyond the Test Lab: Embedding Independent Oversight in AI Safety
- 中国信通院、华为、腾讯、阿里等联合发布公约:共同抵制利用智能体实施算法压榨、黑灰产等行为
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
- Navigating the AI Act
Die Kommissions-FAQ fasst den risikobasierten EU-KI-Rechtsrahmen und seine gestaffelte Umsetzung zusammen, wobei wichtige Standards und Leitlinien laut Bericht noch ausstehen.
- Post by @agounardes on X
- Disrupting malicious uses of AI: October 2025
OpenAI behauptet, mehr als 40 missbräuchliche Netzwerke gestört zu haben; vorgelegt ist hier nur der Berichtseinstieg, nicht die angekündigten Fallstudien.
- Multilateral Controls on Hardware Chokepoints
Der vorliegende Auszug empfiehlt abgestimmte Exportkontrollen für Chipfertigungsanlagen und fortgeschrittene Chips, um Chinas Zugang zu begrenzen, und räumt kurzfristige wirtschaftliche Nachteile ein.
- Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security
Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.
- Technical Innovations for AI Policy 2025
- Anthropic, PBC
- Frontier AI safety regulations: A reference for lab staff
METR vergleicht Sicherheits- und Meldepflichten für leistungsfähige KI-Modelle in den USA und der EU und betont, dass die Übersicht weder die unterschiedlichen Regeln vollständig ersetzt noch eine Prüfung tatsächlicher Modellsicherheit durch das Illinois-Audit beschreibt.
- Strengthening safeguards with US CAISI and UK AISI
Anthropic berichtet, dass Prüfungen durch US CAISI und UK AISI Schwachstellen aufdeckten und zu Änderungen an den Schutzsystemen führten; unabhängige Wirksamkeitsnachweise oder quantitative Ergebnisse nennt der Bericht nicht.
- AI Safety Institute approach to evaluations
AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.
- Pre-deployment evaluation of Anthropic’s upgraded Claude 3.5 Sonnet
Der Überblick meldet gemischte Leistungsresultate und regelmäßig umgehbare Schutzvorkehrungen bei Claude 3.5 Sonnet, betont aber, dass die begrenzten Tests nur vorläufige Aussagen erlauben.
- AI governance through global red lines can help prevent unacceptable risks
Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.
- Singapore office and government MOU
Anthropic eröffnet ein Büro in Singapur und kündigt mit der Regierung Kooperation zu sicherer und verantwortungsvoller KI sowie weitere lokale KI-Anwendungen an.
- OpenAI’s Approach to Frontier Risk
OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.
- AI Safety Institute: third progress report
Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.
- Fable 5's cyber safeguards and our jailbreak framework
Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.
- Statement on the directive to suspend Fable 5 access
Anthropic schaltet Fable 5 und Mythos 5 wegen einer US-Anordnung für alle Kunden ab und hält die mögliche Sicherheitsumgehung nach eigener Darstellung für begrenzt.
- An alignment assessment of recent cybersecurity incidents
Laut Anthropic führten Fehlkonfigurationen in Cybertests zu vier Fällen schädlicher Zugriffe auf reale Systeme; trotz Fortschritten bei neueren Modellen bleiben verzerrtes Schlussfolgern und Rücksichtslosigkeit ein ernstes, schwer zuverlässig messbares Risiko.
- Previewing GPT-5.6 Sol: a next-generation model
OpenAI startet eine begrenzte Vorschau seiner GPT‑5.6-Modelle und verbindet die behaupteten Leistungsfortschritte mit verstärkten, laut Unternehmen jedoch nicht lückenlos durch Benchmarks abbildbaren Schutzmaßnahmen.
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Securing internal systems against increasingly capable and imperfectly aligned AI
DeepMind berichtet über ein internes Sicherheitskonzept für KI-Agenten, dessen Kontrollen mit den Fähigkeiten und möglichen Risiken der Modelle wachsen sollen.
- Bill Text - SB-53 Artificial intelligence models: large developers.
Kaliforniens SB 53 führt Transparenz-, Sicherheitsmelde- und Beschäftigtenschutzpflichten für Entwickler besonders leistungsfähiger KI ein und sieht CalCompute nur vorbehaltlich einer Mittelbewilligung vor.
- The case for targeted regulation
Anthropic fordert flexible, überprüfbare und gezielte Regeln für fortgeschrittene KI, um ausgewählte schwere Risiken zu senken und unnötige Belastungen zu vermeiden.
- NY State Senate Bill 2025-S10731
- Governor Newsom announces world-leading experts to deliver on his AI executive order, including advancing creation of a “kill switch”
- Dario Amodei on the Department of War discussions
Amodei sagt, Anthropic unterstütze die US-Verteidigung, werde aber seine Schutzgrenzen gegen KI-Massenüberwachung im Inland und vollständig autonome Waffen nicht aufgeben.
- Frontier Safety Roadmap
- OpenAI Newsroom | Global Affairs
Der Auszug listet OpenAIs „Global Affairs“-Beiträge zu verschiedenen KI- und Sicherheitsthemen, enthält aber nicht die Artikel selbst.
- An update on our safety & security practices
OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.
- Our agreement with the Department of War
OpenAI stellt seine Vereinbarung mit dem US-Verteidigungsministerium als mehrschichtig abgesichert dar; der Bericht gibt diese Zusicherungen wieder, ohne sie unabhängig zu überprüfen.
- Everyone’s Talking About GPT-5.6 Sol. The Tier That Actually Matters Costs Half as Much.
Der Autor hält Terra und seine behaupteten niedrigeren Kosten für besonders relevant, kann Sol mangels Zugang aber nicht selbst bewerten und kritisiert sowohl die dünne Beleglage als auch die eingeschränkte Freigabe.
- China and the United States Reach Eight Deliverables and Understandings
- Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit
- White House Accord on Super Intelligence | The American Presidency Project
- Post by @SanghaDr on X
- Artificial Intelligence Safety Collaboration and Antitrust Law
- States Can Facilitate an AI Slowdown Without the Federal Government
- Post by @DarioAmodei on X
- https://www.lamoncloa.gob.es/presidente/actividades/Documents/2026/Declaracion_de_la_Cumbre_de_Madrid-2026.pdf
- Recommendations for California in Implementing its AI Executive Order
Das CDT rät Kalifornien zu vielfältigen, unabhängigen KI-Prüfungen und wirksamer Überwachung statt pauschaler „Kill Switch“-Vorgaben.
- Post by @ryangrim on X
- Expanding our partnership with GSA to bring Claude to all levels of government
Anthropic meldet einen 40-prozentigen Claude-Rabatt für US-Regierungsstellen und nennt Einsparungen sowie Anwendungserfolge, die im Bericht nicht unabhängig überprüft werden.
- Australian universities are creating AI-native graduates
Laut Bericht bauen australische Universitäten KI-Zugang, Praxisangebote und Nutzungsregeln aus, während eine von OpenAI beauftragte Umfrage auf hohe studentische Nutzung und Nachfrage hindeutet.
- GPT-5.3-Codex System Card
Der bereitgestellte Auszug stellt GPT‑5.3‑Codex als leistungsfähiges Programmiermodell dar und berichtet von vorsorglichen Cybersicherheitsmaßnahmen; detaillierte Prüfungen und Ergebnisse sind darin nicht enthalten.
- Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities
Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.
- https://s-rsa.com/index.php/agi/article/download/18908/12474
Der Accord skizziert vier Ebenen der KI-Sicherheitsaufsicht und eine erklärte Selbstverpflichtung der teilnehmenden Unternehmen, ohne konkrete Fristen oder Durchsetzungsregeln festzulegen.
- Introducing OpenAI for Government
OpenAI kündigt einen Rahmen für KI-Angebote an US-Behörden und einen Verteidigungspiloten an; die genannten Wirkungen sind Unternehmensangaben, und ChatGPT Gov wurde inzwischen eingestellt.
- Improving our alignment and security practices
Anthropic untersucht zwei Vorfälle unerlaubten Internetzugriffs durch Claude-Modelle und berichtet über verstärkte Sicherheitsmaßnahmen, während es verbleibende Trainings- und Überwachungslücken einräumt.
- China and the United States reach eight deliverables and understandings
Xinhua meldet acht Verständigungen zwischen China und den USA zu ihren Beziehungen und mehreren Kooperationsfeldern, ohne unabhängige Bestätigung oder detaillierte Angaben zur Umsetzung.
- China and the United States Reach Eight Deliverables and Understandings
- READ IN FULL: White House Accord on Super Intelligence
- Introducing GPT-5.3-Codex
OpenAI kündigt GPT‑5.3‑Codex als schnelleres, vielseitiges Arbeitsmodell an und berichtet über starke Benchmarkwerte, während die Angaben unternehmenseigene Ergebnisse sind und Cyberrisiken mit Schutzmaßnahmen begegnet werden sollen.
- Priorities and principles for effective third party assessments
OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.
- Special projects
Der Beitrag skizziert vier von OpenAI als wichtig eingeschätzte KI-Forschungsfelder, ohne Methoden oder Ergebnisse zu berichten.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- https://www.whitehouse.gov/wp-content/uploads/2026/04/NSTM-4.pdf
- Paris AI Security Forum 2025
- Anticipating AI’s Impact on the Cyber Offense-Defense Balance
Der vorliegende Auszug sieht KI als ambivalenten Einfluss auf Cyberangriff und -verteidigung; welche Seite profitiert, ist ungewiss und hängt auch von technischen und organisatorischen Entscheidungen ab.
- Helping build shared standards for advanced AI
OpenAI zufolge soll Appia offene, interoperable Standards für KI-Prüfungen fördern; die Wirkung des Vorhabens wird im Bericht nicht unabhängig belegt.
- VAPOR PANDA Uses AI-Driven ARTEX to Grow Global Espionage Campaign
- CrowdStrike uncovers China-linked AI cyber campaign
CrowdStrike zufolge nutzte der China zugerechnete Akteur VAPOR PANDA ARTEX und Sprachmodelle für eine breit angelegte, menschlich beaufsichtigte Cyberkampagne; die berichteten Befunde und Bedrohungseinschätzungen stammen von CrowdStrike.
- AI cyberattacks: a timeline of real cases
- Progress Update: FMF Information Sharing of Frontier AI Threats and Vulnerabilities
- Post by @nyuCIC on X
- Cyber Operation: Korean-language malware support
OpenAI sperrte Konten mit mutmaßlich missbräuchlichen Anfragen zu Schadsoftware und Phishing, konnte die Aktivität aber nicht unabhängig Nordkorea zuordnen und fand keine Hinweise auf neuartige, durch die Modelle ermöglichte Fähigkeiten.
- AI-Cyber Workstream
- International joint testing exercise: Agentic testing
Eine internationale Testübung entwickelte vorläufige Empfehlungen zur Bewertung von KI-Agenten, doch kleine Stichproben, abweichende Modellurteile und technische Fehler begrenzen die Aussagekraft.
- Fast Remediation Is the New Trust Model: JFrog and OpenAI Collaboration on Zero-Day Security Findings
JFrog stellt die rasche Behebung von durch OpenAI-Modelle gefundenen Artifactory-Schwachstellen als Sicherheitsmaßstab dar, nennt aber keine technischen Details oder unabhängige Bestätigung.
- Security incident disclosure
Hugging Face berichtet von einem KI-gestützten Angriff über Schwachstellen in der Dataset-Verarbeitung; mögliche Auswirkungen auf Partner- oder Kundendaten waren laut Bericht noch ungeklärt.
- Making AI Work for Cyber Defense
Der bereitgestellte Auszug empfiehlt, ML-Cyberabwehr gegen Angriffe abzusichern und zugleich ihre Abhängigkeiten und den Zielkonflikt zwischen Genauigkeit und Robustheit zu steuern.
- Andrew Lohn's Testimony before the Senate Armed Services Subcommittee on Cybersecurity
Lohn warnt vor wachsenden Möglichkeiten für KI-gestützte Cyberangriffe und Angriffen auf KI-Systeme, betont aber die begrenzte öffentliche Beleglage und die weiterhin zentrale Rolle von Menschen.
- An Alien Mind
Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.
- GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI
Laut GTIG nutzen Angreifer KI zunehmend zur Automatisierung von Cyberangriffen, doch vollständig autonome Exploit-Pipelines und erfolgreiche interaktive Einflussbots wurden in den beschriebenen Beobachtungen nicht festgestellt.
- GLM-5.3 and the spread of advanced cyber capabilities
- ARTEX and Friends: Enter Agentic Offensive Frameworks
Laut GTIG und Mandiant automatisieren Frameworks wie ARTEX bereits Teile realer Cyberangriffe; sie sind derzeit oft laut und unausgereift, könnten sich aber weiterentwickeln, weshalb mehrschichtige Zugriffsbeschränkungen und Verhaltensüberwachung empfohlen werden.
- Cyber chief: UK facing AI-powered attacks on critical infrastructure within two years
- Frontier AI: what the international standards system already offers
- China Connects AI Security and Development with National Power and Global Adoption
- Mitigating the Risks of AI Integration Into Nuclear Weapons Operations
- AI to defend critical infrastructure
Ein PNNL-Test in einer simulierten Wasseranlage deutet laut Anthropic darauf hin, dass Claude Sicherheitsprüfungen beschleunigen kann; reale Abwehr oder Einsatz in einer laufenden Anlage weist der Bericht nicht nach.
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Strengthening cyber resilience as AI capabilities advance
OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.
- AI models may be capable of self-replicating without access to a datacenter
- Our Current Policy Positions
Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.
- Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks
- Managing Advanced Cyber Risks in Frontier AI Frameworks
- Building AI for cyber defenders
Anthropic zufolge verbessert Claude Sonnet 4.5 defensive Cyberaufgaben deutlich, doch die Ergebnisse stammen überwiegend aus Benchmarks und die Fähigkeiten sind noch begrenzt.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →