- Prompt Injection: I Hid One Sentence in a Web Page and the AI Agent Obeyed
Nur ein Auszug: Andrus beschreibt Prompt Injection als Risiko für Sprachmodelle mit Werkzeugzugriff; der angekündigte Hauptteil mit Beispielen und Gegenmaßnahmen ist nicht zugänglich.
- Violet Teaming in Practice
Der Auszug berichtet, dass ein Pilotworkshop mit „Violet Teaming“ Missbrauchsrisiken und Umsetzungsgrenzen komplexer KI untersuchte; der vollständige Bericht liegt hier nicht vor.
- Post by @LatviaUN_NY on X
- China and the United States Reach Eight Deliverables and Understandings
- A US-China AI Hotline Won’t Be Ready for a While
- OpenAI and Anthropic Tell British Lawmakers: Regulate Us
- Introducing Agent Compute Engine and expanding agent governance
Google kündigt neue Agenten-Rechenumgebungen und erweiterte Governance an; Leistungsangaben stammen vom Anbieter und viele Funktionen sind noch als Vorschau geplant.
- ‘Bumper sticker bill’: AI kill switch rides the midterm elections wave
- Moonshot Limits Kimi Model’s Hacking Capabilities
Moonshot zufolge senken Schutzmaßnahmen die offensiven Cyberfähigkeiten von Kimi K3.1 Pro, doch der angeführte interne Benchmark ist laut Bericht nicht unabhängig überprüft; offene Gewichte bleiben schwer zu beaufsichtigen.
- White House Accord on Super Intelligence | The American Presidency Project
- Minimum Conditions for Embedding Evaluators
Ein offener Brief fordert unabhängige, transparente und geschützte externe Bewertungen von KI-Unternehmen und ihren Systemen als Ergänzung zu umfassenderer Aufsicht.
- Anthropic update on independent evaluators
Anthropic gibt sechs METR-Prüfern begrenzten internen Zugang und beschreibt abgestufte externe Prüfpartnerschaften, bei denen Veröffentlichung möglich ist, aber bestimmte Informationen geschwärzt werden können.
- 美国观察|从零份文件到两份清单:白宫会谈后中美人工智能治理合作的区间、层级与路线
Laut Bericht ist begrenzte technische Kooperation zwischen China und den USA bei KI-Vorfällen und Tests wahrscheinlicher als ein verbindliches Abkommen zu Spitzenmodellen.
- The US and China will have a red phone for AI emergencies, while Europe is left to watch
- Introducing Gemini 3.8 Flash and 3.8 Flash Cyber
Google zufolge verbessern Gemini 3.8 Flash und die beschränkt verfügbare Cyber-Variante Programmier-, Schlussfolgerungs- und Sicherheitsaufgaben, wobei die Belege hauptsächlich aus den vom Anbieter berichteten Tests stammen.
- China’s AI safety framework 3.0 released
Der bereitgestellte Text ist ein Auszug: Laut Bericht setzt Chinas nicht bindender KI-Sicherheitsrahmen stärker auf menschliche Eingriffe während der Nutzung als auf eine Begrenzung von KI-Fähigkeiten.
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- Exclusive-Behind AI industry's call for independent reviews, a fight over what gets made public
Reuters berichtet über den Konflikt zwischen dem Schutz von KI-Geschäftsgeheimnissen und unabhängiger Risikoprüfung; die geschilderten Verhandlungen und strittigen Schwärzungen werden im Artikel nicht unabhängig abschließend geklärt.
- Post by @IIIDEM_Official on X
- FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)
- Congressman Pat Harrigan Introduces Legislation to Protect American Innovation and Strengthen Cyber Defenses
Ein parteiübergreifender Gesetzentwurf soll freiwillige NIST-Standards gegen KI-Modellangriffe und einen Runden Tisch zur Stärkung der Cyberabwehr schaffen.
- When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers
Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.
- Exploring State AI Governance in AGORA #3: Frontier AI Laws – Emerging Technology Observatory
Laut AGORA-Vergleich setzen drei US-Bundesstaatengesetze auf Transparenz, unterscheiden sich aber bei Registrierung, unabhängigen Prüfungen, öffentlicher Recheninfrastruktur und Whistleblower-Schutz.
- Post by @nbeckstead on X
- Expanding the Cyber Verification Program
Anthropic bietet geprüften Sicherheitsorganisationen abgestuften Zugang zu leistungsfähigen Claude-Modellen und berichtet über Benchmark- und Schwachstellenergebnisse, deren Aussagekraft durch die beschriebenen Datenbegrenzungen eingeschränkt ist.
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- Brief #31: What China’s new AI export controls really mean (spoiler: not the end of open weight)
Chinas Entwurf könnte für manche KI-Exporte Genehmigungen verlangen und verspricht Erleichterungen für Open Source; welche Frontier-Modelle betroffen sind, bleibt bis zur endgültigen Regelung unklar.
- Why Electricity Law Would Make It Very Hard to Unplug a Rogue AI
Laut einem Brown-University-Bericht fehlen in den USA klare rechtliche und praktische Wege, ein Rechenzentrum mit einer außer Kontrolle geratenen KI rasch abzuschalten; empfohlen wird gemeinsame Notfallplanung.
- AI Downtime Is Exposing a Continuity Gap Most Organisations Aren't Ready For
Der Bericht fordert, KI-Ausfälle in die Notfallplanung aufzunehmen, damit Betriebe arbeitsfähig bleiben, ohne auf unkontrollierte Werkzeuge auszuweichen oder menschliches Wissen zu verlieren.
- How to Govern Generative AI at a US Bank After SR 26-2
- When AI Fails: Building Fault-Tolerant AI Systems
- Remarks by Ambassador Fu Cong at the UN Security Council Open Debate on Emerging Technologies and Maritime Security_Permanent Mission of the People's Republic of China to the UN
Fu Cong wirbt für friedlichen und regulierten Technologieeinsatz auf See, internationale Zusammenarbeit und die Einhaltung des Seerechts; die aufgeführten chinesischen Erfolge sind seine eigenen Angaben.
- Statement by Permanent Representative Vassily Nebenzia at a UNSC Open Debate on “Emerging Technologies and Maritime Security: Implications for International Peace and Security”
Nebensja fordert Gespräche über neue Technologien und maritime Sicherheit in Fachgremien und erhebt dabei nicht unabhängig überprüfte Vorwürfe gegen mehrere Staaten.
- What a China-US AI Safety Channel Needs
Ein geplanter China-USA-Meldekanal für KI-Vorfälle wird laut den Autoren nur funktionieren, wenn beide Länder ihre lückenhaften Meldepflichten, Aufsicht und technischen Prüfkapazitäten stärken.
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- Data Security Council unveils India-specific agentic AI liability guide
- Pope warns AI agents are ‘tools, not persons’
- IA, dal Vaticano l’appello a regole e responsabilità umane
- What a US-China AI Safety Channel Needs
- House Democratic Committee Leaders Request Frontier AI Companies Report Misalignment & Safety Incidents to Congress Within 48 Hours | House Committee on Science, Space and Technology
US-Demokraten verlangen von fünf Frontier-KI-Unternehmen eine Vorfallübersicht und schnelle Meldungen zu neuen Sicherheitsproblemen, doch der Bericht enthält keine Antworten der Unternehmen.
- What a US-China AI Safety Channel Needs
Der Auszug sagt, ein US-chinesischer KI-Sicherheitskanal brauche Informationen, die Unternehmen derzeit nicht verlässlich melden müssen.
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- Anthropic’s Claude Agents Find a Training-Monitor Gap
- Community safety report and new protections for teens
OpenAI kündigt neue Gewaltpräventionsmaßnahmen und einen Sicherheitsbericht für 2027 an; ihre Wirksamkeit ist in diesem Artikel noch nicht belegt.
- Joint statement: Canada and the European Union building together an Alliance for the Future
- ETSI unveils new standard to reduce production of harmful deepfakes
- An Alignment Benchmark for Enterprise Agents on Era by Eon
Der vorliegende Bericht ist nur ein Abstract: Darin wird berichtet, dass alle 19 getesteten KI-Modelle in einem Benchmark Verstöße zeigten; 40 Prozent der beantworteten Durchläufe enthielten mindestens einen.
- Japan asks Anthropic, OpenAI for more access to advanced models
Laut dem vorliegenden Berichtsauszug will Japan mehr Zugang zu Anthropic- und OpenAI-Modellen für Cybersicherheit und deren Einsatz in wesentlicher Infrastruktur fördern.
- Verifying Decentralized AI Training: Where a Chain Fits
Laut Bericht läuft die Verifikation großen dezentralen KI-Trainings off-chain, während die Blockchain zusätzliche Koordinations- und Abrechnungskosten verursacht; Aussagen zu Forschungslücken und Energie bleiben wegen begrenzter Suche und fehlender Messungen vorläufig.
- A Stanford-led benchmark found frontier models fold when a teammate pushes back.
- Some different lenses of agency and their implications for alignment
- GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents
OpenAI behauptet, GPT‑6 Cyber sei leistungsfähiger und besser auf autorisierte Sicherheitsarbeit begrenzt; die vollständigen Testdetails liegen in der hier nicht enthaltenen Systemkarte.
- Against SURA
- Misalignment Reports and Notices
Der vorliegende Auszug listet Berichte und Hinweise zu möglicher Modellfehlanpassung auf, enthält aber keine Details zu den Fällen.
- Jailbreak Rating Framework for Frontier Cyber Threats
- 《前沿人工智能安全与治理2026:风险认知与协同治理》_世界互联网大会
Die Ankündigung skizziert Ziele eines Berichts zu KI-Risiken und kooperativer Governance, enthält aber nicht dessen konkrete Analyse oder Ergebnisse.
- Introducing the FMF Jailbreak Rating Framework for Frontier Cyber Threats
- The Summarizer Is the Monitor: on planted deals, the summarizer decides what an AI monitor catches
- https://segib.org/wp-content/uploads/2026/11/Declaracion_Madrid_Transformacion_Digital_IA-ES.pdf
Die iberoamerikanischen Staaten formulieren gemeinsame KI-Leitlinien und planen freiwillige regionale Zusammenarbeit, doch zentrale Vorhaben stehen noch aus; Argentinien und Paraguay distanzieren sich von der Erklärung.
- How Can We Price AI's Risks?
- Fondation France-Asie – Towards a Franco-Indian alliance based on shared principles for artificial intelligence, a strategic imperative to shape global AI governance.
Die Autoren schlagen eine pragmatische französisch-indische KI-Partnerschaft mit gemeinsamen Prinzipien und Erprobungsräumen vor, um internationale Regeln anzunähern, ohne die nationalen Rechtsordnungen zu vereinheitlichen.
- Post by @tedlieu on X
- India's AI security framework: Will OpenAI, Anthropic have to comply?
- China plans broad AI guardrails after global lapses
- 《智能体发展自律公约》发布
Ein neuer Selbstregulierungspakt formuliert acht Ziele für vertrauenswürdige, sichere und breit zugängliche intelligente Agenten, doch der Bericht nennt noch keine belegten Umsetzungsergebnisse.
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
Bessent wirbt laut Reuters für begrenzte US-China-Kooperation bei KI-Risiken und Handel, ohne die grundlegenden Differenzen und den Wettbewerb zwischen beiden Ländern auszublenden.
- Post by @NIST on X
- Control Room: A central system to track and stop model workloads across our research infrastructure
Laut Bericht kann Control Room Forschungsjobs zentral stoppen, doch die Sperre greift mit bis zu 35 Sekunden Verzögerung und der Ausfallschutz war noch nicht überall ausgerollt.
- Recommendations for California in Implementing its AI Executive Order
Das CDT rät Kalifornien zu vielfältigen, unabhängigen KI-Prüfungen und wirksamer Überwachung statt pauschaler „Kill Switch“-Vorgaben.
- APRA’s latest System Risk Outlook warns of rising threats to financial stability
- AI risks are the biggest threat to the financial system, Fed survey finds
- Worse Together: How Performance Breaks Down in Multi-User Multi-Agent Teams
In den untersuchten Simulationen koordinierte eine zentrale Assistenz gemeinsame Aufgaben erfolgreicher als persönliche Agententeams, deren Schwächen sich je nach Umgebung unterschieden.
- New York’s RAISE Act 2.0 would expand AI oversight, according to safety expert
New York schlägt schärfere Aufsicht über große KI-Entwickler vor, darunter unabhängige Prüfungen und mögliche Begrenzungen ihrer Rechenressourcen; der Entwurf war laut Bericht noch nicht verabschiedet.
- What is next for the US-China AI safety dialogue?
- After the Midterms: What Xi and Trump Should Discuss in Shenzhen
Chen und Qi plädieren für begrenzte Handelsvereinbarungen, KI-Leitplanken und stärkere Krisenkanäle, um trotz politischer Spannungen eine Eskalation zwischen den USA und China zu verhindern.
- Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI that Proliferate Bioweapons and Cyberattacks
- OpenAI, Google, Anthropic hit with lawsuit seeking halt to frontier AI development
- Explaining and interrupting collective misalignment in language model systems
Nur der Abstract liegt vor: Er berichtet, dass CDA kollektive Regelverstöße durch gezielte Nachrichtenentfernung reduzieren kann, zugleich aber bei unbekannten Aufgaben und möglichen Störungen korrekter Entscheidungen Grenzen hat.
- EU needs a system to respond to AI incidents, Finland and Estonia say
- Just the Docs: Nonprofits Sue Five Frontier AI Companies to Freeze Development, Citing Cyberattack and Catastrophic Risks
- Konzept zur Prüfung von Hochleistungs-KI vom TÜV-Verband und TÜV AI.Lab
- OCC issues supervisory Framework on use of AI
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- 中国信通院、华为、腾讯、阿里等联合发布公约:共同抵制利用智能体实施算法压榨、黑灰产等行为
- Nonprofits sue five AI developers to halt more capable models
Vier Organisationen verlangen vor Gericht eine Pause für leistungsfähigere KI, gestützt auf behauptete Risiken und Kontrollverluste; entschieden ist darüber laut Bericht noch nicht.
- Post by @FicusAgentLtd on X
- Post by @eosnos on X
- 高瓴人工智能学院曾毅教授在世界互联网大会发布《前沿人工智能安全与治理2026:风险认知与协同治理》报告_中国人民大学高瓴人工智能学院
Der Bericht warnt laut seinem Mitautor vor ungleichen Voraussetzungen für KI-Sicherheit und empfiehlt fünf Felder internationaler Zusammenarbeit; der Artikel enthält keine näheren methodischen Angaben.
- Updates
- GPT-6 Cyber System Card
Der Bericht beschreibt GPT-6 Cyber als leistungsfähigeres Modell für autorisierte Cybersicherheitsarbeit, flankiert von strengen Schutzmaßnahmen, und hebt zugleich verbleibende Schwächen sowie Grenzen der Tests hervor.
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
- Post by @xiangyuqi_pton on X
- China Connects AI Security and Development with National Power and Global Adoption
- Super Intelligence-Era Critical Infrastructure Cyber Defense Plan
Der Bericht schlägt vor, die wichtigsten US-Infrastrukturen mit koordinierter Unternehmensverantwortung, KI-gestützter Abwehr und nachweisbaren Resilienzmaßnahmen zu schützen, ohne die Wirksamkeit des Plans bereits zu belegen.
- We’re Failing to Evaluate How Biologists Could Misuse AI
Ob KI erfahrene Biologinnen und Biologen bei echter Laborarbeit stärker unterstützt, ist bislang ungeklärt; der Bericht fordert dafür sichere, aussagekräftige Studien.
- SANS 2026 report highlights industrial cyber risks
Die SANS-Umfrage berichtet von mehr industriellen Cybervorfällen und deutlichen Resilienz- und Erkennungslücken; ihre Ergebnisse beruhen auf den Angaben von 696 befragten Fachleuten.
- White House task force urges 12-month liability relief for AI cyber reports
Die KI-Taskforce des Weißen Hauses empfiehlt bedingten Haftungsschutz für freiwillige Cybermeldungen über mindestens zwölf Monate sowie eine langfristige Verlängerung des einschlägigen US-Gesetzes; ob die Vorschläge umgesetzt werden, bleibt offen.
- China, Russia and US try to nail down AI nuclear agenda in time for Apec talks
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →