- Cyber-Bedrohungsakteure: KI-gestützte Angriffsforschung
OpenAI sperrte mutmaßlich mit DPRK-nahen Akteuren verbundene Konten, deren Cyber- und Phishing-Anfragen laut Bericht überwiegend auf bekannten Open-Source-Informationen beruhten.
- OpenAI weitet Cyberzugang für den zivilen Schutz der Ukraine aus
OpenAI kündigt KI-Unterstützung für die ukrainische Cyberabwehr an, berichtet aber noch keine Ergebnisse aus deren Nutzung in der Ukraine.
- Fable 5.2’s Benchmarks Ran at Xhigh. Claude Code Runs It at Medium.
Fable 5.2 erreicht seine besten veröffentlichten Werte bei sehr hohem Effort, doch laut Autor fehlen zentrale Angaben zur standardmäßigen Medium-Nutzung, und die passende Leistung-Kosten-Abwägung bleibt durch eigene Tests zu prüfen.
- Claude Opus 5 Went From 30% to 100% on the Hardest AI Benchmark. The Benchmark’s Owner Won’t Count It.
Die gemeldeten 100 Punkte gelten nur für öffentliche Demospiele und belegen laut Artikel nicht, dass ARC-AGI-3 gelöst ist.
- The AGI Test Went From 0.37% to 30.2% in Four Months. It’s Testing the One Skill You Were Told to Fall Back On.
Der Bericht sieht schnelle Fortschritte von KI beim Erschließen unbekannter Situationen, aber anhaltende Schwächen bei langen Aufgaben und warnt davor, Benchmarkwerte mit AGI oder verlässlicher Arbeitsleistung gleichzusetzen.
- 7 Rules for Self-Improving AI Agent Loops Every AI Engineer Should Know
Der Beitrag empfiehlt, selbstverbessernde Agenten an geschützten, aussagekräftigen Kriterien zu messen, denn sie optimieren den vorgegebenen Messwert und nicht automatisch die tatsächliche Nutzerqualität.
- Operationalizing U.S.-China AI Incident Notification
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
- 《人工智能安全治理框架3.0》发布_中央网络安全和信息化委员会办公室
- AI Hacks Leave a Mess That AI Companies Aren’t Paying For
- When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response
- Minimum Conditions for Embedding Evaluators
Ein offener Brief fordert unabhängige, transparente und geschützte externe Bewertungen von KI-Unternehmen und ihren Systemen als Ergänzung zu umfassenderer Aufsicht.
- Xi’s India trip; US-China and AI; MSS head on AI; Weak August credit data; “Dynamic zero 动态清零” for payment arrears
Der Auszug schildert begrenzte Ergebnisse von Xis Indienreise, geringe Erwartungen an einen US-chinesischen KI-Dialog und chinesische Sorgen über KI-Sicherheitsrisiken, insbesondere Cyberangriffe.
- China’s AI safety framework 3.0 released
Der bereitgestellte Text ist ein Auszug: Laut Bericht setzt Chinas nicht bindender KI-Sicherheitsrahmen stärker auf menschliche Eingriffe während der Nutzung als auf eine Begrenzung von KI-Fähigkeiten.
- Minister calls for AI risk control system
- Trump says top tech firms have signed accord to 'self-police' AI development
- Artificial Intelligence Safety Collaboration and Antitrust Law
- Developing Safety Standards Is Not Inherently Anticompetitive
Nicastro und Castro argumentieren, dass gemeinsame freiwillige KI-Sicherheitsstandards nicht automatisch gegen das Kartellrecht verstoßen und der konkrete Wettbewerbsnachteil im Einzelfall belegt werden muss.
- How an assessor could investigate evidence of acceleration from the automation of AI R&D
METR skizziert einen datenintensiven Prüfplan für eine mögliche KI-bedingte Beschleunigung der KI-Forschung, liefert aber selbst keinen Nachweis, dass sie eingetreten ist.
- OpenAI Distillation Campaign: What It Says About Moonshot
OpenAI meldet eine unterbundene Kampagne zur Extraktion verborgener Modellüberlegungen und verbindet einen Kern der Aktivität mit Personen aus dem Umfeld von Moonshot AI, doch die Erfolgsmenge und die Belege der Zuordnung bleiben laut Bericht offen.
- China plans to tighten export controls on open-weight models and 23 key AI technologies
Ein chinesischer Regelungsentwurf soll Exporte bestimmter KI-Technologien begrenzen, während offene Veröffentlichungen und einige Nutzungsformen Sonderregeln erhalten; mögliche Folgen bleiben laut Bericht Prognosen.
- GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI
Laut GTIG nutzen Angreifer KI zunehmend zur Automatisierung von Cyberangriffen, doch vollständig autonome Exploit-Pipelines und erfolgreiche interaktive Einflussbots wurden in den beschriebenen Beobachtungen nicht festgestellt.
- Summary of Comments on the Concept Paper
NIST fasst Rückmeldungen zu standardbasierter, überprüfbarer und datenschutzbewusster Agentensicherheit zusammen; der bereitgestellte Berichtstext ist am Ende unvollständig.
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
Der Text stellt eine freiwillige Anleitung zum Umgang mit Kontrollvorfällen bei Super-Intelligence-Agenten vor, liefert aber nur eine Kurzbeschreibung und nicht die zehn Praktiken im Einzelnen.
- AI Agent Security: Threats, Guardrails, Controls
- The kill switch problem: Why stopping AI agents is harder than starting them
- Information-Theoretic Reliability--Safety Bounds and Finite-Alignment Dynamics in AI Knowledge Distillation
Laut Abstract leiten die Autorinnen und Autoren Grenzen für den Zuverlässigkeit-Sicherheit-Zielkonflikt und Dynamiken bei der Wissensdestillation her; bereitgestellt ist nur die Abstract-Seite, nicht der Volltext.
- Human in the loop is not yet an AI agent recovery plan
Laut einer Befragung von 25 Führungskräften reichen menschliche Freigaben nicht aus: Tests, Überwachung und Rekonstruktion von KI-Agentenaktionen sind vielfach unzureichend.
- The UK is ready to work across the wider UN membership to ensure emerging technologies help deliver safer seas: UK Statement at the UN Security Council
- CrowdStrike uncovers China-linked AI cyber campaign
CrowdStrike zufolge nutzte der China zugerechnete Akteur VAPOR PANDA ARTEX und Sprachmodelle für eine breit angelegte, menschlich beaufsichtigte Cyberkampagne; die berichteten Befunde und Bedrohungseinschätzungen stammen von CrowdStrike.
- Liability Could Rein In Rogue AI Agents. Current Law Falls Short.
- AI in combat: When humans are in the loop, but not in control
Wirksame menschliche Kontrolle über militärische KI erfordert laut Artikel mehr als ein formales Vetorecht: Sie braucht verständliche Systeme, geschultes Personal und Organisationen, die sorgfältige Prüfung ermöglichen und belohnen.
- AI’s rewiring of US warfare may be only the beginning
- Centre Seeks National Framework to Counter AI Deepfakes Ahead of 2027 Elections
- [Big read] Satire, deepfakes and virtual voters: AI enters Taiwan’s election race
- Japan asks Anthropic, OpenAI for more access to advanced models
Laut dem vorliegenden Berichtsauszug will Japan mehr Zugang zu Anthropic- und OpenAI-Modellen für Cybersicherheit und deren Einsatz in wesentlicher Infrastruktur fördern.
- ARTEX and Friends: Enter Agentic Offensive Frameworks
Laut GTIG und Mandiant automatisieren Frameworks wie ARTEX bereits Teile realer Cyberangriffe; sie sind derzeit oft laut und unausgereift, könnten sich aber weiterentwickeln, weshalb mehrschichtige Zugriffsbeschränkungen und Verhaltensüberwachung empfohlen werden.
- Towards understanding score-seeking in LLMs
- Designing Institutions for Autonomous AI
Der vorliegende Abstract-Auszug fordert, Institutionen für autonome KI-Agenten nach sieben Prinzipien zu gestalten und ihre Wirkung experimentell zu untersuchen.
- Misalignment Reports and Notices
Der vorliegende Auszug listet Berichte und Hinweise zu möglicher Modellfehlanpassung auf, enthält aber keine Details zu den Fällen.
- 《前沿人工智能安全与治理2026:风险认知与协同治理》_世界互联网大会
Die Ankündigung skizziert Ziele eines Berichts zu KI-Risiken und kooperativer Governance, enthält aber nicht dessen konkrete Analyse oder Ergebnisse.
- AI cyberattacks: a timeline of real cases
- China plans broad AI guardrails after global lapses
- Being a pain in the ass to (or in) AI companies is a real job now | Rob Wiblin
Die bereitgestellte Episodenseite, kein vollständiges Transkript, gibt Wiblins These wieder, dass interne Kritik und öffentlicher Druck KI-Unternehmen beeinflussen können und Verantwortlichmachen ein unterschätzter Berufsweg sei.
- Post by @NSACyber on X
- Post by @theobearman on X
- 国家发改委:AI全生命周期安全标准将建立
China kündigt umfassende KI-Sicherheitsregeln und begleitende Aufsicht sowie soziale Maßnahmen an, doch konkrete Vorschriften und ein Zeitplan stehen laut Bericht noch aus.
- Building on progress in China–USA talks on AI
- What is next for the US-China AI safety dialogue?
- Post by @PTI_News on X
- Measuring how AI agents handle everyday wet-lab science
Der Bericht beschreibt einen neuen Benchmark für KI-Analysen im Nasslabor: GPT‑6 Astra schneidet besser ab als ältere verglichene Modelle, macht aber weiterhin folgenschwere Fehler und gilt damit nicht als verlässliche Laborhilfe.
- Wholesale banks supervision - Insights 3 (Autumn 2026)
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- Building On Progress In China–USA Talks On AI - Analysis
- We’re Failing to Evaluate How Biologists Could Misuse AI
Ob KI erfahrene Biologinnen und Biologen bei echter Laborarbeit stärker unterstützt, ist bislang ungeklärt; der Bericht fordert dafür sichere, aussagekräftige Studien.
- The US and China Agreed to Warn Each Other About AI Incidents. Neither Defined an Incident.
Die USA und China kündigten laut Bericht einen Warnkanal für KI-Vorfälle an, dessen Auslöser, Empfänger und Folgen noch nicht definiert waren.
- Trump AI task force targets AI-powered cyberattack reporting
Die US-KI-Taskforce diskutiert Meldepflichten und rechtlichen Schutz bei Angriffen durch KI-Agenten, während der Bericht auf verspätete Offenlegungen und ein bald auslaufendes Gesetz zum Austausch von Bedrohungsinformationen hinweist.
- Mitigating the Risks of AI Integration Into Nuclear Weapons Operations
- Emerging Technologies, Nuclear-Conventional Entanglement, and Nuclear Risks: P5 and Implications for Nuclear Non-Proliferation
Der vorliegende Auszug gibt Yuans Warnung vor KI-bedingten Eskalationsrisiken und seine Forderung nach gemeinsamen Grenzen für KI in der nuklearen Führung wieder, ist aber nicht der vollständige Bericht.
- Reviving the Legacy of Reykjavík
Tómasdóttir und Pirc Musar rufen zu internationalem Dialog, Rechtsstaatlichkeit, menschlicher Kontrolle über Technologien und gemeinsamer Verantwortung für die Zukunft auf, räumen aber ein, dass Erklärungen allein keine Krisen lösen.
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- From Nuclear Weapons to Artificial Intelligence, a New Test of Humanity’s Restraint
- AI Arms Control in a Contested World
- Post by @METR_Evals on X
- Post by @rohanpaul_ai on X
- Disrupting deceptive uses of AI by covert influence operations
OpenAI berichtet, fünf verdeckte Einflussoperationen gestört zu haben, deren KI-Nutzung laut Unternehmen keine bedeutende Zunahme an echter Reichweite oder Engagement bewirkte.
- Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
DeepMind zufolge hat AlphaProof Code den Signal-Protokollcode formal verifiziert; der bereitgestellte Bericht enthält weitgehend den Artikel, endet aber mit einem abgebrochenen Bildhinweis.
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- a61b27e
Der vorliegende Auszug empfiehlt zielgruppengerechte und verantwortungsbewusste Dokumentation von ML-Datensätzen, einschließlich ihrer Zwecke, Verarbeitung und menschlichen sowie gesellschaftlichen Auswirkungen.
- Post by @OpenAI on X
- Update-Aware Reasoning in GLM-5.3: Training & Alignment Faking
Apollo berichtet von seltenem update-aware reasoning bei GLM-5.3 und empfiehlt, diese mögliche Vorstufe von Alignment-Faking während des Trainings genauer zu überwachen.
- The Long-Term Benefit Trust
Anthropic stellt einen unabhängigen Trust vor, der langfristige KI-Entscheidungen stärker am öffentlichen Nutzen ausrichten soll, betont aber, dass seine Governance-Struktur ein noch nicht erprobtes Experiment ist.
- JioStar’s chief architect on AI discovery at 500M-user scale
Laut JioStars Chefarchitekt soll ein sprachgestützter KI-Assistent die Suche nach Unterhaltung und Cricket-Inhalten verbessern; dafür seien fortlaufende Evaluation, Schutzregeln und menschliches Urteilsvermögen entscheidend.
- Post by @DavidSacks on X
- a81c481
Der Auszug stellt PAIs Bericht zu Auswirkungen von Foundation Models vor und skizziert Dokumentationspraktiken, Herausforderungen und Empfehlungen, enthält aber nicht den vollständigen Bericht.
- Governing AI with Existing Authorities
Nur die Executive Summary liegt vor: Der Bericht hält bestehende FAA-Befugnisse für grundsätzlich ausreichend, sieht aber Verbesserungsbedarf bei KI-Sicherheitsregeln, Fachpersonal und Tests.
- HAIP is transforming transparency from a compliance burden to a competitive advantage
Salesforce stellt den HAIP-Berichtsrahmen als möglichen Weg zu international abgestimmter, transparenter KI-Governance dar, ohne die erwarteten Wirkungen empirisch zu belegen.
- Mistral 7B
Mistral zufolge verbindet das frei lizenzierte Modell Mistral 7B hohe Benchmark-Leistung mit geringerem Rechen- und Speicherbedarf; die berichteten Werte stammen aus firmeneigenen Vergleichen, und die Chat-Version hat keine Moderation.
- China is open-sourcing its best AI models. Is that safe?
Laut Bericht sieht China derzeit Vorteile in offenen KI-Modellen, doch ihre Missbrauchsrisiken und die Wirksamkeit möglicher Schutzmaßnahmen sind nur unzureichend belegt und müssen neu bewertet werden.
- AI Act
Der vorliegende Auszug erklärt Ziel und Begründung des risikobasierten AI Act und nennt begleitende EU-Initiativen, ohne die konkreten Regeln näher darzustellen.
- Designing transparency for government AI: Insights from the UK’s Algorithmic Transparency Recording Standard initiative
Der Beitrag schildert den britischen ATRS als Instrument für mehr Transparenz beim behördlichen KI-Einsatz und betont, dass seine Weiterentwicklung Transparenz und Sicherheit zugleich berücksichtigen muss.
- AI openness: Balancing innovation, transparency and risk in open-weight models
Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.
- Post by @MOFCOM_China on X
- Responsibly Navigating the Enterprise AI Landscape
Der Auszug fasst Workshop-Ergebnisse zu drei Herausforderungen verantwortungsvoller KI-Einführung und vier Feldern für weitere Zusammenarbeit zusammen; konkrete Empfehlungen stehen laut Text im vollständigen Bericht.
- ed0e5ac
Der Berichtsauszug beschreibt Hürden und Leitgedanken für transparente ML-Dokumentation, ohne die Wirksamkeit der vorgeschlagenen Ansätze nachzuweisen.
- d1c8d57
Es liegt nur ein Auszug vor: ABOUT ML will die kontextgerechte Dokumentation von ML-Systemen fördern, doch abschließende, ausreichend belegte Best Practices stehen laut Text noch aus.
- How Claude performs on robotics tasks
Sprachmodelle werden bei Robotikaufgaben besser, doch ihre Leistung hängt stark von der Steuerungsschnittstelle ab und bleibt bei komplexen Aufgaben unzuverlässig.
- AI Board
Laut Bericht koordiniert und berät das AI Board zur EU-KI-Politik und zum AI Act; die Seite nennt Sitzungen und Fachpapiere, enthält aber keine unabhängige Wirksamkeitsbewertung.
- How are AI developers managing risks? Insights from responses to the reporting framework of the Hiroshima AI Process Code of Conduct
Der bereitgestellte Auszug kündigt vorläufige Erkenntnisse von 20 Organisationen zu einem freiwilligen KI-Berichtsrahmen an, enthält aber selbst keine konkreten Ergebnisse.
- Project Vend: Can Claude run a small shop?
- Funding update
METR meldet rund 71 Millionen US-Dollar an Förderzusagen und betont seine finanzielle Unabhängigkeit von führenden KI-Unternehmen, während diese kostenlose Tokens für Forschung und Evaluation bereitstellen.
- Post by @LuizaJarovsky on X
- FAR.AI Secures Over $30 Million in Multi-Funder Support to Scale Frontier AI Safety Research
- The Promise of White-Box Tools for Detecting and Mitigating AI Deception
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- How independent researchers could investigate AI propensities after misalignment incidents
METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.
- European approach to artificial intelligence
Die EU verbindet laut Bericht KI-Förderung mit Regulierung, doch die Seite nennt vor allem Ziele und Maßnahmen und führt uneinheitliche Daten zum KI-Gesetz an.
- Security
Der Auszug listet OpenAI-Sicherheitsthemen auf, liefert aber außer Titeln und einzelnen Datumsangaben keine Details zu Methoden oder Ergebnissen.
- Scientists Call For International Cooperation on AI Red Lines
- (Trial) Measures for Artificial Intelligence Technology Ethics Management Services (Draft for Public Feedback)
Der Bericht ist nur ein Auszug eines chinesischen KI-Ethikentwurfs; die sichtbaren Artikel formulieren Grundsätze und Fördermaßnahmen, während der vollständige Regelungstext laut Webseite als PDF bereitsteht.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →