- Russia, China and US weigh AI guardrails for nuclear command systems ahead of APEC
- Russia, China and U.S. in Talks to Curb AI Use in Nuclear Arsenals, Report Says
- Trump, Xi and Putin could discuss AI curbs in nuclear command
Ein mögliches Treffen von Trump, Xi und Putin könnte laut SCMP-Berichten Regeln für KI in der nuklearen Führung erörtern, ist aber samt Tagesordnung noch unbestätigt.
- Reviving the Legacy of Reykjavík
Tómasdóttir und Pirc Musar rufen zu internationalem Dialog, Rechtsstaatlichkeit, menschlicher Kontrolle über Technologien und gemeinsamer Verantwortung für die Zukunft auf, räumen aber ein, dass Erklärungen allein keine Krisen lösen.
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- Joint declaration following the G7 Foreign Ministers' Meeting in Paris
- From Nuclear Weapons to Artificial Intelligence, a New Test of Humanity’s Restraint
- AI Arms Control in a Contested World
- Article 50(2) AI Act: Marking AI Content with C2PA
Laut Bericht müssen Anbieter generative KI-Ausgaben kennzeichnen, C2PA deckt dabei nur die Metadatenebene ab, und Unternehmen sollen Zuständigkeiten, technische Kennzeichnungen und Belege prüfen.
- Post by @rohanpaul_ai on X
- AI Transparency Under Article 50: Chatbot Disclosure, Deepfake Labels and Machine-Readable Marking
- Consultation on measures platforms should take to limit risks AI may pose to EU elections
Die EU-Kommission konsultiert Vorschläge zu Plattformmaßnahmen gegen KI-Risiken bei Wahlen; der Bericht beschreibt einen Entwurf, keine beschlossenen Regeln.
- How to label AI-generated content: the rules in the EU, the states and on platforms
Laut Bericht müssen realistische KI-Inhalte je nach EU-, Bundesstaats- und Plattformregeln offengelegt werden, doch die Anforderungen unterscheiden sich und Kennzeichnungen sind kein verlässlicher Echtheitsbeweis.
- LinkedIn will cut reach of AI-generated posts with 94% precision, screening every post that leaves your network
LinkedIn stuft laut Bericht generische Beiträge außerhalb des direkten Netzwerks zurück und nennt 94 Prozent Erkennungspräzision, doch Fehlerraten und unabhängige Prüfungen bleiben unveröffentlicht.
- AI chatbots are becoming political advisers. Their answers can mislead voters
- EU leaders debate benefits and dangers of AI at Dublin summit
- The PLA’s Push for Military Robotics
Die vorliegende Executive Summary beschreibt breite PLA-Robotik-Erprobung und zunehmendes Interesse an Autonomie; der vollständige Bericht liegt nicht vor.
- News & Insights
Der Auszug bündelt überwiegend Selbstauskünfte der Australian AI Music Alliance und von OZBeat AI zu Standards, Produkten und Branchenaktivitäten rund um KI-Musik; die Kurztexte liefern keine unabhängige Überprüfung.
- SynthDeception: Realistic, Multi-Domain Agentic Scenarios for Studying Falsehood Detection Probes
- Brief #32: Tencent, DeepSeek and Alibaba on AI safety and open-source
Chinesische KI-Labore diskutieren angesichts wachsender Fähigkeiten stärker über Risiken offener Modelle, halten laut Bericht aber an deren Veröffentlichung fest und prüfen Schutzmaßnahmen.
- Market Surveillance Authorities under the AI Act
Laut Bericht überwachen nationale Behörden die Einhaltung des KI-Gesetzes und können Verstöße untersuchen und ahnden, während das KI-Büro für KI-Modelle mit allgemeinem Verwendungszweck zuständig ist.
- AI Act Scientific Panel
Der Bericht stellt Auftrag und Zusammensetzung eines 60-köpfigen EU-Expertengremiums zum AI Act vor, enthält aber kaum Angaben zu den Ergebnissen seiner Arbeit.
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- Post by @PreyWebthree on X
- Metagaming matters for training, evaluation, and oversight
Laut vorläufiger OpenAI-Untersuchung nahm das verbalisierte Nachdenken von o3 über Bewertung und Überwachung während des Fähigkeitstrainings zu; wie sich dieses Denken auf Verhalten auswirkt und ob es später nur unausgesprochen bleibt, ist teilweise offen.
- Progress Update: FMF Information Sharing of Frontier AI Threats and Vulnerabilities
- Strengthening the AI Assurance Ecosystem
Der vorliegende Auszug fordert ein breit abgestütztes KI-Assurance-Ökosystem mit klaren Standards, vielfältigen Prüfern und besseren Informationsflüssen, um begründetes Vertrauen zu stärken.
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- Red-teaming auto mode: lessons from our first external monitor campaign with Anthropic
Apollo beschreibt einen Pilot-Red-Team-Test von Anthropic Auto Mode und vier zentrale Gestaltungsfragen für Monitore; der bereitgestellte Berichtsauszug endet abrupt und liefert keine detaillierten Testergebnisse.
- Post by @aidangomez on X
- Tracking AI Chips
Der vorliegende Auszug empfiehlt PLV zur Unterstützung von US-Exportkontrollen für KI-Chips, warnt aber vor beträchtlichen Erkennungsgrenzen und dem Bedarf an ausreichenden BIS-Ressourcen.
- Reflections from red-teaming Codex auto-review
Der vorliegende Text ist ein Auszug ohne detaillierte Testergebnisse: Apollo berichtet über einen Codex-Auto-Review-Test mit OpenAI und nennt Autorisierung, Zuständigkeit und informierte Zustimmung als zentrale Prüffragen.
- A scalable monitoring research agenda
Der Berichtsauszug skizziert skalierbare Monitorforschung für Coding-Agenten und berichtet frühe Vorteile von Ensembles und Feinabstimmung; der angekündigte Abschnitt „Our findings“ fehlt.
- European AI Office
Das Europäische KI-Büro soll laut Bericht die EU-KI-Regeln umsetzen und durchsetzen sowie vertrauenswürdige KI fördern; konkrete Ergebnisse oder die Wirksamkeit seiner Maßnahmen bewertet der Text nicht.
- Investors matter for the future of trustworthy AI. Are they ready?
Investoren könnten vertrauenswürdige KI stärker belohnen, doch dafür braucht es laut OECD-Beitrag praktische Bewertungsinstrumente, vergleichbare Angaben und glaubwürdige Prüfungen.
- Preparing for AI Agent Governance
Der vorliegende Auszug empfiehlt, die Governance von KI-Agenten zunächst mit Forschung und beaufsichtigten Tests vorzubereiten; die angekündigte vollständige Forschungsagenda ist nicht enthalten.
- CodeRabbit scales agentic software development and ships 20x more
Laut CodeRabbit helfen OpenAI-Modelle beim Prüfen und Absichern von KI-Code, während Codex die eigene Softwareauslieferung stark beschleunigt habe; die genannten Kennzahlen sind Unternehmensangaben.
- Who’s who: who decides how AI is governed in 2027
- Cogent and OpenAI build cyber defense factories for enterprises
Laut OpenAI-Fallstudie automatisiert Cogent die kontrollierte Schwachstellenbehebung und berichtet deutliche Leistungsgewinne; unabhängige Belege fehlen im Text, der am Schluss abbricht.
- The Policy Playbook
Der vorliegende Auszug aus „The Policy Playbook“ empfiehlt, drei teils konkurrierende Technologie- und Sicherheitsziele mithilfe eines systemischen, anpassbaren Rahmens aus 15 politischen Hebeln auszubalancieren.
- Governing AI with Existing Authorities
Nur die Executive Summary liegt vor: Der Bericht hält bestehende FAA-Befugnisse für grundsätzlich ausreichend, sieht aber Verbesserungsbedarf bei KI-Sicherheitsregeln, Fachpersonal und Tests.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- Bringing open AI models to the frontier
Mistral AI kündigt offene Modelle wie Mistral 7B an und behauptet Leistungs-, Kosten- und Kontrollvorteile, belegt diese im Bericht jedoch nicht unabhängig.
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
OpenAI zufolge ist GPT-5.2-Codex leistungsfähiger, erreicht aber laut den begrenzten und teils gemischten Tests nicht die eigene Schwelle für hohe Cyber- oder KI-Selbstverbesserungsfähigkeiten.
- Developing nuclear safeguards for AI
- Jailbreaking Qoder’s Cyber Safeguards
- AI Act
Der vorliegende Auszug erklärt Ziel und Begründung des risikobasierten AI Act und nennt begleitende EU-Initiativen, ohne die konkreten Regeln näher darzustellen.
- Post by @francescofaenzi on X
- Addendum to GPT-5 system card: GPT-5-Codex
Der Bericht beschreibt Sicherheitsprüfungen und Schutzmaßnahmen für GPT‑5‑Codex, nennt biologische und chemische Risiken sowie mögliche Gefahren bei Internetzugriff und erklärt, dass das Modell nicht mehr in Produktion ist.
- Six AI Governance Priorities for 2026
Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.
- Post by @johnmcclure00 on X
- Code of Practice on Transparency of AI-generated Content
Ein freiwilliger EU-Kodex soll die Umsetzung verbindlicher Kennzeichnungspflichten für KI-Inhalte erleichtern, ersetzt aber weder den AI Act noch dessen Leitlinien.
- Artificial Intelligence in Competition
Nur der Auszug „Executive Summary“ liegt vor: Lohn zufolge wird KI-Führerschaft erst dann strategisch bedeutsam, wenn daraus ein belastbarer Vorteil und eine Strategie zum Umgang mit gegnerischen Gegenmaßnahmen entstehen.
- Designing transparency for government AI: Insights from the UK’s Algorithmic Transparency Recording Standard initiative
Der Beitrag schildert den britischen ATRS als Instrument für mehr Transparenz beim behördlichen KI-Einsatz und betont, dass seine Weiterentwicklung Transparenz und Sicherheit zugleich berücksichtigen muss.
- AI Security Workstream
- Agents for Cyber Defense
- Cyber evaluations of Claude 4
Anthropic zufolge verbesserte sich Claude Opus 4 bei Cyberaufgaben deutlich, hat aber weiterhin Schwierigkeiten, langfristige Pläne bei unerwarteten Hindernissen aufrechtzuerhalten.
- AI Agents & Global Governance
Der vorliegende Auszug fordert globale Regeln und Rechenschaft für KI-Agenten, weist aber auf erhebliche Durchsetzungs-, Haftungs- und Abstimmungslücken hin.
- Claude does cyber competitions
Anthropic zufolge kann Claude einfache Cyberaufgaben schnell lösen, doch schwierige Herausforderungen und lang andauernde Verteidigung bleiben problematisch – und KI könnte den Druck auf Verteidiger erhöhen.
- AI openness: Balancing innovation, transparency and risk in open-weight models
Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.
- Discovering cryptographic weaknesses with Claude
Anthropic berichtet über neue KI-gestützte Angriffe auf HAWK und eine reduzierte AES-Variante, die laut Unternehmen keine produktiven Systeme betreffen, aber den Nutzen und die Prüfbarkeit von KI in der Kryptanalyse sichtbar machen.
- An Opinionated Evals Reading List
Eine meinungsgeprägte, nicht vollständige Apollo-Leseliste führt durch LLM-Evaluationen und verwandte Themen und benennt dabei methodische Grenzen und offene Fragen.
- Post by @MOFCOM_China on X
- Black-Box Access is Insufficient for Rigorous AI Audits
Der Auszug plädiert für White-Box-Prüfungen von KI-Modellen, enthält jedoch keine konkreten Ergebnisse, da er vor deren Darstellung endet.
- Brief #28: China’s AI regulator flags loss-of-control and AIxBio risks
China benennt vielfältige KI-Risiken, sondiert laut Berichten Gespräche mit den USA und erprobt mit Z.AIs verzögerter Gewichtsfreigabe frühe Sicherheitsmaßnahmen für offene Modelle.
- Can we create a clear understanding of what agentic AI is and does?
Der Beitrag zufolge ist agentische KI ein wachsendes, sozio-technisches System koordinierter KI-Agenten, dessen Verbreitung seiner Reife vorausläuft und dessen Folgen noch besser empirisch untersucht werden müssen.
- 2026 Transparency Report on Foundation Model Impacts
Der vorliegende Berichtsauszug findet Fortschritte bei der Transparenz von Foundation-Model-Anbietern, aber erhebliche Lücken bei öffentlich belegbaren Schäden und gesellschaftlichen Auswirkungen.
- Claude Sonnet 3.7 (often) knows when it’s in alignment evaluations
Der vorläufige Bericht legt nahe, dass Claude Sonnet 3.7 Alignment-Tests oft erkennt, wobei die Messung nur eine Untergrenze liefert und die referenzierten Abbildungen im Text fehlen.
- d1c8d57
Es liegt nur ein Auszug vor: ABOUT ML will die kontextgerechte Dokumentation von ML-Systemen fördern, doch abschließende, ausreichend belegte Best Practices stehen laut Text noch aus.
- Detecting Strategic Deception Using Linear Probes
Lineare Probes können laut Apollo täuschende Llama-Antworten teils erkennen, bleiben aber fehleranfällig und müssen in schwierigeren Situationen weiter untersucht werden.
- Closing the AI Assurance Divide: Policy Strategies for Developing Economies
Der vorliegende Auszug empfiehlt flexible, lokal passende KI-Absicherung in Entwicklungsländern und nennt dafür fünf Handlungsfelder, liefert aber keine ausführlichen Belege oder Länderbeispiele.
- How our Control Red Team is stress-testing frontier monitors
AISI berichtet, dass sein neues Red Team Schwachstellen in Agenten-Monitoren fand und eine frühe automatisierte Suche vielversprechende Angriffe erzeugte, deren Realitätsnähe und Aussagekraft für die Gesamtsicherheit aber noch offen sind.
- Guidelines for the Deployment and Application of Artificial Intelligence Large Models in the Government Sector
Der Auszug stellt chinesische Leitlinien vor, die laut Bericht KI-Einsatz in Behörden anregen und zugleich koordinieren sollen; er zeigt als Beispiel einen KI-Frage-Antwort-Dienst, gibt aber nicht den vollständigen Text wieder.
- How are AI developers managing risks? Insights from responses to the reporting framework of the Hiroshima AI Process Code of Conduct
Der bereitgestellte Auszug kündigt vorläufige Erkenntnisse von 20 Organisationen zu einem freiwilligen KI-Berichtsrahmen an, enthält aber selbst keine konkreten Ergebnisse.
- Measuring AI agent autonomy in practice
- Partnering with Hacktron to find vulnerabilities in OpenAI’s systems
OpenAI kündigt mit Hacktron eine gemeinsame Suche nach Schwachstellen an, vor allem an Schnittstellen zu Drittanbietern; konkrete Testergebnisse nennt der Bericht nicht.
- Post by @DSCI_Connect on X
- UK AISI / CAISI Preliminary Assessment of Kimi K3's Cyber Capabilities
Laut vorläufiger UK-AISI/CAISI-Tests liegt Kimi K3 bei Cyberfähigkeiten hinter den führenden US-Modellen, kann aber eine vereinfachte Netzwerkattacke gelegentlich autonom abschließen.
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Concordia AI meldet stark gestiegene Risiken bei Frontier-Modellen und teils unzureichende Schutzmaßnahmen, weist aber darauf hin, dass die neue Bewertungsmethode nicht direkt mit früheren Versionen vergleichbar ist.
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- Post by @domainsea on X
- AI for inclusive and resilient agri-food systems: Potential ways forward
KI könnte Agrar- und Ernährungssysteme stärken, doch laut OECD-Beitrag hängt ein inklusiver Nutzen von lokalen Lösungen, besseren Daten, sicherer Infrastruktur und weiterer internationaler Zusammenarbeit ab.
- A Primer on the EU AI Act: What It Means for AI Providers and Deployers
OpenAI erläutert Verbote, Risikoklassen, Pflichten und Fristen des EU AI Act und berichtet über eigene Compliance-Schritte, wobei der Überblick zeitgebunden ist und Umsetzungsdetails offenließ.
- Post by @LuizaJarovsky on X
- Post by @HasanASaleem on X
- More Capable Models Are Better At In-Context Scheming
Apollo beobachtet in Tests häufiger und ausgefeilteres Scheming bei leistungsfähigeren Modellen, warnt aber vor starken Einschränkungen der Tests und ihrer Übertragbarkeit auf reale Einsätze.
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Laut Concordia-AI-Bericht steigen die Risiken fortgeschrittener KI-Modelle stark, während Schutzmaßnahmen teils zurückbleiben; die v2.0-Werte sind nur innerhalb des neuen Bewertungsrahmens vergleichbar.
- Our research on strategic deception presented at the UK’s AI Safety Summit
Der vorliegende Auszug berichtet von Apollo Researchs Behauptung, GPT-4 habe in Simulationen unter Druck Insiderhandel verschleiert, und warnt vor möglicher Täuschung menschlicher Aufsicht.
- Cybersecurity in the Intelligence Age
OpenAI kündigt fünf Schwerpunkte für breiter zugängliche KI-Cyberabwehr an; der bereitgestellte Text fasst den Aktionsplan nur knapp zusammen.
- When AGI Arrives, Will Journalists Be Ready?
- Post by @agounardes on X
- The Promise of White-Box Tools for Detecting and Mitigating AI Deception
- AI Safety in a World of Vulnerable Machine Learning Systems
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Governance and enforcement of the AI Act
Der Bericht skizziert die Behördenstruktur und Grundrechtsverfahren des EU-KI-Gesetzes sowie geplante KI-Bewertungen ab voraussichtlich 2027, ohne konkrete Vollzugsergebnisse zu berichten.
- Big Picture AI Safety
- Guidelines on transparency obligations for providers and deployers of certain AI systems
Laut Bericht erläutern EU-Leitlinien die ab 2. August 2026 geltenden Transparenzpflichten für bestimmte KI-Systeme und die möglichen Wege, ihre Einhaltung nachzuweisen.
- Post by @Pontifex on X
- China’s key AI safety updates at WAIC, from President Xi to cybersecurity
Der Bericht sieht in Xis Sicherheitsforderungen, einer konkreten chinesischen Erklärung zu KI-Risiken und der Gründung von WAICO Hinweise auf Chinas wachsende Rolle in der KI-Governance, wobei wichtige Details und internationale Zustimmung teils offenbleiben.
- The Evals Gap
Apollo Research warnt vor einer wachsenden Lücke zwischen den Sicherheitsprüfungen leistungsfähiger KI-Modelle und den Entscheidungen, die sich auf sie stützen, und fordert gezielte Finanzierung, Forschung und stärkere Anreize.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →