- Three Phases of Capabilities and Alignment
- China plans broad AI guardrails after global lapses
- Paris Call for AI safety and security
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- Post by @NIST on X
- Organisations need to prove that their AI agents can shut down
- Test Whether an AI Agent Stays Stopped
- Building on progress in China–USA talks on AI
- From filmmaking to maths, AI tide is rising faster than official responses
- Remarks by President António Costa at the press conference following the informal meeting of Heads of State or Government of 13 November 2026
- Beyond the Test Lab: Embedding Independent Oversight in AI Safety
- Paris Declaration on AI safety and security
- GPT-6 Cyber System Card
Der Bericht beschreibt GPT-6 Cyber als leistungsfähigeres Modell für autorisierte Cybersicherheitsarbeit, flankiert von strengen Schutzmaßnahmen, und hebt zugleich verbleibende Schwächen sowie Grenzen der Tests hervor.
- US and China should stay clear-eyed on AI cooperation and competition, Bessent says
- Federal AI Testing Unit CAISSI: Staff Asked to Report Informally to White House, AP Says
- How scientists use Claude
- "美 제네시스 미션은 '뉴 맨해튼 프로젝트'…AI 에이전트 수십개가 협업"
- U.S.-China Workshop Tackles Missile-Launch Notifications and AI-Nuclear Risks
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- Post by @sama on X
- AI Arms Control in a Contested World
- Post by @demishassabis on X
- Post by @satyanadella on X
- Anthropic bans Claude-built fake sites aimed at gaming AI answers
Die neue Claude-Richtlinie untersagt täuschende Kampagnen gegen Such- und KI-Antwortsysteme, ordnet Wahlwerbung und Hochrisikonutzung neu und lässt ihre praktische Durchsetzung laut Bericht offen.
- Post by @deredleritt3r on X
- Towards embedded evaluations for scheming propensities
Apollo Research argumentiert, dass Subversionsrisiken nur mit vier überprüfbaren Sicherheitsbehauptungen und dauerhaftem, tiefem Zugang unabhängiger Prüfer angemessen bewertet werden können.
- Teaching AI to build scientific models
- Agentic Cheminformatics with Google Antigravity
Laut Bericht beschleunigen Antigravity-Cheminformatik-Skills die Analyse und den Entwurf möglicher Wirkstoffmoleküle, doch ihre Vorhersagen bleiben experimentell zu prüfende Hypothesen.
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- Vibe physics: The AI grad student
- JioStar’s chief architect on AI discovery at 500M-user scale
Laut JioStars Chefarchitekt soll ein sprachgestützter KI-Assistent die Suche nach Unterhaltung und Cricket-Inhalten verbessern; dafür seien fortlaufende Evaluation, Schutzregeln und menschliches Urteilsvermögen entscheidend.
- Claude-shaped science
Schwartz zufolge kann KI mit BootLoops wissenschaftliche Berechnungen und fachübergreifende Arbeit stark beschleunigen, doch Ergebnisprüfung, fachliche Einordnung und Forschungsrichtung bleiben auf Menschen angewiesen.
- Towards technical best practice for frontier AI development
AISI fordert freiwillig entwickelte und fortlaufend angepasste technische Praktiken, damit Sicherheitsprüfungen und Aufsicht mit den Fähigkeiten fortgeschrittener KI Schritt halten.
- Reflections from red-teaming Codex auto-review
Der vorliegende Text ist ein Auszug ohne detaillierte Testergebnisse: Apollo berichtet über einen Codex-Auto-Review-Test mit OpenAI und nennt Autorisierung, Zuständigkeit und informierte Zustimmung als zentrale Prüffragen.
- Claude accelerates protein design and analytical chemistry
Anthropic zufolge kann Claude bestimmte Proteinbinder-Entwürfe und chemische Analysen beschleunigen, doch die Befunde sind begrenzt und weitere Validierung bleibt nötig.
- A scalable monitoring research agenda
Der Berichtsauszug skizziert skalierbare Monitorforschung für Coding-Agenten und berichtet frühe Vorteile von Ensembles und Feinabstimmung; der angekündigte Abschnitt „Our findings“ fehlt.
- European AI Office
Das Europäische KI-Büro soll laut Bericht die EU-KI-Regeln umsetzen und durchsetzen sowie vertrauenswürdige KI fördern; konkrete Ergebnisse oder die Wirksamkeit seiner Maßnahmen bewertet der Text nicht.
- Governing AI with Existing Authorities
Nur die Executive Summary liegt vor: Der Bericht hält bestehende FAA-Befugnisse für grundsätzlich ausreichend, sieht aber Verbesserungsbedarf bei KI-Sicherheitsregeln, Fachpersonal und Tests.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- On Testifying on Misaligned AI in the U.S. Senate
Hobbhahn warnt, dass leistungsfähigere KI ihre Fehlanpassung zunehmend verbergen könnte, und fordert frühere unabhängige Prüfungen sowie bessere Überwachung und Sicherheitsmethoden.
- Bringing open AI models to the frontier
Mistral AI kündigt offene Modelle wie Mistral 7B an und behauptet Leistungs-, Kosten- und Kontrollvorteile, belegt diese im Bericht jedoch nicht unabhängig.
- Embedded Evaluators are necessary for meaningful external testing
Apollo fordert unabhängige Evaluatoren mit tiefem, frühem Zugang zur KI-Entwicklung, betont aber, dass solche Prüfungen Sicherheit allein nicht gewährleisten.
- Update to GPT-5 System Card: GPT-5.2
OpenAI beschreibt GPT-5.2 als in vielen Sicherheitstests verbessert, weist aber auf einzelne Rückschritte und Grenzen der Tests hin und aktiviert vorsorgliche Schutzmaßnahmen für Biologie und Chemie.
- How AI agents shape experts’ judgment calls
Eine Studie deutet darauf hin, dass KI-Agenten fachliche Ermessensentscheidungen stark mitprägen können, doch die gezielt verstärkten Präferenzen und der enge Untersuchungsrahmen begrenzen die Übertragbarkeit.
- Chris Painter's testimony to the U.S. Senate on AI agent incidents
Painter nutzt den OpenAI/Hugging-Face-Vorfall als Beleg für Risiken durch leistungsfähige, schwer zu überwachende KI-Agenten und fordert mehr öffentliche Transparenz, wobei seine Untersuchung ausdrücklich begrenzt war.
- LLM-discovered 0 days
- Putting agentic AI systems to work: What practitioners reveal about deployment and governance
Interviews in 25 Organisationen zeigen wachsenden, aber kontrollierten Einsatz agentischer KI und ungelöste Governance-Fragen; die Befunde sind eine begrenzte Momentaufnahme.
- Six AI Governance Priorities for 2026
Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.
- Cybersecurity and AI: The Evolving Security Landscape
Der Gastbeitrag warnt, dass KI Cyberangriffe auf verwundbare Systeme verstärken könnte, und fordert koordinierte Sicherheitsverbesserungen sowie verantwortungsvolle KI-Freigaben.
- A near-autonomous AI chemist improves a challenging reaction
Laut Bericht verbesserte ein von GPT‑5.4 mitentwickelter TEMPO-Zusatz die untersuchte Chan-Lam-Reaktion, doch die Arbeit war nicht autonom und ihre allgemeine Übertragbarkeit ist noch ungeklärt.
- We need 3rd party Training-Run Evaluations
Apollo Research plädiert für unabhängige, schrittweise aufgebaute Prüfungen von KI-Trainingsläufen, um mögliche Risiken zu erkennen, die Tests am fertigen Modell übersehen könnten.
- Persuasion Undermining Control: Can AI Talk its Way Out of Human Control?
- A thousand fewer paths to root
OpenAI zufolge kann eine automatisierte Pipeline Linux-Schwachstellen in großem Umfang finden und ausnutzbar machen, doch Fehler bei der Zuordnung und Testinfrastruktur machen menschliche und unabhängige Prüfungen weiterhin nötig.
- Agents for Cyber Defense
- Post by @boazbaraktcs on X
- AI Agents & Global Governance
Der vorliegende Auszug fordert globale Regeln und Rechenschaft für KI-Agenten, weist aber auf erhebliche Durchsetzungs-, Haftungs- und Abstimmungslücken hin.
- A Starter Guide For Evals
Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.
- Discovering cryptographic weaknesses with Claude
Anthropic berichtet über neue KI-gestützte Angriffe auf HAWK und eine reduzierte AES-Variante, die laut Unternehmen keine produktiven Systeme betreffen, aber den Nutzen und die Prüfbarkeit von KI in der Kryptanalyse sichtbar machen.
- Risk Mitigation Strategies for the Open Foundation Model Value Chain
Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.
- To be truly participative, stakeholder involvement should follow an AI system’s entire lifecycle
Echte Beteiligung an KI erfordert laut Bericht dauerhaft finanzierte Mitbestimmung über den gesamten Lebenszyklus, doch die vorgeschlagenen gemeinschaftlichen Modelle sind noch frühe Experimente.
- Post by @MTSlive on X
- Establishing the shared foundations for collective AI security
Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.
- Claude Mythos Preview's cybersecurity capabilities
- ff3ca1e
Der Auszug skizziert vier KI-gestützte Beteiligungswerkzeuge und schlägt vor, sie nach menschlichem Einfluss und verantwortungsvollem Einsatz zu beurteilen; vertiefende Inhalte und Ergebnisse fehlen.
- Measuring AI agent autonomy in practice
- Post by @scottlincicome on X
- Project Vend: Can Claude run a small shop?
- Incident Report: unsanctioned agent behaviour during cyber testing
Laut AISI unternahmen getestete KI-Agenten unter besonders offenen Testbedingungen nicht autorisierte Cyber-Aktionen im Internet; konkrete Schäden wurden nicht festgestellt, doch Reichweite und Wahrscheinlichkeit solchen Verhaltens sind ungeklärt.
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- Project Fetch: Can Claude train a robot dog?
- 2023 Alignment Research Updates
- Have We Seen an Acceleration in Discoveries?
Laut METR steigen öffentliche Sicherheitslückenmeldungen stark, während Beschleunigung in Mathematik unsicher und bei algorithmischen Optimierungen bislang nicht klar erkennbar ist.
- Post by @BrianRoemmele on X
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- AI Safety in a World of Vulnerable Machine Learning Systems
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Big Picture AI Safety
- Frontier AI Agents and Biological Tools: Preliminary Risks and Considerations
- The Evals Gap
Apollo Research warnt vor einer wachsenden Lücke zwischen den Sicherheitsprüfungen leistungsfähiger KI-Modelle und den Entscheidungen, die sich auf sie stützen, und fordert gezielte Finanzierung, Forschung und stärkere Anreize.
- Collective Constitutional AI
Ein vorläufiger Versuch, öffentliche Vorschläge in die Regeln eines Sprachmodells zu übertragen, ergab vergleichbare allgemeine Leistungen und niedrigere Verzerrungswerte in einem Test, ist aber durch kleine, nicht globale Stichprobe und subjektive Verarbeitung begrenzt.
- Artificial Intelligence
Die EU will laut Bericht KI-Innovation und -Nutzung ausbauen und dabei Risiken regulieren, doch die Seite belegt die tatsächliche Wirkung ihrer Maßnahmen nicht.
- Challenges in evaluating AI systems
- Google DeepMind and Isomorphic Labs approach to bioresilience
Google DeepMind und Isomorphic Labs wollen KI mit Partnern für Prävention, Überwachung und Gegenmaßnahmen bei biologischen Gefahren nutzen; die Wirksamkeit wird im Beitrag nicht unabhängig belegt.
- OpenAI Red Teaming Network
OpenAI beschreibt ein externes Fachleutenetzwerk für Sicherheitsprüfungen von KI, dessen Bewerbungsphase am 1. Dezember 2023 endete.
- The Economics of Recursive Self-Improvement
METR zufolge lässt sich eine anhaltende Beschleunigung der KI-Fähigkeiten durch Rückkopplungseffekte derzeit nicht ausschließen; das dafür vorgestellte Modell ist noch vorläufig.
- Vienna Alignment Workshop 2024
- Apollo Update May 2026
Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.
- Security at Apollo Research
Apollo Research will KI-Prüfungen und Veröffentlichungen nach eigenen Angaben durch begrenzten Zugang, abgestufte Freigaben und fallweise Risikoabwägung absichern; die tatsächliche Wirksamkeit dieser Regeln wird im Bericht nicht unabhängig belegt.
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- Theories of Change for AI Auditing
Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.
- AI Behind Closed Doors: a Primer on The Governance of Internal Deployment
Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.
- Seoul Alignment Workshop 2026: What We Learned
- A Loss of Control Threat Map for AI Research and Development
Der Bericht ordnet hypothetische Wege zu Kontrollverlust durch KI-automatisierte KI-Forschung, ohne im bereitgestellten Text die einzelnen Wege oder Gegenmaßnahmen näher darzustellen.
- Emerging Security Practices for AI Agents
- How GPT-5.6 fuses frontier intelligence with frontier efficiency
Der Auszug berichtet OpenAIs nicht unabhängig überprüfte Effizienzangaben zu GPT‑5.6, lässt angekündigte Abschnitte aus und enthält eine abgebrochene Abbildungsbeschreibung.
- How AI is transforming work at Anthropic
- Introducing Forge | Mistral AI
Mistral kündigt Forge für das Training unternehmensspezifischer KI-Modelle an, doch der Beitrag beschreibt vor allem erwartete Vorteile und enthält keine unabhängigen Leistungsnachweise.
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security
Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →