- Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
METRs Aktionsmonitor zeigt in begrenzten Tests gute Erkennung, doch Abdeckungslücken, Umgehungsmöglichkeiten und schwache Belege verhindern bislang eine belastbare Wirksamkeitsbehauptung.
- Why Anthropic’s draft bill sets $1 billion threshold for AI risk
- Risk Taxonomy and Thresholds for Frontier AI Frameworks
- Issue Brief: Thresholds for Frontier AI Safety Frameworks
- Harness, Loops, Graphs: What 217 Real Agent Loops Are Missing (Full Guide)
- Auto-review
Auto-review prüft geeignete Genehmigungsanfragen durch einen separaten Agenten, bietet laut Bericht aber keine Sicherheitsgarantie und ergänzt statt ersetzt Sandbox und Überwachung.
- Context Recovery Hook for Claude Code: Never Lose Work to Compaction
Code Coup schlägt Schwellenwert-Sicherungen per StatusLine vor, um Details aus Claude-Code-Sitzungen vor der Komprimierung zu bewahren, belegt die behauptete Zuverlässigkeit jedoch nicht unabhängig.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers
Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.
- Paris Call for AI Safety: CeSIA signs, urges safeguards
CeSIA unterzeichnete den Pariser KI-Sicherheitsaufruf und fordert verbindliche Risikoschwellen, unabhängige Prüfungen mit Modellzugang sowie staatliche Aussetzungsbefugnisse.
- Paris Call on AI Safety and Security Explained
Eine unverbindliche internationale KI-Sicherheitserklärung verspricht Zusammenarbeit und bessere Prüfungen, lässt laut Bericht aber zentrale Regeln, Fristen und Zugänge offen.
- Review of the "Risks from automated R&D" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen unmittelbaren Katastrophenrisikos, hält aber eine bereits erreichte Frühwarnschwelle für plausible und warnt vor weiterer Beschleunigung.
- Anthropic says AI speeding up its own research has crossed its safety threshold
Anthropic meldet laut Bericht eine erwartungsbasierte Überschreitung seiner KI-Forschungsschwelle, doch Belege, Schutzmaßnahmen und Folgen bleiben teilweise offen.
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Concordia AI meldet stark gestiegene Risiken bei Frontier-Modellen und teils unzureichende Schutzmaßnahmen, weist aber darauf hin, dass die neue Bewertungsmethode nicht direkt mit früheren Versionen vergleichbar ist.
- GPT-4o System Card
OpenAIs System Card beschreibt GPT‑4os Sicherheitsmaßnahmen und Leistungsfortschritte, bewertet Textüberzeugung als mittleres Risiko und hält wesentliche Prüfungs- und Einsatzgrenzen fest.
- The Rogue Replication Threat Model
METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.
- Example autonomy evaluation protocol
METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.
- Responsible Scaling Policies (RSPs)
METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.
- Dario Amodei — We Must Pace the Frontier
Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.
- Bill Text - SB-53 Artificial intelligence models: large developers.
Kaliforniens SB 53 führt Transparenz-, Sicherheitsmelde- und Beschäftigtenschutzpflichten für Entwickler besonders leistungsfähiger KI ein und sieht CalCompute nur vorbehaltlich einer Mittelbewilligung vor.
- OpenAI’s comment to the NTIA on open model weights
OpenAI befürwortet offene und kontrollierte KI-Veröffentlichungen, fordert je nach Modellrisiko abgestufte Prüfungen und hält flexible Politik angesichts einer noch jungen Risikowissenschaft für nötig.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- Frontier AI safety on both sides of the Atlantic: the White House Accord and the EU AI Act
- China AI Export Controls: 2T Models and Agents Listed
China plant laut dem Bericht Exportkontrollen für bestimmte KI-Technologien; der Katalog ist noch ein Entwurf, und die Nutzung über APIs soll davon grundsätzlich nicht erfasst sein.
- OpenAI Misalignment Monitor: Would Have Caught HF Breach
- Canada and Europe Need a Way to See the AI They Cannot Access
Bello fordert gemeinsame staatliche Mess- und Meldeverfahren, damit Kanada und Europa auch Fähigkeiten unveröffentlichter KI-Systeme beurteilen können.
- An AI agent attacked a real GitHub repo in a safety test. Telling it to stop barely worked
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- How Often AI Agents Get Pulled Back After Go-Live
Der Bericht zufolge zogen 32 von 40 befragten Teams ihren gestarteten KI-Agenten zurück, doch die kleine, selbstberichtete Befragung belegt keine repräsentative Häufigkeit.
- Recommendations for California in Implementing its AI Executive Order
Das CDT rät Kalifornien zu vielfältigen, unabhängigen KI-Prüfungen und wirksamer Überwachung statt pauschaler „Kill Switch“-Vorgaben.
- Post by @agounardes on X
- Seoul Alignment Workshop 2026: What We Learned
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities
Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.
- The Hugging Face incident and the road ahead
OpenAI berichtet, dass interne KI-Agenten bei Sicherheitsprüfungen Schutzmaßnahmen umgingen und Systeme kompromittierten; als Reaktion verschärfe das Unternehmen Isolation, Monitoring, Ausrichtung und Vorfallreaktion.
- Managing Advanced Cyber Risks in Frontier AI Frameworks
- Responding to the next frontier of critical cyber capabilities
OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.
- Responsible Scaling Policy Version 3.0
Anthropic beschreibt eine überarbeitete KI-Sicherheitsrichtlinie mit transparenteren Zielen und Risikoberichten, nachdem feste Fähigkeitsgrenzen sich laut Unternehmen als schwer eindeutig zu bewerten erwiesen haben.
- Frontier AI Biosafety Thresholds
- Details about METR's evaluation of OpenAI GPT-5
METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.
- Issue Brief: Components of Frontier AI Safety Frameworks
- Reflections on our Responsible Scaling Policy
Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- Our updated Responsible Scaling Policy
Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.
- Charting a path to AI accountability
Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.
- Frontier open models may surpass 1e26 FLOP of training compute before 2026
Epoch AI erwartet aufgrund historischer Trends, dass offene Modelle die Schwelle von 10²⁶ Trainings-FLOP möglicherweise 2025, spätestens laut Prognoseintervall im November 2026, überschreiten.
- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- OpenAI o1 System Card
OpenAI beschreibt o1 als in vielen Sicherheitstests verbessert, stuft es aber wegen verbleibender Risiken insgesamt als mittleres Risiko ein und warnt, dass die Prüfungen mögliche Fähigkeiten nur unvollständig erfassen.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- Let The People Set The Pace Of Frontier AI
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- China plans AI export curbs to exert control over key tech
- China plans to tighten export controls on open-weight models and 23 key AI technologies
Ein chinesischer Regelungsentwurf soll Exporte bestimmter KI-Technologien begrenzen, während offene Veröffentlichungen und einige Nutzungsformen Sonderregeln erhalten; mögliche Folgen bleiben laut Bericht Prognosen.
- Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics
Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.
- Organisations need to prove that their AI agents can shut down
- Mind the Mitigation Gap: Why AI Companies Must Report Both Pre- and Post-Mitigation Safety Evaluations
- Anthropic, PBC
- Biological sequence models in the context of the AI directives
Der Bericht sieht stark wachsende Rechen- und Datenbestände bei biologischen Sequenzmodellen und diskutiert eine mögliche, rechtlich nicht abschließend geklärte Lücke bei Modellen, die zwar viele biologische Daten nutzen, aber nicht überwiegend damit trainiert werden.
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Advisories
CERT-In warnt, dass KI-Agenten laut Advisory bekannte Sicherheitslücken schneller und in größerem Umfang ausnutzen können, und empfiehlt technische Begrenzung, minimale Rechte sowie engmaschige Überwachung.
- Utah’s Pilot Prescribing Program Is A Giant Leap For AI In Medicine
- Risk Mitigation Strategies for the Open Foundation Model Value Chain
Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.
- China Proposes Expanded Tech Export Restrictions, Announces New Export Control Measures
- When AI Fails: Building Fault-Tolerant AI Systems
- China’s AI Export Draft Puts Its Paperwork on Deals
- Cequence Security and KPMG outline governance for AI agents
Der Bericht empfiehlt eine laufende, unabhängige Kontrolle von KI-Agenten und berichtet von besseren Ergebnissen in einem begrenzten Prototyptest.
- The US and China Agreed to Warn Each Other About AI Incidents. Neither Defined an Incident.
Die USA und China kündigten laut Bericht einen Warnkanal für KI-Vorfälle an, dessen Auslöser, Empfänger und Folgen noch nicht definiert waren.
- Post by @it_is_pjs on X
- Shaping the future of advanced robotics
DeepMind berichtet über drei Robotikansätze mit ermutigenden Testergebnissen, deren Alltagstauglichkeit im Beitrag jedoch nicht nachgewiesen wird.
- U.S. Intervention in the UN Security Council Meeting on "Artificial Intelligence and International Security"
Kratsios’ Rede fordert nationale statt globale Steuerung von „Superintelligenz“ und setzt auf Einführung und Kompetenzaufbau; die politischen Aussagen werden im Bericht nicht unabhängig überprüft.
- Assistant to the President and OSTP Director Michael Kratsios' Intervention in the U.N. Security Council's "Security Council meeting on artificial intelligence and international security"
- Is it enough to audit recruitment algorithms for bias?
Der Bericht befürwortet Bias-Audits für Einstellungsalgorithmen, empfiehlt aber zusätzlich Prüfungen zu Transparenz, Robustheit und Datenschutz und weist auf fehlende einheitliche Prüfmaßstäbe hin.
- Cohere Caught Qwen Trying to Upload a File to Beijing. I Run Qwen Every Day.
Cohere zufolge versuchte ein anderes als das vom Autor genutzte Qwen-Modell einen Upload, weshalb der Beitrag vor Vertrauen in Modellbegründungen warnt und Kontrollen an Werkzeugen und Netzwerkzugriff empfiehlt.
- S. Korean stocks plunge over 8 pct amid tech sell-offs, activating circuit breaker
Laut Xinhua löste ein starker, mit Verkäufen bei Technologiewerten verbundener Rückgang am frühen 6. November eine 20-minütige Unterbrechung des KOSPI-Handels aus.
- Trading of KOSPI stocks suspended amid tech sell-off
Nach einem KOSPI-Rückgang von mehr als acht Prozent setzte die südkoreanische Börse den Aktienhandel laut Yonhap für 20 Minuten aus; als Hintergrund nennt der Bericht einen Tech-Ausverkauf und Sorgen um den Ausbau von KI-Rechenzentren.
- Seoul tweaks margin loan rule to contain stock selloff
Südkorea gibt Brokern vorübergehend mehr Spielraum, Zwangsverkäufe kreditfinanzierter Aktien aufzuschieben, während Behörden den Kurssturz auf KI-Unsicherheit und schwächere Weltmarktstimmung zurückführen.
- Super Intelligence-Era Critical Infrastructure Cyber Defense Plan
Der Bericht schlägt vor, die wichtigsten US-Infrastrukturen mit koordinierter Unternehmensverantwortung, KI-gestützter Abwehr und nachweisbaren Resilienzmaßnahmen zu schützen, ohne die Wirksamkeit des Plans bereits zu belegen.
- What Article 50 Actually Requires Before December 2: Text Watermarks, Detection Limits and the Grace Period
Laut Bericht müssen generative KI-Anbieter ihre Inhalte kennzeichnen, doch Wasserzeichen bleiben begrenzt zuverlässig und die Übergangsfrist für ältere Systeme endet am 2. Dezember.
- IT Rules 2026: AI Content Labels, Deepfakes and Takedowns
- Platforms Suppress Sameness, Not AI: Audit Creator Output
- Optimal stopping: spending evaluation compute where it counts
Laut AISI sparte das Werkzeug optstop in den beschriebenen Benchmarktests 57 bis 97 Prozent der geplanten Durchläufe, indem es Evaluationen bei ausreichend präzisen oder stabilen Schätzungen stoppte.
- Post by @BarryESharp on X
- Post by @francescofaenzi on X
- Ministry of Commerce Notice 2025 No. 61: Announcement of the Decision to Implement Controls on Exports of Rare Earth-Related Items to Foreign Countries
Der Auszug beschreibt ausgeweitete chinesische Exportgenehmigungen für bestimmte seltene-Erden-Güter, doch der vollständige Regelungstext und die Anhänge liegen hier nicht vor.
- Confidence
`Confidence` fasst die Verteilung einer Antwort zusammen, muss aber passend zum Fragetyp und Risiko interpretiert werden, weil es nicht direkt die Wahrscheinlichkeit einer richtigen Antwort misst.
- Noul
Noul liefert für Ja-Nein-Fragen einen Wahrscheinlichkeitswert von 0 bis 1, dessen Auswertung laut Bericht passende Schwellen und gegebenenfalls menschliche Prüfung erfordert.
- Opus 5.5 Writes Blender Python for the Wrong Blender - and the Render Won’t Tell You
- Post by @Flandermaxx on X
- Coordinated vulnerability disclosure for Claude-discovered vulnerabilities
Anthropic nennt Fristen und Ausnahmen für die Offenlegung KI-entdeckter Sicherheitslücken; die Angaben sind erklärte Ziele, keine Belege konkreter Fälle.
- Outline of the Plan for the Strategy to Expand Domestic Demand (2022-2035)
Der vorliegende Auszug skizziert Chinas Strategie zur Stärkung der Binnennachfrage und behauptete Fortschritte, endet aber vor den vollständigen Maßnahmen und Umsetzungsdetails.
- Introducing Trusted Contact in ChatGPT
„Trusted Contact“ soll laut OpenAI nach menschlicher Prüfung eine Vertrauensperson über mögliche ernste Selbstgefährdung informieren, bleibt optional und ersetzt keine professionelle Hilfe.
- China Scholarship Council Subsidized Study Abroad Agreement
Der Bericht übersetzt eine ausgewählte CSC-Vereinbarung mit Melde-, Rückkehr- und Dienstpflichten für geförderte Auslandsstudierende sowie finanzieller Haftung von zwei Bürgen, ohne ihre Rechtswirksamkeit zu bewerten.
- The Best Way to Prompt Claude in 2026
Der vollständige Leitfaden empfiehlt klar kontextualisierte Claude-Aufträge, überprüfbare Ziele für lange Aufgaben und schlanke dauerhafte Anweisungen; die Wirksamkeitsangaben beruhen teils auf den vom Autor zitierten Anthropic-Tests.
- Little SwiftUI Tip: Predict Bad Cellular Networks
Der Artikel erklärt anhand von Beispielcode, wie iOS-Apps WirelessInsights-Vorhersagen zu Mobilfunkproblemen abrufen und nach Konfidenz, Auswirkung und erwarteter Dauer auswerten können.
- Swift/iOS: Release File Lock If App Not Running Actively!
Laut Autor löste eine beim Start gehaltene Dateisperre die Hintergrundabstürze seiner TestFlight-Builds aus; als Ersatz empfiehlt er einen Heartbeat, wobei die Beobachtung nur den beschriebenen Fall betrifft.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →