- The components of agent memory
Anthropic zufolge können Claude-Notizen und nachträgliches „Dreaming“ das sitzungsübergreifende Gedächtnis verbessern, doch Nutzen und Risiken hängen von Aufgabe, Aktualität und Umfang ab.
- Post by @liambraus on X
- OpenAI says its new cybersecurity model is better at not hacking other companies
- Cyber chief: UK facing AI-powered attacks on critical infrastructure within two years
- Advisories
- Jailbreak Rating Framework for Frontier Cyber Threats
- Our Most Aligned Model Yet
- Here’s who is falling in line for Trump’s “Super Intelligence” loyalty test
- An AI agent attacked a real GitHub repo in a safety test. Telling it to stop barely worked
- Post by @me_deepu on X
- Introducing the FMF Jailbreak Rating Framework for Frontier Cyber Threats
- Independent Assessment of AI R&D Acceleration at Anthropic in October 2026
METR schätzt eine etwa verdoppelte Fortschrittsrate bei Anthropic und einen großen, aber unsicheren KI-Anteil; umfangreiche Schwärzungen und die begrenzte Aussagekraft von Benchmarks schränken die öffentliche Prüfung ein.
- UN Security Council to focus on AI under Latvia’s first-ever presidency
Lettlands erste UN-Sicherheitsratspräsidentschaft plant im November Beratungen zu KI und mehreren Krisen, während die Botschafterin globale KI-Regeln der UN-Generalversammlung zuordnet.
- Russia and US seek to block plan for binding rules on autonomous weapons
- Post by @tedlieu on X
- Three Phases of Capabilities and Alignment
- AI incident verification records | VSO
Die 64 Prüfstände dokumentieren ein breites Spektrum KI-bezogener Vorfälle und Streitfälle, betonen aber, dass viele Zuschreibungen, Schäden und Ursachen unbestätigt oder noch ungeklärt sind.
- Information for Frontier Developers
- rh-model-signing
`rh-model-signing` soll Modellintegrität und Herkunft über Signaturen, Hashvergleiche und Sigstore-Transparenz prüfbar machen; der Bericht dokumentiert Funktionen und Beispiele, aber keinen unabhängigen Wirksamkeitsnachweis.
- Cequence Security and KPMG outline governance for AI agents
Der Bericht empfiehlt eine laufende, unabhängige Kontrolle von KI-Agenten und berichtet von besseren Ergebnissen in einem begrenzten Prototyptest.
- Developers have been hacking around MCP’s file-upload problem for two years. A fix is taking shape.
Ein experimenteller MCP-Entwurf soll Dateiübertragungen standardisieren, ist aber noch vorläufig und lässt Sicherheitsfragen zu Upload-Zielen offen.
- CrowdStrike launches AI kill switch to shut down rogue agents
- AI Agents Are in Production. Agent Accountability Is Not.
- Organisations need to prove that their AI agents can shut down
- Test Whether an AI Agent Stays Stopped
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- Super Intelligence: Supervisory Framework
- Post by @theobearman on X
- Inter-Agent Influence: Can AI Agents Persuade, Deceive, and Coerce Each Other?
- Worse Together: How Performance Breaks Down in Multi-User Multi-Agent Teams
In den untersuchten Simulationen koordinierte eine zentrale Assistenz gemeinsame Aufgaben erfolgreicher als persönliche Agententeams, deren Schwächen sich je nach Umgebung unterschieden.
- Review of the "Risks from automated R&D" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen unmittelbaren Katastrophenrisikos, hält aber eine bereits erreichte Frühwarnschwelle für plausible und warnt vor weiterer Beschleunigung.
- Post by @PTI_News on X
- US midterm shift could squeeze China on AI, bring clarity to bilateral talks
- GSA MAS Refresh #34 to bring an end to 20-Year Contract Limits
Laut Bericht sollte GSA-MAS-Refresh 34 die 20-jährige Vertragslaufzeitgrenze abschaffen und weitere Klausel- und SIN-Änderungen einführen, wobei einzelne Maßnahmen noch von Freigaben oder Abstimmungen abhingen.
- Beyond the Test Lab: Embedding Independent Oversight in AI Safety
- OCC issues supervisory Framework on use of AI
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- Nonprofits sue five AI developers to halt more capable models
Vier Organisationen verlangen vor Gericht eine Pause für leistungsfähigere KI, gestützt auf behauptete Risiken und Kontrollverluste; entschieden ist darüber laut Bericht noch nicht.
- Post by @FicusAgentLtd on X
- Post by @eosnos on X
- White House task force urges 12-month liability relief for AI cyber reports
Die KI-Taskforce des Weißen Hauses empfiehlt bedingten Haftungsschutz für freiwillige Cybermeldungen über mindestens zwölf Monate sowie eine langfristige Verlängerung des einschlägigen US-Gesetzes; ob die Vorschläge umgesetzt werden, bleibt offen.
- Trump AI task force targets AI-powered cyberattack reporting
Die US-KI-Taskforce diskutiert Meldepflichten und rechtlichen Schutz bei Angriffen durch KI-Agenten, während der Bericht auf verspätete Offenlegungen und ein bald auslaufendes Gesetz zum Austausch von Bedrohungsinformationen hinweist.
- Mitigating the Risks of AI Integration Into Nuclear Weapons Operations
- U.S.-China Workshop Tackles Missile-Launch Notifications and AI-Nuclear Risks
- China, Russia and US try to nail down AI nuclear agenda in time for Apec talks
- Trump, Xi and Putin could discuss AI curbs in nuclear command
Ein mögliches Treffen von Trump, Xi und Putin könnte laut SCMP-Berichten Regeln für KI in der nuklearen Führung erörtern, ist aber samt Tagesordnung noch unbestätigt.
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- L'IA dans les conflits : l'heure est venue de « désarmer » l'IA - Commissaire aux droits de l'homme
- AI Arms Control in a Contested World
- Announcing the CAI Ecosystem Explorer
Die CAI stellt ein noch unvollständiges Verzeichnis marktreifer Content-Credentials-Anwendungen vor, das laut Bericht ein breiteres Bild als die Liste formal C2PA-konformer Implementierungen bieten soll.
- AI Image Watermarks: SynthID, C2PA and Who Can Verify
- Article 50(2) AI Act: Marking AI Content with C2PA
Laut Bericht müssen Anbieter generative KI-Ausgaben kennzeichnen, C2PA deckt dabei nur die Metadatenebene ab, und Unternehmen sollen Zuständigkeiten, technische Kennzeichnungen und Belege prüfen.
- From Representations to Computational Trajectories: Intrinsic Fingerprinting for Large Language Model Provenance Verification
Der Abstract-Auszug zufolge soll TrFP LLMs anhand ihrer Repräsentationsverläufe kompakt und robust auf Herkunft prüfbar machen; Details zur unabhängigen Bewertung fehlen.
- Does Grok Have a Watermark?
Der Beitrag zufolge markiert Grok bestimmte Bilder und API-Texte, lässt aber viele Ausgaben und Metadaten undokumentiert; ein fehlendes Wasserzeichen belegt daher nicht, dass kein Grok verwendet wurde.
- Marking, Provenance, Authenticity: Three Different Things
- AI Transparency Under Article 50: Chatbot Disclosure, Deepfake Labels and Machine-Readable Marking
- EU AI watermark rule vs US law: no federal rule yet
- Post by @AmbassadorRice on X
- Commission proposes pre-election algorithm tests and stronger safeguards against deepfakes
Ein noch nicht angenommener Kommissionsentwurf soll den Wahlschutz bei sehr großen Online-Diensten durch Algorithmustests, Deepfake-Kennzeichnungen und Nachwahlberichte konkretisieren, ohne selbst verbindliche Regeln für alle Websites einzuführen.
- Consultation on measures platforms should take to limit risks AI may pose to EU elections
Die EU-Kommission konsultiert Vorschläge zu Plattformmaßnahmen gegen KI-Risiken bei Wahlen; der Bericht beschreibt einen Entwurf, keine beschlossenen Regeln.
- Deepfakes Are Dominating Global Elections, and Regulation Is Playing Catch-Up
- Wesleyan: $187M on AI Midterm Ads, 90% From GOP, 27% Disclose
Laut Wesleyan flossen im US-Wahlzyklus 2026 rund 187 Millionen Dollar in KI-gestützte politische Anzeigen, überwiegend von republikanischen Akteuren, doch wegen vieler fehlender Kennzeichnungen dürfte die Erfassung unvollständig sein.
- Commission Guidance on Article 50 Transparency Obligations (EU AI Act)
Der Bericht beschreibt die nicht bindende Kommissionsauslegung der Transparenzpflichten für Anbieter und Betreiber nach Artikel 50 des EU-KI-Gesetzes, einschließlich Kennzeichnung, Offenlegung, Ausnahmen und Fristen.
- IT Rules 2026: AI Content Labels, Deepfakes and Takedowns
- Why AI ads and foreign meddling did not seem to sway the US midterm elections
- How to label AI-generated content: the rules in the EU, the states and on platforms
Laut Bericht müssen realistische KI-Inhalte je nach EU-, Bundesstaats- und Plattformregeln offengelegt werden, doch die Anforderungen unterscheiden sich und Kennzeichnungen sind kein verlässlicher Echtheitsbeweis.
- AI Disclosure in Ads: EU Labeling Rules 2026
Laut Bericht brauchen nicht authentische KI-Darstellungen von Menschen oder realen Ereignissen einen sichtbaren oder hörbaren Hinweis; Metadaten und Plattformlabels helfen, ersetzen ihn aber nicht.
- AI disclosure label
Der Bericht schildert, wie sichtbare KI-Kennzeichnungen für Werbung zunehmen, aber durch uneinheitliche Regeln, lückenhafte Erkennung und praktische Umsetzungsprobleme begrenzt bleiben.
- Beyond Detection: The Challenge of Governing AI Slop
- AI Rules Now Treat Fake Commercial Buzz Like Election Fraud
Laut Bericht zieht Anthropic seine Regeln gegen Täuschung auf kommerzielle Kampagnen aus, und der Autor rät Werbetreibenden zu mehr Transparenz und Kontrolle ihrer Abläufe.
- Platforms Suppress Sameness, Not AI: Audit Creator Output
- EU DSA election guidelines consultation: AI risks
Die EU konsultiert neue DSA-Wahlleitlinien gegen KI- und Manipulationsrisiken; Forschungsbezug, endgültiger Zeitplan und spätere Berichtsform bleiben laut Bericht begrenzt beziehungsweise offen.
- AI Act Omnibus Sets 2 December Deadline For Deepfake Watermarks
Laut Bericht greifen am 2. Dezember 2026 das Nudifier-Verbot und die Wasserzeichenpflicht für bestimmte ältere KI-Systeme, während Hochrisiko-Fristen verschoben wurden und die Unternehmen weiter Dokumentations- und Risikoprüfungen leisten müssen.
- Map of Science
Der vorliegende Auszug stellt eine öffentliche, regelmäßig aktualisierte Forschungskarte vor, nennt aber keine näheren Belege für ihre berichteten Verbesserungen oder Vorhersagen.
- Creator Grants
Die CAIS-Webseite beschreibt ein Förderprogramm für YouTube-Videos über KI-Risiken, mit redaktioneller Freiheit für Creator, aber verpflichtendem Förderhinweis und ohne Angaben zu Fördersummen oder Programmergebnissen.
- Changing how we measure AI chip inference performance
Der IPI soll Inferenzkapazität umfassender als FLOP/s vergleichen, liefert aber modellierte Hardwarepotenziale, deren Werte von Arbeitslasten und Annahmen abhängen.
- The PLA’s Push for Military Robotics
Die vorliegende Executive Summary beschreibt breite PLA-Robotik-Erprobung und zunehmendes Interesse an Autonomie; der vollständige Bericht liegt nicht vor.
- Towards embedded evaluations for scheming propensities
Apollo Research argumentiert, dass Subversionsrisiken nur mit vier überprüfbaren Sicherheitsbehauptungen und dauerhaftem, tiefem Zugang unabhängiger Prüfer angemessen bewertet werden können.
- Post by @it_is_pjs on X
- Claude can design electronic prototypes from start to finish
Anthropic zufolge kann Claude inzwischen mit wenig Anleitung Elektronik-Prototypen entwerfen, doch die drei gezeigten Geräte sind noch nicht umfassend geprüft oder für die Massenproduktion ausgelegt.
- Disrupting deceptive uses of AI by covert influence operations
OpenAI berichtet, fünf verdeckte Einflussoperationen gestört zu haben, deren KI-Nutzung laut Unternehmen keine bedeutende Zunahme an echter Reichweite oder Engagement bewirkte.
- Market Surveillance Authorities under the AI Act
Laut Bericht überwachen nationale Behörden die Einhaltung des KI-Gesetzes und können Verstöße untersuchen und ahnden, während das KI-Büro für KI-Modelle mit allgemeinem Verwendungszweck zuständig ist.
- a5250a6 - Partnership on AI
Der Auszug dokumentiert die geplante Einladung und Durchführung eines Beschaffungspanels zur Prüfung von PAI-Empfehlungen für mehr Transparenz bei maschinellem Lernen, enthält aber keine Ergebnisse.
- AI Act Scientific Panel
Der Bericht stellt Auftrag und Zusammensetzung eines 60-köpfigen EU-Expertengremiums zum AI Act vor, enthält aber kaum Angaben zu den Ergebnissen seiner Arbeit.
- Teaching AI to build scientific models
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- A Crossroads, Not an Island: A Response to Hanoch Dagan
Hitzig und Weyl verstehen Autonomie als gemeinschaftlich geprägt und argumentieren, dass *Radical Markets* dieses Ideal fördern könne, obwohl das Buch es nach eigener Einschätzung nur teilweise verwirklicht.
- Post by @Paul__Walsh on X
- Post by @PapaRichens on X
- Demand and Incentives for External AI Assurance
Der vorliegende Auszug besagt, dass unabhängige KI-Prüfungen vor allem durch Regulierung, Haftung und Marktnachfrage wachsen könnten, während Zugangsbarrieren sie bremsen und Versicherungen nur begrenzt helfen.
- Metagaming matters for training, evaluation, and oversight
Laut vorläufiger OpenAI-Untersuchung nahm das verbalisierte Nachdenken von o3 über Bewertung und Überwachung während des Fähigkeitstrainings zu; wie sich dieses Denken auf Verhalten auswirkt und ob es später nur unausgesprochen bleibt, ist teilweise offen.
- AI tools for Cities | Shaping Europe’s digital future
Die EU-Seite beschreibt digitale Zwillinge und KI als Hilfen für kommunale Planung, nennt mehrere Einsatzfelder, weist aber keine konkreten Ergebnisse nach.
- Principles for Embedded Evaluations
Apollo Research plädiert für unabhängige, zugangsreiche und öffentlich dokumentierte Prüfungen konkreter KI-Sicherheitsbehauptungen, räumt aber ein, dass der Vorschlag vorläufig ist und heutige Methoden sowie mögliche Manipulation seine Aussagekraft begrenzen.
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- Red-teaming auto mode: lessons from our first external monitor campaign with Anthropic
Apollo beschreibt einen Pilot-Red-Team-Test von Anthropic Auto Mode und vier zentrale Gestaltungsfragen für Monitore; der bereitgestellte Berichtsauszug endet abrupt und liefert keine detaillierten Testergebnisse.
- Eyes Off My Data: Conclusion
Der vorliegende Schlussabschnitt empfiehlt, datenschutzfreundliche Statistik als begrenzte Unterstützung umfassender Fairnessprüfungen einzusetzen und dabei Zweck, Beteiligung, Schutz und Speicherdauer sorgfältig festzulegen.
- JioStar’s chief architect on AI discovery at 500M-user scale
Laut JioStars Chefarchitekt soll ein sprachgestützter KI-Assistent die Suche nach Unterhaltung und Cricket-Inhalten verbessern; dafür seien fortlaufende Evaluation, Schutzregeln und menschliches Urteilsvermögen entscheidend.
- Post by @arpit_bhayani on X
- Eyes Off My Data: Executive Summary
Der bereitgestellte Text ist die Executive Summary: Expertinnen und Experten sehen differenziell private föderierte Statistiken als möglichen Datenschutzbaustein für Fairnessprüfungen, aber nicht als Lösung für sämtliche Risiken demografischer Datenerhebung und algorithmischer Verzerrung.
- Architectural Backdoors for Within-Batch Data Stealing and Model Inference Manipulation
Der vorliegende Auszug beschreibt laut Autoren Hintertüren, die Daten und Antworten zwischen gemeinsam verarbeiteten Nutzeranfragen beeinflussen können, sowie eine formale Abwehr und mehr als 200 gefundene Modelle mit unbeabsichtigten Lecks.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →