- Making AI Work for Cyber Defense
Der bereitgestellte Auszug empfiehlt, ML-Cyberabwehr gegen Angriffe abzusichern und zugleich ihre Abhängigkeiten und den Zielkonflikt zwischen Genauigkeit und Robustheit zu steuern.
- How AI-native companies turn workflows into operating capability
Der Bericht empfiehlt, KI-Agenten in klar abgegrenzte, messbare Arbeitsabläufe einzubetten und sie mit Kontext, passenden Werkzeugen sowie menschlicher Prüfung zu verbinden; die genannten Unternehmensresultate sind nicht unabhängig belegt.
- Introducing GPT-5.2-Codex
OpenAI stellt GPT‑5.2‑Codex als leistungsfähigeres Modell für Programmierung und defensive Sicherheit vor, nennt aber keine Benchmarkzahlen und betont verbleibende Missbrauchsrisiken.
- Vague concepts in the EU AI Act will not protect citizens from AI manipulation
Der Bericht fordert klarere Regeln gegen KI-Manipulation, die psychologische Merkmale, Präferenzen, Täuschung und informierte Entscheidungen genauer erfassen.
- Introducing Trusted Contact in ChatGPT
„Trusted Contact“ soll laut OpenAI nach menschlicher Prüfung eine Vertrauensperson über mögliche ernste Selbstgefährdung informieren, bleibt optional und ersetzt keine professionelle Hilfe.
- Rolling out age prediction
OpenAI zufolge soll eine Altersprognose bei ChatGPT zusätzliche Jugendschutzmaßnahmen auslösen; der Bericht nennt keine Genauigkeits- oder Fehlerraten.
- The EU’s AI Act needs to address critical manipulation methods
Der Beitrag fordert einen breiteren Schutz vor manipulativen Empfehlungssystemen, räumt aber ein, dass ihre Wirkungen und Grenzen noch schwer zu bestimmen sind.
- The Defender’s Window
Brockman fordert Organisationen auf, KI zügig und kontrolliert zur Stärkung ihrer Cybersicherheit einzusetzen und geprüfte Erkenntnisse miteinander zu teilen.
- Do the biorisk evaluations of AI labs actually measure the risk of developing bioweapons?
Die bisherigen Biorisiko-Tests belegen laut den Autoren keine Befähigung von Laien zur Entwicklung biologischer Waffen, reichen wegen ihrer Grenzen und mangelnder Transparenz aber auch nicht aus, das Risiko auszuschließen.
- Introducing the Codex app
OpenAI beschreibt Codex als App zur parallelen Steuerung von Agenten, ergänzt um Skills, Automatisierungen und Sandbox-Regeln; laut einem späteren Hinweis ist sie inzwischen auch für Windows verfügbar.
- Harness engineering: leveraging Codex in an agent-first world
OpenAI berichtet, dass Codex ein internes Produkt ohne manuell geschriebenen Code entwickelte, wobei Werkzeuge, Dokumentation und feste Regeln die Agentenarbeit ermöglichten; die langfristige Tragfähigkeit ist laut Autor noch ungeklärt.
- Introducing GPT-5.5
OpenAI stellt GPT‑5.5 als leistungsfähigeres und effizienteres Modell für anspruchsvolle Computer- und Forschungsaufgaben vor, doch die Belege beruhen teils auf internen oder ausgewählten Tests und der Text enthält widersprüchliche Angaben zur API-Verfügbarkeit.
- Policy makers can enable AI for the fight against COVID-19
Der OECD-Beitrag sieht KI als mögliche Unterstützung in allen Phasen der COVID-19-Krise und fordert dafür Datenzugang, ausreichende Rechenleistung und vertrauenswürdige Systeme mit Schutz der Privatsphäre.
- Introducing Codex
OpenAI beschreibt Codex als cloudbasierten Programmieragenten und zeigt einen vorgeschlagenen Astropy-Fix; der Beitrag ist veraltet und weist selbst auf Grenzen seiner Leistungsbelege hin.
- OpenAI API
Der Beitrag von 2020 beschreibt OpenAIs API-Pläne für zugängliche Textgenerierung mit kontrolliertem Zugang, räumt Risiken wie Missbrauch und Verzerrungen ein und liefert keinen unabhängigen Wirksamkeitsnachweis.
- New and improved content moderation tooling
OpenAI stellt einen kostenlosen Moderations-Endpunkt für eigene API-Inhalte vor; Drittverkehr wird nicht unterstützt, und konkrete Leistungswerte nennt der Bericht nicht.
- Sora is here
Der Bericht beschreibt Sora Turbo und seine damaligen Funktionen und Schutzmaßnahmen, vermerkt aber ausdrücklich, dass Sora seit dem 26. April 2026 nicht mehr verfügbar ist.
- How to manage AI investments in the agentic era
Der OpenAI-Bericht empfiehlt, KI nach ihrem messbaren Arbeitsnutzen zu steuern und erst geprüfte, geregelte Abläufe gezielt auszuweiten.
- Our approach to data and AI
OpenAI legt seine eigenen Grundsätze zu Trainingsdaten, Urheberpräferenzen und Partnerschaften dar und kündigt Media Manager an, ohne dass der Bericht die Unternehmensangaben unabhängig überprüft.
- Continuously hardening ChatGPT Atlas against prompt injection
OpenAI sagt, automatisiertes Red Teaming habe neue Prompt-Injection-Angriffe auf Atlas aufgedeckt und zu einem Sicherheitsupdate geführt, betont aber, dass das Risiko bestehen bleibt.
- How evals drive the next chapter in AI for businesses
Der Bericht empfiehlt einen fortlaufenden Kreislauf aus Zielen festlegen, realistisch messen und verbessern, betont aber, dass es für kontextbezogene KI-Evals noch kein endgültiges Verfahren gibt.
- Understanding prompt injections: a frontier security challenge
OpenAI beschreibt Prompt Injection als fortbestehendes, ungelöstes Risiko und nennt technische Schutzschichten sowie vorsichtige Nutzung als Gegenmaßnahmen.
- Daybreak: Tools for securing every organization in the world
OpenAI will mit Daybreak Schwachstellenbehebung für geprüfte Verteidiger beschleunigen und nennt dafür eigene Nutzungs- und Benchmarkwerte, deren Aussagekraft in realen Abläufen noch untersucht werde.
- From model to agent: Equipping the Responses API with a computer environment
OpenAI stellt eine computerbasierte Umgebung für mehrstufige Agenten vor, doch die beschriebenen Vorteile sind Unternehmensangaben ohne unabhängige Evaluation im Bericht.
- Building more helpful ChatGPT experiences for everyone
OpenAI beschreibt Pläne für mehr Schutz bei psychischer Belastung und neue elterliche Kontrollen für Jugendliche, betont aber, dass die angekündigten Maßnahmen erst umgesetzt und weiterentwickelt werden sollen.
- OpenAI Japan announces Japan Teen Safety Blueprint to put teen safety first
OpenAI Japan kündigt zusätzliche Schutzmaßnahmen für Jugendliche an, nennt im Bericht aber keine Fristen oder unabhängigen Belege für deren Wirksamkeit.
- How ChatGPT learns about the world while protecting privacy
OpenAI erklärt, wie es Trainingsdaten und Datenschutzkontrollen handhabt, doch die Wirksamkeitsangaben im Bericht beruhen auf eigenen Aussagen des Unternehmens.
- What we’re optimizing ChatGPT for
OpenAI beschreibt ChatGPT als Werkzeug für konkrete Fortschritte und kündigt laufende Verbesserungen für gesunde Nutzung und Krisenunterstützung an, belegt deren Wirkung im Bericht aber nicht.
- OpenAI’s commitment to child safety: adopting safety by design principles
OpenAI sagt umfassendere Kinderschutzmaßnahmen für generative KI und jährliche Fortschrittsberichte zu, nennt aber keine konkreten Wirksamkeitsnachweise.
- Helping ChatGPT better recognize context in sensitive conversations
Laut OpenAI sollen neue Sicherheitsmaßnahmen ChatGPT helfen, sich über Gespräche entwickelnde Risiken besser zu erkennen; die berichteten Verbesserungen stammen aus internen Tests.
- OpenAI’s letter to Governor Newsom on harmonized regulation
OpenAI plädiert für einheitliche KI-Sicherheitsregeln in den USA und geringere doppelte Belastungen für Start-ups; der Bericht stellt die Position des Unternehmens dar, nicht eine unabhängige Prüfung.
- Addendum to o3 and o4-mini system card: Codex
Das kurze Addendum beschreibt Codex’ cloudbasierte Programmierumgebung und Prüf- und Exportmöglichkeiten, liefert aber keine unabhängigen Leistungsbelege; der bereitgestellte Text ist vollständig und keine Fehlerseite.
- Why Claude Fable 5 Keeps Silently Switching You to Opus 4.8 — and What Actually Triggers It
Der Artikel behauptet, dass Sicherheitsfilter Fable-5-Sitzungen teils wegen harmloser Inhalte dauerhaft auf Opus 4.8 umstellen, und empfiehlt getrennte Gespräche sowie gespeicherte Notizen als praktische Gegenmaßnahmen.
- I Installed the 144K-Star Karpathy CLAUDE.md File — Here’s What Changed
Laut einem einwöchigen Selbstversuch helfen vier klare Regeln Claude, weniger zu raten und ungefragt zu ändern, doch die begrenzten Beobachtungen belegen nicht alle Effekte eindeutig.
- Does Codex Train on Your Code? OpenAI Answered That Four Different Ways in Three Days.
Der Artikel sagt, OpenAIs Antworten ließen offen, ob Codex-Daten zum Training beitragen, und mahnt, die separate Trainingseinstellung für Codex-Vollumgebungen zu prüfen.
- GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double.
Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.
- Why AI Porn Is Impossible to Stop, From Someone Who Builds With It
Der Autor argumentiert, offene Bildmodelle machten die Erzeugung sexualisierter KI-Fälschungen kaum stoppbar, sodass vor allem Maßnahmen gegen ihre Verbreitung Schäden begrenzen könnten.
- 7 Rules for Self-Improving AI Agent Loops Every AI Engineer Should Know
Der Beitrag empfiehlt, selbstverbessernde Agenten an geschützten, aussagekräftigen Kriterien zu messen, denn sie optimieren den vorgegebenen Messwert und nicht automatisch die tatsächliche Nutzerqualität.
- Stop Prompting AI Agents. Start Designing Loops: The 14-Step Roadmap Every Developer Should Know
Der Bericht empfiehlt kleine, überprüfbare KI-Arbeitsabläufe für wiederkehrende Aufgaben und betont menschliche Kontrolle; die angekündigte 14-Schritte-Liste ist im Text nicht enthalten.
- Claude Code Hooks Change How You Write Code
Der Autor stellt Claude-Code-Hooks als flexible Schutz- und Automatisierungsregeln dar und empfiehlt, sie gezielt und sicher einzusetzen.
- You Are Evaluating Sovereign AI Wrong
Der Beitrag empfiehlt, KI-Souveränität anhand von Kontrolle über Rechenleistung, Daten, Modelle und Wechselmöglichkeiten zu prüfen, statt sie allein am Serverstandort oder an offenen Modellgewichten festzumachen.
- Post by @NSACyber on X
- Post by @NIST on X
- Post by @GovKathyHochul on X
- What Article 50 Actually Requires Before December 2: Text Watermarks, Detection Limits and the Grace Period
Laut Bericht müssen generative KI-Anbieter ihre Inhalte kennzeichnen, doch Wasserzeichen bleiben begrenzt zuverlässig und die Übergangsfrist für ältere Systeme endet am 2. Dezember.
- Does Grok Have a Watermark?
Der Beitrag zufolge markiert Grok bestimmte Bilder und API-Texte, lässt aber viele Ausgaben und Metadaten undokumentiert; ein fehlendes Wasserzeichen belegt daher nicht, dass kein Grok verwendet wurde.
- Marking, Provenance, Authenticity: Three Different Things
- EU AI watermark rule vs US law: no federal rule yet
- Targeted consultation on the draft revised election guidelines under the Digital Services Act (DSA)
Die EU-Kommission bittet bis zum 23. November 2026 um Stellungnahmen zu einem Entwurf für aktualisierte DSA-Leitlinien, der Wahlrisiken auf Plattformen eindämmen soll.
- IT Rules 2026: AI Content Labels, Deepfakes and Takedowns
- Commentary: EU AI watermarks from Dec 2, 2026
- Post by @ryangrim on X
- Exposing the Systematic Vulnerability of Open-Weight Models to Prefill Attacks
- Eyes Off My Data: Executive Summary
Der bereitgestellte Text ist die Executive Summary: Expertinnen und Experten sehen differenziell private föderierte Statistiken als möglichen Datenschutzbaustein für Fairnessprüfungen, aber nicht als Lösung für sämtliche Risiken demografischer Datenerhebung und algorithmischer Verzerrung.
- Architectural Backdoors for Within-Batch Data Stealing and Model Inference Manipulation
Der vorliegende Auszug beschreibt laut Autoren Hintertüren, die Daten und Antworten zwischen gemeinsam verarbeiteten Nutzeranfragen beeinflussen können, sowie eine formale Abwehr und mehr als 200 gefundene Modelle mit unbeabsichtigten Lecks.
- Claude Code Best Practices
Der nicht mehr gepflegte Anthropic-Beitrag empfiehlt strukturierte, iterative Arbeitsweisen mit Claude Code, kennzeichnet sie als kontextabhängige Erfahrungswerte und verweist für aktuelle Informationen auf die offizielle Dokumentation.
- AI agents find smart contract exploits
- Evaluating discrimination in language model decisions
- Going PLACES: Participatory Localized Red Teaming forText-to-Image Safety in the Global South
Der Abstract-Auszug stellt PLACES mit über 26.000 lokal erhobenen T2I-Fehlerbeispielen vor und argumentiert, dass Sicherheit kulturell angepasst und partizipativ entwickelt werden sollte.
- Scaling Trends for Lie Detector Oversight in Preference Learning
- Ask don't tell: Reducing sycophancy in large language models
Der bereitgestellte Abstract-Auszug behauptet, dass Fragen statt zustimmungsnah formulierter Nicht-Fragen Schmeichelei bei Sprachmodellen mindern können; konkrete Modell- und Effektangaben fehlen.
- Auditing Games for Sandbagging
- Large language models possess some ecological knowledge, but how much?
Sprachmodelle zeigen ökologisches Wissen, doch laut Bericht reichen ihre Fähigkeiten besonders bei räumlich präzisen und naturschutzrelevanten Aufgaben nicht für verlässliche Entscheidungen ohne externe Daten und menschliche Prüfung aus.
- Boundary Point Jailbreaking: A new way to break the strongest AI defences
Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.
- Pretraining Language Models with Human Preferences
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
- How do AI models persuade? Exploring the levers of AI-enabled persuasion through large-scale experiments
In kontrollierten Experimenten steigerten vor allem Post-Training und informationsreiche Argumente die Überzeugungskraft von KI, gingen aber auch mit geringerer Genauigkeit einher; die Wirkung im Alltag ist ungewiss.
- Introducing the Child Safety Blueprint
Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.
- Confidence-Building Measures for Artificial Intelligence
Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.
- Expanding our support for scientists
Anthropic will Claude-Zugänge und Forschungsguthaben ausweiten, während für Biologie und Chemie vorerst besondere Modellbeschränkungen gelten.
- Equipping agents with Agent Skills
- Effective harnesses for long-running agents
- Code execution with MCP for efficient agents
Der Bericht empfiehlt Codeausführung als möglichen Weg, MCP-Werkzeuge und ihre Daten effizienter zu nutzen, weist aber auf den nötigen Sicherheits- und Infrastrukturaufwand hin.
- A structured protocol for elicitation experiments
Das AISI will mit einer gemeinsamen Checkliste die systematische Ermittlung von KI-Fähigkeiten verbessern und fordert dafür gemeinsame Standards und Wissensaustausch.
- 3be39cc
Der Auszug empfiehlt, KI-Folgen für Arbeit und deren Verteilung systematisch und unter Beteiligung der Betroffenen zu bewerten.
- Statement on the comments from Secretary of War Pete Hegseth
Anthropic kündigt an, eine mögliche Einstufung als Lieferkettenrisiko wegen seiner Einwände gegen Massenüberwachung und vollautonome Waffen anzufechten, und erklärt, sie beträfe nach eigener Rechtsauffassung nur Claude-Nutzung für Aufträge des Kriegsministeriums.
- Comment on BIS Request for Information
Die CSET-Autoren befürworten zunächst IaaS-Kundenprüfungen und empfehlen, KI-Überwachung klarer zu begründen und international abzustimmen.
- Introducing Claude for Teachers
Anthropic stellt ein bis Juli 2028 kostenloses Claude-Angebot für verifizierte US-Lehrkräfte vor; seine Wirksamkeit soll noch untersucht werden, und für Schülerdaten gelten schulische und staatliche Vorgaben.
- Writing effective tools for AI agents
- The "think" tool for complex tool use
Anthropic zufolge kann ein strukturiertes „think“-Werkzeug komplexe Werkzeugaufgaben verbessern, doch es kostet zusätzliche Tokens und erweitertes Denken wird inzwischen meist bevorzugt.
- 72b7b84 - Partnership on AI
Der Schlussauszug warnt vor dem Einsatz algorithmischer Risikobewertungen bei Haftentscheidungen ohne strenge Standards, bessere Datengrundlagen und unabhängige Prüfung.
- 4a3bf11
Der Auszug fordert transparente, unabhängig prüfbare Risikobewertungswerkzeuge und zugleich Schutzmaßnahmen für veröffentlichte personenbezogene Daten.
- 5087157
Der vorliegende Auszug warnt, dass unklare Erklärungen und irreführend verstandene Risikostufen Fairness beeinträchtigen können, und fordert verständliche Anzeigen sowie weitere Nutzungsforschung.
- 97a388a - Partnership on AI
Der vorliegende Auszug warnt, dass Genauigkeit allein Risikobewertungen in der Strafjustiz nicht rechtfertigt, und hebt Validität, Gruppenverzerrungen sowie die problematische Übertragung von Gruppendaten auf Einzelpersonen hervor.
- 89c575f
Der Auszug zufolge sind heutige Risikobewertungen laut der überwiegenden Mehrheit der konsultierten Fachleute keine ausreichende Grundlage für Inhaftierung ohne individuelle Anhörung.
- Long-running Claude for scientific computing
- LegalOn halves Codex costs while maintaining development speed
LegalOn berichtet von rund 65 Prozent weniger geschätzten täglichen Codex-Kosten bei beibehaltener Entwicklungsgeschwindigkeit; die Messung des Kundennutzens pro KI-finanzierter Funktionsveröffentlichung ist noch in Arbeit.
- Paving the way for AI agents in biology
Laut dem Beitrag macht ein zuverlässiger, deterministischer Datenzugang biologische KI-Agenten beim Abruf viraler Sequenzen deutlich genauer und reproduzierbarer.
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok_4_code_rc1_safety_prompt.txt
Der vorliegende Auszug legt Ablehnungsregeln für bestimmte schädliche Aktivitäten und Wahrhaftigkeit bei Antworten fest, erläutert aber weder Umsetzung noch Wirksamkeit.
- U.S. Intervention in the UN Security Council Meeting on "Artificial Intelligence and International Security"
Kratsios’ Rede fordert nationale statt globale Steuerung von „Superintelligenz“ und setzt auf Einführung und Kompetenzaufbau; die politischen Aussagen werden im Bericht nicht unabhängig überprüft.
- 关于印发《人工智能生成合成内容标识办法》的通知_中央网络安全和信息化委员会办公室
- Assistant to the President and OSTP Director Michael Kratsios' Intervention in the U.N. Security Council's "Security Council meeting on artificial intelligence and international security"
- GLM-5.3
Der Bericht beschreibt GLM-5.3 als laut Z.ai leistungsfähigeres Modell für Programmierung und Cybersicherheit, dessen Benchmarkergebnisse Anbieterangaben sind und dessen Schlussfolgern stets aktiviert bleibt.
- If reliable AI content detection tools become available, should we use them? If so, how?
Der Beitrag fordert verlässliche KI-Erkennung und abgestufte Regeln für deren Einsatz, stellt seine Vorschläge aber als politische Diskussionsgrundlage dar.
- AI primer
TypeSafe wirbt für RLCD mit prüfbaren Entscheidungen und kalibrierter Unsicherheit in der Automatisierung, belegt die behaupteten Vorteile im Bericht aber nicht durch Vergleichsdaten.
- Everyone must understand the environmental costs of AI
Der Bericht fordert nachhaltigere KI durch weniger unnötige Daten und gezieltere Modelle, weist aber auf große Lücken bei der Messung der Umweltwirkungen hin.
- Our approach to advertising and expanding access to ChatGPT
OpenAI plant klar gekennzeichnete Anzeigen in bestimmten ChatGPT-Angeboten und verspricht, Antworten und Gespräche davon unabhängig zu halten; Testergebnisse liegen im Bericht noch nicht vor.
- How to handle GDPR data access requests in AI-driven personal data processing
Der Beitrag hält DSGVO-Auskunftsrechte auch bei KI für anwendbar und empfiehlt, die schwer zu bewältigenden Anfragen durch Risikobewertungen und Daten-Governance fallbezogen zu bearbeiten.
- Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice
Der vorliegende Abstract-Auszug warnt, dass maschinelles Unlearning keine allgemeine Lösung für politische Ziele wie das Entfernen bestimmter Informationen oder das Unterdrücken bestimmter Ausgaben ist.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →