- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Our approach to AI safety
OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.
- Strengthening ChatGPT’s responses in sensitive conversations
OpenAI zufolge reagiert GPT‑5 in sensiblen psychischen Gesprächen besser, doch die berichteten Messwerte sind wegen seltener Fälle, schwieriger Erfassung und eigens herausfordernder Tests nur begrenzt verallgemeinerbar.
- Designing AI agents to resist prompt injection
Laut Bericht sollen KI-Agenten gegen Prompt Injection nicht nur durch Erkennung, sondern vor allem durch Begrenzung riskanter Handlungen geschützt werden.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- Detecting misbehavior in frontier reasoning models
OpenAI zufolge kann CoT-Überwachung Reward Hacking aufdecken, während starke Bestrafung unerwünschter Gedanken Modelle dazu bringen kann, ihre Absichten zu verbergen.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- Usage policies
OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- Design Tenets for Agent Identity Management Systems
- Model Cards as Security Route-Admission Inputs
- AI Agent Security: Threats, Guardrails, Controls
- AI agent evaluation: why passing benchmarks isn’t enough
- How to Govern Generative AI at a US Bank After SR 26-2
- Community safety report and new protections for teens
OpenAI kündigt neue Gewaltpräventionsmaßnahmen und einen Sicherheitsbericht für 2027 an; ihre Wirksamkeit ist in diesem Artikel noch nicht belegt.
- SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry
- OCC issues supervisory Framework on use of AI
- Post by @francescofaenzi on X
- Sora 2 System Card
OpenAI zufolge bietet Sora 2 neue Video- und Audiofunktionen mit mehreren Schutzebenen, doch Tests und Maßnahmen schließen schädliche oder täuschende Ausgaben nicht vollständig aus.
- Claude Mythos Preview's cybersecurity capabilities
- Strengthening cyber resilience as AI capabilities advance
OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- Trusted access for the next era of cyber defense
OpenAI baut verifizierten KI-Zugang für Cyberverteidiger aus und führt GPT‑5.4‑Cyber zunächst begrenzt ein; die berichteten Erfolge und Sicherheitsbewertungen sind OpenAIs eigene Angaben.
- Scaling Trusted Access for Cyber with GPT-5.5 and GPT-5.5-Cyber
OpenAI stellt TAC als Standard für die meisten verifizierten Verteidigungsaufgaben und GPT‑5.5‑Cyber als streng kontrollierte Vorschau für spezialisierte Abläufe dar, ohne die gezeigten Resultate unabhängig zu belegen.
- Sora System Card
OpenAIs Bericht beschreibt Soras Fähigkeiten und Schutzmaßnahmen, nennt deren Testwerte, räumt aber Umgehungsmöglichkeiten und Grenzen ein, ohne eine unabhängige Bestätigung der Wirksamkeit vorzulegen.
- Chain of Thought Monitorability
- Fable 5's cyber safeguards and our jailbreak framework
Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.
- Usage Policy update
Anthropic will seine Nutzungsrichtlinie ab dem 15. September 2025 präzisieren, politische Inhalte gezielter begrenzen und bestehende Schutzregeln für Cyber-, Strafverfolgungs- und Hochrisikofälle klarer erläutern.
- Updating our Usage Policy
Anthropic kündigt klarere Nutzungsregeln mit zusätzlichen Schutzvorgaben für Hochrisikoanwendungen und Minderjährige sowie ausdrücklichen Verboten für Wahlmanipulation, bestimmte biometrische Analysen und staatliche Zensur an.
- Introducing Claude Opus 5
Anthropic zufolge verbessert Claude Opus 5 Leistung und Effizienz bei unverändertem Grundpreis, bleibt aber bei bestimmten Cyber- und Biologierisiken hinter Mythos 5 zurück.
- https://docs.x.ai/grok-bot/approvals-security-and-privacy.md
Der Bericht empfiehlt enge Freigaberegeln für Grok Bot, weist aber auf gemeinsam genutzte Cloud-Daten, mögliche Kartenzahlungen ohne Einzelbestätigung und von Cursor abhängige Datenschutzbedingungen hin.
- https://www.edpb.europa.eu/system/files/documents/2024-12/edpb_opinion_202428_ai-models_en.pdf
- Improving the safety of generative model output
Apple zufolge brauchen generative Apps neben eingebauten Guardrails eigene, getestete und regelmäßig überprüfte Schutzmaßnahmen, da kontextabhängige Risiken bestehen bleiben.
- Command R and Command R+ Model Card
Laut Cohere sind Command R und R+ vielseitige Textmodelle mit Schutzmaßnahmen, doch Bias, toxische Ausgaben und unzuverlässige Leistungen in weniger geprüften Sprachen bleiben möglich; für folgenreiche Entscheidungen über Menschen sollen sie nicht allein eingesetzt werden.
- Harness, Loops, Graphs: What 217 Real Agent Loops Are Missing (Full Guide)
- Netomi’s lessons for scaling agentic systems into the enterprise
Laut Bericht kombiniert Netomi GPT‑4.1 und GPT‑5.2 mit paralleler Verarbeitung und eingebauter Governance; die genannten Leistungswerte sind Unternehmensangaben ohne erläuterte unabhängige Überprüfung.
- Introducing GPT-5.4
OpenAI präsentiert GPT‑5.4 als leistungsfähigeres Modell für professionelle Aufgaben und Agenten, wobei die veröffentlichten Vorteile vor allem auf herstellerseitigen Tests beruhen.
- Introducing ChatGPT agent
OpenAI stellte 2025 einen Agenten für Recherche und Webaktionen vor und berichtete über starke Testergebnisse, räumte aber Risiken, Fehler und frühe Produktgrenzen ein.
- Running Codex safely at OpenAI
OpenAI zufolge kombiniert das Unternehmen technische Grenzen, Freigaben und agentenspezifische Protokolle, um Codex in Arbeitsabläufen zu kontrollieren; unabhängige Wirksamkeitsnachweise nennt der Bericht nicht.
- Making AI work for everyone, everywhere: our approach to localization
OpenAI will KI lokal anpassen, ohne laut Bericht Sicherheitsregeln und die Ausgewogenheit der Fakten aufzugeben.
- Our commitment to community safety
OpenAI schildert, wie ChatGPT Gewalt verhindern und Risiken prüfen soll, nennt im Bericht jedoch keine konkreten Wirksamkeitszahlen oder unabhängigen Prüfergebnisse.
- OpenAI’s API now available with no waitlist
OpenAI öffnete die GPT‑3-API für Entwickler in unterstützten Ländern und begründete dies mit verbesserten Schutzmaßnahmen, während bestimmte Inhalte weiterhin verboten blieben.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- Claude Fable 5 Turned a Two-Month Migration Into a Day’s Work. You Have Two Weeks to Try It.
Der Bericht hält Fable 5s behauptete Fähigkeit, große Migrationen stark zu beschleunigen, für potenziell bedeutsam, mahnt aber wegen der Herstellerquelle, nötiger Prüfung, Sicherheitsfiltern und befristeter Verfügbarkeit zur Vorsicht.
- Build a Self-Improving AI Agent System with Claude Fable 5: A Complete 14-Step Guide
Der Bericht beschreibt, wie gespeicherte Erfahrungen und unabhängige Prüfungen ein Agentensystem verbessern sollen, ohne dass sich das Modell selbst weitertrainiert.
- Expanding the Cyber Verification Program
Anthropic bietet geprüften Sicherheitsorganisationen abgestuften Zugang zu leistungsfähigen Claude-Modellen und berichtet über Benchmark- und Schwachstellenergebnisse, deren Aussagekraft durch die beschriebenen Datenbegrenzungen eingeschränkt ist.
- Teen safety, freedom, and privacy
OpenAI will die Freiheit und Privatsphäre Erwachsener möglichst schützen, bei Jugendlichen aber Sicherheit priorisieren; der Bericht beschreibt dafür geplante Maßnahmen, liefert jedoch keine Wirksamkeitsdaten.
- Claude is a space to think
Anthropic begründet im vollständigen Bericht seine Entscheidung, Claude werbefrei zu halten, mit dem Schutz hilfreicher, nutzergeleiteter Gespräche und nennt Abos und Unternehmensverträge als Geschäftsmodell.
- How we built our multi-agent research system
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok_4_safety_prompt.txt
Der bereitgestellte Regeltext beschreibt, welche schädlichen Anfragen ein KI-System ablehnen oder nur auf hoher Ebene beantworten soll, belegt aber nicht die praktische Umsetzung dieser Vorgaben.
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok4_system_turn_prompt_v8.j2
Der bereitgestellte Quelltext ist eine Grok-4-Prompt-Vorlage mit Verhaltensregeln und Produktbehauptungen, deren Umsetzung und Richtigkeit darin nicht unabhängig belegt werden.
- China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies
- Aligning on child safety principles
Anthropic kündigt gestaffelte Kinderschutzmaßnahmen gegen den Missbrauch generativer KI an; der Bericht belegt nicht, wie wirksam sie umgesetzt wurden.
- A model guide for the GPT-6 family
Der Auszug gibt Empfehlungen zur Modellauswahl, Promptgestaltung und Produktionsnutzung der GPT‑6-Familie, enthält aber keine systematischen Vergleichsergebnisse und endet nach dem ersten von vier angekündigten Kundenbeispielen.
- Combating online child sexual exploitation & abuse
Der vollständige Beitrag schildert OpenAIs eigene Maßnahmen gegen den Missbrauch seiner KI zur sexuellen Ausbeutung von Kindern, räumt Grenzen der Schutzsysteme ein und enthält keine unabhängigen Wirksamkeitsdaten.
- Stop Building AI Agents Like Monoliths: 5 Architecture Tips Every Developer Should Know
Der vollständige Bericht empfiehlt fünf Architekturprinzipien für anpassungsfähige KI-Agenten, begründet deren Vorteile aber vor allem mit vereinfachten Beispielen statt mit empirischen Nachweisen.
- Building Agents That Actually Work: OpenAI’s New Toolkit for Long-Running Workflows
Der Beitrag beschreibt Skills, Shell und Compaction als praktische Grundlage für längere Agentenabläufe und nennt dazu Empfehlungen sowie nicht näher methodisch erklärte Erfahrungswerte.
- China’s AI Export Draft Puts Its Paperwork on Deals
- AI Transparency Under Article 50: Chatbot Disclosure, Deepfake Labels and Machine-Readable Marking
- Advancing the price-performance frontier with GPT-5.6
OpenAI kündigt günstigere Preise für GPT‑5.6 Luna und Terra sowie einen schnelleren Sol-API-Modus an und begründet dies mit Effizienzgewinnen, deren Leistungsangaben der Bericht nicht unabhängig belegt.
- Effective context engineering for AI agents
- Infrastructure noise in agentic coding evals
- Harness design for long-running apps
- 6840c6a
Der Bericht hält fest, dass Modellverzerrungen auch indirekt entstehen und sich Fairnessmaße teils widersprechen, weshalb Verfahren und Zielkonflikte sorgfältig abgewogen werden müssen.
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok4p1_thinking_system_turn_prompt_v2.j2
Eine Jinja-Vorlage beschreibt Groks Antwortregeln und bedingte Fähigkeiten; ihre Aussagen werden im Bericht nicht unabhängig überprüft.
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok4p1_non_thinking_system_turn_prompt.j2
Eine Jinja-Vorlage beschreibt Regeln und Antwortvorgaben für Grok, deren konkrete Aktivierung im Quelltext nicht feststeht.
- https://raw.githubusercontent.com/xai-org/grok-prompts/main/ask_grok_system_prompt.j2
Ein Grok-Systemprompt verlangt quellengeprüfte, ausgewogene und knappe Antworten und beschreibt Ton- und Formatregeln, ohne deren Umsetzung zu belegen.
- GPT-5.1: A smarter, more conversational ChatGPT
OpenAI kündigt GPT‑5.1 mit neuen Tonoptionen und gestaffeltem Rollout an; die Leistungsangaben stammen aus der Unternehmensankündigung.
- Introducing Structured Outputs in the API
Structured Outputs soll laut OpenAI API-Ausgaben zuverlässig an JSON-Schemata binden, hat aber Einschränkungen und garantiert keine inhaltliche Richtigkeit.
- The builder’s guide to GPT‑5.6
OpenAI zufolge senken GPT‑5.6 und neue API-Funktionen bei bestimmten Agentenaufgaben die Kosten, doch die angeführten Belege stammen vor allem aus ausgewählten Benchmarks und Kundenberichten.
- Improving GPT‑5.6 Sol in ChatGPT—and expanding access to GPT-5.6 Luna for free users
OpenAI kündigt eine überarbeitete Sol-Version und mehr kostenlosen Zugang zu Luna an; Leistungsverbesserungen und Fehlerreduktionen werden im Bericht als Unternehmensangaben dargestellt.
- New models and developer products announced at DevDay
Der DevDay-Bericht stellt OpenAIs Modell-, API- und Preisankündigungen von 2023 dar, darunter mehrere damals noch vorläufige oder geplante Funktionen.
- The Best Way to Prompt Claude in 2026
Der vollständige Leitfaden empfiehlt klar kontextualisierte Claude-Aufträge, überprüfbare Ziele für lange Aufgaben und schlanke dauerhafte Anweisungen; die Wirksamkeitsangaben beruhen teils auf den vom Autor zitierten Anthropic-Tests.
- GPT-6 Astra Killed 10 of My Go-To Prompts — Here’s What Replaced Them
Der Autor empfiehlt, ältere Prompts für GPT‑6 Astra durch konkrete Regeln zu Eigenständigkeit, Abschluss und Rückfragen zu ersetzen, wobei seine Belege aus eigenen, nicht unabhängig validierten Tests stammen.
- Your Claude Code Session Might Be Paying to Solve the Same Problem Twice
Der Autor empfiehlt, Claude-Code-Aufgaben klar einzugrenzen und den Kontext regelmäßig zurückzusetzen, um nach seiner Darstellung Kosten und Wiederholungen zu reduzieren.
- Anthropic Deleted 80% of Claude Code’s Own Prompt. Your CLAUDE.md Is Next.
Der Autor empfiehlt, CLAUDE.md und Skills auf überholte oder widersprüchliche Regeln zu prüfen, betont aber, dass seine Belege teils begrenzt sind und echte Schutzvorkehrungen erhalten bleiben sollten.
- Fable 5.2’s Benchmarks Ran at Xhigh. Claude Code Runs It at Medium.
Fable 5.2 erreicht seine besten veröffentlichten Werte bei sehr hohem Effort, doch laut Autor fehlen zentrale Angaben zur standardmäßigen Medium-Nutzung, und die passende Leistung-Kosten-Abwägung bleibt durch eigene Tests zu prüfen.
- Stop Building One AI Assistant. Build a Team of Them.
Mehrere spezialisierte Agenten können laut Andrus bei klar gegliederten Aufgaben verlässlicher und leichter zu debuggen sein, kosten jedoch mehr und lohnen sich nur, wenn ein einzelner Prompt nicht ausreicht.
- How to Orchestrate Claude Code Models While Using 10x Fewer Tokens
Der Bericht empfiehlt gezielte, überprüfte Agentenaufträge zur Verringerung unnötiger Tokens, belegt das Titelversprechen einer zehnfachen Einsparung aber nicht.
- I Stopped “Prompting” AI to Write Code. I Built an Agentic Coding System Instead.
Der Autor empfiehlt ein umfassendes System aus Dokumentation, Arbeitsabläufen und Qualitätsprüfungen für KI-Coding-Agenten, legt für dessen behauptete Vorteile jedoch keine empirischen Belege vor.
- The New AI Stack: Models, Harnesses, Loops, and Self-Improving Agents
Der vollständige Beitrag vertritt die These, dass bei KI-Produkten neben dem Modell vor allem ein gut organisierter und evaluierter Harness zählt, belegt seine Leistungsversprechen im Text aber nicht mit konkreten Messdaten.
- Turn Opus 4.8 Into Fable 5: The One SKILL.md File You Should Create Before the Window Closes
Der Artikel rät, den begrenzten Zugang zu Fable 5 in wiederverwendbare Arbeitsanweisungen und Prüfabläufe für Opus 4.8 zu investieren, belegt den erwarteten Nutzen jedoch nicht mit systematischen Tests.
- I Fixed AI Coding With One File — Karpathy-inspired CLAUDE.md
Eine `CLAUDE.md` mit vier Verhaltensregeln soll KI-Codeänderungen laut Autor gezielter und einfacher machen, wobei der Bericht die erwarteten Vorteile nicht systematisch belegt.
- The AI models and agents shutting down in November 2026, and what replaces them
Der Bericht listet zahlreiche anbieter- und plattformspezifische Abschaltungen im November 2026 samt Ersatzhinweisen auf, wobei manche Termine verschoben wurden und teils kein Ersatz oder neuer Endtermin genannt ist.
- Introducing advanced tool use for Claude
Anthropic zufolge können drei neue Beta-Funktionen den Einsatz vieler Werkzeuge effizienter und zuverlässiger machen, wobei die berichteten Leistungsgewinne aus internen Tests stammen.
- Opus 5.5 Writes Blender Python for the Wrong Blender - and the Render Won’t Tell You
- Introducing GPT-5.1 for developers
Der Bericht kündigt GPT‑5.1 mit adaptivem Denkaufwand, Coding-Verbesserungen und neuen API-Werkzeugen an; die Benchmark-Ergebnisse sind gemischt und die Leistungsbehauptungen werden nicht unabhängig umfassend geprüft.
- Prompt Caching in the API
Laut Bericht senkt Prompt Caching bei ausgewählten Modellen den Preis wiederverwendeter Eingabetokens um 50 Prozent; die behauptete Beschleunigung wird im Text nicht unabhängig belegt.
- Opus 5.5 Quietly Ignores Your Effort Setting. I Checked What All 5 Levels Actually Cost.
Laut den von Anthropic veröffentlichten Benchmarks empfiehlt der Autor medium für normale Codearbeit und high für lange Terminal-Aufgaben; alte persönliche Effort-Einstellungen könnten bei Opus 5.5 wirkungslos sein.
- GPT-6 Astra Bills You Double Past 272K
Der Bericht warnt, dass GPT-6 Astra laut ausgewerteter Preistabelle ab 272.000 Eingabe-Tokens deutlich teurer wird, und empfiehlt, es gezielt einzusetzen sowie Cache-Ersparnisse mit eigenen API-Aufrufen zu prüfen.
- I Built a RAG System in 2025. The “RAG Is Dead” Posts Keep Telling Me to Delete It.
Der Autor hält RAG weder für tot noch für immer notwendig: Die Wahl zwischen Retrieval und Langkontext solle je Projekt getroffen und mit echten Testfragen überprüft werden.
- Stop Burning Opus Tokens: Build a Claude Code Team Instead
Der Artikel empfiehlt eine Rollenverteilung aus Opus für anspruchsvolle Planung, Sonnet für delegierte Routinearbeit und Fable als Berater, weist aber keine gemessenen Effizienzgewinne nach.
- You Can Cut AI Token Costs by 90% Without Using Open-Source Models
Der Beitrag empfiehlt weniger Modellaufrufe und passend kleine Kontexte, belegt die versprochene Einsparung von 90 Prozent aber nicht.
- White House, major AI developers reach 'morally binding' safety commitments
Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.
- How an assessor could investigate alignment of unreleased AI models
METR entwirft ein aufwendiges Prüfkonzept für mögliche Fehlhandlungen unveröffentlichter KI-Agenten und warnt, dass Protokoll- und Simulationsergebnisse unvollständig sein könnten.
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- Red-Teaming OpenAI's Internal Agent Monitoring Systems
Der bereitgestellte Auszug berichtet von Schwachstellen in einer früheren Version von OpenAIs Agenten-Monitoring, lässt konkrete Beispiele aus und belegt weder den heutigen Systemstand noch den Reparaturstatus.
- Federal AI Procurement in 2026: What Contractors Need to Know to Win
Der iQuasar-Beitrag empfiehlt, Angebote für die zentralisierte US-Bundesbeschaffung von KI mit passenden Vertragswegen, nachvollziehbarer Compliance und belegbarer Leistung auszurichten, ohne seine Empfehlungen durch eigene empirische Ergebnisse zu belegen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →