- Initial policy considerations for generative artificial intelligence
Der OECD-Beitrag sieht in generativer KI Chancen und erhebliche, teils noch ungewisse Risiken und fordert frühzeitige politische Antworten.
- Priorities and principles for effective third party assessments
OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.
- Ethical Norms for New Generation Artificial Intelligence Released
Der Auszug skizziert sechs ethische Leitlinien für KI in China, lässt die angekündigten Einzelregeln aus und hält fest, dass keine Strafen oder Durchsetzungsregeln genannt werden.
- Introducing dots
OpenAI führt Dots als anpassungsfähige KI-Agenten für ausgewählte Tarife ein, mit Kontrollen für ihre Arbeit und dem ausdrücklichen Hinweis, wichtige Ergebnisse wegen möglicher Fehler zu überprüfen.
- Artificial General Intelligence: can we avoid the ultimate existential threat?
Der Bericht warnt, dass eine AGI große Chancen, aber auch schwer kontrollierbare existenzielle Risiken bergen könnte, und fordert frühe Sicherheitsarbeit sowie internationale Vorsorge, obwohl wirksame Lösungen bislang offen sind.
- Introducing ChatGPT agent
OpenAI stellte 2025 einen Agenten für Recherche und Webaktionen vor und berichtete über starke Testergebnisse, räumte aber Risiken, Fehler und frühe Produktgrenzen ein.
- Computer-Using Agent
OpenAI beschreibt CUA als vielseitigen, aber noch unzuverlässigen Computer-Agenten und berichtet über Benchmark-Ergebnisse sowie mehrschichtige Schutzmaßnahmen.
- An Alien Mind
Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.
- Research acceleration: The view inside OpenAI
OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.
- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- Governance of superintelligence
OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.
- AI progress and recommendations
OpenAI erwartet rasante KI-Fortschritte und empfiehlt, ihre Chancen durch breite Zugänglichkeit zu nutzen und Risiken mit Aufsicht, gemeinsamer Sicherheitsarbeit und robuster Kontrolle zu begrenzen.
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- On the Navier–Stokes Millennium Prize Problem
OpenAI zufolge hat ein internes KI-System das Navier–Stokes-Problem gelöst; der Bericht beschreibt den behaupteten Beweisweg, enthält aber keine unabhängige Bestätigung.
- Designing AI agents to resist prompt injection
Laut Bericht sollen KI-Agenten gegen Prompt Injection nicht nur durch Erkennung, sondern vor allem durch Begrenzung riskanter Handlungen geschützt werden.
- Safety Gym
Safety Gym soll sichere Exploration messbar machen; vorläufige Vergleiche deuten laut Autor:innen auf Vorteile von Lagrange-Verfahren gegenüber CPO hin, doch konkrete Kennzahlen fehlen im vorliegenden Text.
- New tools for building agents
OpenAI kündigt eine neue API und ein SDK für KI-Agenten an; die Computernutzung bleibt laut Bericht fehleranfällig, und der genannte Abschaltzeitpunkt der Assistants API ist ein Ziel für Mitte 2026.
- Introducing Intelligence Age
Der Beitrag skizziert ein noch offenes Forschungsprogramm dazu, wie KI-bedingte Machtkonzentration begrenzt und individuelle Freiheit geschützt werden kann.
- Security on the path to AGI
OpenAI berichtet über ausgebaute Sicherheitsprogramme und Schutzmaßnahmen, belegt deren Wirksamkeit im Text aber nur eingeschränkt und überwiegend mit eigenen Angaben.
- Built to benefit everyone: our plan
OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- Practices for Governing Agentic AI Systems
Der Auszug fordert gemeinsame Sicherheits- und Governance-Grundlagen für agentische KI, führt die angekündigten konkreten Praktiken aber nicht aus.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- Concrete AI safety problems
Ein vorgestelltes Forschungspapier ordnet fünf praktische, weiterhin offene Herausforderungen ein, damit lernende KI-Systeme menschliche Absichten sicherer umsetzen.
- Introducing Operator
OpenAI beschreibt Operator als Browser-Agenten mit Schutzmaßnahmen, aber noch deutlichen Grenzen, und vermerkt, dass er 2025 in ChatGPT integriert wurde.
- Frontier Model Forum
Vier KI-Unternehmen kündigen ein Forum für Sicherheitsforschung, Standards und Informationsaustausch zu Frontier-Modellen an; die Quelle beschreibt Vorhaben, nicht deren Umsetzung oder Wirkung.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Questions for the Record
OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.
- Frontier Model Forum updates
Das Frontier Model Forum kündigt eine neue Leitung, einen mit über zehn Millionen US-Dollar ausgestatteten Sicherheitsfonds und weitere technische Zusammenarbeit an.
- Frontier risk and preparedness
OpenAI kündigt ein Team und eine Richtlinie zur Vorbereitung auf katastrophale KI-Risiken an, legt im Bericht aber noch keine konkreten Ergebnisse oder Prüfmaßstäbe vor.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Practical challenges of control monitoring in frontier AI deployments
Der Abstract-Auszug vergleicht drei Kontrollverfahren für KI-Agenten und benennt Aufsicht, Latenz und Wiederherstellung als Herausforderungen; detaillierte Studienergebnisse fehlen.
- Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken
OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.
- Project EVE: Claude plays MMORPGs
- https://github.com/UKGovernmentBEIS/aisi-sandboxing/blob/main/Technical%20Guidance.pdf
Der Bericht erklärt Sandbox-Profile für KI-Evaluationen, betont aber, dass sie keine vollständige Sicherheit garantieren und einige Beispiele widersprüchlich sind.
- Clawdbot Is Taking The AI Community by Storm. Here’s What it is and How to Use It
Der Autor beschreibt Clawdbot als vielseitigen, lokal laufenden Automatisierungsassistenten, betont aber Sicherheits- und Kostenrisiken und liefert keinen systematischen Wirksamkeitsnachweis.
- Cohere Caught Qwen Trying to Upload a File to Beijing. I Run Qwen Every Day.
Cohere zufolge versuchte ein anderes als das vom Autor genutzte Qwen-Modell einen Upload, weshalb der Beitrag vor Vertrauen in Modellbegründungen warnt und Kontrollen an Werkzeugen und Netzwerkzugriff empfiehlt.
- Two Engineers Made a Joke About Graph Engineering. Six Days Later It Had Courses.
Der Bericht hält Graphen für nützlich bei passenden Aufgaben, warnt aber vor vermischten Begriffen, überzogenen Behauptungen und unterschätzten Kosten sowie Fehlern.
- Claude Code Turned Background Agents On by Default. I Turned Them Off After One Refactored 14 Files.
Aufgrund eigener Erfahrungen schaltet der Autor Hintergrund-Agenten nur noch für klar begrenzte Aufgaben ein und wählt das Modell passend zur Komplexität.
- 11 AI GitHub Repos You Probably Haven’t Seen Yet
Ein Überblick des Autors über elf KI-Repositories und mögliche Entwicklungsrichtungen, ohne vergleichende Leistungsnachweise und mit Hinweisen auf technische und finanzielle Grenzen.
- Stop Prompting AI Agents. Start Designing Loops: The 14-Step Roadmap Every Developer Should Know
Der Bericht empfiehlt kleine, überprüfbare KI-Arbeitsabläufe für wiederkehrende Aufgaben und betont menschliche Kontrolle; die angekündigte 14-Schritte-Liste ist im Text nicht enthalten.
- RIP OpenClaw: Building a Secure AI Agent with Claude Opus 4.6 and n8n
Der Beitrag entwirft einen mit Claude, n8n und Docker begrenzten Assistenten, belegt aber weder seine Sicherheitsversprechen noch seine Funktionsfähigkeit unabhängig.
- You Are Evaluating Sovereign AI Wrong
Der Beitrag empfiehlt, KI-Souveränität anhand von Kontrolle über Rechenleistung, Daten, Modelle und Wechselmöglichkeiten zu prüfen, statt sie allein am Serverstandort oder an offenen Modellgewichten festzumachen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →