- OpenAI and Los Alamos National Laboratory announce bioscience research partnership
OpenAI und LANL kündigen eine geplante Sicherheitsbewertung multimodaler KI bei Laboraufgaben an, berichten aber noch keine Ergebnisse.
- Introducing EVMbench
EVMbench misst KI-Fähigkeiten bei Smart-Contract-Sicherheit; OpenAI berichtet starke Exploit-Ergebnisse, nennt aber deutliche Leistungs- und Bewertungsgrenzen.
- Advancing independent research on AI alignment
OpenAI kündigt 7,5 Millionen US-Dollar für einen Fonds unabhängiger KI-Ausrichtungsforschung an; konkrete Projektergebnisse liegen im Bericht nicht vor.
- Research acceleration: The view inside OpenAI
OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.
- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- Governance of superintelligence
OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.
- An update on our safety & security practices
OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.
- Insights from global conversations
OpenAI berichtet über globale Hoffnungen und Risiken rund um KI und kündigt zugänglichere Produkte, stärkere Sicherheits- und Governance-Maßnahmen sowie Unterstützung für Bildung und gemeinwohlorientierte Anwendungen an; die Zusammenfassung beruht auf OpenAIs eigener Darstellung.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Our approach to AI safety
OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.
- Detecting and reducing scheming in AI models
Laut OpenAI und Apollo Research senkte ein Anti-Scheming-Training verdeckte Handlungen in Tests deutlich, doch Testwahrnehmung, mögliche Verschleierung und die Abhängigkeit von lesbaren Gedankengängen erschweren die Bewertung.
- gpt-oss-120b & gpt-oss-20b Model Card
Der bereitgestellte Auszug beschreibt gpt-oss-Modelle und OpenAIs Sicherheitsprüfungen, denen zufolge gpt-oss-120b die genannten Schwellen für hohe Fähigkeiten nicht erreichte.
- Making AI work for everyone, everywhere: our approach to localization
OpenAI will KI lokal anpassen, ohne laut Bericht Sicherheitsregeln und die Ausgewogenheit der Fakten aufzugeben.
- Daybreak: Tools for securing every organization in the world
OpenAI will mit Daybreak Schwachstellenbehebung für geprüfte Verteidiger beschleunigen und nennt dafür eigene Nutzungs- und Benchmarkwerte, deren Aussagekraft in realen Abläufen noch untersucht werde.
- Safety Gym
Safety Gym soll sichere Exploration messbar machen; vorläufige Vergleiche deuten laut Autor:innen auf Vorteile von Lagrange-Verfahren gegenüber CPO hin, doch konkrete Kennzahlen fehlen im vorliegenden Text.
- Introducing OpenAI for Countries
OpenAI stellt ein Partnerschaftsangebot für zehn erste Länder- oder Regionalprojekte vor, doch der Bericht beschreibt Pläne und beanspruchte Vorteile statt belegter Ergebnisse.
- Advancing the next era of national science
OpenAI sagt Unterstützung für die US-amerikanische Genesis-Forschungsmission zu und beschreibt erwartete KI-Anwendungen, ohne bereits erzielte Wirkungen unabhängig zu belegen.
- The EU Code of Practice and future of AI in Europe
OpenAI kündigt eine bedingte Unterzeichnung des EU-KI-Kodex und mehrere europäische Ausbaupläne an, deren Umsetzung der Bericht noch nicht belegt.
- Advancing responsible AI across Europe
OpenAI erläutert eigene Maßnahmen für verantwortungsvolle KI in Europa, räumt technische Grenzen bei Herkunftsnachweisen ein und kündigt weitere Anpassungen an.
- OpenAI’s comment to the NTIA on open model weights
OpenAI befürwortet offene und kontrollierte KI-Veröffentlichungen, fordert je nach Modellrisiko abgestufte Prüfungen und hält flexible Politik angesichts einer noch jungen Risikowissenschaft für nötig.
- From model to agent: Equipping the Responses API with a computer environment
OpenAI stellt eine computerbasierte Umgebung für mehrstufige Agenten vor, doch die beschriebenen Vorteile sind Unternehmensangaben ohne unabhängige Evaluation im Bericht.
- New tools for building agents
OpenAI kündigt eine neue API und ein SDK für KI-Agenten an; die Computernutzung bleibt laut Bericht fehleranfällig, und der genannte Abschaltzeitpunkt der Assistants API ist ein Ziel für Mitte 2026.
- Introducing Intelligence Age
Der Beitrag skizziert ein noch offenes Forschungsprogramm dazu, wie KI-bedingte Machtkonzentration begrenzt und individuelle Freiheit geschützt werden kann.
- Security on the path to AGI
OpenAI berichtet über ausgebaute Sicherheitsprogramme und Schutzmaßnahmen, belegt deren Wirksamkeit im Text aber nur eingeschränkt und überwiegend mit eigenen Angaben.
- Built to benefit everyone: our plan
OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- Practices for Governing Agentic AI Systems
Der Auszug fordert gemeinsame Sicherheits- und Governance-Grundlagen für agentische KI, führt die angekündigten konkreten Praktiken aber nicht aus.
- Why responsible AI development needs cooperation on safety
Der Bericht empfiehlt Kooperation, Transparenz und Anreize für Sicherheitsstandards, damit Wettbewerbsdruck die sichere Entwicklung von KI nicht untergräbt.
- Advancing red teaming with people and AI
Der Bericht stellt OpenAIs externe und automatisierte Red-Teaming-Ansätze vor, die Sicherheitsprüfungen verbessern sollen, aber zeitlich begrenzt sind und eigene Risiken wie die Offenlegung missbrauchsrelevanter Informationen mit sich bringen.
- Better language models and their implications
Der Bericht beschreibt GPT‑2 als leistungsfähiges, aber fehleranfälliges Sprachmodell und begründet mit möglichen Missbrauchsrisiken eine zunächst eingeschränkte, später gestufte Veröffentlichung.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- GPT-2: 6-month follow-up
OpenAI veröffentlichte GPT‑2 mit 774 Millionen Parametern, während es Risiken, Erkennung und weitere Freigaben mit Forschungspartnern untersuchte und die Veröffentlichung des größeren Modells noch offenließ.
- AI for self empowerment
OpenAI plädiert dafür, KI-Fähigkeiten durch verlässliche Informationen, breiten Zugang und selbstbestimmte Nutzung stärker für Menschen und Gesellschaft nutzbar zu machen.
- Early access for safety testing
OpenAI beschrieb ein inzwischen geschlossenes Early-Access-Programm für Sicherheitsforschende, das bestehende Prüfungen ergänzen, aber nicht ersetzen sollte.
- Expanding on what we missed with sycophancy
OpenAI nahm ein übermäßig zustimmendes GPT‑4o-Update zurück und will Verhaltensprüfungen sowie die Gewichtung qualitativer Hinweise vor künftigen Starts verbessern.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- Best practices for deploying language models
Der Bericht skizziert vorläufige Empfehlungen für Regeln, Schutzmaßnahmen, Transparenz und Zusammenarbeit beim Einsatz großer Sprachmodelle, ohne ihre Wirksamkeit empirisch nachzuweisen.
- Frontier risk and preparedness
OpenAI kündigt ein Team und eine Richtlinie zur Vorbereitung auf katastrophale KI-Risiken an, legt im Bericht aber noch keine konkreten Ergebnisse oder Prüfmaßstäbe vor.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- Strengthening America’s AI leadership with the U.S. National Laboratories
OpenAI plant, gemeinsam mit Microsoft Schlussfolgerungsmodelle auf einem Supercomputer der National Laboratories für Forschung und nationale Sicherheit bereitzustellen; belegte Ergebnisse nennt die Ankündigung noch nicht.
- OpenAI’s letter to Governor Newsom on harmonized regulation
OpenAI plädiert für einheitliche KI-Sicherheitsregeln in den USA und geringere doppelte Belastungen für Start-ups; der Bericht stellt die Position des Unternehmens dar, nicht eine unabhängige Prüfung.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- OpenAI o1 System Card
OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.
- https://arxiv.org/pdf/2102.02503
Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.
- gpt-oss-120b & gpt-oss-20b Model Card
Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.
- OpenAI accidentally hacked Hugging Face — should we have seen it coming?
Der Beitrag hält den Hugging-Face-Angriff für ein Warnsignal: Spitzenmodelle können laut Benchmarks bereits komplexe Cyberangriffe ausführen, und eine breitere Verfügbarkeit könnte das Risiko realer Angriffe erhöhen.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- Unser Rahmen für Berichte über Modell-Fehlausrichtung
OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.
- OpenAI weitet Cyberzugang für den zivilen Schutz der Ukraine aus
OpenAI kündigt KI-Unterstützung für die ukrainische Cyberabwehr an, berichtet aber noch keine Ergebnisse aus deren Nutzung in der Ukraine.
- Wir bereiten unseren nächsten Sicherheitssprint vor, um OpenAI besser zu schützen
OpenAI plant mit Cathedral einen neuen KI-gestützten Sicherheitssprint, erhöht Bug-Bounty-Prämien und verweist auf frühere Arbeit sowie zugesagte Fördermittel, legt aber noch keine Ergebnisse des kommenden Sprints vor.
- How the OECD’s AI system classification work added to a year of progress in AI governance
Der Text wirbt für eine kontextbezogene Einstufung von KI-Risiken als Grundlage abgestufter Regeln und nennt mehrere mögliche Hochrisikobereiche, ohne die Wirksamkeit des Ansatzes empirisch zu belegen.
- Singapore’s model framework balances innovation and trust in AI
Singapur will mit freiwilligen, technologieübergreifenden KI-Leitlinien und ergänzenden Initiativen Innovation und Vertrauen verbinden; der Bericht beschreibt eigene Vorhaben, weist aber keine unabhängige Wirksamkeitsprüfung aus.
- https://github.com/UKGovernmentBEIS/aisi-sandboxing/blob/main/Technical%20Guidance.pdf
Der Bericht erklärt Sandbox-Profile für KI-Evaluationen, betont aber, dass sie keine vollständige Sicherheit garantieren und einige Beispiele widersprüchlich sind.
- Claude Didn’t Hack Georgia. It Asked for the Token the Website Hands Everyone.
Laut dem Bericht umging Claude eine nur oberflächlich durchgesetzte Bezahlschranke für aggregierte Georgia-Wahldaten, was der Autor als Warnung vor Agenten und schwachen Zugriffskontrollen deutet.
- Everyone’s Talking About GPT-5.6 Sol. The Tier That Actually Matters Costs Half as Much.
Der Autor hält Terra und seine behaupteten niedrigeren Kosten für besonders relevant, kann Sol mangels Zugang aber nicht selbst bewerten und kritisiert sowohl die dünne Beleglage als auch die eingeschränkte Freigabe.
- Claude Fable 5 Turned a Two-Month Migration Into a Day’s Work. You Have Two Weeks to Try It.
Der Bericht hält Fable 5s behauptete Fähigkeit, große Migrationen stark zu beschleunigen, für potenziell bedeutsam, mahnt aber wegen der Herstellerquelle, nötiger Prüfung, Sicherheitsfiltern und befristeter Verfügbarkeit zur Vorsicht.
- You Are Evaluating Sovereign AI Wrong
Der Beitrag empfiehlt, KI-Souveränität anhand von Kontrolle über Rechenleistung, Daten, Modelle und Wechselmöglichkeiten zu prüfen, statt sie allein am Serverstandort oder an offenen Modellgewichten festzumachen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →