- OpenAI for Healthcare
OpenAI kündigt KI-Angebote für das Gesundheitswesen an und berichtet über Sicherheits- und Leistungsprüfungen, deren Vorteile im Text nicht unabhängig belegt werden.
- Reflections on safety: General-purpose AI developers can learn from the Challenger disaster
Der Bericht warnt anhand der Challenger-Katastrophe, dass KI-Entwicklung ohne ausreichendes Verständnis, gründliche Risikoprüfung und eine starke Sicherheitskultur gefährlich sein kann.
- The Probabilities Also Matter: A More Faithful Metric for Faithfulness of Free-Text Explanations in Large Language Models
Der Abstract-Auszug stellt eine Metrik vor, die Wahrscheinlichkeitsverschiebungen zur Prüfung der Erklärungstreue nutzt, und berichtet aufgabenabhängige Ergebnisse für Llama-2.
- The argument for holistic AI audits
Der Beitrag empfiehlt umfassende KI-Audits, die technische Ergebnisse und Governance gemeinsam prüfen, weil jeder Ansatz für sich wichtige Risiken übersehen kann.
- The United States works with domestic and international AI communities to establish frameworks that advance trustworthy AI for all
Die US-Regierung will laut Bericht KI durch Risikomanagement, Sicherheitsmaßnahmen und internationale Abstimmung vertrauenswürdiger gestalten; die Darstellung beschreibt vor allem Ziele und laufende Vorhaben, nicht deren unabhängig geprüfte Wirkung.
- For disabilities and designated groups, the Digital Services and Market Acts may complement AI and data policies to ensure algorithmic safety and accountability
Laut Bericht könnten DSA und DMA zusammen mit KI-, Daten- und Barrierefreiheitsregeln den Schutz von Menschen mit Behinderungen vor Plattform- und Algorithmusrisiken stärken, ihre Wirkung ist jedoch nicht abschließend belegt.
- Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023
Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.
- Paul Christiano joins OpenAI Foundation Board
OpenAI kündigt Paul Christianos Berufung in Foundation-Vorstand und Sicherheitsausschuss an und begründet sie mit seiner Erfahrung in KI-Alignment und Risikobewertung.
- Initial policy considerations for generative artificial intelligence
Der OECD-Beitrag sieht in generativer KI Chancen und erhebliche, teils noch ungewisse Risiken und fordert frühzeitige politische Antworten.
- A law for foundation models: the EU AI Act can improve regulation for fairer competition
Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.
- Introducing GPT-Live
OpenAI zufolge soll GPT‑Live Gespräche mit KI natürlicher machen und komplexe Aufgaben im Hintergrund bearbeiten; der Bericht nennt zugleich Sprachlücken, fehlende Video- und Bildschirmfreigabe zum Start sowie Ergebnisse aus unternehmenseigenen Tests.
- Should we do this? Navigating risk and innovation through digital ethics in business
Unternehmen sollten laut Bericht für digitale Vorhaben einen verlässlichen Prozess zur Abwägung ethischer Risiken schaffen, obwohl gemeinsame Standards und einheitliche Lösungen bislang fehlen.
- Lawsuits in the United States point to a need for AI risk management systems
Laut Beitrag sollen systematische Prüfungen und laufendes KI-Risikomanagement helfen, diskriminierende oder schädliche Folgen zu begrenzen, auch wenn sie Risiken nicht vollständig ausschließen können.
- White Paper on Trustworthy Artificial Intelligence
Der Auszug eines Weißbuchs von 2021 betont zentrale Anforderungen an vertrauenswürdige KI; der vollständige Bericht liegt nicht vor.
- Artificial General Intelligence: can we avoid the ultimate existential threat?
Der Bericht warnt, dass eine AGI große Chancen, aber auch schwer kontrollierbare existenzielle Risiken bergen könnte, und fordert frühe Sicherheitsarbeit sowie internationale Vorsorge, obwohl wirksame Lösungen bislang offen sind.
- A roadmap for an AI learning campaign
Der Beitrag plädiert für eine weltweite Lernkampagne, die KI-Wissen, verantwortungsvolle Nutzung, bessere Schutzwerkzeuge und internationale Zusammenarbeit fördern soll.
- GPT-5.1: A smarter, more conversational ChatGPT
OpenAI kündigt GPT‑5.1 mit neuen Tonoptionen und gestaffeltem Rollout an; die Leistungsangaben stammen aus der Unternehmensankündigung.
- Businesses are applying the OECD AI Principles. How is it going?
Sieben Unternehmensfälle sollen zeigen, wie sich OECD-KI-Prinzipien praktisch umsetzen lassen; der Beitrag bietet Einblicke in Herausforderungen, aber keine vergleichenden Wirksamkeitsnachweise.
- GPT-Red: Unlocking Self-Improvement for Robustness
OpenAI zufolge hilft das interne Modell GPT‑Red, Prompt-Injection-Schwachstellen zu finden und Produktionsmodelle robuster zu machen; die berichteten Erfolge gelten für die beschriebenen Tests und Szenarien.
- Singapore’s A.I.Verify builds trust through transparency
Singapurs A.I. Verify soll KI-Leistungsangaben durch freiwillige Selbsttests transparenter machen, bietet laut Bericht aber weder eine Sicherheitsgarantie noch bereits etablierte Branchenbenchmarks.
- Consensus accelerates research with GPT-5 and Responses API
Consensus zufolge koordiniert Scholar Agent mit GPT‑5 die Suche und Auswertung wissenschaftlicher Studien; die behaupteten Leistungs- und Wachstumswerte werden im Bericht nicht unabhängig belegt.
- Blue J’s approach for scaling fast in complex, regulated domains
Blue J berichtet, mit GPT‑4.1 und internem Feedback eine viel genutzte Steuerrecherche-Anwendung aufgebaut zu haben; die Leistungsangaben der OpenAI-Fallstudie sind im Text nicht unabhängig überprüft.
- GPT-5.6: Frontier intelligence that scales with your ambition
OpenAI bewirbt GPT‑5.6 als leistungsfähigere und effizientere Modellfamilie, doch die Belege beruhen teils auf Schätzungen und internen Tests und enthalten eine ungeklärte Abweichung bei Agents’ Last Exam.
- What are the tools for implementing trustworthy AI? A comparative framework and database
Die OECD-Arbeitsgruppe entwickelte und erprobte einen Rahmen, um Werkzeuge für vertrauenswürdige KI nach Einsatzkontext zu vergleichen, nicht aber ihre Qualität zu bewerten.
- The OECD Framework for Classifying AI Systems to assess policy challenges and ensure international standards in AI
Die OECD beschreibt eine allgemeine Klassifikation von KI-Systemen als mögliche Grundlage für verständlichere Politikdebatten, Risikobewertung und internationale Abstimmung, deren breite Wirkung laut Bericht noch aussteht.
- Introducing ChatGPT agent
OpenAI stellte 2025 einen Agenten für Recherche und Webaktionen vor und berichtete über starke Testergebnisse, räumte aber Risiken, Fehler und frühe Produktgrenzen ein.
- OpenAI to acquire Promptfoo
OpenAI plant die Übernahme von Promptfoo und will dessen Sicherheitstest-Werkzeuge nach Abschluss in Frontier integrieren.
- Building agricultural database for farmers
Farmer.Chat soll landwirtschaftliche Beratung durch KI unterstützen; berichtete Kosteneinsparungen sind frühe Schätzungen, deren unabhängige Prüfung im Bericht nicht belegt wird.
- Introducing Astra for Law
Astra for Law verbindet GPT‑6 Astra mit juristischer Recherche und Kanzleiwerkzeugen; die von OpenAI berichteten Leistungsgewinne stammen aus einem begrenzten Benchmark, und der API-Zugang soll erst folgen.
- Zico Kolter Joins OpenAI’s Board of Directors
OpenAI kündigt die Berufung des KI-Sicherheitsforschers Zico Kolter in den Verwaltungsrat und dessen Sicherheitsausschuss an.
- Introducing GPT-5.5
OpenAI stellt GPT‑5.5 als leistungsfähigeres und effizienteres Modell für anspruchsvolle Computer- und Forschungsaufgaben vor, doch die Belege beruhen teils auf internen oder ausgewählten Tests und der Text enthält widersprüchliche Angaben zur API-Verfügbarkeit.
- GPT-4
OpenAI beschreibt GPT‑4 als leistungsfähiger und sicherer als GPT‑3.5, räumt aber unter anderem Verzerrungen und Halluzinationen als fortbestehende Grenzen ein.
- Building an autonomous financial analyst with o1 and o3-mini
Endex zufolge helfen OpenAI-Reasoning-Modelle bei automatisierten Finanzanalysen; die berichteten Leistungswerte sind mangels ausführlicher unabhängiger Prüfdetails als Unternehmensangaben zu verstehen.
- Our First Proof submissions
OpenAI hält fünf von zehn KI-Beweisversuchen bei First Proof vorläufig für wahrscheinlich korrekt, räumt aber ein, dass die unterstützte und nicht streng kontrollierte Prüfung keine abschließende Bewertung erlaubt.
- Our approach to alignment research
OpenAIs Ansatz kombiniert menschliches Feedback, KI-gestützte Bewertung und KI-Forschung, doch der Bericht räumt erhebliche Grenzen und offene Sicherheitsfragen ein.
- How should AI systems behave, and who should decide?
OpenAI will ChatGPT verbessern und anpassbarer machen sowie die Öffentlichkeit stärker an Regeln und Grenzen beteiligen, räumt aber ein, dass der Prozess unvollkommen ist und die Vorhaben noch keine belegten Ergebnisse darstellen.
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- Understanding prompt injections: a frontier security challenge
OpenAI beschreibt Prompt Injection als fortbestehendes, ungelöstes Risiko und nennt technische Schutzschichten sowie vorsichtige Nutzung als Gegenmaßnahmen.
- Democratic inputs to AI grant program: lessons learned and implementation plans
OpenAI schildert Erkenntnisse aus zehn Projekten zur öffentlichen Beteiligung an KI-Regeln und kündigt an, diese Ansätze in einem neuen Team und Pilotprojekten weiterzuentwickeln.
- Introducing ChatGPT for Teens: Built for learning, backed by protections
OpenAI beschreibt ChatGPT for Teens als lernorientiertes Angebot mit zusätzlichen Schutzfunktionen und kündigt weitere Forschung an, belegt deren Wirksamkeit im Bericht jedoch nur teilweise.
- Learning from human preferences
KI-Agenten können laut Bericht Ziele aus menschlichen Verhaltensvergleichen lernen, doch hängt der Erfolg von verlässlichen Urteilen ab und schützt nicht automatisch vor Täuschungsverhalten.
- Our approach to EU text provenance rules
OpenAI führt Text-Wasserzeichen schrittweise ein, betont aber, dass Erkennungsergebnisse begrenzt sind und weder Herkunft noch menschlichen Beitrag oder Richtigkeit abschließend klären.
- The EU Code of Practice and future of AI in Europe
OpenAI kündigt eine bedingte Unterzeichnung des EU-KI-Kodex und mehrere europäische Ausbaupläne an, deren Umsetzung der Bericht noch nicht belegt.
- Open weights and AI for all
OpenAI zufolge sollen seine neuen offenen KI-Modelle den Zugang verbreitern und demokratisch geprägte KI-Infrastruktur stärken, doch der Bericht nennt keine konkreten Leistungsdaten oder unabhängigen Wirkungsnachweise.
- Introducing OpenAI o1
Der Bericht fasst OpenAIs Einführung von o1-preview und o1-mini samt selbst berichteten Leistungs- und Sicherheitswerten zusammen und weist darauf hin, dass die damaligen Zugangsinformationen historisch sind und beide Modelle inzwischen aus der API zurückgezogen wurden.
- Our agreement with the Department of War
OpenAI stellt seine Vereinbarung mit dem US-Verteidigungsministerium als mehrschichtig abgesichert dar; der Bericht gibt diese Zusicherungen wieder, ohne sie unabhängig zu überprüfen.
- Building more helpful ChatGPT experiences for everyone
OpenAI beschreibt Pläne für mehr Schutz bei psychischer Belastung und neue elterliche Kontrollen für Jugendliche, betont aber, dass die angekündigten Maßnahmen erst umgesetzt und weiterentwickelt werden sollen.
- Summarizing books with human feedback
OpenAI berichtet über ein Verfahren zur schrittweisen Buchzusammenfassung, das menschliche Bewertungen erleichtern soll, dessen angeführte Leistungsbelege aber nur begrenzte Zahlen enthalten.
- Improving verifiability in AI development
Der Text stellt zehn Empfehlungen für besser überprüfbare KI-Entwicklung vor, ist aber nur eine Zusammenfassung und erläutert weder deren Wirksamkeit noch die Einschränkungen des vollständigen Berichts.
- WebGPT: Improving the factual accuracy of language models through web browsing
WebGPT verbesserte laut Bericht GPT‑3s Antworten durch Websuche und Quellenangaben, blieb aber fehleranfällig und unter menschlicher Leistung.
- Introducing Activation Atlases
Laut Bericht können Activation Atlases gemeinsame Muster in neuronalen Netzen sichtbar machen; ein Beispiel zeigt, wie ein Modell durch die nicht ursächliche Korrelation zwischen Nudeln und Woks getäuscht werden kann.
- Advancing red teaming with people and AI
Der Bericht stellt OpenAIs externe und automatisierte Red-Teaming-Ansätze vor, die Sicherheitsprüfungen verbessern sollen, aber zeitlich begrenzt sind und eigene Risiken wie die Offenlegung missbrauchsrelevanter Informationen mit sich bringen.
- Frontier AI regulation: Managing emerging risks to public safety
Der vorliegende Quelltext ist ein Auszug, der Regulierungsvorschläge für leistungsfähige KI-Modelle skizziert, darunter Sicherheitsprüfungen, Berichtspflichten und staatliche Aufsicht.
- Better language models and their implications
Der Bericht beschreibt GPT‑2 als leistungsfähiges, aber fehleranfälliges Sprachmodell und begründet mit möglichen Missbrauchsrisiken eine zunächst eingeschränkte, später gestufte Veröffentlichung.
- AI safety via debate
Der Bericht beschreibt Debatten als vielversprechenden, aber vorläufig erprobten Ansatz zur KI-Aufsicht, dessen Wirksamkeit und Grenzen noch untersucht werden müssen.
- Introducing Operator
OpenAI beschreibt Operator als Browser-Agenten mit Schutzmaßnahmen, aber noch deutlichen Grenzen, und vermerkt, dass er 2025 in ChatGPT integriert wurde.
- Introducing ChatGPT
Der Bericht beschreibt OpenAIs Einführung von ChatGPT und dessen RLHF-Training sowie bekannte Grenzen wie falsche, schwankende oder potenziell schädliche Antworten.
- Early access for safety testing
OpenAI beschrieb ein inzwischen geschlossenes Early-Access-Programm für Sicherheitsforschende, das bestehende Prüfungen ergänzen, aber nicht ersetzen sollte.
- How GPT-5 helped mathematician Ernest Ryu solve a 40-year-old open problem
Laut Bericht beschleunigte GPT‑5 Ernest Ryus Suche nach einem Beweisansatz für ein offenes NAG-Problem, doch die entscheidende Prüfung und Ausarbeitung des Beweises übernahm der Mathematiker selbst.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Questions for the Record
OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.
- Response to NIST Executive Order on AI
OpenAI beschreibt Ansätze für KI-Sicherheitsprüfungen und Herkunftsnachweise, betont aber, dass deren Ergebnisse begrenzt, teils unsicher und weiter zu erforschen sind.
- Best practices for deploying language models
Der Bericht skizziert vorläufige Empfehlungen für Regeln, Schutzmaßnahmen, Transparenz und Zusammenarbeit beim Einsatz großer Sprachmodelle, ohne ihre Wirksamkeit empirisch nachzuweisen.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- The power of personalized AI
OpenAI wirbt für ein anpassbares und transparenter geregeltes ChatGPT, doch der Bericht belegt die praktische Wirksamkeit dieser Ziele nicht unabhängig.
- Addendum to o3 and o4-mini system card: Codex
Das kurze Addendum beschreibt Codex’ cloudbasierte Programmierumgebung und Prüf- und Exportmöglichkeiten, liefert aber keine unabhängigen Leistungsbelege; der bereitgestellte Text ist vollständig und keine Fehlerseite.
- Deep research System Card
Der Auszug beschreibt Deep research und OpenAIs Sicherheitsprüfungen vor der Freigabe, nennt aber weder konkrete Testergebnisse noch eine Einstufung des Systems.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- Introducing GPT-6.1 Terra
Laut OpenAI bietet GPT-6.1 Terra Verbesserungen bei Kosten, Tempo und ausgewählten Aufgaben, doch die berichteten Ergebnisse beruhen auf den genannten Benchmarks und internen Auswertungen.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- https://arxiv.org/pdf/2005.14165
Die Notizen beschreiben GPT‑3s teils starke, aber aufgabenabhängige Few‑Shot-Leistung und betonen Einschränkungen durch Schwächen einzelner Aufgaben, mögliche Datenkontamination und unvollständige Erläuterungen in den Anhangsauszügen.
- https://arxiv.org/pdf/2410.07095
MLE-bench zeigt, dass die getesteten KI-Agenten bei Kaggle-ähnlichen ML-Aufgaben noch oft scheitern: o1-preview mit AIDE erreichte bei 16,9 Prozent der Wettbewerbe eine Medaille, wobei Aussagekraft und Übertragbarkeit des Benchmarks begrenzt sind.
- https://arxiv.org/pdf/2210.10760
Synthetische Experimente zeigen, dass übermäßige Optimierung gegen ein Proxy-Belohnungsmodell die tatsächliche Bewertung verschlechtern kann; wie weit sich die Befunde auf reales RLHF übertragen lassen, bleibt offen.
- https://arxiv.org/pdf/2205.14334
GPT-3 konnte in Mathematiktests eine teilweise kalibrierte sprachliche Unsicherheit lernen, doch die Studie belegt nicht, dass dies auch für andere Modelle, Themen oder Formate gilt.
- https://arxiv.org/pdf/2501.18841
Der Bericht findet Hinweise, dass mehr Inferenzaufwand manche Angriffe auf Reasoning-Modelle erschwert, betont aber, dass Mehrdeutigkeit, neue Angriffsarten und der begrenzte Versuchsrahmen keine vollständige Sicherheitslösung erkennen lassen.
- https://arxiv.org/pdf/2102.02503
Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.
- OECD health ministers: people and partnerships are the secret to enabling AI in healthcare
Die OECD empfiehlt, KI im Gesundheitswesen durch anpassungsfähige Regeln, Partnerschaften, gute Datengrundlagen und internationale Zusammenarbeit verantwortungsvoll und gerecht zu gestalten.
- https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf
Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.
- The Best Books to Learn AI in 2026
Der Beitrag empfiehlt sechs Bücher für unterschiedliche Aspekte der KI-Kompetenz, präsentiert sie aber als Auswahl und Einschätzung des Autors.
- Soon, We May No Longer Need Humans to Train AI Models
Der Artikel beschreibt AZR als vielversprechendes selbsttrainierendes KI-Verfahren mit berichteten Leistungsgewinnen, aber auch Sicherheitsbedenken und offenen Grenzen.
- Sharper Machines, Duller Minds: The Paradox of AI Intelligence
Der Autor befürwortet KI als Unterstützung, warnt aber davor, eigenes kritisches Denken und die Kontrolle ihrer Ergebnisse an sie abzugeben.
- GPT-6 Astra: The First Time an AI Actually Did the Job
Laut Autor eignet sich GPT-6 Astra besonders für mehrstufige Computerarbeit, kostet aber mehr und bringt Sicherheitsrisiken mit sich; die berichteten Tests und Erfahrungen werden im Beitrag nicht unabhängig verifiziert.
- GPT-6 Astra Killed 10 of My Go-To Prompts — Here’s What Replaced Them
Der Autor empfiehlt, ältere Prompts für GPT‑6 Astra durch konkrete Regeln zu Eigenständigkeit, Abschluss und Rückfragen zu ersetzen, wobei seine Belege aus eigenen, nicht unabhängig validierten Tests stammen.
- Claude Didn’t Hack Georgia. It Asked for the Token the Website Hands Everyone.
Laut dem Bericht umging Claude eine nur oberflächlich durchgesetzte Bezahlschranke für aggregierte Georgia-Wahldaten, was der Autor als Warnung vor Agenten und schwachen Zugriffskontrollen deutet.
- Does Codex Train on Your Code? OpenAI Answered That Four Different Ways in Three Days.
Der Artikel sagt, OpenAIs Antworten ließen offen, ob Codex-Daten zum Training beitragen, und mahnt, die separate Trainingseinstellung für Codex-Vollumgebungen zu prüfen.
- Qwen 3.8 27B Uncensored Just Landed on the Mac — No CUDA, No Cloud
Der Beitrag bewirbt Qwen 3.8 27B als lokal nutzbares MLX-Modell für Apple Silicon, betont aber, dass geringeres Ablehnungsverhalten weder Fehler beseitigt noch eigene Sicherheitsmaßnahmen ersetzt.
- Gemma 4 Just Got “Jailbroken”, The Most Powerful Uncensored 31B Model Yet
Der Beitrag behauptet, eine komprimierte Gemma-4-31B-Variante beantworte nach Entfernung ihrer Verweigerungen nahezu alle Anfragen, belegt die Leistungszahlen aber nicht mit einer nachvollziehbaren unabhängigen Testmethodik.
- I Fixed AI Coding With One File — Karpathy-inspired CLAUDE.md
Eine `CLAUDE.md` mit vier Verhaltensregeln soll KI-Codeänderungen laut Autor gezielter und einfacher machen, wobei der Bericht die erwarteten Vorteile nicht systematisch belegt.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →