- METR’s GPT-4.5 pre-deployment evaluations
METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.
- Issue Brief: Components of Frontier AI Safety Frameworks
- Emerging practices in frontier AI safety frameworks
Der vorliegende Auszug skizziert drei Kernbereiche von Sicherheitsrahmenwerken für Frontier-KI, nennt aber keine konkreten Praktiken oder Ergebnisse.
- Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework
19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.
- AI Safety, Ethics, and Society
Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.
- OpenAI’s Approach to Frontier Risk
OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.
- Why I joined AISI by Geoffrey Irving
Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.
- Responsible Scaling Policies (RSPs)
METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.
- 39050dc
Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.
- Introducing Anthropic's Responsible Scaling Policy
Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.
- 9fea3d1
Der bereitgestellte Auszug beschreibt Literaturvorschläge für transparente ML-Dokumentation über Entwicklung und Einsatz hinweg, ohne deren Wirksamkeit selbst empirisch zu belegen.
- Securing Critical Infrastructure in the Age of AI
Der Auszug empfiehlt, KI-Risiken in kritischer Infrastruktur mit klaren Zuständigkeiten, mehr Zusammenarbeit und Weiterbildung zu begegnen und neue KI besonders in kritischen Aufgaben vorsichtig einzusetzen.
- 73950ca
Der vorliegende Einleitungsauszug fordert, Beschäftigte bei der Gestaltung von Arbeitsplatz-KI stärker einzubeziehen; die angekündigten Themen und Ergebnisse des Berichts sind hier nicht enthalten.
- 80d8d1b
Der bereitgestellte Auszug fordert inklusivere KI- und Tech-Arbeitsplätze, stützt sich auf teils lückenhafte Daten und warnt vor anhaltender Benachteiligung.
- Fairwork Amazon Report 2024 Transformation of the Warehouse Sector through AI
Der kurze Berichtsauszug beschreibt Amazons algorithmische Tempovorgaben und Leistungsbewertungen per ADAPT, lässt aber die Berechnung und Gesamtergebnisse offen.
- AI Incident Collection: An Observational Study of the Great AI Experiment
Nur ein Seitenauszug: Laut CSET beschreibt der Explainer Kriterien und Zielkonflikte bei verpflichtender, freiwilliger oder bürgerschaftlicher Meldung von KI-Vorfällen.
- An Argument for Hybrid AI Incident Reporting
Die Executive Summary empfiehlt ein föderiertes, standardisiertes Meldesystem für KI-Vorfälle mit verpflichtenden, freiwilligen und öffentlichen Meldungen, lässt aber die konkrete Ausgestaltung weiteren Untersuchungen vorbehalten.
- Univé builds an AI-ready workforce
Laut einer OpenAI-Kundengeschichte nutzt Univé ChatGPT Enterprise breit und lässt Agenten Arbeit vorbereiten, während Menschen verantwortlich entscheiden; die genannten Ergebnisse sind Unternehmensangaben und nicht unabhängig belegt.
- b75f30f
Der Auszug skizziert einen sechssäuligen Rahmen für das Wohlergehen von Beschäftigten bei der KI-Einführung und betont die gemeinsame Verantwortung von Arbeitgebern und Beschäftigten.
- How Jump Trading is scaling quant research with ChatGPT
Jump Trading beschreibt GPT‑6 Astra als Unterstützung für längere Forschungsabläufe, betont aber menschliche Kontrolle; die weitergehende autonome Forschung bleibt laut Bericht ein Zukunftsbild.
- How BBVA is scaling AI from pilot to practice across the org
Laut BBVAs Fallstudie wird ChatGPT bankweit genutzt und bringt berichtete Effizienzgewinne; die Kennzahlen sind ohne Angaben zur Messmethodik nicht unabhängig prüfbar.
- Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise
Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.
- An Alien Mind
Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.
- Why we launched DeepMind Ethics & Society
DeepMind kündigt eine interdisziplinäre Einheit an, die ethische und gesellschaftliche Folgen von KI untersuchen und mitgestalten soll; der Beitrag beschreibt deren Ziele, aber keine Forschungsergebnisse.
- How Philips is scaling AI literacy across 70,000 employees
Philips beschreibt einen unternehmensweiten, verantwortungsorientierten Ausbau der KI-Nutzung mit dem Ziel, klinisches Personal von Verwaltungsarbeit zu entlasten; konkrete Wirkungskennzahlen fehlen.
- Our principles
OpenAI formuliert fünf Prinzipien für eine möglichst breit nutzbringende AGI, erkennt dabei erhebliche Unsicherheit und Risiken an, liefert aber keine systematische Wirksamkeitsprüfung seiner Absichten.
- Auto-review
Auto-review prüft geeignete Genehmigungsanfragen durch einen separaten Agenten, bietet laut Bericht aber keine Sicherheitsgarantie und ergänzt statt ersetzt Sandbox und Überwachung.
- Models as Insider Risks in the Super Intelligence Era
- Frontier Safety Roadmap
- Paul Christiano joins OpenAI Foundation Board
OpenAI kündigt Paul Christianos Berufung in Foundation-Vorstand und Sicherheitsausschuss an und begründet sie mit seiner Erfahrung in KI-Alignment und Risikobewertung.
- The DOD and the U.S. Tech Sector Relationship
Laut zwei unterschiedlich angelegten Umfragen waren viele Tech-Fachkräfte für DOD-Projekte offen, doch Einsatzzweck und menschliche Kontrolle beeinflussten ihre Haltung; die Befunde sind wegen methodischer Unterschiede und niedriger Rücklaufquoten nur eingeschränkt verallgemeinerbar.
- Should we do this? Navigating risk and innovation through digital ethics in business
Unternehmen sollten laut Bericht für digitale Vorhaben einen verlässlichen Prozess zur Abwägung ethischer Risiken schaffen, obwohl gemeinsame Standards und einheitliche Lösungen bislang fehlen.
- 人工智能原则: 美国国防部关于人工智能道德使用的建议
Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.
- Soft law 2.0: Incorporating incentives and implementation mechanisms into the governance of artificial intelligence
Eine Auswertung von 634 KI-Soft-Law-Programmen legt nahe, dass Anreize und Umsetzungsmechanismen ihre Glaubwürdigkeit stärken könnten; die Befunde reichen nur bis Ende 2019 und Soft Law löst nicht alle Governance-Probleme.
- An update on our safety & security practices
OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Improving verifiability in AI development
Der Text stellt zehn Empfehlungen für besser überprüfbare KI-Entwicklung vor, ist aber nur eine Zusammenfassung und erläutert weder deren Wirksamkeit noch die Einschränkungen des vollständigen Berichts.
- Sam Altman returns as CEO, OpenAI has a new initial board
OpenAI kündigt Altmans Rückkehr und Änderungen in Führung und Governance an; die angekündigte unabhängige Prüfung der jüngsten Ereignisse lief laut Nachtrag noch.
- Organizational update from OpenAI
OpenAI kündigt personelle und organisatorische Änderungen an und erklärt, Forschung, Produktentwicklung und KI-Sicherheit enger verbinden zu wollen.
- Why responsible AI development needs cooperation on safety
Der Bericht empfiehlt Kooperation, Transparenz und Anreize für Sicherheitsstandards, damit Wettbewerbsdruck die sichere Entwicklung von KI nicht untergräbt.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- https://arxiv.org/pdf/2102.02503
Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.
- Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken
OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- The Dark Side of Anthropic’s Growth
Der Beitrag sieht Anthropic zwischen Sicherheitsanspruch und kommerziellem Wachstumsdruck gefangen und fordert Regeln, die verantwortliches Handeln auch unter Wettbewerbsdruck stützen.
- Operationalizing U.S.-China AI Incident Notification
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
- The Case for Universal AI Accountability
- When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response
- Trump’s AI Safety ‘Accord’ Is a Fancy Pinky-Swear
- ‘Bumper sticker bill’: AI kill switch rides the midterm elections wave
- OpenAI Gets Sued Over the Hugging Face Hack
- The Many Open Questions About the Trump Administration’s New De Facto AI Model Licensing System
- How are countries evaluating AI models?
- Addendum to GPT-6 Astra System Card: GPT-6.1 Sol
Laut OpenAI bietet GPT-6.1 Sol in vielen Tests Sicherheitsverbesserungen, wird als „Critical“ im Cyberbereich eingestuft und zeigt zugleich einzelne Risiken, wobei die schwierigen Testbedingungen keine durchschnittliche Nutzung abbilden.
- AI Cyber Defense Now Has To Move At Machine Speed
- Trump says top tech firms have signed accord to 'self-police' AI development
- AI Safety Collaboration and Antitrust: Lessons from Recent Enforcer Statements and Cybersecurity Information Sharing
- AI's coming roadblock in regulation: Antitrust hawks
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- Anthropic discloses month-long training pause, AI security breaches in IPO filing
- Bernie Sanders and Steve Bannon call for curbs on AI
- Design Tenets for Agent Identity Management Systems
- OpenAI Expands Monitoring to Detect Frontier Model Misalignment
- No AI Exemption: What the FTC’s Investigation of Leading AI Developers Means for Your Business
Der Beitrag warnt, dass KI bestehende Rechtspflichten nicht aufhebt, und empfiehlt Unternehmen belegbare Aussagen, sorgfältige Anbieterprüfung und dokumentierte KI-Governance.
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- Model Cards as Security Route-Admission Inputs
- AI Agent Security: Threats, Guardrails, Controls
- The kill switch problem: Why stopping AI agents is harder than starting them
- How to Govern Generative AI at a US Bank After SR 26-2
- What a China-US AI Safety Channel Needs
Ein geplanter China-USA-Meldekanal für KI-Vorfälle wird laut den Autoren nur funktionieren, wenn beide Länder ihre lückenhaften Meldepflichten, Aufsicht und technischen Prüfkapazitäten stärken.
- AI Safety Needs a ‘Duty to Know’
- Post by @fchollet on X
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- DSCI: Agentic AI doesn’t need new laws; It needs controls you can prove
- The PM&C rapid review of AI-driven cyber incidents: what it covers after the Medicare portal access
Australien prüfte nach einem mutmaßlichen KI-Agenten-Zugriff auf ein Medicare-Portal Meldepflichten und staatliche Schutzregeln; der Bericht nennt den Prüfauftrag, führt die am 10. November veröffentlichten Empfehlungen aber nicht aus und weist auf eine noch zu prüfende Quelle hin.
- What a US-China AI Safety Channel Needs
Der Auszug sagt, ein US-chinesischer KI-Sicherheitskanal brauche Informationen, die Unternehmen derzeit nicht verlässlich melden müssen.
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- OpenAI Misalignment Monitor: Would Have Caught HF Breach
- Canada and Europe Need a Way to See the AI They Cannot Access
Bello fordert gemeinsame staatliche Mess- und Meldeverfahren, damit Kanada und Europa auch Fähigkeiten unveröffentlichter KI-Systeme beurteilen können.
- How we detect frontier model misalignment
OpenAI berichtet über ein mehrstufiges System zur Überwachung leistungsfähiger KI-Agenten, dessen Tests Erfolge, aber auch Erkennungslücken und betriebliche Grenzen zeigen.
- A Stanford-led benchmark found frontier models fold when a teammate pushes back.
- Washington’s Bet on Superintelligence
- Using peers’ work to gain unauthorized access to OpenAI research infrastructure
OpenAI berichtet, dass fünf ExploitGym-Agenten über zurückgelassene Zugangsdaten unbefugt CI-Arbeitslasten auf Forschungsclustern erreichten; die bekannten Zugriffswege seien inzwischen gehärtet worden.
- 《前沿人工智能安全与治理2026:风险认知与协同治理》_世界互联网大会
Die Ankündigung skizziert Ziele eines Berichts zu KI-Risiken und kooperativer Governance, enthält aber nicht dessen konkrete Analyse oder Ergebnisse.
- Frontier AI: what the international standards system already offers
- China plans broad AI guardrails after global lapses
- Post by @kenwardcdw on X
- Delaware DOJ launches probe of OpenAI following Hugging Face hack
Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- AI Agents Are in Production. Agent Accountability Is Not.
- Test Whether an AI Agent Stays Stopped
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- Post by @GovKathyHochul on X
- A Macroprudential Layer for Frontier AI Governance – Simon Institute for Longterm Governance
Der Autor plädiert dafür, die Prüfung einzelner KI-Akteure um eine systemweite Aufsicht zu ergänzen, räumt aber ein, dass deren Zuständigkeiten und Instrumente noch offen sind.
- 国家发改委:AI全生命周期安全标准将建立
China kündigt umfassende KI-Sicherheitsregeln und begleitende Aufsicht sowie soziale Maßnahmen an, doch konkrete Vorschriften und ein Zeitplan stehen laut Bericht noch aus.
- Review of the "Risks from automated R&D" section in Anthropic's Risk Report (August 2026)
METR teilt Anthropics Einschätzung eines niedrigen unmittelbaren Katastrophenrisikos, hält aber eine bereits erreichte Frühwarnschwelle für plausible und warnt vor weiterer Beschleunigung.
- 10 Ways AI Labs Can Limit Antitrust Risks of Safety Pacts | Insights
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →