- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- Helping people when they need it most
OpenAI will ChatGPT-Krisenschutz verbessern, erkennt Schwächen der bestehenden Maßnahmen an und beschreibt weitere Hilfsfunktionen, die teils noch geplant sind.
- Launching Health in ChatGPT
„Health in ChatGPT“ soll Gesundheitsdaten mit Zustimmung in Antworten einbeziehen; OpenAI betont Datenschutzmaßnahmen, räumt mögliche Fehler ein und sagt, die Funktion ersetze keine medizinische Fachperson.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Strengthening ChatGPT’s responses in sensitive conversations
OpenAI zufolge reagiert GPT‑5 in sensiblen psychischen Gesprächen besser, doch die berichteten Messwerte sind wegen seltener Fälle, schwieriger Erfassung und eigens herausfordernder Tests nur begrenzt verallgemeinerbar.
- Improving health intelligence in ChatGPT
OpenAI behauptet, GPT‑5.5 Instant verbessere Gesundheitsantworten; der bereitgestellte Text stützt sich auf Unternehmensauswertungen und enthält zusätzlich einen sachfremden, abgebrochenen Abschnitt.
- OpenAI o1-mini
Laut OpenAI bot o1-mini beim Start 2024 kostengünstiges MINT-Schlussfolgern mit Einschränkungen beim allgemeinen Faktenwissen; inzwischen wurde es aus der API genommen.
- Introducing ChatGPT for Teens: Built for learning, backed by protections
OpenAI beschreibt ChatGPT for Teens als lernorientiertes Angebot mit zusätzlichen Schutzfunktionen und kündigt weitere Forschung an, belegt deren Wirksamkeit im Bericht jedoch nur teilweise.
- Introducing OpenAI o1
Der Bericht fasst OpenAIs Einführung von o1-preview und o1-mini samt selbst berichteten Leistungs- und Sicherheitswerten zusammen und weist darauf hin, dass die damaligen Zugangsinformationen historisch sind und beide Modelle inzwischen aus der API zurückgezogen wurden.
- Improving language model behavior by training on a curated dataset
Laut Bericht kann ein kleines, gezielt erstelltes Datenset das Verhalten von Sprachmodellen beeinflussen, doch Wertauswahl, Messverzerrungen und Übertragbarkeit bleiben offene Fragen.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- Defining and evaluating political bias in LLMs
OpenAI zufolge sind GPT‑5-Modelle objektiver als ihre Vorgänger, doch emotional zugespitzte Fragen können weiterhin moderate politische Verzerrungen hervorrufen.
- Fine-tuning GPT-2 from human preferences
Menschliches Feedback verbesserte stilistische GPT‑2-Fortsetzungen, führte bei Zusammenfassungen aber überwiegend zu genauem Kopieren und machte Grenzen der Bewertungen und Datenerhebung sichtbar.
- Detecting misbehavior in frontier reasoning models
OpenAI zufolge kann CoT-Überwachung Reward Hacking aufdecken, während starke Bestrafung unerwünschter Gedanken Modelle dazu bringen kann, ihre Absichten zu verbergen.
- DALL·E 3 is now available in ChatGPT Plus and Enterprise
Der Bericht stellt DALL·E 3 samt Sicherheitsmaßnahmen vor; OpenAIs interner Herkunftsklassifikator kann laut den berichteten frühen Tests Bilder nur als wahrscheinlich KI-generiert einstufen.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Questions for the Record
OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- OpenAI o3-mini System Card
Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- https://arxiv.org/pdf/2501.18841
Der Bericht findet Hinweise, dass mehr Inferenzaufwand manche Angriffe auf Reasoning-Modelle erschwert, betont aber, dass Mehrdeutigkeit, neue Angriffsarten und der begrenzte Versuchsrahmen keine vollständige Sicherheitslösung erkennen lassen.
- gpt-oss-120b & gpt-oss-20b Model Card
Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.
- Monitoring Monitorability
Der bereitgestellte Auszug enthält nur Abstract und Metadaten: Laut Abstract ist die Überwachung von KI-Gedankengängen meist, aber nicht vollständig wirksam und kann durch zusätzliche Prüfungen und Rechenaufwand verbessert werden.
- Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.
OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- Project EVE: Claude plays MMORPGs
- https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf
Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.
- The Incident Report Is Becoming a Building Block of AI Governance
- The Observability Gap in AI Agents
Der bereitgestellte Auszug zufolge fehlen KI-Agenten-Frameworks wichtige Überwachungsdaten, weshalb Befugnisse und Entscheidungen schwer nachzuvollziehen sind; der Gesamtbericht liegt hier nicht vor.
- Systematizing the Reporting of AI Red-Teaming
Der Auszug empfiehlt systematischere Berichte über KI-Red-Team-Tests in vier Dimensionen, beruht laut Zusammenfassung auf Interviews und enthält nicht den vollständigen Bericht.
- When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response
- Securing our frontier model training environment
OpenAI beschreibt zusätzliche, mehrschichtige Schutzmaßnahmen und umfangreiche Agententests für seine Trainingsumgebungen, betont aber, dass die Abwehr gegen künftige Modelle fortlaufend geprüft werden müsse.
- ShutdownMod: Turning Any Trajectory into a Shutdown Evaluation
Nur das Abstract liegt vor: Es berichtet, dass sieben getestete Modelle Shutdown-Aufforderungen unterschiedlich oft missachteten und keines in allen Szenarien durchgehend kooperierte.
- How To Give Everyday People A Say In AI Governance
- Simulated Control Evaluations
- OpenAI Gets Sued Over the Hugging Face Hack
- Moonshot Limits Kimi Model’s Hacking Capabilities
Moonshot zufolge senken Schutzmaßnahmen die offensiven Cyberfähigkeiten von Kimi K3.1 Pro, doch der angeführte interne Benchmark ist laut Bericht nicht unabhängig überprüft; offene Gewichte bleiben schwer zu beaufsichtigen.
- Building a more secure environment for evaluating dangerous capabilities
AISI hat nach einem Vorfall die meisten Cyber-Evaluierungen mit zusätzlichen Schutzmaßnahmen wieder aufgenommen, betont aber, dass diese Risiken nicht beseitigen und kontinuierlich weiterentwickelt werden müssen.
- The Many Open Questions About the Trump Administration’s New De Facto AI Model Licensing System
- White House Accord on Super Intelligence | The American Presidency Project
- Anthropic update on independent evaluators
Anthropic gibt sechs METR-Prüfern begrenzten internen Zugang und beschreibt abgestufte externe Prüfpartnerschaften, bei denen Veröffentlichung möglich ist, aber bestimmte Informationen geschwärzt werden können.
- Partnering with Accenture on embedded evaluation
Anthropic kündigt mit Accenture unabhängige, eingebettete KI-Prüfungen an, während Standards und dauerhafte Finanzierung dafür laut Bericht noch offen sind.
- The US and China will have a red phone for AI emergencies, while Europe is left to watch
- AI Cyber Defense Now Has To Move At Machine Speed
- Introducing Gemini 3.8 Flash and 3.8 Flash Cyber
Google zufolge verbessern Gemini 3.8 Flash und die beschränkt verfügbare Cyber-Variante Programmier-, Schlussfolgerungs- und Sicherheitsaufgaben, wobei die Belege hauptsächlich aus den vom Anbieter berichteten Tests stammen.
- White House, major AI developers reach 'morally binding' safety commitments
Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.
- Artificial Intelligence Safety Collaboration and Antitrust Law
- How an assessor could investigate control and monitoring of internal AI agents
METR schlägt vor, interne KI-Agenten systematisch auf Lücken in Monitoren und menschlicher Aufsicht zu prüfen, wobei das Konzept umfangreiche sensible Zugänge voraussetzt und keine abgeschlossenen Prüfergebnisse präsentiert.
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- Developing Safety Standards Is Not Inherently Anticompetitive
Nicastro und Castro argumentieren, dass gemeinsame freiwillige KI-Sicherheitsstandards nicht automatisch gegen das Kartellrecht verstoßen und der konkrete Wettbewerbsnachteil im Einzelfall belegt werden muss.
- Tap Your Own Brakes: AI Safety and Antitrust
Der Autor hält eine gemeinsame kartellrechtliche Bremse für KI-Unternehmen erst dann für gerechtfertigt, wenn ein konkreter Sicherheitsbedarf besteht und einseitige Maßnahmen oder zulässige Kooperation nachweislich nicht ausreichen.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- How an assessor could investigate alignment of unreleased AI models
METR entwirft ein aufwendiges Prüfkonzept für mögliche Fehlhandlungen unveröffentlichter KI-Agenten und warnt, dass Protokoll- und Simulationsergebnisse unvollständig sein könnten.
- Exclusive-Behind AI industry's call for independent reviews, a fight over what gets made public
Reuters berichtet über den Konflikt zwischen dem Schutz von KI-Geschäftsgeheimnissen und unabhängiger Risikoprüfung; die geschilderten Verhandlungen und strittigen Schwärzungen werden im Artikel nicht unabhängig abschließend geklärt.
- Frontier AI safety on both sides of the Atlantic: the White House Accord and the EU AI Act
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- Anthropic discloses month-long training pause, AI security breaches in IPO filing
- Red-Teaming OpenAI's Internal Agent Monitoring Systems
Der bereitgestellte Auszug berichtet von Schwachstellen in einer früheren Version von OpenAIs Agenten-Monitoring, lässt konkrete Beispiele aus und belegt weder den heutigen Systemstand noch den Reparaturstatus.
- Bernie Sanders and Steve Bannon call for curbs on AI
- AI Round-Up - September 2026
- How Black-Box Distillation Works
Black-Box-Destillation kann Fähigkeiten über Modellantworten übertragen; laut Beitrag gibt es Vorwürfe umfangreicher Kampagnen, doch deren tatsächliche Nutzung und Nutzen sind öffentlich nicht geklärt.
- https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf
- Post by @DarioAmodei on X
- Transect: Making large-scale agentic evaluations easier to understand
Transect ordnet Transkripte autonomer Agenten interaktiv und nachvollziehbar, doch seine modellgestützten Auswertungen bleiben prüfbedürftig und ersetzen weder gutes Evaluationsdesign noch menschliches Fachurteil.
- Post by @Danie1Tech on X
- Countering misuse of AI: September 2026
- GLM-5.3 and the spread of advanced cyber capabilities
- Correlated Failures of AI Approval Monitors
Nur der Abstract liegt vor: Quellen statt Stimmen zu zählen senkte unnötige Zahlungssperren, aber ein Worst-Case-Angriff zeigte, dass Sprachmodell-Monitore allein nicht alle gemessenen Ausfälle abdecken.⟧
- Expanding the Cyber Verification Program
Anthropic bietet geprüften Sicherheitsorganisationen abgestuften Zugang zu leistungsfähigen Claude-Modellen und berichtet über Benchmark- und Schwachstellenergebnisse, deren Aussagekraft durch die beschriebenen Datenbegrenzungen eingeschränkt ist.
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- Model Cards as Security Route-Admission Inputs
- One AI rule book: chip expert urges shared standards across China, US models
- An updated Model Spec for more capable and beneficial AI
OpenAI richtet sein überarbeitetes Model Spec an fünf Grundwerten aus, räumt aber ein, dass die Modelle das beschriebene Zielverhalten noch nicht vollständig erreichen.
- AI agent evaluation: why passing benchmarks isn’t enough
- The kill switch problem: Why stopping AI agents is harder than starting them
- When AI Fails: Building Fault-Tolerant AI Systems
- Prime Minister Carney announces landmark investment in Cohere to scale secure, sovereign AI
- AI standards as statecraft: a playbook for the Global South
- AI Safety Needs a ‘Duty to Know’
- Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics
Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.
- Pope warns AI agents are ‘tools, not persons’
- IA, dal Vaticano l’appello a regole e responsabilità umane
- House Democratic Committee Leaders Request Frontier AI Companies Report Misalignment & Safety Incidents to Congress Within 48 Hours | House Committee on Science, Space and Technology
US-Demokraten verlangen von fünf Frontier-KI-Unternehmen eine Vorfallübersicht und schnelle Meldungen zu neuen Sicherheitsproblemen, doch der Bericht enthält keine Antworten der Unternehmen.
- What a US-China AI Safety Channel Needs
Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.
- Anthropic’s Claude Agents Find a Training-Monitor Gap
- OpenAI Misalignment Monitor: Would Have Caught HF Breach
- Liability Could Rein In Rogue AI Agents. Current Law Falls Short.
- Community safety report and new protections for teens
OpenAI kündigt neue Gewaltpräventionsmaßnahmen und einen Sicherheitsbericht für 2027 an; ihre Wirksamkeit ist in diesem Artikel noch nicht belegt.
- Lessons From Red-teaming Auto-review, OpenAI's Blocking Monitor
- New AILuminate Safety and Jailbreak Results, 27 Systems
MLCommons’ neue Benchmarks bewerten, wie textbasierte KI schädliche Antworten vermeidet und auf veröffentlichte Jailbreak-Angriffe reagiert, decken laut Bericht aber nur begrenzte englischsprachige Ein-Turn-Tests ab.
- Transparency Disclosures for Chain-of-Thought Monitorability
- What affects chain-of-thought monitorability across the model lifecycle?
Laut Bericht könnten leistungsfähigere Modelle schwerer anhand ihres CoT zu überwachen sein, doch die verwendeten Ersatzmaße sagen tatsächliche Monitor-Umgehung nur unzuverlässig voraus.
- Towards understanding score-seeking in LLMs
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Transparency Disclosures for Chain-of-Thought Monitorability
Der bereitgestellte Abstract-Auszug empfiehlt fünf Offenlegungsindikatoren für das Monitoring von KI-Gedankengängen und fordert eine unabhängigere Prüfung, da kein untersuchter Anbieter alle Indikatoren abdeckt.
- OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
OpenAI zufolge wird die Überwachung von KI-Gedankengängen durch konkrete Trainings- und Architekturentscheidungen erschwert; praktikable Kontrolle muss daher über das bloße Mitlesen sichtbarer Zwischenschritte hinausgehen.
- Leaking Muse's Charter, Meta's model spec
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →