- Function calling and other API updates
Der Bericht stellt API-Neuerungen und Preissenkungen aus 2023 vor und weist auf Sicherheitsrisiken sowie mögliche Leistungseinbußen bei einzelnen Aufgaben hin.
- Frontier risk and preparedness
OpenAI kündigt ein Team und eine Richtlinie zur Vorbereitung auf katastrophale KI-Risiken an, legt im Bericht aber noch keine konkreten Ergebnisse oder Prüfmaßstäbe vor.
- Addendum to o3 and o4-mini system card: Codex
Das kurze Addendum beschreibt Codex’ cloudbasierte Programmierumgebung und Prüf- und Exportmöglichkeiten, liefert aber keine unabhängigen Leistungsbelege; der bereitgestellte Text ist vollständig und keine Fehlerseite.
- GPT-4.5 system card
Der bereitgestellte Auszug gibt OpenAIs positive Einschätzungen zu GPT‑4.5 und seiner Sicherheit wieder, enthält aber keine konkreten Bewertungswerte oder ausführlichen Belege.
- Addendum to OpenAI o3 and o4-mini system card: OpenAI o3 Operator
OpenAI beschreibt den Wechsel von Operator zu o3, zusätzliche Sicherheitstrainingsdaten und den fehlenden nativen Zugriff auf Programmierumgebung und Terminal.
- OpenAI accidentally hacked Hugging Face — should we have seen it coming?
Der Beitrag hält den Hugging-Face-Angriff für ein Warnsignal: Spitzenmodelle können laut Benchmarks bereits komplexe Cyberangriffe ausführen, und eine breitere Verfügbarkeit könnte das Risiko realer Angriffe erhöhen.
- https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf
Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.
- GPT-5 is Finally Here: These 3 Upgrades Are Total Game Changers
Der Artikel behauptet, GPT‑5 sei anpassungsfähiger, verlässlicher und leistungsfähiger beim Programmieren, weist aber auch auf verbleibende Fehler hin.
- On-Device AI Against Scams: Google DeepMind & MDDI
Laut Bericht soll ein lokal laufendes KI-System in Singapur Betrugsnachrichten erkennen und Nutzer warnen, doch konkrete Leistungskennzahlen werden nicht genannt.
- Genie 4: A new generation of world simulation
DeepMind kündigt Genie 4 als experimentelles, multimodales Echtzeit-Weltmodell an, dessen Möglichkeiten vielversprechend sein sollen, dessen Konsistenz und Simulationsgenauigkeit laut Bericht aber noch deutliche Grenzen haben.
- AI Cyber Defense Now Has To Move At Machine Speed
- When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers
Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.
- GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI
Laut GTIG nutzen Angreifer KI zunehmend zur Automatisierung von Cyberangriffen, doch vollständig autonome Exploit-Pipelines und erfolgreiche interaktive Einflussbots wurden in den beschriebenen Beobachtungen nicht festgestellt.
- AI Safety Needs a ‘Duty to Know’
- AI’s rewiring of US warfare may be only the beginning
- Open-weight AI models can exploit the patch gap
Epoch AI berichtet, GLM 5.3 habe sechs Firefox-Versionen über die Patch-Lücke kompromittiert und Dateien ausgelesen; die dabei ebenfalls genutzte unveröffentlichte Schwachstelle wurde laut Bericht inzwischen behoben.
- Anthropic bans sustained cruelty toward Claude under new policy
Anthropic will extreme, anhaltende Grausamkeit gegenüber seinen KI-Modellen untersagen, wobei gewöhnliche Kritik und legitime Tests ausgenommen sein sollen.
- Delaware DOJ launches probe of OpenAI following Hugging Face hack
Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.
- SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry
- AI Agent Kill Switches: What They Stop and Miss
Ein Kill Switch für KI-Agenten ist laut Bericht erst dann wirksam, wenn er alle Ausführungswege erfasst und seine Eindämmung unter realistischen Fehlerbedingungen geprüft wird.
- CyberOffense Leaderboard and Methodology
- Post by @farairesearch on X
- Post by @demishassabis on X
- Post by @rohanpaul_ai on X
- Claude can design electronic prototypes from start to finish
Anthropic zufolge kann Claude inzwischen mit wenig Anleitung Elektronik-Prototypen entwerfen, doch die drei gezeigten Geräte sind noch nicht umfassend geprüft oder für die Massenproduktion ausgelegt.
- Disrupting deceptive uses of AI by covert influence operations
OpenAI berichtet, fünf verdeckte Einflussoperationen gestört zu haben, deren KI-Nutzung laut Unternehmen keine bedeutende Zunahme an echter Reichweite oder Engagement bewirkte.
- Claude-shaped science
Schwartz zufolge kann KI mit BootLoops wissenschaftliche Berechnungen und fachübergreifende Arbeit stark beschleunigen, doch Ergebnisprüfung, fachliche Einordnung und Forschungsrichtung bleiben auf Menschen angewiesen.
- Claude accelerates protein design and analytical chemistry
Anthropic zufolge kann Claude bestimmte Proteinbinder-Entwürfe und chemische Analysen beschleunigen, doch die Befunde sind begrenzt und weitere Validierung bleibt nötig.
- Safeguarding Trust and Dignity in the Age of AI-Generated Media
Auf Basis von Fallstudien aus 18 Organisationen empfiehlt PAI mehr Kontext, Bildung, Schutzverfahren, transparente Regeln und Einwilligung beim Einsatz synthetischer Medien; die daraus gezogenen Lehren beruhen auf einer begrenzten Stichprobe.
- Post by @thetect0nic on X
- Mistral x Mozilla: Private, Multilingual AI Browsing
Mistral und Mozilla kündigen Firefox Smart Window mit Mistral-Modellen an und betonen Offenheit, regionale Anpassung und Datenschutz, ohne im Beitrag unabhängige Belege für diese Aussagen vorzulegen.
- Bringing open AI models to the frontier
Mistral AI kündigt offene Modelle wie Mistral 7B an und behauptet Leistungs-, Kosten- und Kontrollvorteile, belegt diese im Bericht jedoch nicht unabhängig.
- Mistral 7B
Mistral zufolge verbindet das frei lizenzierte Modell Mistral 7B hohe Benchmark-Leistung mit geringerem Rechen- und Speicherbedarf; die berichteten Werte stammen aus firmeneigenen Vergleichen, und die Chat-Version hat keine Moderation.
- LLM-discovered 0 days
- A near-autonomous AI chemist improves a challenging reaction
Laut Bericht verbesserte ein von GPT‑5.4 mitentwickelter TEMPO-Zusatz die untersuchte Chan-Lam-Reaktion, doch die Arbeit war nicht autonom und ihre allgemeine Übertragbarkeit ist noch ungeklärt.
- Le Chat | Mistral AI
Der Bericht beschreibt Le Chat als Mistrals mehrsprachigen Assistenten, nennt fehlenden Internetzugriff als damalige Einschränkung und weist darauf hin, dass das Produkt inzwischen Vibe heißt.
- How AI Companies are Handling Suicide and Self-Harm Today
Der vorliegende Auszug skizziert aktuelle KI-Schutzmaßnahmen bei Suizid- und Selbstverletzungsthemen sowie ungelöste Herausforderungen, enthält aber nicht den vollständigen Bericht.
- AI to defend critical infrastructure
Ein PNNL-Test in einer simulierten Wasseranlage deutet laut Anthropic darauf hin, dass Claude Sicherheitsprüfungen beschleunigen kann; reale Abwehr oder Einsatz in einer laufenden Anlage weist der Bericht nicht nach.
- Mistral Moderation API | Mistral AI
Mistral stellt eine anpassbare, mehrsprachige Moderations-API vor, nennt aber im bereitgestellten Text keine konkreten Benchmark-Ergebnisse.
- 2026 Transparency Report on Foundation Model Impacts
Der vorliegende Berichtsauszug findet Fortschritte bei der Transparenz von Foundation-Model-Anbietern, aber erhebliche Lücken bei öffentlich belegbaren Schäden und gesellschaftlichen Auswirkungen.
- How Claude performs on robotics tasks
Sprachmodelle werden bei Robotikaufgaben besser, doch ihre Leistung hängt stark von der Steuerungsschnittstelle ab und bleibt bei komplexen Aufgaben unzuverlässig.
- Post by @scottlincicome on X
- Putting sign language AI into users’ hands
Google kündigt SL2T für ASL-zu-Englisch auf Pixel 11 an und berichtet von guten Benchmark-Ergebnissen, während Fehler bestehen bleiben und die Alltagstauglichkeit im Bericht nicht unabhängig geprüft wird.
- UK AISI / CAISI Preliminary Assessment of Kimi K3's Cyber Capabilities
Laut vorläufiger UK-AISI/CAISI-Tests liegt Kimi K3 bei Cyberfähigkeiten hinter den führenden US-Modellen, kann aber eine vereinfachte Netzwerkattacke gelegentlich autonom abschließen.
- “Data Center Bandwagon” Campaign: US-targeted influence activity
OpenAI berichtet von der Sperrung eines wahrscheinlich China-verknüpften Kontenclusters, das ChatGPT für verdeckte Social-Media-Einflussarbeit zu US-Datenzentren und gegen chinesische Kommentatoren nutzte.
- Advancing youth safety and wellbeing in EMEA
OpenAI veröffentlicht einen fünfteiligen Vorschlag zum Jugendschutz bei KI und fördert zwölf einschlägige Projekte mit insgesamt 500.000 Euro, deren konkrete Wirkung im Bericht noch nicht belegt wird.
- Evals
Ein Überblick über KI-Benchmarks und ihre Aufgabenbeschreibungen, ohne konkrete Leistungsergebnisse oder Wirksamkeitsnachweise.
- Introducing Gemini 3.5 Flash Cyber
Google zufolge kann Gemini 3.5 Flash Cyber durch wiederholte, kostengünstige Codeanalysen mehr Schwachstellen finden; der Zugang ist zunächst begrenzt, und manche Benchmark-Vergleiche lassen sich anhand des bereitgestellten Textes nicht vollständig prüfen.
- Make Memory work for you.
Mistral zufolge soll Le Chats Memory frühere Informationen transparent und kontrollierbar nutzbar machen; der Beitrag beschreibt Anbieterangaben und enthält keine unabhängige Prüfung.
- Going PLACES: Participatory Localized Red Teaming forText-to-Image Safety in the Global South
Der Abstract-Auszug stellt PLACES mit über 26.000 lokal erhobenen T2I-Fehlerbeispielen vor und argumentiert, dass Sicherheit kulturell angepasst und partizipativ entwickelt werden sollte.
- Post by @grok on X
- TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering
- Remote agents in Vibe. Powered by Mistral Medium 3.5.
Mistral kündigt ein neues 128-Milliarden-Parameter-Modell und Cloud-Agenten für Coding und mehrstufige Aufgaben an, belegt die Leistungsversprechen im Bericht aber nur mit eigenen Angaben.
- Layered AI Defenses Have Holes: Vulnerabilities and Key Recommendations
- Accelerating the cyber defense ecosystem that protects us all
OpenAI will mit Fördermitteln und Partnern defensive Cyberfähigkeiten verbreitern, nennt aber keine Ergebnisse oder genauen Prüfmaßstäbe.
- Our evaluation of OpenAI's GPT-5.5 cyber capabilities
Laut AISI zeigt GPT‑5.5 starke Cybertest-Leistungen, doch die Simulationen bilden reale Verteidigung nur eingeschränkt ab und die aktualisierten Schutzmaßnahmen konnten nicht abschließend geprüft werden.
- Gemini Deep Think: Redefining the Future of Scientific Research
DeepMind berichtet über vielversprechende, teils menschlich begleitete Forschungsbeiträge von Gemini Deep Think, ohne Durchbrüche der höchsten mathematischen Kategorien zu beanspruchen.
- Introducing Anthropic Interviewer
Ein Anthropic-Test mit 1.250 Berufstätigen deutet laut Unternehmen auf wahrgenommene Produktivitätsgewinne, aber auch auf Sorgen über Kontrolle, Verdrängung und Zuverlässigkeit hin; die begrenzte, nicht experimentelle Momentaufnahme erlaubt keine verallgemeinernden Kausalaussagen.
- Ask Don't Tell: Reducing Sycophancy in Large Language Models
Der Bericht kommt zu dem Ergebnis, dass Fragen statt selbstsicher formulierter Behauptungen Sykophanz in den untersuchten Sprachmodellen verringern können, wobei die Übertragbarkeit auf reale Gespräche noch ungeklärt ist.
- Managing Advanced Cyber Risks in Frontier AI Frameworks
- Measuring AI’s capability to accelerate biological research in the wet lab
Der Bericht behauptet, GPT‑5 habe die Effizienz eines konkreten Klonierungsverfahrens um das 79-Fache verbessert; die Übertragbarkeit ist offen und Menschen führten die Versuche weiterhin aus.
- Concordia AI 2025 Impact Highlights
Der bereitgestellte Auszug fasst Concordia AI’s selbstberichtete Arbeit zu KI-Governance, Biosicherheit, öffentlicher Information und Organisationswachstum im Jahr 2025 zusammen.
- OpenAI public policy agenda
OpenAI skizziert eigene, veränderliche politische Vorschläge für sichere und breit zugängliche KI, ohne deren Wirkung unabhängig zu belegen.
- Addendum to GPT-5 System Card: Sensitive conversations
Der vorliegende Auszug berichtet von OpenAIs Verbesserungen für sensible Gespräche, enthält aber keine Ergebnisse der angekündigten Modellvergleiche.
- Post by @Eric_Wallace_ on X
- Exploiting Novel GPT-4 APIs
- Developing Enterprise Frontier Safeguards with our customers
EFS soll laut Anthropic Sicherheitsüberwachung mit kundeneigener Datenkontrolle verbinden; die Einführung ist geplant, und der Bericht liefert keine unabhängigen Leistungsnachweise.
- Physicist Christopher Stubbs joins Anthropic's Long-Term Benefit Trust
Anthropic zufolge soll der Physiker Christopher Stubbs seine wissenschaftliche Erfahrung in den Long-Term Benefit Trust einbringen, der die langfristige Ausrichtung des Unternehmens auf seinen öffentlichen Nutzen stützen soll.
- How Claude designed protein binders against scorpion neurotoxins
Claude entwarf Binder, von denen 17 im Labor an einzelne Skorpion-Neurotoxine banden; eine Neutralisierung oder ein wirksames Gegengift wurde nicht nachgewiesen.
- Introducing Lockdown Mode and Elevated Risk labels in ChatGPT
OpenAI stellt eingeschränkte Funktionen im Lockdown-Modus und Risikohinweise für ausgewählte vernetzte Fähigkeiten vor; der Bericht erläutert deren Zweck, belegt aber keine unabhängige Wirksamkeit.
- Strengthening societal resilience with Rosalind Biodefense
OpenAI will ausgewählten Entwicklern und öffentlichen Partnern GPT‑Rosalind für biologische Abwehr zugänglich machen; der Bericht beschreibt Vorhaben und Schutzmaßnahmen, aber noch keine nachgewiesenen Ergebnisse.
- Async control: Stress-testing asynchronous control measures for LLM agents
Der Abstract berichtet von einem Monitor-Ensemble mit 6 Prozent Falsch-Negativ- und 1 Prozent Falsch-Positiv-Rate in einer Testumgebung; der vollständige Bericht und nähere Angaben zu den Grenzen liegen hier nicht vor.
- Training Language Models with Language Feedback
- Summary of our gpt-oss methodology review
METR zufolge setzte OpenAI fünf von sechs dringlichen Empfehlungen zur Prüfung adversarialen Fine-Tunings von gpt-oss-120b um, veröffentlichte aber weiterhin keine konkreten Kriterien für die Einstufung als hochfähig.
- Designing more efficient quantum circuits with Claude
Anthropic zufolge entwarf Claude für mehrere Quantenaufgaben effizientere Schaltkreise, doch die berichteten Verbesserungen sind kein Nachweis, dass damit bereits ein vollständiger praktischer Quantencomputer erreichbar ist.
- Introducing the Child Safety Blueprint
Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.
- Our compliance framework for California's SB 53
Anthropic veröffentlicht einen Rahmen zur Erfüllung des kalifornischen SB 53 und wirbt für bundesweite, flexible Transparenzregeln für die größten KI-Entwickler.
- Capture the Flag: the emergence of complex cooperative agents
DeepMind zufolge übertrafen FTW-Agenten menschliche Spieler in Quake III Capture the Flag und zeigten auch mit verzögerter Reaktion starke Leistung.
- Claude Gov models for US national security
Anthropic kündigt spezialisierte Claude-Modelle für eingestufte US-Sicherheitsumgebungen an, deren behauptete Vorteile der Bericht ohne Leistungskennzahlen belegt.
- OpenAI’s Frontier Governance Framework
OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.
- An update on Claude Code quality reports
Anthropic zufolge verursachten drei inzwischen behobene Änderungen Qualitätsprobleme in Claude Code; das Unternehmen kündigt bessere Prüfungen und einen Reset der Nutzungslimits an.
- Building a culture of pioneering responsibly
Ibrahim zufolge soll KI durch offene Beratung, stetige Verbesserungen und vielfältige Perspektiven gesellschaftlich nützen; die Wirksamkeit der beschriebenen DeepMind-Maßnahmen wird im Beitrag nicht unabhängig belegt.
- DevRev delivers autonomous self-service with GPT-6.1 Sol
DevRev beschreibt den Einsatz von OpenAI-Modellen für Unternehmensservice und Softwareentwicklung und plant, Operator künftig komplexere Anliegen kontrolliert selbst lösen zu lassen; konkrete Leistungsnachweise nennt der Bericht nicht.
- Details about METR's preliminary evaluation of DeepSeek and Qwen models
METR sieht DeepSeek-Modelle aus Mitte 2025 vorläufig auf dem Niveau führender Modelle von Ende 2024, betont aber deutliche Grenzen des Testaufbaus.
- OpenAI Board Forms Safety and Security Committee
OpenAI setzt laut Bericht einen Ausschuss zur Prüfung seiner Sicherheitsmaßnahmen ein, doch Ergebnisse und Empfehlungen liegen darin noch nicht vor.
- Disrupting malicious uses of AI by state-affiliated threat actors
OpenAI berichtet von der Sperrung von Konten fünf staatlich zugeordneter Akteure und setzt nach eigenen Angaben auf Überwachung, Zusammenarbeit und verbesserte Schutzmaßnahmen, kann Missbrauch aber nicht vollständig verhindern.
- SafetyKit scales risk agents with OpenAI’s most capable models
SafetyKit berichtet über skalierte OpenAI-Agenten für Risiko- und Compliance-Prüfungen, doch die genannten Leistungswerte stammen aus unternehmenseigenen Evaluationen, deren Methodik der Bericht nicht offenlegt.
- Frontier model security
Anthropic fordert strengere Sicherheitspraktiken und mehr staatlich-industrielle Zusammenarbeit für Spitzen-KI und erklärt, diese Maßnahmen selbst schrittweise umzusetzen.
- Introducing Claude
Anthropic kündigt Claude samt zwei Varianten und mehreren Partneranwendungen an, stützt positive Bewertungen aber auf ausgewählte Aussagen statt auf unabhängige Vergleichsdaten.
- Strengthening democratic oversight in national security
OpenAI kündigt Unterstützung für demokratische Aufsicht über staatliche Sicherheits-KI an, berichtet jedoch von Plänen statt bereits nachgewiesenen Ergebnissen.
- Wuhan’s AI Development
Nur ein Auszug liegt vor: Er beschreibt Wuhan laut Bericht als Erprobungsort für KI, die Produktion und Alltag beeinflussen und Chinas Weg zu AGI fördern soll.
- Co-Scientist: A multi-agent AI partner to accelerate research
Laut DeepMind unterstützt Co-Scientist Forschende bei Hypothesen und zeigte in ausgewählten Laborprojekten Nutzen, bleibt aber ein Hilfsmittel unter fachlicher Verantwortung.
- Google DeepMind at NeurIPS 2023
Google DeepMind präsentiert für NeurIPS 2023 eigene KI-Forschung zu Multimodalität, Sicherheit und Modellfähigkeiten, deren behauptete Vorteile der Beitrag nicht unabhängig belegt.
- Detecting and countering malicious uses of Claude
Anthropic berichtet über vier Arten missbräuchlicher Claude-Nutzung und erklärt, die Konten gesperrt zu haben; für mehrere Vorhaben sei kein erfolgreicher Einsatz bestätigt.
- Helping developers build safer AI experiences for teens
OpenAI veröffentlicht anpassbare, quelloffene Prompt-Richtlinien für den Jugendschutz in KI-Anwendungen und betont, dass sie nur ein Ausgangspunkt ohne Sicherheitsgarantie sind.
- Making frontier cybersecurity capabilities available to defenders
Anthropic zufolge soll Claude Code Security komplexe Sicherheitslücken finden und Patch-Vorschläge machen, die stets von Menschen geprüft und freigegeben werden.
- New generative AI tools open the doors of music creation
Google kündigt generative Musikwerkzeuge mit Echtzeitsteuerung und neuen Kompositionsfunktionen an; die Sandbox war zunächst nur für ausgewählte Tester vorgesehen, und Qualitätsaussagen stammen von Google.
- Pushing the frontiers of audio generation
DeepMind beschreibt schnelle KI-Dialoggenerierung und ihre Anwendungen; die Leistungsangaben stammen aus dem Unternehmensbericht und werden darin nicht unabhängig verglichen.
- Using the Veil of Ignorance to align AI systems with principles of justice
Der Bericht sieht den „Schleier des Nichtwissens“ als möglichen Weg zu faireren KI-Leitprinzipien, doch die Ergebnisse aus vereinfachten Experimenten sind uneinheitlich und müssen in realistischen Kontexten geprüft werden.
- A learning agent that acquires social norms from public sanctions in decentralized multi-agent settings
In zwei Simulationen halfen öffentlich sichtbare Sanktionen dezentralen Agenten, gemeinsame Verhaltensnormen und höhere Erträge zu entwickeln, doch können dabei auch ungünstige Normen entstehen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →