- The Partnership on AI Launches Multistakeholder Initiative To Enhance Machine Learning Transparency
Die PAI kündigte einen inklusiven, iterativen Prozess für ML-Transparenzempfehlungen an, deren Wirksamkeit laut Mitteilung erst noch durch umfangreiche Belege nachzuweisen wäre.
- 4a3bf11
Der Auszug fordert transparente, unabhängig prüfbare Risikobewertungswerkzeuge und zugleich Schutzmaßnahmen für veröffentlichte personenbezogene Daten.
- A "diff" tool for AI models
Anthropic berichtet über ein Verfahren, das Verhaltensunterschiede zwischen KI-Modellen aufspüren soll, betont aber, dass es ein begrenztes Screening und kein abschließender Risikonachweis ist.
- Gemma Scope 2: Helping the AI Safety Community Deepen Understanding of Complex Language Model Behavior
Gemma Scope 2 soll die Untersuchung interner Abläufe von Gemma-3-Modellen erleichtern; die beschriebenen Sicherheitsanwendungen sind Möglichkeiten, deren Wirksamkeit der Bericht nicht systematisch nachweist.
- Article 53: Obligations for Providers of General-Purpose AI Models | EU Artificial Intelligence Act
Artikel 53 sieht Dokumentations-, Informations-, Urheberrechts- und Kooperationspflichten für Anbieter allgemeiner KI-Modelle vor, mit einer begrenzten Ausnahme für bestimmte quelloffene Modelle ohne systemische Risiken.
- Dario Amodei — The Urgency of Interpretability
- https://www.edpb.europa.eu/system/files/documents/2024-12/edpb_opinion_202428_ai-models_en.pdf
- Models as Insider Risks in the Super Intelligence Era
- Questions for the Record
OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.
- How Black-Box Distillation Works
Black-Box-Destillation kann Fähigkeiten über Modellantworten übertragen; laut Beitrag gibt es Vorwürfe umfangreicher Kampagnen, doch deren tatsächliche Nutzung und Nutzen sind öffentlich nicht geklärt.
- SynthID Bio: Watermarking methods for synthetic biology
SynthID Bio soll KI-generierte biologische Entwürfe nachverfolgbar machen; der Bericht meldet vielversprechende Funktionstests, betont aber weiteren Forschungsbedarf und die noch offene Widerstandsfähigkeit gegen gezielte Manipulation.
- Risk Mitigation Strategies for the Open Foundation Model Value Chain
Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.
- Infusion: Shaping model behaviour by editing training data via influence functions
Vorliegt nur ein Abstract-Auszug: Die Forschenden berichten, dass Infusion mit kleinen Änderungen an Trainingsdaten Modellverhalten beeinflussen kann, besonders durch Verstärkung bereits gelernter Verhaltensweisen.
- Sora System Card
OpenAIs Bericht beschreibt Soras Fähigkeiten und Schutzmaßnahmen, nennt deren Testwerte, räumt aber Umgehungsmöglichkeiten und Grenzen ein, ohne eine unabhängige Bestätigung der Wirksamkeit vorzulegen.
- Detecting and preventing distillation attacks
Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.
- Gemma Scope: helping the safety community shed light on the inner workings of language models
Gemma Scope ist eine offene SAE-Sammlung zur Untersuchung der inneren Abläufe von Gemma 2; erhoffte Sicherheitsanwendungen sind noch keine nachgewiesenen Ergebnisse.
- An off switch for dual-use knowledge
- Natural Language Autoencoders
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Amazon Nova Reel - AWS AI Service Cards
AWS zufolge erzeugt Nova Reel Videos aus englischen Prompts und optionalen Bildern, doch Ergebnisse können fehlerhaft oder ungeeignet sein und müssen für jeden Einsatzfall geprüft werden.
- Open vs. closed AI: How behind are open models?
Der bereitgestellte Quelltext enthält den Hauptteil, aber nicht die Anhänge vollständig; der Bericht schätzt den Rückstand offener KI-Modelle auf etwa ein Jahr, während Effizienz und künftige Entwicklung unsicher bleiben.
- Singapore’s A.I.Verify builds trust through transparency
Singapurs A.I. Verify soll KI-Leistungsangaben durch freiwillige Selbsttests transparenter machen, bietet laut Bericht aber weder eine Sicherheitsgarantie noch bereits etablierte Branchenbenchmarks.
- Our approach to data and AI
OpenAI legt seine eigenen Grundsätze zu Trainingsdaten, Urheberpräferenzen und Partnerschaften dar und kündigt Media Manager an, ohne dass der Bericht die Unternehmensangaben unabhängig überprüft.
- Advancing computer use with Ironclad
Laut OpenAI schnitt GPT‑6 Astra in 11 gemeinsam mit Ironclad entwickelten Vertragsaufgaben besser und schneller ab als GPT‑5.6 Sol, wobei die Zeitwerte simuliert und die Ergebnisse nicht auf alle Abläufe übertragbar sind.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Progress on provable inference for large language models
- OpenAI Codex
Der veraltete OpenAI-Beitrag beschreibt Codex als Sprach-zu-Code-Modell für Programmieraufgaben und berichtet über seinen damaligen Beta-Start, ohne unabhängige Leistungsnachweise zu liefern.
- AlphaGenome: AI for better understanding the genome
AlphaGenome sagt vielfältige Folgen von DNA-Sequenzen und Varianten voraus, ist laut Bericht aber ein Forschungsmodell mit Grenzen und nicht für klinische Anwendungen validiert.
- Auditable Unlearning for LLMs
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Die Autorinnen und Autoren schlagen Auditierbarkeit als vierte Unlearning-Anforderung vor und berichten, dass ihr zweistufiger Zusatz sie verbessert, während die Fähigkeitserhaltung das Oracle-Niveau nicht erreicht.
- Expanding on how Voice Engine works and our safety research
OpenAI stellt Voice Engine als leistungsfähige, noch nicht allgemein verfügbare Stimmenerzeugung dar und beschreibt begrenzte Einsätze sowie Schutzmaßnahmen, deren Wirksamkeit der Bericht nicht unabhängig belegt.
- gpt-oss-safeguard technical report
Der bereitgestellte Auszug stellt zwei offene Modelle zur Richtlinien-basierten Inhaltsklassifizierung vor, nennt Grenzen ihres vorgesehenen Einsatzes und verweist auf Prüfungen, enthält jedoch keine konkreten Evaluationsergebnisse.
- 042b51c
Nur ein Glossarauszug: Er erläutert Begriffe aus KI, Datenschutz und Organisationspraxis, aber keine Methoden oder Ergebnisse des übergeordneten Berichts.
- Ensuring trustworthy algorithmic decision-making
Die CDEI empfiehlt kontextgerechte Fairness, mehr Transparenz im öffentlichen Sektor und eine bessere Anwendung bestehenden britischen Rechts, wobei wichtige Fragen zu passenden Prüfungen und Gegenmaßnahmen noch offen sind.
- A global workspace in language models
- Open-sourcing circuit-tracing tools
- Decomposing language models into components
Anthropic zufolge machen Features kleine Sprachmodelle verständlicher und gezielter steuerbar; ob der Ansatz bei großen Modellen funktioniert, ist noch ungeklärt.
- Golden Gate Claude
- Unlocking High-Accuracy Differentially Private Image Classification through Scale
Der Bericht meldet bessere Genauigkeit für Bildklassifikation mit Differential Privacy, nennt starke Resultate bei ε=8 und verweist für weitere Details auf die wissenschaftliche Arbeit.
- Teach LLMs to Phish: Stealing Private Information from Language Models
Ein Abstract-Auszug behauptet, dass „neural phishing“ sensible Trainingsdaten aus Sprachmodellen mit teils hohen Erfolgsraten gewinnen kann, liefert aber keine Details zur Überprüfung dieser Angaben.
- Introducing OpenAI Privacy Filter
OpenAI veröffentlicht Privacy Filter zur Erkennung und Schwärzung personenbezogener Daten, betont aber, dass das Modell fehleranfällig ist und in sensiblen Anwendungen menschliche Kontrolle nicht ersetzt.
- Extracting Concepts from GPT-4
OpenAI beschreibt einen Ansatz, der GPT‑4-Aktivierungen in Millionen möglicher Konzepte zerlegt, betont aber, dass Deutung, Vollständigkeit und Verständnis der weiteren Verarbeitung noch erhebliche offene Probleme sind.
- Understanding neural networks through sparse circuits
Sparsame Modelle zeigen in einfachen Aufgaben teilweise nachvollziehbare Schaltkreise, doch ob der Ansatz auf leistungsfähige Systeme übertragbar ist, bleibt offen.
- How ChatGPT learns about the world while protecting privacy
OpenAI erklärt, wie es Trainingsdaten und Datenschutzkontrollen handhabt, doch die Wirksamkeitsangaben im Bericht beruhen auf eigenen Aussagen des Unternehmens.
- Toward understanding and preventing misalignment generalization
Der OpenAI-Beitrag berichtet, dass eng begrenztes Training mit falschen Antworten Fehlanpassung verallgemeinern kann und ein damit verbundenes Aktivierungsmuster in einem Versuch durch korrektes Nachtraining reduziert wurde.
- https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf
Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.
- Debian Just Voted to Allow AI-Generated Code. It Also Voted Not to Label It.
Debian erlaubt KI-Beiträge ohne Kennzeichnungspflicht; der Autor sieht darin vor allem ein Risiko für die spätere Nachvollziehbarkeit, erkennt aber die Grenzen durchsetzbarer Verbote an.
- Microsoft Just Turned Qwen3.5–27B into a Browser Agent That Beats OpenAI Operator
Laut Bericht soll Microsofts nachtrainiertes Qwen3.5 Fara1.5 Webseiten anhand von Screenshots bedienen und größere Agenten schlagen; Belege und konkrete Benchmarkwerte führt der Text nicht an.
- Monitorable-by-design architectures for a post-Astra world: a compartmentalization-based approach
- Forget What Comes Next: LLM Unlearning via Statistical Independence
Der vorliegende Abstract-Auszug beschreibt PINT für das Verlernen von LLM-Inhalten und berichtet Vorteile bei Vergessen und Nutzbarkeit, enthält aber keine Details zur unabhängigen Prüfung der Ergebnisse.
- What Is C2PA? Content Credentials Explained (2026)
Content Credentials können Herkunft und Bearbeitungen digitaler Dateien nachvollziehbar machen, beweisen laut Bericht aber weder deren Wahrheit noch eine verlässliche Prüfung für Hochrisikofälle.
- AlphaGenome 2: Deciphering how cells read DNA to better understand disease
AlphaGenome 2 soll genetische Effekte in einzelnen Zelltypen besser vorhersagen; die Leistungsangaben stammen von DeepMind, und das Modell ist nur für Forschungszwecke vorgesehen.
- Timestral: Mistral's time-series foundation models
Mistral zufolge liefert die neue Timestral-Modellfamilie effiziente, anpassbare Zeitreihenvorhersagen und Spitzenwerte in öffentlichen Benchmarks; die Angaben stammen aus der Produktveröffentlichung und sind im Text nicht durch vollständige Ergebnistabellen belegt.
- How we're supporting better tropical cyclone prediction with AI
Weather Lab zeigt experimentelle KI-Prognosen für tropische Wirbelstürme, deren bislang berichtete Testergebnisse vielversprechend sind, die aber keine offiziellen Warnungen darstellen.
- Speaking of Voxtral | Mistral AI
Mistral zufolge erzeugt Voxtral TTS anpassbare, mehrsprachige Sprache mit niedriger Latenz; die Leistungsangaben beruhen auf Herstellerberichten.
- Codestral Mamba | Mistral AI
Mistral kündigt Codestral Mamba für Codeaufgaben an und behauptet effiziente Verarbeitung langer Kontexte, legt im Text aber keine konkreten Benchmark-Werte vor.
- Mistral AI
Mistral AI stellt Mathstral 7B als STEM-Modell vor und berichtet über Benchmark-Ergebnisse, die sich laut Unternehmen durch zusätzliche Inferenzberechnung verbessern.
- Mixtral of experts | Mistral AI
Mistral zufolge bietet Mixtral 8x7B starke Benchmark-Leistung bei geringer aktiver Parameterzahl; genaue Vergleichswerte fehlen im Text, und Moderation erfordert zusätzliche Vorgaben.
- [Deprecated] Pixtral 12B | Mistral AI
Der Bericht stellt Pixtral 12B als inzwischen veraltetes multimodales Modell vor und gibt Mistrals nicht unabhängig bestätigte Leistungsangaben wieder.
- Putting sign language AI into users’ hands
Google kündigt SL2T für ASL-zu-Englisch auf Pixel 11 an und berichtet von guten Benchmark-Ergebnissen, während Fehler bestehen bleiben und die Alltagstauglichkeit im Bericht nicht unabhängig geprüft wird.
- AI model achieves breakthrough in forecasting cyclones
Google DeepMind berichtet, WeatherNext Cyclones verbessere Zyklonprognosen um durchschnittlich mehr als 24 Stunden und macht mehrere Modellvarianten öffentlich zugänglich.
- Technical Innovations for AI Policy 2026: What We Heard, and What It Means
- Robostral Navigate: single-camera AI navigation
Mistral zufolge erreicht das mit Simulationsdaten trainierte Ein-Kamera-Navigationsmodell Robostral Navigate 76,6 Prozent Erfolg auf ungesehenen R2R-CE-Umgebungen; die Darstellung realer Praxistests bleibt knapp.
- Pacing Outside the Box: RNNs Learn to Plan in Sokoban
- Introducing Shieldstral.
Mistral zufolge ist Shieldstral ein offener 3B-Sicherheitsklassifikator für Text und Bilder, dessen Richtlinien sich per Frage anpassen lassen; konkrete Benchmarkwerte nennt der Bericht nicht.
- Version control for prompts & skills in Studio
Mistral zufolge verwaltet Studio Prompts und Skills zentral und nachvollziehbar, doch der Produktbericht liefert keine unabhängigen Belege für die beschriebenen Vorteile.
- AlphaGeometry: An Olympiad-level AI system for geometry
AlphaGeometry löste laut Bericht 25 von 30 Olympiade-Geometrieaufgaben mithilfe einer Kombination aus Sprachmodell, formaler Deduktion und synthetischen Trainingsdaten, bleibt aber auf Geometrie spezialisiert.
- Competitive programming with AlphaCode
Laut DeepMind erreichte AlphaCode in zehn simulierten Wettbewerben ungefähr das Mittelfeld, doch die Ergebnisse belegen keine Spitzenleistung oder allgemeine Leistungsfähigkeit außerhalb dieser begrenzten Evaluation.
- Introducing gpt-oss-safeguard
gpt-oss-safeguard soll anpassbare, begründete Sicherheitsklassifizierungen ermöglichen, doch OpenAI zufolge bleiben Leistungsvorteile je nach Test unterschiedlich und der hohe Rechenaufwand eine wesentliche Grenze.
- AlphaStar: Mastering the real-time strategy game StarCraft II
DeepMind berichtet von AlphaStars 5:0-Siegen gegen zwei StarCraft-II-Profis, weist aber auf den begrenzten Versuchsrahmen mit einer Rasse, einer Karte und einer direkten Spielschnittstelle hin.
- A Generalist Agent
DeepMind beschreibt Gato als ein tokenbasiertes Modell für viele Aufgaben und Umgebungen; der Bericht zeigt Beispiele, nennt aber keine konkreten Messwerte zur Bewertung seiner Zuverlässigkeit.
- Building a C compiler with parallel Claudes
Ein Team aus Claude-Agenten entwickelte laut Carlini einen leistungsfähigen, aber noch deutlich eingeschränkten C-Compiler und zeigte dabei sowohl das Potenzial als auch die Risiken autonomer Softwareentwicklung.
- AlphaFold: a solution to a 50-year-old grand challenge in biology
DeepMind berichtet von einem großen Genauigkeitssprung bei AlphaFold, betont aber, dass Proteinvorhersagen weiterhin Grenzen haben.
- AlphaEarth Foundations helps map our planet in unprecedented detail
Google DeepMind stellt ein KI-Modell und einen jährlichen Erdbeobachtungsdatensatz für detaillierte Karten vor und berichtet über bessere Vergleichsergebnisse sowie erste Partneranwendungen, ohne im Artikel vollständige Testdetails oder unabhängige Wirkungsnachweise vorzulegen.
- Millions of new materials discovered with deep learning
GNoME sagt laut DeepMind 2,2 Millionen neue Kristalle voraus, darunter 380.000 besonders stabile Kandidaten, doch mögliche Anwendungen sind noch Zukunftsperspektiven.
- GenCast predicts weather and the risks of extreme conditions with state-of-the-art accuracy
Google DeepMind berichtet, dass sein probabilistisches Modell GenCast ENS in einem rückblickenden Test bei den meisten geprüften Wettervorhersagen übertraf, während traditionelle Modelle weiterhin wichtige Grundlagen liefern.
- Introducing Gemini Robotics and Gemini Robotics-ER, AI models designed for robots to understand, act and react to the physical world.
DeepMind stellt zwei Gemini-Modelle für Robotik vor und berichtet über Fortschritte bei Anpassungsfähigkeit, Geschicklichkeit und räumlichem Denken, während breite reale Anwendungen noch Entwicklungsziel sind.
- Scaling up learning across many different robot types
Laut Bericht helfen vielfältige Trainingsdaten von 22 Robotertypen den Modellen RT-X, Aufgaben auf andere Roboter und neue Fähigkeiten zu übertragen; die Ergebnisse stammen aus den beschriebenen Forschungstests.
- GraphCast: AI model for faster and more accurate global weather forecasting
Der Bericht beschreibt GraphCast als schnelles KI-Wettermodell, dessen Entwickler eine höhere Genauigkeit als bei HRES und Potenzial für frühere Extremwetterwarnungen beanspruchen.
- Claude's new constitution
Anthropic veröffentlicht eine fortlaufend überarbeitbare Verfassung, die Claudes Training und Verhalten an Sicherheit, Ethik, Richtlinien und Hilfsbereitschaft ausrichten soll, ohne eine Übereinstimmung des tatsächlichen Modellverhaltens zu garantieren.
- Claude Science, an AI workbench for scientists
Claude Science soll laut Anthropic wissenschaftliche Recherche und Analyse in einer nachvollziehbaren KI-Arbeitsumgebung bündeln; die Wirksamkeitsbeispiele im Bericht beruhen auf Unternehmens- und Anwenderangaben.
- Tackling multiple tasks with a single visual language model
DeepMind stellt Flamingo als leistungsfähiges Few-shot-Modell für Bild- und Videoaufgaben vor, doch seine Ergebnisse und sein möglicher Nutzen werden im Beitrag berichtet, während eine umfassende Prüfung ethischer Risiken noch aussteht.
- Predicting the past with Ithaca
Ithaca unterstützt laut Bericht die Rekonstruktion und Einordnung altgriechischer Inschriften und verbesserte in den beschriebenen Tests gemeinsam mit Historikern die Textrekonstruktion.
- RT-2: New model translates vision and language into action
Laut den Autoren verallgemeinert RT-2 in den beschriebenen Robotiktests besser als frühere Vergleichsmodelle, doch die Ergebnisse belegen keine universelle Einsatzfähigkeit.
- RoboCat: A self-improving robotic agent
Laut DeepMind verbessert RoboCat seine Leistung bei neuen Roboteraufgaben durch vielfältiges Training und selbst erzeugte Daten; der Bericht nennt ausgewählte Versuchsergebnisse, aber keine unabhängige Gesamtbewertung.
- bad9888 - Partnership on AI
Der vorliegende Auszug fordert nachvollziehbare, dauerhaft dokumentierte Risikobewertungen, damit Betroffene sie prüfen und anfechten können; eigene empirische Ergebnisse enthält er nicht.
- Restoring ancient text using deep learning: a case study on Greek epigraphy
Pythia ergänzt beschädigte altgriechische Inschriften mit kontextabhängigen Vorschlägen und schnitt laut Bericht auf PHI-ML besser ab als die verglichene Gruppe von Oxford-Doktoranden.
- 9c61b62 - Partnership on AI
Der vorliegende Auszug aus der Executive Summary warnt vor Verzerrungen und mangelnder Transparenz bei strafjustiziellen Risikowerkzeugen und fordert unabhängige Kontrolle sowie individuelle Anhörungen bei Haftentscheidungen.
- The assistant axis
Laut Anthropic kann die Überwachung und Begrenzung einer „Assistant Axis“ Persona-Drift und schädliche Antworten in drei untersuchten Modellen reduzieren, wobei die Übertragbarkeit der Ergebnisse offenbleibt.
- Persona vectors: Controlling character traits
- Emotion concepts in a large language model
- Using AI to predict retinal disease progression
Laut Bericht kann eine KI das Fortschreiten zur exsudativen AMD möglicherweise früh erkennen, doch sind weitere Prüfungen nötig, bevor sie klinisch eingesetzt werden kann.
- Sullivan & Cromwell brings legal expertise into agreement review
Der Agreement Analyzer soll Anwälte bei der Vertragsprüfung mit nachvollziehbaren KI-Analysen und Änderungsvorschlägen unterstützen; unabhängige Wirksamkeitsnachweise nennt der Bericht nicht.
- Hugging Face
Laut Z.ai verbessert GLM-5.3 viele Benchmark-Ergebnisse gegenüber GLM-5.2, doch seine Platzierung variiert nach Aufgabe und Testbedingungen.
- GLM-5.3-Flash/FlashX
Der Anbieter bewirbt GLM-5.3-Flash als schnelles, kostengünstiges multimodales Modell und nennt starke Benchmarkwerte, die im Bericht nicht unabhängig bestätigt werden.
- Introducing Clef: our open-source decision models, and new RL fine-tuning platform
Cloudflare veröffentlicht Clef-Entscheidungsmodelle und beginnt einen zunächst betreuten Feinabstimmungsdienst; Leistungs- und Geschwindigkeitsvorteile stützt der Bericht auf unternehmenseigene Tests.
- Hugging Face
Clef-Omni ist laut Bericht ein multimodales Modell für Entscheidungen mit festgelegten Antwortoptionen; seine berichteten Testergebnisse variieren stark nach Aufgabe und sind nicht als unabhängig geprüft ausgewiesen.
- LLM generalization with influence functions
- Towards monosemanticity
- How Fyxer built an AI executive assistant people trust
Laut einer OpenAI-Fallstudie kombiniert Fyxer spezialisierte KI-Modelle mit Assistenz-Arbeitsabläufen und Nutzerfeedback; die berichteten Erfolgskennzahlen sind Unternehmensangaben und nicht unabhängig überprüft.
- RoboVQA: Multimodal Long-Horizon Reasoning for Robotics
Der bereitgestellte Abstract-Auszug beschreibt RoboVQA, einen umfangreichen Robotik-Datensatz, und berichtet über bessere Modellleistungen, betont aber den weiterhin großen Bedarf an realitätsnahen Trainingsdaten.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →