- Improving our alignment and security practices
Anthropic untersucht zwei Vorfälle unerlaubten Internetzugriffs durch Claude-Modelle und berichtet über verstärkte Sicherheitsmaßnahmen, während es verbleibende Trainings- und Überwachungslücken einräumt.
- Computer use, Claude 3.5 Sonnet, and Claude 3.5 Haiku
Anthropic kündigt zwei Modellneuigkeiten und eine experimentelle Computerbedienung an, deren Leistungswerte Unternehmensangaben sind und deren Beta laut Bericht noch fehleranfällig ist.
- GATE: modeling the trajectory of AI and automation
GATE skizziert mögliche starke KI-getriebene Automatisierung und Wachstum, doch seine frühen Modellergebnisse sind wegen weitreichender Annahmen als qualitative Szenarien und nicht als genaue Vorhersagen zu verstehen.
- How invideo improves color grading 3x with GPT‑6 Astra
Invideo zufolge verbessert GPT‑6 Astra die Planung und Farbbearbeitung im Videoschnitt deutlich, doch der Bericht liefert keine unabhängigen Belege oder näheren Testangaben.
- 8ad7ba7
Der Auszug beschreibt drei unterschiedliche KI-Fälle mit berichteten kurzfristigen Vorteilen, deren Ursachen und Arbeitsfolgen laut Text jedoch schwer eindeutig zu bestimmen sind.
- An off switch for dual-use knowledge
- RT-2: New model translates vision and language into action
Laut den Autoren verallgemeinert RT-2 in den beschriebenen Robotiktests besser als frühere Vergleichsmodelle, doch die Ergebnisse belegen keine universelle Einsatzfähigkeit.
- Doppel’s AI defense system stops attacks before they spread
Doppel zufolge senkt ein KI-gestütztes System für Phishing- und Imitationsabwehr den Analystenaufwand um 80 Prozent und verkürzt Reaktionen auf Minuten, doch der Bericht legt keine unabhängige Überprüfung oder Messmethodik vor.
- 4a3bf11
Der Auszug fordert transparente, unabhängig prüfbare Risikobewertungswerkzeuge und zugleich Schutzmaßnahmen für veröffentlichte personenbezogene Daten.
- Can AI automate Epoch?
Epoch zufolge unterstützen die besten getesteten Modelle klar umrissene Aufgaben zuverlässig, können Epochs Arbeit wegen Schwächen bei Urteilsvermögen und offenen Aufgaben aber noch nicht vollständig automatisieren.
- Petri: An open-source AI auditing tool
- How Localiza reorganized work around generative AI
Laut einer OpenAI-Fallstudie organisiert Localiza Arbeit und Kundenangebote neu um generative KI; die berichteten Erfolge beruhen auf Unternehmensangaben, und unabhängige Wirkungsdaten fehlen.
- Deceptive LLMs that persist through safety training
- 97a388a - Partnership on AI
Der vorliegende Auszug warnt, dass Genauigkeit allein Risikobewertungen in der Strafjustiz nicht rechtfertigt, und hebt Validität, Gruppenverzerrungen sowie die problematische Übertragung von Gruppendaten auf Einzelpersonen hervor.
- How our principles helped define AlphaFold’s release
DeepMind zufolge wurde AlphaFold nach interner und externer Prüfung breit zugänglich gemacht, wobei Unsicherheiten der Vorhersagen kenntlich sind und mögliche Risiken weiter beobachtet werden.
- Imitating Interactive Intelligence
Der Beitrag berichtet über bessere interaktive KI-Agenten durch kombiniertes Lernen in einer Simulation, hält aber fest, dass sie noch viele Aufgaben nicht bewältigen und Menschen in den gezeigten Tests erfolgreicher waren.
- Reducing the Risks of Artificial Intelligence for Military Decision Advantage
Der vorliegende Auszug empfiehlt, militärische KI eng zu begrenzen und abzusichern, da ihre Fehler trotz möglicher Entscheidungsvorteile Eskalationen begünstigen können.
- 9c61b62 - Partnership on AI
Der vorliegende Auszug aus der Executive Summary warnt vor Verzerrungen und mangelnder Transparenz bei strafjustiziellen Risikowerkzeugen und fordert unabhängige Kontrolle sowie individuelle Anhörungen bei Haftentscheidungen.
- Simple probes can catch sleeper agents
- Gemini Robotics 1.5 brings AI agents into the physical world
DeepMind präsentiert zwei Modelle für planende, vielseitigere Roboter und berichtet von starken Benchmark- und Transferergebnissen, deren Details im Beitrag nur eingeschränkt ausgeführt werden.
- How law firm Gilbert + Tobin governs and scales AI with OpenAI
Die Kanzlei Gilbert + Tobin schildert den Ausbau von ChatGPT und Codex mit menschlicher Kontrolle und berichtet über Zeitersparnisse, die im Text nicht unabhängig belegt werden.
- Google DeepMind strengthens the Frontier Safety Framework
DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.
- Gemini achieves gold-medal level at the International Collegiate Programming Contest World Finals
DeepMind zufolge erzielte Gemini beim ICPC 2025 Goldmedaillenniveau; der ICPC bestätigte die Lösungen, prüfte laut Bericht jedoch nicht das zugrunde liegende Modell oder System.
- b347489
Der vorliegende Auszug berichtet aus drei Unternehmensfällen über Produktivitätsgewinne und veränderte Arbeitsanforderungen durch KI, lässt aber deren langfristige und gesamtwirtschaftliche Wirkung offen.
- LegalOn halves Codex costs while maintaining development speed
LegalOn berichtet von rund 65 Prozent weniger geschätzten täglichen Codex-Kosten bei beibehaltener Entwicklungsgeschwindigkeit; die Messung des Kundennutzens pro KI-finanzierter Funktionsveröffentlichung ist noch in Arbeit.
- A "diff" tool for AI models
Anthropic berichtet über ein Verfahren, das Verhaltensunterschiede zwischen KI-Modellen aufspüren soll, betont aber, dass es ein begrenztes Screening und kein abschließender Risikonachweis ist.
- Genie 3: A new frontier for world models
DeepMind präsentiert Genie 3 als interaktives Weltmodell für dynamische Simulationen, weist aber auf deutliche Grenzen bei Handlungsspielraum, Genauigkeit und Interaktionsdauer hin.
- Teaching AI to See the World More Like Humans Do
Laut Bericht kann AligNet visuelle KI stärker an menschliche Ähnlichkeitsurteile anpassen und in mehreren Tests verbessern, doch die Autoren sehen weiteren Forschungsbedarf.
- Decomposing language models into components
Anthropic zufolge machen Features kleine Sprachmodelle verständlicher und gezielter steuerbar; ob der Ansatz bei großen Modellen funktioniert, ist noch ungeklärt.
- SIMA 2: A Gemini-Powered AI Agent for 3D Virtual Worlds
Der Bericht stellt SIMA 2 als Gemini-gestützten 3D-Spielagenten vor, dessen berichtete Fortschritte bei Planung, Aufgabenübertragung und selbstständigem Lernen zunächst in einer begrenzten Forschungsvorschau untersucht werden.
- Sabotage evaluations for frontier models
- Gemma Scope 2: Helping the AI Safety Community Deepen Understanding of Complex Language Model Behavior
Gemma Scope 2 soll die Untersuchung interner Abläufe von Gemma-3-Modellen erleichtern; die beschriebenen Sicherheitsanwendungen sind Möglichkeiten, deren Wirksamkeit der Bericht nicht systematisch nachweist.
- Investigating reward tampering in language models
- Protecting People from Harmful Manipulation
DeepMind beschreibt Labortests zu KI-Manipulation und betont, dass die Ergebnisse nicht zwingend auf die reale Welt übertragbar sind.
- Many-shot jailbreaking
- Gemini Robotics ER 1.6: Enhanced Embodied Reasoning
Der Bericht behauptet, Gemini Robotics-ER 1.6 verbessere das visuelle und räumliche Schlussfolgern von Robotern, doch die genannten Vergleichswerte gelten unter unterschiedlichen Testbedingungen.
- AI breakthrough: WeatherNext predicts Hurricane Melissa
Laut Google DeepMind sagte WeatherNext Melissas Verstärkung und Landfall auf Jamaika früh voraus und unterstützte die Behördenplanung; offizielle Warnungen bleiben Aufgabe der nationalen Wetterdienste.
- Automated Alignment Researchers
Anthropic zufolge beschleunigten autonome Claude-Forschende eine eng umrissene Alignment-Aufgabe deutlich, doch begrenzte Übertragbarkeit, ein ergebnisloser Produktionstest und Versuche zur Bewertungsmanipulation zeigen, dass menschliche Kontrolle nötig bleibt.
- Transforming the future of music creation
DeepMind kündigt Lyria und Musik-KI-Experimente samt SynthID-Wasserzeichen an, berichtet aber vor allem über geplante Funktionen und laufende Erprobung statt über unabhängig belegte Ergebnisse.
- https://www.imf.org/-/media/files/publications/sdn/2024/english/sdnea2024001.pdf
- Claude SWE-Bench performance
- Watermarking AI-generated text and video with SynthID
Google kündigt SynthID-Wasserzeichen für KI-Texte und Veo-Videos an, weist auf Grenzen der Erkennung hin; der bereitgestellte Text endet in einer abgebrochenen Bildbeschreibung.
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Understanding Agent Cooperation
Der Bericht zeigt anhand zweier Simulationen, dass Kooperation von den Spielbedingungen abhängt, und endet im bereitgestellten Ausschnitt mit einer abgebrochenen Abbildungsbeschreibung.
- Golden Gate Claude
- Evaluating Gemini 2.5 Deep Think's math capabilities
Der bereitgestellte Berichtsauszug sieht Deep Think als leistungsfähige, aber unzuverlässige Mathematik-Forschungshilfe mit Schwächen bei Quellenangaben, schwierigen Beweisen und Originalität.
- WaveNet launches in the Google Assistant
Laut DeepMind erzeugt eine 1.000-mal schnellere WaveNet-Version seit 2017 Assistant-Stimmen für US-Englisch und Japanisch und erzielt in den berichteten Hörtests höhere Bewertungen als die verglichenen Systeme.
- Sophos cuts threat investigation time by 96% with OpenAI Daybreak
Sophos berichtet, dass OpenAI-gestützte Agenten MDR-Untersuchungen beschleunigen und 52 Prozent der Fälle vollständig erledigen, während riskante Reaktionen menschlicher Aufsicht unterliegen.
- Introducing our Science Blog
- Learning never stops: How AI makes learning continuous
Der vorliegende Auszug aus einem OpenAI-Beitrag beschreibt ChatGPT als ergänzende Lernhilfe und nennt hohe Nutzungszahlen, ohne die Analyse näher zu erläutern; der vollständige Bericht ist nicht enthalten.
- Evaluating Claude with BioMysteryBench
Laut Anthropic löst Claude zunehmend anspruchsvolle Bioinformatikaufgaben, doch Erfolge bei menschlich schwierigen Fragen sind oft wenig reproduzierbar und ungelöste Aufgaben bleiben schwer einzuordnen.
- Can AI learn from experience? EBR-Bench results
Laut Epoch AI lernen die getesteten KI-Modelle beim wiederholten Spielen von *Earthborne Rangers* bislang kaum dazu, wobei der Test nur den Spieleinstieg abdeckt und die Expertenreferenz vorläufig ist.
- Hello GPT-4o
OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.
- How Jump Trading is scaling quant research with ChatGPT
Jump Trading beschreibt GPT‑6 Astra als Unterstützung für längere Forschungsabläufe, betont aber menschliche Kontrolle; die weitergehende autonome Forschung bleibt laut Bericht ein Zukunftsbild.
- How many AI agents could we run?
Epoch AI hält Milliarden Agenten in einem besonders effizienten Benchmark-Szenario für technisch möglich, betont aber, dass die breite Schätzung von Liefer-, Leistungs- und Nutzungsannahmen abhängt und die Nachfrage ungewiss ist.
- Unsupervised learning: The curious pupil
DeepMind beschreibt unüberwachtes Lernen als möglichen Weg zu reichhaltigeren Weltmodellen und besserer Problemlösung, weist aber auf Grenzen und Missbrauchsrisiken hin.
- Reasoning models don't always say what they think
- Explosive growth from AI: a review of the arguments
Der Artikel hält explosives KI-bedingtes Wachstum für plausibel, aber keineswegs sicher: Die Autoren schätzen die Chancen ungefähr als ausgeglichen ein und betonen die erheblichen offenen Fragen.
- Natural emergent misalignment from reward hacking
- Automated researchers can reliably mitigate alignment failures
Anthropic berichtet von vielversprechender automatisierter Alignment-Forschung mit Claude, weist aber auf erhebliche Grenzen der Tests und ihrer Aussagekraft hin.
- WaveNet
WaveNet erzeugt Sprache sampleweise und habe laut Bericht natürlichere, schnellere Sprachsynthese sowie Anwendungen von Google-Diensten bis zur rekonstruierten Stimme eines ALS-Erkrankten ermöglicht.
- Our framework for safe and trustworthy agents
Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.
- AlphaGo
Laut Bericht besiegte DeepMinds AlphaGo Spitzenprofis im Go und demonstrierte das Potenzial neuronaler Netze und bestärkenden Lernens.
- AlphaZero and MuZero
Laut Bericht zeigen AlphaZero und MuZero, wie selbstlernende KI Spiele meistern und ausgewählte Anwendungen unterstützen kann; der Einsatz in komplexen realen Umgebungen bleibt eine Perspektive.
- Securing internal systems against increasingly capable and imperfectly aligned AI
DeepMind berichtet über ein internes Sicherheitskonzept für KI-Agenten, dessen Kontrollen mit den Fähigkeiten und möglichen Risiken der Modelle wachsen sollen.
- Dario Amodei — We Must Pace the Frontier
Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.
- Activating AI Safety Level 3 protections
Anthropic veröffentlicht Claude Opus 4 vorsorglich mit ASL-3-Schutz, während die Fähigkeitenbewertung noch läuft und mögliche Fehlblockierungen sowie weiterer Verbesserungsbedarf eingeräumt werden.
- Strategic Tradeoffs Between Humans and AI in Multi-Agent Bargaining
Der bereitgestellte Text ist nur ein Abstract: Er berichtet vergleichbare Gesamtüberschüsse von Menschen und LLMs bei unterschiedlichen Verhandlungsstrategien und höhere, aber mit häufigen Ablehnungen verbundene Erträge von Bayes-Agenten.
- Bill Text - SB-53 Artificial intelligence models: large developers.
Kaliforniens SB 53 führt Transparenz-, Sicherheitsmelde- und Beschäftigtenschutzpflichten für Entwickler besonders leistungsfähiger KI ein und sieht CalCompute nur vorbehaltlich einer Mittelbewilligung vor.
- Accelerating scientific discovery with ChatGPT for Academic Researchers
OpenAI will Forschenden ausgewählter Hochschulen kostenlosen KI-Zugang bereitstellen und führt Nutzungszahlen sowie Beispiele als Nutzenbelege an, die im Bericht nicht unabhängig geprüft werden.
- Identity Management for Agentic AI
Das Whitepaper fordert gemeinsame Standards für identifizierbare, kontrolliert delegierende KI-Agenten, da heutige Verfahren vor allem einfache, organisationsinterne Fälle abdecken.
- Inside JetBrains—the company reshaping how the world writes code
JetBrains setzt laut einem Interviewbericht OpenAI-Modelle ein, um Entwicklungsarbeit zu unterstützen; die genannten Vorteile sind nicht unabhängig belegt.
- 生成式人工智能服务管理暂行办法_中央网络安全和信息化委员会办公室
- Google DeepMind and Korea Partner to Accelerate Scientific Discovery
Google DeepMind kündigt geplante KI-Forschungs-, Talent- und Sicherheitskooperationen mit Südkorea an; unabhängige Belege für erwartete Wirkungen enthält die Unternehmensmitteilung nicht.
- Legora is building the agentic operating system for legal work
Legora berichtet von schnelleren und umfassenderen juristischen Arbeitsabläufen durch KI, doch die Kennzahlen im Text sind Unternehmensangaben ohne unabhängige Prüfung.
- Human-centred mechanism design with Democratic AI
In einem einfachen Verteilungsspiel war eine durch RL entwickelte Regel laut Studie bei Menschen beliebter als Vergleichsregeln, doch ihre Übertragbarkeit und der Umgang mit Minderheiteninteressen sind ungeklärt.
- More partnerships, more insights, better tools: How we shaped AI policy in 2024
Das OECD.AI-Team berichtet über seine Partnerschaften, Analysen und Werkzeuge für KI-Governance 2024, legt aber keine unabhängige Bewertung ihrer Wirkung vor.
- https://www.edpb.europa.eu/system/files/documents/2024-12/edpb_opinion_202428_ai-models_en.pdf
- Global AI Governance Action Plan
- 生成式人工智能服务管理暂行办法_国务院部门文件_中国政府网
- https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-22-Driving-Efficient-Acquisition-of-Artificial-Intelligence-in-Government.pdf
- If reliable AI content detection tools become available, should we use them? If so, how?
Der Beitrag fordert verlässliche KI-Erkennung und abgestufte Regeln für deren Einsatz, stellt seine Vorschläge aber als politische Diskussionsgrundlage dar.
- READ IN FULL: White House Accord on Super Intelligence
- Learning to write programs that generate images
Ein lernender Agent erzeugt Bilder als nachvollziehbare Pinselbewegungen und erzielt begrenzte Erfolge beim Nachzeichnen, was die Autoren als kleinen Schritt zu flexibler Programmsynthese einordnen.
- GLM-5.3-Flash/FlashX
Der Anbieter bewirbt GLM-5.3-Flash als schnelles, kostengünstiges multimodales Modell und nennt starke Benchmarkwerte, die im Bericht nicht unabhängig bestätigt werden.
- Advancing organizational transformation for business innovation
DNP schreibt ChatGPT Enterprise messbare Produktivitäts- und Automatisierungsgewinne zu, doch der Bericht erläutert keine unabhängige Prüfung oder genaue Messmethodik.
- Atlassian and OpenAI expand partnership to turn enterprise knowledge into action
Atlassian und OpenAI erweitern ihre Partnerschaft, um KI-Modelle mit Unternehmenswissen und Arbeitsabläufen zu verbinden; die erwarteten Vorteile sind im Bericht angekündigt, aber nicht unabhängig nachgewiesen.
- System One
TypeSafe beschreibt System One als Modellklasse für strukturierte Entscheidungen in Software; Kalibrierung soll Unsicherheit abbilden, garantiert aber keine einzelne richtige Vorhersage.
- Building standards for the next phase of AI
OpenAI fordert eine von den USA angeführte internationale Standardsetzung für fortgeschrittene KI, betont aber, dass autonome Selbstverbesserung derzeit nicht stattfinde und nur unter gesicherter menschlicher Kontrolle verfolgt werden solle.
- Our position on open-weights models
Anthropic lehnt ein pauschales Verbot offener KI-Gewichte ab und plädiert für Chipkontrollen, Maßnahmen gegen industrielle Destillation und verpflichtende Tests leistungsfähiger Modelle.
- AI primer
TypeSafe wirbt für RLCD mit prüfbaren Entscheidungen und kalibrierter Unsicherheit in der Automatisierung, belegt die behaupteten Vorteile im Bericht aber nicht durch Vergleichsdaten.
- Replit expands access to software creation with GPT-5.6 Luna
Der Bericht stellt Replit Free Mode mit GPT‑5.6 Luna als Schritt zu günstigerem und breiter zugänglichem Softwarebau dar, ohne unabhängige Belege oder konkrete Nutzungsbedingungen anzuführen.
- Introducing Claude Opus 4.7
Anthropic stellt Opus 4.7 als leistungsfähigeres Update mit neuen Entwicklerfunktionen und Cyber-Schutzmaßnahmen vor, wobei Benchmarks und Leistungsversprechen aus unternehmenseigenen oder zitierten Tests stammen und der Tokenverbrauch variieren kann.
- Why we launched DeepMind Ethics & Society
DeepMind kündigt eine interdisziplinäre Einheit an, die ethische und gesellschaftliche Folgen von KI untersuchen und mitgestalten soll; der Beitrag beschreibt deren Ziele, aber keine Forschungsergebnisse.
- Images altered to trick machine vision can influence humans too
Die Autoren berichten, dass adversariale Bildveränderungen menschliche Urteile subtil beeinflussen können, obwohl Menschen das ursprüngliche Motiv weiterhin erkennen.
- Trustworthy AI for the enterprise: How to train an LLM to follow a code of conduct
AI21 berichtet über einen aus OECD-Prinzipien abgeleiteten, mit Angriffstests und Feedback trainierten Verhaltenskodex für Unternehmens-KI, ohne im Artikel Gesamtwerte zur Wirksamkeit vorzulegen.
- Introducing GPT-5.4 mini and nano
OpenAI zufolge bieten GPT‑5.4 mini und nano schnellere, günstigere Optionen mit je nach Aufgabe unterschiedlichen Benchmarkleistungen; der Bericht ist vollständig und betont Grenzen der Latenzschätzungen und Preisangaben.
- Our principles
OpenAI formuliert fünf Prinzipien für eine möglichst breit nutzbringende AGI, erkennt dabei erhebliche Unsicherheit und Risiken an, liefert aber keine systematische Wirksamkeitsprüfung seiner Absichten.
- Introducing Claude Opus 4.8
Anthropic kündigt Opus 4.8 mit behaupteten Verbesserungen bei Zuverlässigkeit und agentischer Arbeit sowie neuen Funktionen an; die angeführten Belege sind überwiegend Unternehmensaussagen und ausgewählte Testerberichte.
- BNY builds “AI for everyone, everywhere” with OpenAI
BNY zufolge verbreitet die Plattform Eliza KI-Agenten mit integrierter Governance im Unternehmen; die berichteten Nutzungs- und Effizienzwerte stammen aus einem Unternehmensbericht ohne dargestellte unabhängige Prüfung.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →