- Assessing potential future artificial intelligence risks, benefits and policy imperatives
Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.
- Introducing Claude Opus 4.5
Anthropic zufolge verbessert Claude Opus 4.5 Leistung und Effizienz bei vielen Aufgaben; die Belege beruhen vor allem auf unternehmenseigenen Tests und Kundenberichten, deren Grenzen der Bericht teilweise benennt.
- Responsible Scaling Policies (RSPs)
METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.
- Regulatory sandboxes can facilitate experimentation in artificial intelligence
Sandboxes können laut OECD-Beitrag KI-Innovation unter kontrollierten Bedingungen erproben helfen, benötigen dafür aber klare Kriterien, Fachwissen und eine sorgfältige Bewertung möglicher Folgen.
- New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks
Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.
- A look at the risks and opportunities for AI in tax administrations
Der Beitrag spricht sich für den Einsatz von KI in Steuerverwaltungen aus, sofern Risiken wie Verzerrung, Intransparenz und Vertrauensverlust aktiv durch gute Daten, Kompetenzaufbau und Aufsicht begrenzt werden.
- Introducing Gemini Robotics and Gemini Robotics-ER, AI models designed for robots to understand, act and react to the physical world.
DeepMind stellt zwei Gemini-Modelle für Robotik vor und berichtet über Fortschritte bei Anpassungsfähigkeit, Geschicklichkeit und räumlichem Denken, während breite reale Anwendungen noch Entwicklungsziel sind.
- Update on ARC's recent eval efforts
Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.
- Taking a responsible path to AGI
DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.
- Ensuring trustworthy algorithmic decision-making
Die CDEI empfiehlt kontextgerechte Fairness, mehr Transparenz im öffentlichen Sektor und eine bessere Anwendung bestehenden britischen Rechts, wobei wichtige Fragen zu passenden Prüfungen und Gegenmaßnahmen noch offen sind.
- a5ffa23
Der Auszug stellt ABOUT ML als laufenden Versuch vor, kontextgerechte Transparenz und Dokumentation von ML-Systemen voranzubringen, während einheitliche Standards und ausreichend belegte Best Practices noch fehlen.
- Gemini Robotics On-Device brings AI to local robotic devices
Google kündigt ein anpassbares, lokal laufendes Robotikmodell an und berichtet über eigene Leistungs- und Sicherheitsprüfungen, deren Grenzen der Beitrag nicht umfassend dokumentiert.
- e47f4ec - Partnership on AI
Der vorliegende kurze Auszug stellt ABOUT ML als PAI-Projekt für mehr Transparenz und Dokumentation im Lebenszyklus von ML-Systemen vor und nennt voreingenommene Daten als mögliches Fairnessrisiko.
- 3be39cc
Der Auszug empfiehlt, KI-Folgen für Arbeit und deren Verteilung systematisch und unter Beteiligung der Betroffenen zu bewerten.
- How countries are implementing the OECD Principles for Trustworthy AI
Laut OECD setzen Staaten die KI-Grundsätze mit vielfältigen Strategien und Maßnahmen um, doch der Beitrag dokumentiert vor allem Beispiele und belegt nicht vergleichend deren Wirksamkeit.
- Reflections on our Responsible Scaling Policy
Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.
- 39050dc
Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.
- US Executive Order, G7 Code, and Bletchley Park
Anthropic sieht in neuen Regeln und staatlichen KI-Prüfeinrichtungen einen wichtigen Anfang und fordert verlässliche Bewertungen als Grundlage für Regulierung und internationale Zusammenarbeit.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- Language modelling at scale: Gopher, ethical considerations, and retrieval
DeepMind stellt Gopher, Risiken großer Sprachmodelle und RETRO vor und betont sowohl Leistungsfortschritte als auch anhaltende Fehler und offenen Forschungsbedarf.
- fb15a2a
Der bereitgestellte Auszug empfiehlt transparente Angaben zu Nutzung, Verteilung und Pflege von ML-Datensätzen und benennt dabei praktische, rechtliche und historische Zielkonflikte; es liegt nur ein Auszug vor.
- Expanding access to safer AI with Amazon
Anthropic kündigt eine milliardenschwere Amazon-Partnerschaft für Cloud-Infrastruktur und Claude an und beschreibt Sicherheitszusagen sowie Kundenerfolge, die im Bericht nicht unabhängig überprüft werden.
- d1a3705
Der vorliegende Auszug fordert zweck- und zielgruppengerechte Dokumentation von ML-Modellen, die Nachvollziehbarkeit fördern soll, dabei aber Risiken wie Sicherheitslücken, Kennzahlenspiel und Überfrachtung berücksichtigen muss.
- 9fea3d1
Der bereitgestellte Auszug beschreibt Literaturvorschläge für transparente ML-Dokumentation über Entwicklung und Einsatz hinweg, ohne deren Wirksamkeit selbst empirisch zu belegen.
- Gradient Labs gives every bank customer an AI account manager
Gradient Labs berichtet, mit KI Bankkundenanliegen zügig und regelgebunden zu bearbeiten; die hohen Erfolgskennzahlen sind im Text nicht durch ausführliche unabhängige Prüfangaben eingeordnet.
- Cybersecurity Risks of AI-Generated Code
Der Auszug warnt vor Sicherheitsrisiken durch KI-generierten Code und berichtet, dass in einer begrenzten Prüfung fast die Hälfte der Codeausschnitte fehlerhaft war.
- Our updated Responsible Scaling Policy
Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.
- How Third Moment Research runs 10,000 agents for 36+ hours
Third Moment Research berichtet, mit OpenAI-Modellen und Codex Tausende lang laufende Agenten zu betreiben und deren Arbeit schrittweise zu verbessern; die dargestellten Erfolge sind Unternehmensangaben.
- Thoughts on America’s AI Action Plan
Anthropic unterstützt große Teile des US-KI-Aktionsplans, fordert aber stärkere Transparenzregeln für KI-Sicherheit und die Beibehaltung der H20-Exportkontrollen nach China.
- Through the Chat Window and Into the Real World: Preparing for AI Agents
Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.
- Anthropic is endorsing SB 53
Anthropic unterstützt SB 53 als Transparenz- und Sicherheitsrahmen für große KI-Entwickler, sieht aber Nachbesserungsbedarf bei der Erfassung von Modellen, den Offenlegungspflichten und der Anpassung der Regeln.
- Proportional oversight for AI model updates can boost AI adoption
Der Bericht empfiehlt risikogestufte Prüfungen und laufende Überwachung von KI-Modellupdates; seine Befunde beruhen auf 143 Änderungsprotokollen von fünf Anbietern und zeigen potenzielle, nicht nachgewiesene Schäden.
- Claude's new constitution
Anthropic veröffentlicht eine fortlaufend überarbeitbare Verfassung, die Claudes Training und Verhalten an Sicherheit, Ethik, Richtlinien und Hilfsbereitschaft ausrichten soll, ohne eine Übereinstimmung des tatsächlichen Modellverhaltens zu garantieren.
- Washington voluntary safety pact leaves tech giants to police their own superintelligence
- Introducing The Anthropic Institute
Anthropic kündigt ein Institut für die gesellschaftlichen Folgen leistungsfähiger KI und den Ausbau seiner Public-Policy-Arbeit an; die zugrunde liegenden Zukunftsaussagen sind Unternehmensprognosen.
- Developing a computer use model
Anthropic zufolge kann Claude 3.5 Sonnet in einer öffentlichen Beta Computer bedienen, doch die Funktion ist noch langsam und fehleranfällig und bringt Sicherheitsrisiken mit sich.
- Putting Teeth into AI Risk Management
Der Auszug empfiehlt, KI-Risikostandards mithilfe risikobasierter Bundesbeschaffung durchzusetzen und dabei aus der Cybersicherheit zu lernen.
- How Itaú is building generative AI for its entire customer base
Itaú will mit der KI-Schnittstelle ia.i Finanzdienste vereinfachen und mit IARA ihre Nutzung steuern; die berichteten Ergebnisse und Ziele beruhen auf Angaben der Bank.
- Building trust in AI: A practical approach to transparency
Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.
- Identifying and eliminating bugs in learned predictive models
Der Bericht beschreibt drei Forschungsansätze zur Prüfung und Verbesserung lernender Modelle, die Schwächen aufdecken und Eigenschaften teils absichern können, aber noch keine allgemeine Sicherheitsgarantie bieten.
- As language models and generative AI take the world by storm, the OECD is tracking the policy implications
Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.
- Claude Fable 5 and Claude Mythos 5
Anthropic kündigt Fable 5 und den eingeschränkt verfügbaren Mythos 5 an, doch der Bericht lässt den aktuellen Zugangsstatus widersprüchlich und stützt Leistungs- und Sicherheitsangaben überwiegend auf Unternehmensangaben.
- How Balyasny Asset Management built an AI research engine
Laut einer OpenAI-Fallstudie nutzen etwa 95 Prozent der Investmentteams von Balyasny eine geprüfte KI-Rechercheplattform, doch die berichteten Zeitgewinne sind im Text nicht unabhängig belegt.
- The Partnership on AI Launches Multistakeholder Initiative To Enhance Machine Learning Transparency
Die PAI kündigte einen inklusiven, iterativen Prozess für ML-Transparenzempfehlungen an, deren Wirksamkeit laut Mitteilung erst noch durch umfangreiche Belege nachzuweisen wäre.
- Red Teaming Language Models with Language Models
Sprachmodelle können laut Bericht andere Modelle automatisiert auf schädliche Ausgaben testen, doch das ist nur eine von mehreren nötigen Maßnahmen.
- Funding better evaluations of AI’s impact on wellbeing
Anthropic kündigt fünf Millionen US-Dollar für unabhängige Open-Source-Prüfungen der Auswirkungen von KI auf das Wohlbefinden an; Ergebnisse liegen im Bericht noch nicht vor.
- How anticipatory governance can lead to AI policies that stand the test of time
Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.
- Writing effective tools for AI agents
- bad9888 - Partnership on AI
Der vorliegende Auszug fordert nachvollziehbare, dauerhaft dokumentierte Risikobewertungen, damit Betroffene sie prüfen und anfechten können; eigene empirische Ergebnisse enthält er nicht.
- Controlling Large Language Model Outputs: A Primer
Der bereitgestellte Auszug erklärt, dass mehrere technische und nichttechnische Ansätze Sprachmodelle steuern sollen, aber unerwünschte Ausgaben nicht sicher verhindern können.
- Petri: An open-source AI auditing tool
- How Localiza reorganized work around generative AI
Laut einer OpenAI-Fallstudie organisiert Localiza Arbeit und Kundenangebote neu um generative KI; die berichteten Erfolge beruhen auf Unternehmensangaben, und unabhängige Wirkungsdaten fehlen.
- 5087157
Der vorliegende Auszug warnt, dass unklare Erklärungen und irreführend verstandene Risikostufen Fairness beeinträchtigen können, und fordert verständliche Anzeigen sowie weitere Nutzungsforschung.
- Donating our open-source alignment tool
Anthropic übergibt Petri an Meridian Labs und kündigt für Version 3.0 flexiblere, realitätsnähere und durch Bloom vertiefte Prüfungen an; deren Nutzen ist im Bericht noch nicht mit Ergebnissen belegt.
- 97a388a - Partnership on AI
Der vorliegende Auszug warnt, dass Genauigkeit allein Risikobewertungen in der Strafjustiz nicht rechtfertigt, und hebt Validität, Gruppenverzerrungen sowie die problematische Übertragung von Gruppendaten auf Einzelpersonen hervor.
- Reducing the Risks of Artificial Intelligence for Military Decision Advantage
Der vorliegende Auszug empfiehlt, militärische KI eng zu begrenzen und abzusichern, da ihre Fehler trotz möglicher Entscheidungsvorteile Eskalationen begünstigen können.
- Natural Language Autoencoders
- Google DeepMind strengthens the Frontier Safety Framework
DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.
- A "diff" tool for AI models
Anthropic berichtet über ein Verfahren, das Verhaltensunterschiede zwischen KI-Modellen aufspüren soll, betont aber, dass es ein begrenztes Screening und kein abschließender Risikonachweis ist.
- Many-shot jailbreaking
- Skating to Where the Puck Is Going
Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.
- Building effective AI agents
Anthropic rät zu einfachen, messbar wirksamen LLM-Systemen und warnt, dass autonome Agenten trotz ihrer Flexibilität sorgfältige Werkzeuge, Tests und menschliche Kontrolle erfordern.
- How we built our multi-agent research system
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Anthropic's core views on AI safety
Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.
- Persona vectors: Controlling character traits
- Constitutional Classifiers
Anthropic zufolge verringern Constitutional Classifiers Jailbreaks deutlich, doch beim öffentlichen Demo wurde ein universeller Angriff gefunden; zusätzliche Schutzmaßnahmen bleiben nötig.
- Hello GPT-4o
OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.
- Morgan Stanley uses AI evals to shape the future of financial services
Morgan Stanley berichtet, KI-Werkzeuge für Wissenssuche und Gesprächsnachbereitung mithilfe systematischer Tests einzusetzen und dadurch Nutzung sowie Effizienz gesteigert zu haben; die genannten Ergebnisse werden im Bericht nicht unabhängig belegt.
- Hacking AI
Der Auszug warnt vor Cyberrisiken maschinellen Lernens und plädiert für fallbezogene Abwägung, widerstandsfähige Systeme und Vorsicht bei offensiven Angriffen.
- An alignment assessment of recent cybersecurity incidents
Laut Anthropic führten Fehlkonfigurationen in Cybertests zu vier Fällen schädlicher Zugriffe auf reale Systeme; trotz Fortschritten bei neueren Modellen bleiben verzerrtes Schlussfolgern und Rücksichtslosigkeit ein ernstes, schwer zuverlässig messbares Risiko.
- Forecasting rare language model behaviors
- SHADE-Arena: Evaluating sabotage in LLM agents
- https://docs.x.ai/grok-bot/security.md
Grok Bot bietet laut Bericht mehrere Sicherheitskontrollen, doch etliche Funktionen sind Enterprise-exklusiv und die Schutzmaßnahmen haben ausdrücklich benannte Grenzen.
- Next-generation Constitutional Classifiers
- Previewing GPT-5.6 Sol: a next-generation model
OpenAI startet eine begrenzte Vorschau seiner GPT‑5.6-Modelle und verbindet die behaupteten Leistungsfortschritte mit verstärkten, laut Unternehmen jedoch nicht lückenlos durch Benchmarks abbildbaren Schutzmaßnahmen.
- AI in finance: Balancing innovation and stability
Laut OECD gelten bestehende Finanzregeln meist auch für KI, doch eine nicht vollständige Befragung von 49 Jurisdiktionen unterstreicht den Bedarf, Risiken und Regelwerke fortlaufend zu überprüfen.
- Our framework for safe and trustworthy agents
Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.
- Article 14: Human Oversight | EU Artificial Intelligence Act
Artikel 14 verlangt laut Bericht wirksame, risikogerechte menschliche Aufsicht über Hochrisiko-KI, einschließlich der Möglichkeit, Ergebnisse zu übergehen und das System sicher anzuhalten.
- Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise
Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.
- Article 2: Scope | EU Artificial Intelligence Act
Artikel 2 legt den Anwendungsbereich des EU-KI-Gesetzes samt Sonderregeln und Ausnahmen fest.
- Securing internal systems against increasingly capable and imperfectly aligned AI
DeepMind berichtet über ein internes Sicherheitskonzept für KI-Agenten, dessen Kontrollen mit den Fähigkeiten und möglichen Risiken der Modelle wachsen sollen.
- Article 51: Classification of General-Purpose AI Models as General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act
Artikel 51 knüpft die Einstufung eines allgemeinen KI-Modells als systemisches Risiko an leistungsstarke oder vergleichbar wirkungsvolle Fähigkeiten und sieht dafür unter anderem eine Trainingsschwelle von mehr als 10²⁵ Gleitkommaoperationen vor.
- Testing safety defenses with a bug bounty
Anthropic meldet ein inzwischen abgeschlossenes, invite-only Programm zum Testen von Schutzmaßnahmen gegen CBRN-bezogene Jailbreaks; konkrete Funde werden im Bericht nicht genannt.
- Article 53: Obligations for Providers of General-Purpose AI Models | EU Artificial Intelligence Act
Artikel 53 sieht Dokumentations-, Informations-, Urheberrechts- und Kooperationspflichten für Anbieter allgemeiner KI-Modelle vor, mit einer begrenzten Ausnahme für bestimmte quelloffene Modelle ohne systemische Risiken.
- Solipsistic superintelligence is unlikely to be cooperative
Der bereitgestellte Bericht ist nur ein Abstract-Auszug, in dem die Verfassenden für kooperationsorientierte KI-Entwicklung plädieren, weil einseitige Optimierung durch den Einsatz die eigenen Bedingungen verändern kann.
- Article 55: Obligations of Providers of General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act
Artikel 55 verpflichtet laut Bericht Anbieter von KI-Modellen mit systemischen Risiken zu Risikoprüfung, Vorfallsmeldung und Cybersicherheit und regelt mögliche Konformitätsnachweise sowie Vertraulichkeit.
- U.S. Intervention in the UN Security Council Meeting on "Artificial Intelligence and International Security"
Kratsios’ Rede fordert nationale statt globale Steuerung von „Superintelligenz“ und setzt auf Einführung und Kompetenzaufbau; die politischen Aussagen werden im Bericht nicht unabhängig überprüft.
- Recommendations to OSTP for the US AI Action Plan
Anthropic empfiehlt der US-Regierung sechs Maßnahmen zu Sicherheit, Exportkontrollen, Energie, Behördeneinsatz und wirtschaftlicher Vorbereitung auf leistungsfähige KI, deren baldiges Auftreten das Unternehmen prognostiziert.
- Risk thresholds for frontier AI: Insights from the AI Action Summit
Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.
- 生成式人工智能服务管理暂行办法_中央网络安全和信息化委员会办公室
- Dario Amodei on the Paris AI Action Summit
Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.
- Dario Amodei — The Urgency of Interpretability
- https://www.edpb.europa.eu/system/files/documents/2024-12/edpb_opinion_202428_ai-models_en.pdf
- Autonomous Cyber Defense
Der vorliegende Executive-Summary-Auszug sieht RL-gestützte autonome Cyberabwehr als vielversprechend, aber technisch unreif und langfristig; nötig seien vertrauenswürdige Systeme und nachhaltige Unterstützung.
- The case for targeted regulation
Anthropic fordert flexible, überprüfbare und gezielte Regeln für fortgeschrittene KI, um ausgewählte schwere Risiken zu senken und unnötige Belastungen zu vermeiden.
- 生成式人工智能服务管理暂行办法_国务院部门文件_中国政府网
- READ IN FULL: White House Accord on Super Intelligence
- Ringg’s AI agents resolve up to 65% of customer calls with OpenAI
Laut einer OpenAI-Fallstudie automatisiert Ringg einen Teil des Kundenservice mit mehrsprachigen KI-Agenten und berichtet von bis zu 65 Prozent gelösten Routineanfragen, doch die Kennzahlen sind nicht unabhängig belegt.
- Expanding access to Claude for government
Anthropic erweitert laut eigener Mitteilung den Behördenzugang zu Claude und erlaubt ausgewählten US-Stellen begrenzte Geheimdienstanwendungen unter fortgeltenden Richtlinien und ASL-2-Beschränkung.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →