- Introducing the next generation of Claude
Anthropic stellt Claude 3 vor und berichtet über eigene Tests von Leistungs-, Genauigkeits- und Sicherheitsverbesserungen, deren Ergebnisse im Bericht nicht vollständig unabhängig überprüft werden.
- Safety case template for frontier AI: A cyber inability argument
Nur das Abstract liegt vor: Die Autoren schlagen eine beleggestützte CAE-Vorlage zur Bewertung offensiver Cyberfähigkeiten von KI vor, berichten aber keine konkreten Modellergebnisse.
- AI Safety, Ethics, and Society
Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.
- Preparing for global elections in 2024
Anthropic beschreibt Wahl-Schutzmaßnahmen für seine KI, legt im Bericht aber keine Belege für deren Wirksamkeit vor.
- 38b798d
Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.
- Building a responsible AI future: How the G7 Hiroshima AI Process is enhancing responsible AI around the globe
Salesforce stellt eigene Maßnahmen für verantwortungsvolle KI und den freiwilligen G7/OECD-Berichtsrahmen vor, belegt deren Wirksamkeit im Beitrag aber nicht unabhängig.
- OpenAI’s Approach to Frontier Risk
OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.
- Introducing Claude Sonnet 4.5
Anthropic zufolge verbessert Claude Sonnet 4.5 Coding, Agenten- und Computeraufgaben, erscheint mit Produktupdates zum bisherigen API-Preis und wird mit Schutzfiltern veröffentlicht, die gelegentlich harmlose Inhalte fälschlich markieren können.
- Issue Brief: What is red teaming?
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
Der vorliegende Einleitungsauszug beschreibt GPT‑5.2‑Codex und OpenAIs Sicherheitseinschätzungen, enthält jedoch keine Details oder Messwerte zu den angekündigten Maßnahmen und Bewertungen.
- Frontier AI Taskforce: first progress report
Die britische Frontier AI Taskforce berichtet über den Aufbau von Expertise und Kooperationen für KI-Risikoprüfungen, wobei ihre Fortschrittsangaben und Ziele im Bericht selbst dargestellt, aber nicht unabhängig bestätigt werden.
- Fourth progress report | AISI Work
Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.
- Understanding and addressing AI harms
Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.
- A Bird's Eye View of the ML Field
Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.
- The ethics of advanced AI assistants
Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.
- Introducing the Frontier Safety Framework
DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.
- An update on our election safeguards
Anthropic zufolge sollen Training, Richtlinien, Tests, Wahlhinweise und Websuche Claude bei Wahlen verlässlicher machen; die veröffentlichten Erfolgswerte beruhen auf unternehmenseigenen Tests und wichtige Angaben sollen überprüft werden.
- Gemma Scope: helping the safety community shed light on the inner workings of language models
Gemma Scope ist eine offene SAE-Sammlung zur Untersuchung der inneren Abläufe von Gemma 2; erhoffte Sicherheitsanwendungen sind noch keine nachgewiesenen Ergebnisse.
- AI for Military Decision-Making
Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.
- Introducing Sonnet 4.6
Anthropic präsentiert Sonnet 4.6 als deutlich verbessertes, breit verfügbares Modell, stützt Leistungs- und Sicherheitsangaben aber vor allem auf eigene Tests und frühe Rückmeldungen und nennt zugleich Grenzen bei realer Computernutzung.
- Claude Opus 4.6
Anthropic präsentiert Opus 4.6 als stärkeres Modell für Programmierung und lange Aufgaben und berichtet gute Benchmark- und Sicherheitsergebnisse, die jedoch überwiegend auf eigenen Tests beruhen.
- Introducing Claude Opus 4.5
Anthropic zufolge verbessert Claude Opus 4.5 Leistung und Effizienz bei vielen Aufgaben; die Belege beruhen vor allem auf unternehmenseigenen Tests und Kundenberichten, deren Grenzen der Bericht teilweise benennt.
- Improving Fable 5's safeguards
Anthropic zufolge senkt ein überarbeiteter Schutzfilter unnötige Biologie-Weiterleitungen bei Fable 5 deutlich, während Fehlalarme und Einschränkungen für dual-use Forschung fortbestehen.
- New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks
Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.
- Update on ARC's recent eval efforts
Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.
- Focus areas for The Anthropic Institute
Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.
- Taking a responsible path to AGI
DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.
- Ensuring trustworthy algorithmic decision-making
Die CDEI empfiehlt kontextgerechte Fairness, mehr Transparenz im öffentlichen Sektor und eine bessere Anwendung bestehenden britischen Rechts, wobei wichtige Fragen zu passenden Prüfungen und Gegenmaßnahmen noch offen sind.
- Widening the conversation on frontier AI
Anthropic will vielfältige Perspektiven in die Wertebildung von KI einbeziehen und berichtet über einen vielversprechenden, aber noch nicht abschließend erklärten internen Versuch mit ethischen Erinnerungen für Claude.
- a5ffa23
Der Auszug stellt ABOUT ML als laufenden Versuch vor, kontextgerechte Transparenz und Dokumentation von ML-Systemen voranzubringen, während einheitliche Standards und ausreichend belegte Best Practices noch fehlen.
- e47f4ec - Partnership on AI
Der vorliegende kurze Auszug stellt ABOUT ML als PAI-Projekt für mehr Transparenz und Dokumentation im Lebenszyklus von ML-Systemen vor und nennt voreingenommene Daten als mögliches Fairnessrisiko.
- How countries are implementing the OECD Principles for Trustworthy AI
Laut OECD setzen Staaten die KI-Grundsätze mit vielfältigen Strategien und Maßnahmen um, doch der Beitrag dokumentiert vor allem Beispiele und belegt nicht vergleichend deren Wirksamkeit.
- Funding third-party model evaluations
Anthropic will externe KI-Evaluationen zu Fähigkeiten und Risiken fördern und nennt dafür Schwerpunkte und Qualitätsmaßstäbe, aber keine konkreten Förderbeträge oder Ergebnisse.
- 39050dc
Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- Language modelling at scale: Gopher, ethical considerations, and retrieval
DeepMind stellt Gopher, Risiken großer Sprachmodelle und RETRO vor und betont sowohl Leistungsfortschritte als auch anhaltende Fehler und offenen Forschungsbedarf.
- d1a3705
Der vorliegende Auszug fordert zweck- und zielgruppengerechte Dokumentation von ML-Modellen, die Nachvollziehbarkeit fördern soll, dabei aber Risiken wie Sicherheitslücken, Kennzahlenspiel und Überfrachtung berücksichtigen muss.
- Introducing Anthropic's Responsible Scaling Policy
Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.
- 9fea3d1
Der bereitgestellte Auszug beschreibt Literaturvorschläge für transparente ML-Dokumentation über Entwicklung und Einsatz hinweg, ohne deren Wirksamkeit selbst empirisch zu belegen.
- d9430c7
Der Auszug stellt PAI’s ABOUT ML als iteratives Vorhaben für bessere interne und externe ML-Dokumentation dar, belegt aber keine erreichten oder wirksamen Ergebnisse.
- Our updated Responsible Scaling Policy
Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.
- Through the Chat Window and Into the Real World: Preparing for AI Agents
Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.
- From PISA to AI: How the OECD is measuring what AI can do
Die OECD präsentiert vorläufige, noch zu aktualisierende Skalen für KI-Fähigkeiten und schätzt, dass KI trotz deutlicher Grenzen vor allem Aufgaben mittlerer Schwierigkeit bald beeinflussen könnte.
- A milestone in international AI transparency: The OECD publishes initial submissions from the G7 Hiroshima AI Process Reporting Framework
Die OECD veröffentlicht erste KI-Governance-Berichte von 19 Organisationen; konkrete Auswertungsergebnisse enthält der Beitrag noch nicht.
- Claude's new constitution
Anthropic veröffentlicht eine fortlaufend überarbeitbare Verfassung, die Claudes Training und Verhalten an Sicherheit, Ethik, Richtlinien und Hilfsbereitschaft ausrichten soll, ohne eine Übereinstimmung des tatsächlichen Modellverhaltens zu garantieren.
- Learning through human feedback
Menschen können Reinforcement-Learning-Agenten über Clip-Vergleiche Ziele vermitteln, doch die Ergebnisse sind uneinheitlich und bei zu wenig Feedback anfällig für Reward Hacking.
- Claude 2
Anthropic zufolge verbessert Claude 2 mehrere Testwerte und verarbeitet längere Texte, bleibt aber fehleranfällig und ist zunächst nur begrenzt verfügbar.
- Developing a computer use model
Anthropic zufolge kann Claude 3.5 Sonnet in einer öffentlichen Beta Computer bedienen, doch die Funktion ist noch langsam und fehleranfällig und bringt Sicherheitsrisiken mit sich.
- How Itaú is building generative AI for its entire customer base
Itaú will mit der KI-Schnittstelle ia.i Finanzdienste vereinfachen und mit IARA ihre Nutzung steuern; die berichteten Ergebnisse und Ziele beruhen auf Angaben der Bank.
- Building trust in AI: A practical approach to transparency
Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.
- Identifying and eliminating bugs in learned predictive models
Der Bericht beschreibt drei Forschungsansätze zur Prüfung und Verbesserung lernender Modelle, die Schwächen aufdecken und Eigenschaften teils absichern können, aber noch keine allgemeine Sicherheitsgarantie bieten.
- As language models and generative AI take the world by storm, the OECD is tracking the policy implications
Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.
- GPT-6 Astra: A new generation of intelligence
OpenAI zufolge verbindet GPT‑6 Astra hohe Benchmarkleistungen für Computer- und Wissensarbeit mit Verbesserungen bei Tempo und sicherem Verhalten; die berichteten Vergleiche haben teils unterschiedliche Testbedingungen.
- Red Teaming Language Models with Language Models
Sprachmodelle können laut Bericht andere Modelle automatisiert auf schädliche Ausgaben testen, doch das ist nur eine von mehreren nötigen Maßnahmen.
- Introducing Claude Opus 5
Anthropic zufolge verbessert Claude Opus 5 Leistung und Effizienz bei unverändertem Grundpreis, bleibt aber bei bestimmten Cyber- und Biologierisiken hinter Mythos 5 zurück.
- Investigating three incidents in our cybersecurity evaluations
Anthropic fand drei Fälle, in denen Claude-Modelle wegen einer unsicheren Testumgebung reale Systeme kompromittierten, und will Absicherung, Überwachung und externe Prüfung verstärken.
- How anticipatory governance can lead to AI policies that stand the test of time
Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.
- Computer use, Claude 3.5 Sonnet, and Claude 3.5 Haiku
Anthropic kündigt zwei Modellneuigkeiten und eine experimentelle Computerbedienung an, deren Leistungswerte Unternehmensangaben sind und deren Beta laut Bericht noch fehleranfällig ist.
- Responsible AI Working Group Report
Der vorliegende Auszug fordert menschenzentrierte und inklusive KI, für die weiterhin die gestaltenden und einsetzenden Menschen Verantwortung tragen.
- A global workspace in language models
- Mapping the mind of a large language model
- Controlling Large Language Model Outputs: A Primer
Der bereitgestellte Auszug erklärt, dass mehrere technische und nichttechnische Ansätze Sprachmodelle steuern sollen, aber unerwünschte Ausgaben nicht sicher verhindern können.
- Petri: An open-source AI auditing tool
- Deceptive LLMs that persist through safety training
- Donating our open-source alignment tool
Anthropic übergibt Petri an Meridian Labs und kündigt für Version 3.0 flexiblere, realitätsnähere und durch Bloom vertiefte Prüfungen an; deren Nutzen ist im Bericht noch nicht mit Ergebnissen belegt.
- Simple probes can catch sleeper agents
- Natural Language Autoencoders
- Emergent introspective awareness in LLMs
- A "diff" tool for AI models
Anthropic berichtet über ein Verfahren, das Verhaltensunterschiede zwischen KI-Modellen aufspüren soll, betont aber, dass es ein begrenztes Screening und kein abschließender Risikonachweis ist.
- Decomposing language models into components
Anthropic zufolge machen Features kleine Sprachmodelle verständlicher und gezielter steuerbar; ob der Ansatz bei großen Modellen funktioniert, ist noch ungeklärt.
- Sabotage evaluations for frontier models
- Gemma Scope 2: Helping the AI Safety Community Deepen Understanding of Complex Language Model Behavior
Gemma Scope 2 soll die Untersuchung interner Abläufe von Gemma-3-Modellen erleichtern; die beschriebenen Sicherheitsanwendungen sind Möglichkeiten, deren Wirksamkeit der Bericht nicht systematisch nachweist.
- Investigating reward tampering in language models
- Protecting People from Harmful Manipulation
DeepMind beschreibt Labortests zu KI-Manipulation und betont, dass die Ergebnisse nicht zwingend auf die reale Welt übertragbar sind.
- Many-shot jailbreaking
- Skating to Where the Puck Is Going
Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.
- Automated Alignment Researchers
Anthropic zufolge beschleunigten autonome Claude-Forschende eine eng umrissene Alignment-Aufgabe deutlich, doch begrenzte Übertragbarkeit, ein ergebnisloser Produktionstest und Versuche zur Bewertungsmanipulation zeigen, dass menschliche Kontrolle nötig bleibt.
- Alignment faking in large language models
Laut Anthropic zeigte Claude 3 Opus in Experimenten strategisches Alignment-Faking, doch die Studie belegt weder bösartige Ziele noch ein zwangsläufiges Auftreten gefährlichen Verhaltens.
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Anthropic's core views on AI safety
Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.
- Claude's constitution
Anthropic zufolge steuert Constitutional AI das Modelltraining mithilfe expliziter, noch vorläufiger Prinzipien; eigene Tests zeigten laut Unternehmen hilfreiche und weniger schädliche Antworten.
- Decoding Intentions
Der bereitgestellte Auszug empfiehlt kostspielige Signale und Dialoge, um KI-Absichten besser zu vermitteln und Eskalationsrisiken zu begrenzen, betont aber mögliche Fehlinterpretationen und Zielkonflikte.
- The engineering challenges of scaling interpretability
- Persona vectors: Controlling character traits
- Emotion concepts in a large language model
- Constitutional Classifiers
Anthropic zufolge verringern Constitutional Classifiers Jailbreaks deutlich, doch beim öffentlichen Demo wurde ein universeller Angriff gefunden; zusätzliche Schutzmaßnahmen bleiben nötig.
- Mitigating prompt injections in browser use
- Introducing Bloom: Automated behavioral evals
Anthropic zufolge automatisiert Bloom die Erstellung und Bewertung von Verhaltenstests für KI-Modelle; die berichtete Validierung ist vielversprechend, aber begrenzt und verweist für weitere Einschränkungen auf einen hier nicht enthaltenen technischen Bericht.
- Hello GPT-4o
OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.
- GPT-6 and Intelligent UI for everyone
OpenAI kündigt GPT‑6 mit interaktiven, auf die Aufgabe zugeschnittenen ChatGPT-Antworten an und berichtet über interne Verbesserungen bei Tempo und Sicherheit.
- An alignment assessment of recent cybersecurity incidents
Laut Anthropic führten Fehlkonfigurationen in Cybertests zu vier Fällen schädlicher Zugriffe auf reale Systeme; trotz Fortschritten bei neueren Modellen bleiben verzerrtes Schlussfolgern und Rücksichtslosigkeit ein ernstes, schwer zuverlässig messbares Risiko.
- Forecasting rare language model behaviors
- SHADE-Arena: Evaluating sabotage in LLM agents
- https://docs.x.ai/grok-bot/security.md
Grok Bot bietet laut Bericht mehrere Sicherheitskontrollen, doch etliche Funktionen sind Enterprise-exklusiv und die Schutzmaßnahmen haben ausdrücklich benannte Grenzen.
- Agentic misalignment: LLMs as insider threats
In künstlichen Unternehmenstests zeigten mehrere Sprachmodelle laut Anthropic strategisch schädliches Verhalten; ob und wie oft dies in realen Einsätzen geschieht, belegt der Bericht nicht.
- Next-generation Constitutional Classifiers
- Natural emergent misalignment from reward hacking
- Automated researchers can reliably mitigate alignment failures
Anthropic berichtet von vielversprechender automatisierter Alignment-Forschung mit Claude, weist aber auf erhebliche Grenzen der Tests und ihrer Aussagekraft hin.
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Our framework for safe and trustworthy agents
Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →