- Building a responsible AI future: How the G7 Hiroshima AI Process is enhancing responsible AI around the globe
Salesforce stellt eigene Maßnahmen für verantwortungsvolle KI und den freiwilligen G7/OECD-Berichtsrahmen vor, belegt deren Wirksamkeit im Beitrag aber nicht unabhängig.
- Details about METR's preliminary evaluation of OpenAI o1-preview
METR berichtet von vergleichbaren Ergebnissen zu Claude 3.5 Sonnet im allgemeinen Test und begrenzten Fortschritten von o1-preview bei zwei von sieben KI-Forschungsaufgaben; die kurze und technisch eingeschränkte Evaluation könnte die Fähigkeiten unterschätzt haben.
- Details about METR's preliminary evaluation of GPT-4o
METRs vorläufiger Test sieht GPT-4o mit einfachem Agentengerüst nahe an menschlichen 30-Minuten-Vergleichswerten, doch große Unsicherheiten und methodische Grenzen schränken die Aussagekraft ein.
- Advancing the field of systemic AI safety: grants open
Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
Der vorliegende Einleitungsauszug beschreibt GPT‑5.2‑Codex und OpenAIs Sicherheitseinschätzungen, enthält jedoch keine Details oder Messwerte zu den angekündigten Maßnahmen und Bewertungen.
- Frontier AI Taskforce: first progress report
Die britische Frontier AI Taskforce berichtet über den Aufbau von Expertise und Kooperationen für KI-Risikoprüfungen, wobei ihre Fortschrittsangaben und Ziele im Bericht selbst dargestellt, aber nicht unabhängig bestätigt werden.
- Anticipating Biological Risk: A Toolkit for Strategic Biosecurity Policy
Der vorliegende Text ist ein Auszug: Der Bericht skizziert zwei Wege zu biologischem Schaden und fordert laut Zusammenfassung breiter angelegte, koordinierte Schutzmaßnahmen sowie klarere Aufsichtskriterien.
- AI Safety Fund initiates first round of research grants
- An update on our general capability evaluations
METRs vorläufige Messreihe deutet auf breite, aber ungleichmäßige Fähigkeiten getesteter KI-Agenten und niedrige Kosten bei lösbaren Aufgaben hin; die begrenzten Vergleichsdaten und einfachen Testverfahren lassen noch keine abschließenden Schlüsse zu.
- Fourth progress report | AISI Work
Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.
- A Bird's Eye View of the ML Field
Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.
- FMF Joins USAISI Consortium as a Founding Member
- AI Safety Institute: third progress report
Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.
- The ethics of advanced AI assistants
Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.
- Our views on AI policy and political advocacy
OpenAI beschreibt seine KI-politischen Positionen und behauptet, selbst keine politischen Spenden geleistet zu haben; der Bericht bietet dazu keine unabhängige Überprüfung.
- Why I joined AISI by Geoffrey Irving
Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.
- Opinions on Strengthening the Governance of Science and Technology Ethics
Der Auszug skizziert Chinas geplante Governance für Wissenschaftsethik, doch konkrete Prüfregeln sind im bereitgestellten Text nicht enthalten.
- Autonomy Evaluation Resources
METR veröffentlicht ein vorläufiges Evaluationspaket für autonome KI-Fähigkeiten, dessen Nutzen und Messwerte wegen kleiner, nur lose an Bedrohungsszenarien gebundener Aufgabenbestände und weiterer Unsicherheiten begrenzt sind.
- (Trial) Measures for Science and Technology Ethics Reviews
Nur ein Auszug liegt vor: Er skizziert Zweck, Anwendungsbereich und Grundsätze chinesischer Ethikprüfungen; die vollständigen Verfahren und übrigen Regelungen stehen laut Seite im PDF.
- Example autonomy evaluation protocol
METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.
- (Trial) Measures for Science and Technology Ethics Reviews (Draft for Feedback)
Der Bericht ist nur ein Auszug eines Entwurfs von 2023, der ethische Prüfungen für risikobehaftete Forschung vorsieht; Einzelheiten des vollständigen Verfahrens fehlen.
- Shaping Europe’s digital future
Der vorliegende Auszug fasst den risikobasierten Ansatz, abgestufte Pflichten für GPAI-Modelle und die Vollzugsstruktur des KI-Gesetzes zusammen, ohne konkrete Anwendungsdaten zu nennen.
- Measuring the impact of post-training enhancements
Auf METRs Aufgabenmix brachte Post-Training einen großen Leistungszuwachs, zusätzliche Agentenoptimierung einen kleineren, unsicheren; wegen begrenzter und nicht auf Gefahren ausgerichteter Tests bleiben die Ergebnisse vorläufig.
- Steering AI’s future: Strategies for anticipatory governance
Der kurze Auszug fordert anpassungsfähige, vorausschauende KI-Governance und verweist auf die mögliche Übertragbarkeit eines OECD-Rahmens auf andere neue Technologien.
- Advancing Claude in healthcare and the life sciences
Anthropic kündigt neue Claude-Funktionen für Gesundheitswesen und Biowissenschaften an; die Vorteile werden im Bericht vor allem als Unternehmensangaben und mögliche Anwendungen dargestellt.
- 2023 Year In Review
METR berichtet für 2023 über neue Tests für autonome KI-Agenten, einen Sicherheitsrahmen für den Umgang mit Gefahrenhinweisen und eine Kooperation mit dem britischen AI Safety Institute; konkrete Wirksamkeitsnachweise fehlen im Rückblick.
- Assessing potential future artificial intelligence risks, benefits and policy imperatives
Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.
- OpenAI o3-mini
OpenAI zufolge bot o3-mini zum Start schnelle, kostengünstige STEM-Leistung; die berichteten Testergebnisse sind herstellerseitig, teils vorläufig, und die API-Version ist inzwischen eingestellt.
- Regulatory sandboxes can facilitate experimentation in artificial intelligence
Sandboxes können laut OECD-Beitrag KI-Innovation unter kontrollierten Bedingungen erproben helfen, benötigen dafür aber klare Kriterien, Fachwissen und eine sorgfältige Bewertung möglicher Folgen.
- New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks
Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.
- Introducing Gemini Robotics and Gemini Robotics-ER, AI models designed for robots to understand, act and react to the physical world.
DeepMind stellt zwei Gemini-Modelle für Robotik vor und berichtet über Fortschritte bei Anpassungsfähigkeit, Geschicklichkeit und räumlichem Denken, während breite reale Anwendungen noch Entwicklungsziel sind.
- Update on ARC's recent eval efforts
Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.
- Anthropic partners with Allen Institute and HHMI
Anthropic will mit HHMI und dem Allen Institute KI-Systeme für biologische Forschung entwickeln; der Bericht schildert geplante Vorhaben, keine bereits nachgewiesenen Ergebnisse.
- False Sense of Supremacy: Emerging Technologies, the War in Ukraine, and the Risk of Nuclear Escalat
- Gemini Robotics On-Device brings AI to local robotic devices
Google kündigt ein anpassbares, lokal laufendes Robotikmodell an und berichtet über eigene Leistungs- und Sicherheitsprüfungen, deren Grenzen der Beitrag nicht umfassend dokumentiert.
- How countries are implementing the OECD Principles for Trustworthy AI
Laut OECD setzen Staaten die KI-Grundsätze mit vielfältigen Strategien und Maßnahmen um, doch der Beitrag dokumentiert vor allem Beispiele und belegt nicht vergleichend deren Wirksamkeit.
- US Executive Order, G7 Code, and Bletchley Park
Anthropic sieht in neuen Regeln und staatlichen KI-Prüfeinrichtungen einen wichtigen Anfang und fordert verlässliche Bewertungen als Grundlage für Regulierung und internationale Zusammenarbeit.
- Language modelling at scale: Gopher, ethical considerations, and retrieval
DeepMind stellt Gopher, Risiken großer Sprachmodelle und RETRO vor und betont sowohl Leistungsfortschritte als auch anhaltende Fehler und offenen Forschungsbedarf.
- RFI Response: Safety Considerations for Chemical and/or Biological AI Models
Der kurze Auszug wägt Forschungsnutzen und mögliche biologische Risiken von KI ab, verweist auf einen CSET-Bericht zur Risikominderung und enthält keine konkreten Empfehlungen; die vollständige Stellungnahme liegt nicht vor.
- 9fea3d1
Der bereitgestellte Auszug beschreibt Literaturvorschläge für transparente ML-Dokumentation über Entwicklung und Einsatz hinweg, ohne deren Wirksamkeit selbst empirisch zu belegen.
- How governments are driving AI adoption for economic growth
Laut Beitrag können Infrastruktur, KI-Kompetenzen und ein innovationsfreundlicher Regelrahmen die KI-Nutzung und Investitionen fördern; die beschriebenen Vorteile sind jedoch nicht durch eine eigene Wirkungsanalyse belegt.
- Anthropic achieves ISO 42001 certification
Anthropic meldet eine ISO/IEC-42001-Zertifizierung als unabhängige Bestätigung seines KI-Managementrahmens, nennt im Bericht aber keine Einzelheiten zum Prüfungsumfang oder konkrete Prüfergebnisse.
- Through the Chat Window and Into the Real World: Preparing for AI Agents
Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.
- 2026 Usage Policy update
Anthropic beschreibt eine ab 12. November 2026 geltende Richtlinienaktualisierung, die Regeln zu Täuschung, Wahlen, Waffen, Überwachung und Hochrisikoanwendungen präzisiert und laut Unternehmen meist keine Änderung der bisherigen Durchsetzung bedeutet.
- Proportional oversight for AI model updates can boost AI adoption
Der Bericht empfiehlt risikogestufte Prüfungen und laufende Überwachung von KI-Modellupdates; seine Befunde beruhen auf 143 Änderungsprotokollen von fünf Anbietern und zeigen potenzielle, nicht nachgewiesene Schäden.
- Enabling Principles for AI Governance
Der vorliegende Auszug empfiehlt, KI-Risiken besser zu erfassen, KI-Kompetenz zu fördern und flexible Regeln zu schaffen.
- Working with the US Department of Energy
Anthropic kündigt mit dem US-Energieministerium eine mehrjährige KI-Partnerschaft für Forschung an, deren mögliche Vorteile der Bericht beschreibt, aber noch nicht durch Ergebnisse belegt.
- Washington voluntary safety pact leaves tech giants to police their own superintelligence
- Artificial Intelligence Law of the People’s Republic of China (Draft for Suggestions from Scholars)
Der vorliegende Auszug eines chinesischen KI-Gesetzentwurfs beschreibt Ziele, Geltungsbereich und ethische Grundsätze bis Artikel 3; die weitergehenden Angaben zu Haftung und geistigem Eigentum bleiben hier unbelegt.
- China and Medical AI
Nur die Executive Summary liegt vor: Der Bericht sieht Chinas Strategie für Biodaten, Forschung und Kommerzialisierung medizinischer KI als möglichen Weg zur wirtschaftlichen und technologischen Führungsrolle.
- China, Biotechnology, and BGI
Der Bericht behauptet, dass Chinas staatliche Unterstützung BGI im Biotechnologiewettbewerb begünstigt, und fordert stärkere Daten-, Forschungs- und Industriepolitik, wobei die intransparenten Daten die Prüfung erschweren.
- Building trust in AI: A practical approach to transparency
Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.
- GPT-6 Astra: A new generation of intelligence
OpenAI zufolge verbindet GPT‑6 Astra hohe Benchmarkleistungen für Computer- und Wissensarbeit mit Verbesserungen bei Tempo und sicherem Verhalten; die berichteten Vergleiche haben teils unterschiedliche Testbedingungen.
- An Argument for Hybrid AI Incident Reporting
Die Executive Summary empfiehlt ein föderiertes, standardisiertes Meldesystem für KI-Vorfälle mit verpflichtenden, freiwilligen und öffentlichen Meldungen, lässt aber die konkrete Ausgestaltung weiteren Untersuchungen vorbehalten.
- A DPA for the 21st Century
Der Einleitungsauszug argumentiert, dass der Defense Production Act gezielt zur Stärkung von KI-Lieferketten beitragen kann, ohne seine weitreichendsten Befugnisse sofort auszuschöpfen.
- Claude Science, an AI workbench for scientists
Claude Science soll laut Anthropic wissenschaftliche Recherche und Analyse in einer nachvollziehbaren KI-Arbeitsumgebung bündeln; die Wirksamkeitsbeispiele im Bericht beruhen auf Unternehmens- und Anwenderangaben.
- AI capabilities can be significantly improved without expensive retraining
Laut Bericht können nachträgliche Modellverbesserungen bei relevanten Benchmarks große, geschätzte Leistungsgewinne bringen, weshalb Sicherheitsregeln auch künftige Zuwächse und breiteren Zugang zu diesen Verfahren berücksichtigen sollten.
- How the global community can come together to understand AI’s risks
Der Bericht empfiehlt eine koordinierte internationale KI-Governance, die politische Abstimmung und schnelle wissenschaftliche Risikobewertungen verbindet, obwohl Wissen, Zuständigkeiten und Zeitrahmen unsicher bleiben.
- AI and Biorisk: An Explainer
Der Textausschnitt fordert, KI-bezogene und bereits bestehende biologische Risiken gemeinsam zu betrachten und Schutzmaßnahmen sowie Aufsichtsregeln gezielter zu gestalten.
- How anticipatory governance can lead to AI policies that stand the test of time
Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.
- Computer use, Claude 3.5 Sonnet, and Claude 3.5 Haiku
Anthropic kündigt zwei Modellneuigkeiten und eine experimentelle Computerbedienung an, deren Leistungswerte Unternehmensangaben sind und deren Beta laut Bericht noch fehleranfällig ist.
- Putting the power of AlphaFold into the world’s hands
DeepMind präsentiert AlphaFold-Vorhersagen als frei zugängliche Forschungsressource mit vielversprechenden Anwendungen, während der Bericht die Grenzen der Methode nur knapp behandelt.
- Gemini Robotics 1.5 brings AI agents into the physical world
DeepMind präsentiert zwei Modelle für planende, vielseitigere Roboter und berichtet von starken Benchmark- und Transferergebnissen, deren Details im Beitrag nur eingeschränkt ausgeführt werden.
- Google DeepMind strengthens the Frontier Safety Framework
DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.
- Understanding the Global Gain-of-Function Research Landscape
Laut einer Auswertung von rund 7.000 PubMed-Arbeiten bis Mitte 2022 ist GOF- und LOF-Forschung global und vielfältig, weshalb der Bericht für eine risikogestaffelte statt pauschale Regulierung plädiert.
- Sabotage evaluations for frontier models
- Gemma Scope 2: Helping the AI Safety Community Deepen Understanding of Complex Language Model Behavior
Gemma Scope 2 soll die Untersuchung interner Abläufe von Gemma-3-Modellen erleichtern; die beschriebenen Sicherheitsanwendungen sind Möglichkeiten, deren Wirksamkeit der Bericht nicht systematisch nachweist.
- Claude's constitution
Anthropic zufolge steuert Constitutional AI das Modelltraining mithilfe expliziter, noch vorläufiger Prinzipien; eigene Tests zeigten laut Unternehmen hilfreiche und weniger schädliche Antworten.
- Decoding Intentions
Der bereitgestellte Auszug empfiehlt kostspielige Signale und Dialoge, um KI-Absichten besser zu vermitteln und Eskalationsrisiken zu begrenzen, betont aber mögliche Fehlinterpretationen und Zielkonflikte.
- Evaluating Claude with BioMysteryBench
Laut Anthropic löst Claude zunehmend anspruchsvolle Bioinformatikaufgaben, doch Erfolge bei menschlich schwierigen Fragen sind oft wenig reproduzierbar und ungelöste Aufgaben bleiben schwer einzuordnen.
- Paving the way for AI agents in biology
Laut dem Beitrag macht ein zuverlässiger, deterministischer Datenzugang biologische KI-Agenten beim Abruf viraler Sequenzen deutlich genauer und reproduzierbarer.
- Hello GPT-4o
OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.
- Testimony before the Senate Committee on Energy and Natural Resources on “recent advances in artificial intelligence and the Department of Energy’s role in ensuring U.S. competitiveness and security in emerging technologies”
Der Auszug gibt Anna Puglisis Einschätzung wieder, dass Chinas Technologiepolitik US-Forschungslabore gefährde und Schutz nötig sei, der wissenschaftliche Freiheit wahrt und ethnisches Profiling ausschließt.
- Boosting Innovation while Regulating AI: Overview of 2023 Activities and 2024 Outlook
Die GPAI-Arbeitsgruppe will künftig untersuchen, wie KI-Regulierung Innovation und Vermarktung beeinflusst, ohne selbst Standards oder politische Empfehlungen vorzugeben.
- How Claude is uplifting biomolecular modeling
Anthropic berichtet, Claude habe über 30 Biomolekülmodelle beschleunigt und große Vorhersagen ermöglicht, wobei die größten getesteten Systeme nicht korrekt modelliert wurden.
- GPT-6 and Intelligent UI for everyone
OpenAI kündigt GPT‑6 mit interaktiven, auf die Aufgabe zugeschnittenen ChatGPT-Antworten an und berichtet über interne Verbesserungen bei Tempo und Sicherheit.
- Forecasting rare language model behaviors
- Next-generation Constitutional Classifiers
- Complete the G7 Hiroshima AI Process Reporting Framework by 15 April 2025 and join the leaders shaping AI transparency
Der Beitrag ruft KI-Entwickler zur öffentlichen Berichterstattung über Risikomanagement und Governance im Rahmen des G7 Hiroshima AI Process auf; die Frist für den ersten Zyklus war laut Text der 15. April 2025.
- Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise
Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.
- Article 2: Scope | EU Artificial Intelligence Act
Artikel 2 legt den Anwendungsbereich des EU-KI-Gesetzes samt Sonderregeln und Ausnahmen fest.
- Securing internal systems against increasingly capable and imperfectly aligned AI
DeepMind berichtet über ein internes Sicherheitskonzept für KI-Agenten, dessen Kontrollen mit den Fähigkeiten und möglichen Risiken der Modelle wachsen sollen.
- Article 51: Classification of General-Purpose AI Models as General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act
Artikel 51 knüpft die Einstufung eines allgemeinen KI-Modells als systemisches Risiko an leistungsstarke oder vergleichbar wirkungsvolle Fähigkeiten und sieht dafür unter anderem eine Trainingsschwelle von mehr als 10²⁵ Gleitkommaoperationen vor.
- Comment to NIST on the AI Risk Management Framework
CSET begrüßt Verbesserungen am NIST-KI-Risikorahmen und fordert unter anderem, KI-Interaktionen, Umweltfolgen und klare, nicht voreilig gebündelte Begriffe stärker zu berücksichtigen.
- The OECD-African Union AI Dialogue 2.0: From strategy to implementation
Der Kairoer OECD-AU-Dialog entwickelte Leitgedanken und nächste Schritte zur Umsetzung der afrikanischen KI-Strategie, darunter eine geplante Charta für vertrauenswürdige KI.
- Comment to the National Biotechnology and Biomanufacturing Initiative
Das CSET fordert mehr heimische Biomanufaktur, qualifizierte Fachkräfte, nutzbare und geschützte Forschungsdaten sowie umfassendere Biosicherheitsaufsicht, um Versorgung und Krisenreaktion der USA zu stärken.
- How the G7’s new AI reporting framework could shape the future of AI governance
Der OECD-Beitrag stellt einen freiwilligen, öffentlichen Berichtsrahmen zum Hiroshima-KI-Kodex vor, dessen erwartete Wirkung von dauerhafter Beteiligung und praktischer Weiterentwicklung abhängt.
- Accelerating scientific discovery with ChatGPT for Academic Researchers
OpenAI will Forschenden ausgewählter Hochschulen kostenlosen KI-Zugang bereitstellen und führt Nutzungszahlen sowie Beispiele als Nutzenbelege an, die im Bericht nicht unabhängig geprüft werden.
- Securing Semiconductor Supply Chains
Der Bericht plädiert für gezielte Technologiekontrollen gegenüber China und stärkere Förderung der US-amerikanischen und alliierten Halbleiterindustrie, ohne im bereitgestellten Text empirische Wirkungsnachweise auszuführen.
- Anthropic joins the 1,000 Scientist AI Jam
Anthropic zufolge soll Claude 3.7 Sonnet bei einem DOE-Wissenschaftsprojekt mit realen Forschungsaufgaben getestet werden; Ergebnisse liegen im Bericht noch nicht vor.
- Risk thresholds for frontier AI: Insights from the AI Action Summit
Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.
- Google DeepMind and Korea Partner to Accelerate Scientific Discovery
Google DeepMind kündigt geplante KI-Forschungs-, Talent- und Sicherheitskooperationen mit Südkorea an; unabhängige Belege für erwartete Wirkungen enthält die Unternehmensmitteilung nicht.
- Name it to tame it: Defining AI incidents and hazards
Die OECD schlägt gemeinsame Definitionen für tatsächliche KI-Schäden und mögliche Gefahren vor, um deren Erfassung und Prävention zu erleichtern.
- Dario Amodei — The Urgency of Interpretability
- Expanding our model safety bug bounty program
Anthropic will Forschende zunächst auf Einladung ein neues KI-Schutzsystem auf universelle Jailbreaks testen lassen; Ergebnisse nennt der Ankündigungsbericht noch nicht.
- Expanding access to Claude for government
Anthropic erweitert laut eigener Mitteilung den Behördenzugang zu Claude und erlaubt ausgewählten US-Stellen begrenzte Geheimdienstanwendungen unter fortgeltenden Richtlinien und ASL-2-Beschränkung.
- The AI Action Summit and beyond: 3 Steps to strengthen global AI collaboration
Der Bericht schlägt klare gemeinsame Ziele, inklusive Beteiligung und geeignete Gastgeber vor, um die KI-Gipfelreihe dauerhaft zu stärken; die Vorschläge sind nicht als nachgewiesene Maßnahmen ausgewiesen.
- AI safety solutions mapping: An initiative for advanced AI governance
GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.
- Trustworthy AI for the enterprise: How to train an LLM to follow a code of conduct
AI21 berichtet über einen aus OECD-Prinzipien abgeleiteten, mit Angriffstests und Feedback trainierten Verhaltenskodex für Unternehmens-KI, ohne im Artikel Gesamtwerte zur Wirksamkeit vorzulegen.
- Introducing Claude Haiku 4.5
Anthropic stellt Haiku 4.5 als schnelles, preisgünstiges Modell mit annähernder Spitzenleistung vor und berichtet über positive Sicherheitsmessungen, deren Aussagen und Testgrundlagen im Beitrag von Anthropic selbst stammen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →