- Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution
- How employment is changing at Anthropic
- Operationalizing AI Guidance: A Reference Guide for Translating High-Level Goals into Practical Implementation
Der vorliegende Auszug stellt einen CSET-Leitfaden vor, der Erkenntnisse aus über 1.200 Quellen in praktische Schritte für die KI-Einführung überführt.
- Artificial Intelligence in Health
Die EU-Kommission skizziert Infrastruktur, Regeln und Förderprogramme für KI im Gesundheitswesen, bewertet deren klinische Wirkung jedoch nicht systematisch.
- AI Safety in the 15th Five-Year Plan — Two Sessions Special Edition
Chinas neue Planungsdokumente räumen KI und ihrer Governance mehr Gewicht ein, setzen laut Bericht aber überwiegend auf Kontinuität und allgemeine Sicherheitsmechanismen statt auf eine umfassende Benennung konkreter Risiken.
- Results from first Anthropic Public Record
Anthropics US-Umfrage von Ende 2025 zeigt große Hoffnungen auf medizinischen Nutzen, verbreitete Sorgen über KI-Folgen, mehrheitliche Unterstützung staatlicher Aufsicht und geringes Vertrauen in KI-Unternehmen.
- Concordia AI 2025 Impact Highlights
Der bereitgestellte Auszug fasst Concordia AI’s selbstberichtete Arbeit zu KI-Governance, Biosicherheit, öffentlicher Information und Organisationswachstum im Jahr 2025 zusammen.
- Post by @ITU on X
- We spent 2 hours working in the future
Ein kleines METR-Planspiel deutet darauf hin, dass sehr leistungsfähige Agenten die Umsetzung beschleunigen könnten, während menschliche Prüfung, Feedback und Organisation zum Engpass werden; der geschätzte Produktivitätsgewinn von drei- bis fünffach ist ausdrücklich unsicher.
- Announcing the Partnership on AI to Benefit People & Society
Die 2016 angekündigte Partnerschaft soll den offenen, ethischen Austausch über KI fördern; der Beitrag nennt Absichten, aber keine späteren Ergebnisse.
- Announcing the "AI Agent Standards Initiative" for Interoperable and Secure Innovation
- Boundary Point Jailbreaking of Black-Box LLMs
Der Auszug beschreibt BPJ als automatisierten Black-Box-Jailbreak und berichtet von behaupteten Angriffserfolgen, weist aber auf viele markierte Optimierungsanfragen als mögliche Erkennungsspur hin.
- Practical challenges of control monitoring in frontier AI deployments
Nur der Abstract liegt vor: Er skizziert Herausforderungen und drei Arten der Überwachung von KI-Agenten, nennt aber keine konkreten Ergebnisse.
- Jailbreak-Tuning: Models Efficiently Learn Jailbreak Susceptibility
- Multi-Agent Risks from Advanced AI
- NIST Launches Centers for AI in Manufacturing and Critical Infrastructure
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- Shaping Europe’s digital future
Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.
- The Singapore Consensus on Global AI Safety Research Priorities
- Facing the stakes of AI together: The Seventh Edition of the Athens Roundtable on AI and the Rule of Law
Der angekündigte Roundtable soll internationale Zusammenarbeit zur KI-Governance stärken, doch der Bericht schildert Ziele und Programm statt Veranstaltungsergebnisse.
- ABOUT ML Reference Document
Der vorliegende Auszug skizziert den Zweck des ABOUT-ML-Referenzdokuments und gibt rollenbezogene Leseempfehlungen, ohne Ergebnisse oder Wirksamkeit zu belegen.
- Examining backdoor data poisoning at scale
Laut dem Berichtsauszug konnten in Tests bereits wenige manipulierte Dokumente KI-Modelle verschiedener Größen vergiften; die vollständigen Versuchsinformationen fehlen hier.
- Claude Gov models for US national security
Anthropic kündigt spezialisierte Claude-Modelle für eingestufte US-Sicherheitsumgebungen an, deren behauptete Vorteile der Bericht ohne Leistungskennzahlen belegt.
- SweetSpecter: China-linked cyber activity
OpenAI zufolge versuchte die mutmaßliche Gruppe SweetSpecter, Phishing und ChatGPT für Cyberaktivitäten einzusetzen, doch die E-Mails wurden blockiert und der KI-Einsatz brachte offenbar keine neuartigen Fähigkeiten.
- AI Governance at the Frontier
Der Auszug empfiehlt, gemeinsame und strittige Annahmen hinter KI-Governance-Vorschlägen systematisch zu prüfen; die meisten der fünf betrachteten US-bezogenen Vorschläge betonen Fachkräfte und Rahmenwerke, doch über wirksame Risikominderung bestehe kein Konsens.
- National Standard of the People's Republic of China: Cybersecurity Technology - Generative Artificial Intelligence Data Annotation Safety Specifications (Draft for Feedback)
Der Auszug stellt einen chinesischen Entwurf zu Sicherheitsregeln für GenAI-Datenannotation vor, enthält aber außer Geltungsbereich und ersten Definitionen keine detaillierten Vorschriften.
- Discovering when an agent is present in a system
Die Autoren schlagen eine kausale Definition und experimentelle Verfahren zur Entdeckung von Agenten vor und berichten über verbesserte Sicherheitsanalysen, während der Blogbeitrag selbst nur wenige Ergebnisdetails nennt.
- How to govern AI in agriculture responsibly: risks, tools and solutions
Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.
- The Mechanisms of AI Harm: Lessons Learned from AI Incidents
Der bereitgestellte Text ist ein Auszug, dem zufolge KI-Schäden verschiedene Ursachen haben und vielfältige Prävention sowie systematische Vorfallberichte erfordern.
- Shaping Europe’s digital future
Mural beschreibt ein abgestuftes KI-Schulungsprogramm mit 93 Prozent Abschlussquote und ergänzenden Werkzeugen für das KI-Team; die Ergebnisse beruhen auf Murals eigener Darstellung.
- Strengthening AI resilience | AISI Work
20 geförderte Projekte sollen laut Bericht untersuchen, wie sich gesellschaftliche und infrastrukturelle Risiken beim KI-Einsatz mindern lassen; konkrete Forschungsergebnisse werden noch nicht berichtet.
- OpenSky Data Systems | Shaping Europe’s digital future
OpenSky berichtet über ein internes und kundengerichtetes KI-Schulungsprogramm mit positiven Kennzahlen, aber auch ungleichmäßiger Beteiligung und nicht näher erläuterten Messgrundlagen.
- Developing reliable AI tools for healthcare
CoDoC soll KI und klinische Einschätzung bei medizinischen Bildern passend kombinieren; die berichteten Vorteile stammen aus theoretischen Auswertungen historischer, de-identifizierter Daten, nicht aus dem klinischen Alltag.
- CyberAv3ngers: Iran-linked cyber research activity
OpenAI berichtet von gesperrten, mutmaßlich CyberAv3ngers zugehörigen Konten und bewertet deren KI-Nutzung als begrenzte Unterstützung ohne neue Fähigkeiten.
- Operation “Peer Review”: AI-assisted surveillance planning
OpenAI sperrte eine wahrscheinlich aus China stammende Kontengruppe, die ChatGPT unter anderem für die Arbeit an einem angeblichen Überwachungswerkzeug nutzte; dessen Einsatz und Wirkung blieben laut Bericht weitgehend ungeklärt.
- Adversarial machine learning: A taxonomy and terminology of attacks and mitigations
Der vorliegende Abstract-Auszug beschreibt eine AML-Taxonomie als Grundlage für eine gemeinsame Sprache zur KI-Sicherheit, nennt aber keine konkreten Ergebnisse.
- Deep ignorance: Filtering pretraining data builds tamper-resistant safeguards into open-weight LLMs
Der vorliegende Abstract-Auszug berichtet, dass gefilterte Trainingsdaten offene Modelle widerstandsfähiger gegen bestimmte Angriffe machen können, Kontextinformationen aber weiterhin gefährliches Wissen nutzbar machen.
- AI excellence: thriving from the lab to the market
Die EU setzt laut Bericht auf Partnerschaften, Testeinrichtungen, Plattformen und Fördermittel, um vertrauenswürdige KI von der Forschung in den Markt zu bringen; eine unabhängige Wirkungsbewertung enthält der Text nicht.
- Evaluating explanations: An explanatory virtues framework for mechanistic interpretability
Nur der Abstract liegt vor: Die Autor:innen schlagen ein vierperspektivisches Bewertungsrahmenwerk für Erklärungen neuronaler Netze vor und halten „Compact Proofs“ für vielversprechend.
- STACK: Adversarial attacks on LLM safeguard pipelines
Der bereitgestellte Auszug enthält nur den Abstract: Er berichtet von einem Klassifikator mit null Prozent Angriffserfolg auf ClearHarm und von STACK-Angriffserfolgen von 71 beziehungsweise 33 Prozent.
- High-level expert group on artificial intelligence
Die AI HLEG prägte laut Bericht mit Leitlinien, Empfehlungen und einer Selbstbewertungs-Checkliste den KI-Ansatz der Kommission; konkrete Umsetzungsergebnisse werden nicht ausgewiesen.
- 042b51c
Nur ein Glossarauszug: Er erläutert Begriffe aus KI, Datenschutz und Organisationspraxis, aber keine Methoden oder Ergebnisse des übergeordneten Berichts.
- Amazon and Meta join the Frontier Model Forum to promote AI safety
- Advancing the field of systemic AI safety: grants open
Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.
- FMF Joins USAISI Consortium as a Founding Member
- Advancing Claude in healthcare and the life sciences
Anthropic kündigt neue Claude-Funktionen für Gesundheitswesen und Biowissenschaften an; die Vorteile werden im Bericht vor allem als Unternehmensangaben und mögliche Anwendungen dargestellt.
- Assessing potential future artificial intelligence risks, benefits and policy imperatives
Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.
- e47f4ec - Partnership on AI
Der vorliegende kurze Auszug stellt ABOUT ML als PAI-Projekt für mehr Transparenz und Dokumentation im Lebenszyklus von ML-Systemen vor und nennt voreingenommene Daten als mögliches Fairnessrisiko.
- Governing with artificial intelligence: Are governments ready?
Die OECD-Zusammenfassung sieht in KI Chancen für Verwaltung und öffentliche Dienste, fordert aber klare Strategien, Kompetenzen, Schutzregeln und Zusammenarbeit, um Risiken wie Verzerrung, Intransparenz und Datenschutzprobleme zu begrenzen.
- Key Concepts in AI Safety: An Overview
Der bereitgestellte Auszug beschreibt drei technische Bereiche der KI-Sicherheit – Robustheit, Assurance und Spezifikation – und grenzt sie von nicht behandelten Einführungsfragen ab.
- AI Incident Collection: An Observational Study of the Great AI Experiment
Nur ein Seitenauszug: Laut CSET beschreibt der Explainer Kriterien und Zielkonflikte bei verpflichtender, freiwilliger oder bürgerschaftlicher Meldung von KI-Vorfällen.
- dcdd795
Der Auszug stellt ABOUT ML als offenen, kontextbezogenen Prozess zur Förderung von Transparenz durch ML-Dokumentation vor, ohne konkrete Evaluationsergebnisse zu nennen.
- 208230f
Der bereitgestellte Auszug warnt, dass demografische Datenerhebung und Fairnessmessung marginalisierte Gruppen überwachen, falsch darstellen oder bestehende Ungleichheiten festigen können, und empfiehlt gemeinschaftsorientierte, transparente Ansätze.
- abd4c48
Der Auszug warnt, dass verzerrte und uneinheitliche Strafjustizdaten Risikobewertungen unzuverlässig machen können, und fordert bessere Messung sowie überprüfbare, lokal passende Korrekturen.
- AI and Biorisk: An Explainer
Der Textausschnitt fordert, KI-bezogene und bereits bestehende biologische Risiken gemeinsam zu betrachten und Schutzmaßnahmen sowie Aufsichtsregeln gezielter zu gestalten.
- How anticipatory governance can lead to AI policies that stand the test of time
Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.
- Doppel’s AI defense system stops attacks before they spread
Doppel zufolge senkt ein KI-gestütztes System für Phishing- und Imitationsabwehr den Analystenaufwand um 80 Prozent und verkürzt Reaktionen auf Minuten, doch der Bericht legt keine unabhängige Überprüfung oder Messmethodik vor.
- a7cc0e2 - Partnership on AI
Der Berichtsauszug empfiehlt Schulungen und transparente, überprüfbare Governance für gerichtliche Risikobewertungsinstrumente; welche Schulungen am besten wirken, sei noch zu erforschen.
- Previewing the Model Hardware Standard
Anthropic erprobt einen Standard, der KI-Agenten die koordinierte Bedienung programmierbarer Geräte erleichtern soll, weist aber auf Grenzen beim physischen Verständnis und den Bedarf an menschlicher Aufsicht hin.
- 89c575f
Der Auszug zufolge sind heutige Risikobewertungen laut der überwiegenden Mehrheit der konsultierten Fachleute keine ausreichende Grundlage für Inhaftierung ohne individuelle Anhörung.
- Reducing the Risks of Artificial Intelligence for Military Decision Advantage
Der vorliegende Auszug empfiehlt, militärische KI eng zu begrenzen und abzusichern, da ihre Fehler trotz möglicher Entscheidungsvorteile Eskalationen begünstigen können.
- LegalOn halves Codex costs while maintaining development speed
LegalOn berichtet von rund 65 Prozent weniger geschätzten täglichen Codex-Kosten bei beibehaltener Entwicklungsgeschwindigkeit; die Messung des Kundennutzens pro KI-finanzierter Funktionsveröffentlichung ist noch in Arbeit.
- Compute trends across three eras of machine learning
Epoch AI berichtet von stark wachsendem Trainingsaufwand und schlägt drei Entwicklungsphasen vor, weist aber auf erhebliche Datenlücken und unsichere Abgrenzungen hin.
- Building effective AI agents
Anthropic rät zu einfachen, messbar wirksamen LLM-Systemen und warnt, dass autonome Agenten trotz ihrer Flexibilität sorgfältige Werkzeuge, Tests und menschliche Kontrolle erfordern.
- Confidential Inference via trusted VMs
Der Beitrag beschreibt einen frühen, noch mit technischen Lücken behafteten Ansatz, sensible KI-Daten während der Inferenz durch Verschlüsselung und einen überprüfbaren Loader zu schützen.
- The persona selection model
- The Podcast: Episode 6: AI for everyone
Der vorliegende Auszug stellt eine DeepMind-Podcastfolge zu KI und Ethik samt Gästen und weiterführenden Links vor, gibt aber das Gespräch selbst nicht wieder.
- How CRED is tapping AI to deliver premium customer experiences
CRED setzt laut Bericht KI für Kundenservice und interne Abläufe ein und meldet frühe Verbesserungen, deren Messgrundlage nicht näher beschrieben wird.
- Article 14: Human Oversight | EU Artificial Intelligence Act
Artikel 14 verlangt laut Bericht wirksame, risikogerechte menschliche Aufsicht über Hochrisiko-KI, einschließlich der Möglichkeit, Ergebnisse zu übergehen und das System sicher anzuhalten.
- Article 2: Scope | EU Artificial Intelligence Act
Artikel 2 legt den Anwendungsbereich des EU-KI-Gesetzes samt Sonderregeln und Ausnahmen fest.
- Comment to NIST on the AI Risk Management Framework
CSET begrüßt Verbesserungen am NIST-KI-Risikorahmen und fordert unter anderem, KI-Interaktionen, Umweltfolgen und klare, nicht voreilig gebündelte Begriffe stärker zu berücksichtigen.
- Name it to tame it: Defining AI incidents and hazards
Die OECD schlägt gemeinsame Definitionen für tatsächliche KI-Schäden und mögliche Gefahren vor, um deren Erfassung und Prävention zu erleichtern.
- Article 34, the Digital Services Act (DSA)
- 关键信息基础设施安全保护条例_信息产业(含电信)_中国政府网
- Hugging Face
DeepSeek-V4-Pro-0813 übertrifft laut Bericht die Vorschauversion in den aufgeführten Benchmarks, doch andere Modellvergleiche sind gemischt und die Resultate werden nicht unabhängig belegt.
- Auto-review
Auto-review prüft geeignete Genehmigungsanfragen durch einen separaten Agenten, bietet laut Bericht aber keine Sicherheitsgarantie und ergänzt statt ersetzt Sandbox und Überwachung.
- A collective effort for accountability in AI governance: The Sixth Edition of the Athens Roundtable on AI and the Rule of Law
Der Beitrag kündigt einen Roundtable zu globaler KI-Rechenschaftspflicht an und beschreibt dessen Ziele, berichtet aber nicht über Ergebnisse.
- Maximising the impact of our breakthroughs
DeepMind schildert mögliche Vorteile seiner KI-Anwendungen und betont verantwortungsvolle Entwicklung, stützt die Nutzenbehauptungen im Beitrag aber nur mit Beispielen.
- Apple Intelligence Foundation Language Models
Der Auszug stellt Apples Geräte- und Servermodelle für Apple Intelligence vor, enthält aber keine konkreten Evaluationsergebnisse oder den vollständigen Bericht.
- Anthropic raises $124 million Series A
Anthropic meldet eine Series-A-Finanzierung über 124 Millionen US-Dollar für Forschung an sichereren und besser steuerbaren KI-Systemen.
- Specific versus general principles for Constitutional AI
- A general language assistant as a lab for alignment
Nur das Abstract liegt vor: Es berichtet Vorteile einfacher Ausrichtungseingriffe bei größeren Modellen und bessere Skalierung gerankter Präferenzmodelle gegenüber Imitationslernen, ohne konkrete Messwerte zu nennen.
- Anthropic Pays $500K to Lure Professors and Founders Into AI Safety
Anthropic wirbt laut Bericht erfahrene Fachleute mit einer flexiblen, gut vergüteten Vollzeit-Residency für KI-Sicherheitsforschung an; Ergebnisse zur Wirksamkeit des Programms werden nicht vorgelegt.
- How AI Agents Are Learning to Rewrite Their Own Stack
Der Auszug stellt Verfahren vor, mit denen KI-Agenten ihre Skills anhand von Ausführungserfahrungen verbessern sollen; der vollständige Bericht liegt hier nicht vor.
- Trusted Partners
Der Bericht fordert ein umfassendes Verständnis menschlicher, technischer und situativer Faktoren, damit militärische KI-Systeme angemessen vertrauenswürdig eingesetzt werden können.
- Post by @OpenAI on X
- Artificial intelligence in health still needs human intelligence
KI kann die Gesundheitsversorgung unterstützen, doch laut OECD sind gute Daten, menschliche Kontrolle und verantwortliche Regeln entscheidend.
- Evolving with innovation: The 2024 OECD AI Principles update
Die OECD-Grundsätze sollen Länder bei einer abgestimmten, aber anpassbaren KI-Regulierung unterstützen; laut Beitrag hängt ihre Wirkung von der nationalen Umsetzung ab.
- AI Safety, Security, and Stability Among Great Powers: Options, Challenges, and Lessons Learned for Pragmatic Engagement
Der Auszug plädiert für pragmatischen Austausch zur Verringerung von KI-Risiken, weist aber auf den Zielkonflikt hin, dass Kooperation zugleich militärische Fähigkeiten verbessern könnte.
- New AI technologies can perpetuate old biases: some examples in the United States
Der OECD-Beitrag zufolge kann KI Ungleichheiten verstärken oder mit klaren Schutzmaßnahmen verringern; dafür seien faire Entwicklung, menschliche Kontrolle und verständliche Erklärungen nötig.
- Why policymakers worldwide must prioritise security for AI
Der Beitrag fordert, KI-Sicherheit wegen vielfältiger Angriffsrisiken stärker in Regulierung und Praxis zu verankern, räumt aber ein, dass Abwehr schwierig bleibt.
- Poison in the Well
Der bereitgestellte Auszug warnt laut Autor vor schwer erkennbaren Manipulationen an ML-Werkzeugen, Modellen und Datensätzen und empfiehlt staatliche Maßnahmen zur Erkennung und Verringerung dieser Lieferkettenrisiken.
- Making AI Work for Cyber Defense
Der bereitgestellte Auszug empfiehlt, ML-Cyberabwehr gegen Angriffe abzusichern und zugleich ihre Abhängigkeiten und den Zielkonflikt zwischen Genauigkeit und Robustheit zu steuern.
- Andrew Lohn's Testimony before House of Representatives Science, Space and Technology Subcommittees
Andrew Lohn warnt vor Sicherheitsrisiken durch die offene KI-Lieferkette und empfiehlt vertrauenswürdige Ressourcen, Prüfungen, Komponentenübersichten und KI-Fachleute für staatliche Sicherheitsteams.
- For disabilities and designated groups, the Digital Services and Market Acts may complement AI and data policies to ensure algorithmic safety and accountability
Laut Bericht könnten DSA und DMA zusammen mit KI-, Daten- und Barrierefreiheitsregeln den Schutz von Menschen mit Behinderungen vor Plattform- und Algorithmusrisiken stärken, ihre Wirkung ist jedoch nicht abschließend belegt.
- Information Security Technology-Security Specification and Assessment Methods for Machine Learning Algorithms
Nur ein Auszug: Der chinesische Standardentwurf soll die Sicherheit von ML-Algorithmen adressieren, doch konkrete Vorgaben und Bewertungsmethoden sind im Text nicht enthalten.
- AI capabilities progress has sped up
Der überholte Bericht meldet beschleunigte ECI- und METR-Benchmarkfortschritte, ohne eine Ursache dafür zu belegen.
- Comment on NIST Draft Standards for Reliable, Robust, and Trustworthy Artificial Intelligence
Der vorliegende Auszug aus CSETs Stellungnahme empfiehlt Grundlagenforschung und ein nationales NIST-Testfeld, um Standards für vertrauenswürdige KI zu entwickeln.
- Preparing the U.S. Economy for an AI Future Through Wise Policy Choices
Matheny plädiert für KI-Forschung, internationale Fachkräfte und stärkere Halbleiterfertigung als Grundlagen US-amerikanischer Wettbewerbsfähigkeit; die Quelle ist eine Stellungnahme, keine systematische Wirkungsanalyse.
- Tools for trustworthy AI: A framework to compare implementation tools for trustworthy AI systems
Der Abstract-Auszug beschreibt einen Rahmen, der den Vergleich von Werkzeugen zur Umsetzung der OECD-KI-Prinzipien unterstützen und als Grundlage für eine öffentliche Datenbank dienen soll.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →