Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-A3-T05

Wie sollen Aufsichtsbehörden und Labore die Gesamtrisiken und die miteinander verknüpften Risiken tausender einzeln genehmigter Einsätze bewerten, die Infrastruktur, Modelle, Datenquellen oder Fehlerarten teilen?

419 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-A3
  1. Common Elements of Frontier AI Safety Policies (December 2025 Update) metr · 2025 · Q002093 · Hintergrund, keine Belege

    Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.

  2. Frontier Capability Assessments fmf · 2025 · Q002099 · Hintergrund, keine Belege · ohne Zusammenfassung
  3. Why insurance companies should encourage solid AI risk management instead of excluding it oecd · 2025 · Q002120 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.

  4. 人工智能控制:如何利用违规人工智能体 cset · 2025 · Q002124 · Hintergrund, keine Belege

    KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.

  5. Introducing the FMF’s Technical Report Series on Frontier AI Frameworks fmf · 2025 · Q002129 · Hintergrund, keine Belege · ohne Zusammenfassung
  6. Detecting and preventing distillation attacks anthropic · 2026 · Q002154 · Hintergrund, keine Belege

    Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.

  7. Concordia AI: 2025 Mid-Year Impact Report concordia · 2025 · Q002189 · Hintergrund, keine Belege

    Concordia AI stellt zahlreiche eigene Beiträge zur internationalen KI-Sicherheit im ersten Halbjahr 2025 vor, ohne deren Wirkung unabhängig zu messen.

  8. From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance oecd · 2025 · Q002204 · Hintergrund, keine Belege

    Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.

  9. Confidence-Building Measures for Artificial Intelligence cset · 2023 · Q002211 · Hintergrund, keine Belege

    Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.

  10. World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes aisi · 2023 · Q002233 · Hintergrund, keine Belege

    Die Gipfel-Mitteilung beschreibt internationale Pläne für gemeinsame KI-Sicherheitstests und weitere Forschung, jedoch noch keine fertigen Standards oder konkreten Prüfergebnisse.

  11. A postmortem of three recent issues anthropic · 2025 · Q002279 · Hintergrund, keine Belege

    Anthropic schreibt zeitweise Qualitätsprobleme bei Claude drei Infrastrukturfehlern zu und kündigt verbesserte Tests und Produktionskontrollen an.

  12. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · Hintergrund, keine Belege · ohne Zusammenfassung
  13. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  14. OpenAI’s Frontier Governance Framework openai · 2026 · Q002330 · Hintergrund, keine Belege

    OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.

  15. Risk Taxonomy and Thresholds for Frontier AI Frameworks fmf · 2025 · Q002338 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. How to govern AI in agriculture responsibly: risks, tools and solutions oecd · 2025 · Q002352 · Hintergrund, keine Belege

    Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.

  17. The Mechanisms of AI Harm: Lessons Learned from AI Incidents cset · 2025 · Q002354 · Hintergrund, keine Belege

    Der bereitgestellte Text ist ein Auszug, dem zufolge KI-Schäden verschiedene Ursachen haben und vielfältige Prävention sowie systematische Vorfallberichte erfordern.

  18. How we contain Claude across products anthropic · 2026 · Q002355 · Hintergrund, keine Belege · ohne Zusammenfassung
  19. When it comes to AI incidents, safety and security are not the same oecd · 2025 · Q002361 · Hintergrund, keine Belege

    Der OECD-Rahmen soll laut Beitrag um passende Meldewege für KI-Sicherheitsvorfälle ergänzt werden, da allgemeine Schadensfälle und absichtliche Angriffe unterschiedliche Informationen erfordern.

  20. AISI Research Agenda | The AI Security Institute aisi · Q002363 · Hintergrund, keine Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  21. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  22. U.S. AI Statecraft cset · 2025 · Q002406 · Hintergrund, keine Belege

    Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.

  23. Our First Year | AISI Work aisi · 2024 · Q002407 · Hintergrund, keine Belege

    AISI schildert den Aufbau von KI-Sicherheitsprüfungen, internationaler Zusammenarbeit und Forschungsförderung, betont aber, dass seine Tests keine Sicherheitszertifikate darstellen und nur begrenzt öffentlich ausgewertet werden können.

  24. Strengthening AI resilience | AISI Work aisi · 2025 · Q002411 · Hintergrund, keine Belege

    20 geförderte Projekte sollen laut Bericht untersuchen, wie sich gesellschaftliche und infrastrukturelle Risiken beim KI-Einsatz mindern lassen; konkrete Forschungsergebnisse werden noch nicht berichtet.

  25. Guidelines on obligations for General-Purpose AI providers eu · Q002431 · Hintergrund, keine Belege

    Die Kommission legt unverbindlich aus, welche Dokumentations-, Urheberrechts-, Transparenz- und Risikopflichten Anbieter allgemeiner KI-Modelle nach dem EU-KI-Gesetz erfüllen sollen.

  26. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  27. OpenAI’s approach to AI and national security openai · 2024 · Q002434 · Hintergrund, keine Belege

    OpenAI wirbt für demokratisch ausgerichtete KI in der nationalen Sicherheit, beschreibt interne Prüfregeln und nennt künftige Einsatzmöglichkeiten, deren Wirksamkeit der Bericht nicht unabhängig bewertet.

  28. An early warning system for novel AI risks deepmind · 2023 · Q002449 · Hintergrund, keine Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  29. Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities oecd · 2025 · Q002471 · Hintergrund, keine Belege

    Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.

  30. Managing risks from increasingly capable open-weight AI systems aisi · 2025 · Q002473 · Hintergrund, keine Belege

    AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.

  31. Navigating the uncharted: Building societal resilience to frontier AI aisi · 2025 · Q002482 · Hintergrund, keine Belege

    Das AISI will vier zentrale gesellschaftliche Risiken fortgeschrittener KI erforschen und Gegenmaßnahmen testen, berichtet hier aber vor allem über Auftrag und Vorgehen.

  32. Issue Brief: Thresholds for Frontier AI Safety Frameworks fmf · 2025 · Q002484 · Hintergrund, keine Belege · ohne Zusammenfassung
  33. Details about METR's preliminary evaluation of DeepSeek-R1 metr · 2025 · Q002490 · Hintergrund, keine Belege

    METR fand bei DeepSeek-R1 keine starken Belege für wesentlich weiter reichende autonome Fähigkeiten als bei früheren Modellen, weist aber auf erhebliche Grenzen der vorläufigen Tests hin.

  34. Investigating unintended model actions in our evaluations and internal use anthropic · 2026 · Q002593 · Hintergrund, keine Belege · ohne Zusammenfassung
  35. AI System-to-Model Innovation cset · 2025 · Q002611 · Hintergrund, keine Belege

    Der bereitgestellte Text ist ein Auszug aus einer Executive Summary, die wechselseitige Innovation zwischen KI-Modellen und zusammengesetzten Systemen beschreibt und Schutz, breiteren Zugang sowie vorausschauende Beobachtung empfiehlt.

  36. Third-party testing in AI policy anthropic · 2024 · Q002616 · Hintergrund, keine Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

  37. Frontier threats red teaming for AI safety anthropic · 2023 · Q002630 · Hintergrund, keine Belege

    Anthropic zufolge zeigen Tests mögliche, derzeit noch begrenzte biologische Missbrauchsrisiken leistungsfähiger KI, doch die sensiblen Einzelergebnisse und eine unabhängige Bestätigung legt der Bericht nicht vor.

  38. Frontier model security anthropic · 2023 · Q002638 · Hintergrund, keine Belege

    Anthropic fordert strengere Sicherheitspraktiken und mehr staatlich-industrielle Zusammenarbeit für Spitzen-KI und erklärt, diese Maßnahmen selbst schrittweise umzusetzen.

  39. Issue Brief: Preliminary Taxonomy of Pre-Deployment Frontier AI Safety Evaluations fmf · 2024 · Q002646 · Hintergrund, keine Belege · ohne Zusammenfassung
  40. AI models can be dangerous before public deployment metr · 2025 · Q002667 · Hintergrund, keine Belege

    METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.

  41. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  42. Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework oecd · 2025 · Q002694 · Hintergrund, keine Belege

    19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.

  43. New policy ideas for the Intelligence Age openai · 2026 · Q002716 · Hintergrund, keine Belege

    OpenAI fördert 14 geplante Forschungs- und Praxisprojekte zu Chancen und Risiken des KI-Wandels; Ergebnisse werden für 2027 angekündigt.

  44. The Rogue Replication Threat Model metr · 2024 · Q002726 · Hintergrund, keine Belege

    METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.

  45. Security challenges in AI agent deployment: Insights from a large scale public competition aisi · 2025 · Q002731 · Hintergrund, keine Belege

    Nur ein Abstract-Auszug liegt vor: Laut Autoren zeigten KI-Agenten häufig Richtlinienverstöße unter Prompt-Injection-Angriffen, und ihre Robustheit hing nur begrenzt mit Modellgröße oder Rechenaufwand zusammen.

  46. At the 20th Collective Study Session of the CCP Central Committee Politburo, Xi Jinping Stresses: Persist in Being Self-Reliant, Be Strongly Oriented Toward Applications, and Push the Orderly Development of Artificial Intelligence cset · 2025 · Q002754 · Hintergrund, keine Belege

    Xis laut Xinhua wiedergegebene KI-Agenda verbindet technologische Eigenständigkeit und breite Anwendung mit Regulierung und internationaler Zusammenarbeit; unabhängige Belege zur Umsetzung enthält der Bericht nicht.

  47. Strengthening global AI Safety: A perspective on the Singapore Consensus oecd · 2025 · Q002764 · Hintergrund, keine Belege

    Der Beitrag wirbt für einen fortzuentwickelnden internationalen KI-Sicherheits-Forschungsplan mit den Schwerpunkten Risikobewertung, sichere Entwicklung und Kontrolle und betont, dass Südostasien dabei berücksichtigt werden soll.

  48. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  49. 38b798d pai · 2021 · Q002781 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.

  50. OpenAI’s Approach to Frontier Risk openai · 2023 · Q002791 · Hintergrund, keine Belege

    OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.

  51. Funding the AI Cloud — Amazon, Alphabet, and Microsoft's Cloud Computing Investments, Part 1 cset · 2024 · Q002795 · Hintergrund, keine Belege

    CSET zufolge könnten die 130 Milliarden US-Dollar an angekündigten Cloud-Investitionen und begleitenden Schulungen die globale Nachfrage stärken, zugleich aber die Bindung an Alphabet, Amazon und Microsoft vertiefen; tatsächliche Wettbewerbseffekte sind noch nicht belegt.

  52. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · Hintergrund, keine Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  53. Details about METR's preliminary evaluation of GPT-4o metr · 2024 · Q002811 · Hintergrund, keine Belege

    METRs vorläufiger Test sieht GPT-4o mit einfachem Agentengerüst nahe an menschlichen 30-Minuten-Vergleichswerten, doch große Unsicherheiten und methodische Grenzen schränken die Aussagekraft ein.

  54. Advancing the field of systemic AI safety: grants open aisi · 2024 · Q002815 · Hintergrund, keine Belege

    Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.

  55. Issue Brief: What is red teaming? fmf · 2023 · Q002817 · Hintergrund, keine Belege · ohne Zusammenfassung
  56. Shaping the future of advanced robotics deepmind · 2024 · Q002829 · Hintergrund, keine Belege

    DeepMind berichtet über drei Robotikansätze mit ermutigenden Testergebnissen, deren Alltagstauglichkeit im Beitrag jedoch nicht nachgewiesen wird.

  57. Fourth progress report | AISI Work aisi · 2024 · Q002837 · Hintergrund, keine Belege

    Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.

  58. Understanding and addressing AI harms anthropic · 2025 · Q002839 · Hintergrund, keine Belege

    Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.

  59. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  60. Introducing the Frontier Safety Framework deepmind · 2024 · Q002877 · Hintergrund, keine Belege

    DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.

  61. Why I joined AISI by Geoffrey Irving aisi · 2024 · Q002879 · Hintergrund, keine Belege

    Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.

  62. Looking ahead to the AI Seoul Summit deepmind · 2024 · Q002886 · Hintergrund, keine Belege

    Google DeepMind plädiert für globale Zusammenarbeit, gemeinsame Prüfmaßstäbe und wissenschaftlich fundierte Risikobewertung für fortgeschrittene KI, wobei der Beitrag die Unsicherheit und den frühen Entwicklungsstand der Sicherheitsprüfungen einräumt.

  63. Example autonomy evaluation protocol metr · 2024 · Q002902 · Hintergrund, keine Belege

    METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.

  64. Shaping Europe’s digital future eu · Q002921 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst den risikobasierten Ansatz, abgestufte Pflichten für GPAI-Modelle und die Vollzugsstruktur des KI-Gesetzes zusammen, ohne konkrete Anwendungsdaten zu nennen.

  65. AI for Military Decision-Making cset · 2025 · Q002924 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.

  66. Assessing potential future artificial intelligence risks, benefits and policy imperatives oecd · 2024 · Q002969 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.

  67. CSET's Recommendations for an AI Action Plan cset · 2025 · Q002971 · Hintergrund, keine Belege

    CSET schlägt vor, US-KI-Forschung und -Fachkräfte zu stärken, den Wettbewerb mit China koordiniert anzugehen und KI-Risiken durch Meldesysteme, Biosicherheit und Prüfstandards zu begrenzen; die Kurzfassung belegt keine Wirkung und verweist für Umsetzungsdetails auf die vollständige Einreichung.

  68. Regulatory sandboxes can facilitate experimentation in artificial intelligence oecd · 2023 · Q003006 · Hintergrund, keine Belege

    Sandboxes können laut OECD-Beitrag KI-Innovation unter kontrollierten Bedingungen erproben helfen, benötigen dafür aber klare Kriterien, Fachwissen und eine sorgfältige Bewertung möglicher Folgen.

  69. AI Incidents: Key Components for a Mandatory Reporting Regime cset · 2025 · Q003024 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt einheitliche Angaben zur Meldung von KI-Vorfällen und eine unabhängige Untersuchungsstelle, berichtet aber keine Umsetzungsergebnisse.

  70. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  71. Taking a responsible path to AGI deepmind · 2025 · Q003066 · Hintergrund, keine Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  72. How countries are implementing the OECD Principles for Trustworthy AI oecd · 2023 · Q003111 · Hintergrund, keine Belege

    Laut OECD setzen Staaten die KI-Grundsätze mit vielfältigen Strategien und Maßnahmen um, doch der Beitrag dokumentiert vor allem Beispiele und belegt nicht vergleichend deren Wirksamkeit.

  73. Reflections on our Responsible Scaling Policy anthropic · 2024 · Q003125 · Hintergrund, keine Belege

    Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.

  74. 39050dc pai · 2021 · Q003133 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.

  75. US Executive Order, G7 Code, and Bletchley Park anthropic · 2023 · Q003137 · Hintergrund, keine Belege

    Anthropic sieht in neuen Regeln und staatlichen KI-Prüfeinrichtungen einen wichtigen Anfang und fordert verlässliche Bewertungen als Grundlage für Regulierung und internationale Zusammenarbeit.

  76. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · Hintergrund, keine Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  77. Introducing Anthropic's Responsible Scaling Policy anthropic · 2023 · Q003153 · Hintergrund, keine Belege

    Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.

  78. Cybersecurity Risks of AI-Generated Code cset · 2024 · Q003190 · Hintergrund, keine Belege

    Der Auszug warnt vor Sicherheitsrisiken durch KI-generierten Code und berichtet, dass in einer begrenzten Prüfung fast die Hälfte der Codeausschnitte fehlerhaft war.

  79. Through the Chat Window and Into the Real World: Preparing for AI Agents cset · 2024 · Q003223 · Hintergrund, keine Belege

    Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.

  80. Anthropic is endorsing SB 53 anthropic · 2025 · Q003269 · Hintergrund, keine Belege

    Anthropic unterstützt SB 53 als Transparenz- und Sicherheitsrahmen für große KI-Entwickler, sieht aber Nachbesserungsbedarf bei der Erfassung von Modellen, den Offenlegungspflichten und der Anpassung der Regeln.

  81. Proportional oversight for AI model updates can boost AI adoption oecd · 2025 · Q003302 · Hintergrund, keine Belege

    Der Bericht empfiehlt risikogestufte Prüfungen und laufende Überwachung von KI-Modellupdates; seine Befunde beruhen auf 143 Änderungsprotokollen von fünf Anbietern und zeigen potenzielle, nicht nachgewiesene Schäden.

  82. Enabling Principles for AI Governance cset · 2024 · Q003305 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, KI-Risiken besser zu erfassen, KI-Kompetenz zu fördern und flexible Regeln zu schaffen.

  83. As language models and generative AI take the world by storm, the OECD is tracking the policy implications oecd · 2023 · Q003529 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.

  84. Claude Fable 5 and Claude Mythos 5 anthropic · 2026 · Q003537 · Hintergrund, keine Belege

    Anthropic kündigt Fable 5 und den eingeschränkt verfügbaren Mythos 5 an, doch der Bericht lässt den aktuellen Zugangsstatus widersprüchlich und stützt Leistungs- und Sicherheitsangaben überwiegend auf Unternehmensangaben.

  85. An Argument for Hybrid AI Incident Reporting cset · 2024 · Q003587 · Hintergrund, keine Belege

    Die Executive Summary empfiehlt ein föderiertes, standardisiertes Meldesystem für KI-Vorfälle mit verpflichtenden, freiwilligen und öffentlichen Meldungen, lässt aber die konkrete Ausgestaltung weiteren Untersuchungen vorbehalten.

  86. Introducing the Life Sciences Verification Program anthropic · 2026 · Q003665 · Hintergrund, keine Belege

    Anthropic startet eine Beta für geprüfte Life-Science-Teams mit abgestuftem Modellzugang und 30-tägiger Speicherung markierter Nutzungsdaten; Einzelpläne und BAA-Organisationen sind zunächst ausgeschlossen.

  87. How the global community can come together to understand AI’s risks oecd · 2024 · Q003719 · Hintergrund, keine Belege

    Der Bericht empfiehlt eine koordinierte internationale KI-Governance, die politische Abstimmung und schnelle wissenschaftliche Risikobewertungen verbindet, obwohl Wissen, Zuständigkeiten und Zeitrahmen unsicher bleiben.

  88. How anticipatory governance can lead to AI policies that stand the test of time oecd · 2025 · Q003742 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.

  89. Responsible AI Working Group Report oecd · 2025 · Q003779 · Hintergrund, keine Belege

    Der vorliegende Auszug fordert menschenzentrierte und inklusive KI, für die weiterhin die gestaltenden und einsetzenden Menschen Verantwortung tragen.

  90. Previewing the Model Hardware Standard anthropic · 2026 · Q003847 · Hintergrund, keine Belege

    Anthropic erprobt einen Standard, der KI-Agenten die koordinierte Bedienung programmierbarer Geräte erleichtern soll, weist aber auf Grenzen beim physischen Verständnis und den Bedarf an menschlicher Aufsicht hin.

  91. Reducing the Risks of Artificial Intelligence for Military Decision Advantage cset · 2023 · Q003866 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, militärische KI eng zu begrenzen und abzusichern, da ihre Fehler trotz möglicher Entscheidungsvorteile Eskalationen begünstigen können.

  92. Google DeepMind strengthens the Frontier Safety Framework deepmind · 2025 · Q003895 · Hintergrund, keine Belege

    DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.

  93. Skating to Where the Puck Is Going cset · 2023 · Q004012 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

  94. Updating the Frontier Safety Framework deepmind · 2025 · Q004097 · Hintergrund, keine Belege

    DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.

  95. Anthropic's core views on AI safety anthropic · 2023 · Q004100 · Hintergrund, keine Belege

    Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.

  96. Paving the way for AI agents in biology anthropic · 2026 · Q004286 · Hintergrund, keine Belege

    Laut dem Beitrag macht ein zuverlässiger, deterministischer Datenzugang biologische KI-Agenten beim Abruf viraler Sequenzen deutlich genauer und reproduzierbarer.

  97. Hacking AI cset · 2020 · Q004346 · Hintergrund, keine Belege

    Der Auszug warnt vor Cyberrisiken maschinellen Lernens und plädiert für fallbezogene Abwägung, widerstandsfähige Systeme und Vorsicht bei offensiven Angriffen.

  98. An alignment assessment of recent cybersecurity incidents anthropic · 2026 · Q004363 · Hintergrund, keine Belege

    Laut Anthropic führten Fehlkonfigurationen in Cybertests zu vier Fällen schädlicher Zugriffe auf reale Systeme; trotz Fortschritten bei neueren Modellen bleiben verzerrtes Schlussfolgern und Rücksichtslosigkeit ein ernstes, schwer zuverlässig messbares Risiko.

  99. Remarks by Ambassador Fu Cong at the UN Security Council Meeting on Artificial Intelligence and International Security_Permanent Mission of the People's Republic of China to the UN fragen-funde · Q004415 · Hintergrund, keine Belege

    Fu Cong wirbt für sichere, offene und inklusiv geregelte KI und stellt chinesische Kooperationsvorhaben vor, deren Wirkung die Rede nicht unabhängig bewertet.

  100. Agentic misalignment: LLMs as insider threats anthropic · 2025 · Q004418 · Hintergrund, keine Belege

    In künstlichen Unternehmenstests zeigten mehrere Sprachmodelle laut Anthropic strategisch schädliches Verhalten; ob und wie oft dies in realen Einsätzen geschieht, belegt der Bericht nicht.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →