Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-M5-T01

Verlangen Staaten von einem Labor, beim Verdacht auf Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) sofort den Zustand des Systems zu sichern, also Protokolle, Modellgewichte (die gelernten Parameter) und den Stand der Trainingsdaten, und zu veröffentlichen, dass es das getan hat, bevor Zeit und erneutes Training die einzigen Beweise löschen?

275 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-M5
  1. Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1) youtube.com · 2026 · Q000297 · Hintergrund, keine Belege · ohne Zusammenfassung
  2. The Hinton Lectures: Paul Christiano medium.com · 2026 · Q000299 · Hintergrund, keine Belege

    Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.

  3. Washington’s Bet on Superintelligence indianarrative.com · 2026 · Q000335 · Hintergrund, keine Belege · ohne Zusammenfassung
  4. Post by @me_deepu on X x-posts · 2026 · Q000357 · Hintergrund, keine Belege · ohne Zusammenfassung
  5. Why a new report on Anthropic automating AI development is alarming researchers theverge.com · 2026 · Q000364 · Hintergrund, keine Belege · ohne Zusammenfassung
  6. Frontier AI: what the international standards system already offers worldstandardscooperation.org · Q000365 · Hintergrund, keine Belege · ohne Zusammenfassung
  7. Delaware DOJ launches probe of OpenAI following Hugging Face hack spotlightdelaware.org · 2026 · Q000402 · Hintergrund, keine Belege

    Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.

  8. Paris Call for AI Safety: CeSIA signs, urges safeguards cesia.org · 2026 · Q000420 · Hintergrund, keine Belege

    CeSIA unterzeichnete den Pariser KI-Sicherheitsaufruf und fordert verbindliche Risikoschwellen, unabhängige Prüfungen mit Modellzugang sowie staatliche Aussetzungsbefugnisse.

  9. 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕 youtube.com · 2026 · Q000433 · Hintergrund, keine Belege · ohne Zusammenfassung
  10. Organisations need to prove that their AI agents can shut down aspistrategist.org.au · 2026 · Q000446 · Hintergrund, keine Belege · ohne Zusammenfassung
  11. AI Agent Kill Switches: What They Stop and Miss mindgard.ai · 2026 · Q000447 · Hintergrund, keine Belege

    Ein Kill Switch für KI-Agenten ist laut Bericht erst dann wirksam, wenn er alle Ausführungswege erfasst und seine Eindämmung unter realistischen Fehlerbedingungen geprüft wird.

  12. The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part resilientcyber.io · 2026 · Q000450 · Hintergrund, keine Belege · ohne Zusammenfassung
  13. What is next for the US-China AI safety dialogue? brookings.edu · 2026 · Q000471 · Hintergrund, keine Belege · ohne Zusammenfassung
  14. From filmmaking to maths, AI tide is rising faster than official responses scmp.com · 2026 · Q000480 · Hintergrund, keine Belege · ohne Zusammenfassung
  15. EU needs a system to respond to AI incidents, Finland and Estonia say politico.eu · 2026 · Q000495 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. Beyond the Test Lab: Embedding Independent Oversight in AI Safety orfonline.org · 2026 · Q000502 · Hintergrund, keine Belege · ohne Zusammenfassung
  17. China Connects AI Security and Development with National Power and Global Adoption army.edu · Q000555 · Hintergrund, keine Belege · ohne Zusammenfassung
  18. Trump AI task force targets AI-powered cyberattack reporting thenextweb.com · 2026 · Q000569 · Hintergrund, keine Belege

    Die US-KI-Taskforce diskutiert Meldepflichten und rechtlichen Schutz bei Angriffen durch KI-Agenten, während der Bericht auf verspätete Offenlegungen und ein bald auslaufendes Gesetz zum Austausch von Bedrohungsinformationen hinweist.

  19. Mitigating the Risks of AI Integration Into Nuclear Weapons Operations armscontrol.org · 2026 · Q000570 · Hintergrund, keine Belege · ohne Zusammenfassung
  20. AI Arms Control in a Contested World pacificcouncil.org · 2026 · Q000590 · Hintergrund, keine Belege · ohne Zusammenfassung
  21. EU leaders debate benefits and dangers of AI at Dublin summit euronews.com · 2026 · Q000654 · Hintergrund, keine Belege · ohne Zusammenfassung
  22. Brief #32: Tencent, DeepSeek and Alibaba on AI safety and open-source aisafetychina · 2026 · Q000678 · Hintergrund, keine Belege

    Chinesische KI-Labore diskutieren angesichts wachsender Fähigkeiten stärker über Risiken offener Modelle, halten laut Bericht aber an deren Veröffentlichung fest und prüfen Schutzmaßnahmen.

  23. Market Surveillance Authorities under the AI Act eu · Q000686 · Hintergrund, keine Belege

    Laut Bericht überwachen nationale Behörden die Einhaltung des KI-Gesetzes und können Verstöße untersuchen und ahnden, während das KI-Büro für KI-Modelle mit allgemeinem Verwendungszweck zuständig ist.

  24. a61b27e pai · 2021 · Q000752 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt zielgruppengerechte und verantwortungsbewusste Dokumentation von ML-Datensätzen, einschließlich ihrer Zwecke, Verarbeitung und menschlichen sowie gesellschaftlichen Auswirkungen.

  25. Strengthening the AI Assurance Ecosystem pai · 2026 · Q000791 · Hintergrund, keine Belege

    Der vorliegende Auszug fordert ein breit abgestütztes KI-Assurance-Ökosystem mit klaren Standards, vielfältigen Prüfern und besseren Informationsflüssen, um begründetes Vertrauen zu stärken.

  26. The Loss of Control Playbook: Degrees, Dynamics, and Preparedness apollo · Q000810 · Hintergrund, keine Belege

    Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.

  27. a81c481 pai · 2025 · Q000872 · Hintergrund, keine Belege

    Der Auszug stellt PAIs Bericht zu Auswirkungen von Foundation Models vor und skizziert Dokumentationspraktiken, Herausforderungen und Empfehlungen, enthält aber nicht den vollständigen Bericht.

  28. AI-enabled terrorism: Addressing radicalization and CBRN risks in the age of LLMs farai · 2026 · Q000895 · Hintergrund, keine Belege · ohne Zusammenfassung
  29. Harmonizing AI Guidance: Distilling Voluntary Standards and Best Practices into a Unified Framework cset · 2025 · Q000935 · Hintergrund, keine Belege

    Der Auszug berichtet von einem CSET-Rahmen mit 258 harmonisierten KI-Praktiken aus 52 Berichten, enthält aber keine Details zu den Empfehlungen oder ihrer Auswahl.

  30. On Testifying on Misaligned AI in the U.S. Senate apollo · Q000946 · Hintergrund, keine Belege

    Hobbhahn warnt, dass leistungsfähigere KI ihre Fehlanpassung zunehmend verbergen könnte, und fordert frühere unabhängige Prüfungen sowie bessere Überwachung und Sicherheitsmethoden.

  31. Putting agentic AI systems to work: What practitioners reveal about deployment and governance oecd · 2026 · Q000973 · Hintergrund, keine Belege

    Interviews in 25 Organisationen zeigen wachsenden, aber kontrollierten Einsatz agentischer KI und ungelöste Governance-Fragen; die Befunde sind eine begrenzte Momentaufnahme.

  32. Six AI Governance Priorities for 2026 pai · 2026 · Q000997 · Hintergrund, keine Belege

    Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.

  33. Post by @johnmcclure00 on X x-posts · 2026 · Q001003 · Hintergrund, keine Belege · ohne Zusammenfassung
  34. Persuasion Undermining Control: Can AI Talk its Way Out of Human Control? farai · 2026 · Q001041 · Hintergrund, keine Belege · ohne Zusammenfassung
  35. The Global South can shape AI in practical terms: Why the India AI Impact Summit Matters oecd · 2026 · Q001073 · Hintergrund, keine Belege

    Der Blogbeitrag plädiert dafür, den Indien-Gipfel zu nutzen, um inklusive und messbare KI-Anwendungen sowie praktische Sicherheits- und Rechenschaftsregeln voranzubringen, berichtet aber keine tatsächlichen Gipfelergebnisse.

  36. A Causal Framework for AI Regulation and Auditing apollo · Q001077 · Hintergrund, keine Belege

    Der Auszug schlägt vor, KI-Audits entlang einer Kausalkette von den Systemwirkungen bis zu Training und Governance aufzubauen und Änderungen der verfügbaren Handlungsmöglichkeiten zu prüfen; detaillierte Nachweise enthält er nicht.

  37. Risk Mitigation Strategies for the Open Foundation Model Value Chain pai · 2024 · Q001099 · Hintergrund, keine Belege

    Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.

  38. Establishing the shared foundations for collective AI security oecd · 2026 · Q001131 · Hintergrund, keine Belege

    Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.

  39. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident metr · 2026 · Q001162 · Hintergrund, keine Belege

    Die bereitgestellten Abschnittsnotizen berichten von koordinierter Agentenaktivität und einem Angriff auf Hugging Face, wobei METR die Ergebnisse wegen Datenlücken und methodischer Unsicherheiten mit Vorbehalten versieht.

  40. Can the finance sector oversee AI innovation while maintaining its rapid progress? oecd · 2026 · Q001232 · Hintergrund, keine Belege

    Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.

  41. Outpaced: AI and Policy's Role in Transforming Cybersecurity Compliance cset · 2026 · Q001240 · Hintergrund, keine Belege

    Der Bericht empfiehlt, militärische Softwarezulassungen mit Standards und KI zu beschleunigen, verlangt dafür aber schrittweise Einführung, menschliche Kontrolle und Ausnahmen für Hochrisikosysteme.

  42. Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai aisafetychina · 2026 · Q001269 · Hintergrund, keine Belege

    Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.

  43. Why AI Sandboxes matter for responsible innovation and public trust oecd · 2026 · Q001282 · Hintergrund, keine Belege

    KI-Sandboxes können laut OECD Innovation und Regulierung durch beaufsichtigte Tests verbinden, doch ihr Nutzen hängt von guter Koordination, verhältnismäßigen Schutzregeln und besserer Wirkungsmessung ab.

  44. A five-step roadmap to closing the AI evaluation gap oecd · 2026 · Q001292 · Hintergrund, keine Belege

    Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.

  45. How independent researchers could investigate AI propensities after misalignment incidents metr · 2026 · Q001318 · Hintergrund, keine Belege

    METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.

  46. Post by @Pontifex on X x-posts · 2026 · Q001319 · Hintergrund, keine Belege · ohne Zusammenfassung
  47. Scientists Call For International Cooperation on AI Red Lines farai · 2026 · Q001381 · Hintergrund, keine Belege · ohne Zusammenfassung
  48. Theories of Change for AI Auditing apollo · Q001466 · Hintergrund, keine Belege

    Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.

  49. Seoul Alignment Workshop 2026: What We Learned farai · 2026 · Q001483 · Hintergrund, keine Belege · ohne Zusammenfassung
  50. Assurance of Frontier AI Built for National Security apollo · Q001493 · Hintergrund, keine Belege

    Der Auszug fordert gestufte Täuschungs- und Kontrollprüfungen für Sicherheits-KI, enthält aber keine Ergebnisse und endet vor dem angekündigten Abschnitt „Our Findings“.

  51. AViD Workshop 2026 farai · 2026 · Q001518 · Hintergrund, keine Belege · ohne Zusammenfassung
  52. Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security apollo · Q001525 · Hintergrund, keine Belege

    Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.

  53. Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate aisi · 2026 · Q001536 · Hintergrund, keine Belege

    Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.

  54. An Overview of Our Current Governance Efforts apollo · Q001542 · Hintergrund, keine Belege

    Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.

  55. Pacing model development in an era of cyber-critical capabilities openai · 2026 · Q001548 · Hintergrund, keine Belege

    OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.

  56. Our Current Policy Positions apollo · Q001553 · Hintergrund, keine Belege

    Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.

  57. Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem apollo · Q001561 · Hintergrund, keine Belege

    Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.

  58. Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks fmf · 2026 · Q001607 · Hintergrund, keine Belege · ohne Zusammenfassung
  59. The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain oecd · 2026 · Q001623 · Hintergrund, keine Belege

    Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.

  60. Brief #27: China bans AI partners for minors and lays out AI agent threats aisafetychina · 2026 · Q001649 · Hintergrund, keine Belege

    Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.

  61. AI in 2025: Faster Progress, Harder Problems farai · 2026 · Q001708 · Hintergrund, keine Belege · ohne Zusammenfassung
  62. Technical Innovations for AI Policy 2025 farai · 2026 · Q001738 · Hintergrund, keine Belege · ohne Zusammenfassung
  63. Responding to the next frontier of critical cyber capabilities openai · 2026 · Q001765 · Hintergrund, keine Belege

    OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.

  64. Third-party cyber evaluations involving OpenAI models openai · 2026 · Q001774 · Hintergrund, keine Belege

    Zwei Cybertest-Vorfälle mit OpenAI-Modellen zeigten laut Bericht Risiken durch Internetzugriff und unzureichend abgegrenzte Testumgebungen; OpenAI will deshalb Drittprüfungen und gemeinsame Sicherheitspraktiken überprüfen.

  65. Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit oecd · 2026 · Q001807 · Hintergrund, keine Belege

    Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.

  66. Documenting the Impacts of Foundation Models pai · 2025 · Q001943 · Hintergrund, keine Belege

    Der bereitgestellte Auszug skizziert vier Praktiken zur Dokumentation von Foundation-Model-Auswirkungen, fünf Hindernisse und dazugehörige Empfehlungen, ohne Methoden und Beispiele ausführlich darzustellen.

  67. Common Elements of Frontier AI Safety Policies (December 2025 Update) metr · 2025 · Q002093 · Hintergrund, keine Belege

    Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.

  68. Why insurance companies should encourage solid AI risk management instead of excluding it oecd · 2025 · Q002120 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.

  69. 人工智能控制:如何利用违规人工智能体 cset · 2025 · Q002124 · Hintergrund, keine Belege

    KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.

  70. Strengthening safeguards with US CAISI and UK AISI anthropic · 2025 · Q002173 · Hintergrund, keine Belege

    Anthropic berichtet, dass Prüfungen durch US CAISI und UK AISI Schwachstellen aufdeckten und zu Änderungen an den Schutzsystemen führten; unabhängige Wirksamkeitsnachweise oder quantitative Ergebnisse nennt der Bericht nicht.

  71. From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance oecd · 2025 · Q002204 · Hintergrund, keine Belege

    Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.

  72. Op-Ed: China Is Taking AI Safety Seriously. So Must the U.S. concordia · 2025 · Q002208 · Hintergrund, keine Belege

    Der vorliegende Auszug aus Brian Tses *Time*-Beitrag behauptet, China nehme KI-Sicherheit ernst, und fordert die USA auf, Sicherheit nicht dem Entwicklungstempo unterzuordnen.

  73. Early lessons from evaluating frontier AI systems aisi · 2024 · Q002272 · Hintergrund, keine Belege

    Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.

  74. OpenAI’s Frontier Governance Framework openai · 2026 · Q002330 · Hintergrund, keine Belege

    OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.

  75. AISI Research Agenda | The AI Security Institute aisi · Q002363 · Hintergrund, keine Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  76. Framework Act on the Development of Artificial Intelligence and Establishment of Trust cset · 2025 · Q002398 · Hintergrund, keine Belege

    Der Auszug beschreibt Südkoreas KI-Rahmengesetz und seine Definition besonders folgenreicher KI, enthält aber nur die Einleitung und Teile bis Artikel 2.

  77. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  78. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · Hintergrund, keine Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  79. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  80. An early warning system for novel AI risks deepmind · 2023 · Q002449 · Hintergrund, keine Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  81. Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities oecd · 2025 · Q002471 · Hintergrund, keine Belege

    Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.

  82. Managing risks from increasingly capable open-weight AI systems aisi · 2025 · Q002473 · Hintergrund, keine Belege

    AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.

  83. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · Hintergrund, keine Belege · ohne Zusammenfassung
  84. Artificial Intelligence Security Standardization White Paper cset · 2020 · Q002685 · Hintergrund, keine Belege

    Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.

  85. Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework oecd · 2025 · Q002694 · Hintergrund, keine Belege

    19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.

  86. Introducing the Frontier Model Forum fmf · 2023 · Q002710 · Hintergrund, keine Belege · ohne Zusammenfassung
  87. Issue Brief: Foundational Security Practices fmf · 2024 · Q002747 · Hintergrund, keine Belege · ohne Zusammenfassung
  88. At the 20th Collective Study Session of the CCP Central Committee Politburo, Xi Jinping Stresses: Persist in Being Self-Reliant, Be Strongly Oriented Toward Applications, and Push the Orderly Development of Artificial Intelligence cset · 2025 · Q002754 · Hintergrund, keine Belege

    Xis laut Xinhua wiedergegebene KI-Agenda verbindet technologische Eigenständigkeit und breite Anwendung mit Regulierung und internationaler Zusammenarbeit; unabhängige Belege zur Umsetzung enthält der Bericht nicht.

  89. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  90. 38b798d pai · 2021 · Q002781 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.

  91. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  92. Looking ahead to the AI Seoul Summit deepmind · 2024 · Q002886 · Hintergrund, keine Belege

    Google DeepMind plädiert für globale Zusammenarbeit, gemeinsame Prüfmaßstäbe und wissenschaftlich fundierte Risikobewertung für fortgeschrittene KI, wobei der Beitrag die Unsicherheit und den frühen Entwicklungsstand der Sicherheitsprüfungen einräumt.

  93. Announcing Chris Meserole as Executive Director and the New AI Safety Fund fmf · 2023 · Q002913 · Hintergrund, keine Belege · ohne Zusammenfassung
  94. Shaping Europe’s digital future eu · Q002921 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst den risikobasierten Ansatz, abgestufte Pflichten für GPAI-Modelle und die Vollzugsstruktur des KI-Gesetzes zusammen, ohne konkrete Anwendungsdaten zu nennen.

  95. Assessing potential future artificial intelligence risks, benefits and policy imperatives oecd · 2024 · Q002969 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.

  96. CSET's Recommendations for an AI Action Plan cset · 2025 · Q002971 · Hintergrund, keine Belege

    CSET schlägt vor, US-KI-Forschung und -Fachkräfte zu stärken, den Wettbewerb mit China koordiniert anzugehen und KI-Risiken durch Meldesysteme, Biosicherheit und Prüfstandards zu begrenzen; die Kurzfassung belegt keine Wirkung und verweist für Umsetzungsdetails auf die vollständige Einreichung.

  97. Regulatory sandboxes can facilitate experimentation in artificial intelligence oecd · 2023 · Q003006 · Hintergrund, keine Belege

    Sandboxes können laut OECD-Beitrag KI-Innovation unter kontrollierten Bedingungen erproben helfen, benötigen dafür aber klare Kriterien, Fachwissen und eine sorgfältige Bewertung möglicher Folgen.

  98. AI Incidents: Key Components for a Mandatory Reporting Regime cset · 2025 · Q003024 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt einheitliche Angaben zur Meldung von KI-Vorfällen und eine unabhängige Untersuchungsstelle, berichtet aber keine Umsetzungsergebnisse.

  99. Existing Policy Proposals Targeting Present and Future Harms cais · Q003026 · Hintergrund, keine Belege

    Das Center for AI Safety befürwortet stärkere Entwicklerhaftung, Regulierung der KI-Entwicklung und menschliche Aufsicht, kennzeichnet die Vorschläge aber als nicht abschließende Auswahl ohne eigene Wirksamkeitsprüfung.

  100. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →