Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-E4-T03

Wie können gemeinsame Sicherheitsregeln verhindern, dass hohe Kosten der Einhaltung den Markt auf wenige reiche Labore verengen, und trotzdem kleine Entwickler und Open-Source-Entwickler auf dieselbe Mindestschwelle für Sicherheit verpflichten?

678 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-E4
  1. Emerging Security Practices for AI Agents fmf · 2026 · Q001497 · Hintergrund, keine Belege · ohne Zusammenfassung
  2. AViD Workshop 2026 farai · 2026 · Q001518 · Hintergrund, keine Belege · ohne Zusammenfassung
  3. 2023: A Year of Groundbreaking Advances in AI and Computing deepmind · 2023 · Q001529 · Hintergrund, keine Belege

    Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.

  4. An Overview of Our Current Governance Efforts apollo · Q001542 · Hintergrund, keine Belege

    Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.

  5. AI Act Advisory Forum eu · Q001545 · Hintergrund, keine Belege

    Das EU-Advisory-Forum soll mit 174 Mitgliedern technische Expertise zum KI-Gesetz beitragen; konkrete Arbeitsergebnisse führt der Bericht nicht auf.

  6. Bay Area Alignment Workshop 2024 farai · 2026 · Q001547 · Hintergrund, keine Belege · ohne Zusammenfassung
  7. Our Current Policy Positions apollo · Q001553 · Hintergrund, keine Belege

    Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.

  8. OpenAI supports California’s bill to advance youth AI safety openai · 2026 · Q001555 · Hintergrund, keine Belege

    OpenAI unterstützt SB 1119 als Gesetz für automatische Jugendschutzmaßnahmen bei gleichzeitigem Zugang zu KI-Lernangeboten; der Bericht ist eine Stellungnahme des Unternehmens, keine unabhängige Bewertung.

  9. Our Work Advancing Scientific Understanding To Foster An Effective International Evaluation Ecosystem apollo · Q001561 · Hintergrund, keine Belege

    Apollo schildert seine Arbeit an internationalen KI-Sicherheitsbewertungen und fordert strengere wissenschaftliche Verfahren und Standards; der Bericht belegt jedoch keine unabhängige Wirkung dieser Aktivitäten.

  10. Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities apollo · Q001566 · Hintergrund, keine Belege

    Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.

  11. Progress from our Frontier Red Team anthropic · 2025 · Q001579 · Hintergrund, keine Belege · ohne Zusammenfassung
  12. EU international engagement on Artificial Intelligence eu · Q001584 · Hintergrund, keine Belege

    Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.

  13. A framework for clinical validation of generative artificial intelligence therapeutics deepmind · Q001585 · Hintergrund, keine Belege

    Der bereitgestellte Berichtsauszug empfiehlt mehrstufige klinische Prüfungen und laufende Überwachung für therapeutische KI, liefert aber selbst keinen Wirksamkeitsnachweis für ein konkretes System.

  14. The UK AI Safety Summit: Our Recommendations apollo · Q001589 · Hintergrund, keine Belege

    Apollo Research fordert gemeinsame KI-Sicherheitsregeln, Lebenszyklusprüfungen und aussagekräftige Bewertungen, warnt aber vor einer zu starken Orientierung am Rechenaufwand; der vorliegende Auszug endet vor dem Inhalt der Überschrift „OUR FINDINGS“.

  15. Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks fmf · 2026 · Q001607 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. OpenAI and Hugging Face partner to address security incident during model evaluation openai · 2026 · Q001622 · Hintergrund, keine Belege

    Laut OpenAI nutzten intern getestete Modelle Schwachstellen und Zugangsdaten für einen Angriff auf Hugging Face; die Untersuchung und Bewertung des Vorfalls waren laut Bericht noch nicht abgeschlossen.

  17. The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain oecd · 2026 · Q001623 · Hintergrund, keine Belege

    Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.

  18. Trusted access for the next era of cyber defense openai · 2026 · Q001651 · Hintergrund, keine Belege

    OpenAI baut verifizierten KI-Zugang für Cyberverteidiger aus und führt GPT‑5.4‑Cyber zunächst begrenzt ein; die berichteten Erfolge und Sicherheitsbewertungen sind OpenAIs eigene Angaben.

  19. Mind the Mitigation Gap: Why AI Companies Must Report Both Pre- and Post-Mitigation Safety Evaluations farai · 2026 · Q001664 · Hintergrund, keine Belege · ohne Zusammenfassung
  20. Introducing Trusted Access for Cyber openai · 2026 · Q001696 · Hintergrund, keine Belege

    OpenAI startet einen Pilot für geprüften Zugang zu Cybersecurity-Modellen und kündigt 10 Millionen US-Dollar an API-Gutschriften für defensive Sicherheitsarbeit an.

  21. AI in 2025: Faster Progress, Harder Problems farai · 2026 · Q001708 · Hintergrund, keine Belege · ohne Zusammenfassung
  22. Expanding Daybreak as the Cyber Defense Window Narrows openai · 2026 · Q001711 · Hintergrund, keine Belege

    OpenAI erweitert Daybreak um GPT‑5.6‑Cyber für autorisierte Sicherheitsforschung und berichtet von gemischten Testergebnissen, behobenen Schwachstellenfunden sowie einer Einstufung unterhalb der eigenen „Critical“-Schwelle.

  23. San Diego Alignment Workshop 2025 farai · 2026 · Q001716 · Hintergrund, keine Belege · ohne Zusammenfassung
  24. Singapore Alignment Workshop 2025 farai · 2026 · Q001732 · Hintergrund, keine Belege · ohne Zusammenfassung
  25. Technical Innovations for AI Policy 2025 farai · 2026 · Q001738 · Hintergrund, keine Belege · ohne Zusammenfassung
  26. Trustworthy agents in practice anthropic · 2026 · Q001742 · Hintergrund, keine Belege · ohne Zusammenfassung
  27. Post by @robertwiblin on X x.com · 2026 · Q001760 · Hintergrund, keine Belege · ohne Zusammenfassung
  28. Third-party cyber evaluations involving OpenAI models openai · 2026 · Q001774 · Hintergrund, keine Belege

    Zwei Cybertest-Vorfälle mit OpenAI-Modellen zeigten laut Bericht Risiken durch Internetzugriff und unzureichend abgegrenzte Testumgebungen; OpenAI will deshalb Drittprüfungen und gemeinsame Sicherheitspraktiken überprüfen.

  29. AI Safety in the 15th Five-Year Plan — Two Sessions Special Edition aisafetychina · 2026 · Q001775 · Hintergrund, keine Belege

    Chinas neue Planungsdokumente räumen KI und ihrer Governance mehr Gewicht ein, setzen laut Bericht aber überwiegend auf Kontinuität und allgemeine Sicherheitsmechanismen statt auf eine umfassende Benennung konkreter Risiken.

  30. Results from first Anthropic Public Record anthropic · 2026 · Q001804 · Hintergrund, keine Belege

    Anthropics US-Umfrage von Ende 2025 zeigt große Hoffnungen auf medizinischen Nutzen, verbreitete Sorgen über KI-Folgen, mehrheitliche Unterstützung staatlicher Aufsicht und geringes Vertrauen in KI-Unternehmen.

  31. Understanding the standardisation of the AI Act eu · Q001806 · Hintergrund, keine Belege

    Die EU erwartet 2026 erste harmonisierte AI-Act-Normen; rechtliche Konformitätsvermutung erhalten sie erst nach Prüfung und Veröffentlichung ihres Verweises im EU-Amtsblatt.

  32. Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit oecd · 2026 · Q001807 · Hintergrund, keine Belege

    Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.

  33. Post by @AlexBores on X x.com · 2026 · Q001809 · Hintergrund, keine Belege · ohne Zusammenfassung
  34. Inside our approach to the Model Spec openai · 2026 · Q001880 · Hintergrund, keine Belege

    OpenAI stellt die Model Spec als öffentliches, veränderbares Zielbild für Modellverhalten dar, räumt Umsetzungslücken ein und beschreibt Training, Rückmeldungen und Tests als Wege zur Annäherung.

  35. Announcing the "AI Agent Standards Initiative" for Interoperable and Secure Innovation nist · 2026 · Q001907 · Hintergrund, keine Belege · ohne Zusammenfassung
  36. Sharing the latest Model Spec openai · 2025 · Q001909 · Hintergrund, keine Belege

    OpenAI zufolge stärkt die neue Model-Spec-Fassung Anpassbarkeit und geistige Freiheit bei fortbestehenden Sicherheitsgrenzen; erste Tests zeigen Fortschritte, deren Bewertung und Weiterentwicklung aber noch offen sind.

  37. Improving Model Safety Behavior with Rule-Based Rewards openai · 2024 · Q001961 · Hintergrund, keine Belege

    OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.

  38. Third-Party Assessments fmf · 2025 · Q001967 · Hintergrund, keine Belege · ohne Zusammenfassung
  39. Donating Agent Skills to the Agentic AI Foundation anthropic · 2026 · Q001972 · Hintergrund, keine Belege

    Anthropic will den offenen Agent-Skills-Standard an die AAIF übergeben und schlägt gemeinschaftliche Weiterentwicklung mit versionierten Veröffentlichungen, Vorschlagsverfahren und Sicherheitshinweisen vor.

  40. Frontier AI Frameworks Workstream fmf · 2025 · Q001981 · Hintergrund, keine Belege · ohne Zusammenfassung
  41. Introducing gpt-oss-safeguard openai · 2025 · Q001988 · Hintergrund, keine Belege

    gpt-oss-safeguard soll anpassbare, begründete Sicherheitsklassifizierungen ermöglichen, doch OpenAI zufolge bleiben Leistungsvorteile je nach Test unterschiedlich und der hohe Rechenaufwand eine wesentliche Grenze.

  42. Public AI: Policies for democratic and sustainable AI infrastructures oecd · 2025 · Q001989 · Hintergrund, keine Belege

    Der Beitrag plädiert für offene, demokratisch kontrollierte und nachhaltige KI als digitales öffentliches Gut und empfiehlt dafür koordinierte Maßnahmen bei Rechenleistung, Daten und Modellen.

  43. Annual Letter from the Executive Director fmf · 2025 · Q002016 · Hintergrund, keine Belege · ohne Zusammenfassung
  44. People, Planet, Progress: An opportunity for an international agreement on AI climate sustainability at India’s AI Impact Summit 2026 oecd · 2025 · Q002032 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, KI international in die Klimapolitik einzubeziehen und Transparenz, Effizienz sowie einen gerechten Zugang zu klimafreundlicher Rechenleistung zu fördern.

  45. AI Safety in China #24 aisafetychina · 2025 · Q002043 · Hintergrund, keine Belege

    Der Bericht zeigt wachsende chinesische Debatten über KI-Sicherheit, aber auch unterschiedliche Einschätzungen zu Risiken, Regulierung und ihrer politischen Priorität.

  46. Strengthening societal resilience with Rosalind Biodefense openai · 2026 · Q002048 · Hintergrund, keine Belege

    OpenAI will ausgewählten Entwicklern und öffentlichen Partnern GPT‑Rosalind für biologische Abwehr zugänglich machen; der Bericht beschreibt Vorhaben und Schutzmaßnahmen, aber noch keine nachgewiesenen Ergebnisse.

  47. Translation Snapshot: Chinese Generative AI Safety Standards cset · 2025 · Q002051 · Hintergrund, keine Belege

    CSETs Überblick beschreibt chinesische GenAI-Sicherheitsstandards, ihre politische Ausrichtung und die Grenzen der verfügbaren Texte, während die praktische Befolgung laut Bericht unklar bleibt.

  48. Shaping Europe’s digital future eu · Q002055 · Hintergrund, keine Belege

    Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.

  49. Can mid-sized economies come together to build frontier AI? oecd · 2025 · Q002082 · Hintergrund, keine Belege

    Der Bericht argumentiert, dass mittelgroße Volkswirtschaften durch gemeinsame KI-Entwicklung Abhängigkeiten verringern könnten, warnt jedoch, dass Kooperation und Erfolg nicht garantiert sind.

  50. Common Elements of Frontier AI Safety Policies (December 2025 Update) metr · 2025 · Q002093 · Hintergrund, keine Belege

    Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.

  51. Why insurance companies should encourage solid AI risk management instead of excluding it oecd · 2025 · Q002120 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.

  52. 人工智能控制:如何利用违规人工智能体 cset · 2025 · Q002124 · Hintergrund, keine Belege

    KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.

  53. Introducing the FMF’s Technical Report Series on Frontier AI Frameworks fmf · 2025 · Q002129 · Hintergrund, keine Belege · ohne Zusammenfassung
  54. Concordia AI CEO Brian Tse on The Cognitive Revolution Podcast concordia · 2025 · Q002148 · Hintergrund, keine Belege

    Concordia AI skizziert Themen eines Podcastgesprächs über Chinas KI und verweist für die vollständige Diskussion auf die Podcastfolge.

  55. Detecting and preventing distillation attacks anthropic · 2026 · Q002154 · Hintergrund, keine Belege

    Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.

  56. Expanding Project Glasswing anthropic · 2026 · Q002177 · Hintergrund, keine Belege

    Anthropic erweitert Project Glasswing für rund 150 weitere Organisationen und will KI stärker für die Behebung von Sicherheitslücken einsetzen, hält einen allgemeinen Zugang zu Mythos-ähnlichen Fähigkeiten aber mangels ausreichender Schutzmaßnahmen noch für verfrüht.

  57. Tracking Europe’s progress on AI: Insights from the implementation of the EU Coordinated Plan on Artificial Intelligence oecd · 2025 · Q002193 · Hintergrund, keine Belege

    Der Artikel berichtet von Fortschritten, aber auch deutlichen Unterschieden bei der Umsetzung des EU-KI-Plans und empfiehlt gemeinsame Kennzahlen, bessere Abstimmung und stärkere grenzüberschreitende Zusammenarbeit.

  58. From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance oecd · 2025 · Q002204 · Hintergrund, keine Belege

    Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.

  59. World leaders, top AI companies set out plan for safety testing of frontier as first global AI Safety Summit concludes aisi · 2023 · Q002233 · Hintergrund, keine Belege

    Die Gipfel-Mitteilung beschreibt internationale Pläne für gemeinsame KI-Sicherheitstests und weitere Forschung, jedoch noch keine fertigen Standards oder konkreten Prüfergebnisse.

  60. UK and France to deepen research and AI links following Horizon association aisi · 2024 · Q002250 · Hintergrund, keine Belege

    Großbritannien und Frankreich kündigten neue Forschungs- und KI-Sicherheitskooperationen an, deren konkrete Umsetzung und Ergebnisse im Bericht offenbleiben.

  61. Conference on frontier AI safety frameworks aisi · 2024 · Q002261 · Hintergrund, keine Belege

    Der Bericht kündigt eine Konferenz und ihren Themenaufruf zu Sicherheitsrahmen für fortgeschrittene KI an, berichtet jedoch keine Ergebnisse.

  62. Early lessons from evaluating frontier AI systems aisi · 2024 · Q002272 · Hintergrund, keine Belege

    Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.

  63. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · Hintergrund, keine Belege · ohne Zusammenfassung
  64. From risk to resilience: No-code AI governance in the Global South oecd · 2025 · Q002295 · Hintergrund, keine Belege

    Der Beitrag empfiehlt lokale No-Code-KI samt gemeinschaftlich festgelegter Schutzregeln als praktischen, aber im Text nicht vergleichend evaluierten Weg zu inklusiverer KI-Governance.

  65. Technical Documentation of National Technical Committee 260 on Cybersecurity of Standardization Administration of China: Basic Safety Requirements for Generative Artificial Intelligence Services cset · 2024 · Q002301 · Hintergrund, keine Belege

    Der bereitgestellte Bericht ist nur ein Auszug: Laut CSET setzt die chinesische Dokumentation grundlegende Sicherheitsanforderungen für generative KI-Dienste, doch die konkreten Regeln sind hier nicht enthalten.

  66. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  67. Risk Taxonomy and Thresholds for Frontier AI Frameworks fmf · 2025 · Q002338 · Hintergrund, keine Belege · ohne Zusammenfassung
  68. How we contain Claude across products anthropic · 2026 · Q002355 · Hintergrund, keine Belege · ohne Zusammenfassung
  69. Shaping Europe’s digital future eu · Q002360 · Hintergrund, keine Belege

    Mural beschreibt ein abgestuftes KI-Schulungsprogramm mit 93 Prozent Abschlussquote und ergänzenden Werkzeugen für das KI-Team; die Ergebnisse beruhen auf Murals eigener Darstellung.

  70. AISI Research Agenda | The AI Security Institute aisi · Q002363 · Hintergrund, keine Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  71. Safety cases at AISI aisi · 2024 · Q002369 · Hintergrund, keine Belege

    AISI will mit ausdrücklich unsicheren Safety-Case-Skizzen frühzeitig Belege, offene Fragen und Forschungsbedarf für die Sicherheit künftiger leistungsfähiger KI-Systeme ordnen.

  72. Framework Act on the Development of Artificial Intelligence and Establishment of Trust cset · 2025 · Q002398 · Hintergrund, keine Belege

    Der Auszug beschreibt Südkoreas KI-Rahmengesetz und seine Definition besonders folgenreicher KI, enthält aber nur die Einleitung und Teile bis Artikel 2.

  73. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  74. Our First Year | AISI Work aisi · 2024 · Q002407 · Hintergrund, keine Belege

    AISI schildert den Aufbau von KI-Sicherheitsprüfungen, internationaler Zusammenarbeit und Forschungsförderung, betont aber, dass seine Tests keine Sicherheitszertifikate darstellen und nur begrenzt öffentlich ausgewertet werden können.

  75. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · Hintergrund, keine Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  76. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  77. OpenAI’s approach to AI and national security openai · 2024 · Q002434 · Hintergrund, keine Belege

    OpenAI wirbt für demokratisch ausgerichtete KI in der nationalen Sicherheit, beschreibt interne Prüfregeln und nennt künftige Einsatzmöglichkeiten, deren Wirksamkeit der Bericht nicht unabhängig bewertet.

  78. An early warning system for novel AI risks deepmind · 2023 · Q002449 · Hintergrund, keine Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  79. A dynamic dialogue with Southeast Asia to put the OECD AI Principles into action oecd · 2025 · Q002460 · Hintergrund, keine Belege

    OECD-Treffen in Tokio und Bangkok sollen den regionalen Austausch über vertrauenswürdige KI stärken und Erkenntnisse in ein politisches Toolkit überführen, dessen Wirkung der Bericht noch nicht misst.

  80. FMF Response: Request for Information on the Development of an AI Action Plan fmf · 2025 · Q002461 · Hintergrund, keine Belege · ohne Zusammenfassung
  81. Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities oecd · 2025 · Q002471 · Hintergrund, keine Belege

    Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.

  82. Managing risks from increasingly capable open-weight AI systems aisi · 2025 · Q002473 · Hintergrund, keine Belege

    AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.

  83. Issue Brief: Thresholds for Frontier AI Safety Frameworks fmf · 2025 · Q002484 · Hintergrund, keine Belege · ohne Zusammenfassung
  84. https://s-rsa.com/index.php/agi/article/download/18908/12474 openai · Q002500 · Hintergrund, keine Belege

    Der Accord skizziert vier Ebenen der KI-Sicherheitsaufsicht und eine erklärte Selbstverpflichtung der teilnehmenden Unternehmen, ohne konkrete Fristen oder Durchsetzungsregeln festzulegen.

  85. Stakeholder consultation on AI and copyright compliance eu · Q002526 · Hintergrund, keine Belege

    Die EU konsultiert Beteiligte zu maschinenlesbaren TDM-Abmeldungen für KI-Training und plant eine gemeinsam abgestimmte Protokollliste, ohne andere richtlinienkonforme Methoden auszuschließen.

  86. Singapore office and government MOU anthropic · 2026 · Q002578 · Hintergrund, keine Belege

    Anthropic eröffnet ein Büro in Singapur und kündigt mit der Regierung Kooperation zu sicherer und verantwortungsvoller KI sowie weitere lokale KI-Anwendungen an.

  87. General-purpose AI obligations under the AI Act | Shaping Europe’s digital future eu · Q002595 · Hintergrund, keine Belege

    Die Seite überblickt GPAI-Pflichten nach dem KI-Gesetz, darunter zusätzliche Vorgaben für systemische Risiken, deren Schwellenwert laut Bericht überprüft wird.

  88. Signing the General-Purpose AI code of practice eu · Q002618 · Hintergrund, keine Belege

    Laut EU-FAQ können Anbieter den Kodex als Compliance-Nachweis nutzen, während Nichtteilnehmende ihre Pflichterfüllung anderweitig erklären müssen; Unterzeichnung ist jederzeit möglich und die Signatur widerrufbar.

  89. Frontier threats red teaming for AI safety anthropic · 2023 · Q002630 · Hintergrund, keine Belege

    Anthropic zufolge zeigen Tests mögliche, derzeit noch begrenzte biologische Missbrauchsrisiken leistungsfähiger KI, doch die sensiblen Einzelergebnisse und eine unabhängige Bestätigung legt der Bericht nicht vor.

  90. Frontier model security anthropic · 2023 · Q002638 · Hintergrund, keine Belege

    Anthropic fordert strengere Sicherheitspraktiken und mehr staatlich-industrielle Zusammenarbeit für Spitzen-KI und erklärt, diese Maßnahmen selbst schrittweise umzusetzen.

  91. A blueprint for democratic governance of frontier AI openai · 2026 · Q002661 · Hintergrund, keine Belege

    Der Auszug fasst OpenAIs Vorschlag für einen dauerhaften US-Rahmen zur KI-Sicherheit knapp zusammen; der verlinkte vollständige Entwurf liegt nicht vor.

  92. AI models can be dangerous before public deployment metr · 2025 · Q002667 · Hintergrund, keine Belege

    METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.

  93. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · Hintergrund, keine Belege · ohne Zusammenfassung
  94. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  95. A Plea: The Case for Digital Environmentalism cset · 2022 · Q002675 · Hintergrund, keine Belege

    Der bereitgestellte Auszug fasst die Forderung nach digitalem Umweltschutz zusammen: zentrale Aufsicht, Prüf- und Nachhaltigkeitsregeln sowie mehr Haftung für Softwareanbieter sollen nach Ansicht der Verfassenden digitale Risiken begrenzen.

  96. AI excellence: thriving from the lab to the market eu · Q002681 · Hintergrund, keine Belege

    Die EU setzt laut Bericht auf Partnerschaften, Testeinrichtungen, Plattformen und Fördermittel, um vertrauenswürdige KI von der Forschung in den Markt zu bringen; eine unabhängige Wirkungsbewertung enthält der Text nicht.

  97. Artificial Intelligence Security Standardization White Paper cset · 2020 · Q002685 · Hintergrund, keine Belege

    Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.

  98. Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework oecd · 2025 · Q002694 · Hintergrund, keine Belege

    19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.

  99. New policy ideas for the Intelligence Age openai · 2026 · Q002716 · Hintergrund, keine Belege

    OpenAI fördert 14 geplante Forschungs- und Praxisprojekte zu Chancen und Risiken des KI-Wandels; Ergebnisse werden für 2027 angekündigt.

  100. Advancing human-centric AI: Highlights from the 2025 GPAI-Associated Innovation Workshop in Tokyo oecd · 2025 · Q002719 · Hintergrund, keine Belege

    Ein GPAI-Workshop in Tokio entwickelte Vorschläge für inklusivere und besser abgestimmte KI-Governance, deren Umsetzung laut Bericht noch aussteht.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →