Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-A2-T02

Welcher gemeinsame Notmechanismus könnte verteilte Agentennetze und kritische automatisierte Dienste anhalten, drosseln oder abschalten, ohne einem einzelnen Akteur die alleinige Kontrolle zu geben?

170 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-A2
  1. China’s key AI safety updates at WAIC, from President Xi to cybersecurity aisafetychina · 2026 · Q001320 · Hintergrund, keine Belege

    Der Bericht sieht in Xis Sicherheitsforderungen, einer konkreten chinesischen Erklärung zu KI-Risiken und der Gründung von WAICO Hinweise auf Chinas wachsende Rolle in der KI-Governance, wobei wichtige Details und internationale Zustimmung teils offenbleiben.

  2. NOLA Alignment Workshop 2023 farai · 2026 · Q001362 · Hintergrund, keine Belege · ohne Zusammenfassung
  3. Machines, Bureaucracies, and Markets as Artificial Intelligences cset · 2022 · Q001451 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.

  4. Theories of Change for AI Auditing apollo · Q001466 · Hintergrund, keine Belege

    Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.

  5. AI Behind Closed Doors: a Primer on The Governance of Internal Deployment apollo · Q001475 · Hintergrund, keine Belege

    Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.

  6. Emerging Security Practices for AI Agents fmf · 2026 · Q001497 · Hintergrund, keine Belege · ohne Zusammenfassung
  7. Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security apollo · Q001525 · Hintergrund, keine Belege

    Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.

  8. Pacing model development in an era of cyber-critical capabilities openai · 2026 · Q001548 · Hintergrund, keine Belege

    OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.

  9. Apollo’s product vision apollo · Q001599 · Hintergrund, keine Belege

    Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.

  10. Brief #27: China bans AI partners for minors and lays out AI agent threats aisafetychina · 2026 · Q001649 · Hintergrund, keine Belege

    Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.

  11. London Alignment Workshop 2026 farai · 2026 · Q001650 · Hintergrund, keine Belege · ohne Zusammenfassung
  12. Technical Innovations for AI Policy 2025 farai · 2026 · Q001738 · Hintergrund, keine Belege · ohne Zusammenfassung
  13. AI Safety in the 15th Five-Year Plan — Two Sessions Special Edition aisafetychina · 2026 · Q001775 · Hintergrund, keine Belege

    Chinas neue Planungsdokumente räumen KI und ihrer Governance mehr Gewicht ein, setzen laut Bericht aber überwiegend auf Kontinuität und allgemeine Sicherheitsmechanismen statt auf eine umfassende Benennung konkreter Risiken.

  14. Post by @AlexBores on X x.com · 2026 · Q001809 · Hintergrund, keine Belege · ohne Zusammenfassung
  15. Anthropic, PBC - S-1 (Q2) fragen-funde · Q001846 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. Anthropic, PBC sec.gov · Q001847 · Hintergrund, keine Belege · ohne Zusammenfassung
  17. Anthropic, PBC sec.gov · Q001848 · Hintergrund, keine Belege · ohne Zusammenfassung
  18. Public AI: Policies for democratic and sustainable AI infrastructures oecd · 2025 · Q001989 · Hintergrund, keine Belege

    Der Beitrag plädiert für offene, demokratisch kontrollierte und nachhaltige KI als digitales öffentliches Gut und empfiehlt dafür koordinierte Maßnahmen bei Rechenleistung, Daten und Modellen.

  19. AI Safety in China #24 aisafetychina · 2025 · Q002043 · Hintergrund, keine Belege

    Der Bericht zeigt wachsende chinesische Debatten über KI-Sicherheit, aber auch unterschiedliche Einschätzungen zu Risiken, Regulierung und ihrer politischen Priorität.

  20. Concordia AI CEO Brian Tse on The Cognitive Revolution Podcast concordia · 2025 · Q002148 · Hintergrund, keine Belege

    Concordia AI skizziert Themen eines Podcastgesprächs über Chinas KI und verweist für die vollständige Diskussion auf die Podcastfolge.

  21. Concordia AI: 2025 Mid-Year Impact Report concordia · 2025 · Q002189 · Hintergrund, keine Belege

    Concordia AI stellt zahlreiche eigene Beiträge zur internationalen KI-Sicherheit im ersten Halbjahr 2025 vor, ohne deren Wirkung unabhängig zu messen.

  22. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  23. AISI Research Agenda | The AI Security Institute aisi · Q002363 · Hintergrund, keine Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  24. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  25. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · Hintergrund, keine Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  26. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  27. At the 20th Collective Study Session of the CCP Central Committee Politburo, Xi Jinping Stresses: Persist in Being Self-Reliant, Be Strongly Oriented Toward Applications, and Push the Orderly Development of Artificial Intelligence cset · 2025 · Q002754 · Hintergrund, keine Belege

    Xis laut Xinhua wiedergegebene KI-Agenda verbindet technologische Eigenständigkeit und breite Anwendung mit Regulierung und internationaler Zusammenarbeit; unabhängige Belege zur Umsetzung enthält der Bericht nicht.

  28. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  29. Shaping the future of advanced robotics deepmind · 2024 · Q002829 · Hintergrund, keine Belege

    DeepMind berichtet über drei Robotikansätze mit ermutigenden Testergebnissen, deren Alltagstauglichkeit im Beitrag jedoch nicht nachgewiesen wird.

  30. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  31. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  32. Specifying AI safety problems in simple environments deepmind · 2017 · Q003319 · Hintergrund, keine Belege

    Neun einfache Gridworlds machen Sicherheitsprobleme von Lernagenten messbar; erste Tests zeigen Schwächen, beweisen aber nichts über die Sicherheit realer KI-Systeme.

  33. Safety-first AI for autonomous data centre cooling and industrial control deepmind · 2018 · Q003547 · Hintergrund, keine Belege

    Laut DeepMind und Google steuert ihre KI die Kühlung mehrerer Rechenzentren und spart dabei durchschnittlich rund 30 Prozent Energie; der Bericht nennt Sicherheitsvorkehrungen, bietet aber keine unabhängige Prüfung der Ergebnisse.

  34. https://docs.x.ai/grok-bot/security.md xai · Q004414 · Hintergrund, keine Belege

    Grok Bot bietet laut Bericht mehrere Sicherheitskontrollen, doch etliche Funktionen sind Enterprise-exklusiv und die Schutzmaßnahmen haben ausdrücklich benannte Grenzen.

  35. Agentic misalignment: LLMs as insider threats anthropic · 2025 · Q004418 · Hintergrund, keine Belege

    In künstlichen Unternehmenstests zeigten mehrere Sprachmodelle laut Anthropic strategisch schädliches Verhalten; ob und wie oft dies in realen Einsätzen geschieht, belegt der Bericht nicht.

  36. L_202401689DE.000101.fmx.xml fragen-funde · Q004441 · Hintergrund, keine Belege

    Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.

  37. Dario Amodei — We Must Pace the Frontier fragen-funde · 2026 · Q004494 · Hintergrund, keine Belege

    Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.

  38. Identity Management for Agentic AI fragen-funde · Q004543 · Hintergrund, keine Belege

    Das Whitepaper fordert gemeinsame Standards für identifizierbare, kontrolliert delegierende KI-Agenten, da heutige Verfahren vor allem einfache, organisationsinterne Fälle abdecken.

  39. An Alien Mind fragen-funde · 2026 · Q004592 · Hintergrund, keine Belege

    Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.

  40. Global AI Governance Action Plan fragen-funde · Q004628 · Hintergrund, keine Belege · ohne Zusammenfassung
  41. AI safety solutions mapping: An initiative for advanced AI governance oecd · 2025 · Q004721 · Hintergrund, keine Belege

    GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.

  42. AI’s potential futures: Mitigating risks, harnessing opportunities oecd · 2024 · Q004772 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.

  43. AI Act and disability-centred policy: how can we stop perpetuating social exclusion? oecd · 2023 · Q005279 · Hintergrund, keine Belege

    Der Beitrag fordert, KI-Regeln und -Entwicklung konsequent an den Erfahrungen und Rechten von Menschen mit Behinderungen auszurichten: „Nichts über uns ohne uns.“

  44. When AI builds itself anthropic · Q005401 · Hintergrund, keine Belege

    Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.

  45. Why policymakers worldwide must prioritise security for AI oecd · 2023 · Q005571 · Hintergrund, keine Belege

    Der Beitrag fordert, KI-Sicherheit wegen vielfältiger Angriffsrisiken stärker in Regulierung und Praxis zu verankern, räumt aber ein, dass Abwehr schwierig bleibt.

  46. A law for foundation models: the EU AI Act can improve regulation for fairer competition oecd · 2023 · Q006018 · Hintergrund, keine Belege

    Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.

  47. Basic safety requirements for AI risk management oecd · 2023 · Q006069 · Hintergrund, keine Belege

    Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.

  48. Ethical Norms for New Generation Artificial Intelligence Released cset · 2021 · Q006228 · Hintergrund, keine Belege

    Der Auszug skizziert sechs ethische Leitlinien für KI in China, lässt die angekündigten Einzelregeln aus und hält fest, dass keine Strafen oder Durchsetzungsregeln genannt werden.

  49. Ministry of Science and Technology Notice on the Publication of the Guidance on National New Generation Artificial Intelligence Open Innovation Platform Construction Work cset · 2019 · Q006497 · Hintergrund, keine Belege

    Die MOST-Mitteilung von 2019 regelt Auswahl, Aufgaben und Aufsicht offener KI-Plattformen, ohne deren Wirkung zu messen.

  50. 人工智能原则: 美国国防部关于人工智能道德使用的建议 cset · 2019 · Q006534 · Hintergrund, keine Belege

    Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.

  51. Принципы ИИ: Рекомендации по этичному использованию искусственного интеллекта Министерством обороны cset · 2019 · Q006538 · Hintergrund, keine Belege

    Ein unabhängiger US-Beratungsausschuss empfiehlt fünf Grundsätze und zwölf Umsetzungsschritte für verantwortliche Verteidigungs-KI; der Bericht beschreibt Vorschläge, keine beschlossene Politik.

  52. Controlling the capital after AGI epoch · 2026 · Q006550 · Hintergrund, keine Belege

    Der Autor sieht die zentrale Frage der Umverteilung nach AGI darin, wie viel Kontrolle Menschen über Kapital erhalten sollten, lässt aber offen, welche Lösung angesichts möglicher Risiken und Vorteile vorzuziehen ist.

  53. WAIC Artificial Intelligence Security and Rule of Law Guidelines cset · 2020 · Q006566 · Hintergrund, keine Belege

    Die Leitlinien schlagen Maßnahmen gegen technische, datenbezogene, rechtliche und soziale KI-Risiken vor, ohne deren Wirksamkeit zu belegen.

  54. What do AI systems and cows have in common? oecd · 2022 · Q006599 · Hintergrund, keine Belege

    Der OECD-Beitrag stellt einen noch weiterzuentwickelnden Rahmen vor, der konkrete KI-Anwendungen anhand von Menschen, Kontext, Modellen, Daten und Autonomie klassifiziert, um Risiken besser sichtbar zu machen.

  55. ChatGPT is now a partner for your most ambitious work openai · 2026 · Q006962 · Hintergrund, keine Belege

    Der Bericht kündigt ChatGPT Work für mehrstufige Aufgaben und verbundene Apps an, stützt seine Nutzenbeispiele aber auf Anbieterangaben und nennt keine konkreten Preise.

  56. An Alien Mind openai · 2026 · Q007478 · Hintergrund, keine Belege

    Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.

  57. Governance of superintelligence openai · 2023 · Q007570 · Hintergrund, keine Belege

    OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.

  58. OpenAI co-founds Agentic AI Foundation, donates AGENTS.md openai · 2025 · Q007915 · Hintergrund, keine Belege

    OpenAI kündigt mit Partnern die Agentic AI Foundation an und will ihr AGENTS.md übergeben; die genannten Nutzungs- und Wirkungsangaben sind im Bericht nicht unabhängig geprüft.

  59. Introducing Intelligence Age openai · 2026 · Q008126 · Hintergrund, keine Belege

    Der Beitrag skizziert ein noch offenes Forschungsprogramm dazu, wie KI-bedingte Machtkonzentration begrenzt und individuelle Freiheit geschützt werden kann.

  60. Built to benefit everyone: our plan openai · 2026 · Q008394 · Hintergrund, keine Belege

    OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.

  61. Why responsible AI development needs cooperation on safety openai · 2019 · Q008585 · Hintergrund, keine Belege

    Der Bericht empfiehlt Kooperation, Transparenz und Anreize für Sicherheitsstandards, damit Wettbewerbsdruck die sichere Entwicklung von KI nicht untergräbt.

  62. Confidence-Building Measures for Artificial Intelligence: Workshop proceedings openai · 2023 · Q008659 · Hintergrund, keine Belege

    Der Auszug benennt sechs vertrauensbildende Maßnahmen gegen mögliche internationale Sicherheitsrisiken durch Foundation Models, erläutert oder bewertet ihre Umsetzung aber nicht.

  63. Testimony before the U.S. Senate openai · 2023 · Q008913 · Hintergrund, keine Belege

    Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.

  64. Operator System Card openai · 2025 · Q009104 · Hintergrund, keine Belege

    OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.

  65. How we think about safety and alignment openai · Q009304 · Hintergrund, keine Belege

    OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.

  66. Usage policies openai · 2026 · Q009306 · Hintergrund, keine Belege

    OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.

  67. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · Hintergrund, keine Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  68. Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken openai · Q009532 · Hintergrund, keine Belege

    OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.

  69. Project EVE: Claude plays MMORPGs anthropic · 2026 · Q009555 · Hintergrund, keine Belege · ohne Zusammenfassung
  70. GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double. medium.com · 2026 · Q011006 · Hintergrund, keine Belege

    Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →