Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-P3-T10

Welcher Schutz würde es unabhängigen Forschenden erlauben, veröffentlichte Modelle, Agentenwerkzeuge und kritische Infrastruktur gefahrlos zu testen: eine rechtliche Freistellung unabhängig vom Verschulden (Safe Harbor), eine Vorabgenehmigung, eine Frist zur Offenlegung und eine Grenze der Haftung, wobei Beweise gesichert und Missbrauch verhindert werden?

55 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-P3
  1. 关键信息基础设施安全保护条例_信息产业(含电信)_中国政府网 fragen-funde · Q004616 · beantwortet teilweise oder widerspricht · ohne Zusammenfassung
  2. Usage policies openai · 2026 · Q009306 · beantwortet teilweise oder widerspricht

    OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.

  3. How are countries evaluating AI models? fragen-funde · 2026 · Q000063 · einzelne zitierbare Belege · ohne Zusammenfassung
  4. Expanding the Cyber Verification Program anthropic · 2026 · Q000174 · einzelne zitierbare Belege

    Anthropic bietet geprüften Sicherheitsorganisationen abgestuften Zugang zu leistungsfähigen Claude-Modellen und berichtet über Benchmark- und Schwachstellenergebnisse, deren Aussagekraft durch die beschriebenen Datenbegrenzungen eingeschränkt ist.

  5. Paris Call for AI safety and security. elysee.fr · 2026 · Q000411 · einzelne zitierbare Belege · ohne Zusammenfassung
  6. Recommendations for California in Implementing its AI Executive Order cdt.org · 2026 · Q000456 · einzelne zitierbare Belege

    Das CDT rät Kalifornien zu vielfältigen, unabhängigen KI-Prüfungen und wirksamer Überwachung statt pauschaler „Kill Switch“-Vorgaben.

  7. Paris Declaration on AI safety and security government.nl · 2026 · Q000520 · einzelne zitierbare Belege · ohne Zusammenfassung
  8. Cybersecurity and AI: The Evolving Security Landscape cais · Q001014 · einzelne zitierbare Belege

    Der Gastbeitrag warnt, dass KI Cyberangriffe auf verwundbare Systeme verstärken könnte, und fordert koordinierte Sicherheitsverbesserungen sowie verantwortungsvolle KI-Freigaben.

  9. Challenges in evaluating AI systems anthropic · 2023 · Q001347 · einzelne zitierbare Belege · ohne Zusammenfassung
  10. Bay Area Alignment Workshop 2024 farai · 2026 · Q001547 · einzelne zitierbare Belege · ohne Zusammenfassung
  11. Anthropic, PBC sec.gov · Q001847 · einzelne zitierbare Belege · ohne Zusammenfassung
  12. Anthropic, PBC sec.gov · Q001848 · einzelne zitierbare Belege · ohne Zusammenfassung
  13. L_202401689DE.000101.fmx.xml fragen-funde · Q004441 · einzelne zitierbare Belege

    Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.

  14. WAIC Artificial Intelligence Security and Rule of Law Guidelines cset · 2020 · Q006566 · einzelne zitierbare Belege

    Die Leitlinien schlagen Maßnahmen gegen technische, datenbezogene, rechtliche und soziale KI-Risiken vor, ohne deren Wirksamkeit zu belegen.

  15. The Case for Universal AI Accountability fragen-funde · 2026 · Q000033 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. OpenAI Gets Sued Over the Hugging Face Hack fragen-funde · 2026 · Q000051 · Hintergrund, keine Belege · ohne Zusammenfassung
  17. White House, major AI developers reach 'morally binding' safety commitments fragen-funde · 2026 · Q000085 · Hintergrund, keine Belege

    Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.

  18. AI Safety Collaboration and Antitrust: Lessons from Recent Enforcer Statements and Cybersecurity Information Sharing fragen-funde · 2026 · Q000091 · Hintergrund, keine Belege · ohne Zusammenfassung
  19. Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3) youtube.com · 2026 · Q000313 · Hintergrund, keine Belege · ohne Zusammenfassung
  20. GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents openai · 2026 · Q000339 · Hintergrund, keine Belege

    OpenAI behauptet, GPT‑6 Cyber sei leistungsfähiger und besser auf autorisierte Sicherheitsarbeit begrenzt; die vollständigen Testdetails liegen in der hier nicht enthaltenen Systemkarte.

  21. Independent Assessment of AI R&D Acceleration at Anthropic in October 2026 metr · 2026 · Q000367 · Hintergrund, keine Belege

    METR schätzt eine etwa verdoppelte Fortschrittsrate bei Anthropic und einen großen, aber unsicheren KI-Anteil; umfangreiche Schwärzungen und die begrenzte Aussagekraft von Benchmarks schränken die öffentliche Prüfung ein.

  22. Joint declaration on Paris call for AI safety and security pm.gc.ca · Q000410 · Hintergrund, keine Belege · ohne Zusammenfassung
  23. Paris Call for AI safety and security presidentti.fi · 2026 · Q000423 · Hintergrund, keine Belege · ohne Zusammenfassung
  24. Test Whether an AI Agent Stays Stopped cybersecurity-insiders.com · 2026 · Q000448 · Hintergrund, keine Belege · ohne Zusammenfassung
  25. Six AI Governance Priorities for 2026 pai · 2026 · Q000997 · Hintergrund, keine Belege

    Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.

  26. Agents for Cyber Defense fmf · 2026 · Q001067 · Hintergrund, keine Belege · ohne Zusammenfassung
  27. AI openness: Balancing innovation, transparency and risk in open-weight models oecd · 2025 · Q001090 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.

  28. ed0e5ac pai · 2021 · Q001133 · Hintergrund, keine Belege

    Der Berichtsauszug beschreibt Hürden und Leitgedanken für transparente ML-Dokumentation, ohne die Wirksamkeit der vorgeschlagenen Ansätze nachzuweisen.

  29. Why AI Sandboxes matter for responsible innovation and public trust oecd · 2026 · Q001282 · Hintergrund, keine Belege

    KI-Sandboxes können laut OECD Innovation und Regulierung durch beaufsichtigte Tests verbinden, doch ihr Nutzen hängt von guter Koordination, verhältnismäßigen Schutzregeln und besserer Wirkungsmessung ab.

  30. Ecosystem for AI innovation in Europe eu · Q001417 · Hintergrund, keine Belege

    Die Kommission beschreibt ein Netz aus Infrastruktur, Testmöglichkeiten, Regulierungshilfen und Qualifizierung, um KI-Innovation in Europa zu unterstützen; der Bericht enthält keine unabhängige Wirkungsbewertung.

  31. Theories of Change for AI Auditing apollo · Q001466 · Hintergrund, keine Belege

    Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.

  32. European research development and deployment of AI eu · Q001484 · Hintergrund, keine Belege

    Der Bericht beschreibt EU-Förderung und politische Maßnahmen für vertrauenswürdige KI, Frontier-KI und deren Einsatz, ohne ihre Wirkung unabhängig zu bewerten.

  33. An Overview of Our Current Governance Efforts apollo · Q001542 · Hintergrund, keine Belege

    Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.

  34. Managing Advanced Cyber Risks in Frontier AI Frameworks fmf · 2026 · Q001749 · Hintergrund, keine Belege · ohne Zusammenfassung
  35. Anthropic, PBC - S-1 (Q2) fragen-funde · Q001846 · Hintergrund, keine Belege · ohne Zusammenfassung
  36. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  37. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  38. Introducing the Frontier Model Forum fmf · 2023 · Q002710 · Hintergrund, keine Belege · ohne Zusammenfassung
  39. OpenAI’s Approach to Frontier Risk openai · 2023 · Q002791 · Hintergrund, keine Belege

    OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.

  40. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · Hintergrund, keine Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  41. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  42. 39050dc pai · 2021 · Q003133 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.

  43. Usage Policy update anthropic · 2025 · Q003210 · Hintergrund, keine Belege

    Anthropic will seine Nutzungsrichtlinie ab dem 15. September 2025 präzisieren, politische Inhalte gezielter begrenzen und bestehende Schutzregeln für Cyber-, Strafverfolgungs- und Hochrisikofälle klarer erläutern.

  44. Anthropic is endorsing SB 53 anthropic · 2025 · Q003269 · Hintergrund, keine Belege

    Anthropic unterstützt SB 53 als Transparenz- und Sicherheitsrahmen für große KI-Entwickler, sieht aber Nachbesserungsbedarf bei der Erfassung von Modellen, den Offenlegungspflichten und der Anpassung der Regeln.

  45. Skating to Where the Puck Is Going cset · 2023 · Q004012 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

  46. AI’s potential futures: Mitigating risks, harnessing opportunities oecd · 2024 · Q004772 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.

  47. Introducing GPT-5.3-Codex openai · 2026 · Q004937 · Hintergrund, keine Belege

    OpenAI kündigt GPT‑5.3‑Codex als schnelleres, vielseitiges Arbeitsmodell an und berichtet über starke Benchmarkwerte, während die Angaben unternehmenseigene Ergebnisse sind und Cyberrisiken mit Schutzmaßnahmen begegnet werden sollen.

  48. Models as Insider Risks in the Super Intelligence Era fragen-funde · 2026 · Q005078 · Hintergrund, keine Belege · ohne Zusammenfassung
  49. How do we govern the complex intersection between AI and cybersecurity? oecd · 2020 · Q005589 · Hintergrund, keine Belege

    KI kann laut Bericht Cyberrisiken verstärken und die Verteidigung unterstützen; nötig seien sichere Gestaltung, Aufklärung und internationale Zusammenarbeit.

  50. Lawsuits in the United States point to a need for AI risk management systems oecd · 2023 · Q006184 · Hintergrund, keine Belege

    Laut Beitrag sollen systematische Prüfungen und laufendes KI-Risikomanagement helfen, diskriminierende oder schädliche Folgen zu begrenzen, auch wenn sie Risiken nicht vollständig ausschließen können.

  51. Daybreak: Tools for securing every organization in the world openai · 2026 · Q007743 · Hintergrund, keine Belege

    OpenAI will mit Daybreak Schwachstellenbehebung für geprüfte Verteidiger beschleunigen und nennt dafür eigene Nutzungs- und Benchmarkwerte, deren Aussagekraft in realen Abläufen noch untersucht werde.

  52. OpenAI’s comment to the NTIA on open model weights openai · 2024 · Q007961 · Hintergrund, keine Belege

    OpenAI befürwortet offene und kontrollierte KI-Veröffentlichungen, fordert je nach Modellrisiko abgestufte Prüfungen und hält flexible Politik angesichts einer noch jungen Risikowissenschaft für nötig.

  53. Frontier Model Forum openai · 2023 · Q008864 · Hintergrund, keine Belege

    Vier KI-Unternehmen kündigen ein Forum für Sicherheitsforschung, Standards und Informationsaustausch zu Frontier-Modellen an; die Quelle beschreibt Vorhaben, nicht deren Umsetzung oder Wirkung.

  54. Questions for the Record openai · 2023 · Q008963 · Hintergrund, keine Belege

    OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.

  55. Combating online child sexual exploitation & abuse openai · 2025 · Q009192 · Hintergrund, keine Belege

    Der vollständige Beitrag schildert OpenAIs eigene Maßnahmen gegen den Missbrauch seiner KI zur sexuellen Ausbeutung von Kindern, räumt Grenzen der Schutzsysteme ein und enthält keine unabhängigen Wirksamkeitsdaten.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →