Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-P3-T03

Welche Rolle spielten Modelle der geprüften Modellfamilie, wenn überhaupt, beim Entwerfen, Durchführen oder Bewerten von Prüfungen oder Sicherheitsberichten, die Regierungen vorgelegt werden, und wird diese Rolle offengelegt?

330 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-P3
  1. A structured protocol for elicitation experiments aisi · 2025 · Q002489 · Hintergrund, keine Belege

    Das AISI will mit einer gemeinsamen Checkliste die systematische Ermittlung von KI-Fähigkeiten verbessern und fordert dafür gemeinsame Standards und Wissensaustausch.

  2. METR’s GPT-4.5 pre-deployment evaluations metr · 2025 · Q002575 · Hintergrund, keine Belege

    METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.

  3. Singapore office and government MOU anthropic · 2026 · Q002578 · Hintergrund, keine Belege

    Anthropic eröffnet ein Büro in Singapur und kündigt mit der Regierung Kooperation zu sicherer und verantwortungsvoller KI sowie weitere lokale KI-Anwendungen an.

  4. Third-party testing in AI policy anthropic · 2024 · Q002616 · Hintergrund, keine Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

  5. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · Hintergrund, keine Belege · ohne Zusammenfassung
  6. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  7. Progress Update: Advancing Frontier AI Safety in 2024 and Beyond fmf · 2024 · Q002696 · Hintergrund, keine Belege · ohne Zusammenfassung
  8. The Rogue Replication Threat Model metr · 2024 · Q002726 · Hintergrund, keine Belege

    METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.

  9. Challenges in red teaming AI systems anthropic · 2024 · Q002729 · Hintergrund, keine Belege

    Anthropic stellt verschiedene KI-Prüfmethoden vor und fordert gemeinsame Standards, unabhängige Tests sowie einen iterativen Weg von qualitativen zu automatisierten Evaluationen.

  10. Issue Brief: Early Best Practices for Frontier AI Safety Evaluations fmf · 2024 · Q002737 · Hintergrund, keine Belege · ohne Zusammenfassung
  11. Introducing the next generation of Claude anthropic · 2024 · Q002766 · Hintergrund, keine Belege

    Anthropic stellt Claude 3 vor und berichtet über eigene Tests von Leistungs-, Genauigkeits- und Sicherheitsverbesserungen, deren Ergebnisse im Bericht nicht vollständig unabhängig überprüft werden.

  12. OpenAI’s Approach to Frontier Risk openai · 2023 · Q002791 · Hintergrund, keine Belege

    OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.

  13. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · Hintergrund, keine Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  14. Issue Brief: What is red teaming? fmf · 2023 · Q002817 · Hintergrund, keine Belege · ohne Zusammenfassung
  15. Frontier AI Taskforce: first progress report aisi · 2023 · Q002824 · Hintergrund, keine Belege

    Die britische Frontier AI Taskforce berichtet über den Aufbau von Expertise und Kooperationen für KI-Risikoprüfungen, wobei ihre Fortschrittsangaben und Ziele im Bericht selbst dargestellt, aber nicht unabhängig bestätigt werden.

  16. Fourth progress report | AISI Work aisi · 2024 · Q002837 · Hintergrund, keine Belege

    Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.

  17. Why I joined AISI by Geoffrey Irving aisi · 2024 · Q002879 · Hintergrund, keine Belege

    Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.

  18. 2023 Year In Review metr · 2024 · Q002947 · Hintergrund, keine Belege

    METR berichtet für 2023 über neue Tests für autonome KI-Agenten, einen Sicherheitsrahmen für den Umgang mit Gefahrenhinweisen und eine Kooperation mit dem britischen AI Safety Institute; konkrete Wirksamkeitsnachweise fehlen im Rückblick.

  19. Improving Fable 5's safeguards anthropic · 2026 · Q002984 · Hintergrund, keine Belege

    Anthropic zufolge senkt ein überarbeiteter Schutzfilter unnötige Biologie-Weiterleitungen bei Fable 5 deutlich, während Fehlalarme und Einschränkungen für dual-use Forschung fortbestehen.

  20. Fable 5's cyber safeguards and our jailbreak framework anthropic · 2026 · Q003004 · Hintergrund, keine Belege

    Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.

  21. Redeploying Claude Fable 5 anthropic · 2026 · Q003023 · Hintergrund, keine Belege

    Anthropic will Fable 5 nach Aufhebung der Exportkontrollen wieder weltweit anbieten und berichtet von verstärkten Schutzmaßnahmen sowie geplanten gemeinsamen Standards und Sicherheitstests.

  22. Taking a responsible path to AGI deepmind · 2025 · Q003066 · Hintergrund, keine Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  23. a5ffa23 pai · 2021 · Q003087 · Hintergrund, keine Belege

    Der Auszug stellt ABOUT ML als laufenden Versuch vor, kontextgerechte Transparenz und Dokumentation von ML-Systemen voranzubringen, während einheitliche Standards und ausreichend belegte Best Practices noch fehlen.

  24. e47f4ec - Partnership on AI pai · Q003092 · Hintergrund, keine Belege

    Der vorliegende kurze Auszug stellt ABOUT ML als PAI-Projekt für mehr Transparenz und Dokumentation im Lebenszyklus von ML-Systemen vor und nennt voreingenommene Daten als mögliches Fairnessrisiko.

  25. 39050dc pai · 2021 · Q003133 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt eine kontextbezogene Dokumentation von ML-Tests, Integration und Wartung, macht aber zugleich auf Sicherheits-, Zeit- und Haftungsrisiken aufmerksam.

  26. US Executive Order, G7 Code, and Bletchley Park anthropic · 2023 · Q003137 · Hintergrund, keine Belege

    Anthropic sieht in neuen Regeln und staatlichen KI-Prüfeinrichtungen einen wichtigen Anfang und fordert verlässliche Bewertungen als Grundlage für Regulierung und internationale Zusammenarbeit.

  27. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · Hintergrund, keine Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  28. d1a3705 pai · 2021 · Q003150 · Hintergrund, keine Belege

    Der vorliegende Auszug fordert zweck- und zielgruppengerechte Dokumentation von ML-Modellen, die Nachvollziehbarkeit fördern soll, dabei aber Risiken wie Sicherheitslücken, Kennzahlenspiel und Überfrachtung berücksichtigen muss.

  29. Introducing Anthropic's Responsible Scaling Policy anthropic · 2023 · Q003153 · Hintergrund, keine Belege

    Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.

  30. 9fea3d1 pai · 2021 · Q003166 · Hintergrund, keine Belege

    Der bereitgestellte Auszug beschreibt Literaturvorschläge für transparente ML-Dokumentation über Entwicklung und Einsatz hinweg, ohne deren Wirksamkeit selbst empirisch zu belegen.

  31. Introducing Anthropic's Transparency Hub anthropic · 2025 · Q003175 · Hintergrund, keine Belege

    Anthropic kündigt einen Hub mit Informationen zu KI-Sicherheit und Transparenz an; konkrete Kennzahlen oder eine unabhängige Bewertung enthält der Artikel nicht.

  32. Our updated Responsible Scaling Policy anthropic · 2024 · Q003194 · Hintergrund, keine Belege

    Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.

  33. Thoughts on America’s AI Action Plan anthropic · 2025 · Q003215 · Hintergrund, keine Belege

    Anthropic unterstützt große Teile des US-KI-Aktionsplans, fordert aber stärkere Transparenzregeln für KI-Sicherheit und die Beibehaltung der H20-Exportkontrollen nach China.

  34. Anthropic is endorsing SB 53 anthropic · 2025 · Q003269 · Hintergrund, keine Belege

    Anthropic unterstützt SB 53 als Transparenz- und Sicherheitsrahmen für große KI-Entwickler, sieht aber Nachbesserungsbedarf bei der Erfassung von Modellen, den Offenlegungspflichten und der Anpassung der Regeln.

  35. Anthropic partners with the UK Government on GOV.UK anthropic · 2026 · Q003307 · Hintergrund, keine Belege

    Anthropic kündigt einen schrittweise zu erprobenden GOV.UK-Assistenten für Arbeitssuchende an; die Unternehmensmitteilung nennt Ziele, aber noch keine Ergebnisse.

  36. Washington voluntary safety pact leaves tech giants to police their own superintelligence edexlive.com · 2026 · Q003346 · Hintergrund, keine Belege · ohne Zusammenfassung
  37. Developing nuclear safeguards for AI through public-private partnership anthropic · 2025 · Q003375 · Hintergrund, keine Belege

    Anthropic zufolge erreicht ein mit US-Behörden entwickelter Klassifikator zur Erkennung bedenklicher nuklearbezogener KI-Gespräche in vorläufigen Tests 96 Prozent Genauigkeit; Angaben zu Testdetails und langfristiger Wirksamkeit fehlen.

  38. Statement on the directive to suspend Fable 5 access anthropic · 2026 · Q003383 · Hintergrund, keine Belege

    Anthropic schaltet Fable 5 und Mythos 5 wegen einer US-Anordnung für alle Kunden ab und hält die mögliche Sicherheitsumgehung nach eigener Darstellung für begrenzt.

  39. Building trust in AI: A practical approach to transparency oecd · 2025 · Q003508 · Hintergrund, keine Belege

    Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.

  40. As language models and generative AI take the world by storm, the OECD is tracking the policy implications oecd · 2023 · Q003529 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.

  41. Claude Fable 5 and Claude Mythos 5 anthropic · 2026 · Q003537 · Hintergrund, keine Belege

    Anthropic kündigt Fable 5 und den eingeschränkt verfügbaren Mythos 5 an, doch der Bericht lässt den aktuellen Zugangsstatus widersprüchlich und stützt Leistungs- und Sicherheitsangaben überwiegend auf Unternehmensangaben.

  42. Anthropic opens Seoul office anthropic · 2026 · Q003638 · Hintergrund, keine Belege

    Anthropic meldet den Start seines Seoul-Büros und neue KI-Kooperationen in Südkorea; die Angaben zu Einsatz und Nutzen stammen aus der Unternehmensmitteilung.

  43. Biological sequence models in the context of the AI directives epoch · 2024 · Q003784 · Hintergrund, keine Belege

    Der Bericht sieht stark wachsende Rechen- und Datenbestände bei biologischen Sequenzmodellen und diskutiert eine mögliche, rechtlich nicht abschließend geklärte Lücke bei Modellen, die zwar viele biologische Daten nutzen, aber nicht überwiegend damit trainiert werden.

  44. 4a3bf11 pai · 2021 · Q003805 · Hintergrund, keine Belege

    Der Auszug fordert transparente, unabhängig prüfbare Risikobewertungswerkzeuge und zugleich Schutzmaßnahmen für veröffentlichte personenbezogene Daten.

  45. Controlling Large Language Model Outputs: A Primer cset · 2023 · Q003810 · Hintergrund, keine Belege

    Der bereitgestellte Auszug erklärt, dass mehrere technische und nichttechnische Ansätze Sprachmodelle steuern sollen, aber unerwünschte Ausgaben nicht sicher verhindern können.

  46. Petri: An open-source AI auditing tool anthropic · 2025 · Q003817 · Hintergrund, keine Belege · ohne Zusammenfassung
  47. Introducing the Anthropic Cyber Mission anthropic · 2026 · Q003851 · Hintergrund, keine Belege

    Anthropic kündigt KI-gestützte Sicherheitsprogramme für kritische Infrastruktur und Open-Source-Projekte an, deren Wirkung laut Bericht noch nicht nachgewiesen ist.

  48. Skating to Where the Puck Is Going cset · 2023 · Q004012 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

  49. Updating the Frontier Safety Framework deepmind · 2025 · Q004097 · Hintergrund, keine Belege

    DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.

  50. Anthropic's core views on AI safety anthropic · 2023 · Q004100 · Hintergrund, keine Belege

    Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.

  51. Hello GPT-4o openai · 2024 · Q004290 · Hintergrund, keine Belege

    OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.

  52. Previewing GPT-5.6 Sol: a next-generation model openai · 2026 · Q004428 · Hintergrund, keine Belege

    OpenAI startet eine begrenzte Vorschau seiner GPT‑5.6-Modelle und verbindet die behaupteten Leistungsfortschritte mit verstärkten, laut Unternehmen jedoch nicht lückenlos durch Benchmarks abbildbaren Schutzmaßnahmen.

  53. Anthropic to sign the EU Code of Practice anthropic · 2025 · Q004473 · Hintergrund, keine Belege

    Anthropic will den EU-KI-Kodex unterzeichnen und verbindet damit die Hoffnung auf transparente, flexible Sicherheitsregeln, die zugleich Innovation ermöglichen.

  54. Dario Amodei — We Must Pace the Frontier fragen-funde · 2026 · Q004494 · Hintergrund, keine Belege

    Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.

  55. Testing safety defenses with a bug bounty anthropic · 2025 · Q004517 · Hintergrund, keine Belege

    Anthropic meldet ein inzwischen abgeschlossenes, invite-only Programm zum Testen von Schutzmaßnahmen gegen CBRN-bezogene Jailbreaks; konkrete Funde werden im Bericht nicht genannt.

  56. Article 53: Obligations for Providers of General-Purpose AI Models | EU Artificial Intelligence Act fragen-funde · Q004524 · Hintergrund, keine Belege

    Artikel 53 sieht Dokumentations-, Informations-, Urheberrechts- und Kooperationspflichten für Anbieter allgemeiner KI-Modelle vor, mit einer begrenzten Ausnahme für bestimmte quelloffene Modelle ohne systemische Risiken.

  57. Article 55: Obligations of Providers of General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act fragen-funde · Q004536 · Hintergrund, keine Belege

    Artikel 55 verpflichtet laut Bericht Anbieter von KI-Modellen mit systemischen Risiken zu Risikoprüfung, Vorfallsmeldung und Cybersicherheit und regelt mögliche Konformitätsnachweise sowie Vertraulichkeit.

  58. Response to Governor Newsom's AI working grou anthropic · 2025 · Q004544 · Hintergrund, keine Belege

    Anthropic begrüßt den Berichtsentwurf und plädiert für mehr Transparenz über KI-Sicherheit, wobei die Aussagen zu eigenen Praktiken und zum möglichen Zeitplan von Anthropic stammen.

  59. Recommendations to OSTP for the US AI Action Plan anthropic · 2025 · Q004548 · Hintergrund, keine Belege

    Anthropic empfiehlt der US-Regierung sechs Maßnahmen zu Sicherheit, Exportkontrollen, Energie, Behördeneinsatz und wirtschaftlicher Vorbereitung auf leistungsfähige KI, deren baldiges Auftreten das Unternehmen prognostiziert.

  60. A shared playbook for trustworthy third party evaluations fragen-funde · 2026 · Q004558 · Hintergrund, keine Belege

    Vertrauenswürdige KI-Evaluationen müssen neben Ergebnissen auch Harness, Budget, geprüfte Behauptung und Validitätsrisiken offenlegen; die Bewertung von Fehlanpassungs- und Neigungsbehauptungen bleibt laut Bericht offen.

  61. Anthropic joins the 1,000 Scientist AI Jam anthropic · 2025 · Q004560 · Hintergrund, keine Belege

    Anthropic zufolge soll Claude 3.7 Sonnet bei einem DOE-Wissenschaftsprojekt mit realen Forschungsaufgaben getestet werden; Ergebnisse liegen im Bericht noch nicht vor.

  62. Anthropic signs MOU with the UK Government anthropic · 2025 · Q004576 · Hintergrund, keine Belege

    Anthropic und das britische DSIT wollen den möglichen Einsatz von Claude in öffentlichen Diensten und weiteren Bereichen untersuchen; konkrete Resultate der Kooperation nennt die Mitteilung noch nicht.

  63. Priorities and principles for effective third party assessments fragen-funde · 2026 · Q004579 · Hintergrund, keine Belege

    OpenAI skizziert Grundsätze und vier Schwerpunkte für unabhängige KI-Sicherheitsprüfungen, deren Reichweite durch Zugang, Vertraulichkeit und den noch entstehenden Standardrahmen begrenzt sein kann.

  64. Dario Amodei on the Paris AI Action Summit anthropic · 2025 · Q004580 · Hintergrund, keine Belege

    Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.

  65. An Alien Mind fragen-funde · 2026 · Q004592 · Hintergrund, keine Belege

    Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.

  66. Dario Amodei — The Urgency of Interpretability fragen-funde · 2025 · Q004600 · Hintergrund, keine Belege · ohne Zusammenfassung
  67. The case for targeted regulation anthropic · 2024 · Q004624 · Hintergrund, keine Belege

    Anthropic fordert flexible, überprüfbare und gezielte Regeln für fortgeschrittene KI, um ausgewählte schwere Risiken zu senken und unnötige Belastungen zu vermeiden.

  68. U.S. elections readiness anthropic · 2024 · Q004635 · Hintergrund, keine Belege

    Anthropic beschreibt Schutzmaßnahmen für die US-Wahlen 2024, räumt aber ein, nicht jeden Missbrauch vorhersehen zu können, und nennt keine quantitativen Wirksamkeitsnachweise.

  69. Expanding access to Claude for government anthropic · 2024 · Q004669 · Hintergrund, keine Belege

    Anthropic erweitert laut eigener Mitteilung den Behördenzugang zu Claude und erlaubt ausgewählten US-Stellen begrenzte Geheimdienstanwendungen unter fortgeltenden Richtlinien und ASL-2-Beschränkung.

  70. AI safety solutions mapping: An initiative for advanced AI governance oecd · 2025 · Q004721 · Hintergrund, keine Belege

    GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.

  71. Stop, look and listen to the people you want to help deepmind · 2018 · Q004723 · Hintergrund, keine Belege

    Der Bericht fordert Technologiefirmen auf, KI im Gesundheitswesen vorsichtig und nach überprüfbaren ethischen Grundsätzen einzusetzen und den betroffenen Menschen zuzuhören.

  72. Introducing Claude Haiku 4.5 anthropic · 2025 · Q004785 · Hintergrund, keine Belege

    Anthropic stellt Haiku 4.5 als schnelles, preisgünstiges Modell mit annähernder Spitzenleistung vor und berichtet über positive Sicherheitsmessungen, deren Aussagen und Testgrundlagen im Beitrag von Anthropic selbst stammen.

  73. Charting a path to AI accountability anthropic · 2023 · Q004818 · Hintergrund, keine Belege

    Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.

  74. Australia and Anthropic sign AI safety MOU anthropic · 2026 · Q004830 · Hintergrund, keine Belege

    Anthropic meldet eine KI-Sicherheitsvereinbarung mit Australien und Förderzusagen für Forschung, wobei der Bericht vor allem Unternehmenspläne und keine unabhängig bestätigten Ergebnisse enthält.

  75. Dario Amodei on American AI leadership anthropic · 2025 · Q004845 · Hintergrund, keine Belege

    Amodei verteidigt Anthropics Zusammenarbeit mit der US-Regierung, seine Unterstützung für KI-Sicherheitsregeln und seine Position zu Modellverzerrungen; die Darstellung beruht auf Angaben des Unternehmens.

  76. Amazon Nova Micro, Lite, Pro, and Premier - AWS AI Service Cards fragen-funde · 2025 · Q004860 · Hintergrund, keine Belege

    AWS beschreibt Nova als vielseitige, aber nicht verlässlich fehlerfreie Modellfamilie und empfiehlt kundenspezifische Tests sowie Aufsicht, besonders bei folgenreichen Anwendungen.

  77. Deepening AI Safety Research with UK AI Security Institute (AISI) deepmind · 2025 · Q004914 · Hintergrund, keine Belege

    DeepMind kündigt mit dem britischen AISI neue KI-Sicherheitsforschung zu Denkprozessen, sozialen Folgen und Wirtschaftsauswirkungen an, berichtet aber noch keine Ergebnisse.

  78. Canadian Artificial Intelligence Safety Institute fragen-funde · 2026 · Q004964 · Hintergrund, keine Belege

    CAISI soll Kanadas Forschung und internationale Zusammenarbeit zur KI-Sicherheit stärken; der Bericht erläutert Ziele und Arbeitswege, aber keine konkreten Ergebnisse.

  79. Resources fragen-funde · 2026 · Q004967 · Hintergrund, keine Belege

    Der vorliegende Auszug listet Ressourcen für KI-Governance und Sicherheitstests auf, beschreibt deren beabsichtigten Nutzen, liefert aber keine unabhängigen Wirksamkeitsnachweise.

  80. AI security and sovereignty: INESIA unveils its roadmap for 2026-2027 fragen-funde · 2026 · Q004984 · Hintergrund, keine Belege · ohne Zusammenfassung
  81. Models as Insider Risks in the Super Intelligence Era fragen-funde · 2026 · Q005078 · Hintergrund, keine Belege · ohne Zusammenfassung
  82. Holistic Safety and Responsibility Evaluations of Advanced AI Models deepmind · 2024 · Q005105 · Hintergrund, keine Belege

    Der bereitgestellte Abstract fordert eine systematischere, kooperative und politisch eingebundene KI-Sicherheitsbewertung, nennt aber keine konkreten Gemini-Testergebnisse.

  83. Donating another $20 million to Public First Action anthropic · 2026 · Q005195 · Hintergrund, keine Belege

    Anthropic spendet nach eigenen Angaben weitere 20 Millionen Dollar an Public First Action, um eine politische Debatte über KI-Schutzmaßnahmen zu fördern.

  84. Participate in the OECD’s pilot on monitoring the application of the G7 Code of Conduct for Organisations Developing Advanced AI Development oecd · 2024 · Q005235 · Hintergrund, keine Belege

    Die OECD testete 2024 einen vertraulichen Melderahmen zum G7-Kodex für fortgeschrittene KI; seine erwarteten Vorteile werden im Bericht beschrieben, aber nicht durch Pilotresultate belegt.

  85. Project Glasswing: An initial update anthropic · 2026 · Q005310 · Hintergrund, keine Belege

    Anthropic berichtet von zahlreichen durch Mythos Preview gefundenen Schwachstellen und sieht deren Prüfung und Behebung als Engpass; wegen Missbrauchsrisiken bleibt das Modell vorerst unveröffentlicht.

  86. Anthropic opens Tokyo office anthropic · 2025 · Q005313 · Hintergrund, keine Belege

    Anthropic eröffnet laut eigener Mitteilung ein Büro in Tokio, baut Partnerschaften in Japan aus und kündigt weitere Expansion nach Seoul und Bengaluru an.

  87. GPT-4 openai · 2023 · Q005341 · Hintergrund, keine Belege

    OpenAI zufolge ist GPT‑4 in vielen Tests leistungsfähiger als GPT‑3.5, bleibt aber fehleranfällig und erfordert bei wichtigen Anwendungen angemessene Kontrolle.

  88. Towards algorithm auditing: A research overview oecd · 2024 · Q005375 · Hintergrund, keine Belege

    Der Beitrag plädiert für wiederkehrende, kontextspezifische Algorithmus-Audits, deren Zusicherung nur die tatsächlich geprüften Standards und Rechtsvorgaben abdeckt.

  89. Ensuring AI’s trustworthiness: reliability engineering meets data-driven risk management oecd · 2023 · Q005603 · Hintergrund, keine Belege

    Der Beitrag empfiehlt Zuverlässigkeitstechnik und dokumentierte Vorfallmeldungen für das KI-Risikomanagement, betont aber, dass dieser Ansatz allein keine KI-Sicherheit garantiert.

  90. The argument for holistic AI audits oecd · 2023 · Q005696 · Hintergrund, keine Belege

    Der Beitrag empfiehlt umfassende KI-Audits, die technische Ergebnisse und Governance gemeinsam prüfen, weil jeder Ansatz für sich wichtige Risiken übersehen kann.

  91. The United States works with domestic and international AI communities to establish frameworks that advance trustworthy AI for all oecd · 2023 · Q005707 · Hintergrund, keine Belege

    Die US-Regierung will laut Bericht KI durch Risikomanagement, Sicherheitsmaßnahmen und internationale Abstimmung vertrauenswürdiger gestalten; die Darstellung beschreibt vor allem Ziele und laufende Vorhaben, nicht deren unabhängig geprüfte Wirkung.

  92. Information Security Technology-Security Specification and Assessment Methods for Machine Learning Algorithms cset · 2023 · Q005723 · Hintergrund, keine Belege

    Nur ein Auszug: Der chinesische Standardentwurf soll die Sicherheit von ML-Algorithmen adressieren, doch konkrete Vorgaben und Bewertungsmethoden sind im Text nicht enthalten.

  93. Comment on NIST Draft Standards for Reliable, Robust, and Trustworthy Artificial Intelligence cset · 2019 · Q005766 · Hintergrund, keine Belege

    Der vorliegende Auszug aus CSETs Stellungnahme empfiehlt Grundlagenforschung und ein nationales NIST-Testfeld, um Standards für vertrauenswürdige KI zu entwickeln.

  94. Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023 oecd · 2023 · Q005767 · Hintergrund, keine Belege

    Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.

  95. Paul Christiano joins OpenAI Foundation Board openai · 2026 · Q005950 · Hintergrund, keine Belege

    OpenAI kündigt Paul Christianos Berufung in Foundation-Vorstand und Sicherheitsausschuss an und begründet sie mit seiner Erfahrung in KI-Alignment und Risikobewertung.

  96. A law for foundation models: the EU AI Act can improve regulation for fairer competition oecd · 2023 · Q006018 · Hintergrund, keine Belege

    Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.

  97. Basic safety requirements for AI risk management oecd · 2023 · Q006069 · Hintergrund, keine Belege

    Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.

  98. Priorities and principles for effective third party assessments openai · 2026 · Q006220 · Hintergrund, keine Belege

    OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.

  99. Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows oecd · 2021 · Q006823 · Hintergrund, keine Belege

    Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.

  100. Deepening our collaboration with the U.S. Department of Energy openai · 2025 · Q006946 · Hintergrund, keine Belege

    OpenAI und das US-Energieministerium wollen mögliche KI- und Hochleistungsrechen-Kooperationen für die Wissenschaft erkunden; konkrete Folgeprojekte und Ergebnisse stehen laut Bericht noch aus.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →