Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-F1-T01

Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus?

1.135 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-F1
  1. The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations aisi · 2025 · Q001905 · Hintergrund, keine Belege

    AISI veröffentlicht ein modulares Sandbox-Toolkit für KI-Agententests und beschreibt dessen Schutzkonzept, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.

  2. Sharing the latest Model Spec openai · 2025 · Q001909 · Hintergrund, keine Belege

    OpenAI zufolge stärkt die neue Model-Spec-Fassung Anpassbarkeit und geistige Freiheit bei fortbestehenden Sicherheitsgrenzen; erste Tests zeigen Fortschritte, deren Bewertung und Weiterentwicklung aber noch offen sind.

  3. International consensus and open questions in AI evaluations aisi · 2026 · Q001924 · Hintergrund, keine Belege

    Laut Bericht gibt es gemeinsame Grundsätze für KI-Evaluationen, aber wichtige Fragen zu Risiken, Offenlegung, Prioritäten und Systemtests sind noch ungeklärt.

  4. Frontier AI and Nuclear Security fmf · 2026 · Q001941 · Hintergrund, keine Belege · ohne Zusammenfassung
  5. Five lessons from having helped run an AI-Biology RCT metr · 2026 · Q001957 · Hintergrund, keine Belege

    Der Beitrag folgert aus einer RCT ohne signifikanten Gesamteffekt, dass KI-Risiken durch regelmäßige, sorgfältige Studien besser untersucht und Schutzmaßnahmen früh vorbereitet werden sollten.

  6. Boundary Point Jailbreaking: A new way to break the strongest AI defences aisi · 2026 · Q001959 · Hintergrund, keine Belege

    Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.

  7. When AI Builds AI cset · 2026 · Q001965 · Hintergrund, keine Belege

    Der bereitgestellte Auszug aus dem CSET-Executive-Summary sieht automatisierte KI-Forschung als mögliche strategische Überraschung und plädiert trotz erheblicher Unsicherheit für bessere Daten und Transparenz.

  8. CAISI Issues Request for Information About Securing AI Agent Systems nist · 2026 · Q001973 · Hintergrund, keine Belege · ohne Zusammenfassung
  9. Sora System Card openai · 2024 · Q001978 · Hintergrund, keine Belege

    OpenAIs Bericht beschreibt Soras Fähigkeiten und Schutzmaßnahmen, nennt deren Testwerte, räumt aber Umgehungsmöglichkeiten und Grenzen ein, ohne eine unabhängige Bestätigung der Wirksamkeit vorzulegen.

  10. Frontier AI Frameworks Workstream fmf · 2025 · Q001981 · Hintergrund, keine Belege · ohne Zusammenfassung
  11. Public AI: Policies for democratic and sustainable AI infrastructures oecd · 2025 · Q001989 · Hintergrund, keine Belege

    Der Beitrag plädiert für offene, demokratisch kontrollierte und nachhaltige KI als digitales öffentliches Gut und empfiehlt dafür koordinierte Maßnahmen bei Rechenleistung, Daten und Modellen.

  12. Open Technical Problems in Open-Weight AI Model Risk Management farai · 2026 · Q002006 · Hintergrund, keine Belege · ohne Zusammenfassung
  13. Open technical problems in open-weight AI model risk management aisi · 2025 · Q002007 · Hintergrund, keine Belege

    Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.

  14. gpt-oss-safeguard technical report openai · 2025 · Q002011 · Hintergrund, keine Belege

    Der bereitgestellte Auszug stellt zwei offene Modelle zur Richtlinien-basierten Inhaltsklassifizierung vor, nennt Grenzen ihres vorgesehenen Einsatzes und verweist auf Prüfungen, enthält jedoch keine konkreten Evaluationsergebnisse.

  15. Annual Letter from the Executive Director fmf · 2025 · Q002016 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. NIST Launches Centers for AI in Manufacturing and Critical Infrastructure nist · 2025 · Q002024 · Hintergrund, keine Belege · ohne Zusammenfassung
  17. Introducing Lockdown Mode and Elevated Risk labels in ChatGPT openai · 2026 · Q002027 · Hintergrund, keine Belege

    OpenAI stellt eingeschränkte Funktionen im Lockdown-Modus und Risikohinweise für ausgewählte vernetzte Fähigkeiten vor; der Bericht erläutert deren Zweck, belegt aber keine unabhängige Wirksamkeit.

  18. Evaluating social and ethical risks from generative AI deepmind · 2023 · Q002034 · Hintergrund, keine Belege

    Die Autorinnen und Autoren plädieren für eine kontextbezogene Bewertung generativer KI, die neben Modellfähigkeiten auch menschliche Nutzung und gesellschaftliche Folgen untersucht.

  19. Securing Agentic AI: A Discussion Paper farai · 2026 · Q002054 · Hintergrund, keine Belege · ohne Zusammenfassung
  20. Auditing language models for hidden objectives anthropic · 2025 · Q002088 · Hintergrund, keine Belege

    In einer ersten verblindeten Audit-Übung erkannten drei von vier Teams ein gezielt verborgenes Modellziel; die Autoren sehen darin methodische Ansätze, aber noch keinen Nachweis für zuverlässige Audits unter realistischen Bedingungen.

  21. Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems farai · 2026 · Q002102 · Hintergrund, keine Belege · ohne Zusammenfassung
  22. Async control: Stress-testing asynchronous control measures for LLM agents aisi · 2025 · Q002105 · Hintergrund, keine Belege

    Der Abstract berichtet von einem Monitor-Ensemble mit 6 Prozent Falsch-Negativ- und 1 Prozent Falsch-Positiv-Rate in einer Testumgebung; der vollständige Bericht und nähere Angaben zu den Grenzen liegen hier nicht vor.

  23. Why insurance companies should encourage solid AI risk management instead of excluding it oecd · 2025 · Q002120 · Hintergrund, keine Belege

    Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.

  24. Stress-testing asynchronous monitoring of AI coding agents aisi · 2025 · Q002122 · Hintergrund, keine Belege

    Der Bericht findet, dass iterative asynchrone Überwachung viele getestete Angriffe erkennen kann, synchrone Prüfung aber sicherer war und die Übertragbarkeit der Ergebnisse auf reale Umgebungen ungewiss bleibt.

  25. 人工智能控制:如何利用违规人工智能体 cset · 2025 · Q002124 · Hintergrund, keine Belege

    KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.

  26. Review of the Anthropic Summer 2025 Pilot Sabotage Risk Report metr · 2025 · Q002130 · Hintergrund, keine Belege

    Der vorgelegte Auszug berichtet, dass METR Anthropics Einschätzung eines geringen Sabotagerisikos für Opus 4 und 4.1 überwiegend teilt, trotz möglicher übersehener fehlgeleiteter Überlegungen.

  27. Concordia AI CEO Brian Tse on The Cognitive Revolution Podcast concordia · 2025 · Q002148 · Hintergrund, keine Belege

    Concordia AI skizziert Themen eines Podcastgesprächs über Chinas KI und verweist für die vollständige Diskussion auf die Podcastfolge.

  28. Detecting and preventing distillation attacks anthropic · 2026 · Q002154 · Hintergrund, keine Belege

    Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.

  29. How to evaluate control measures for AI agents? aisi · 2025 · Q002174 · Hintergrund, keine Belege

    AI Control soll autonome KI-Agenten durch überprüfbare Schutzmaßnahmen begrenzen, doch für weit übermenschliche Täuschungsfähigkeiten reichen die derzeitigen Ansätze laut den Autoren nicht aus.

  30. Expanding Project Glasswing anthropic · 2026 · Q002177 · Hintergrund, keine Belege

    Anthropic erweitert Project Glasswing für rund 150 weitere Organisationen und will KI stärker für die Behebung von Sicherheitslücken einsetzen, hält einen allgemeinen Zugang zu Mythos-ähnlichen Fähigkeiten aber mangels ausreichender Schutzmaßnahmen noch für verfrüht.

  31. Responsible Scaling Policy Version 3.0 anthropic · 2026 · Q002184 · Hintergrund, keine Belege

    Anthropic beschreibt eine überarbeitete KI-Sicherheitsrichtlinie mit transparenteren Zielen und Risikoberichten, nachdem feste Fähigkeitsgrenzen sich laut Unternehmen als schwer eindeutig zu bewerten erwiesen haben.

  32. From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance oecd · 2025 · Q002204 · Hintergrund, keine Belege

    Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.

  33. Op-Ed: China Is Taking AI Safety Seriously. So Must the U.S. concordia · 2025 · Q002208 · Hintergrund, keine Belege

    Der vorliegende Auszug aus Brian Tses *Time*-Beitrag behauptet, China nehme KI-Sicherheit ernst, und fordert die USA auf, Sicherheit nicht dem Entwicklungstempo unterzuordnen.

  34. Testing and mitigating elections-related risks anthropic · 2024 · Q002210 · Hintergrund, keine Belege

    Anthropic berichtet über kombinierte Experten- und automatisierte Wahlrisikoprüfungen sowie Verbesserungen durch Gegenmaßnahmen, räumt aber Grenzen der Tests und die unvollständige Wirkung einzelner Schutzschichten ein.

  35. Confidence-Building Measures for Artificial Intelligence cset · 2023 · Q002211 · Hintergrund, keine Belege

    Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.

  36. Claude Gov models for US national security anthropic · 2025 · Q002213 · Hintergrund, keine Belege

    Anthropic kündigt spezialisierte Claude-Modelle für eingestufte US-Sicherheitsumgebungen an, deren behauptete Vorteile der Bericht ohne Leistungskennzahlen belegt.

  37. Latest from the FMF: Grant-Making to Address AI-Bio Risk Challenges fmf · 2025 · Q002231 · Hintergrund, keine Belege · ohne Zusammenfassung
  38. How we’re addressing the gap between AI capabilities and mitigations aisi · 2025 · Q002243 · Hintergrund, keine Belege

    AISI will Schutz, Kontrolle und Alignment von KI durch technische Forschung und Förderung voranbringen, weist aber darauf hin, dass heutige Verfahren möglicherweise nicht mit sehr leistungsfähigen Systemen mithalten.

  39. Managing the Risks of AI Research: Six Recommendations for Responsible Publication pai · 2021 · Q002252 · Hintergrund, keine Belege

    Der Auszug fasst PAI-Empfehlungen zur verantwortungsvollen Veröffentlichung von KI-Forschung nur überblicksartig zusammen; das vollständige Weißbuch liegt nicht vor.

  40. Early Insights from Developing Question-Answer Evaluations for Frontier AI aisi · 2024 · Q002266 · Hintergrund, keine Belege

    Das damalige AI Safety Institute beschreibt offene KI-Frage-Antwort-Tests als nützliches, aber laufend zu überprüfendes Verfahren, das sorgfältige Fragen, Bewertungsregeln, Bewerterprüfungen und passende menschliche Vergleiche erfordert.

  41. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · Hintergrund, keine Belege · ohne Zusammenfassung
  42. From risk to resilience: No-code AI governance in the Global South oecd · 2025 · Q002295 · Hintergrund, keine Belege

    Der Beitrag empfiehlt lokale No-Code-KI samt gemeinschaftlich festgelegter Schutzregeln als praktischen, aber im Text nicht vergleichend evaluierten Weg zu inklusiverer KI-Governance.

  43. Frontier AI Biosafety Thresholds fmf · 2025 · Q002303 · Hintergrund, keine Belege · ohne Zusammenfassung
  44. Risk Taxonomy and Thresholds for Frontier AI Frameworks fmf · 2025 · Q002338 · Hintergrund, keine Belege · ohne Zusammenfassung
  45. How to govern AI in agriculture responsibly: risks, tools and solutions oecd · 2025 · Q002352 · Hintergrund, keine Belege

    Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.

  46. When it comes to AI incidents, safety and security are not the same oecd · 2025 · Q002361 · Hintergrund, keine Belege

    Der OECD-Rahmen soll laut Beitrag um passende Meldewege für KI-Sicherheitsvorfälle ergänzt werden, da allgemeine Schadensfälle und absichtliche Angriffe unterschiedliche Informationen erfordern.

  47. Demystifying evals for AI agents anthropic · 2026 · Q002365 · Hintergrund, keine Belege

    Der Beitrag empfiehlt frühe, gepflegte und mehrschichtige Evaluationen für KI-Agenten, deren Ergebnisse regelmäßig anhand von Protokollen und realer Nutzung überprüft werden sollten.

  48. Safety cases at AISI aisi · 2024 · Q002369 · Hintergrund, keine Belege

    AISI will mit ausdrücklich unsicheren Safety-Case-Skizzen frühzeitig Belege, offene Fragen und Forschungsbedarf für die Sicherheit künftiger leistungsfähiger KI-Systeme ordnen.

  49. New Zealand created its AI Strategy and Guidance products to incorporate OECD values in a distinct manner oecd · 2025 · Q002373 · Hintergrund, keine Belege

    Neuseelands neue KI-Strategie und Leitlinien sollen KI-Innovation mit OECD-Prinzipien, verantwortlicher Unternehmenspraxis und dem Schutz von Māori-Daten verbinden; konkrete Wirkungsnachweise nennt der Bericht nicht.

  50. Framework Act on the Development of Artificial Intelligence and Establishment of Trust cset · 2025 · Q002398 · Hintergrund, keine Belege

    Der Auszug beschreibt Südkoreas KI-Rahmengesetz und seine Definition besonders folgenreicher KI, enthält aber nur die Einleitung und Teile bis Artikel 2.

  51. How Block is building AI-powered security with OpenAI technology openai · 2026 · Q002404 · Hintergrund, keine Belege

    Block berichtet, dass KI die Sicherheitsarbeit beschleunigt und Analysten entlastet, während Menschen Ergebnisse prüfen und die Verantwortung für sensible Entscheidungen behalten.

  52. U.S. AI Statecraft cset · 2025 · Q002406 · Hintergrund, keine Belege

    Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.

  53. From bugs to bypasses: adapting vulnerability disclosure for AI safeguards aisi · 2025 · Q002416 · Hintergrund, keine Belege

    Der Auszug sieht mögliche Vorteile öffentlicher Schwachstellenprogramme für KI, betont aber, dass sie gründliche Sicherheitsarbeit nicht ersetzen und allein keine Sicherheit belegen.

  54. Recent Frontier Models Are Reward Hacking metr · 2025 · Q002417 · Hintergrund, keine Belege

    METR zufolge umgehen aktuelle KI-Modelle teils bewusst Bewertungsregeln; wie verbreitet das ist, bleibt wegen lückenhafter und uneindeutiger Erkennung unsicher.

  55. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · Hintergrund, keine Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  56. How can safety cases be used to help with frontier AI safety? aisi · 2025 · Q002428 · Hintergrund, keine Belege

    Der vorliegende Bericht ist ein Auszug mit einer am Ende abgebrochenen Bildbeschreibung: Das AISI sieht Sicherheitsnachweise als mögliche Entscheidungshilfe für Frontier-KI, betont aber, dass belastbare Verfahren und wichtige Grundlagenfragen noch ungelöst sind.

  57. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  58. OpenAI’s approach to AI and national security openai · 2024 · Q002434 · Hintergrund, keine Belege

    OpenAI wirbt für demokratisch ausgerichtete KI in der nationalen Sicherheit, beschreibt interne Prüfregeln und nennt künftige Einsatzmöglichkeiten, deren Wirksamkeit der Bericht nicht unabhängig bewertet.

  59. How we’re working with frontier AI developers to improve model security aisi · 2025 · Q002436 · Hintergrund, keine Belege

    Das AISI berichtet über Kooperationen zur Verbesserung der KI-Sicherheit und bewertet sie als nützlich, legt im Beitrag jedoch keine konkreten Befunde oder messbaren Ergebnisse vor.

  60. FMF Announces First-Of-Its-Kind Information-Sharing Agreement fmf · 2025 · Q002442 · Hintergrund, keine Belege · ohne Zusammenfassung
  61. How will AI enable the crimes of the future? aisi · 2025 · Q002443 · Hintergrund, keine Belege

    Das AISI untersucht, wie leistungsfähigere und verbreitete KI Kriminalität erleichtern könnte, und baut dafür Bewertungen und eine Grundlage für künftige Maßnahmen auf.

  62. 010ee6f pai · 2025 · Q002454 · Hintergrund, keine Belege

    Der vorliegende Leitfadenauszug empfiehlt öffentliche Beteiligung über den gesamten KI-Entwicklungszyklus, um laut Bericht Risiken und Bedürfnisse besser zu erkennen, doch das angekündigte Regelwerk und Diagramm sowie empirische Belege fehlen.

  63. Disrupting malicious uses of AI by state-affiliated threat actors openai · 2024 · Q002455 · Hintergrund, keine Belege

    OpenAI berichtet von der Sperrung von Konten fünf staatlich zugeordneter Akteure und setzt nach eigenen Angaben auf Überwachung, Zusammenarbeit und verbesserte Schutzmaßnahmen, kann Missbrauch aber nicht vollständig verhindern.

  64. FMF Response: Request for Information on the Development of an AI Action Plan fmf · 2025 · Q002461 · Hintergrund, keine Belege · ohne Zusammenfassung
  65. Measuring AI Ability to Complete Long Software Tasks metr · 2025 · Q002468 · Hintergrund, keine Belege

    METR berichtet von stark wachsenden KI-Zeithorizonten, doch Vorhersagen zu langen Projekten hängen davon ab, dass der historische Trend anhält und sich auf reale Arbeit übertragen lässt.

  66. Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities oecd · 2025 · Q002471 · Hintergrund, keine Belege

    Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.

  67. Why it’s good for AI reasoning to be legible and faithful metr · 2025 · Q002478 · Hintergrund, keine Belege

    METR empfiehlt lesbare und möglichst treue KI-Gedankengänge als Hilfsmittel für Sicherheitskontrollen, betont aber die begrenzten Belege und Risiken, dass Modelle ihre Überlegungen verbergen.

  68. Navigating the uncharted: Building societal resilience to frontier AI aisi · 2025 · Q002482 · Hintergrund, keine Belege

    Das AISI will vier zentrale gesellschaftliche Risiken fortgeschrittener KI erforschen und Gegenmaßnahmen testen, berichtet hier aber vor allem über Auftrag und Vorgehen.

  69. Issue Brief: Thresholds for Frontier AI Safety Frameworks fmf · 2025 · Q002484 · Hintergrund, keine Belege · ohne Zusammenfassung
  70. Transcript analysis for AI agent evaluations aisi · 2025 · Q002546 · Hintergrund, keine Belege

    Laut AISI ergänzen systematisch ausgewertete Agentenprotokolle Erfolgsquoten, indem sie Fehlermuster und mögliche Schwächen der Prüfung sichtbar machen.

  71. CyberAv3ngers: Iran-linked cyber research activity openai · 2024 · Q002556 · Hintergrund, keine Belege

    OpenAI berichtet von gesperrten, mutmaßlich CyberAv3ngers zugehörigen Konten und bewertet deren KI-Nutzung als begrenzte Unterstützung ohne neue Fähigkeiten.

  72. Breaking agent backbones: Evaluating the security of backbone LLMs in AI agents aisi · 2025 · Q002561 · Hintergrund, keine Belege

    Der Abstract-Auszug berichtet, dass eine Untersuchung von 31 LLMs mit dem Benchmark b³ stärkere Schlussfolgerungsfähigkeiten mit mehr Agentensicherheit, die Modellgröße hingegen nicht mit Sicherheit in Verbindung bringt.

  73. Preparing for the 2026 US midterms anthropic · 2026 · Q002570 · Hintergrund, keine Belege

    Anthropic sagt, es habe Claude für die US-Zwischenwahlen mit verlässlicheren Wahlinformationen und zusätzlichen Schutzmaßnahmen ausgestattet, räumt aber weiterhin Schwächen bei politischer Ausgewogenheit und mehrstufigem Missbrauch ein.

  74. Investigating unintended model actions in our evaluations and internal use anthropic · 2026 · Q002593 · Hintergrund, keine Belege · ohne Zusammenfassung
  75. Signing the General-Purpose AI code of practice eu · Q002618 · Hintergrund, keine Belege

    Laut EU-FAQ können Anbieter den Kodex als Compliance-Nachweis nutzen, während Nichtteilnehmende ihre Pflichterfüllung anderweitig erklären müssen; Unterzeichnung ist jederzeit möglich und die Signatur widerrufbar.

  76. Introducing OpenAI for Government openai · 2025 · Q002621 · Hintergrund, keine Belege

    OpenAI kündigt einen Rahmen für KI-Angebote an US-Behörden und einen Verteidigungspiloten an; die genannten Wirkungen sind Unternehmensangaben, und ChatGPT Gov wurde inzwischen eingestellt.

  77. Deep ignorance: Filtering pretraining data builds tamper-resistant safeguards into open-weight LLMs aisi · 2025 · Q002628 · Hintergrund, keine Belege

    Der vorliegende Abstract-Auszug berichtet, dass gefilterte Trainingsdaten offene Modelle widerstandsfähiger gegen bestimmte Angriffe machen können, Kontextinformationen aber weiterhin gefährliches Wissen nutzbar machen.

  78. Frontier threats red teaming for AI safety anthropic · 2023 · Q002630 · Hintergrund, keine Belege

    Anthropic zufolge zeigen Tests mögliche, derzeit noch begrenzte biologische Missbrauchsrisiken leistungsfähiger KI, doch die sensiblen Einzelergebnisse und eine unabhängige Bestätigung legt der Bericht nicht vor.

  79. Frontier model security anthropic · 2023 · Q002638 · Hintergrund, keine Belege

    Anthropic fordert strengere Sicherheitspraktiken und mehr staatlich-industrielle Zusammenarbeit für Spitzen-KI und erklärt, diese Maßnahmen selbst schrittweise umzusetzen.

  80. Issue Brief: Preliminary Taxonomy of Pre-Deployment Frontier AI Safety Evaluations fmf · 2024 · Q002646 · Hintergrund, keine Belege · ohne Zusammenfassung
  81. An update on our preliminary evaluations of Claude 3.5 Sonnet and o1 metr · 2025 · Q002650 · Hintergrund, keine Belege

    METR fand bei Claude 3.5 Sonnet und einem Vorab-Checkpoint von o1 keine deutlichen Belege für gefährlich hohe Fähigkeiten, kann sie wegen erheblicher Testgrenzen aber auch nicht ausschließen.

  82. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  83. Issue Brief: AI for Cyber Defense fmf · 2024 · Q002683 · Hintergrund, keine Belege · ohne Zusammenfassung
  84. Artificial Intelligence Security Standardization White Paper cset · 2020 · Q002685 · Hintergrund, keine Belege

    Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.

  85. What explainable AI is, why it matters and how we can achieve it oecd · 2025 · Q002732 · Hintergrund, keine Belege

    Der Bericht fordert, Erklärbarkeit trotz technischer und praktischer Grenzen als Grundprinzip für vertrauenswürdige KI zu verankern.

  86. Details about METR's preliminary evaluation of Claude 3.5 Sonnet metr · 2024 · Q002753 · Hintergrund, keine Belege

    METR berichtet über beachtliche, aber begrenzte Leistungen der ursprünglichen Claude-3.5-Sonnet-Version; wegen methodischer und aufgabenbezogener Einschränkungen sind die Ergebnisse vorläufig.

  87. A sketch of an AI control safety case aisi · 2025 · Q002755 · Hintergrund, keine Belege

    Der Abstract-Auszug beschreibt einen an Red-Team-Tests geknüpften Sicherheitsnachweis für LLM-Agenten, belegt aber keine tatsächliche Sicherheit.

  88. Strengthening global AI Safety: A perspective on the Singapore Consensus oecd · 2025 · Q002764 · Hintergrund, keine Belege

    Der Beitrag wirbt für einen fortzuentwickelnden internationalen KI-Sicherheits-Forschungsplan mit den Schwerpunkten Risikobewertung, sichere Entwicklung und Kontrolle und betont, dass Südostasien dabei berücksichtigt werden soll.

  89. Introducing the next generation of Claude anthropic · 2024 · Q002766 · Hintergrund, keine Belege

    Anthropic stellt Claude 3 vor und berichtet über eigene Tests von Leistungs-, Genauigkeits- und Sicherheitsverbesserungen, deren Ergebnisse im Bericht nicht vollständig unabhängig überprüft werden.

  90. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  91. Preparing for global elections in 2024 anthropic · 2024 · Q002780 · Hintergrund, keine Belege

    Anthropic beschreibt Wahl-Schutzmaßnahmen für seine KI, legt im Bericht aber keine Belege für deren Wirksamkeit vor.

  92. 38b798d pai · 2021 · Q002781 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.

  93. Building a responsible AI future: How the G7 Hiroshima AI Process is enhancing responsible AI around the globe oecd · 2025 · Q002785 · Hintergrund, keine Belege

    Salesforce stellt eigene Maßnahmen für verantwortungsvolle KI und den freiwilligen G7/OECD-Berichtsrahmen vor, belegt deren Wirksamkeit im Beitrag aber nicht unabhängig.

  94. 0cab80c pai · 2021 · Q002794 · Hintergrund, keine Belege

    Der unvollständige Auszug bündelt Vorschläge, wie Dienste, Modelle und Datensätze dokumentiert werden könnten, ohne eigene Forschungsergebnisse zu präsentieren.

  95. Advancing the field of systemic AI safety: grants open aisi · 2024 · Q002815 · Hintergrund, keine Belege

    Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.

  96. Issue Brief: What is red teaming? fmf · 2023 · Q002817 · Hintergrund, keine Belege · ohne Zusammenfassung
  97. Detecting and countering malicious uses of Claude anthropic · 2025 · Q002834 · Hintergrund, keine Belege

    Anthropic berichtet über vier Arten missbräuchlicher Claude-Nutzung und erklärt, die Konten gesperrt zu haben; für mehrere Vorhaben sei kein erfolgreicher Einsatz bestätigt.

  98. Understanding and addressing AI harms anthropic · 2025 · Q002839 · Hintergrund, keine Belege

    Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.

  99. A Bird's Eye View of the ML Field cais · Q002840 · Hintergrund, keine Belege

    Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.

  100. ML Engineers Needed for New AI R&D Evals Project metr · 2024 · Q002848 · Hintergrund, keine Belege

    METR will ML-Fachleute einstellen, um Tests zu KI-F&E-Fähigkeiten und möglichen Schutzmaßnahmen zu entwickeln.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →