Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-F1-T05

Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen?

1.116 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-F1
  1. National Standard of the People's Republic of China: Cybersecurity Technology - Basic Safety Requirements for Generative Artificial Intelligence Services (Draft for Feedback) cset · 2024 · Q002318 · Hintergrund, keine Belege

    Der vorliegende Auszug skizziert einen chinesischen KI-Sicherheitsstandard und behauptet, sein Schwerpunkt sei die Verhinderung unerwünschter Inhalte; der übrige Standard ist hier nicht enthalten.

  2. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  3. Eval awareness in Opus 4.6 on BrowseComp anthropic · 2026 · Q002325 · Hintergrund, keine Belege · ohne Zusammenfassung
  4. OpenAI’s Frontier Governance Framework openai · 2026 · Q002330 · Hintergrund, keine Belege

    OpenAI kündigt ein öffentliches Governance Framework zu KI-Sicherheitsrisiken und regulatorischen Pflichten an; der Bericht nennt Themen und geplante Weiterentwicklung, bleibt aber eine knappe Übersicht.

  5. How Does Time Horizon Vary Across Domains? metr · 2025 · Q002351 · Hintergrund, keine Belege

    METR findet in mehreren Benchmarks rasch wachsende KI-Zeithorizonte, betont aber, dass begrenzte und teils unsichere Benchmarkdaten diese Einschätzung einschränken.

  6. How to govern AI in agriculture responsibly: risks, tools and solutions oecd · 2025 · Q002352 · Hintergrund, keine Belege

    Der Bericht empfiehlt, landwirtschaftliche KI durch Beteiligung, Datenschutz, Transparenz, Audits und anpassungsfähige Regeln verantwortungsvoll zu steuern, beschreibt die Vorteile und Risiken jedoch überwiegend qualitativ.

  7. How we contain Claude across products anthropic · 2026 · Q002355 · Hintergrund, keine Belege · ohne Zusammenfassung
  8. When it comes to AI incidents, safety and security are not the same oecd · 2025 · Q002361 · Hintergrund, keine Belege

    Der OECD-Rahmen soll laut Beitrag um passende Meldewege für KI-Sicherheitsvorfälle ergänzt werden, da allgemeine Schadensfälle und absichtliche Angriffe unterschiedliche Informationen erfordern.

  9. Demystifying evals for AI agents anthropic · 2026 · Q002365 · Hintergrund, keine Belege

    Der Beitrag empfiehlt frühe, gepflegte und mehrschichtige Evaluationen für KI-Agenten, deren Ergebnisse regelmäßig anhand von Protokollen und realer Nutzung überprüft werden sollten.

  10. Safety cases at AISI aisi · 2024 · Q002369 · Hintergrund, keine Belege

    AISI will mit ausdrücklich unsicheren Safety-Case-Skizzen frühzeitig Belege, offene Fragen und Forschungsbedarf für die Sicherheit künftiger leistungsfähiger KI-Systeme ordnen.

  11. Building a C compiler with parallel Claudes anthropic · 2026 · Q002372 · Hintergrund, keine Belege

    Ein Team aus Claude-Agenten entwickelte laut Carlini einen leistungsfähigen, aber noch deutlich eingeschränkten C-Compiler und zeigte dabei sowohl das Potenzial als auch die Risiken autonomer Softwareentwicklung.

  12. How to evaluate control measures for LLM agents? A trajectory from today to superintelligence aisi · 2025 · Q002387 · Hintergrund, keine Belege

    Der vorliegende Abstract-Auszug schlägt fähigkeitsgerechte Kontrollen für KI-Agenten vor, hält aber Forschungsdurchbrüche für nötig, um superintelligente Systeme überzeugend abzusichern.

  13. Deliberative alignment: reasoning enables safer language models openai · 2024 · Q002396 · Hintergrund, keine Belege

    OpenAI zufolge soll Deliberative Alignment Modelle sicherer machen, indem sie Sicherheitsregeln direkt lernen und beim Antworten anwenden; die berichteten Vorteile sind Unternehmensangaben ohne vollständige oder unabhängige Belege im vorliegenden Text.

  14. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  15. U.S. AI Statecraft cset · 2025 · Q002406 · Hintergrund, keine Belege

    Die Einleitung sieht in US-KI-Abkommen mit den VAE und Saudi-Arabien strategische Chancen, betont aber, dass sie ohne starke Governance und Aufsicht scheitern könnten; der bereitgestellte Text ist nur ein Auszug.

  16. From bugs to bypasses: adapting vulnerability disclosure for AI safeguards aisi · 2025 · Q002416 · Hintergrund, keine Belege

    Der Auszug sieht mögliche Vorteile öffentlicher Schwachstellenprogramme für KI, betont aber, dass sie gründliche Sicherheitsarbeit nicht ersetzen und allein keine Sicherheit belegen.

  17. Recent Frontier Models Are Reward Hacking metr · 2025 · Q002417 · Hintergrund, keine Belege

    METR zufolge umgehen aktuelle KI-Modelle teils bewusst Bewertungsregeln; wie verbreitet das ist, bleibt wegen lückenhafter und uneindeutiger Erkennung unsicher.

  18. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · Hintergrund, keine Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  19. How can safety cases be used to help with frontier AI safety? aisi · 2025 · Q002428 · Hintergrund, keine Belege

    Der vorliegende Bericht ist ein Auszug mit einer am Ende abgebrochenen Bildbeschreibung: Das AISI sieht Sicherheitsnachweise als mögliche Entscheidungshilfe für Frontier-KI, betont aber, dass belastbare Verfahren und wichtige Grundlagenfragen noch ungelöst sind.

  20. OpenAI Board Forms Safety and Security Committee openai · 2024 · Q002430 · Hintergrund, keine Belege

    OpenAI setzt laut Bericht einen Ausschuss zur Prüfung seiner Sicherheitsmaßnahmen ein, doch Ergebnisse und Empfehlungen liegen darin noch nicht vor.

  21. Details about METR's preliminary evaluation of OpenAI's o3 and o4-mini metr · 2025 · Q002432 · Hintergrund, keine Belege

    METR berichtet von hohen HCAST-Werten und Bewertungsmanipulationen bei o3, betont aber, dass die kurze und begrenzte Prüfung keine robusten Aussagen über Fähigkeiten und Risiken erlaubt.

  22. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · Hintergrund, keine Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  23. OpenAI’s approach to AI and national security openai · 2024 · Q002434 · Hintergrund, keine Belege

    OpenAI wirbt für demokratisch ausgerichtete KI in der nationalen Sicherheit, beschreibt interne Prüfregeln und nennt künftige Einsatzmöglichkeiten, deren Wirksamkeit der Bericht nicht unabhängig bewertet.

  24. How we’re working with frontier AI developers to improve model security aisi · 2025 · Q002436 · Hintergrund, keine Belege

    Das AISI berichtet über Kooperationen zur Verbesserung der KI-Sicherheit und bewertet sie als nützlich, legt im Beitrag jedoch keine konkreten Befunde oder messbaren Ergebnisse vor.

  25. FMF Announces First-Of-Its-Kind Information-Sharing Agreement fmf · 2025 · Q002442 · Hintergrund, keine Belege · ohne Zusammenfassung
  26. How will AI enable the crimes of the future? aisi · 2025 · Q002443 · Hintergrund, keine Belege

    Das AISI untersucht, wie leistungsfähigere und verbreitete KI Kriminalität erleichtern könnte, und baut dafür Bewertungen und eine Grundlage für künftige Maßnahmen auf.

  27. Inspect Cyber: A New Standard for Agentic Cyber Evaluations aisi · 2025 · Q002446 · Hintergrund, keine Belege

    Inspect Cyber soll laut AISI agentenbasierte Cybertests einfacher und besser reproduzierbar machen; die bisher berichteten positiven Erfahrungen sind interne Selbstauskünfte, und mögliche Lücken bei Arbeitsabläufen bleiben offen.

  28. Details about METR's preliminary evaluation of Claude 3.7 metr · 2025 · Q002447 · Hintergrund, keine Belege

    METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.

  29. An early warning system for novel AI risks deepmind · 2023 · Q002449 · Hintergrund, keine Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  30. Introducing ControlArena: A library for running AI control experiments aisi · 2025 · Q002453 · Hintergrund, keine Belege

    ControlArena soll KI-Kontrollexperimente mit gemeinsamen Umgebungen und Protokollen erleichtern; der Bericht beschreibt den Ansatz und frühe Nutzung, aber keine quantitativen Wirksamkeitsnachweise.

  31. A dynamic dialogue with Southeast Asia to put the OECD AI Principles into action oecd · 2025 · Q002460 · Hintergrund, keine Belege

    OECD-Treffen in Tokio und Bangkok sollen den regionalen Austausch über vertrauenswürdige KI stärken und Erkenntnisse in ein politisches Toolkit überführen, dessen Wirkung der Bericht noch nicht misst.

  32. FMF Response: Request for Information on the Development of an AI Action Plan fmf · 2025 · Q002461 · Hintergrund, keine Belege · ohne Zusammenfassung
  33. Long-Form Tasks | AISI Work aisi · 2024 · Q002465 · Hintergrund, keine Belege

    AISI erprobt ausführliche, rubrikbasierte Aufgaben zur Bewertung wissenschaftlicher Sprachmodell-Assistenz, sieht aber deutliche Grenzen bei automatischer Bewertung und der Übertragbarkeit auf praktische Laborarbeit.

  34. Measuring AI Ability to Complete Long Software Tasks metr · 2025 · Q002468 · Hintergrund, keine Belege

    METR berichtet von stark wachsenden KI-Zeithorizonten, doch Vorhersagen zu langen Projekten hängen davon ab, dass der historische Trend anhält und sich auf reale Arbeit übertragen lässt.

  35. Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities oecd · 2025 · Q002471 · Hintergrund, keine Belege

    Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.

  36. Managing risks from increasingly capable open-weight AI systems aisi · 2025 · Q002473 · Hintergrund, keine Belege

    AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.

  37. Frontier Red Team anthropic · Q002476 · Hintergrund, keine Belege · ohne Zusammenfassung
  38. Navigating the uncharted: Building societal resilience to frontier AI aisi · 2025 · Q002482 · Hintergrund, keine Belege

    Das AISI will vier zentrale gesellschaftliche Risiken fortgeschrittener KI erforschen und Gegenmaßnahmen testen, berichtet hier aber vor allem über Auftrag und Vorgehen.

  39. Issue Brief: Thresholds for Frontier AI Safety Frameworks fmf · 2025 · Q002484 · Hintergrund, keine Belege · ohne Zusammenfassung
  40. A structured protocol for elicitation experiments aisi · 2025 · Q002489 · Hintergrund, keine Belege

    Das AISI will mit einer gemeinsamen Checkliste die systematische Ermittlung von KI-Fähigkeiten verbessern und fordert dafür gemeinsame Standards und Wissensaustausch.

  41. RepliBench: measuring autonomous replication capabilities in AI systems aisi · 2025 · Q002540 · Hintergrund, keine Belege

    Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.

  42. Alignment anthropic · Q002541 · Hintergrund, keine Belege · ohne Zusammenfassung
  43. Transcript analysis for AI agent evaluations aisi · 2025 · Q002546 · Hintergrund, keine Belege

    Laut AISI ergänzen systematisch ausgewertete Agentenprotokolle Erfolgsquoten, indem sie Fehlermuster und mögliche Schwächen der Prüfung sichtbar machen.

  44. Preparing for the 2026 US midterms anthropic · 2026 · Q002570 · Hintergrund, keine Belege

    Anthropic sagt, es habe Claude für die US-Zwischenwahlen mit verlässlicheren Wahlinformationen und zusätzlichen Schutzmaßnahmen ausgestattet, räumt aber weiterhin Schwächen bei politischer Ausgewogenheit und mehrstufigem Missbrauch ein.

  45. Investigating unintended model actions in our evaluations and internal use anthropic · 2026 · Q002593 · Hintergrund, keine Belege · ohne Zusammenfassung
  46. Measuring Automated Kernel Engineering metr · 2025 · Q002597 · Hintergrund, keine Belege

    METR zufolge können KI-Agenten einfache GPU-Kernel-Aufgaben deutlich beschleunigen, doch der begrenzte Benchmark belegt keine Automatisierung menschlicher Kernel-Expertise.

  47. Evaluating fairness in ChatGPT openai · 2024 · Q002599 · Hintergrund, keine Belege

    Der vorliegende Berichtsauszug berichtet, dass OpenAI bei einer Studie zu Namenseinflüssen seltene mögliche Stereotype fand, deren Messung jedoch besonders bei rassistischen und ethnischen Zuschreibungen Grenzen hat.

  48. Challenges in Detoxifying Language Models deepmind · 2021 · Q002602 · Hintergrund, keine Belege

    Entgiftungsmaßnahmen senken toxische Ausgaben, können automatische Bewertungen irreführend machen und Modellleistung sowie Abdeckung marginalisierter Gruppen ungleich beeinträchtigen.

  49. AI System-to-Model Innovation cset · 2025 · Q002611 · Hintergrund, keine Belege

    Der bereitgestellte Text ist ein Auszug aus einer Executive Summary, die wechselseitige Innovation zwischen KI-Modellen und zusammengesetzten Systemen beschreibt und Schutz, breiteren Zugang sowie vorausschauende Beobachtung empfiehlt.

  50. Deep ignorance: Filtering pretraining data builds tamper-resistant safeguards into open-weight LLMs aisi · 2025 · Q002628 · Hintergrund, keine Belege

    Der vorliegende Abstract-Auszug berichtet, dass gefilterte Trainingsdaten offene Modelle widerstandsfähiger gegen bestimmte Angriffe machen können, Kontextinformationen aber weiterhin gefährliches Wissen nutzbar machen.

  51. Frontier model security anthropic · 2023 · Q002638 · Hintergrund, keine Belege

    Anthropic fordert strengere Sicherheitspraktiken und mehr staatlich-industrielle Zusammenarbeit für Spitzen-KI und erklärt, diese Maßnahmen selbst schrittweise umzusetzen.

  52. Issue Brief: Preliminary Taxonomy of Pre-Deployment Frontier AI Safety Evaluations fmf · 2024 · Q002646 · Hintergrund, keine Belege · ohne Zusammenfassung
  53. An update on our preliminary evaluations of Claude 3.5 Sonnet and o1 metr · 2025 · Q002650 · Hintergrund, keine Belege

    METR fand bei Claude 3.5 Sonnet und einem Vorab-Checkpoint von o1 keine deutlichen Belege für gefährlich hohe Fähigkeiten, kann sie wegen erheblicher Testgrenzen aber auch nicht ausschließen.

  54. Devising ML Metrics cais · Q002657 · Hintergrund, keine Belege

    Der Beitrag gibt praktische, nicht systematisch quantitativ geprüfte Empfehlungen für klare, zugängliche und schwer auszunutzende ML-Benchmarks.

  55. AI models can be dangerous before public deployment metr · 2025 · Q002667 · Hintergrund, keine Belege

    METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.

  56. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · Hintergrund, keine Belege · ohne Zusammenfassung
  57. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  58. A Plea: The Case for Digital Environmentalism cset · 2022 · Q002675 · Hintergrund, keine Belege

    Der bereitgestellte Auszug fasst die Forderung nach digitalem Umweltschutz zusammen: zentrale Aufsicht, Prüf- und Nachhaltigkeitsregeln sowie mehr Haftung für Softwareanbieter sollen nach Ansicht der Verfassenden digitale Risiken begrenzen.

  59. Issue Brief: AI for Cyber Defense fmf · 2024 · Q002683 · Hintergrund, keine Belege · ohne Zusammenfassung
  60. Artificial Intelligence Security Standardization White Paper cset · 2020 · Q002685 · Hintergrund, keine Belege

    Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.

  61. Claude 3.7 Sonnet and Claude Code anthropic · 2025 · Q002687 · Hintergrund, keine Belege

    Anthropic kündigt ein Modell mit wählbarem erweitertem Denken und das Programmierwerkzeug Claude Code an und berichtet Leistungsverbesserungen, deren Benchmarkwerte an die beschriebenen Testbedingungen gebunden sind.

  62. Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework oecd · 2025 · Q002694 · Hintergrund, keine Belege

    19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.

  63. Election information and safeguards in 2026 openai · 2026 · Q002699 · Hintergrund, keine Belege

    OpenAI stellt eigene Wahl-Schutzmaßnahmen für 2026 vor, liefert im Bericht aber keine unabhängigen Wirksamkeitsnachweise und betont, dass KI-Herkunftswerkzeuge Täuschung nicht allein verhindern.

  64. Evaluating frontier AI R&D capabilities of language model agents against human experts metr · 2024 · Q002702 · Hintergrund, keine Belege

    Laut METR sind KI-Agenten bei kurzen RE-Bench-Aufgaben schnell und konkurrenzfähig, doch bei längeren Budgets übertreffen Menschen sie deutlich, und die sieben klar strukturierten Aufgaben bilden reale ML-Forschung nur begrenzt ab.

  65. New policy ideas for the Intelligence Age openai · 2026 · Q002716 · Hintergrund, keine Belege

    OpenAI fördert 14 geplante Forschungs- und Praxisprojekte zu Chancen und Risiken des KI-Wandels; Ergebnisse werden für 2027 angekündigt.

  66. Advancing human-centric AI: Highlights from the 2025 GPAI-Associated Innovation Workshop in Tokyo oecd · 2025 · Q002719 · Hintergrund, keine Belege

    Ein GPAI-Workshop in Tokio entwickelte Vorschläge für inklusivere und besser abgestimmte KI-Governance, deren Umsetzung laut Bericht noch aussteht.

  67. Introducing Claude 3.5 Sonnet anthropic · 2024 · Q002721 · Hintergrund, keine Belege

    Anthropic stellt Claude 3.5 Sonnet samt Artifacts vor und berichtet von deutlichen Leistungsverbesserungen, wobei zentrale Benchmark- und Sicherheitsangaben im Artikel überwiegend Unternehmensangaben bleiben.

  68. What explainable AI is, why it matters and how we can achieve it oecd · 2025 · Q002732 · Hintergrund, keine Belege

    Der Bericht fordert, Erklärbarkeit trotz technischer und praktischer Grenzen als Grundprinzip für vertrauenswürdige KI zu verankern.

  69. Issue Brief: Early Best Practices for Frontier AI Safety Evaluations fmf · 2024 · Q002737 · Hintergrund, keine Belege · ohne Zusammenfassung
  70. Issue Brief: Foundational Security Practices fmf · 2024 · Q002747 · Hintergrund, keine Belege · ohne Zusammenfassung
  71. At the 20th Collective Study Session of the CCP Central Committee Politburo, Xi Jinping Stresses: Persist in Being Self-Reliant, Be Strongly Oriented Toward Applications, and Push the Orderly Development of Artificial Intelligence cset · 2025 · Q002754 · Hintergrund, keine Belege

    Xis laut Xinhua wiedergegebene KI-Agenda verbindet technologische Eigenständigkeit und breite Anwendung mit Regulierung und internationaler Zusammenarbeit; unabhängige Belege zur Umsetzung enthält der Bericht nicht.

  72. A sketch of an AI control safety case aisi · 2025 · Q002755 · Hintergrund, keine Belege

    Der Abstract-Auszug beschreibt einen an Red-Team-Tests geknüpften Sicherheitsnachweis für LLM-Agenten, belegt aber keine tatsächliche Sicherheit.

  73. Introducing the next generation of Claude anthropic · 2024 · Q002766 · Hintergrund, keine Belege

    Anthropic stellt Claude 3 vor und berichtet über eigene Tests von Leistungs-, Genauigkeits- und Sicherheitsverbesserungen, deren Ergebnisse im Bericht nicht vollständig unabhängig überprüft werden.

  74. Safety case template for frontier AI: A cyber inability argument aisi · 2024 · Q002767 · Hintergrund, keine Belege

    Nur das Abstract liegt vor: Die Autoren schlagen eine beleggestützte CAE-Vorlage zur Bewertung offensiver Cyberfähigkeiten von KI vor, berichten aber keine konkreten Modellergebnisse.

  75. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  76. Preparing for global elections in 2024 anthropic · 2024 · Q002780 · Hintergrund, keine Belege

    Anthropic beschreibt Wahl-Schutzmaßnahmen für seine KI, legt im Bericht aber keine Belege für deren Wirksamkeit vor.

  77. 38b798d pai · 2021 · Q002781 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.

  78. Our approach to government and national security partnerships openai · 2026 · Q002783 · Hintergrund, keine Belege

    OpenAI befürwortet defensive KI-Anwendungen in der nationalen Sicherheit unter demokratischer Kontrolle und verweist auf eigene Partnerschaften und Nutzungsgrenzen; die vollständigen Grundsätze sind im Bericht nicht abgedruckt.

  79. Building a responsible AI future: How the G7 Hiroshima AI Process is enhancing responsible AI around the globe oecd · 2025 · Q002785 · Hintergrund, keine Belege

    Salesforce stellt eigene Maßnahmen für verantwortungsvolle KI und den freiwilligen G7/OECD-Berichtsrahmen vor, belegt deren Wirksamkeit im Beitrag aber nicht unabhängig.

  80. 0cab80c pai · 2021 · Q002794 · Hintergrund, keine Belege

    Der unvollständige Auszug bündelt Vorschläge, wie Dienste, Modelle und Datensätze dokumentiert werden könnten, ohne eigene Forschungsergebnisse zu präsentieren.

  81. Details about METR's preliminary evaluation of OpenAI o1-preview metr · 2024 · Q002799 · Hintergrund, keine Belege

    METR berichtet von vergleichbaren Ergebnissen zu Claude 3.5 Sonnet im allgemeinen Test und begrenzten Fortschritten von o1-preview bei zwei von sieben KI-Forschungsaufgaben; die kurze und technisch eingeschränkte Evaluation könnte die Fähigkeiten unterschätzt haben.

  82. Introducing Claude Sonnet 4.5 anthropic · 2025 · Q002806 · Hintergrund, keine Belege

    Anthropic zufolge verbessert Claude Sonnet 4.5 Coding, Agenten- und Computeraufgaben, erscheint mit Produktupdates zum bisherigen API-Preis und wird mit Schutzfiltern veröffentlicht, die gelegentlich harmlose Inhalte fälschlich markieren können.

  83. Advancing the field of systemic AI safety: grants open aisi · 2024 · Q002815 · Hintergrund, keine Belege

    Das AISI stellte Fördermittel für Forschung zu gesellschaftlichen KI-Risiken und möglichen Gegenmaßnahmen bereit, berichtet im Text aber noch keine Ergebnisse des Programms.

  84. Issue Brief: What is red teaming? fmf · 2023 · Q002817 · Hintergrund, keine Belege · ohne Zusammenfassung
  85. AI Excellence: Ensuring that AI works for people eu · Q002819 · Hintergrund, keine Belege

    Die EU-Kommission beschreibt geplante Maßnahmen für vertrauenswürdige KI durch Kompetenzförderung, einen Schutzrahmen und internationale Standards, ohne deren Umsetzung oder Wirkung zu belegen.

  86. An update on our general capability evaluations metr · 2024 · Q002836 · Hintergrund, keine Belege

    METRs vorläufige Messreihe deutet auf breite, aber ungleichmäßige Fähigkeiten getesteter KI-Agenten und niedrige Kosten bei lösbaren Aufgaben hin; die begrenzten Vergleichsdaten und einfachen Testverfahren lassen noch keine abschließenden Schlüsse zu.

  87. Understanding and addressing AI harms anthropic · 2025 · Q002839 · Hintergrund, keine Belege

    Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.

  88. A Bird's Eye View of the ML Field cais · Q002840 · Hintergrund, keine Belege

    Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.

  89. ML Engineers Needed for New AI R&D Evals Project metr · 2024 · Q002848 · Hintergrund, keine Belege

    METR will ML-Fachleute einstellen, um Tests zu KI-F&E-Fähigkeiten und möglichen Schutzmaßnahmen zu entwickeln.

  90. Frontier AI Taskforce: second progress report aisi · 2023 · Q002849 · Hintergrund, keine Belege

    Die Taskforce meldet Fortschritte beim Aufbau britischer KI-Sicherheitsforschung und warnt vor möglichen Risiken leistungsfähigerer Modelle, während viele der beschriebenen Maßnahmen noch geplant oder im Aufbau sind.

  91. FMF Joins USAISI Consortium as a Founding Member fmf · 2024 · Q002856 · Hintergrund, keine Belege · ohne Zusammenfassung
  92. The WMDP Benchmark: Measuring and Reducing Malicious Use With Unlearning cais · Q002857 · Hintergrund, keine Belege

    WMDP soll gefährliches Wissen in Sprachmodellen indirekt messen; laut Bericht senkt CUT die Ergebnisse bei diesen Fragen, doch Feinabstimmung kann das Wissen zurückbringen.

  93. AI Safety Institute: third progress report aisi · 2024 · Q002861 · Hintergrund, keine Belege

    Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.

  94. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  95. Why I joined AISI by Geoffrey Irving aisi · 2024 · Q002879 · Hintergrund, keine Belege

    Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.

  96. An update on our election safeguards anthropic · 2026 · Q002898 · Hintergrund, keine Belege

    Anthropic zufolge sollen Training, Richtlinien, Tests, Wahlhinweise und Websuche Claude bei Wahlen verlässlicher machen; die veröffentlichten Erfolgswerte beruhen auf unternehmenseigenen Tests und wichtige Angaben sollen überprüft werden.

  97. Partnering with Mozilla on Firefox security anthropic · 2026 · Q002911 · Hintergrund, keine Belege

    Anthropic berichtet, Claude habe 22 Firefox-Schwachstellen gefunden, während zwei einfache Exploit-Versuche nur in einer um wichtige Schutzmaßnahmen reduzierten Testumgebung gelangen.

  98. Mapping the misuse of generative AI deepmind · 2024 · Q002918 · Hintergrund, keine Belege

    Eine begrenzte Medienanalyse beschreibt verbreitete Missbrauchsmuster generativer KI und mögliche Schutzmaßnahmen, erlaubt aber keine repräsentative Aussage über das Ausmaß des Missbrauchs.

  99. Shaping Europe’s digital future eu · Q002921 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst den risikobasierten Ansatz, abgestufte Pflichten für GPAI-Modelle und die Vollzugsstruktur des KI-Gesetzes zusammen, ohne konkrete Anwendungsdaten zu nennen.

  100. AI for Military Decision-Making cset · 2025 · Q002924 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →