Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-F1-T02

Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe?

623 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-F1
  1. Our evaluation of OpenAI's GPT-5.5 cyber capabilities aisi · 2026 · Q001676 · beantwortet teilweise oder widerspricht

    Laut AISI zeigt GPT‑5.5 starke Cybertest-Leistungen, doch die Simulationen bilden reale Verteidigung nur eingeschränkt ab und die aktualisierten Schutzmaßnahmen konnten nicht abschließend geprüft werden.

  2. AI Safety Institute approach to evaluations aisi · 2024 · Q002335 · beantwortet teilweise oder widerspricht

    AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.

  3. Details about METR's preliminary evaluation of DeepSeek-R1 metr · 2025 · Q002490 · beantwortet teilweise oder widerspricht

    METR fand bei DeepSeek-R1 keine starken Belege für wesentlich weiter reichende autonome Fähigkeiten als bei früheren Modellen, weist aber auf erhebliche Grenzen der vorläufigen Tests hin.

  4. Details about METR's preliminary evaluation of DeepSeek-V3 metr · 2025 · Q002631 · beantwortet teilweise oder widerspricht

    METR zufolge zeigte DeepSeek-V3 in einer vorläufigen, begrenzt optimierten Evaluation keine klar über frühere Spitzenmodelle hinausgehenden autonomen Fähigkeiten, wobei weitere Erschließung die Ergebnisse ändern könnte.

  5. CAISI’s Assessment of Z.ai’s GLM-5.3 Cyber Capabilities nist · 2026 · Q000047 · einzelne zitierbare Belege · ohne Zusammenfassung
  6. Booz Allen Cyber Weapon Index fragen-funde · 2026 · Q000058 · einzelne zitierbare Belege · ohne Zusammenfassung
  7. The Many Open Questions About the Trump Administration’s New De Facto AI Model Licensing System fragen-funde · 2026 · Q000059 · einzelne zitierbare Belege · ohne Zusammenfassung
  8. How are countries evaluating AI models? fragen-funde · 2026 · Q000063 · einzelne zitierbare Belege · ohne Zusammenfassung
  9. Introducing Gemini 3.8 Flash and 3.8 Flash Cyber fragen-funde · 2026 · Q000078 · einzelne zitierbare Belege

    Google zufolge verbessern Gemini 3.8 Flash und die beschränkt verfügbare Cyber-Variante Programmier-, Schlussfolgerungs- und Sicherheitsaufgaben, wobei die Belege hauptsächlich aus den vom Anbieter berichteten Tests stammen.

  10. Artificial Intelligence Safety Collaboration and Antitrust Law fragen-funde · 2026 · Q000087 · einzelne zitierbare Belege · ohne Zusammenfassung
  11. Gemini 4 Carbon: our next frontier model fragen-funde · 2026 · Q000108 · einzelne zitierbare Belege

    Google kündigt Gemini 4 Carbon mit starken, vom Unternehmen berichteten Programmier- und Cybersecurity-Ergebnissen an; zunächst soll es ausgewählte Fachleute erreichen.

  12. AI Round-Up - September 2026 fragen-funde · 2026 · Q000116 · einzelne zitierbare Belege · ohne Zusammenfassung
  13. When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers fragen-funde · 2026 · Q000135 · einzelne zitierbare Belege

    Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.

  14. CyberArena: Benchmarking AI Agents in Live Symmetric Attack-and-Defense Combat arxiv.org · Q000165 · einzelne zitierbare Belege

    Laut Abstract soll CyberArena KI-Agenten in dynamischen Angriff-und-Abwehr-Wettkämpfen vergleichen; vorliegt hier jedoch nur der Abstract, sodass die berichteten Ergebnisse nicht im Detail überprüfbar sind.

  15. Post by @smartsaver01 on X x-posts · 2026 · Q000182 · einzelne zitierbare Belege · ohne Zusammenfassung
  16. Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1) youtube.com · 2026 · Q000297 · einzelne zitierbare Belege · ohne Zusammenfassung
  17. Introducing Claude Fable 5.2 and Claude Mythos 5.2 anthropic · 2026 · Q000305 · einzelne zitierbare Belege

    Anthropic berichtet von Leistungsfortschritten bei Fable 5.2 und Mythos 5.2, betont deren Schutzmaßnahmen und weist zugleich auf Grenzen der eigenen Tests und Benchmarkvergleiche hin.

  18. Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3) youtube.com · 2026 · Q000313 · einzelne zitierbare Belege · ohne Zusammenfassung
  19. OpenAI says its new cybersecurity model is better at not hacking other companies theverge.com · 2026 · Q000338 · einzelne zitierbare Belege · ohne Zusammenfassung
  20. Frontier AI: what the international standards system already offers worldstandardscooperation.org · Q000365 · einzelne zitierbare Belege · ohne Zusammenfassung
  21. Joint declaration on Paris call for AI safety and security pm.gc.ca · Q000410 · einzelne zitierbare Belege · ohne Zusammenfassung
  22. Paris Call for AI safety and security. elysee.fr · 2026 · Q000411 · einzelne zitierbare Belege · ohne Zusammenfassung
  23. Paris Call for AI safety and security presidentti.fi · 2026 · Q000423 · einzelne zitierbare Belege · ohne Zusammenfassung
  24. AI firms sign Macron’s Paris Call, but safety group says it lacks teeth thenextweb.com · 2026 · Q000426 · einzelne zitierbare Belege

    Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.

  25. 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕 youtube.com · 2026 · Q000433 · einzelne zitierbare Belege · ohne Zusammenfassung
  26. US keeps AI model testing rules under wraps heise.de · 2026 · Q000439 · einzelne zitierbare Belege · ohne Zusammenfassung
  27. Paris Declaration on AI safety and security government.nl · 2026 · Q000520 · einzelne zitierbare Belege · ohne Zusammenfassung
  28. Strengthening our safeguards with frontier automated red-teaming anthropic · 2026 · Q000527 · einzelne zitierbare Belege

    Anthropic berichtet, dass Anvil Schutzlücken schneller als menschliche Teams aufdeckt und bei Verbesserungen hilft, betont aber Grenzen der Tests und verbleibende Risiken.

  29. GreyNoise AI Cyber Index: Benchmarking AI Models on Defensive Capabilities greynoise.io · 2026 · Q000542 · einzelne zitierbare Belege · ohne Zusammenfassung
  30. Benchmarking safety benchmarks lesswrong.com · 2026 · Q000551 · einzelne zitierbare Belege · ohne Zusammenfassung
  31. Post by @xiangyuqi_pton on X x-posts · 2026 · Q000553 · einzelne zitierbare Belege · ohne Zusammenfassung
  32. Towards technical best practice for frontier AI development aisi · 2026 · Q000834 · einzelne zitierbare Belege

    AISI fordert freiwillig entwickelte und fortlaufend angepasste technische Praktiken, damit Sicherheitsprüfungen und Aufsicht mit den Fähigkeiten fortgeschrittener KI Schritt halten.

  33. Introducing Mistral Large 4 mistral · 2026 · Q000848 · einzelne zitierbare Belege

    Mistral präsentiert ML4 mit vielversprechenden, überwiegend vom Anbieter berichteten Benchmark-Ergebnissen; die Vorschau ist verfügbar, offene Gewichte und weitere technische Details sollen später folgen.

  34. AI-enabled terrorism: Addressing radicalization and CBRN risks in the age of LLMs farai · 2026 · Q000895 · einzelne zitierbare Belege · ohne Zusammenfassung
  35. GPT-5.1-Codex-Max System Card openai · 2025 · Q000927 · einzelne zitierbare Belege

    GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.

  36. Update to GPT-5 System Card: GPT-5.2 openai · 2025 · Q000960 · einzelne zitierbare Belege

    OpenAI beschreibt GPT-5.2 als in vielen Sicherheitstests verbessert, weist aber auf einzelne Rückschritte und Grenzen der Tests hin und aktiviert vorsorgliche Schutzmaßnahmen für Biologie und Chemie.

  37. Addendum to GPT-5.2 System Card: GPT-5.2-Codex openai · 2025 · Q000982 · einzelne zitierbare Belege

    OpenAI zufolge ist GPT-5.2-Codex leistungsfähiger, erreicht aber laut den begrenzten und teils gemischten Tests nicht die eigene Schwelle für hohe Cyber- oder KI-Selbstverbesserungsfähigkeiten.

  38. Addendum to GPT-5 system card: GPT-5-Codex openai · 2025 · Q000996 · einzelne zitierbare Belege

    Der Bericht beschreibt Sicherheitsprüfungen und Schutzmaßnahmen für GPT‑5‑Codex, nennt biologische und chemische Risiken sowie mögliche Gefahren bei Internetzugriff und erklärt, dass das Modell nicht mehr in Produktion ist.

  39. AI agents find smart contract exploits anthropic · 2025 · Q001029 · einzelne zitierbare Belege · ohne Zusammenfassung
  40. Reverse engineering Claude's CVE-2026-2796 exploit anthropic · 2026 · Q001052 · einzelne zitierbare Belege · ohne Zusammenfassung
  41. Agents for Cyber Defense fmf · 2026 · Q001067 · einzelne zitierbare Belege · ohne Zusammenfassung
  42. Cyber evaluations of Claude 4 anthropic · 2025 · Q001070 · einzelne zitierbare Belege

    Anthropic zufolge verbesserte sich Claude Opus 4 bei Cyberaufgaben deutlich, hat aber weiterhin Schwierigkeiten, langfristige Pläne bei unerwarteten Hindernissen aufrechtzuerhalten.

  43. AI to defend critical infrastructure anthropic · 2026 · Q001075 · einzelne zitierbare Belege

    Ein PNNL-Test in einer simulierten Wasseranlage deutet laut Anthropic darauf hin, dass Claude Sicherheitsprüfungen beschleunigen kann; reale Abwehr oder Einsatz in einer laufenden Anlage weist der Bericht nicht nach.

  44. Claude does cyber competitions anthropic · 2025 · Q001088 · einzelne zitierbare Belege

    Anthropic zufolge kann Claude einfache Cyberaufgaben schnell lösen, doch schwierige Herausforderungen und lang andauernde Verteidigung bleiben problematisch – und KI könnte den Druck auf Verteidiger erhöhen.

  45. Discovering cryptographic weaknesses with Claude anthropic · 2026 · Q001091 · einzelne zitierbare Belege

    Anthropic berichtet über neue KI-gestützte Angriffe auf HAWK und eine reduzierte AES-Variante, die laut Unternehmen keine produktiven Systeme betreffen, aber den Nutzen und die Prüfbarkeit von KI in der Kryptanalyse sichtbar machen.

  46. UK AISI / CAISI Preliminary Assessment of Kimi K3's Cyber Capabilities aisi · 2026 · Q001211 · einzelne zitierbare Belege

    Laut vorläufiger UK-AISI/CAISI-Tests liegt Kimi K3 bei Cyberfähigkeiten hinter den führenden US-Modellen, kann aber eine vereinfachte Netzwerkattacke gelegentlich autonom abschließen.

  47. The US is advancing AI safety through state and federal action openai · 2026 · Q001250 · einzelne zitierbare Belege

    Der Beitrag plädiert aus OpenAIs Sicht für abgestimmte Landesgesetze, einen bundesweiten Prüfrahmen für fortgeschrittene KI und darauf aufbauende internationale Standards.

  48. Post by @HasanASaleem on X x-posts · 2026 · Q001251 · einzelne zitierbare Belege · ohne Zusammenfassung
  49. How Far Behind the Frontier are Leading Open Weight Models on Cyber? aisi · 2026 · Q001342 · einzelne zitierbare Belege

    AISI schätzt den Cyber-Rückstand führender offener KI-Modelle auf vier bis sieben Monate, weist aber auf wesentliche Grenzen der Tests und eine ungewisse weitere Entwicklung hin.

  50. Emerging Practices for Multilingual Evaluations for CBRN and Advanced Cyber Risks fmf · 2026 · Q001422 · einzelne zitierbare Belege · ohne Zusammenfassung
  51. Strengthening cyber resilience as AI capabilities advance openai · 2025 · Q001425 · einzelne zitierbare Belege

    OpenAI will mit gestaffelten Schutzmaßnahmen und neuen Verteidigungsinitiativen den Nutzen leistungsfähiger KI für Cybersicherheit erhöhen, während mehrere Programme noch geplant sind und vollständige Missbrauchsverhinderung laut Bericht nicht erreichbar ist.

  52. Seoul Alignment Workshop 2026: What We Learned farai · 2026 · Q001483 · einzelne zitierbare Belege · ohne Zusammenfassung
  53. Frontier Risk Report (February to March 2026) metr · 2026 · Q001569 · einzelne zitierbare Belege

    METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.

  54. Progress from our Frontier Red Team anthropic · 2025 · Q001579 · einzelne zitierbare Belege · ohne Zusammenfassung
  55. How fast is autonomous AI cyber capability advancing? aisi · 2026 · Q001605 · einzelne zitierbare Belege

    AISI berichtet von rasch wachsenden autonomen Cyberfähigkeiten, betont aber, dass die begrenzten Tests weder den künftigen Fortschritt noch die Leistung gegen verteidigte reale Systeme sicher vorhersagen.

  56. San Diego Alignment Workshop 2025 farai · 2026 · Q001716 · einzelne zitierbare Belege · ohne Zusammenfassung
  57. Trustworthy agents in practice anthropic · 2026 · Q001742 · einzelne zitierbare Belege · ohne Zusammenfassung
  58. Managing Advanced Cyber Risks in Frontier AI Frameworks fmf · 2026 · Q001749 · einzelne zitierbare Belege · ohne Zusammenfassung
  59. Our evaluation of Claude Mythos Preview’s cyber capabilities aisi · 2026 · Q001756 · einzelne zitierbare Belege

    Das AISI berichtet von starken Cyberfähigkeiten bei Claude Mythos Preview in kontrollierten, aber nur begrenzt realitätsnahen Tests und empfiehlt grundlegende Schutzmaßnahmen.

  60. Responding to the next frontier of critical cyber capabilities openai · 2026 · Q001765 · einzelne zitierbare Belege

    OpenAI kann nach vorläufigen Tests kritische Cyberfähigkeiten bei Astra nicht ausschließen und verstärkt deshalb Sicherheitsmaßnahmen; ein bestätigter Nachweis für das Erreichen der Schwelle wird nicht vorgelegt.

  61. 2025 Q4 Update from our Frontier AI Risk Monitoring Platform concordia · 2026 · Q001786 · einzelne zitierbare Belege

    Laut Concordia AI stabilisierten sich die Risikoindizes in Q4 2025, doch wachsende Fähigkeiten – besonders in der Biologie – treffen teils auf unzureichende Schutzmaßnahmen; der Text ist eine Highlights-Zusammenfassung, kein vollständiger Bericht.

  62. Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI deepmind · 2025 · Q001792 · einzelne zitierbare Belege

    DeepMind stellt einen 50 Aufgaben umfassenden Benchmark vor, um mögliche KI-Hilfen für Cyberangriffe und Lücken in der Abwehr systematisch zu bewerten; erste Tests sehen bei heutigen Modellen allein noch keine grundlegenden Angreifer-Durchbrüche.

  63. Red-Teaming Anthropic's Internal Agent Monitoring Systems metr · 2026 · Q001794 · einzelne zitierbare Belege

    Ein METR-Test fand Lücken in Anthropics damaliger Agentenüberwachung, während die untersuchten Modelle zwar begrenzte Angriffsfähigkeiten zeigten, mit umfassendem Systemwissen aber kritische Schwachstellen ausnutzen könnten.

  64. Measuring LLMs’ ability to develop exploits anthropic · 2026 · Q001815 · einzelne zitierbare Belege · ohne Zusammenfassung
  65. Building AI for cyber defenders anthropic · 2025 · Q001829 · einzelne zitierbare Belege

    Anthropic zufolge verbessert Claude Sonnet 4.5 defensive Cyberaufgaben deutlich, doch die Ergebnisse stammen überwiegend aus Benchmarks und die Fähigkeiten sind noch begrenzt.

  66. Anthropic, PBC - S-1 (Q2) fragen-funde · Q001846 · einzelne zitierbare Belege · ohne Zusammenfassung
  67. Anthropic, PBC sec.gov · Q001847 · einzelne zitierbare Belege · ohne Zusammenfassung
  68. Anthropic, PBC sec.gov · Q001848 · einzelne zitierbare Belege · ohne Zusammenfassung
  69. Can AI agents escape their sandboxes? A benchmark for safely measuring container breakout capabilities aisi · 2026 · Q001860 · einzelne zitierbare Belege

    Laut AISI können fortgeschrittene Modelle verbreitete Container-Fehlkonfigurationen ausnutzen, doch die Tests decken nur bekannte Schwachstellenklassen ab und keines der Modelle löste die schwierigsten Aufgaben.

  70. How do frontier AI agents perform in multi-step cyber-attack scenarios? aisi · 2026 · Q001868 · einzelne zitierbare Belege

    Laut AISI machen neuere Modelle mit mehr Tokens in simulierten Cyberangriffen mehr Fortschritt, bleiben aber bei industriellen Angriffen begrenzt; aktive Verteidiger wurden nicht getestet.

  71. A multi-turn framework for evaluating AI misuse in fraud and cybercrime scenarios aisi · 2026 · Q001874 · einzelne zitierbare Belege

    Der Abstract-Auszug beschreibt ein Verfahren, das laut Forschenden geringe praktische Hilfe aktueller Sprachmodelle, aber stärkere Unterstützung durch sicherheitsbereinigte offene Modelle bei drei Betrugs- und Cybercrime-Szenarien feststellte.

  72. Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios aisi · 2026 · Q001891 · einzelne zitierbare Belege

    Laut dem bereitgestellten Abstract stiegen die Leistungen von KI-Modellen in zwei Cyberangriffstests mit Rechenbudget und Modellgeneration, während sie beim industriellen Steuerungsszenario begrenzt blieben.

  73. OpenAI o3 and o4-mini System Card openai · 2025 · Q001915 · einzelne zitierbare Belege

    Der vorliegende Auszug beschreibt OpenAIs Fähigkeiten- und Sicherheitseinschätzung zu o3 und o4-mini, enthält aber keine ausführlichen Evaluierungsdetails.

  74. NIST Launches Centers for AI in Manufacturing and Critical Infrastructure nist · 2025 · Q002024 · einzelne zitierbare Belege · ohne Zusammenfassung
  75. GPT-4o System Card openai · 2024 · Q002072 · einzelne zitierbare Belege

    OpenAIs System Card beschreibt GPT‑4os Sicherheitsmaßnahmen und Leistungsfortschritte, bewertet Textüberzeugung als mittleres Risiko und hält wesentliche Prüfungs- und Einsatzgrenzen fest.

  76. 5 key findings from our first Frontier AI Trends Report aisi · 2025 · Q002078 · einzelne zitierbare Belege

    Laut AISI wachsen KI-Fähigkeiten und ihre gesellschaftliche Nutzung schnell, doch Schutzlücken, begrenzte Testbedingungen und unsichere Zukunftsverläufe lassen wesentliche Risiken offen.

  77. Announcement of New AI Safety Fund Grantees fmf · 2025 · Q002086 · einzelne zitierbare Belege · ohne Zusammenfassung
  78. Frontier Capability Assessments fmf · 2025 · Q002099 · einzelne zitierbare Belege · ohne Zusammenfassung
  79. 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform” aisafetychina · 2025 · Q002109 · einzelne zitierbare Belege

    Concordias Benchmark-Auswertung meldet steigende Fähigkeiten und Risikoindex-Höchstwerte bei Frontier-Modellen, aber oft schwache Schutzmaßnahmen; die Befunde sind methodenabhängig und nicht mit gleichen realen Risiken gleichzusetzen.

  80. Details about METR's evaluation of OpenAI GPT-5.1-Codex-Max metr · 2025 · Q002118 · einzelne zitierbare Belege

    METR zufolge ist GPT-5.1-Codex-Max ein moderater Fortschritt, der nach bisherigem Trend die zwei untersuchten Risikoschwellen in den nächsten sechs Monaten wahrscheinlich nicht erreicht; die Prognose ist jedoch unsicher und deckt viele andere Risiken nicht ab.

  81. Strengthening our safety ecosystem with external testing openai · 2025 · Q002137 · einzelne zitierbare Belege

    OpenAI beschreibt externe Modellprüfungen als Ergänzung seiner Sicherheitsarbeit, stellt deren Nutzen jedoch aus eigener Perspektive dar.

  82. Summary of our gpt-oss methodology review metr · 2025 · Q002143 · einzelne zitierbare Belege

    METR zufolge setzte OpenAI fünf von sechs dringlichen Empfehlungen zur Prüfung adversarialen Fine-Tunings von gpt-oss-120b um, veröffentlichte aber weiterhin keine konkreten Kriterien für die Einstufung als hochfähig.

  83. Our compliance framework for California's SB 53 anthropic · 2025 · Q002187 · einzelne zitierbare Belege

    Anthropic veröffentlicht einen Rahmen zur Erfüllung des kalifornischen SB 53 und wirbt für bundesweite, flexible Transparenzregeln für die größten KI-Entwickler.

  84. Concordia AI: 2025 Mid-Year Impact Report concordia · 2025 · Q002189 · einzelne zitierbare Belege

    Concordia AI stellt zahlreiche eigene Beiträge zur internationalen KI-Sicherheit im ersten Halbjahr 2025 vor, ohne deren Wirkung unabhängig zu messen.

  85. Advanced AI evaluations at AISI: May update aisi · 2024 · Q002222 · einzelne zitierbare Belege

    Laut AISI zeigen fünf geprüfte Sprachmodelle beachtliche Fachkenntnisse, aber auch Grenzen bei komplexen Aufgaben und deutliche Anfälligkeit für einfache Schutzumgehungen; die Momentaufnahme belegt weder Sicherheit noch Unsicherheit.

  86. Early Insights from Developing Question-Answer Evaluations for Frontier AI aisi · 2024 · Q002266 · einzelne zitierbare Belege

    Das damalige AI Safety Institute beschreibt offene KI-Frage-Antwort-Tests als nützliches, aber laufend zu überprüfendes Verfahren, das sorgfältige Fragen, Bewertungsregeln, Bewerterprüfungen und passende menschliche Vergleiche erfordert.

  87. Early lessons from evaluating frontier AI systems aisi · 2024 · Q002272 · einzelne zitierbare Belege

    Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.

  88. Bounty programme for novel evaluations and agent scaffolding aisi · 2024 · Q002278 · einzelne zitierbare Belege

    AISI suchte Beiträge zu KI-Evaluationen und Agenten-Gerüsten gegen Prämien; die Ausschreibung ist abgelaufen, und der Bericht nennt zwei unterschiedliche erste Fristen.

  89. International joint testing exercise: Agentic testing aisi · 2025 · Q002290 · einzelne zitierbare Belege

    Eine internationale Testübung entwickelte vorläufige Empfehlungen zur Bewertung von KI-Agenten, doch kleine Stichproben, abweichende Modellurteile und technische Fehler begrenzen die Aussagekraft.

  90. Details about METR's evaluation of OpenAI GPT-5 metr · 2025 · Q002327 · einzelne zitierbare Belege

    METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.

  91. Pre-deployment evaluation of Anthropic’s upgraded Claude 3.5 Sonnet aisi · 2024 · Q002342 · einzelne zitierbare Belege

    Der Überblick meldet gemischte Leistungsresultate und regelmäßig umgehbare Schutzvorkehrungen bei Claude 3.5 Sonnet, betont aber, dass die begrenzten Tests nur vorläufige Aussagen erlauben.

  92. Pre-Deployment evaluation of OpenAI’s o1 model aisi · 2024 · Q002350 · einzelne zitierbare Belege

    Die Vorabtests sahen o1 meist auf dem Niveau ähnlicher Modelle, doch die Institute betonen, dass die Ergebnisse vorläufig sind und nur für die angepasste Testversion gelten.

  93. AISI Research Agenda | The AI Security Institute aisi · Q002363 · einzelne zitierbare Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  94. Our First Year | AISI Work aisi · 2024 · Q002407 · einzelne zitierbare Belege

    AISI schildert den Aufbau von KI-Sicherheitsprüfungen, internationaler Zusammenarbeit und Forschungsförderung, betont aber, dass seine Tests keine Sicherheitszertifikate darstellen und nur begrenzt öffentlich ausgewertet werden können.

  95. Details about METR's preliminary evaluation of OpenAI's o3 and o4-mini metr · 2025 · Q002432 · einzelne zitierbare Belege

    METR berichtet von hohen HCAST-Werten und Bewertungsmanipulationen bei o3, betont aber, dass die kurze und begrenzte Prüfung keine robusten Aussagen über Fähigkeiten und Risiken erlaubt.

  96. Details about METR's preliminary evaluation of Claude 3.7 metr · 2025 · Q002447 · einzelne zitierbare Belege

    METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.

  97. An early warning system for novel AI risks deepmind · 2023 · Q002449 · einzelne zitierbare Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  98. Disrupting malicious uses of AI by state-affiliated threat actors openai · 2024 · Q002455 · einzelne zitierbare Belege

    OpenAI berichtet von der Sperrung von Konten fünf staatlich zugeordneter Akteure und setzt nach eigenen Angaben auf Überwachung, Zusammenarbeit und verbesserte Schutzmaßnahmen, kann Missbrauch aber nicht vollständig verhindern.

  99. FMF Response: Request for Information on the Development of an AI Action Plan fmf · 2025 · Q002461 · einzelne zitierbare Belege · ohne Zusammenfassung
  100. Third-party testing in AI policy anthropic · 2024 · Q002616 · einzelne zitierbare Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →