Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-F1-T04

Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern?

882 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-F1
  1. 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform” aisafetychina · 2025 · Q002109 · einzelne zitierbare Belege

    Concordias Benchmark-Auswertung meldet steigende Fähigkeiten und Risikoindex-Höchstwerte bei Frontier-Modellen, aber oft schwache Schutzmaßnahmen; die Befunde sind methodenabhängig und nicht mit gleichen realen Risiken gleichzusetzen.

  2. Summary of our gpt-oss methodology review metr · 2025 · Q002143 · einzelne zitierbare Belege

    METR zufolge setzte OpenAI fünf von sechs dringlichen Empfehlungen zur Prüfung adversarialen Fine-Tunings von gpt-oss-120b um, veröffentlichte aber weiterhin keine konkreten Kriterien für die Einstufung als hochfähig.

  3. Concordia AI: 2025 Mid-Year Impact Report concordia · 2025 · Q002189 · einzelne zitierbare Belege

    Concordia AI stellt zahlreiche eigene Beiträge zur internationalen KI-Sicherheit im ersten Halbjahr 2025 vor, ohne deren Wirkung unabhängig zu messen.

  4. Principles for safeguard evaluation aisi · 2025 · Q002200 · einzelne zitierbare Belege

    Das damalige AI Safety Institute schlägt einen fünfstufigen, regelmäßig zu erneuernden Bewertungsprozess für Schutzmaßnahmen gegen missbräuchliche KI-Nutzung vor, präsentiert dabei aber Empfehlungen und keine konkreten Prüfergebnisse.

  5. Advanced AI evaluations at AISI: May update aisi · 2024 · Q002222 · einzelne zitierbare Belege

    Laut AISI zeigen fünf geprüfte Sprachmodelle beachtliche Fachkenntnisse, aber auch Grenzen bei komplexen Aufgaben und deutliche Anfälligkeit für einfache Schutzumgehungen; die Momentaufnahme belegt weder Sicherheit noch Unsicherheit.

  6. UK & United States announce partnership on science of AI safety aisi · 2024 · Q002255 · einzelne zitierbare Belege

    Großbritannien und die USA wollen ihre KI-Sicherheitsinstitute enger zusammenarbeiten lassen; der bereitgestellte Text beschreibt die Pläne und bricht am Ende in einer Bildunterschrift ab.

  7. Early lessons from evaluating frontier AI systems aisi · 2024 · Q002272 · einzelne zitierbare Belege

    Das AISI entwickelt mehrstufige unabhängige KI-Prüfungen, betont aber, dass deren Aussagekraft und die wissenschaftlichen Grundlagen noch Grenzen haben.

  8. Frontier Mitigations fmf · 2025 · Q002322 · einzelne zitierbare Belege · ohne Zusammenfassung
  9. Details about METR's evaluation of OpenAI GPT-5 metr · 2025 · Q002327 · einzelne zitierbare Belege

    METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.

  10. AI Safety Institute approach to evaluations aisi · 2024 · Q002335 · einzelne zitierbare Belege

    AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.

  11. Risk Taxonomy and Thresholds for Frontier AI Frameworks fmf · 2025 · Q002338 · einzelne zitierbare Belege · ohne Zusammenfassung
  12. Pre-Deployment evaluation of OpenAI’s o1 model aisi · 2024 · Q002350 · einzelne zitierbare Belege

    Die Vorabtests sahen o1 meist auf dem Niveau ähnlicher Modelle, doch die Institute betonen, dass die Ergebnisse vorläufig sind und nur für die angepasste Testversion gelten.

  13. AISI Research Agenda | The AI Security Institute aisi · Q002363 · einzelne zitierbare Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  14. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · einzelne zitierbare Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  15. Our First Year | AISI Work aisi · 2024 · Q002407 · einzelne zitierbare Belege

    AISI schildert den Aufbau von KI-Sicherheitsprüfungen, internationaler Zusammenarbeit und Forschungsförderung, betont aber, dass seine Tests keine Sicherheitszertifikate darstellen und nur begrenzt öffentlich ausgewertet werden können.

  16. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · einzelne zitierbare Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  17. Details about METR's preliminary evaluation of Claude 3.7 metr · 2025 · Q002447 · einzelne zitierbare Belege

    METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.

  18. An early warning system for novel AI risks deepmind · 2023 · Q002449 · einzelne zitierbare Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  19. FMF Response: Request for Information on the Development of an AI Action Plan fmf · 2025 · Q002461 · einzelne zitierbare Belege · ohne Zusammenfassung
  20. Details about METR's preliminary evaluation of DeepSeek-R1 metr · 2025 · Q002490 · einzelne zitierbare Belege

    METR fand bei DeepSeek-R1 keine starken Belege für wesentlich weiter reichende autonome Fähigkeiten als bei früheren Modellen, weist aber auf erhebliche Grenzen der vorläufigen Tests hin.

  21. https://s-rsa.com/index.php/agi/article/download/18908/12474 openai · Q002500 · einzelne zitierbare Belege

    Der Accord skizziert vier Ebenen der KI-Sicherheitsaufsicht und eine erklärte Selbstverpflichtung der teilnehmenden Unternehmen, ohne konkrete Fristen oder Durchsetzungsregeln festzulegen.

  22. RepliBench: measuring autonomous replication capabilities in AI systems aisi · 2025 · Q002540 · einzelne zitierbare Belege

    Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.

  23. RepliBench: Evaluating the autonomous replication capabilities of language model agents aisi · 2025 · Q002594 · einzelne zitierbare Belege

    Der vorliegende Abstract berichtet, dass getestete Sprachmodell-Agenten noch keine glaubwürdige Gefahr autonomer Selbstreplikation darstellen, ihre Teilfähigkeiten aber rasch wachsen.

  24. Third-party testing in AI policy anthropic · 2024 · Q002616 · einzelne zitierbare Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

  25. Frontier threats red teaming for AI safety anthropic · 2023 · Q002630 · einzelne zitierbare Belege

    Anthropic zufolge zeigen Tests mögliche, derzeit noch begrenzte biologische Missbrauchsrisiken leistungsfähiger KI, doch die sensiblen Einzelergebnisse und eine unabhängige Bestätigung legt der Bericht nicht vor.

  26. Details about METR's preliminary evaluation of DeepSeek-V3 metr · 2025 · Q002631 · einzelne zitierbare Belege

    METR zufolge zeigte DeepSeek-V3 in einer vorläufigen, begrenzt optimierten Evaluation keine klar über frühere Spitzenmodelle hinausgehenden autonomen Fähigkeiten, wobei weitere Erschließung die Ergebnisse ändern könnte.

  27. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · einzelne zitierbare Belege · ohne Zusammenfassung
  28. Progress Update: Advancing Frontier AI Safety in 2024 and Beyond fmf · 2024 · Q002696 · einzelne zitierbare Belege · ohne Zusammenfassung
  29. Introducing the Frontier Model Forum fmf · 2023 · Q002710 · einzelne zitierbare Belege · ohne Zusammenfassung
  30. Challenges in red teaming AI systems anthropic · 2024 · Q002729 · einzelne zitierbare Belege

    Anthropic stellt verschiedene KI-Prüfmethoden vor und fordert gemeinsame Standards, unabhängige Tests sowie einen iterativen Weg von qualitativen zu automatisierten Evaluationen.

  31. OpenAI’s Approach to Frontier Risk openai · 2023 · Q002791 · einzelne zitierbare Belege

    OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.

  32. Issue Brief: Measuring Training Compute fmf · 2024 · Q002792 · einzelne zitierbare Belege · ohne Zusammenfassung
  33. Details about METR's preliminary evaluation of OpenAI o1-preview metr · 2024 · Q002799 · einzelne zitierbare Belege

    METR berichtet von vergleichbaren Ergebnissen zu Claude 3.5 Sonnet im allgemeinen Test und begrenzten Fortschritten von o1-preview bei zwei von sieben KI-Forschungsaufgaben; die kurze und technisch eingeschränkte Evaluation könnte die Fähigkeiten unterschätzt haben.

  34. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · einzelne zitierbare Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  35. Addendum to GPT-5.2 System Card: GPT-5.2-Codex openai · 2025 · Q002823 · einzelne zitierbare Belege

    Der vorliegende Einleitungsauszug beschreibt GPT‑5.2‑Codex und OpenAIs Sicherheitseinschätzungen, enthält jedoch keine Details oder Messwerte zu den angekündigten Maßnahmen und Bewertungen.

  36. Frontier AI Taskforce: first progress report aisi · 2023 · Q002824 · einzelne zitierbare Belege

    Die britische Frontier AI Taskforce berichtet über den Aufbau von Expertise und Kooperationen für KI-Risikoprüfungen, wobei ihre Fortschrittsangaben und Ziele im Bericht selbst dargestellt, aber nicht unabhängig bestätigt werden.

  37. Fourth progress report | AISI Work aisi · 2024 · Q002837 · einzelne zitierbare Belege

    Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.

  38. Introducing the Frontier Safety Framework deepmind · 2024 · Q002877 · einzelne zitierbare Belege

    DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.

  39. Looking ahead to the AI Seoul Summit deepmind · 2024 · Q002886 · einzelne zitierbare Belege

    Google DeepMind plädiert für globale Zusammenarbeit, gemeinsame Prüfmaßstäbe und wissenschaftlich fundierte Risikobewertung für fortgeschrittene KI, wobei der Beitrag die Unsicherheit und den frühen Entwicklungsstand der Sicherheitsprüfungen einräumt.

  40. Autonomy Evaluation Resources metr · 2024 · Q002887 · einzelne zitierbare Belege

    METR veröffentlicht ein vorläufiges Evaluationspaket für autonome KI-Fähigkeiten, dessen Nutzen und Messwerte wegen kleiner, nur lose an Bedrohungsszenarien gebundener Aufgabenbestände und weiterer Unsicherheiten begrenzt sind.

  41. Responsible Scaling Policies (RSPs) metr · 2023 · Q002990 · einzelne zitierbare Belege

    METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.

  42. Fable 5's cyber safeguards and our jailbreak framework anthropic · 2026 · Q003004 · einzelne zitierbare Belege

    Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.

  43. New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks metr · 2023 · Q003017 · einzelne zitierbare Belege

    Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.

  44. Redeploying Claude Fable 5 anthropic · 2026 · Q003023 · einzelne zitierbare Belege

    Anthropic will Fable 5 nach Aufhebung der Exportkontrollen wieder weltweit anbieten und berichtet von verstärkten Schutzmaßnahmen sowie geplanten gemeinsamen Standards und Sicherheitstests.

  45. Update on ARC's recent eval efforts metr · 2023 · Q003047 · einzelne zitierbare Belege

    Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.

  46. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · einzelne zitierbare Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  47. Taking a responsible path to AGI deepmind · 2025 · Q003066 · einzelne zitierbare Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  48. Funding third-party model evaluations anthropic · 2024 · Q003114 · einzelne zitierbare Belege

    Anthropic will externe KI-Evaluationen zu Fähigkeiten und Risiken fördern und nennt dafür Schwerpunkte und Qualitätsmaßstäbe, aber keine konkreten Förderbeträge oder Ergebnisse.

  49. Reflections on our Responsible Scaling Policy anthropic · 2024 · Q003125 · einzelne zitierbare Belege

    Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.

  50. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · einzelne zitierbare Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  51. Introducing Anthropic's Responsible Scaling Policy anthropic · 2023 · Q003153 · einzelne zitierbare Belege

    Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.

  52. Our updated Responsible Scaling Policy anthropic · 2024 · Q003194 · einzelne zitierbare Belege

    Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.

  53. Comment on BIS Request for Information cset · 2024 · Q003520 · einzelne zitierbare Belege

    Die CSET-Autoren befürworten zunächst IaaS-Kundenprüfungen und empfehlen, KI-Überwachung klarer zu begründen und international abzustimmen.

  54. Claude Fable 5 and Claude Mythos 5 anthropic · 2026 · Q003537 · einzelne zitierbare Belege

    Anthropic kündigt Fable 5 und den eingeschränkt verfügbaren Mythos 5 an, doch der Bericht lässt den aktuellen Zugangsstatus widersprüchlich und stützt Leistungs- und Sicherheitsangaben überwiegend auf Unternehmensangaben.

  55. GPT-6 Astra: A new generation of intelligence openai · 2026 · Q003539 · einzelne zitierbare Belege

    OpenAI zufolge verbindet GPT‑6 Astra hohe Benchmarkleistungen für Computer- und Wissensarbeit mit Verbesserungen bei Tempo und sicherem Verhalten; die berichteten Vergleiche haben teils unterschiedliche Testbedingungen.

  56. Introducing Claude Sonnet 5 anthropic · 2026 · Q003674 · einzelne zitierbare Belege

    Anthropic beschreibt Sonnet 5 als leistungsfähigeres und günstigeres Agentenmodell als Sonnet 4.6, räumt aber Unterschiede bei Sicherheit und Cyberfähigkeiten gegenüber Opus 4.8 ein und nennt korrigierte Benchmarkmethoden.

  57. Introducing Claude Opus 5 anthropic · 2026 · Q003698 · einzelne zitierbare Belege

    Anthropic zufolge verbessert Claude Opus 5 Leistung und Effizienz bei unverändertem Grundpreis, bleibt aber bei bestimmten Cyber- und Biologierisiken hinter Mythos 5 zurück.

  58. Skating to Where the Puck Is Going cset · 2023 · Q004012 · einzelne zitierbare Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

  59. Hello GPT-4o openai · 2024 · Q004290 · einzelne zitierbare Belege

    OpenAI stellte GPT‑4o 2024 als schnelleres, multimodales Modell vor, dessen Funktionen schrittweise eingeführt werden sollten und dessen Gesamtrisiko das Unternehmen als mittel bewertete.

  60. An alignment assessment of recent cybersecurity incidents anthropic · 2026 · Q004363 · einzelne zitierbare Belege

    Laut Anthropic führten Fehlkonfigurationen in Cybertests zu vier Fällen schädlicher Zugriffe auf reale Systeme; trotz Fortschritten bei neueren Modellen bleiben verzerrtes Schlussfolgern und Rücksichtslosigkeit ein ernstes, schwer zuverlässig messbares Risiko.

  61. SHADE-Arena: Evaluating sabotage in LLM agents anthropic · 2025 · Q004397 · einzelne zitierbare Belege · ohne Zusammenfassung
  62. L_202401689DE.000101.fmx.xml fragen-funde · Q004441 · einzelne zitierbare Belege

    Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.

  63. Article 51: Classification of General-Purpose AI Models as General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act fragen-funde · Q004490 · einzelne zitierbare Belege

    Artikel 51 knüpft die Einstufung eines allgemeinen KI-Modells als systemisches Risiko an leistungsstarke oder vergleichbar wirkungsvolle Fähigkeiten und sieht dafür unter anderem eine Trainingsschwelle von mehr als 10²⁵ Gleitkommaoperationen vor.

  64. Dario Amodei — We Must Pace the Frontier fragen-funde · 2026 · Q004494 · einzelne zitierbare Belege

    Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.

  65. Article 55: Obligations of Providers of General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act fragen-funde · Q004536 · einzelne zitierbare Belege

    Artikel 55 verpflichtet laut Bericht Anbieter von KI-Modellen mit systemischen Risiken zu Risikoprüfung, Vorfallsmeldung und Cybersicherheit und regelt mögliche Konformitätsnachweise sowie Vertraulichkeit.

  66. U.S. Intervention in the UN Security Council Meeting on "Artificial Intelligence and International Security" fragen-funde · 2026 · Q004541 · einzelne zitierbare Belege

    Kratsios’ Rede fordert nationale statt globale Steuerung von „Superintelligenz“ und setzt auf Einführung und Kompetenzaufbau; die politischen Aussagen werden im Bericht nicht unabhängig überprüft.

  67. Risk thresholds for frontier AI: Insights from the AI Action Summit oecd · 2025 · Q004564 · einzelne zitierbare Belege

    Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.

  68. Priorities and principles for effective third party assessments fragen-funde · 2026 · Q004579 · einzelne zitierbare Belege

    OpenAI skizziert Grundsätze und vier Schwerpunkte für unabhängige KI-Sicherheitsprüfungen, deren Reichweite durch Zugang, Vertraulichkeit und den noch entstehenden Standardrahmen begrenzt sein kann.

  69. Dario Amodei on the Paris AI Action Summit anthropic · 2025 · Q004580 · einzelne zitierbare Belege

    Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.

  70. The case for targeted regulation anthropic · 2024 · Q004624 · einzelne zitierbare Belege

    Anthropic fordert flexible, überprüfbare und gezielte Regeln für fortgeschrittene KI, um ausgewählte schwere Risiken zu senken und unnötige Belastungen zu vermeiden.

  71. GLM-5.3 fragen-funde · Q004650 · einzelne zitierbare Belege

    Der Bericht beschreibt GLM-5.3 als laut Z.ai leistungsfähigeres Modell für Programmierung und Cybersicherheit, dessen Benchmarkergebnisse Anbieterangaben sind und dessen Schlussfolgern stets aktiviert bleibt.

  72. READ IN FULL: White House Accord on Super Intelligence fragen-funde · 2026 · Q004653 · einzelne zitierbare Belege · ohne Zusammenfassung
  73. Hugging Face fragen-funde · Q004658 · einzelne zitierbare Belege

    Laut Z.ai verbessert GLM-5.3 viele Benchmark-Ergebnisse gegenüber GLM-5.2, doch seine Platzierung variiert nach Aufgabe und Testbedingungen.

  74. Charting a path to AI accountability anthropic · 2023 · Q004818 · einzelne zitierbare Belege

    Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.

  75. Details about METR's evaluation of OpenAI GPT-5 metr · 2025 · Q004835 · einzelne zitierbare Belege

    METR hält katastrophale Risiken durch GPT-5 in den drei untersuchten Bereichen für unwahrscheinlich, betont jedoch erhebliche Unsicherheiten und Grenzen der Bewertung.

  76. Deadline extended to 1 October: Public consultation on risk thresholds for advanced AI systems oecd · 2024 · Q005217 · einzelne zitierbare Belege

    Der Bericht stellt eine OECD-Konsultation zu noch umstrittenen Risikoschwellen für fortgeschrittene KI vor, deren Beiträge bis zum 1. Oktober 2024 weitere Forschung und politische Arbeit unterstützen sollten.

  77. Frontier Safety Roadmap anthropic · 2026 · Q005358 · einzelne zitierbare Belege · ohne Zusammenfassung
  78. The United States works with domestic and international AI communities to establish frameworks that advance trustworthy AI for all oecd · 2023 · Q005707 · einzelne zitierbare Belege

    Die US-Regierung will laut Bericht KI durch Risikomanagement, Sicherheitsmaßnahmen und internationale Abstimmung vertrauenswürdiger gestalten; die Darstellung beschreibt vor allem Ziele und laufende Vorhaben, nicht deren unabhängig geprüfte Wirkung.

  79. Information Security Technology-Security Specification and Assessment Methods for Machine Learning Algorithms cset · 2023 · Q005723 · einzelne zitierbare Belege

    Nur ein Auszug: Der chinesische Standardentwurf soll die Sicherheit von ML-Algorithmen adressieren, doch konkrete Vorgaben und Bewertungsmethoden sind im Text nicht enthalten.

  80. Basic safety requirements for AI risk management oecd · 2023 · Q006069 · einzelne zitierbare Belege

    Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.

  81. Priorities and principles for effective third party assessments openai · 2026 · Q006220 · einzelne zitierbare Belege

    OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.

  82. 9 big questions benchmarks can help answer epoch · 2026 · Q006407 · einzelne zitierbare Belege

    Der Beitrag entwirft neun offene Fragen zu wirtschaftlich wichtigen KI-Fähigkeiten und erklärt, wie Benchmarks sie untersuchen könnten, ohne sie bislang abschließend zu beantworten.

  83. Introducing GPT-5.4 openai · 2026 · Q006431 · einzelne zitierbare Belege

    OpenAI präsentiert GPT‑5.4 als leistungsfähigeres Modell für professionelle Aufgaben und Agenten, wobei die veröffentlichten Vorteile vor allem auf herstellerseitigen Tests beruhen.

  84. Are Mythos’ cyber capabilities overhyped? epoch · 2026 · Q006492 · einzelne zitierbare Belege

    Der Beitrag sieht einen großen, benchmarkgestützten Fortschritt von Mythos beim Ausnutzen von Schwachstellen, aber keinen eindeutig belegten Sprung bei ihrer Entdeckung.

  85. GPT-5.6: Frontier intelligence that scales with your ambition openai · 2026 · Q006613 · einzelne zitierbare Belege

    OpenAI bewirbt GPT‑5.6 als leistungsfähigere und effizientere Modellfamilie, doch die Belege beruhen teils auf Schätzungen und internen Tests und enthalten eine ungeklärte Abweichung bei Agents’ Last Exam.

  86. Building more with GPT-5.1-Codex-Max openai · 2025 · Q006968 · einzelne zitierbare Belege

    OpenAI zufolge verbessert GPT‑5.1‑Codex‑Max die Ergebnisse und Ausdauer bei agentischen Programmieraufgaben, doch der Bericht stützt sich überwiegend auf unternehmenseigene Benchmarks und interne Beobachtungen und empfiehlt weiterhin menschliche Kontrolle.

  87. Introducing GPT-5.5 openai · 2026 · Q007022 · einzelne zitierbare Belege

    OpenAI stellt GPT‑5.5 als leistungsfähigeres und effizienteres Modell für anspruchsvolle Computer- und Forschungsaufgaben vor, doch die Belege beruhen teils auf internen oder ausgewählten Tests und der Text enthält widersprüchliche Angaben zur API-Verfügbarkeit.

  88. Introducing SWE-bench Verified openai · 2024 · Q007285 · einzelne zitierbare Belege

    OpenAI zufolge soll SWE-bench Verified durch menschlich geprüfte Aufgaben Software-Agenten verlässlicher bewerten, doch statische Benchmarks decken nur einen begrenzten Bereich ab und ihre Ergebnisse haben methodische Einschränkungen.

  89. Introducing gpt-oss openai · 2025 · Q007308 · einzelne zitierbare Belege

    OpenAI veröffentlicht zwei offene Mixture-of-Experts-Sprachmodelle und behauptet starke Benchmark- und Werkzeugleistungen bei lokalem Betrieb; die im Bericht genannten Leistungs- und Sicherheitsbefunde sind Anbieterangaben.

  90. Research acceleration: The view inside OpenAI openai · 2026 · Q007497 · einzelne zitierbare Belege

    OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.

  91. Path to Astra: critical capabilities and frontier safeguards openai · 2026 · Q007551 · einzelne zitierbare Belege

    OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.

  92. AI progress and recommendations openai · 2025 · Q007608 · einzelne zitierbare Belege

    OpenAI erwartet rasante KI-Fortschritte und empfiehlt, ihre Chancen durch breite Zugänglichkeit zu nutzen und Risiken mit Aufsicht, gemeinsamer Sicherheitsarbeit und robuster Kontrolle zu begrenzen.

  93. Moving AI governance forward openai · 2023 · Q007614 · einzelne zitierbare Belege

    Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.

  94. OpenAI safety practices openai · 2024 · Q007646 · einzelne zitierbare Belege

    OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.

  95. Helping build shared standards for advanced AI openai · 2026 · Q007935 · einzelne zitierbare Belege

    OpenAI zufolge soll Appia offene, interoperable Standards für KI-Prüfungen fördern; die Wirkung des Vorhabens wird im Bericht nicht unabhängig belegt.

  96. OpenAI’s comment to the NTIA on open model weights openai · 2024 · Q007961 · einzelne zitierbare Belege

    OpenAI befürwortet offene und kontrollierte KI-Veröffentlichungen, fordert je nach Modellrisiko abgestufte Prüfungen und hält flexible Politik angesichts einer noch jungen Risikowissenschaft für nötig.

  97. Our updated Preparedness Framework openai · 2025 · Q008629 · einzelne zitierbare Belege

    OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.

  98. OpenAI o1 System Card openai · 2024 · Q008641 · einzelne zitierbare Belege

    OpenAI beschreibt o1 als in vielen Sicherheitstests verbessert, stuft es aber wegen verbleibender Risiken insgesamt als mittleres Risiko ein und warnt, dass die Prüfungen mögliche Fähigkeiten nur unvollständig erfassen.

  99. Frontier Model Forum openai · 2023 · Q008864 · einzelne zitierbare Belege

    Vier KI-Unternehmen kündigen ein Forum für Sicherheitsforschung, Standards und Informationsaustausch zu Frontier-Modellen an; die Quelle beschreibt Vorhaben, nicht deren Umsetzung oder Wirkung.

  100. Testimony before the U.S. Senate openai · 2023 · Q008913 · einzelne zitierbare Belege

    Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →