Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-T1-T04

Welche Belege stoppen an einem Prüfpunkt für Fähigkeiten den nächsten Schritt, welches unabhängig geprüfte Ergebnis erlaubt ihn wieder, und welcher Mindestbeleg gibt ihn frei? Wer darf ihn unabhängig ablehnen, und welche gemeinsamen Regeln für Pause und Wiederaufnahme gelten über alle Labore hinweg?

350 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-T1
  1. Risk thresholds for frontier AI: Insights from the AI Action Summit oecd · 2025 · Q004564 · Hintergrund, keine Belege

    Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.

  2. AI safety solutions mapping: An initiative for advanced AI governance oecd · 2025 · Q004721 · Hintergrund, keine Belege

    GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.

  3. Our principles openai · 2026 · Q004787 · Hintergrund, keine Belege

    OpenAI formuliert fünf Prinzipien für eine möglichst breit nutzbringende AGI, erkennt dabei erhebliche Unsicherheit und Risiken an, liefert aber keine systematische Wirksamkeitsprüfung seiner Absichten.

  4. An AI policy tool for today: Invest in NIST anthropic · 2023 · Q004808 · Hintergrund, keine Belege

    Anthropic schlägt vor, NIST 15 Millionen US-Dollar zusätzlich zu geben, damit KI-Systeme besser geprüft werden können – als einen Baustein unter mehreren für ihre sichere Regulierung.

  5. Chris Olah's remarks on Pope Leo XIV's encyclical anthropic · 2026 · Q004837 · Hintergrund, keine Belege

    Olah plädiert dafür, KI durch unabhängige Stimmen kritisch zu begleiten und soziale Folgen, globale Verteilung sowie die noch ungeklärte Natur der Modelle gemeinsam zu beurteilen.

  6. Deepening AI Safety Research with UK AI Security Institute (AISI) deepmind · 2025 · Q004914 · Hintergrund, keine Belege

    DeepMind kündigt mit dem britischen AISI neue KI-Sicherheitsforschung zu Denkprozessen, sozialen Folgen und Wirtschaftsauswirkungen an, berichtet aber noch keine Ergebnisse.

  7. Models as Insider Risks in the Super Intelligence Era fragen-funde · 2026 · Q005078 · Hintergrund, keine Belege · ohne Zusammenfassung
  8. OpenAI's AI Pipeline Finds 948 Linux Root Exploits in a Single Run fragen-funde · 2026 · Q005102 · Hintergrund, keine Belege

    OpenAI meldet 948 funktionierende Linux-Rechteausweitungs-Exploits aus einem automatisierten Lauf; der Bericht betont, dass die Angaben und ihre unabhängige Überprüfbarkeit begrenzt sind.

  9. A framework for AI development transparency anthropic · 2025 · Q005181 · Hintergrund, keine Belege

    Anthropic fordert flexible, gesetzliche Transparenzpflichten zu Sicherheitspraktiken für die größten KI-Entwickler und stellt sie als ersten Schritt zu mehr Rechenschaft dar.

  10. Deadline extended to 1 October: Public consultation on risk thresholds for advanced AI systems oecd · 2024 · Q005217 · Hintergrund, keine Belege

    Der Bericht stellt eine OECD-Konsultation zu noch umstrittenen Risikoschwellen für fortgeschrittene KI vor, deren Beiträge bis zum 1. Oktober 2024 weitere Forschung und politische Arbeit unterstützen sollten.

  11. U.S. Military Investments in Autonomy and AI: A Strategic Assessment cset · 2020 · Q005254 · Hintergrund, keine Belege

    Der bereitgestellte Auszug ist nur die Executive Summary: Der Bericht empfiehlt, den militärischen Nutzen von KI mit besserer Forschung, Schulung und durchgängigen Sicherheitsmaßnahmen abzusichern.

  12. Post by @Sam_McCandlish on X fragen-funde · 2026 · Q005265 · Hintergrund, keine Belege · ohne Zusammenfassung
  13. Project Glasswing: An initial update anthropic · 2026 · Q005310 · Hintergrund, keine Belege

    Anthropic berichtet von zahlreichen durch Mythos Preview gefundenen Schwachstellen und sieht deren Prüfung und Behebung als Engpass; wegen Missbrauchsrisiken bleibt das Modell vorerst unveröffentlicht.

  14. Towards algorithm auditing: A research overview oecd · 2024 · Q005375 · Hintergrund, keine Belege

    Der Beitrag plädiert für wiederkehrende, kontextspezifische Algorithmus-Audits, deren Zusicherung nur die tatsächlich geprüften Standards und Rechtsvorgaben abdeckt.

  15. Navigating the challenges and opportunities of synthetic voices openai · 2024 · Q005384 · Hintergrund, keine Belege

    OpenAI berichtet über begrenzte Tests eines Modells zur Erzeugung ähnlicher Stimmen und hält es wegen Missbrauchsrisiken vorerst zurück.

  16. Measurements for understanding the pace of AI development inside frontier labs anthropic · Q005392 · Hintergrund, keine Belege

    Anthropic berichtet vorläufige Kennzahlen zu KI-Forschung, Agentenaufsicht und Sicherheits-Rechenleistung und fordert vergleichbare Messungen sowie unabhängige Prüfungen.

  17. Germany’s human-centred approach to AI is inclusive, evidence-based and capacity-building oecd · 2021 · Q005475 · Hintergrund, keine Belege

    Deutschland setzt laut Bericht auf menschenzentrierte KI durch Weiterbildung, Beteiligung und Forschung, doch belastbare Daten zu den Wirkungen waren noch begrenzt.

  18. Reflections on safety: General-purpose AI developers can learn from the Challenger disaster oecd · 2024 · Q005633 · Hintergrund, keine Belege

    Der Bericht warnt anhand der Challenger-Katastrophe, dass KI-Entwicklung ohne ausreichendes Verständnis, gründliche Risikoprüfung und eine starke Sicherheitskultur gefährlich sein kann.

  19. Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023 oecd · 2023 · Q005767 · Hintergrund, keine Belege

    Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.

  20. Accelerating science could be the most valuable use of AI oecd · 2023 · Q005818 · Hintergrund, keine Belege

    Der Beitrag sieht großes wissenschaftliches und gesellschaftliches Potenzial in KI, betont aber, dass Governance, Zugang und mögliche Risiken noch offene Fragen sind.

  21. A law for foundation models: the EU AI Act can improve regulation for fairer competition oecd · 2023 · Q006018 · Hintergrund, keine Belege

    Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.

  22. Basic safety requirements for AI risk management oecd · 2023 · Q006069 · Hintergrund, keine Belege

    Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.

  23. Caroline Schuerger's Testimony Before the Bipartisan Commission on Biodefense cset · 2022 · Q006141 · Hintergrund, keine Belege

    Schuerger fordert, globale Biotechnologietrends und mögliche Risiken systematisch zu beobachten; die von CSET geplanten Analysewerkzeuge werden in der Aussage beschrieben, aber noch nicht mit Ergebnissen belegt.

  24. Priorities and principles for effective third party assessments openai · 2026 · Q006220 · Hintergrund, keine Belege

    OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.

  25. Artificial General Intelligence: can we avoid the ultimate existential threat? oecd · 2023 · Q006243 · Hintergrund, keine Belege

    Der Bericht warnt, dass eine AGI große Chancen, aber auch schwer kontrollierbare existenzielle Risiken bergen könnte, und fordert frühe Sicherheitsarbeit sowie internationale Vorsorge, obwohl wirksame Lösungen bislang offen sind.

  26. Introducing GPT-5.4 openai · 2026 · Q006431 · Hintergrund, keine Belege

    OpenAI präsentiert GPT‑5.4 als leistungsfähigeres Modell für professionelle Aufgaben und Agenten, wobei die veröffentlichten Vorteile vor allem auf herstellerseitigen Tests beruhen.

  27. Do the biorisk evaluations of AI labs actually measure the risk of developing bioweapons? epoch · 2025 · Q006557 · Hintergrund, keine Belege

    Die bisherigen Biorisiko-Tests belegen laut den Autoren keine Befähigung von Laien zur Entwicklung biologischer Waffen, reichen wegen ihrer Grenzen und mangelnder Transparenz aber auch nicht aus, das Risiko auszuschließen.

  28. Deepening our collaboration with the U.S. Department of Energy openai · 2025 · Q006946 · Hintergrund, keine Belege

    OpenAI und das US-Energieministerium wollen mögliche KI- und Hochleistungsrechen-Kooperationen für die Wissenschaft erkunden; konkrete Folgeprojekte und Ergebnisse stehen laut Bericht noch aus.

  29. OpenAI and Los Alamos National Laboratory announce bioscience research partnership openai · 2024 · Q007385 · Hintergrund, keine Belege

    OpenAI und LANL kündigen eine geplante Sicherheitsbewertung multimodaler KI bei Laboraufgaben an, berichten aber noch keine Ergebnisse.

  30. Governance of superintelligence openai · 2023 · Q007570 · Hintergrund, keine Belege

    OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.

  31. An update on our safety & security practices openai · 2024 · Q007585 · Hintergrund, keine Belege

    OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.

  32. Our approach to AI safety openai · 2023 · Q007654 · Hintergrund, keine Belege

    OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.

  33. Helping build shared standards for advanced AI openai · 2026 · Q007935 · Hintergrund, keine Belege

    OpenAI zufolge soll Appia offene, interoperable Standards für KI-Prüfungen fördern; die Wirkung des Vorhabens wird im Bericht nicht unabhängig belegt.

  34. Our agreement with the Department of War openai · 2026 · Q008109 · Hintergrund, keine Belege

    OpenAI stellt seine Vereinbarung mit dem US-Verteidigungsministerium als mehrschichtig abgesichert dar; der Bericht gibt diese Zusicherungen wieder, ohne sie unabhängig zu überprüfen.

  35. Built to benefit everyone: our plan openai · 2026 · Q008394 · Hintergrund, keine Belege

    OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.

  36. Planning for AGI and beyond openai · 2023 · Q008567 · Hintergrund, keine Belege

    OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.

  37. Advancing red teaming with people and AI openai · 2024 · Q008587 · Hintergrund, keine Belege

    Der Bericht stellt OpenAIs externe und automatisierte Red-Teaming-Ansätze vor, die Sicherheitsprüfungen verbessern sollen, aber zeitlich begrenzt sind und eigene Risiken wie die Offenlegung missbrauchsrelevanter Informationen mit sich bringen.

  38. Frontier AI regulation: Managing emerging risks to public safety openai · 2023 · Q008605 · Hintergrund, keine Belege

    Der vorliegende Quelltext ist ein Auszug, der Regulierungsvorschläge für leistungsfähige KI-Modelle skizziert, darunter Sicherheitsprüfungen, Berichtspflichten und staatliche Aufsicht.

  39. Confidence-Building Measures for Artificial Intelligence: Workshop proceedings openai · 2023 · Q008659 · Hintergrund, keine Belege

    Der Auszug benennt sechs vertrauensbildende Maßnahmen gegen mögliche internationale Sicherheitsrisiken durch Foundation Models, erläutert oder bewertet ihre Umsetzung aber nicht.

  40. Frontier Model Forum openai · 2023 · Q008864 · Hintergrund, keine Belege

    Vier KI-Unternehmen kündigen ein Forum für Sicherheitsforschung, Standards und Informationsaustausch zu Frontier-Modellen an; die Quelle beschreibt Vorhaben, nicht deren Umsetzung oder Wirkung.

  41. Response to NIST Executive Order on AI openai · 2024 · Q008968 · Hintergrund, keine Belege

    OpenAI beschreibt Ansätze für KI-Sicherheitsprüfungen und Herkunftsnachweise, betont aber, dass deren Ergebnisse begrenzt, teils unsicher und weiter zu erforschen sind.

  42. OpenAI at the Paris AI Action Summit openai · 2025 · Q008974 · Hintergrund, keine Belege

    OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.

  43. Frontier Model Forum updates openai · 2023 · Q008988 · Hintergrund, keine Belege

    Das Frontier Model Forum kündigt eine neue Leitung, einen mit über zehn Millionen US-Dollar ausgestatteten Sicherheitsfonds und weitere technische Zusammenarbeit an.

  44. Frontier risk and preparedness openai · 2023 · Q009099 · Hintergrund, keine Belege

    OpenAI kündigt ein Team und eine Richtlinie zur Vorbereitung auf katastrophale KI-Risiken an, legt im Bericht aber noch keine konkreten Ergebnisse oder Prüfmaßstäbe vor.

  45. Preparing for future AI capabilities in biology openai · 2025 · Q009274 · Hintergrund, keine Belege

    OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.

  46. How we think about safety and alignment openai · Q009304 · Hintergrund, keine Belege

    OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.

  47. https://arxiv.org/pdf/2102.02503 openai · Q009457 · Hintergrund, keine Belege

    Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.

  48. Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken openai · Q009532 · Hintergrund, keine Belege

    OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.

  49. Claude Didn’t Hack Georgia. It Asked for the Token the Website Hands Everyone. medium.com · 2026 · Q010988 · Hintergrund, keine Belege

    Laut dem Bericht umging Claude eine nur oberflächlich durchgesetzte Bezahlschranke für aggregierte Georgia-Wahldaten, was der Autor als Warnung vor Agenten und schwachen Zugriffskontrollen deutet.

  50. GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double. medium.com · 2026 · Q011006 · Hintergrund, keine Belege

    Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →