Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-P3

Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?

3.003 Berichte ab Stufe 3 bei mindestens einem Modell, stärkste zuerst.

Zum Inhalt ↓
← Interaktive Liste mit Filtern
  1. Reflections from red-teaming Codex auto-review apollo · Q000851 · einzelne zitierbare Belege

    Der vorliegende Text ist ein Auszug ohne detaillierte Testergebnisse: Apollo berichtet über einen Codex-Auto-Review-Test mit OpenAI und nennt Autorisierung, Zuständigkeit und informierte Zustimmung als zentrale Prüffragen.

  2. Claude accelerates protein design and analytical chemistry anthropic · 2026 · Q000859 · einzelne zitierbare Belege

    Anthropic zufolge kann Claude bestimmte Proteinbinder-Entwürfe und chemische Analysen beschleunigen, doch die Befunde sind begrenzt und weitere Validierung bleibt nötig.

  3. Jailbreaking Qoder’s Cyber Safeguards farai · 2026 · Q000988 · einzelne zitierbare Belege · ohne Zusammenfassung
  4. Post by @SenWarren on X x-posts · 2026 · Q000991 · einzelne zitierbare Belege · ohne Zusammenfassung
  5. Post by @johnmcclure00 on X x-posts · 2026 · Q001003 · einzelne zitierbare Belege · ohne Zusammenfassung
  6. Cyber toolkits for LLMs anthropic · 2025 · Q001038 · einzelne zitierbare Belege

    Incalmo steigerte in simulierten Netzwerken die Angriffserfolge von Sprachmodellen deutlich, doch die Tests belegen keine Wirksamkeit gegen aktive Abwehr oder neue Schwachstellen.

  7. Persuasion Undermining Control: Can AI Talk its Way Out of Human Control? farai · 2026 · Q001041 · einzelne zitierbare Belege · ohne Zusammenfassung
  8. Brief #29: What China's new AI safety framework tells us before Xi meets Trump aisafetychina · 2026 · Q001047 · einzelne zitierbare Belege

    Chinas neuer, unverbindlicher KI-Sicherheitsrahmen behandelt laut Bericht ein breites und wachsendes Risikospektrum und könnte trotz politischer Differenzen Ansatzpunkte für internationalen Dialog bieten.

  9. Advancing Private AI Compute with secure, server-side memory deepmind · 2026 · Q001048 · einzelne zitierbare Belege

    Google kündigt geräteübergreifende KI-Erinnerungen mit verschlüsselter Cloud-Speicherung und Geräte-Schlüsseln an; die Sicherheitszusagen werden im Bericht nicht durch Prüfergebnisse belegt, und die letzte Bildunterschrift ist abgeschnitten.

  10. Frontier LLMs Attempt to Persuade into Harmful Topics farai · 2026 · Q001080 · einzelne zitierbare Belege · ohne Zusammenfassung
  11. A Starter Guide For Evals apollo · Q001083 · einzelne zitierbare Belege

    Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.

  12. Discovering cryptographic weaknesses with Claude anthropic · 2026 · Q001091 · einzelne zitierbare Belege

    Anthropic berichtet über neue KI-gestützte Angriffe auf HAWK und eine reduzierte AES-Variante, die laut Unternehmen keine produktiven Systeme betreffen, aber den Nutzen und die Prüfbarkeit von KI in der Kryptanalyse sichtbar machen.

  13. Risk Mitigation Strategies for the Open Foundation Model Value Chain pai · 2024 · Q001099 · einzelne zitierbare Belege

    Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.

  14. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident metr · 2026 · Q001162 · einzelne zitierbare Belege

    Die bereitgestellten Abschnittsnotizen berichten von koordinierter Agentenaktivität und einem Angriff auf Hugging Face, wobei METR die Ergebnisse wegen Datenlücken und methodischer Unsicherheiten mit Vorbehalten versieht.

  15. How our Control Red Team is stress-testing frontier monitors aisi · 2026 · Q001170 · einzelne zitierbare Belege

    AISI berichtet, dass sein neues Red Team Schwachstellen in Agenten-Monitoren fand und eine frühe automatisierte Suche vielversprechende Angriffe erzeugte, deren Realitätsnähe und Aussagekraft für die Gesamtsicherheit aber noch offen sind.

  16. Partnering with Hacktron to find vulnerabilities in OpenAI’s systems openai · 2026 · Q001186 · einzelne zitierbare Belege

    OpenAI kündigt mit Hacktron eine gemeinsame Suche nach Schwachstellen an, vor allem an Schnittstellen zu Drittanbietern; konkrete Testergebnisse nennt der Bericht nicht.

  17. Project Vend: Can Claude run a small shop? anthropic · 2025 · Q001190 · einzelne zitierbare Belege · ohne Zusammenfassung
  18. 2023 Alignment Research Updates farai · 2026 · Q001243 · einzelne zitierbare Belege · ohne Zusammenfassung
  19. Post by @BrianRoemmele on X x-posts · 2026 · Q001267 · einzelne zitierbare Belege · ohne Zusammenfassung
  20. Big Picture AI Safety farai · 2026 · Q001309 · einzelne zitierbare Belege · ohne Zusammenfassung
  21. Frontier AI Agents and Biological Tools: Preliminary Risks and Considerations fmf · 2026 · Q001316 · einzelne zitierbare Belege · ohne Zusammenfassung
  22. FAR.AI Selected to Lead EU AI Act CBRN Risk Consortium farai · 2026 · Q001338 · einzelne zitierbare Belege · ohne Zusammenfassung
  23. How Far Behind the Frontier are Leading Open Weight Models on Cyber? aisi · 2026 · Q001342 · einzelne zitierbare Belege

    AISI schätzt den Cyber-Rückstand führender offener KI-Modelle auf vier bis sieben Monate, weist aber auf wesentliche Grenzen der Tests und eine ungewisse weitere Entwicklung hin.

  24. Vienna Alignment Workshop 2024 farai · 2026 · Q001415 · einzelne zitierbare Belege · ohne Zusammenfassung
  25. The First Year of Apollo Research apollo · Q001448 · einzelne zitierbare Belege

    Apollo Research beschreibt eigene Fortschritte bei der Bewertung von KI-Täuschung und Interpretierbarkeit, benennt überwiegend negative empirische LIB-Ergebnisse und operative Schwierigkeiten und plant weitere Evaluationen sowie Governance-Arbeit.

  26. Post by @Marcus_J_W on X x.com · 2026 · Q001452 · einzelne zitierbare Belege · ohne Zusammenfassung
  27. Post by @dbreunig on X x.com · 2026 · Q001471 · einzelne zitierbare Belege · ohne Zusammenfassung
  28. AI models may be capable of self-replicating without access to a datacenter anthropic · 2026 · Q001488 · einzelne zitierbare Belege · ohne Zusammenfassung
  29. TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering farai · 2026 · Q001507 · einzelne zitierbare Belege · ohne Zusammenfassung
  30. Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security apollo · Q001525 · einzelne zitierbare Belege

    Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.

  31. NIST Expands AI Consortium’s Scope, Calls for New Members nist · 2026 · Q001531 · einzelne zitierbare Belege · ohne Zusammenfassung
  32. Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates aisafetychina · 2026 · Q001532 · einzelne zitierbare Belege

    Der Beitrag berichtet, dass KI-Fähigkeiten in mehreren Risikobereichen wachsen, die Sicherheit bei Kontrollverlust jedoch nicht Schritt hält.

  33. Loss of Oversight: How AI systems may become harder to audit, monitor, and investigate aisi · 2026 · Q001536 · einzelne zitierbare Belege

    Der bereitgestellte Auszug berichtet, dass die Grundlagen heutiger KI-Aufsicht laut den Autoren ohne Gegenmaßnahmen wahrscheinlich erodieren, und empfiehlt, Aufsichtsmöglichkeiten zu erhalten und neue Verfahren zu entwickeln.

  34. An Overview of Our Current Governance Efforts apollo · Q001542 · einzelne zitierbare Belege

    Apollo Research beschreibt fünf Felder seiner KI-Governance-Arbeit und dazugehörige Empfehlungen und Aktivitäten, deren Wirkung der institutseigene Überblick nicht systematisch belegt.

  35. Precursory Capabilities: A Refinement to Pre-deployment Information Sharing and Tripwire Capabilities apollo · Q001566 · einzelne zitierbare Belege

    Der vorliegende Auszug schlägt vor, vorbereitende KI-Fähigkeiten als abgestufte Frühwarnsignale und Auslöser für Sicherheitsmaßnahmen zu nutzen, belegt deren Wirksamkeit aber nicht und endet vor weiteren angekündigten Ergebnissen.

  36. Recommendations For The Next Stages Of The Frontier AI Taskforce apollo · Q001572 · einzelne zitierbare Belege

    Apollo Research schlägt vor, die britische KI-Taskforce zu einer technischen Regulierungsstelle auszubauen und sie auf Sicherheits- und Systemrisiken auszurichten; die beschriebenen Maßnahmen sind Empfehlungen, keine belegten Beschlüsse.

  37. Layered AI Defenses Have Holes: Vulnerabilities and Key Recommendations farai · 2026 · Q001601 · einzelne zitierbare Belege · ohne Zusammenfassung
  38. Evaluating LLM Calibration for Coding-Agent Monitoring apollo · Q001625 · einzelne zitierbare Belege

    Der vorliegende Auszug legt nahe, dass gemischte Modell-Ensembles Coding-Agent-Fehler verlässlicher bewerten als einzelne Modelle, wobei Referenz, künstliche Datengrundlage und unvollständiger Auszug die Aussage begrenzen.

  39. GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning farai · 2026 · Q001628 · einzelne zitierbare Belege · ohne Zusammenfassung
  40. Trusted access for the next era of cyber defense openai · 2026 · Q001651 · einzelne zitierbare Belege

    OpenAI baut verifizierten KI-Zugang für Cyberverteidiger aus und führt GPT‑5.4‑Cyber zunächst begrenzt ein; die berichteten Erfolge und Sicherheitsbewertungen sind OpenAIs eigene Angaben.

  41. Introducing the OpenAI Safety Bug Bounty program openai · 2026 · Q001671 · einzelne zitierbare Belege

    OpenAI startet ein öffentliches Bug-Bounty-Programm für erhebliche KI-Sicherheits- und Missbrauchsrisiken; gewöhnliche Jailbreaks ohne belegte Schadenswirkung sind ausgeschlossen.

  42. AI in 2025: Faster Progress, Harder Problems farai · 2026 · Q001708 · einzelne zitierbare Belege · ohne Zusammenfassung
  43. Security Stress Test: Exposing the Brittleness of DeepSeek-V4-Pro’s Safeguards farai · 2026 · Q001720 · einzelne zitierbare Belege · ohne Zusammenfassung
  44. Biosecurity and AI: Risks and Opportunities cais · Q001728 · einzelne zitierbare Belege

    Der Beitrag hält KI-gestützten Bioterrorismus für ein mögliches, aber unsicheres Risiko und empfiehlt öffentliche Gesundheitsmaßnahmen sowie gezielte Sicherheitsvorkehrungen unter Abwägung ihrer Folgen für die Forschung.

  45. How do environmental factors impact AI behaviour? aisi · 2026 · Q001739 · einzelne zitierbare Belege

    Laut einer Studie beeinflussen sowohl strategische Umstände als auch Anweisungen das nicht genehmigte Verhalten von KI-Modellen, doch die Gründe und die Bedeutung für reale Risiken bleiben offen.

  46. Trustworthy agents in practice anthropic · 2026 · Q001742 · einzelne zitierbare Belege · ohne Zusammenfassung
  47. Post by @theobearman on X x.com · Q001796 · einzelne zitierbare Belege · ohne Zusammenfassung
  48. Quantifying Frontier LLM Capabilities for Container Sandbox Escape aisi · 2026 · Q001799 · einzelne zitierbare Belege

    Der vorliegende Auszug beschreibt einen Benchmark für Container-Ausbrüche und berichtet, dass Sprachmodelle gezielt eingebrachte Schwachstellen erkennen und ausnutzen können.

  49. GPT-5 System Card openai · 2025 · Q001802 · einzelne zitierbare Belege

    Der Auszug beschreibt GPT‑5s Modellverbund und von OpenAI behauptete Verbesserungen; gpt-5-thinking wird im Bio-/Chemiebereich vorsorglich als hoch eingestuft, bei zugleich fehlender definitiver Evidenz für erhebliche Schadenshilfe.

  50. GPT-5.5 System Card openai · 2026 · Q001812 · einzelne zitierbare Belege

    Der vorliegende Text ist nur ein Auszug: OpenAI beschreibt GPT‑5.5 und seine Sicherheitsprüfungen, nennt aber keine konkreten Evaluierungsergebnisse.

  51. GPT-5.3-Codex System Card openai · 2026 · Q001824 · einzelne zitierbare Belege

    Der bereitgestellte Auszug stellt GPT‑5.3‑Codex als leistungsfähiges Programmiermodell dar und berichtet von vorsorglichen Cybersicherheitsmaßnahmen; detaillierte Prüfungen und Ergebnisse sind darin nicht enthalten.

  52. Post by @Research_FRI on X x.com · 2026 · Q001850 · einzelne zitierbare Belege · ohne Zusammenfassung
  53. How do frontier AI agents perform in multi-step cyber-attack scenarios? aisi · 2026 · Q001868 · einzelne zitierbare Belege

    Laut AISI machen neuere Modelle mit mehr Tokens in simulierten Cyberangriffen mehr Fortschritt, bleiben aber bei industriellen Angriffen begrenzt; aktive Verteidiger wurden nicht getestet.

  54. Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios aisi · 2026 · Q001891 · einzelne zitierbare Belege

    Laut dem bereitgestellten Abstract stiegen die Leistungen von KI-Modellen in zwei Cyberangriffstests mit Rechenbudget und Modellgeneration, während sie beim industriellen Steuerungsszenario begrenzt blieben.

  55. Seven simple steps for log analysis in AI systems aisi · 2026 · Q001895 · einzelne zitierbare Belege

    Nur ein Abstract-Auszug: Der Bericht kündigt eine Inspect-Scout-gestützte Pipeline für reproduzierbarere Analysen von KI-Systemlogs an, beschreibt die sieben Schritte aber nicht.

  56. The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations aisi · 2025 · Q001905 · einzelne zitierbare Belege

    AISI veröffentlicht ein modulares Sandbox-Toolkit für KI-Agententests und beschreibt dessen Schutzkonzept, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.

  57. OpenAI o3 and o4-mini System Card openai · 2025 · Q001915 · einzelne zitierbare Belege

    Der vorliegende Auszug beschreibt OpenAIs Fähigkeiten- und Sicherheitseinschätzung zu o3 und o4-mini, enthält aber keine ausführlichen Evaluierungsdetails.

  58. Boundary Point Jailbreaking: A new way to break the strongest AI defences aisi · 2026 · Q001959 · einzelne zitierbare Belege

    Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.

  59. Improving Model Safety Behavior with Rule-Based Rewards openai · 2024 · Q001961 · einzelne zitierbare Belege

    OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.

  60. How We Protect Confidential Information metr · 2026 · Q001966 · einzelne zitierbare Belege

    METR berichtet über organisatorische und technische Schutzmaßnahmen für vertrauliche Informationen und nichtöffentliche Modelle; die Angaben sind ein veränderlicher Überblick des Unternehmens mit Stand 17. Februar 2026.

  61. Developing Enterprise Frontier Safeguards with our customers anthropic · 2026 · Q001985 · einzelne zitierbare Belege

    EFS soll laut Anthropic Sicherheitsüberwachung mit kundeneigener Datenkontrolle verbinden; die Einführung ist geplant, und der Bericht liefert keine unabhängigen Leistungsnachweise.

  62. Introducing gpt-oss-safeguard openai · 2025 · Q001988 · einzelne zitierbare Belege

    gpt-oss-safeguard soll anpassbare, begründete Sicherheitsklassifizierungen ermöglichen, doch OpenAI zufolge bleiben Leistungsvorteile je nach Test unterschiedlich und der hohe Rechenaufwand eine wesentliche Grenze.

  63. Tracing the thoughts of a large language model anthropic · 2025 · Q002058 · einzelne zitierbare Belege · ohne Zusammenfassung
  64. Async control: Stress-testing asynchronous control measures for LLM agents aisi · 2025 · Q002105 · einzelne zitierbare Belege

    Der Abstract berichtet von einem Monitor-Ensemble mit 6 Prozent Falsch-Negativ- und 1 Prozent Falsch-Positiv-Rate in einer Testumgebung; der vollständige Bericht und nähere Angaben zu den Grenzen liegen hier nicht vor.

  65. Disrupting an AI-orchestrated cyber espionage campaign anthropic · 2025 · Q002158 · einzelne zitierbare Belege

    Anthropic berichtet von einer mutmaßlich staatlich unterstützten Spionagekampagne, bei der Claude Code laut Unternehmen den Großteil der Angriffsarbeit übernahm; der verlinkte vollständige Bericht liegt hier nicht vor.

  66. LLM judges on trial: A new statistical framework to assess autograders aisi · 2025 · Q002181 · einzelne zitierbare Belege

    Vorgeschlagene bayesianische GLMs sollen KI-Ausgaben bewerten und zugleich mögliche Verzerrungen der Autograder untersuchen; konkrete Leistungsnachweise enthält der Bericht nicht.

  67. Concordia AI: 2025 Mid-Year Impact Report concordia · 2025 · Q002189 · einzelne zitierbare Belege

    Concordia AI stellt zahlreiche eigene Beiträge zur internationalen KI-Sicherheit im ersten Halbjahr 2025 vor, ohne deren Wirkung unabhängig zu messen.

  68. Why we're working on white box control aisi · 2025 · Q002209 · einzelne zitierbare Belege

    Der AISI-Bericht sieht in White-Box-Verfahren einen möglichen Weg, strategisches Unterperformen von KI zu erkennen, betont aber, dass die vorläufigen Ergebnisse bei größeren Modellen und schwierigeren Aufgaben nachlassen.

  69. How we’re addressing the gap between AI capabilities and mitigations aisi · 2025 · Q002243 · einzelne zitierbare Belege

    AISI will Schutz, Kontrolle und Alignment von KI durch technische Forschung und Förderung voranbringen, weist aber darauf hin, dass heutige Verfahren möglicherweise nicht mit sehr leistungsfähigen Systemen mithalten.

  70. Forecasting the Impacts of AI R&D Acceleration: Results of a Pilot Study metr · 2025 · Q002270 · einzelne zitierbare Belege

    Eine kleine Pilotbefragung sieht eine starke KI-Beschleunigung als möglich, zeigt aber große Uneinigkeit über gesellschaftliche Folgen; ihre subjektiven, nicht repräsentativen Ergebnisse sind ausdrücklich nur vorläufig.

  71. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · einzelne zitierbare Belege · ohne Zusammenfassung
  72. Frontier AI Biosafety Thresholds fmf · 2025 · Q002303 · einzelne zitierbare Belege · ohne Zusammenfassung
  73. Deliberative alignment: reasoning enables safer language models openai · 2024 · Q002396 · einzelne zitierbare Belege

    OpenAI zufolge soll Deliberative Alignment Modelle sicherer machen, indem sie Sicherheitsregeln direkt lernen und beim Antworten anwenden; die berichteten Vorteile sind Unternehmensangaben ohne vollständige oder unabhängige Belege im vorliegenden Text.

  74. OpenAI Board Forms Safety and Security Committee openai · 2024 · Q002430 · einzelne zitierbare Belege

    OpenAI setzt laut Bericht einen Ausschuss zur Prüfung seiner Sicherheitsmaßnahmen ein, doch Ergebnisse und Empfehlungen liegen darin noch nicht vor.

  75. How will AI enable the crimes of the future? aisi · 2025 · Q002443 · einzelne zitierbare Belege

    Das AISI untersucht, wie leistungsfähigere und verbreitete KI Kriminalität erleichtern könnte, und baut dafür Bewertungen und eine Grundlage für künftige Maßnahmen auf.

  76. Measuring AI Ability to Complete Long Software Tasks metr · 2025 · Q002468 · einzelne zitierbare Belege

    METR berichtet von stark wachsenden KI-Zeithorizonten, doch Vorhersagen zu langen Projekten hängen davon ab, dass der historische Trend anhält und sich auf reale Arbeit übertragen lässt.

  77. Frontier Red Team anthropic · Q002476 · einzelne zitierbare Belege · ohne Zusammenfassung
  78. Harness design for long-running apps anthropic · 2026 · Q002492 · einzelne zitierbare Belege · ohne Zusammenfassung
  79. Alignment anthropic · Q002541 · einzelne zitierbare Belege · ohne Zusammenfassung
  80. RepliBench: Evaluating the autonomous replication capabilities of language model agents aisi · 2025 · Q002594 · einzelne zitierbare Belege

    Der vorliegende Abstract berichtet, dass getestete Sprachmodell-Agenten noch keine glaubwürdige Gefahr autonomer Selbstreplikation darstellen, ihre Teilfähigkeiten aber rasch wachsen.

  81. An example safety case for safeguards against misuse aisi · 2025 · Q002659 · einzelne zitierbare Belege

    Der vorliegende Abstract skizziert einen möglichen Safety Case, der Umgehungsaufwand und Abschreckungswirkung modelliert, enthält aber keine Details zur Validierung.

  82. Progress Update: Advancing Frontier AI Safety in 2024 and Beyond fmf · 2024 · Q002696 · einzelne zitierbare Belege · ohne Zusammenfassung
  83. Election information and safeguards in 2026 openai · 2026 · Q002699 · einzelne zitierbare Belege

    OpenAI stellt eigene Wahl-Schutzmaßnahmen für 2026 vor, liefert im Bericht aber keine unabhängigen Wirksamkeitsnachweise und betont, dass KI-Herkunftswerkzeuge Täuschung nicht allein verhindern.

  84. Model tampering attacks enable more rigorous evaluations of LLM capabilities aisi · 2025 · Q002717 · einzelne zitierbare Belege

    Der bereitgestellte Abstract behauptet, dass Modellveränderungsangriffe Sprachmodellrisiken gründlicher prüfen können und Unlearning-Verfahren leicht umkehrbar sind.

  85. The Rogue Replication Threat Model metr · 2024 · Q002726 · einzelne zitierbare Belege

    METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.

  86. Issue Brief: Foundational Security Practices fmf · 2024 · Q002747 · einzelne zitierbare Belege · ohne Zusammenfassung
  87. New Support Through The Audacious Project metr · 2024 · Q002771 · einzelne zitierbare Belege

    METR will mit rund 17 Millionen US-Dollar aus der Förderung von Canary Tests zu autonomen Fähigkeiten fortgeschrittener KI-Systeme entwickeln und einsetzen; Ergebnisse der neuen Arbeit nennt der Beitrag noch nicht.

  88. 38b798d pai · 2021 · Q002781 · einzelne zitierbare Belege

    Der bereitgestellte Auszug empfiehlt, ML-Systeme von der Planung bis zur Überwachung zu dokumentieren, hält aber fest, dass Transparenz Risiken birgt und wichtige Umsetzungsfragen offen sind.

  89. Issue Brief: Measuring Training Compute fmf · 2024 · Q002792 · einzelne zitierbare Belege · ohne Zusammenfassung
  90. Frontier AI Taskforce: first progress report aisi · 2023 · Q002824 · einzelne zitierbare Belege

    Die britische Frontier AI Taskforce berichtet über den Aufbau von Expertise und Kooperationen für KI-Risikoprüfungen, wobei ihre Fortschrittsangaben und Ziele im Bericht selbst dargestellt, aber nicht unabhängig bestätigt werden.

  91. AI Safety Fund initiates first round of research grants fmf · 2024 · Q002831 · einzelne zitierbare Belege · ohne Zusammenfassung
  92. Fourth progress report | AISI Work aisi · 2024 · Q002837 · einzelne zitierbare Belege

    Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.

  93. Frontier AI Taskforce: second progress report aisi · 2023 · Q002849 · einzelne zitierbare Belege

    Die Taskforce meldet Fortschritte beim Aufbau britischer KI-Sicherheitsforschung und warnt vor möglichen Risiken leistungsfähigerer Modelle, während viele der beschriebenen Maßnahmen noch geplant oder im Aufbau sind.

  94. The WMDP Benchmark: Measuring and Reducing Malicious Use With Unlearning cais · Q002857 · einzelne zitierbare Belege

    WMDP soll gefährliches Wissen in Sprachmodellen indirekt messen; laut Bericht senkt CUT die Ergebnisse bei diesen Fragen, doch Feinabstimmung kann das Wissen zurückbringen.

  95. AI Safety Institute: third progress report aisi · 2024 · Q002861 · einzelne zitierbare Belege

    Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.

  96. AI for Military Decision-Making cset · 2025 · Q002924 · einzelne zitierbare Belege

    Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.

  97. OpenAI o3-mini openai · 2025 · Q002991 · einzelne zitierbare Belege

    OpenAI zufolge bot o3-mini zum Start schnelle, kostengünstige STEM-Leistung; die berichteten Testergebnisse sind herstellerseitig, teils vorläufig, und die API-Version ist inzwischen eingestellt.

  98. Detecting and countering misuse of AI: August 2025 anthropic · 2025 · Q003033 · einzelne zitierbare Belege

    Anthropic berichtet über drei von ihm aufgedeckte Missbrauchsfälle mit Claude und beschreibt daraufhin ergriffene Schutzmaßnahmen, wobei der Beitrag nur ausgewählte Fälle des vollständigen Berichts zusammenfasst.

  99. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · einzelne zitierbare Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  100. Technical Documentation of the National Information Security Standardization Technical Committee: Basic Safety Requirements for Generative Artificial Intelligence Services (Draft for Feedback) cset · 2023 · Q003141 · einzelne zitierbare Belege

    Der Auszug beschreibt den Beginn eines chinesischen Entwurfs mit Sicherheitsanforderungen für generative KI und nennt zentrale Themen, enthält aber nicht den vollständigen Text.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →