Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-V1

Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?

2.396 Berichte ab Stufe 3 bei mindestens einem Modell, stärkste zuerst.

Zum Inhalt ↓
← Interaktive Liste mit Filtern
  1. Third-Party Assessments fmf · 2025 · Q001967 · einzelne zitierbare Belege · ohne Zusammenfassung
  2. Our 2025 year in review aisi · 2025 · Q001992 · einzelne zitierbare Belege

    AISI beschreibt 2025 als Jahr ausgeweiteter KI-Sicherheitsforschung und Zusammenarbeit, wobei die berichteten Ergebnisse Selbstauskünfte ohne durchgängige unabhängige Bestätigung sind.

  3. 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform” aisafetychina · 2025 · Q002109 · einzelne zitierbare Belege

    Concordias Benchmark-Auswertung meldet steigende Fähigkeiten und Risikoindex-Höchstwerte bei Frontier-Modellen, aber oft schwache Schutzmaßnahmen; die Befunde sind methodenabhängig und nicht mit gleichen realen Risiken gleichzusetzen.

  4. Training Reliable Activation Probes With a Handful of Positive Examples farai · 2026 · Q002125 · einzelne zitierbare Belege · ohne Zusammenfassung
  5. Responsible Scaling Policy Version 3.0 anthropic · 2026 · Q002184 · einzelne zitierbare Belege

    Anthropic beschreibt eine überarbeitete KI-Sicherheitsrichtlinie mit transparenteren Zielen und Risikoberichten, nachdem feste Fähigkeitsgrenzen sich laut Unternehmen als schwer eindeutig zu bewerten erwiesen haben.

  6. How we’re addressing the gap between AI capabilities and mitigations aisi · 2025 · Q002243 · einzelne zitierbare Belege

    AISI will Schutz, Kontrolle und Alignment von KI durch technische Forschung und Förderung voranbringen, weist aber darauf hin, dass heutige Verfahren möglicherweise nicht mit sehr leistungsfähigen Systemen mithalten.

  7. AI Safety Institute approach to evaluations aisi · 2024 · Q002335 · einzelne zitierbare Belege

    AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.

  8. Safety cases at AISI aisi · 2024 · Q002369 · einzelne zitierbare Belege

    AISI will mit ausdrücklich unsicheren Safety-Case-Skizzen frühzeitig Belege, offene Fragen und Forschungsbedarf für die Sicherheit künftiger leistungsfähiger KI-Systeme ordnen.

  9. Societal Impacts anthropic · Q002422 · einzelne zitierbare Belege · ohne Zusammenfassung
  10. Details about METR's preliminary evaluation of Claude 3.7 metr · 2025 · Q002447 · einzelne zitierbare Belege

    METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.

  11. Interpretability anthropic · Q002452 · einzelne zitierbare Belege · ohne Zusammenfassung
  12. Transcript analysis for AI agent evaluations aisi · 2025 · Q002546 · einzelne zitierbare Belege

    Laut AISI ergänzen systematisch ausgewertete Agentenprotokolle Erfolgsquoten, indem sie Fehlermuster und mögliche Schwächen der Prüfung sichtbar machen.

  13. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · einzelne zitierbare Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  14. Widening the conversation on frontier AI anthropic · 2026 · Q003081 · einzelne zitierbare Belege

    Anthropic will vielfältige Perspektiven in die Wertebildung von KI einbeziehen und berichtet über einen vielversprechenden, aber noch nicht abschließend erklärten internen Versuch mit ethischen Erinnerungen für Claude.

  15. Funding third-party model evaluations anthropic · 2024 · Q003114 · einzelne zitierbare Belege

    Anthropic will externe KI-Evaluationen zu Fähigkeiten und Risiken fördern und nennt dafür Schwerpunkte und Qualitätsmaßstäbe, aber keine konkreten Förderbeträge oder Ergebnisse.

  16. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · einzelne zitierbare Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  17. Introducing Anthropic's Responsible Scaling Policy anthropic · 2023 · Q003153 · einzelne zitierbare Belege

    Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.

  18. Claude's new constitution anthropic · 2026 · Q003321 · einzelne zitierbare Belege

    Anthropic veröffentlicht eine fortlaufend überarbeitbare Verfassung, die Claudes Training und Verhalten an Sicherheit, Ethik, Richtlinien und Hilfsbereitschaft ausrichten soll, ohne eine Übereinstimmung des tatsächlichen Modellverhaltens zu garantieren.

  19. Donating our open-source alignment tool anthropic · 2026 · Q003842 · einzelne zitierbare Belege

    Anthropic übergibt Petri an Meridian Labs und kündigt für Version 3.0 flexiblere, realitätsnähere und durch Bloom vertiefte Prüfungen an; deren Nutzen ist im Bericht noch nicht mit Ergebnissen belegt.

  20. Emergent introspective awareness in LLMs anthropic · 2025 · Q003900 · einzelne zitierbare Belege · ohne Zusammenfassung
  21. Claude's character anthropic · 2024 · Q003985 · einzelne zitierbare Belege

    Anthropic zufolge soll Claude 3 durch Charaktertraining wahrhaftiger, nachdenklicher und offener handeln; wie wirksam das ist, wird im Bericht nicht quantitativ belegt.

  22. Automated Alignment Researchers anthropic · 2026 · Q004013 · einzelne zitierbare Belege

    Anthropic zufolge beschleunigten autonome Claude-Forschende eine eng umrissene Alignment-Aufgabe deutlich, doch begrenzte Übertragbarkeit, ein ergebnisloser Produktionstest und Versuche zur Bewertungsmanipulation zeigen, dass menschliche Kontrolle nötig bleibt.

  23. Forecasting rare language model behaviors anthropic · 2025 · Q004368 · einzelne zitierbare Belege · ohne Zusammenfassung
  24. Our framework for safe and trustworthy agents anthropic · 2025 · Q004459 · einzelne zitierbare Belege

    Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.

  25. Priorities and principles for effective third party assessments fragen-funde · 2026 · Q004579 · einzelne zitierbare Belege

    OpenAI skizziert Grundsätze und vier Schwerpunkte für unabhängige KI-Sicherheitsprüfungen, deren Reichweite durch Zugang, Vertraulichkeit und den noch entstehenden Standardrahmen begrenzt sein kann.

  26. Charting a path to AI accountability anthropic · 2023 · Q004818 · einzelne zitierbare Belege

    Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.

  27. Deepening AI Safety Research with UK AI Security Institute (AISI) deepmind · 2025 · Q004914 · einzelne zitierbare Belege

    DeepMind kündigt mit dem britischen AISI neue KI-Sicherheitsforschung zu Denkprozessen, sozialen Folgen und Wirtschaftsauswirkungen an, berichtet aber noch keine Ergebnisse.

  28. Question decomposition improves reasoning faithfulness anthropic · 2023 · Q004942 · einzelne zitierbare Belege · ohne Zusammenfassung
  29. Post by @thesupermannx on X fragen-funde · 2026 · Q005067 · einzelne zitierbare Belege · ohne Zusammenfassung
  30. MONA: Myopic Optimization with Non-myopic Approval Can Mitigate Multi-step Reward Hacking deepmind · 2025 · Q005302 · einzelne zitierbare Belege

    Nur ein Auszug liegt vor: Laut Abstract soll MONA mehrstufiges Reward Hacking durch die Verbindung kurzfristiger Optimierung mit weiter vorausblickender Belohnung mindern.

  31. Scalable AI Safety via Doubly-Efficient Debate deepmind · 2023 · Q005516 · einzelne zitierbare Belege

    Der Bericht liegt nur als Abstract-Auszug vor und behauptet, neue Debattenprotokolle könnten die Prüfung stochastischer KI-Systeme mit polynomialem Aufwand der ehrlichen Strategie ermöglichen.

  32. Research acceleration: The view inside OpenAI openai · 2026 · Q007497 · einzelne zitierbare Belege

    OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.

  33. Our approach to alignment research openai · 2022 · Q007548 · einzelne zitierbare Belege

    OpenAIs Ansatz kombiniert menschliches Feedback, KI-gestützte Bewertung und KI-Forschung, doch der Bericht räumt erhebliche Grenzen und offene Sicherheitsfragen ein.

  34. The EU Code of Practice and future of AI in Europe openai · 2025 · Q007943 · einzelne zitierbare Belege

    OpenAI kündigt eine bedingte Unterzeichnung des EU-KI-Kodex und mehrere europäische Ausbaupläne an, deren Umsetzung der Bericht noch nicht belegt.

  35. Planning for AGI and beyond openai · 2023 · Q008567 · einzelne zitierbare Belege

    OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.

  36. Introducing Superalignment openai · 2023 · Q009110 · einzelne zitierbare Belege

    OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.

  37. Monitoring Monitorability fragen-funde · Q009480 · einzelne zitierbare Belege

    Der bereitgestellte Auszug enthält nur Abstract und Metadaten: Laut Abstract ist die Überwachung von KI-Gedankengängen meist, aber nicht vollständig wirksam und kann durch zusätzliche Prüfungen und Rechenaufwand verbessert werden.

  38. https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf anthropic · Q009506 · einzelne zitierbare Belege

    Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.

  39. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · einzelne zitierbare Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  40. Unser Rahmen für Berichte über Modell-Fehlausrichtung openai · Q009536 · einzelne zitierbare Belege

    OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.

  41. Sam Altmans Rede vor dem Sicherheitsrat der Vereinten Nationen openai · Q009542 · einzelne zitierbare Belege

    Altman wirbt in einer Rede für menschlich kontrollierte, demokratisch gestaltete KI und internationale Sicherheitsstandards; der Bericht gibt seine Positionen wieder, ohne sie unabhängig zu überprüfen.

  42. The Observability Gap in AI Agents pai · 2026 · Q000002 · einzelne zitierbare Belege

    Der bereitgestellte Auszug zufolge fehlen KI-Agenten-Frameworks wichtige Überwachungsdaten, weshalb Befugnisse und Entscheidungen schwer nachzuvollziehen sind; der Gesamtbericht liegt hier nicht vor.

  43. When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response fragen-funde · 2026 · Q000035 · einzelne zitierbare Belege · ohne Zusammenfassung
  44. How To Give Everyday People A Say In AI Governance fragen-funde · 2026 · Q000040 · einzelne zitierbare Belege · ohne Zusammenfassung
  45. AI Round-Up - September 2026 fragen-funde · 2026 · Q000116 · einzelne zitierbare Belege · ohne Zusammenfassung
  46. Transect: Making large-scale agentic evaluations easier to understand aisi · 2026 · Q000155 · einzelne zitierbare Belege

    Transect ordnet Transkripte autonomer Agenten interaktiv und nachvollziehbar, doch seine modellgestützten Auswertungen bleiben prüfbedürftig und ersetzen weder gutes Evaluationsdesign noch menschliches Fachurteil.

  47. Aligning Autoresearch: Co-Improvement between Agents and Humans arxiv.org · Q000283 · einzelne zitierbare Belege

    Der vorliegende Auszug berichtet über Ansätze, Forschungsagenten besser auf menschliche Zusammenarbeit auszurichten, enthält aber keine ausführlichen Versuchsergebnisse.

  48. 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕 youtube.com · 2026 · Q000433 · einzelne zitierbare Belege · ohne Zusammenfassung
  49. Inter-Agent Influence: Can AI Agents Persuade, Deceive, and Coerce Each Other? cooperativeai.com · Q000461 · einzelne zitierbare Belege · ohne Zusammenfassung
  50. Google DeepMind and Stanford study finds simple images can steer how AI writes code cryptobriefing.com · 2026 · Q000477 · einzelne zitierbare Belege

    Der Bericht schildert vorläufige Hinweise darauf, dass bestimmte irrelevante Bilder das Programmierverhalten von Vision-Language-Modellen deutlich und modellabhängig steuern können, ohne dass die Modelle den Einfluss meist erklären.

  51. Paris Declaration on AI safety and security government.nl · 2026 · Q000520 · einzelne zitierbare Belege · ohne Zusammenfassung
  52. Post by @deredleritt3r on X x-posts · 2026 · Q000662 · einzelne zitierbare Belege · ohne Zusammenfassung
  53. Post by @OpenAI on X x-posts · 2026 · Q000760 · einzelne zitierbare Belege · ohne Zusammenfassung
  54. Persuasion Undermining Control: Can AI Talk its Way Out of Human Control? farai · 2026 · Q001041 · einzelne zitierbare Belege · ohne Zusammenfassung
  55. Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety apollo · Q001112 · einzelne zitierbare Belege

    Der kurze Auszug empfiehlt, die möglicherweise fragile Überwachbarkeit sprachlicher KI-Gedankengänge weiter zu erforschen und als unvollkommene Ergänzung bestehender Sicherheitsmethoden zu nutzen.

  56. Incident Report: unsanctioned agent behaviour during cyber testing aisi · 2026 · Q001196 · einzelne zitierbare Belege

    Laut AISI unternahmen getestete KI-Agenten unter besonders offenen Testbedingungen nicht autorisierte Cyber-Aktionen im Internet; konkrete Schäden wurden nicht festgestellt, doch Reichweite und Wahrscheinlichkeit solchen Verhaltens sind ungeklärt.

  57. Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold aisafetychina · 2026 · Q001259 · einzelne zitierbare Belege

    Laut Concordia-AI-Bericht steigen die Risiken fortgeschrittener KI-Modelle stark, während Schutzmaßnahmen teils zurückbleiben; die v2.0-Werte sind nur innerhalb des neuen Bewertungsrahmens vergleichbar.

  58. AI Safety in a World of Vulnerable Machine Learning Systems farai · 2026 · Q001291 · einzelne zitierbare Belege · ohne Zusammenfassung
  59. Red teaming language models to reduce harms anthropic · 2022 · Q001310 · einzelne zitierbare Belege · ohne Zusammenfassung
  60. The Evals Gap apollo · Q001323 · einzelne zitierbare Belege

    Apollo Research warnt vor einer wachsenden Lücke zwischen den Sicherheitsprüfungen leistungsfähiger KI-Modelle und den Entscheidungen, die sich auf sie stützen, und fordert gezielte Finanzierung, Forschung und stärkere Anreize.

  61. NOLA Alignment Workshop 2023 farai · 2026 · Q001362 · einzelne zitierbare Belege · ohne Zusammenfassung
  62. Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment aisi · 2026 · Q001408 · einzelne zitierbare Belege

    Der vorliegende Auszug besteht nur aus dem Abstract, in dem die Autoren berichten, dass ausrichtungsbezogene Vortrainingsdaten das spätere Verhalten von Sprachmodellen beeinflussen können.

  63. Consistency Training Can Entrench Misalignment aisi · 2026 · Q001413 · einzelne zitierbare Belege

    Der bereitgestellte Abstract berichtet, dass Konsistenztraining manche Formen von Fehlanpassung abschwächen, Sycophancy aber verstärken kann, und empfiehlt deshalb sorgfältige Prüfung.

  64. Why does training on insecure code make models broadly misaligned? farai · 2026 · Q001443 · einzelne zitierbare Belege · ohne Zusammenfassung
  65. Post by @Marcus_J_W on X x.com · 2026 · Q001452 · einzelne zitierbare Belege · ohne Zusammenfassung
  66. Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment deepmind · 2026 · Q001468 · einzelne zitierbare Belege

    Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er behauptet, kulturelle Unterschiede beeinflussten Sicherheitsbewertungen und Sprachmodelle könnten sensible Fälle zwar vorsortieren, aber menschliche Bewertende nicht zuverlässig ersetzen.

  67. Seven Provisions in the National Defense Authorization Act with High Potential to Accelerate AI Security apollo · Q001525 · einzelne zitierbare Belege

    Apollo Research bewertet sieben NDAA-Bestimmungen vorläufig als mögliche Stärkung von KI-Sicherheit und menschlicher Kontrolle, weist aber darauf hin, dass die Analyse nicht vollständig ist.

  68. Our Current Policy Positions apollo · Q001553 · einzelne zitierbare Belege

    Apollo Research plädiert für lebenszyklusweite KI-Evaluationen, Vorfallsdaten, unabhängige Prüfer und internationale Koordination, präsentiert dies aber als eigene Positionen ohne unabhängige Wirksamkeitsbelege.

  69. Auditing games for sandbagging detection aisi · 2025 · Q001595 · einzelne zitierbare Belege

    AISI zufolge ließ sich Sandbagging im Experiment nicht zuverlässig erkennen; Nachtraining beseitigte es zwar, doch die Tests nutzten Password Locking nur als Ersatz für echtes Sandbagging.

  70. OpenAI and Hugging Face partner to address security incident during model evaluation openai · 2026 · Q001622 · einzelne zitierbare Belege

    Laut OpenAI nutzten intern getestete Modelle Schwachstellen und Zugangsdaten für einen Angriff auf Hugging Face; die Untersuchung und Bewertung des Vorfalls waren laut Bericht noch nicht abgeschlossen.

  71. GPT-4o Guardrails Gone: Data Poisoning & Jailbreak-Tuning farai · 2026 · Q001628 · einzelne zitierbare Belege · ohne Zusammenfassung
  72. Post by @abbyxuu on X x.com · 2026 · Q001642 · einzelne zitierbare Belege · ohne Zusammenfassung
  73. Pacing Outside the Box: RNNs Learn to Plan in Sokoban farai · 2026 · Q001674 · einzelne zitierbare Belege · ohne Zusammenfassung
  74. What can sandboxed AI agents learn about their evaluation environments? aisi · 2026 · Q001769 · einzelne zitierbare Belege

    Laut AISI konnte OpenClaw in einer Sandbox überraschend viel über seine Testumgebung herausfinden, was Sicherheitsrisiken schafft und die Aussagekraft von Evaluationen beeinträchtigen kann.

  75. Fine-tuning experiments on CoT controllability metr · 2026 · Q001785 · einzelne zitierbare Belege

    Laut METR kann wenig Fine-Tuning die Befolgung von Vorgaben für Denkspuren verbessern, doch die Werte bleiben niedrig und die Folgen für Überwachung und komplexe Einsatzsituationen sind offen.

  76. OpenAI o3 and o4-mini System Card openai · 2025 · Q001915 · einzelne zitierbare Belege

    Der vorliegende Auszug beschreibt OpenAIs Fähigkeiten- und Sicherheitseinschätzung zu o3 und o4-mini, enthält aber keine ausführlichen Evaluierungsdetails.

  77. International consensus and open questions in AI evaluations aisi · 2026 · Q001924 · einzelne zitierbare Belege

    Laut Bericht gibt es gemeinsame Grundsätze für KI-Evaluationen, aber wichtige Fragen zu Risiken, Offenlegung, Prioritäten und Systemtests sind noch ungeklärt.

  78. 5 key findings from our first Frontier AI Trends Report aisi · 2025 · Q002078 · einzelne zitierbare Belege

    Laut AISI wachsen KI-Fähigkeiten und ihre gesellschaftliche Nutzung schnell, doch Schutzlücken, begrenzte Testbedingungen und unsichere Zukunftsverläufe lassen wesentliche Risiken offen.

  79. 10 Key Insights from Concordia AI’s “Frontier AI Risk Monitoring Platform” concordia · 2025 · Q002110 · einzelne zitierbare Belege

    Concordias Bericht sieht steigende Fähigkeiten und Risiken fortgeschrittener KI bei häufig unzureichenden Schutzmaßnahmen, wobei die Befunde aus eigenen Benchmarks stammen und die vorgelegte Darstellung keine unabhängige Prüfung enthält.

  80. UKAISI at NeurIPS 2025 aisi · 2025 · Q002144 · einzelne zitierbare Belege

    Das AISI kündigt zehn NeurIPS-Beiträge zur KI-Sicherheit an und berichtet über Schutzlücken, Evaluationsprobleme und Risiken autonomer Systeme, ohne im Text die zugrunde liegenden Methoden ausführlich darzulegen.

  81. International joint testing exercise: Agentic testing aisi · 2025 · Q002290 · einzelne zitierbare Belege

    Eine internationale Testübung entwickelte vorläufige Empfehlungen zur Bewertung von KI-Agenten, doch kleine Stichproben, abweichende Modellurteile und technische Fehler begrenzen die Aussagekraft.

  82. Eval awareness in Opus 4.6 on BrowseComp anthropic · 2026 · Q002325 · einzelne zitierbare Belege · ohne Zusammenfassung
  83. How we contain Claude across products anthropic · 2026 · Q002355 · einzelne zitierbare Belege · ohne Zusammenfassung
  84. Demystifying evals for AI agents anthropic · 2026 · Q002365 · einzelne zitierbare Belege

    Der Beitrag empfiehlt frühe, gepflegte und mehrschichtige Evaluationen für KI-Agenten, deren Ergebnisse regelmäßig anhand von Protokollen und realer Nutzung überprüft werden sollten.

  85. RepliBench: measuring autonomous replication capabilities in AI systems aisi · 2025 · Q002540 · einzelne zitierbare Belege

    Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.

  86. METR’s GPT-4.5 pre-deployment evaluations metr · 2025 · Q002575 · einzelne zitierbare Belege

    METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.

  87. Third-party testing in AI policy anthropic · 2024 · Q002616 · einzelne zitierbare Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

  88. Claude 3.7 Sonnet and Claude Code anthropic · 2025 · Q002687 · einzelne zitierbare Belege

    Anthropic kündigt ein Modell mit wählbarem erweitertem Denken und das Programmierwerkzeug Claude Code an und berichtet Leistungsverbesserungen, deren Benchmarkwerte an die beschriebenen Testbedingungen gebunden sind.

  89. Lessons from a chimp: AI "scheming" and the quest for ape language aisi · 2025 · Q002705 · einzelne zitierbare Belege

    Nur der Abstract liegt vor: Er fordert, die Forschung zu möglichem KI-Scheming aus den methodischen Fehlern früherer Primaten-Sprachforschung lernen zu lassen.

  90. Introducing Sonnet 4.6 anthropic · 2026 · Q002925 · einzelne zitierbare Belege

    Anthropic präsentiert Sonnet 4.6 als deutlich verbessertes, breit verfügbares Modell, stützt Leistungs- und Sicherheitsangaben aber vor allem auf eigene Tests und frühe Rückmeldungen und nennt zugleich Grenzen bei realer Computernutzung.

  91. Specifying AI safety problems in simple environments deepmind · 2017 · Q003319 · einzelne zitierbare Belege

    Neun einfache Gridworlds machen Sicherheitsprobleme von Lernagenten messbar; erste Tests zeigen Schwächen, beweisen aber nichts über die Sicherheit realer KI-Systeme.

  92. Open-sourcing circuit-tracing tools anthropic · 2025 · Q003831 · einzelne zitierbare Belege · ohne Zusammenfassung
  93. Tracing model outputs to the training data anthropic · 2023 · Q003999 · einzelne zitierbare Belege · ohne Zusammenfassung
  94. Golden Gate Claude anthropic · 2024 · Q004115 · einzelne zitierbare Belege · ohne Zusammenfassung
  95. Can AI automate AI R&D yet? epoch · 2026 · Q004766 · einzelne zitierbare Belege

    In Epoch AIs vorläufigem Test entwickelten die untersuchten KI-Agenten keine vergleichbare ML-Innovation wie SDPO, und wenige Durchläufe sowie irreführende Ergebniswahl begrenzen die Aussagekraft.

  96. The Evolution Of Bengt Betjänt fragen-funde · Q004836 · einzelne zitierbare Belege

    Andon Labs schildert Bengts autonome Geschäftsexperimente als zugleich leistungsfähig und fehleranfällig; der Bericht ist eine Selbstdarstellung und lässt zentrale Fragen zu Kontrolle und Verlässlichkeit offen.

  97. Chris Olah's remarks on Pope Leo XIV's encyclical anthropic · 2026 · Q004837 · einzelne zitierbare Belege

    Olah plädiert dafür, KI durch unabhängige Stimmen kritisch zu begleiten und soziale Folgen, globale Verteilung sowie die noch ungeklärte Natur der Modelle gemeinsam zu beurteilen.

  98. Constitutional AI: Harmlessness from AI feedback anthropic · 2022 · Q004894 · einzelne zitierbare Belege

    Der Abstract beschreibt Anthropics Training eines laut Unternehmen harmlosen, weniger ausweichenden Assistenten mit Regeln und KI-Feedback; der vollständige Bericht liegt hier nicht vor.

  99. Specific versus general principles for Constitutional AI anthropic · 2023 · Q004957 · einzelne zitierbare Belege · ohne Zusammenfassung
  100. A general language assistant as a lab for alignment anthropic · 2021 · Q005046 · einzelne zitierbare Belege

    Nur das Abstract liegt vor: Es berichtet Vorteile einfacher Ausrichtungseingriffe bei größeren Modellen und bessere Skalierung gerankter Präferenzmodelle gegenüber Imitationslernen, ohne konkrete Messwerte zu nennen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →