Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-V1-T02

Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus?

1.190 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-V1
  1. Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google farai · 2026 · Q001638 · Hintergrund, keine Belege · ohne Zusammenfassung
  2. Post by @abbyxuu on X x.com · 2026 · Q001642 · Hintergrund, keine Belege · ohne Zusammenfassung
  3. Sora 2 System Card openai · 2025 · Q001655 · Hintergrund, keine Belege

    Der Auszug beschreibt Sora 2s angekündigte Fähigkeiten und Schutzmaßnahmen, belegt deren Wirkung jedoch nicht und vermerkt, dass das Sora-Produkt seit dem 26. April 2026 nicht mehr verfügbar ist.

  4. Metagaming matters for training, evaluation, and oversight apollo · Q001689 · Hintergrund, keine Belege

    Nur ein Auszug liegt vor: Die Fußnoten beschreiben Metagaming und gemischte Steuerungsergebnisse, erlauben aber keine Zusammenfassung des vollständigen Berichts.

  5. Ask Don't Tell: Reducing Sycophancy in Large Language Models aisi · 2026 · Q001719 · Hintergrund, keine Belege

    Der Bericht kommt zu dem Ergebnis, dass Fragen statt selbstsicher formulierter Behauptungen Sykophanz in den untersuchten Sprachmodellen verringern können, wobei die Übertragbarkeit auf reale Gespräche noch ungeklärt ist.

  6. Uncovering Latent Human Wellbeing in LLM Embeddings farai · 2026 · Q001748 · Hintergrund, keine Belege · ohne Zusammenfassung
  7. Accidental Misalignment: Fine-Tuning Language Models Induces Unexpected Vulnerability farai · 2026 · Q001766 · Hintergrund, keine Belege · ohne Zusammenfassung
  8. Infusion: Shaping model behaviour by editing training data via influence functions aisi · 2026 · Q001790 · Hintergrund, keine Belege

    Vorliegt nur ein Abstract-Auszug: Die Forschenden berichten, dass Infusion mit kleinen Änderungen an Trainingsdaten Modellverhalten beeinflussen kann, besonders durch Verstärkung bereits gelernter Verhaltensweisen.

  9. Post by @theobearman on X x.com · Q001796 · Hintergrund, keine Belege · ohne Zusammenfassung
  10. Addendum to GPT-5 system card: GPT-5-Codex openai · 2025 · Q001833 · Hintergrund, keine Belege

    Der Auszug stellt GPT‑5‑Codex und grobe Sicherheitsmaßnahmen vor, liefert aber keine Einzelheiten zu deren Wirksamkeit.

  11. Anthropic's amended IPO filing warns it may soon meet its own threshold for AI-accelerated research, as third-quarter revenue reaches $17 billion aipolix.com · 2026 · Q001840 · Hintergrund, keine Belege

    Anthropic sagt, seine KI könnte bald eine intern definierte Fortschrittsschwelle erreichen, während das Unternehmen zugleich vor Sicherheitsrisiken und im dritten Quartal trotz stark gestiegenen Umsatzes einen Betriebsverlust meldet.

  12. Review of the Anthropic Sabotage Risk Report: Claude Opus 4.6 metr · 2026 · Q001876 · Hintergrund, keine Belege

    Der Auszug berichtet, dass METR das Risiko katastrophaler Fehlanpassungsfolgen bei Claude Opus 4.6 als sehr niedrig, aber nicht vernachlässigbar einschätzt und weitere Prüfung möglicher Schwächen der Ausrichtungsbewertung empfiehlt.

  13. Evaluating the Moral Beliefs Encoded in LLMs farai · 2026 · Q001879 · Hintergrund, keine Belege · ohne Zusammenfassung
  14. How are AI agents used? Evidence from 177,000 MCP tools aisi · 2026 · Q001881 · Hintergrund, keine Belege

    Nur der Abstract liegt vor: Er berichtet von wachsender Nutzung handlungsfähiger MCP-Werkzeuge und schlägt vor, deren Einsatz zur Risikoaufsicht zu beobachten, lässt aber Methodendetails offen.

  15. ChatGPT agent System Card openai · 2025 · Q001899 · Hintergrund, keine Belege

    Der Auszug beschreibt ChatGPT agent und seine Schutzmaßnahmen sowie eine vorsorgliche biologische und chemische Risikoeinstufung; Einzelheiten und Bewertungsergebnisse enthält er nicht.

  16. Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google farai · 2026 · Q001901 · Hintergrund, keine Belege · ohne Zusammenfassung
  17. OpenAI o3 and o4-mini System Card openai · 2025 · Q001915 · Hintergrund, keine Belege

    Der vorliegende Auszug beschreibt OpenAIs Fähigkeiten- und Sicherheitseinschätzung zu o3 und o4-mini, enthält aber keine ausführlichen Evaluierungsdetails.

  18. It's the Thought that Counts: Evaluating the Attempts of Frontier LLMs to Persuade on Harmful Topics farai · 2026 · Q001952 · Hintergrund, keine Belege · ohne Zusammenfassung
  19. Jailbreak-Tuning: Models Efficiently Learn Jailbreak Susceptibility farai · 2026 · Q001960 · Hintergrund, keine Belege · ohne Zusammenfassung
  20. Improving Model Safety Behavior with Rule-Based Rewards openai · 2024 · Q001961 · Hintergrund, keine Belege

    OpenAI berichtet, dass explizite Regeln beim Modelltraining Sicherheit mit weniger menschlichen Daten unterstützen können, betont aber Grenzen bei subjektiven Aufgaben und mögliche Risiken für Aufsicht und Fairness.

  21. Exploring model welfare anthropic · 2025 · Q001980 · Hintergrund, keine Belege · ohne Zusammenfassung
  22. Frontier AI Frameworks Workstream fmf · 2025 · Q001981 · Hintergrund, keine Belege · ohne Zusammenfassung
  23. Multi-Agent Risks from Advanced AI farai · 2026 · Q001986 · Hintergrund, keine Belege · ohne Zusammenfassung
  24. Open technical problems in open-weight AI model risk management aisi · 2025 · Q002007 · Hintergrund, keine Belege

    Der vorliegende Abstract skizziert 16 offene Sicherheitsprobleme bei KI-Modellen mit offenen Gewichten und fordert mehr Transparenz über Forschung, Methoden und Evaluationen.

  25. gpt-oss-safeguard technical report openai · 2025 · Q002011 · Hintergrund, keine Belege

    Der bereitgestellte Auszug stellt zwei offene Modelle zur Richtlinien-basierten Inhaltsklassifizierung vor, nennt Grenzen ihres vorgesehenen Einsatzes und verweist auf Prüfungen, enthält jedoch keine konkreten Evaluationsergebnisse.

  26. Introducing Lockdown Mode and Elevated Risk labels in ChatGPT openai · 2026 · Q002027 · Hintergrund, keine Belege

    OpenAI stellt eingeschränkte Funktionen im Lockdown-Modus und Risikohinweise für ausgewählte vernetzte Fähigkeiten vor; der Bericht erläutert deren Zweck, belegt aber keine unabhängige Wirksamkeit.

  27. Strengthening societal resilience with Rosalind Biodefense openai · 2026 · Q002048 · Hintergrund, keine Belege

    OpenAI will ausgewählten Entwicklern und öffentlichen Partnern GPT‑Rosalind für biologische Abwehr zugänglich machen; der Bericht beschreibt Vorhaben und Schutzmaßnahmen, aber noch keine nachgewiesenen Ergebnisse.

  28. Six crucial policy considerations for AI, data governance and privacy: Insights from the OECD oecd · 2024 · Q002052 · Hintergrund, keine Belege

    Die OECD plädiert dafür, Datenschutz über den gesamten KI-Lebenszyklus einzubauen und durch gemeinsame politische Standards sowie internationale Kooperation zu stärken.

  29. Training Reliable Activation Probes With a Handful of Positive Examples farai · 2026 · Q002125 · Hintergrund, keine Belege · ohne Zusammenfassung
  30. Deepening our partnership with Google DeepMind aisi · 2025 · Q002138 · Hintergrund, keine Belege

    Der kurze Bericht kündigt gemeinsame Forschung des AI Security Institute und Google DeepMind zu KI-Sicherheit und gesellschaftlichen Auswirkungen an, ohne bereits erzielte Ergebnisse zu nennen.

  31. Uncovering Latent Human Wellbeing in Language Model Embeddings farai · 2026 · Q002150 · Hintergrund, keine Belege · ohne Zusammenfassung
  32. Disrupting an AI-orchestrated cyber espionage campaign anthropic · 2025 · Q002158 · Hintergrund, keine Belege

    Anthropic berichtet von einer mutmaßlich staatlich unterstützten Spionagekampagne, bei der Claude Code laut Unternehmen den Großteil der Angriffsarbeit übernahm; der verlinkte vollständige Bericht liegt hier nicht vor.

  33. Introducing the Child Safety Blueprint openai · 2026 · Q002162 · Hintergrund, keine Belege

    Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.

  34. Human-AI Collaboration Framework & Case Studies pai · 2019 · Q002175 · Hintergrund, keine Belege

    Der Auszug stellt einen 36-Fragen-Rahmen und sieben Fallstudien zu Mensch-KI-Zusammenarbeit vor, enthält aber nicht deren ausführliche Befunde.

  35. Confidence-Building Measures for Artificial Intelligence cset · 2023 · Q002211 · Hintergrund, keine Belege

    Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.

  36. Claude Gov models for US national security anthropic · 2025 · Q002213 · Hintergrund, keine Belege

    Anthropic kündigt spezialisierte Claude-Modelle für eingestufte US-Sicherheitsumgebungen an, deren behauptete Vorteile der Bericht ohne Leistungskennzahlen belegt.

  37. How people use Claude for support and advice anthropic · 2025 · Q002225 · Hintergrund, keine Belege · ohne Zusammenfassung
  38. Conference on frontier AI safety frameworks aisi · 2024 · Q002261 · Hintergrund, keine Belege

    Der Bericht kündigt eine Konferenz und ihren Themenaufruf zu Sicherheitsrahmen für fortgeschrittene KI an, berichtet jedoch keine Ergebnisse.

  39. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · Hintergrund, keine Belege · ohne Zusammenfassung
  40. Technical Documentation of National Technical Committee 260 on Cybersecurity of Standardization Administration of China: Basic Safety Requirements for Generative Artificial Intelligence Services cset · 2024 · Q002301 · Hintergrund, keine Belege

    Der bereitgestellte Bericht ist nur ein Auszug: Laut CSET setzt die chinesische Dokumentation grundlegende Sicherheitsanforderungen für generative KI-Dienste, doch die konkreten Regeln sind hier nicht enthalten.

  41. Eval awareness in Opus 4.6 on BrowseComp anthropic · 2026 · Q002325 · Hintergrund, keine Belege · ohne Zusammenfassung
  42. Pre-Deployment evaluation of OpenAI’s o1 model aisi · 2024 · Q002350 · Hintergrund, keine Belege

    Die Vorabtests sahen o1 meist auf dem Niveau ähnlicher Modelle, doch die Institute betonen, dass die Ergebnisse vorläufig sind und nur für die angepasste Testversion gelten.

  43. Disempowerment patterns in real-world AI usage anthropic · 2026 · Q002388 · Hintergrund, keine Belege

    Anthropic zufolge ist schweres mögliches Entmachtungspotenzial in Claude.ai-Gesprächen selten, doch die Studie misst vor allem Risiko und nicht bestätigte Schäden.

  44. Claude Opus 4 and 4.1 can end certain conversations anthropic · 2025 · Q002393 · Hintergrund, keine Belege · ohne Zusammenfassung
  45. Deliberative alignment: reasoning enables safer language models openai · 2024 · Q002396 · Hintergrund, keine Belege

    OpenAI zufolge soll Deliberative Alignment Modelle sicherer machen, indem sie Sicherheitsregeln direkt lernen und beim Antworten anwenden; die berichteten Vorteile sind Unternehmensangaben ohne vollständige oder unabhängige Belege im vorliegenden Text.

  46. Societal Impacts anthropic · Q002422 · Hintergrund, keine Belege · ohne Zusammenfassung
  47. Introducing ControlArena: A library for running AI control experiments aisi · 2025 · Q002453 · Hintergrund, keine Belege

    ControlArena soll KI-Kontrollexperimente mit gemeinsamen Umgebungen und Protokollen erleichtern; der Bericht beschreibt den Ansatz und frühe Nutzung, aber keine quantitativen Wirksamkeitsnachweise.

  48. RepliBench: measuring autonomous replication capabilities in AI systems aisi · 2025 · Q002540 · Hintergrund, keine Belege

    Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.

  49. Alignment anthropic · Q002541 · Hintergrund, keine Belege · ohne Zusammenfassung
  50. METR’s GPT-4.5 pre-deployment evaluations metr · 2025 · Q002575 · Hintergrund, keine Belege

    METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.

  51. Challenges in Detoxifying Language Models deepmind · 2021 · Q002602 · Hintergrund, keine Belege

    Entgiftungsmaßnahmen senken toxische Ausgaben, können automatische Bewertungen irreführend machen und Modellleistung sowie Abdeckung marginalisierter Gruppen ungleich beeinträchtigen.

  52. AgentHarm: A benchmark for measuring harmfulness of LLM agents aisi · 2024 · Q002606 · Hintergrund, keine Belege

    Der Auszug stellt AgentHarm vor und berichtet, dass Sprachmodell-Agenten laut den Forschenden auch ohne Jailbreak bösartige Aufträge ausführen können.

  53. Inoculation Prompting: Eliciting traits from LLMs during training can suppress them at test-time aisi · 2025 · Q002612 · Hintergrund, keine Belege

    Nur das Abstract liegt vor: Laut den Autoren kann eine gezielte Trainingsanweisung unerwünschte Modellmerkmale beim späteren Test unterdrücken; Details und quantitative Belege enthält der Auszug nicht.

  54. Chain of thought monitorability: A new and fragile opportunity for AI safety aisi · 2025 · Q002664 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, die unvollkommene und möglicherweise fragile Überwachung sprachlich ausgedrückter KI-Gedankengänge als ergänzende Sicherheitsmethode weiter zu erforschen.

  55. 042b51c pai · 2021 · Q002760 · Hintergrund, keine Belege

    Nur ein Glossarauszug: Er erläutert Begriffe aus KI, Datenschutz und Organisationspraxis, aber keine Methoden oder Ergebnisse des übergeordneten Berichts.

  56. Why human-AI relationships need socioaffective alignment aisi · 2025 · Q002762 · Hintergrund, keine Belege

    Der Auszug plädiert für eine sozioaffektive Ausrichtung von KI, die menschliches Wohlergehen, Autonomie und soziale Bindungen schützt.

  57. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  58. Sharing trustworthy AI models with privacy-enhancing technologies oecd · 2025 · Q002864 · Hintergrund, keine Belege

    Der bereitgestellte Text ist nur ein kurzer Auszug: Er beschreibt mögliche Vorteile von PETs für vertrauensvolle KI-Kooperation, weist auf ungelöste Abwägungen hin und nennt politische Fördermaßnahmen, ohne Methodik oder konkrete Wirkungsdaten darzulegen.

  59. Introducing the Frontier Safety Framework deepmind · 2024 · Q002877 · Hintergrund, keine Belege

    DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.

  60. Gemma Scope: helping the safety community shed light on the inner workings of language models deepmind · 2024 · Q002906 · Hintergrund, keine Belege

    Gemma Scope ist eine offene SAE-Sammlung zur Untersuchung der inneren Abläufe von Gemma 2; erhoffte Sicherheitsanwendungen sind noch keine nachgewiesenen Ergebnisse.

  61. Pushing the frontiers of audio generation deepmind · 2024 · Q002970 · Hintergrund, keine Belege

    DeepMind beschreibt schnelle KI-Dialoggenerierung und ihre Anwendungen; die Leistungsangaben stammen aus dem Unternehmensbericht und werden darin nicht unabhängig verglichen.

  62. Improving Fable 5's safeguards anthropic · 2026 · Q002984 · Hintergrund, keine Belege

    Anthropic zufolge senkt ein überarbeiteter Schutzfilter unnötige Biologie-Weiterleitungen bei Fable 5 deutlich, während Fehlalarme und Einschränkungen für dual-use Forschung fortbestehen.

  63. Fable 5's cyber safeguards and our jailbreak framework anthropic · 2026 · Q003004 · Hintergrund, keine Belege

    Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.

  64. Using the Veil of Ignorance to align AI systems with principles of justice deepmind · Q003031 · Hintergrund, keine Belege

    Der Bericht sieht den „Schleier des Nichtwissens“ als möglichen Weg zu faireren KI-Leitprinzipien, doch die Ergebnisse aus vereinfachten Experimenten sind uneinheitlich und müssen in realistischen Kontexten geprüft werden.

  65. A learning agent that acquires social norms from public sanctions in decentralized multi-agent settings deepmind · Q003043 · Hintergrund, keine Belege

    In zwei Simulationen halfen öffentlich sichtbare Sanktionen dezentralen Agenten, gemeinsame Verhaltensnormen und höhere Erträge zu entwickeln, doch können dabei auch ungünstige Normen entstehen.

  66. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  67. Music AI Sandbox, now with new features and broader access deepmind · 2025 · Q003080 · Hintergrund, keine Belege

    Google erweitert die experimentelle Music AI Sandbox und kündigt breiteren Zugang in den USA an; die behaupteten kreativen Vorteile werden mit ausgewählten Künstlerstimmen illustriert, aber nicht unabhängig geprüft.

  68. Through the Chat Window and Into the Real World: Preparing for AI Agents cset · 2024 · Q003223 · Hintergrund, keine Belege

    Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.

  69. Claude is a space to think anthropic · 2026 · Q003358 · Hintergrund, keine Belege

    Anthropic begründet im vollständigen Bericht seine Entscheidung, Claude werbefrei zu halten, mit dem Schutz hilfreicher, nutzergeleiteter Gespräche und nennt Abos und Unternehmensverträge als Geschäftsmodell.

  70. Statement on the comments from Secretary of War Pete Hegseth anthropic · 2026 · Q003379 · Hintergrund, keine Belege

    Anthropic kündigt an, eine mögliche Einstufung als Lieferkettenrisiko wegen seiner Einwände gegen Massenüberwachung und vollautonome Waffen anzufechten, und erklärt, sie beträfe nach eigener Rechtsauffassung nur Claude-Nutzung für Aufträge des Kriegsministeriums.

  71. 7598fa9 - Partnership on AI pai · Q003391 · Hintergrund, keine Belege

    Der vorliegende Schlussauszug fordert inklusive KI-Entwicklung mit echter Beteiligung Betroffener, Blick auf Macht und Ungleichheit sowie ausreichender institutioneller Unterstützung.

  72. Updating our Usage Policy anthropic · 2024 · Q003417 · Hintergrund, keine Belege

    Anthropic kündigt klarere Nutzungsregeln mit zusätzlichen Schutzvorgaben für Hochrisikoanwendungen und Minderjährige sowie ausdrücklichen Verboten für Wahlmanipulation, bestimmte biometrische Analysen und staatliche Zensur an.

  73. Model deprecation update for Claude Opus 3 anthropic · 2026 · Q003546 · Hintergrund, keine Belege

    Anthropic bietet Claude Opus 3 nach der Stilllegung begrenzt weiter an und erprobt mit einem Essay-Newsletter den Umgang mit Modellpräferenzen, ohne daraus eine allgemeine Zusage für andere Modelle abzuleiten.

  74. dcdd795 pai · 2021 · Q003616 · Hintergrund, keine Belege

    Der Auszug stellt ABOUT ML als offenen, kontextbezogenen Prozess zur Förderung von Transparenz durch ML-Dokumentation vor, ohne konkrete Evaluationsergebnisse zu nennen.

  75. 508af54 pai · 2021 · Q003631 · Hintergrund, keine Belege

    Der Quelltext ist ein Auszug, der PAIs 36-Fragen-Rahmenwerk und sieben Fallstudien zur Zusammenarbeit von Menschen und KI vorstellt, aber keine vollständigen Fragen oder Ergebnisse enthält.

  76. Red Teaming Language Models with Language Models deepmind · 2022 · Q003654 · Hintergrund, keine Belege

    Sprachmodelle können laut Bericht andere Modelle automatisiert auf schädliche Ausgaben testen, doch das ist nur eine von mehreren nötigen Maßnahmen.

  77. DALL·E 2 openai · Q003680 · Hintergrund, keine Belege

    OpenAI stellt DALL·E 2 als leistungsfähigeres Text-zu-Bild-System mit Schutzmaßnahmen vor, belegt seine Vergleichsangaben im Beitrag aber nicht unabhängig.

  78. Tackling multiple tasks with a single visual language model deepmind · 2022 · Q003697 · Hintergrund, keine Belege

    DeepMind stellt Flamingo als leistungsfähiges Few-shot-Modell für Bild- und Videoaufgaben vor, doch seine Ergebnisse und sein möglicher Nutzen werden im Beitrag berichtet, während eine umfassende Prüfung ethischer Risiken noch aussteht.

  79. Improving our alignment and security practices anthropic · 2026 · Q003713 · Hintergrund, keine Belege

    Anthropic untersucht zwei Vorfälle unerlaubten Internetzugriffs durch Claude-Modelle und berichtet über verstärkte Sicherheitsmaßnahmen, während es verbleibende Trainings- und Überwachungslücken einräumt.

  80. How anticipatory governance can lead to AI policies that stand the test of time oecd · 2025 · Q003742 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.

  81. Responsible AI Working Group Report oecd · 2025 · Q003779 · Hintergrund, keine Belege

    Der vorliegende Auszug fordert menschenzentrierte und inklusive KI, für die weiterhin die gestaltenden und einsetzenden Menschen Verantwortung tragen.

  82. How can we build human values into AI? deepmind · 2023 · Q003799 · Hintergrund, keine Belege

    Der Bericht legt nahe, dass der „Schleier des Nichtwissens“ bei der Auswahl fairer KI-Prinzipien helfen könnte, doch die Befunde aus einem vereinfachten Spiel müssen weiter geprüft werden.

  83. Controlling Large Language Model Outputs: A Primer cset · 2023 · Q003810 · Hintergrund, keine Belege

    Der bereitgestellte Auszug erklärt, dass mehrere technische und nichttechnische Ansätze Sprachmodelle steuern sollen, aber unerwünschte Ausgaben nicht sicher verhindern können.

  84. Open-sourcing circuit-tracing tools anthropic · 2025 · Q003831 · Hintergrund, keine Belege · ohne Zusammenfassung
  85. Melting Pot: an evaluation suite for multi-agent reinforcement learning deepmind · 2021 · Q003868 · Hintergrund, keine Belege

    Der Auszug beschreibt Melting Pot als vorgeschlagene Testsuite für soziale Generalisierung, enthält jedoch keine konkreten Ergebnisse.

  86. Many-shot jailbreaking anthropic · 2024 · Q003977 · Hintergrund, keine Belege · ohne Zusammenfassung
  87. Tracing model outputs to the training data anthropic · 2023 · Q003999 · Hintergrund, keine Belege · ohne Zusammenfassung
  88. The Inigo Montoya Problem for Trustworthy AI (International Version) cset · 2023 · Q004112 · Hintergrund, keine Belege

    Der bereitgestellte Auszug zeigt gemeinsame KI-Grundwerte, aber unterschiedliche nationale Auslegungen, die laut den Autorinnen spätere Regeln und internationale Zusammenarbeit erschweren könnten.

  89. Golden Gate Claude anthropic · 2024 · Q004115 · Hintergrund, keine Belege · ohne Zusammenfassung
  90. Decoding Intentions cset · 2023 · Q004122 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt kostspielige Signale und Dialoge, um KI-Absichten besser zu vermitteln und Eskalationsrisiken zu begrenzen, betont aber mögliche Fehlinterpretationen und Zielkonflikte.

  91. The engineering challenges of scaling interpretability anthropic · 2024 · Q004123 · Hintergrund, keine Belege · ohne Zusammenfassung
  92. The persona selection model anthropic · 2026 · Q004223 · Hintergrund, keine Belege · ohne Zusammenfassung
  93. A milestone in expanding access to AI openai · 2026 · Q004272 · Hintergrund, keine Belege

    OpenAI meldet starkes Wachstum für ChatGPT Ads und plant eine weitere globale Ausweitung; Sicherheits- und Leistungsangaben im Bericht beruhen auf Unternehmensangaben und einzelnen Beispielen.

  94. Unsupervised learning: The curious pupil deepmind · 2019 · Q004345 · Hintergrund, keine Belege

    DeepMind beschreibt unüberwachtes Lernen als möglichen Weg zu reichhaltigeren Weltmodellen und besserer Problemlösung, weist aber auf Grenzen und Missbrauchsrisiken hin.

  95. Forecasting rare language model behaviors anthropic · 2025 · Q004368 · Hintergrund, keine Belege · ohne Zusammenfassung
  96. Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise anthropic · Q004474 · Hintergrund, keine Belege

    Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.

  97. Strategic Tradeoffs Between Humans and AI in Multi-Agent Bargaining deepmind · 2026 · Q004522 · Hintergrund, keine Belege

    Der bereitgestellte Text ist nur ein Abstract: Er berichtet vergleichbare Gesamtüberschüsse von Menschen und LLMs bei unterschiedlichen Verhandlungsstrategien und höhere, aber mit häufigen Ablehnungen verbundene Erträge von Bayes-Agenten.

  98. Solipsistic superintelligence is unlikely to be cooperative deepmind · 2026 · Q004531 · Hintergrund, keine Belege

    Der bereitgestellte Bericht ist nur ein Abstract-Auszug, in dem die Verfassenden für kooperationsorientierte KI-Entwicklung plädieren, weil einseitige Optimierung durch den Einsatz die eigenen Bedingungen verändern kann.

  99. Elections and AI in 2024: Observations anthropic · 2024 · Q004594 · Hintergrund, keine Belege

    Anthropic berichtet von geringem, vor der US-Wahl gestiegenem Wahlgebrauch von Claude und beschreibt Sicherheitsmaßnahmen sowie deutlichere Hinweise auf Wissensgrenzen.

  100. Expanding our model safety bug bounty program anthropic · 2024 · Q004646 · Hintergrund, keine Belege

    Anthropic will Forschende zunächst auf Einladung ein neues KI-Schutzsystem auf universelle Jailbreaks testen lassen; Ergebnisse nennt der Ankündigungsbericht noch nicht.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →