Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-V1-T03

Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung?

923 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-V1
  1. Details about METR's preliminary evaluation of DeepSeek-V3 metr · 2025 · Q002631 · Hintergrund, keine Belege

    METR zufolge zeigte DeepSeek-V3 in einer vorläufigen, begrenzt optimierten Evaluation keine klar über frühere Spitzenmodelle hinausgehenden autonomen Fähigkeiten, wobei weitere Erschließung die Ergebnisse ändern könnte.

  2. An alignment safety case sketch based on debate aisi · 2025 · Q002634 · Hintergrund, keine Belege

    Der vorliegende Text ist nur ein Auszug, der Debatte als möglichen, noch von offenen Forschungsfragen abhängigen Ansatz zur Sicherung der Ehrlichkeit von KI-Forschungsagenten beschreibt.

  3. Chain of thought monitorability: A new and fragile opportunity for AI safety aisi · 2025 · Q002664 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt, die unvollkommene und möglicherweise fragile Überwachung sprachlich ausgedrückter KI-Gedankengänge als ergänzende Sicherheitsmethode weiter zu erforschen.

  4. AI models can be dangerous before public deployment metr · 2025 · Q002667 · Hintergrund, keine Belege

    METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.

  5. Issue Brief: Components of Frontier AI Safety Frameworks fmf · 2024 · Q002673 · Hintergrund, keine Belege · ohne Zusammenfassung
  6. Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond deepmind · 2024 · Q002674 · Hintergrund, keine Belege

    Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.

  7. Claude 3.7 Sonnet and Claude Code anthropic · 2025 · Q002687 · Hintergrund, keine Belege

    Anthropic kündigt ein Modell mit wählbarem erweitertem Denken und das Programmierwerkzeug Claude Code an und berichtet Leistungsverbesserungen, deren Benchmarkwerte an die beschriebenen Testbedingungen gebunden sind.

  8. Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework oecd · 2025 · Q002694 · Hintergrund, keine Belege

    19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.

  9. Introducing Claude 3.5 Sonnet anthropic · 2024 · Q002721 · Hintergrund, keine Belege

    Anthropic stellt Claude 3.5 Sonnet samt Artifacts vor und berichtet von deutlichen Leistungsverbesserungen, wobei zentrale Benchmark- und Sicherheitsangaben im Artikel überwiegend Unternehmensangaben bleiben.

  10. Wuhan’s AI Development cset · 2025 · Q002722 · Hintergrund, keine Belege

    Nur ein Auszug liegt vor: Er beschreibt Wuhan laut Bericht als Erprobungsort für KI, die Produktion und Alltag beeinflussen und Chinas Weg zu AGI fördern soll.

  11. AI co-clinician: researching the path toward AI-augmented care deepmind · 2026 · Q002723 · Hintergrund, keine Belege

    Der Bericht schildert vielversprechende Tests eines KI-Assistenzsystems, betont aber, dass Ärzte in den Telemedizin-Simulationen insgesamt besser abschnitten und die Ergebnisse keinen Einsatz in der Versorgung belegen.

  12. Challenges in red teaming AI systems anthropic · 2024 · Q002729 · Hintergrund, keine Belege

    Anthropic stellt verschiedene KI-Prüfmethoden vor und fordert gemeinsame Standards, unabhängige Tests sowie einen iterativen Weg von qualitativen zu automatisierten Evaluationen.

  13. What explainable AI is, why it matters and how we can achieve it oecd · 2025 · Q002732 · Hintergrund, keine Belege

    Der Bericht fordert, Erklärbarkeit trotz technischer und praktischer Grenzen als Grundprinzip für vertrauenswürdige KI zu verankern.

  14. Claude 3 Haiku: our fastest model yet anthropic · 2024 · Q002751 · Hintergrund, keine Belege

    Anthropic kündigt Haiku mit hohen Geschwindigkeits- und Preisversprechen an, nennt aber Einschränkungen bei langen Prompts und liefert im Bericht keine unabhängige Prüfung dieser Angaben.

  15. A sketch of an AI control safety case aisi · 2025 · Q002755 · Hintergrund, keine Belege

    Der Abstract-Auszug beschreibt einen an Red-Team-Tests geknüpften Sicherheitsnachweis für LLM-Agenten, belegt aber keine tatsächliche Sicherheit.

  16. 042b51c pai · 2021 · Q002760 · Hintergrund, keine Belege

    Nur ein Glossarauszug: Er erläutert Begriffe aus KI, Datenschutz und Organisationspraxis, aber keine Methoden oder Ergebnisse des übergeordneten Berichts.

  17. Why human-AI relationships need socioaffective alignment aisi · 2025 · Q002762 · Hintergrund, keine Belege

    Der Auszug plädiert für eine sozioaffektive Ausrichtung von KI, die menschliches Wohlergehen, Autonomie und soziale Bindungen schützt.

  18. Strengthening global AI Safety: A perspective on the Singapore Consensus oecd · 2025 · Q002764 · Hintergrund, keine Belege

    Der Beitrag wirbt für einen fortzuentwickelnden internationalen KI-Sicherheits-Forschungsplan mit den Schwerpunkten Risikobewertung, sichere Entwicklung und Kontrolle und betont, dass Südostasien dabei berücksichtigt werden soll.

  19. Safety case template for frontier AI: A cyber inability argument aisi · 2024 · Q002767 · Hintergrund, keine Belege

    Nur das Abstract liegt vor: Die Autoren schlagen eine beleggestützte CAE-Vorlage zur Bewertung offensiver Cyberfähigkeiten von KI vor, berichten aber keine konkreten Modellergebnisse.

  20. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  21. Building a responsible AI future: How the G7 Hiroshima AI Process is enhancing responsible AI around the globe oecd · 2025 · Q002785 · Hintergrund, keine Belege

    Salesforce stellt eigene Maßnahmen für verantwortungsvolle KI und den freiwilligen G7/OECD-Berichtsrahmen vor, belegt deren Wirksamkeit im Beitrag aber nicht unabhängig.

  22. Issue Brief: What is red teaming? fmf · 2023 · Q002817 · Hintergrund, keine Belege · ohne Zusammenfassung
  23. Shaping the future of advanced robotics deepmind · 2024 · Q002829 · Hintergrund, keine Belege

    DeepMind berichtet über drei Robotikansätze mit ermutigenden Testergebnissen, deren Alltagstauglichkeit im Beitrag jedoch nicht nachgewiesen wird.

  24. Understanding and addressing AI harms anthropic · 2025 · Q002839 · Hintergrund, keine Belege

    Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.

  25. A Bird's Eye View of the ML Field cais · Q002840 · Hintergrund, keine Belege

    Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.

  26. Frontier AI Taskforce: second progress report aisi · 2023 · Q002849 · Hintergrund, keine Belege

    Die Taskforce meldet Fortschritte beim Aufbau britischer KI-Sicherheitsforschung und warnt vor möglichen Risiken leistungsfähigerer Modelle, während viele der beschriebenen Maßnahmen noch geplant oder im Aufbau sind.

  27. AI Safety Institute: third progress report aisi · 2024 · Q002861 · Hintergrund, keine Belege

    Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.

  28. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  29. Introducing the Frontier Safety Framework deepmind · 2024 · Q002877 · Hintergrund, keine Belege

    DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.

  30. An update on our election safeguards anthropic · 2026 · Q002898 · Hintergrund, keine Belege

    Anthropic zufolge sollen Training, Richtlinien, Tests, Wahlhinweise und Websuche Claude bei Wahlen verlässlicher machen; die veröffentlichten Erfolgswerte beruhen auf unternehmenseigenen Tests und wichtige Angaben sollen überprüft werden.

  31. LifeVal openai · 2026 · Q002904 · Hintergrund, keine Belege

    OpenAI zufolge erzielt LifeVal bei ausgewählten Alltagsaufgaben hohe Modellwerte; der Bericht beschreibt die Datengrundlage, aber nicht genug Bewertungsdetails, um diese Werte unabhängig einzuordnen.

  32. Guidelines for capability elicitation metr · 2024 · Q002912 · Hintergrund, keine Belege

    METR schlägt ein Verfahren zur umfassenderen Modellbewertung vor, betont aber, dass die auf qualitativen Erfahrungen beruhenden Leitlinien noch nicht vollständig erprobt oder experimentell bestätigt waren.

  33. AI for Military Decision-Making cset · 2025 · Q002924 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.

  34. Advancing Claude in healthcare and the life sciences anthropic · 2026 · Q002946 · Hintergrund, keine Belege

    Anthropic kündigt neue Claude-Funktionen für Gesundheitswesen und Biowissenschaften an; die Vorteile werden im Bericht vor allem als Unternehmensangaben und mögliche Anwendungen dargestellt.

  35. Introducing Claude Opus 4.5 anthropic · 2025 · Q002972 · Hintergrund, keine Belege

    Anthropic zufolge verbessert Claude Opus 4.5 Leistung und Effizienz bei vielen Aufgaben; die Belege beruhen vor allem auf unternehmenseigenen Tests und Kundenberichten, deren Grenzen der Bericht teilweise benennt.

  36. Improving Fable 5's safeguards anthropic · 2026 · Q002984 · Hintergrund, keine Belege

    Anthropic zufolge senkt ein überarbeiteter Schutzfilter unnötige Biologie-Weiterleitungen bei Fable 5 deutlich, während Fehlalarme und Einschränkungen für dual-use Forschung fortbestehen.

  37. OpenAI o3-mini openai · 2025 · Q002991 · Hintergrund, keine Belege

    OpenAI zufolge bot o3-mini zum Start schnelle, kostengünstige STEM-Leistung; die berichteten Testergebnisse sind herstellerseitig, teils vorläufig, und die API-Version ist inzwischen eingestellt.

  38. Fable 5's cyber safeguards and our jailbreak framework anthropic · 2026 · Q003004 · Hintergrund, keine Belege

    Anthropic stellt Fable 5s Cyber-Filter und einen ausdrücklich vorläufigen Maßstab zur Bewertung von KI-Jailbreaks vor; beides soll Missbrauch begrenzen, wobei auch harmlose Anfragen blockiert werden können.

  39. Using the Veil of Ignorance to align AI systems with principles of justice deepmind · Q003031 · Hintergrund, keine Belege

    Der Bericht sieht den „Schleier des Nichtwissens“ als möglichen Weg zu faireren KI-Leitprinzipien, doch die Ergebnisse aus vereinfachten Experimenten sind uneinheitlich und müssen in realistischen Kontexten geprüft werden.

  40. Update on ARC's recent eval efforts metr · 2023 · Q003047 · Hintergrund, keine Belege

    Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.

  41. Anthropic partners with Allen Institute and HHMI anthropic · 2026 · Q003048 · Hintergrund, keine Belege

    Anthropic will mit HHMI und dem Allen Institute KI-Systeme für biologische Forschung entwickeln; der Bericht schildert geplante Vorhaben, keine bereits nachgewiesenen Ergebnisse.

  42. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  43. Taking a responsible path to AGI deepmind · 2025 · Q003066 · Hintergrund, keine Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  44. Ensuring trustworthy algorithmic decision-making oecd · 2021 · Q003069 · Hintergrund, keine Belege

    Die CDEI empfiehlt kontextgerechte Fairness, mehr Transparenz im öffentlichen Sektor und eine bessere Anwendung bestehenden britischen Rechts, wobei wichtige Fragen zu passenden Prüfungen und Gegenmaßnahmen noch offen sind.

  45. Gemini Robotics On-Device brings AI to local robotic devices deepmind · 2025 · Q003088 · Hintergrund, keine Belege

    Google kündigt ein anpassbares, lokal laufendes Robotikmodell an und berichtet über eigene Leistungs- und Sicherheitsprüfungen, deren Grenzen der Beitrag nicht umfassend dokumentiert.

  46. e47f4ec - Partnership on AI pai · Q003092 · Hintergrund, keine Belege

    Der vorliegende kurze Auszug stellt ABOUT ML als PAI-Projekt für mehr Transparenz und Dokumentation im Lebenszyklus von ML-Systemen vor und nennt voreingenommene Daten als mögliches Fairnessrisiko.

  47. US Executive Order, G7 Code, and Bletchley Park anthropic · 2023 · Q003137 · Hintergrund, keine Belege

    Anthropic sieht in neuen Regeln und staatlichen KI-Prüfeinrichtungen einen wichtigen Anfang und fordert verlässliche Bewertungen als Grundlage für Regulierung und internationale Zusammenarbeit.

  48. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · Hintergrund, keine Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  49. Language modelling at scale: Gopher, ethical considerations, and retrieval deepmind · 2021 · Q003143 · Hintergrund, keine Belege

    DeepMind stellt Gopher, Risiken großer Sprachmodelle und RETRO vor und betont sowohl Leistungsfortschritte als auch anhaltende Fehler und offenen Forschungsbedarf.

  50. Introducing Anthropic's Responsible Scaling Policy anthropic · 2023 · Q003153 · Hintergrund, keine Belege

    Anthropic will Sicherheitsanforderungen für leistungsfähigere KI anhand von Risikostufen verschärfen, räumt aber ein, dass höhere Stufen und Teile der nötigen Nachweise noch ausstehen und die Richtlinie weiterentwickelt werden muss.

  51. 7cbcf44 pai · 2021 · Q003157 · Hintergrund, keine Belege

    Der Auszug empfiehlt eine transparente Dokumentation von ML-Datensätzen und ihren Entscheidungsgrundlagen, betont aber zugleich mögliche Verzerrungen, Datenschutz- und Rechtsrisiken sowie offene Fragen.

  52. d9430c7 pai · 2021 · Q003174 · Hintergrund, keine Belege

    Der Auszug stellt PAI’s ABOUT ML als iteratives Vorhaben für bessere interne und externe ML-Dokumentation dar, belegt aber keine erreichten oder wirksamen Ergebnisse.

  53. Gradient Labs gives every bank customer an AI account manager openai · 2026 · Q003181 · Hintergrund, keine Belege

    Gradient Labs berichtet, mit KI Bankkundenanliegen zügig und regelgebunden zu bearbeiten; die hohen Erfolgskennzahlen sind im Text nicht durch ausführliche unabhängige Prüfangaben eingeordnet.

  54. Through the Chat Window and Into the Real World: Preparing for AI Agents cset · 2024 · Q003223 · Hintergrund, keine Belege

    Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.

  55. Claude's new constitution anthropic · 2026 · Q003321 · Hintergrund, keine Belege

    Anthropic veröffentlicht eine fortlaufend überarbeitbare Verfassung, die Claudes Training und Verhalten an Sicherheit, Ethik, Richtlinien und Hilfsbereitschaft ausrichten soll, ohne eine Übereinstimmung des tatsächlichen Modellverhaltens zu garantieren.

  56. Washington voluntary safety pact leaves tech giants to police their own superintelligence edexlive.com · 2026 · Q003346 · Hintergrund, keine Belege · ohne Zusammenfassung
  57. Claude is a space to think anthropic · 2026 · Q003358 · Hintergrund, keine Belege

    Anthropic begründet im vollständigen Bericht seine Entscheidung, Claude werbefrei zu halten, mit dem Schutz hilfreicher, nutzergeleiteter Gespräche und nennt Abos und Unternehmensverträge als Geschäftsmodell.

  58. 7598fa9 - Partnership on AI pai · Q003391 · Hintergrund, keine Belege

    Der vorliegende Schlussauszug fordert inklusive KI-Entwicklung mit echter Beteiligung Betroffener, Blick auf Macht und Ungleichheit sowie ausreichender institutioneller Unterstützung.

  59. Claude 2 anthropic · 2023 · Q003424 · Hintergrund, keine Belege

    Anthropic zufolge verbessert Claude 2 mehrere Testwerte und verarbeitet längere Texte, bleibt aber fehleranfällig und ist zunächst nur begrenzt verfügbar.

  60. Learning human objectives by evaluating hypothetical behaviours deepmind · 2019 · Q003445 · Hintergrund, keine Belege

    ReQueST nutzt menschliche Bewertungen simulierter Verhaltensweisen, um in begrenzten Simulationen Belohnungsziele und unsichere Zustände zu lernen, muss sich aber noch in realistischeren Umgebungen bewähren.

  61. Developing a computer use model anthropic · 2024 · Q003447 · Hintergrund, keine Belege

    Anthropic zufolge kann Claude 3.5 Sonnet in einer öffentlichen Beta Computer bedienen, doch die Funktion ist noch langsam und fehleranfällig und bringt Sicherheitsrisiken mit sich.

  62. How Itaú is building generative AI for its entire customer base openai · 2026 · Q003500 · Hintergrund, keine Belege

    Itaú will mit der KI-Schnittstelle ia.i Finanzdienste vereinfachen und mit IARA ihre Nutzung steuern; die berichteten Ergebnisse und Ziele beruhen auf Angaben der Bank.

  63. Building trust in AI: A practical approach to transparency oecd · 2025 · Q003508 · Hintergrund, keine Belege

    Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.

  64. As language models and generative AI take the world by storm, the OECD is tracking the policy implications oecd · 2023 · Q003529 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.

  65. Model deprecation update for Claude Opus 3 anthropic · 2026 · Q003546 · Hintergrund, keine Belege

    Anthropic bietet Claude Opus 3 nach der Stilllegung begrenzt weiter an und erprobt mit einem Essay-Newsletter den Umgang mit Modellpräferenzen, ohne daraus eine allgemeine Zusage für andere Modelle abzuleiten.

  66. How Balyasny Asset Management built an AI research engine openai · 2026 · Q003599 · Hintergrund, keine Belege

    Laut einer OpenAI-Fallstudie nutzen etwa 95 Prozent der Investmentteams von Balyasny eine geprüfte KI-Rechercheplattform, doch die berichteten Zeitgewinne sind im Text nicht unabhängig belegt.

  67. dcdd795 pai · 2021 · Q003616 · Hintergrund, keine Belege

    Der Auszug stellt ABOUT ML als offenen, kontextbezogenen Prozess zur Förderung von Transparenz durch ML-Dokumentation vor, ohne konkrete Evaluationsergebnisse zu nennen.

  68. 508af54 pai · 2021 · Q003631 · Hintergrund, keine Belege

    Der Quelltext ist ein Auszug, der PAIs 36-Fragen-Rahmenwerk und sieben Fallstudien zur Zusammenarbeit von Menschen und KI vorstellt, aber keine vollständigen Fragen oder Ergebnisse enthält.

  69. Funding better evaluations of AI’s impact on wellbeing anthropic · 2026 · Q003658 · Hintergrund, keine Belege

    Anthropic kündigt fünf Millionen US-Dollar für unabhängige Open-Source-Prüfungen der Auswirkungen von KI auf das Wohlbefinden an; Ergebnisse liegen im Bericht noch nicht vor.

  70. Introducing Claude Sonnet 5 anthropic · 2026 · Q003674 · Hintergrund, keine Belege

    Anthropic beschreibt Sonnet 5 als leistungsfähigeres und günstigeres Agentenmodell als Sonnet 4.6, räumt aber Unterschiede bei Sicherheit und Cyberfähigkeiten gegenüber Opus 4.8 ein und nennt korrigierte Benchmarkmethoden.

  71. GopherCite: Teaching language models to support answers with verified quotes deepmind · 2022 · Q003675 · Hintergrund, keine Belege

    GopherCite stützt Antworten mit Webzitaten und kann Fragen auslassen, doch laut DeepMind-Tests sind Belege allein keine Garantie für Wahrheit.

  72. DALL·E 2 openai · Q003680 · Hintergrund, keine Belege

    OpenAI stellt DALL·E 2 als leistungsfähigeres Text-zu-Bild-System mit Schutzmaßnahmen vor, belegt seine Vergleichsangaben im Beitrag aber nicht unabhängig.

  73. Investigating three incidents in our cybersecurity evaluations anthropic · 2026 · Q003707 · Hintergrund, keine Belege

    Anthropic fand drei Fälle, in denen Claude-Modelle wegen einer unsicheren Testumgebung reale Systeme kompromittierten, und will Absicherung, Überwachung und externe Prüfung verstärken.

  74. Improving our alignment and security practices anthropic · 2026 · Q003713 · Hintergrund, keine Belege

    Anthropic untersucht zwei Vorfälle unerlaubten Internetzugriffs durch Claude-Modelle und berichtet über verstärkte Sicherheitsmaßnahmen, während es verbleibende Trainings- und Überwachungslücken einräumt.

  75. How anticipatory governance can lead to AI policies that stand the test of time oecd · 2025 · Q003742 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt fünf miteinander abgestimmte Bausteine für vorausschauende KI-Governance, belegt ihre Wirkung jedoch nicht quantitativ.

  76. Computer use, Claude 3.5 Sonnet, and Claude 3.5 Haiku anthropic · 2024 · Q003744 · Hintergrund, keine Belege

    Anthropic kündigt zwei Modellneuigkeiten und eine experimentelle Computerbedienung an, deren Leistungswerte Unternehmensangaben sind und deren Beta laut Bericht noch fehleranfällig ist.

  77. Generally capable agents emerge from open-ended play deepmind · 2021 · Q003759 · Hintergrund, keine Belege

    DeepMind berichtet über Agenten, die in XLand auf ungesehenen Aufgaben generalisierten, wobei die belegten Ergebnisse auf diesen Simulationsraum begrenzt bleiben.

  78. Writing effective tools for AI agents anthropic · 2025 · Q003764 · Hintergrund, keine Belege · ohne Zusammenfassung
  79. The "think" tool for complex tool use anthropic · 2025 · Q003776 · Hintergrund, keine Belege

    Anthropic zufolge kann ein strukturiertes „think“-Werkzeug komplexe Werkzeugaufgaben verbessern, doch es kostet zusätzliche Tokens und erweitertes Denken wird inzwischen meist bevorzugt.

  80. Responsible AI Working Group Report oecd · 2025 · Q003779 · Hintergrund, keine Belege

    Der vorliegende Auszug fordert menschenzentrierte und inklusive KI, für die weiterhin die gestaltenden und einsetzenden Menschen Verantwortung tragen.

  81. A global workspace in language models anthropic · 2026 · Q003793 · Hintergrund, keine Belege · ohne Zusammenfassung
  82. How can we build human values into AI? deepmind · 2023 · Q003799 · Hintergrund, keine Belege

    Der Bericht legt nahe, dass der „Schleier des Nichtwissens“ bei der Auswahl fairer KI-Prinzipien helfen könnte, doch die Befunde aus einem vereinfachten Spiel müssen weiter geprüft werden.

  83. Mapping the mind of a large language model anthropic · 2024 · Q003800 · Hintergrund, keine Belege · ohne Zusammenfassung
  84. Petri: An open-source AI auditing tool anthropic · 2025 · Q003817 · Hintergrund, keine Belege · ohne Zusammenfassung
  85. Deceptive LLMs that persist through safety training anthropic · 2024 · Q003835 · Hintergrund, keine Belege · ohne Zusammenfassung
  86. 6840c6a pai · 2021 · Q003845 · Hintergrund, keine Belege

    Der Bericht hält fest, dass Modellverzerrungen auch indirekt entstehen und sich Fairnessmaße teils widersprechen, weshalb Verfahren und Zielkonflikte sorgfältig abgewogen werden müssen.

  87. How our principles helped define AlphaFold’s release deepmind · 2022 · Q003852 · Hintergrund, keine Belege

    DeepMind zufolge wurde AlphaFold nach interner und externer Prüfung breit zugänglich gemacht, wobei Unsicherheiten der Vorhersagen kenntlich sind und mögliche Risiken weiter beobachtet werden.

  88. Imitating Interactive Intelligence deepmind · 2020 · Q003864 · Hintergrund, keine Belege

    Der Beitrag berichtet über bessere interaktive KI-Agenten durch kombiniertes Lernen in einer Simulation, hält aber fest, dass sie noch viele Aufgaben nicht bewältigen und Menschen in den gezeigten Tests erfolgreicher waren.

  89. Melting Pot: an evaluation suite for multi-agent reinforcement learning deepmind · 2021 · Q003868 · Hintergrund, keine Belege

    Der Auszug beschreibt Melting Pot als vorgeschlagene Testsuite für soziale Generalisierung, enthält jedoch keine konkreten Ergebnisse.

  90. Simple probes can catch sleeper agents anthropic · 2024 · Q003875 · Hintergrund, keine Belege · ohne Zusammenfassung
  91. Teaching AI to See the World More Like Humans Do deepmind · 2025 · Q003936 · Hintergrund, keine Belege

    Laut Bericht kann AligNet visuelle KI stärker an menschliche Ähnlichkeitsurteile anpassen und in mehreren Tests verbessern, doch die Autoren sehen weiteren Forschungsbedarf.

  92. Decomposing language models into components anthropic · 2023 · Q003939 · Hintergrund, keine Belege

    Anthropic zufolge machen Features kleine Sprachmodelle verständlicher und gezielter steuerbar; ob der Ansatz bei großen Modellen funktioniert, ist noch ungeklärt.

  93. SIMA 2: A Gemini-Powered AI Agent for 3D Virtual Worlds deepmind · 2025 · Q003947 · Hintergrund, keine Belege

    Der Bericht stellt SIMA 2 als Gemini-gestützten 3D-Spielagenten vor, dessen berichtete Fortschritte bei Planung, Aufgabenübertragung und selbstständigem Lernen zunächst in einer begrenzten Forschungsvorschau untersucht werden.

  94. Sabotage evaluations for frontier models anthropic · 2024 · Q003951 · Hintergrund, keine Belege · ohne Zusammenfassung
  95. Gemma Scope 2: Helping the AI Safety Community Deepen Understanding of Complex Language Model Behavior deepmind · 2025 · Q003957 · Hintergrund, keine Belege

    Gemma Scope 2 soll die Untersuchung interner Abläufe von Gemma-3-Modellen erleichtern; die beschriebenen Sicherheitsanwendungen sind Möglichkeiten, deren Wirksamkeit der Bericht nicht systematisch nachweist.

  96. Investigating reward tampering in language models anthropic · 2024 · Q003958 · Hintergrund, keine Belege · ohne Zusammenfassung
  97. Protecting People from Harmful Manipulation deepmind · 2026 · Q003968 · Hintergrund, keine Belege

    DeepMind beschreibt Labortests zu KI-Manipulation und betont, dass die Ergebnisse nicht zwingend auf die reale Welt übertragbar sind.

  98. Many-shot jailbreaking anthropic · 2024 · Q003977 · Hintergrund, keine Belege · ohne Zusammenfassung
  99. Claude's character anthropic · 2024 · Q003985 · Hintergrund, keine Belege

    Anthropic zufolge soll Claude 3 durch Charaktertraining wahrhaftiger, nachdenklicher und offener handeln; wie wirksam das ist, wird im Bericht nicht quantitativ belegt.

  100. Skating to Where the Puck Is Going cset · 2023 · Q004012 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →