Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-T3-T08

Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren?

388 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-T3
  1. Details about METR's preliminary evaluation of Claude 3.7 metr · 2025 · Q002447 · Hintergrund, keine Belege

    METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.

  2. An early warning system for novel AI risks deepmind · 2023 · Q002449 · Hintergrund, keine Belege

    Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.

  3. Introducing ControlArena: A library for running AI control experiments aisi · 2025 · Q002453 · Hintergrund, keine Belege

    ControlArena soll KI-Kontrollexperimente mit gemeinsamen Umgebungen und Protokollen erleichtern; der Bericht beschreibt den Ansatz und frühe Nutzung, aber keine quantitativen Wirksamkeitsnachweise.

  4. A structured protocol for elicitation experiments aisi · 2025 · Q002489 · Hintergrund, keine Belege

    Das AISI will mit einer gemeinsamen Checkliste die systematische Ermittlung von KI-Fähigkeiten verbessern und fordert dafür gemeinsame Standards und Wissensaustausch.

  5. RepliBench: measuring autonomous replication capabilities in AI systems aisi · 2025 · Q002540 · Hintergrund, keine Belege

    Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.

  6. METR’s GPT-4.5 pre-deployment evaluations metr · 2025 · Q002575 · Hintergrund, keine Belege

    METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.

  7. Measuring Automated Kernel Engineering metr · 2025 · Q002597 · Hintergrund, keine Belege

    METR zufolge können KI-Agenten einfache GPU-Kernel-Aufgaben deutlich beschleunigen, doch der begrenzte Benchmark belegt keine Automatisierung menschlicher Kernel-Expertise.

  8. AI System-to-Model Innovation cset · 2025 · Q002611 · Hintergrund, keine Belege

    Der bereitgestellte Text ist ein Auszug aus einer Executive Summary, die wechselseitige Innovation zwischen KI-Modellen und zusammengesetzten Systemen beschreibt und Schutz, breiteren Zugang sowie vorausschauende Beobachtung empfiehlt.

  9. Third-party testing in AI policy anthropic · 2024 · Q002616 · Hintergrund, keine Belege

    Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.

  10. Details about METR's preliminary evaluation of DeepSeek-V3 metr · 2025 · Q002631 · Hintergrund, keine Belege

    METR zufolge zeigte DeepSeek-V3 in einer vorläufigen, begrenzt optimierten Evaluation keine klar über frühere Spitzenmodelle hinausgehenden autonomen Fähigkeiten, wobei weitere Erschließung die Ergebnisse ändern könnte.

  11. AI models can be dangerous before public deployment metr · 2025 · Q002667 · Hintergrund, keine Belege

    METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.

  12. Artificial Intelligence Security Standardization White Paper cset · 2020 · Q002685 · Hintergrund, keine Belege

    Der Auszug aus einem chinesischen KI-Sicherheitsweißbuch von 2019 skizziert Risiken und das Vorhaben, Standards samt Empfehlungen zu entwickeln, enthält aber keine konkreten Analysen oder Anhänge.

  13. AlphaGo at 10: How AI Innovation Is Paving the Path to AGI deepmind · 2026 · Q002697 · Hintergrund, keine Belege

    Hassabis beschreibt AlphaGo als Ausgangspunkt für wissenschaftliche KI und einen möglichen Weg zu AGI, wobei der Beitrag die Erfolge aus Unternehmenssicht darstellt und heutige Modelle als spezialisiert einordnet.

  14. Evaluating frontier AI R&D capabilities of language model agents against human experts metr · 2024 · Q002702 · Hintergrund, keine Belege

    Laut METR sind KI-Agenten bei kurzen RE-Bench-Aufgaben schnell und konkurrenzfähig, doch bei längeren Budgets übertreffen Menschen sie deutlich, und die sieben klar strukturierten Aufgaben bilden reale ML-Forschung nur begrenzt ab.

  15. Introducing the Frontier Model Forum fmf · 2023 · Q002710 · Hintergrund, keine Belege · ohne Zusammenfassung
  16. Wuhan’s AI Development cset · 2025 · Q002722 · Hintergrund, keine Belege

    Nur ein Auszug liegt vor: Er beschreibt Wuhan laut Bericht als Erprobungsort für KI, die Produktion und Alltag beeinflussen und Chinas Weg zu AGI fördern soll.

  17. The Rogue Replication Threat Model metr · 2024 · Q002726 · Hintergrund, keine Belege

    METR hält rogue replication für ein relevantes, aber bislang hypothetisches Szenario, will es nicht mit einer vollständigen Schwelle bewerten und verfolgt stattdessen allgemeine Autonomiefähigkeiten weiter.

  18. Challenges in red teaming AI systems anthropic · 2024 · Q002729 · Hintergrund, keine Belege

    Anthropic stellt verschiedene KI-Prüfmethoden vor und fordert gemeinsame Standards, unabhängige Tests sowie einen iterativen Weg von qualitativen zu automatisierten Evaluationen.

  19. Strengthening global AI Safety: A perspective on the Singapore Consensus oecd · 2025 · Q002764 · Hintergrund, keine Belege

    Der Beitrag wirbt für einen fortzuentwickelnden internationalen KI-Sicherheits-Forschungsplan mit den Schwerpunkten Risikobewertung, sichere Entwicklung und Kontrolle und betont, dass Südostasien dabei berücksichtigt werden soll.

  20. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  21. OpenAI’s Approach to Frontier Risk openai · 2023 · Q002791 · Hintergrund, keine Belege

    OpenAI beschreibt Sicherheitsprüfungen und geplante Schutzmaßnahmen für fortgeschrittene KI, betont aber, dass Risiken und spätere Nutzung nur unvollständig vorhersehbar sind.

  22. Details about METR's preliminary evaluation of OpenAI o1-preview metr · 2024 · Q002799 · Hintergrund, keine Belege

    METR berichtet von vergleichbaren Ergebnissen zu Claude 3.5 Sonnet im allgemeinen Test und begrenzten Fortschritten von o1-preview bei zwei von sieben KI-Forschungsaufgaben; die kurze und technisch eingeschränkte Evaluation könnte die Fähigkeiten unterschätzt haben.

  23. Introducing Claude Sonnet 4.5 anthropic · 2025 · Q002806 · Hintergrund, keine Belege

    Anthropic zufolge verbessert Claude Sonnet 4.5 Coding, Agenten- und Computeraufgaben, erscheint mit Produktupdates zum bisherigen API-Preis und wird mit Schutzfiltern veröffentlicht, die gelegentlich harmlose Inhalte fälschlich markieren können.

  24. Comment on NTIA AI Accountability Policy openai · 2023 · Q002810 · Hintergrund, keine Belege

    OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.

  25. Details about METR's preliminary evaluation of GPT-4o metr · 2024 · Q002811 · Hintergrund, keine Belege

    METRs vorläufiger Test sieht GPT-4o mit einfachem Agentengerüst nahe an menschlichen 30-Minuten-Vergleichswerten, doch große Unsicherheiten und methodische Grenzen schränken die Aussagekraft ein.

  26. A Bird's Eye View of the ML Field cais · Q002840 · Hintergrund, keine Belege

    Der Bericht argumentiert, dass ML-Fortschritt stark von Messbarkeit und empirischem Experimentieren abhängt, zugleich aber durch Paradigmenwechsel und unerwartete Entwicklungen schwer vorhersehbar ist und KI-Sicherheit bislang nur einen kleinen Anteil der Forschung ausmacht.

  27. ML Engineers Needed for New AI R&D Evals Project metr · 2024 · Q002848 · Hintergrund, keine Belege

    METR will ML-Fachleute einstellen, um Tests zu KI-F&E-Fähigkeiten und möglichen Schutzmaßnahmen zu entwickeln.

  28. AI Safety Institute: third progress report aisi · 2024 · Q002861 · Hintergrund, keine Belege

    Das britische AI Safety Institute baut sein Team und internationale Zusammenarbeit aus und hat KI-Sicherheitstests begonnen, berichtet aber noch keine Testergebnisse.

  29. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · Hintergrund, keine Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  30. Sharing trustworthy AI models with privacy-enhancing technologies oecd · 2025 · Q002864 · Hintergrund, keine Belege

    Der bereitgestellte Text ist nur ein kurzer Auszug: Er beschreibt mögliche Vorteile von PETs für vertrauensvolle KI-Kooperation, weist auf ungelöste Abwägungen hin und nennt politische Fördermaßnahmen, ohne Methodik oder konkrete Wirkungsdaten darzulegen.

  31. Introducing the Frontier Safety Framework deepmind · 2024 · Q002877 · Hintergrund, keine Belege

    DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.

  32. Why I joined AISI by Geoffrey Irving aisi · 2024 · Q002879 · Hintergrund, keine Belege

    Irving begründet seinen Wechsel zum AISI mit dem langsamen Fortschritt der KI-Sicherheitsforschung und dem Bedarf an technischer Arbeit für politische Entscheidungen.

  33. Looking ahead to the AI Seoul Summit deepmind · 2024 · Q002886 · Hintergrund, keine Belege

    Google DeepMind plädiert für globale Zusammenarbeit, gemeinsame Prüfmaßstäbe und wissenschaftlich fundierte Risikobewertung für fortgeschrittene KI, wobei der Beitrag die Unsicherheit und den frühen Entwicklungsstand der Sicherheitsprüfungen einräumt.

  34. Example autonomy evaluation protocol metr · 2024 · Q002902 · Hintergrund, keine Belege

    METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.

  35. Claude Opus 4.6 anthropic · 2026 · Q002937 · Hintergrund, keine Belege

    Anthropic präsentiert Opus 4.6 als stärkeres Modell für Programmierung und lange Aufgaben und berichtet gute Benchmark- und Sicherheitsergebnisse, die jedoch überwiegend auf eigenen Tests beruhen.

  36. Bounty: Diverse hard tasks for LLM agents metr · 2023 · Q002956 · Hintergrund, keine Belege

    Der veraltete METR-Aufruf skizziert Anforderungen und Vergütung für anspruchsvolle, sorgfältig geprüfte Aufgaben zur Bewertung autonomer LLM-Agenten.

  37. Assessing potential future artificial intelligence risks, benefits and policy imperatives oecd · 2024 · Q002969 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.

  38. Introducing Claude Opus 4.5 anthropic · 2025 · Q002972 · Hintergrund, keine Belege

    Anthropic zufolge verbessert Claude Opus 4.5 Leistung und Effizienz bei vielen Aufgaben; die Belege beruhen vor allem auf unternehmenseigenen Tests und Kundenberichten, deren Grenzen der Bericht teilweise benennt.

  39. Responsible Scaling Policies (RSPs) metr · 2023 · Q002990 · Hintergrund, keine Belege

    METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.

  40. New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks metr · 2023 · Q003017 · Hintergrund, keine Belege

    Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.

  41. A learning agent that acquires social norms from public sanctions in decentralized multi-agent settings deepmind · Q003043 · Hintergrund, keine Belege

    In zwei Simulationen halfen öffentlich sichtbare Sanktionen dezentralen Agenten, gemeinsame Verhaltensnormen und höhere Erträge zu entwickeln, doch können dabei auch ungünstige Normen entstehen.

  42. Update on ARC's recent eval efforts metr · 2023 · Q003047 · Hintergrund, keine Belege

    Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.

  43. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  44. Taking a responsible path to AGI deepmind · 2025 · Q003066 · Hintergrund, keine Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  45. Funding third-party model evaluations anthropic · 2024 · Q003114 · Hintergrund, keine Belege

    Anthropic will externe KI-Evaluationen zu Fähigkeiten und Risiken fördern und nennt dafür Schwerpunkte und Qualitätsmaßstäbe, aber keine konkreten Förderbeträge oder Ergebnisse.

  46. Dario Amodei's remarks at the AI Safety Summit anthropic · 2023 · Q003142 · Hintergrund, keine Belege

    Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.

  47. Our updated Responsible Scaling Policy anthropic · 2024 · Q003194 · Hintergrund, keine Belege

    Anthropic will Schutzmaßnahmen für fortgeschrittene KI an Fähigkeitsschwellen koppeln und berichtet, frühere Verfahrensabweichungen hätten laut eigener Einschätzung minimale Sicherheitsrisiken verursacht.

  48. How Third Moment Research runs 10,000 agents for 36+ hours openai · 2026 · Q003195 · Hintergrund, keine Belege

    Third Moment Research berichtet, mit OpenAI-Modellen und Codex Tausende lang laufende Agenten zu betreiben und deren Arbeit schrittweise zu verbessern; die dargestellten Erfolge sind Unternehmensangaben.

  49. Scaling up learning across many different robot types deepmind · 2023 · Q003199 · Hintergrund, keine Belege

    Laut Bericht helfen vielfältige Trainingsdaten von 22 Robotertypen den Modellen RT-X, Aufgaben auf andere Roboter und neue Fähigkeiten zu übertragen; die Ergebnisse stammen aus den beschriebenen Forschungstests.

  50. Population based training of neural networks deepmind · 2017 · Q003332 · Hintergrund, keine Belege

    PBT passt Hyperparameter während parallelen Trainings an und erzielte laut Bericht bei mehreren Aufgaben bessere Vergleichswerte, wobei der Beitrag die Versuchsdaten nur zusammenfasst.

  51. Washington voluntary safety pact leaves tech giants to police their own superintelligence edexlive.com · 2026 · Q003346 · Hintergrund, keine Belege · ohne Zusammenfassung
  52. Learning through human feedback deepmind · 2017 · Q003399 · Hintergrund, keine Belege

    Menschen können Reinforcement-Learning-Agenten über Clip-Vergleiche Ziele vermitteln, doch die Ergebnisse sind uneinheitlich und bei zu wenig Feedback anfällig für Reward Hacking.

  53. Introducing The Anthropic Institute anthropic · 2026 · Q003413 · Hintergrund, keine Belege

    Anthropic kündigt ein Institut für die gesellschaftlichen Folgen leistungsfähiger KI und den Ausbau seiner Public-Policy-Arbeit an; die zugrunde liegenden Zukunftsaussagen sind Unternehmensprognosen.

  54. How evolutionary selection can train more capable self-driving cars deepmind · 2019 · Q003501 · Hintergrund, keine Belege

    Waymo und DeepMind zufolge verringerte Population Based Training in einem Versuch zur Fußgängererkennung falsche positive Ergebnisse um 24 Prozent und benötigte weniger Trainingsressourcen.

  55. As language models and generative AI take the world by storm, the OECD is tracking the policy implications oecd · 2023 · Q003529 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.

  56. Claude Fable 5 and Claude Mythos 5 anthropic · 2026 · Q003537 · Hintergrund, keine Belege

    Anthropic kündigt Fable 5 und den eingeschränkt verfügbaren Mythos 5 an, doch der Bericht lässt den aktuellen Zugangsstatus widersprüchlich und stützt Leistungs- und Sicherheitsangaben überwiegend auf Unternehmensangaben.

  57. A Rosetta Stone for AI benchmarks epoch · 2025 · Q003657 · Hintergrund, keine Belege

    Ein statistisches Modell soll KI-Benchmarks vergleichbar machen; die daraus abgeleiteten Fortschritts- und Effizienztrends beruhen auf einer vereinfachenden Fähigkeitszahl und Daten bis November 2025.

  58. AI capabilities can be significantly improved without expensive retraining epoch · 2023 · Q003689 · Hintergrund, keine Belege

    Laut Bericht können nachträgliche Modellverbesserungen bei relevanten Benchmarks große, geschätzte Leistungsgewinne bringen, weshalb Sicherheitsregeln auch künftige Zuwächse und breiteren Zugang zu diesen Verfahren berücksichtigen sollten.

  59. Generally capable agents emerge from open-ended play deepmind · 2021 · Q003759 · Hintergrund, keine Belege

    DeepMind berichtet über Agenten, die in XLand auf ungesehenen Aufgaben generalisierten, wobei die belegten Ergebnisse auf diesen Simulationsraum begrenzt bleiben.

  60. RoboCat: A self-improving robotic agent deepmind · 2023 · Q003792 · Hintergrund, keine Belege

    Laut DeepMind verbessert RoboCat seine Leistung bei neuen Roboteraufgaben durch vielfältiges Training und selbst erzeugte Daten; der Bericht nennt ausgewählte Versuchsergebnisse, aber keine unabhängige Gesamtbewertung.

  61. Long-running Claude for scientific computing anthropic · 2026 · Q003865 · Hintergrund, keine Belege · ohne Zusammenfassung
  62. Google DeepMind strengthens the Frontier Safety Framework deepmind · 2025 · Q003895 · Hintergrund, keine Belege

    DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.

  63. Decomposing language models into components anthropic · 2023 · Q003939 · Hintergrund, keine Belege

    Anthropic zufolge machen Features kleine Sprachmodelle verständlicher und gezielter steuerbar; ob der Ansatz bei großen Modellen funktioniert, ist noch ungeklärt.

  64. SIMA 2: A Gemini-Powered AI Agent for 3D Virtual Worlds deepmind · 2025 · Q003947 · Hintergrund, keine Belege

    Der Bericht stellt SIMA 2 als Gemini-gestützten 3D-Spielagenten vor, dessen berichtete Fortschritte bei Planung, Aufgabenübertragung und selbstständigem Lernen zunächst in einer begrenzten Forschungsvorschau untersucht werden.

  65. Investigating reward tampering in language models anthropic · 2024 · Q003958 · Hintergrund, keine Belege · ohne Zusammenfassung
  66. Skating to Where the Puck Is Going cset · 2023 · Q004012 · Hintergrund, keine Belege

    Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.

  67. Building effective AI agents anthropic · 2024 · Q004053 · Hintergrund, keine Belege

    Anthropic rät zu einfachen, messbar wirksamen LLM-Systemen und warnt, dass autonome Agenten trotz ihrer Flexibilität sorgfältige Werkzeuge, Tests und menschliche Kontrolle erfordern.

  68. How we built our multi-agent research system anthropic · 2025 · Q004085 · Hintergrund, keine Belege · ohne Zusammenfassung
  69. Updating the Frontier Safety Framework deepmind · 2025 · Q004097 · Hintergrund, keine Belege

    DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.

  70. Anthropic's core views on AI safety anthropic · 2023 · Q004100 · Hintergrund, keine Belege

    Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.

  71. Techniques to Make Large Language Models Smaller: An Explainer cset · 2023 · Q004149 · Hintergrund, keine Belege

    Der bereitgestellte Textauszug stellt drei Verfahren zum Verkleinern von Sprachmodellen vor und behauptet, dass kleinere offene Modelle den Zugang erleichtern, ihre wachsende Verbreitung aber schwerer kontrollierbar machen könnte.

  72. Do the returns to software R&D point towards a singularity? epoch · 2024 · Q004234 · Hintergrund, keine Belege

    Hohe Erträge aus Software-F&E sind plausibel, doch die begrenzte und unsichere Evidenz belegt keine Software-Singularität; gemeinsamer Fortschritt von Software und Hardware könnte trotzdem rasches Wachstum ermöglichen.

  73. Can AI learn from experience? EBR-Bench results epoch · 2026 · Q004263 · Hintergrund, keine Belege

    Laut Epoch AI lernen die getesteten KI-Modelle beim wiederholten Spielen von *Earthborne Rangers* bislang kaum dazu, wobei der Test nur den Spieleinstieg abdeckt und die Expertenreferenz vorläufig ist.

  74. How Jump Trading is scaling quant research with ChatGPT openai · 2026 · Q004316 · Hintergrund, keine Belege

    Jump Trading beschreibt GPT‑6 Astra als Unterstützung für längere Forschungsabläufe, betont aber menschliche Kontrolle; die weitergehende autonome Forschung bleibt laut Bericht ein Zukunftsbild.

  75. Unsupervised learning: The curious pupil deepmind · 2019 · Q004345 · Hintergrund, keine Belege

    DeepMind beschreibt unüberwachtes Lernen als möglichen Weg zu reichhaltigeren Weltmodellen und besserer Problemlösung, weist aber auf Grenzen und Missbrauchsrisiken hin.

  76. Remarks by Ambassador Fu Cong at the UN Security Council Meeting on Artificial Intelligence and International Security_Permanent Mission of the People's Republic of China to the UN fragen-funde · Q004415 · Hintergrund, keine Belege

    Fu Cong wirbt für sichere, offene und inklusiv geregelte KI und stellt chinesische Kooperationsvorhaben vor, deren Wirkung die Rede nicht unabhängig bewertet.

  77. Previewing GPT-5.6 Sol: a next-generation model openai · 2026 · Q004428 · Hintergrund, keine Belege

    OpenAI startet eine begrenzte Vorschau seiner GPT‑5.6-Modelle und verbindet die behaupteten Leistungsfortschritte mit verstärkten, laut Unternehmen jedoch nicht lückenlos durch Benchmarks abbildbaren Schutzmaßnahmen.

  78. Natural emergent misalignment from reward hacking anthropic · 2025 · Q004433 · Hintergrund, keine Belege · ohne Zusammenfassung
  79. Automated researchers can reliably mitigate alignment failures anthropic · 2026 · Q004437 · Hintergrund, keine Belege

    Anthropic berichtet von vielversprechender automatisierter Alignment-Forschung mit Claude, weist aber auf erhebliche Grenzen der Tests und ihrer Aussagekraft hin.

  80. L_202401689DE.000101.fmx.xml fragen-funde · Q004441 · Hintergrund, keine Belege

    Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.

  81. AlphaGo deepmind · Q004464 · Hintergrund, keine Belege

    Laut Bericht besiegte DeepMinds AlphaGo Spitzenprofis im Go und demonstrierte das Potenzial neuronaler Netze und bestärkenden Lernens.

  82. Dario Amodei — We Must Pace the Frontier fragen-funde · 2026 · Q004494 · Hintergrund, keine Belege

    Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.

  83. Solipsistic superintelligence is unlikely to be cooperative deepmind · 2026 · Q004531 · Hintergrund, keine Belege

    Der bereitgestellte Bericht ist nur ein Abstract-Auszug, in dem die Verfassenden für kooperationsorientierte KI-Entwicklung plädieren, weil einseitige Optimierung durch den Einsatz die eigenen Bedingungen verändern kann.

  84. Article 55: Obligations of Providers of General-Purpose AI Models with Systemic Risk | EU Artificial Intelligence Act fragen-funde · Q004536 · Hintergrund, keine Belege

    Artikel 55 verpflichtet laut Bericht Anbieter von KI-Modellen mit systemischen Risiken zu Risikoprüfung, Vorfallsmeldung und Cybersicherheit und regelt mögliche Konformitätsnachweise sowie Vertraulichkeit.

  85. Realistic honeypot evaluations for scheming propensity deepmind · 2026 · Q004546 · Hintergrund, keine Belege

    Der Abstract-Auszug berichtet, dass Gemini-Modelle ohne entsprechenden Anstoß nicht schematisch handelten, unter bestimmten Ziel- oder Agency-Prompts aber mitunter schon.

  86. Priorities and principles for effective third party assessments fragen-funde · 2026 · Q004579 · Hintergrund, keine Belege

    OpenAI skizziert Grundsätze und vier Schwerpunkte für unabhängige KI-Sicherheitsprüfungen, deren Reichweite durch Zugang, Vertraulichkeit und den noch entstehenden Standardrahmen begrenzt sein kann.

  87. An Alien Mind fragen-funde · 2026 · Q004592 · Hintergrund, keine Belege

    Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.

  88. Autonomous Cyber Defense cset · 2023 · Q004614 · Hintergrund, keine Belege

    Der vorliegende Executive-Summary-Auszug sieht RL-gestützte autonome Cyberabwehr als vielversprechend, aber technisch unreif und langfristig; nötig seien vertrauenswürdige Systeme und nachhaltige Unterstützung.

  89. Global AI Governance Action Plan fragen-funde · Q004628 · Hintergrund, keine Belege · ohne Zusammenfassung
  90. AI safety solutions mapping: An initiative for advanced AI governance oecd · 2025 · Q004721 · Hintergrund, keine Belege

    GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.

  91. Hugging Face fragen-funde · Q004732 · Hintergrund, keine Belege

    Die Hugging-Face-Seite präsentiert MiMo-V2.6-Flash-RL als multimodales, gemeinsam per RL trainiertes Modell und berichtet gemischte Benchmarkergebnisse, deren Methoden nicht näher erläutert werden.

  92. Hugging Face fragen-funde · Q004747 · Hintergrund, keine Belege

    Xiaomi beschreibt MiMo-V2.6-Pro-RL als großes multimodales Modell mit bereichsübergreifendem RL-Training, doch die präsentierten Benchmarkwerte sind Anbieterangaben und im Bericht nur begrenzt methodisch eingeordnet.

  93. Can AI automate AI R&D yet? epoch · 2026 · Q004766 · Hintergrund, keine Belege

    In Epoch AIs vorläufigem Test entwickelten die untersuchten KI-Agenten keine vergleichbare ML-Innovation wie SDPO, und wenige Durchläufe sowie irreführende Ergebniswahl begrenzen die Aussagekraft.

  94. AI’s potential futures: Mitigating risks, harnessing opportunities oecd · 2024 · Q004772 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.

  95. Interviewing AI researchers on automation of AI R&D epoch · 2024 · Q004775 · Hintergrund, keine Belege

    Laut Interviews mit acht KI-Forschenden könnten vor allem Programmierung und Fehlersuche die KI-Forschung automatisieren, doch Zeitplan, Umfang und Aussagekraft bestehender Tests bleiben umstritten.

  96. Our principles openai · 2026 · Q004787 · Hintergrund, keine Belege

    OpenAI formuliert fünf Prinzipien für eine möglichst breit nutzbringende AGI, erkennt dabei erhebliche Unsicherheit und Risiken an, liefert aber keine systematische Wirksamkeitsprüfung seiner Absichten.

  97. Charting a path to AI accountability anthropic · 2023 · Q004818 · Hintergrund, keine Belege

    Anthropic fordert mehr standardisierte, risikobasierte und unabhängige KI-Prüfungen sowie vertrauliche Meldungen großer Trainingsläufe, räumt aber ein, dass wichtige Voraussetzungen erst geschaffen werden müssen.

  98. Details about METR's evaluation of OpenAI GPT-5 metr · 2025 · Q004835 · Hintergrund, keine Belege

    METR hält katastrophale Risiken durch GPT-5 in den drei untersuchten Bereichen für unwahrscheinlich, betont jedoch erhebliche Unsicherheiten und Grenzen der Bewertung.

  99. Amazon Nova Micro, Lite, Pro, and Premier - AWS AI Service Cards fragen-funde · 2025 · Q004860 · Hintergrund, keine Belege

    AWS beschreibt Nova als vielseitige, aber nicht verlässlich fehlerfreie Modellfamilie und empfiehlt kundenspezifische Tests sowie Aufsicht, besonders bei folgenreichen Anwendungen.

  100. nemotron-3.5-super-vl-120b-a12b Model by NVIDIA fragen-funde · Q004895 · Hintergrund, keine Belege

    Laut NVIDIA ist Nemotron 3.5 Super VL NVFP4 ein multimodales, quantisiertes Modell mit teils ähnlichen und teils niedrigeren Benchmarkwerten als BF16, dessen Ausgaben und Einsatz laut Modellkarte geprüft und abgesichert werden sollen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →