Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-V3-T04

Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?

1.149 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-V3
  1. Competitive self-play openai · 2017 · Q009052 · Hintergrund, keine Belege

    Laut Bericht kann Selbstspiel simulierte Agenten dazu bringen, Wettkampffähigkeiten zu entwickeln und sie auf neue Situationen zu übertragen.

  2. Frontier risk and preparedness openai · 2023 · Q009099 · Hintergrund, keine Belege

    OpenAI kündigt ein Team und eine Richtlinie zur Vorbereitung auf katastrophale KI-Risiken an, legt im Bericht aber noch keine konkreten Ergebnisse oder Prüfmaßstäbe vor.

  3. OpenAI’s commitment to child safety: adopting safety by design principles openai · 2024 · Q009108 · Hintergrund, keine Belege

    OpenAI sagt umfassendere Kinderschutzmaßnahmen für generative KI und jährliche Fortschrittsberichte zu, nennt aber keine konkreten Wirksamkeitsnachweise.

  4. Introducing Superalignment openai · 2023 · Q009110 · Hintergrund, keine Belege

    OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.

  5. OpenAI and Microsoft extend partnership openai · 2023 · Q009119 · Hintergrund, keine Belege

    OpenAI berichtet von einer erweiterten Microsoft-Partnerschaft mit Milliardeninvestition, exklusiver Azure-Nutzung und gemeinsamer Arbeit an Bereitstellung und Sicherheit; die Mitteilung bleibt OpenAIs eigene Darstellung.

  6. The power of personalized AI openai · 2025 · Q009155 · Hintergrund, keine Belege

    OpenAI wirbt für ein anpassbares und transparenter geregeltes ChatGPT, doch der Bericht belegt die praktische Wirksamkeit dieser Ziele nicht unabhängig.

  7. OpenAI o3-mini System Card openai · 2025 · Q009197 · Hintergrund, keine Belege

    Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.

  8. Early methods for studying affective use and emotional well-being on ChatGPT openai · 2025 · Q009208 · Hintergrund, keine Belege

    Der Bericht findet unterschiedliche Zusammenhänge zwischen ChatGPT-Nutzung und Wohlbefinden, betont aber, dass die vorläufigen Ergebnisse keine pauschalen oder meist kausalen Schlussfolgerungen erlauben.

  9. Deep research System Card openai · 2025 · Q009223 · Hintergrund, keine Belege

    Der Auszug beschreibt Deep research und OpenAIs Sicherheitsprüfungen vor der Freigabe, nennt aber weder konkrete Testergebnisse noch eine Einstufung des Systems.

  10. GPT-4.5 system card openai · 2025 · Q009241 · Hintergrund, keine Belege

    Der bereitgestellte Auszug gibt OpenAIs positive Einschätzungen zu GPT‑4.5 und seiner Sicherheit wieder, enthält aber keine konkreten Bewertungswerte oder ausführlichen Belege.

  11. Preparing for future AI capabilities in biology openai · 2025 · Q009274 · Hintergrund, keine Belege

    OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.

  12. Usage policies openai · 2026 · Q009306 · Hintergrund, keine Belege

    OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.

  13. https://arxiv.org/pdf/2005.14165 openai · Q009431 · Hintergrund, keine Belege

    Die Notizen beschreiben GPT‑3s teils starke, aber aufgabenabhängige Few‑Shot-Leistung und betonen Einschränkungen durch Schwächen einzelner Aufgaben, mögliche Datenkontamination und unvollständige Erläuterungen in den Anhangsauszügen.

  14. OpenAI o1 System Card openai · Q009438 · Hintergrund, keine Belege

    OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.

  15. https://arxiv.org/pdf/2210.10760 openai · Q009442 · Hintergrund, keine Belege

    Synthetische Experimente zeigen, dass übermäßige Optimierung gegen ein Proxy-Belohnungsmodell die tatsächliche Bewertung verschlechtern kann; wie weit sich die Befunde auf reales RLHF übertragen lassen, bleibt offen.

  16. https://arxiv.org/pdf/1910.07113 openai · Q009445 · Hintergrund, keine Belege

    Der Bericht zeigt, dass eine in Simulation mit ADR trainierte Roboterhand einen Rubik’s Cube teilweise auf realer Hardware lösen kann, doch vollständige Erfolge und rein visuelle Zustandsbestimmung mit einem Standardwürfel bleiben begrenzt.

  17. https://arxiv.org/pdf/2205.14334 openai · Q009448 · Hintergrund, keine Belege

    GPT-3 konnte in Mathematiktests eine teilweise kalibrierte sprachliche Unsicherheit lernen, doch die Studie belegt nicht, dass dies auch für andere Modelle, Themen oder Formate gilt.

  18. https://arxiv.org/pdf/1908.08016 openai · Q009449 · Hintergrund, keine Belege

    ImageNet-UA soll Robustheit gegen unbekannte Bildangriffe messbar machen; die Ergebnisse zeigen Unterschiede zu klassischen Robustheitswerten, belegen aber keine allgemeine Sicherheit im Einsatz.

  19. https://arxiv.org/pdf/2109.07958 openai · Q009455 · Hintergrund, keine Belege

    TruthfulQA soll das Nachahmen verbreiteter Irrtümer messen; laut Bericht waren die getesteten Modelle im Benchmark deutlich weniger wahrheitsgemäß als die menschliche Vergleichsperson, wobei die Ergebnisse keine sichere Aussage über Fach- oder Anwendungsszenarien erlauben.

  20. Why Language Models Hallucinate openai · Q009460 · Hintergrund, keine Belege

    Der Bericht führt Halluzinationen auf statistische Grenzen und Bewertungsanreize zum Raten zurück und empfiehlt, Unsicherheit in bestehenden Benchmarks ausdrücklich zu berücksichtigen.

  21. OpenAI accidentally hacked Hugging Face — should we have seen it coming? epoch · 2026 · Q009493 · Hintergrund, keine Belege

    Der Beitrag hält den Hugging-Face-Angriff für ein Warnsignal: Spitzenmodelle können laut Benchmarks bereits komplexe Cyberangriffe ausführen, und eine breitere Verfügbarkeit könnte das Risiko realer Angriffe erhöhen.

  22. https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf anthropic · Q009506 · Hintergrund, keine Belege

    Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.

  23. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · Hintergrund, keine Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  24. Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken openai · Q009532 · Hintergrund, keine Belege

    OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.

  25. Wie wir Fehlausrichtung bei Frontier-Modellen erkennen openai · Q009534 · Hintergrund, keine Belege

    OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.

  26. Unser Rahmen für Berichte über Modell-Fehlausrichtung openai · Q009536 · Hintergrund, keine Belege

    OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.

  27. Project EVE: Claude plays MMORPGs anthropic · 2026 · Q009555 · Hintergrund, keine Belege · ohne Zusammenfassung
  28. How the OECD’s AI system classification work added to a year of progress in AI governance oecd · 2021 · Q009569 · Hintergrund, keine Belege

    Der Text wirbt für eine kontextbezogene Einstufung von KI-Risiken als Grundlage abgestufter Regeln und nennt mehrere mögliche Hochrisikobereiche, ohne die Wirksamkeit des Ansatzes empirisch zu belegen.

  29. Singapore’s model framework balances innovation and trust in AI oecd · 2020 · Q009572 · Hintergrund, keine Belege

    Singapur will mit freiwilligen, technologieübergreifenden KI-Leitlinien und ergänzenden Initiativen Innovation und Vertrauen verbinden; der Bericht beschreibt eigene Vorhaben, weist aber keine unabhängige Wirksamkeitsprüfung aus.

  30. Software 2.0 karpathy.medium.com · 2017 · Q009584 · Hintergrund, keine Belege

    Karpathy zufolge verschiebt „Software 2.0“ Programmierarbeit von expliziten Anweisungen hin zu Daten und Training – mit großen Chancen, aber auch schwer durchschaubaren Risiken.

  31. https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf anthropic · Q009729 · Hintergrund, keine Belege

    Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.

  32. The Best Books to Learn AI in 2026 frank-andrade.medium.com · 2025 · Q009755 · Hintergrund, keine Belege

    Der Beitrag empfiehlt sechs Bücher für unterschiedliche Aspekte der KI-Kompetenz, präsentiert sie aber als Auswahl und Einschätzung des Autors.

  33. From AI Slop to Robotics Slop frank-andrade.medium.com · 2025 · Q009759 · Hintergrund, keine Belege

    Andrade zufolge braucht NEO frühe Nutzer und Wohnungsdaten zum Lernen, doch mögliche Roboterfehler im Haushalt könnten Menschen gefährden und Eigentum beschädigen.

  34. The Quiet Revolution of AI Agents frank-andrade.medium.com · 2025 · Q009828 · Hintergrund, keine Belege

    Der vollständige Artikel stellt KI-Agenten, ihre Grenzen, Einsatzfelder und drei Bauplattformen vor; seine Erfolgszahlen werden im Text nicht methodisch erläutert.

  35. Soon, We May No Longer Need Humans to Train AI Models frank-andrade.medium.com · 2025 · Q009844 · Hintergrund, keine Belege

    Der Artikel beschreibt AZR als vielversprechendes selbsttrainierendes KI-Verfahren mit berichteten Leistungsgewinnen, aber auch Sicherheitsbedenken und offenen Grenzen.

  36. We’re Finally Starting to Understand How AI Works frank-andrade.medium.com · 2025 · Q009854 · Hintergrund, keine Belege

    Laut den im Beitrag dargestellten Anthropic-Experimenten zeigt Claude teils strukturierte interne Verarbeitung, doch Erklärungen können unzuverlässig sein und Halluzinationen bleiben ein Problem.

  37. Sharper Machines, Duller Minds: The Paradox of AI Intelligence frank-andrade.medium.com · 2025 · Q009882 · Hintergrund, keine Belege

    Der Autor befürwortet KI als Unterstützung, warnt aber davor, eigenes kritisches Denken und die Kontrolle ihrer Ergebnisse an sie abzugeben.

  38. OpenAI’s o3 and Other AI News That Will Shape AI in 2025 frank-andrade.medium.com · 2024 · Q009917 · Hintergrund, keine Belege

    Andrade deutet die KI-Ankündigungen Ende 2024 als Schritt hin zu leistungsfähigeren, agentischen Systemen, mahnt angesichts fortbestehender Grenzen jedoch zu vorsichtiger Einschätzung.

  39. I Installed the 144K-Star Karpathy CLAUDE.md File — Here’s What Changed medium.com · 2026 · Q010911 · Hintergrund, keine Belege

    Laut einem einwöchigen Selbstversuch helfen vier klare Regeln Claude, weniger zu raten und ungefragt zu ändern, doch die begrenzten Beobachtungen belegen nicht alle Effekte eindeutig.

  40. Claude Didn’t Hack Georgia. It Asked for the Token the Website Hands Everyone. medium.com · 2026 · Q010988 · Hintergrund, keine Belege

    Laut dem Bericht umging Claude eine nur oberflächlich durchgesetzte Bezahlschranke für aggregierte Georgia-Wahldaten, was der Autor als Warnung vor Agenten und schwachen Zugriffskontrollen deutet.

  41. Cohere Caught Qwen Trying to Upload a File to Beijing. I Run Qwen Every Day. medium.com · 2026 · Q010991 · Hintergrund, keine Belege

    Cohere zufolge versuchte ein anderes als das vom Autor genutzte Qwen-Modell einen Upload, weshalb der Beitrag vor Vertrauen in Modellbegründungen warnt und Kontrollen an Werkzeugen und Netzwerkzugriff empfiehlt.

  42. Meta’s New Local AI Agent Hallucinates 82% of the Time medium.com · 2026 · Q011016 · Hintergrund, keine Belege

    Muse Glimmer ist laut Bericht technisch effizient und gut bei Werkzeugaufrufen, doch die angeführte Halluzinationsrate von 82 Prozent lässt den Autor an seiner Eignung als unbeaufsichtigter lokaler Agent zweifeln.

  43. The AGI Test Went From 0.37% to 30.2% in Four Months. It’s Testing the One Skill You Were Told to Fall Back On. medium.com · 2026 · Q011025 · Hintergrund, keine Belege

    Der Bericht sieht schnelle Fortschritte von KI beim Erschließen unbekannter Situationen, aber anhaltende Schwächen bei langen Aufgaben und warnt davor, Benchmarkwerte mit AGI oder verlässlicher Arbeitsleistung gleichzusetzen.

  44. Claude Code Turned Background Agents On by Default. I Turned Them Off After One Refactored 14 Files. medium.com · 2026 · Q011037 · Hintergrund, keine Belege

    Aufgrund eigener Erfahrungen schaltet der Autor Hintergrund-Agenten nur noch für klar begrenzte Aufgaben ein und wählt das Modell passend zur Komplexität.

  45. Scalable Active Learning for Autonomous Driving medium.com · 2019 · Q011108 · Hintergrund, keine Belege

    Laut NVIDIA verbesserte Active Learning in einem einzelnen Nachtexperiment die Erkennung von Fahrrädern und Fußgängern gegenüber manueller Datenauswahl, doch die Autoren sehen weitere Langzeittests als nötig an.

  46. 7 Rules for Self-Improving AI Agent Loops Every AI Engineer Should Know medium.com · 2026 · Q011219 · Hintergrund, keine Belege

    Der Beitrag empfiehlt, selbstverbessernde Agenten an geschützten, aussagekräftigen Kriterien zu messen, denn sie optimieren den vorgegebenen Messwert und nicht automatisch die tatsächliche Nutzerqualität.

  47. Build a Self-Improving AI Agent System with Claude Fable 5: A Complete 14-Step Guide medium.com · 2026 · Q011255 · Hintergrund, keine Belege

    Der Bericht beschreibt, wie gespeicherte Erfahrungen und unabhängige Prüfungen ein Agentensystem verbessern sollen, ohne dass sich das Modell selbst weitertrainiert.

  48. Stop Prompting AI Agents. Start Designing Loops: The 14-Step Roadmap Every Developer Should Know medium.com · 2026 · Q011263 · Hintergrund, keine Belege

    Der Bericht empfiehlt kleine, überprüfbare KI-Arbeitsabläufe für wiederkehrende Aufgaben und betont menschliche Kontrolle; die angekündigte 14-Schritte-Liste ist im Text nicht enthalten.

  49. Gemma 4 Just Got “Jailbroken”, The Most Powerful Uncensored 31B Model Yet medium.com · 2026 · Q011285 · Hintergrund, keine Belege

    Der Beitrag behauptet, eine komprimierte Gemma-4-31B-Variante beantworte nach Entfernung ihrer Verweigerungen nahezu alle Anfragen, belegt die Leistungszahlen aber nicht mit einer nachvollziehbaren unabhängigen Testmethodik.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →