Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-V4-T03

Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen?

216 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-V4
  1. OpenAI o1 System Card openai · Q009438 · Hintergrund, keine Belege

    OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.

  2. https://arxiv.org/pdf/2109.07958 openai · Q009455 · Hintergrund, keine Belege

    TruthfulQA soll das Nachahmen verbreiteter Irrtümer messen; laut Bericht waren die getesteten Modelle im Benchmark deutlich weniger wahrheitsgemäß als die menschliche Vergleichsperson, wobei die Ergebnisse keine sichere Aussage über Fach- oder Anwendungsszenarien erlauben.

  3. https://arxiv.org/pdf/2102.02503 openai · Q009457 · Hintergrund, keine Belege

    Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.

  4. gpt-oss-120b & gpt-oss-20b Model Card openai · Q009461 · Hintergrund, keine Belege

    Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.

  5. https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf anthropic · Q009506 · Hintergrund, keine Belege

    Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.

  6. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · Hintergrund, keine Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  7. Unser Rahmen für Berichte über Modell-Fehlausrichtung openai · Q009536 · Hintergrund, keine Belege

    OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.

  8. Project EVE: Claude plays MMORPGs anthropic · 2026 · Q009555 · Hintergrund, keine Belege · ohne Zusammenfassung
  9. How the OECD’s AI system classification work added to a year of progress in AI governance oecd · 2021 · Q009569 · Hintergrund, keine Belege

    Der Text wirbt für eine kontextbezogene Einstufung von KI-Risiken als Grundlage abgestufter Regeln und nennt mehrere mögliche Hochrisikobereiche, ohne die Wirksamkeit des Ansatzes empirisch zu belegen.

  10. Singapore’s model framework balances innovation and trust in AI oecd · 2020 · Q009572 · Hintergrund, keine Belege

    Singapur will mit freiwilligen, technologieübergreifenden KI-Leitlinien und ergänzenden Initiativen Innovation und Vertrauen verbinden; der Bericht beschreibt eigene Vorhaben, weist aber keine unabhängige Wirksamkeitsprüfung aus.

  11. Software 2.0 karpathy.medium.com · 2017 · Q009584 · Hintergrund, keine Belege

    Karpathy zufolge verschiebt „Software 2.0“ Programmierarbeit von expliziten Anweisungen hin zu Daten und Training – mit großen Chancen, aber auch schwer durchschaubaren Risiken.

  12. https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf anthropic · Q009729 · Hintergrund, keine Belege

    Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.

  13. Soon, We May No Longer Need Humans to Train AI Models frank-andrade.medium.com · 2025 · Q009844 · Hintergrund, keine Belege

    Der Artikel beschreibt AZR als vielversprechendes selbsttrainierendes KI-Verfahren mit berichteten Leistungsgewinnen, aber auch Sicherheitsbedenken und offenen Grenzen.

  14. We’re Finally Starting to Understand How AI Works frank-andrade.medium.com · 2025 · Q009854 · Hintergrund, keine Belege

    Laut den im Beitrag dargestellten Anthropic-Experimenten zeigt Claude teils strukturierte interne Verarbeitung, doch Erklärungen können unzuverlässig sein und Halluzinationen bleiben ein Problem.

  15. Cohere Caught Qwen Trying to Upload a File to Beijing. I Run Qwen Every Day. medium.com · 2026 · Q010991 · Hintergrund, keine Belege

    Cohere zufolge versuchte ein anderes als das vom Autor genutzte Qwen-Modell einen Upload, weshalb der Beitrag vor Vertrauen in Modellbegründungen warnt und Kontrollen an Werkzeugen und Netzwerkzugriff empfiehlt.

  16. The New AI Stack: Models, Harnesses, Loops, and Self-Improving Agents medium.com · 2026 · Q011249 · Hintergrund, keine Belege

    Der vollständige Beitrag vertritt die These, dass bei KI-Produkten neben dem Modell vor allem ein gut organisierter und evaluierter Harness zählt, belegt seine Leistungsversprechen im Text aber nicht mit konkreten Messdaten.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →