Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-T1-T08

Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht?

720 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-T1
  1. Evolving OpenAI’s structure openai · 2025 · Q009259 · Hintergrund, keine Belege

    OpenAI plant eine Umwandlung seiner gewinnorientierten Gesellschaft in eine PBC unter fortbestehender gemeinnütziger Kontrolle und begründet dies mit Kapitalbedarf und breiterem gesellschaftlichem Nutzen.

  2. Preparing for future AI capabilities in biology openai · 2025 · Q009274 · Hintergrund, keine Belege

    OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.

  3. https://arxiv.org/pdf/2005.14165 openai · Q009431 · Hintergrund, keine Belege

    Die Notizen beschreiben GPT‑3s teils starke, aber aufgabenabhängige Few‑Shot-Leistung und betonen Einschränkungen durch Schwächen einzelner Aufgaben, mögliche Datenkontamination und unvollständige Erläuterungen in den Anhangsauszügen.

  4. https://arxiv.org/pdf/1910.07113 openai · Q009445 · Hintergrund, keine Belege

    Der Bericht zeigt, dass eine in Simulation mit ADR trainierte Roboterhand einen Rubik’s Cube teilweise auf realer Hardware lösen kann, doch vollständige Erfolge und rein visuelle Zustandsbestimmung mit einem Standardwürfel bleiben begrenzt.

  5. Monitoring Monitorability fragen-funde · Q009480 · Hintergrund, keine Belege

    Der bereitgestellte Auszug enthält nur Abstract und Metadaten: Laut Abstract ist die Überwachung von KI-Gedankengängen meist, aber nicht vollständig wirksam und kann durch zusätzliche Prüfungen und Rechenaufwand verbessert werden.

  6. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · Hintergrund, keine Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  7. Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken openai · Q009532 · Hintergrund, keine Belege

    OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.

  8. Wie wir Fehlausrichtung bei Frontier-Modellen erkennen openai · Q009534 · Hintergrund, keine Belege

    OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.

  9. OpenAI und Polens NASK kooperieren für mehr KI-Sicherheit und Schutz vor Angriffen openai · Q009539 · Hintergrund, keine Belege

    OpenAI und Polens NASK vereinbaren, mögliche gemeinsame KI-Sicherheitsforschung zu prüfen; konkrete Projekte nennt der Bericht noch nicht.

  10. Wir bereiten unseren nächsten Sicherheitssprint vor, um OpenAI besser zu schützen openai · Q009541 · Hintergrund, keine Belege

    OpenAI plant mit Cathedral einen neuen KI-gestützten Sicherheitssprint, erhöht Bug-Bounty-Prämien und verweist auf frühere Arbeit sowie zugesagte Fördermittel, legt aber noch keine Ergebnisse des kommenden Sprints vor.

  11. Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI openai · Q009545 · Hintergrund, keine Belege

    OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.

  12. Three steps for businesses to make AI data and compute more sustainable oecd · 2023 · Q009565 · Hintergrund, keine Belege

    Der Beitrag empfiehlt, Datenflüsse und Speicherbestände zu reduzieren sowie den tatsächlichen KI-Bedarf zu prüfen, um den laut externen Quellen wachsenden Energie- und CO₂-Aufwand von KI zu begrenzen.

  13. How the OECD’s AI system classification work added to a year of progress in AI governance oecd · 2021 · Q009569 · Hintergrund, keine Belege

    Der Text wirbt für eine kontextbezogene Einstufung von KI-Risiken als Grundlage abgestufter Regeln und nennt mehrere mögliche Hochrisikobereiche, ohne die Wirksamkeit des Ansatzes empirisch zu belegen.

  14. The Dark Side of Anthropic’s Growth medium.com · 2026 · Q010920 · Hintergrund, keine Belege

    Der Beitrag sieht Anthropic zwischen Sicherheitsanspruch und kommerziellem Wachstumsdruck gefangen und fordert Regeln, die verantwortliches Handeln auch unter Wettbewerbsdruck stützen.

  15. GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double. medium.com · 2026 · Q011006 · Hintergrund, keine Belege

    Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.

  16. The AGI Test Went From 0.37% to 30.2% in Four Months. It’s Testing the One Skill You Were Told to Fall Back On. medium.com · 2026 · Q011025 · Hintergrund, keine Belege

    Der Bericht sieht schnelle Fortschritte von KI beim Erschließen unbekannter Situationen, aber anhaltende Schwächen bei langen Aufgaben und warnt davor, Benchmarkwerte mit AGI oder verlässlicher Arbeitsleistung gleichzusetzen.

  17. Everyone’s Talking About GPT-5.6 Sol. The Tier That Actually Matters Costs Half as Much. medium.com · 2026 · Q011064 · Hintergrund, keine Belege

    Der Autor hält Terra und seine behaupteten niedrigeren Kosten für besonders relevant, kann Sol mangels Zugang aber nicht selbst bewerten und kritisiert sowohl die dünne Beleglage als auch die eingeschränkte Freigabe.

  18. The New AI Stack: Models, Harnesses, Loops, and Self-Improving Agents medium.com · 2026 · Q011249 · Hintergrund, keine Belege

    Der vollständige Beitrag vertritt die These, dass bei KI-Produkten neben dem Modell vor allem ein gut organisierter und evaluierter Harness zählt, belegt seine Leistungsversprechen im Text aber nicht mit konkreten Messdaten.

  19. Google’s AlphaEvolve: The AI System That Evolves Code and Discovers New Science medium.com · 2025 · Q011335 · Hintergrund, keine Belege

    Der Bericht zufolge entwickelt AlphaEvolve Code durch automatisierte Tests weiter und erzielt dabei mathematische und technische Verbesserungen, wobei die angeführten Erfolge zugeschrieben und im Text nicht unabhängig überprüft werden.

  20. You Are Evaluating Sovereign AI Wrong medium.com · 2026 · Q011506 · Hintergrund, keine Belege

    Der Beitrag empfiehlt, KI-Souveränität anhand von Kontrolle über Rechenleistung, Daten, Modelle und Wechselmöglichkeiten zu prüfen, statt sie allein am Serverstandort oder an offenen Modellgewichten festzumachen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →