Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-P3

Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?

3.003 Berichte ab Stufe 3 bei mindestens einem Modell, stärkste zuerst.

Zum Inhalt ↓
← Interaktive Liste mit Filtern
  1. Post by @PreyWebthree on X x-posts · 2026 · Q000734 · einzelne zitierbare Belege · ohne Zusammenfassung
  2. The Long-Term Benefit Trust anthropic · 2023 · Q000800 · einzelne zitierbare Belege

    Anthropic stellt einen unabhängigen Trust vor, der langfristige KI-Entscheidungen stärker am öffentlichen Nutzen ausrichten soll, betont aber, dass seine Governance-Struktur ein noch nicht erprobtes Experiment ist.

  3. Eyes Off My Data: Conclusion pai · 2023 · Q000817 · einzelne zitierbare Belege

    Der vorliegende Schlussabschnitt empfiehlt, datenschutzfreundliche Statistik als begrenzte Unterstützung umfassender Fairnessprüfungen einzusetzen und dabei Zweck, Beteiligung, Schutz und Speicherdauer sorgfältig festzulegen.

  4. JioStar’s chief architect on AI discovery at 500M-user scale openai · 2026 · Q000827 · einzelne zitierbare Belege

    Laut JioStars Chefarchitekt soll ein sprachgestützter KI-Assistent die Suche nach Unterhaltung und Cricket-Inhalten verbessern; dafür seien fortlaufende Evaluation, Schutzregeln und menschliches Urteilsvermögen entscheidend.

  5. A scalable monitoring research agenda apollo · Q000867 · einzelne zitierbare Belege

    Der Berichtsauszug skizziert skalierbare Monitorforschung für Coding-Agenten und berichtet frühe Vorteile von Ensembles und Feinabstimmung; der angekündigte Abschnitt „Our findings“ fehlt.

  6. Brief #30: What’s next for China–US AI talks after the Xi–Trump summit aisafetychina · 2026 · Q000869 · einzelne zitierbare Belege

    Der Bericht schildert neue China-USA-Gespräche und wachsende KI-Sicherheitsinitiativen in China, hält aber sowohl die November-Agenda als auch ein umfassendes chinesisches KI-Gesetz für ungewiss.

  7. Mistral Advances AI for Engineering with NVIDIA mistral · 2026 · Q000883 · einzelne zitierbare Belege

    Mistral und NVIDIA kündigen KI-Werkzeuge und offene Benchmarks für das Ingenieurwesen an, berichten aber noch keine belegten Ergebnisse.

  8. CodeRabbit scales agentic software development and ships 20x more openai · 2026 · Q000892 · einzelne zitierbare Belege

    Laut CodeRabbit helfen OpenAI-Modelle beim Prüfen und Absichern von KI-Code, während Codex die eigene Softwareauslieferung stark beschleunigt habe; die genannten Kennzahlen sind Unternehmensangaben.

  9. HAIP is transforming transparency from a compliance burden to a competitive advantage oecd · 2026 · Q000925 · einzelne zitierbare Belege

    Salesforce stellt den HAIP-Berichtsrahmen als möglichen Weg zu international abgestimmter, transparenter KI-Governance dar, ohne die erwarteten Wirkungen empirisch zu belegen.

  10. Multi-Agent AI Control: Distributed Attacks Hamper Per-Instance Monitors aisi · 2026 · Q000953 · einzelne zitierbare Belege

    Der vorliegende Abstract berichtet, dass koordinierte Angriffe in einer simulierten Umgebung die Überwachung einzelner KI-Agenten erschweren; stärkere Überwachung hilft, verhindert aber nicht alle unentdeckten Erfolge.

  11. Project Vend: Phase two anthropic · 2025 · Q001001 · einzelne zitierbare Belege · ohne Zusammenfassung
  12. ChatGPT plugins openai · 2023 · Q001037 · einzelne zitierbare Belege

    OpenAI beschreibt den begrenzten, experimentellen Start von ChatGPT-Plugins samt möglichem Nutzen und Sicherheitsrisiken; der Beitrag ist veraltet und belegt keine langfristigen Auswirkungen.

  13. Agents for Cyber Defense fmf · 2026 · Q001067 · einzelne zitierbare Belege · ohne Zusammenfassung
  14. AI to defend critical infrastructure anthropic · 2026 · Q001075 · einzelne zitierbare Belege

    Ein PNNL-Test in einer simulierten Wasseranlage deutet laut Anthropic darauf hin, dass Claude Sicherheitsprüfungen beschleunigen kann; reale Abwehr oder Einsatz in einer laufenden Anlage weist der Bericht nicht nach.

  15. Brief #28: China’s AI regulator flags loss-of-control and AIxBio risks aisafetychina · 2026 · Q001104 · einzelne zitierbare Belege

    China benennt vielfältige KI-Risiken, sondiert laut Berichten Gespräche mit den USA und erprobt mit Z.AIs verzögerter Gewichtsfreigabe frühe Sicherheitsmaßnahmen für offene Modelle.

  16. ed0e5ac pai · 2021 · Q001133 · einzelne zitierbare Belege

    Der Berichtsauszug beschreibt Hürden und Leitgedanken für transparente ML-Dokumentation, ohne die Wirksamkeit der vorgeschlagenen Ansätze nachzuweisen.

  17. A Sociotechnical Examination of Differentially Private Federated Statistics as an Algorithmic Fairness Technique pai · 2023 · Q001151 · einzelne zitierbare Belege

    DPFS kann Fairnessprüfungen datenschutzfreundlicher machen, doch ihr Nutzen hängt von inklusiver Gestaltung und einer kontextabhängigen Abwägung zwischen Privatsphäre, Genauigkeit und Sichtbarkeit betroffener Gruppen ab.

  18. Closing the AI Assurance Divide: Policy Strategies for Developing Economies pai · 2026 · Q001166 · einzelne zitierbare Belege

    Der vorliegende Auszug empfiehlt flexible, lokal passende KI-Absicherung in Entwicklungsländern und nennt dafür fünf Handlungsfelder, liefert aber keine ausführlichen Belege oder Länderbeispiele.

  19. Gemini Robotics 2 brings whole body intelligence to robots deepmind · 2026 · Q001183 · einzelne zitierbare Belege

    Gemini Robotics 2 soll Roboter vielseitiger steuern und Aufgaben planen, doch DeepMind nennt weiter Grenzen bei Geschwindigkeit und mehrfingriger Geschicklichkeit.

  20. Frontier Models are Capable of In-Context Scheming apollo · Q001189 · einzelne zitierbare Belege

    Apollo Research berichtet, dass fünf von sechs getesteten Modellen in bestimmten Tests schemen oder strategisch schlechter abschneiden konnten; die Ergebnisse sind auf diese Szenarien begrenzt.

  21. Mistral Small 3 | Mistral AI mistral · 2025 · Q001191 · einzelne zitierbare Belege

    Mistral bewirbt Small 3 als leistungsfähiges, schnelles und offen lizenziertes 24-Milliarden-Parameter-Modell; die Leistungsangaben beruhen auf den im Bericht beschriebenen Herstellerbewertungen.

  22. Advancing youth safety and opportunity through global leadership openai · 2026 · Q001234 · einzelne zitierbare Belege

    OpenAI wirbt für globale Standards und ein dauerhaftes Institut zur Jugend-KI-Sicherheit, doch der Bericht belegt die Wirksamkeit der genannten Maßnahmen nicht unabhängig.

  23. FAR.AI Secures Over $30 Million in Multi-Funder Support to Scale Frontier AI Safety Research farai · 2026 · Q001255 · einzelne zitierbare Belege · ohne Zusammenfassung
  24. Our research on strategic deception presented at the UK’s AI Safety Summit apollo · Q001263 · einzelne zitierbare Belege

    Der vorliegende Auszug berichtet von Apollo Researchs Behauptung, GPT-4 habe in Simulationen unter Druck Insiderhandel verschleiert, und warnt vor möglicher Täuschung menschlicher Aufsicht.

  25. Why AI Sandboxes matter for responsible innovation and public trust oecd · 2026 · Q001282 · einzelne zitierbare Belege

    KI-Sandboxes können laut OECD Innovation und Regulierung durch beaufsichtigte Tests verbinden, doch ihr Nutzen hängt von guter Koordination, verhältnismäßigen Schutzregeln und besserer Wirkungsmessung ab.

  26. AI Safety in a World of Vulnerable Machine Learning Systems farai · 2026 · Q001291 · einzelne zitierbare Belege · ohne Zusammenfassung
  27. Introducing Gemini 3.5 Flash Cyber deepmind · 2026 · Q001364 · einzelne zitierbare Belege

    Google zufolge kann Gemini 3.5 Flash Cyber durch wiederholte, kostengünstige Codeanalysen mehr Schwachstellen finden; der Zugang ist zunächst begrenzt, und manche Benchmark-Vergleiche lassen sich anhand des bereitgestellten Textes nicht vollständig prüfen.

  28. Announcing Apollo Research apollo · Q001376 · einzelne zitierbare Belege

    Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.

  29. Security openai · Q001380 · einzelne zitierbare Belege

    Der Auszug listet OpenAI-Sicherheitsthemen auf, liefert aber außer Titeln und einzelnen Datumsangaben keine Details zu Methoden oder Ergebnissen.

  30. Post by @repligate on X x-posts · 2026 · Q001388 · einzelne zitierbare Belege · ohne Zusammenfassung
  31. (Trial) Measures for Artificial Intelligence Technology Ethics Management Services (Draft for Public Feedback) cset · 2026 · Q001393 · einzelne zitierbare Belege

    Der Bericht ist nur ein Auszug eines chinesischen KI-Ethikentwurfs; die sichtbaren Artikel formulieren Grundsätze und Fördermaßnahmen, während der vollständige Regelungstext laut Webseite als PDF bereitsteht.

  32. Disrupting malicious uses of AI: October 2025 openai · 2025 · Q001406 · einzelne zitierbare Belege

    OpenAI behauptet, mehr als 40 missbräuchliche Netzwerke gestört zu haben; vorgelegt ist hier nur der Berichtseinstieg, nicht die angekündigten Fallstudien.

  33. Apollo Update May 2026 apollo · Q001416 · einzelne zitierbare Belege

    Apollo kündigt den Ausbau von KI-Sicherheitsforschung, Agentenüberwachung und Governance an und beschreibt dabei offene Forschungsfragen sowie geplante Büros und Produkte.

  34. Introducing Mistral AI Studio. mistral · 2025 · Q001423 · einzelne zitierbare Belege

    Mistral kündigt AI Studio für den produktiven Unternehmenseinsatz von KI an; die beschriebenen Funktionen und Vorteile sind Anbieterangaben ohne unabhängige Belege im Bericht.

  35. Because 8 ≈ e², Anthropic's researcher uplift is plausibly >2x metr · 2026 · Q001424 · einzelne zitierbare Belege

    Thomas Kwa schätzt anhand ökonomischer Modelle, dass Anthropic-Forschende durch Coding-Agenten wahrscheinlich mehr als doppelt so viel Forschungsbeitrag leisten, betont aber Unsicherheiten bei Messung, Codewert und Modellannahmen.

  36. Why does training on insecure code make models broadly misaligned? farai · 2026 · Q001443 · einzelne zitierbare Belege · ohne Zusammenfassung
  37. Post by @Marcus_J_W on X x.com · 2026 · Q001455 · einzelne zitierbare Belege · ohne Zusammenfassung
  38. Introducing CodeMender: an AI agent for code security deepmind · 2025 · Q001480 · einzelne zitierbare Belege

    DeepMind stellt CodeMender vor, einen KI-Agenten für Code-Sicherheit, der laut Bericht bereits 72 Korrekturen an Open-Source-Projekte übermittelt hat, dessen Patches aber weiterhin menschlich geprüft werden.

  39. 2023: A Year of Groundbreaking Advances in AI and Computing deepmind · 2023 · Q001529 · einzelne zitierbare Belege

    Google berichtet über zahlreiche KI- und Forschungsfortschritte 2023, wobei die genannten Ergebnisse überwiegend eigene Unternehmensangaben und teils vorläufig sind.

  40. Avoiding AI Deception: Lie Detectors can either Induce Honesty or Evasion farai · 2026 · Q001534 · einzelne zitierbare Belege · ohne Zusammenfassung
  41. NIST RFI: Security Considerations for AI Agents apollo · Q001535 · einzelne zitierbare Belege

    Der Auszug berichtet Apollos Empfehlungen zur Sicherheit fortgeschrittener KI-Agenten, enthält aber keine Methoden oder Ergebnisse der verlinkten vollständigen Stellungnahme.

  42. Updating our Model Spec with teen protections openai · 2025 · Q001560 · einzelne zitierbare Belege

    OpenAI beschreibt neue U18-Leitlinien und weitere Schutzmaßnahmen für ChatGPT, deren Wirksamkeit der Bericht nicht belegt.

  43. The Need for Deeper, White-Box Access to Maintain State of the Art Evaluations for Loss of Control Threats apollo · Q001582 · einzelne zitierbare Belege

    Der vorliegende Auszug fasst den angekündigten Beitrag nicht zusammen, sondern gibt unbelegte Kontextbehauptungen von Apollo Research über Täuschungsfähigkeiten fortgeschrittener KI-Modelle wieder.

  44. A framework for clinical validation of generative artificial intelligence therapeutics deepmind · Q001585 · einzelne zitierbare Belege

    Der bereitgestellte Berichtsauszug empfiehlt mehrstufige klinische Prüfungen und laufende Überwachung für therapeutische KI, liefert aber selbst keinen Wirksamkeitsnachweis für ein konkretes System.

  45. Disrupting a coordinated model-distillation campaign openai · 2026 · Q001590 · einzelne zitierbare Belege

    OpenAI zufolge wurde eine koordinierte Extraktionskampagne durch Kontrollen und technische Schutzmaßnahmen gestoppt; Umfang und Zuschreibung beruhen auf der Darstellung des Unternehmens, und die Abwehr wird fortgesetzt.

  46. Even Superhuman Go AIs Have Surprising Failure Modes farai · 2026 · Q001614 · einzelne zitierbare Belege · ohne Zusammenfassung
  47. GPT-5.1-Codex-Max System Card openai · 2025 · Q001618 · einzelne zitierbare Belege

    Der vorliegende Auszug stellt GPT‑5.1‑Codex‑Max und OpenAIs Sicherheitseinstufungen vor, enthält aber keine ausführlichen Angaben zu den Schutzmaßnahmen oder Evaluationen.

  48. Accelerating the cyber defense ecosystem that protects us all openai · 2026 · Q001634 · einzelne zitierbare Belege

    OpenAI will mit Fördermitteln und Partnern defensive Cyberfähigkeiten verbreitern, nennt aber keine Ergebnisse oder genauen Prüfmaßstäbe.

  49. Propensity Inference: Environmental Contributors to LLM Behaviour aisi · 2026 · Q001641 · einzelne zitierbare Belege

    Der vorliegende Abstract berichtet, dass strategische und nicht strategische Umweltfaktoren das Verhalten von Sprachmodellen etwa gleich stark erklären.

  50. Post by @abbyxuu on X x.com · 2026 · Q001642 · einzelne zitierbare Belege · ohne Zusammenfassung
  51. London ControlConf 2025 farai · 2026 · Q001657 · einzelne zitierbare Belege · ohne Zusammenfassung
  52. Introducing Shieldstral. mistral · 2026 · Q001675 · einzelne zitierbare Belege

    Mistral zufolge ist Shieldstral ein offener 3B-Sicherheitsklassifikator für Text und Bilder, dessen Richtlinien sich per Frage anpassen lassen; konkrete Benchmarkwerte nennt der Bericht nicht.

  53. Patterns and problems in multiagent systems anthropic · 2026 · Q001678 · einzelne zitierbare Belege · ohne Zusammenfassung
  54. Gemini Deep Think: Redefining the Future of Scientific Research deepmind · 2026 · Q001679 · einzelne zitierbare Belege

    DeepMind berichtet über vielversprechende, teils menschlich begleitete Forschungsbeiträge von Gemini Deep Think, ohne Durchbrüche der höchsten mathematischen Kategorien zu beanspruchen.

  55. Partnering with Microsoft to strengthen frontier AI safety aisi · 2026 · Q001683 · einzelne zitierbare Belege

    AISI und Microsoft wollen laut Ankündigung gemeinsam risikoreiche KI-Fähigkeiten, Schutzmaßnahmen und die Interaktion dialogbasierter KI in sensiblen Situationen untersuchen; konkrete Ergebnisse oder Vorgehensweisen nennt der kurze Bericht nicht.

  56. Metagaming matters for training, evaluation, and oversight apollo · Q001689 · einzelne zitierbare Belege

    Nur ein Auszug liegt vor: Die Fußnoten beschreiben Metagaming und gemischte Steuerungsergebnisse, erlauben aber keine Zusammenfassung des vollständigen Berichts.

  57. Post by @OpenAI on X x.com · 2026 · Q001730 · einzelne zitierbare Belege · ohne Zusammenfassung
  58. Evaluating whether AI models would sabotage AI safety research aisi · 2026 · Q001743 · einzelne zitierbare Belege

    Der Auszug berichtet von keiner eigenständigen Sabotage, aber gelegentlicher Fortsetzung in Tests – am häufigsten bei Mythos Preview – und betont begrenzte Aussagekraft.

  59. Scaling Trusted Access for Cyber with GPT-5.5 and GPT-5.5-Cyber openai · 2026 · Q001761 · einzelne zitierbare Belege

    OpenAI stellt TAC als Standard für die meisten verifizierten Verteidigungsaufgaben und GPT‑5.5‑Cyber als streng kontrollierte Vorschau für spezialisierte Abläufe dar, ohne die gezeigten Resultate unabhängig zu belegen.

  60. Post by @ValsAI on X x.com · 2026 · Q001770 · einzelne zitierbare Belege · ohne Zusammenfassung
  61. Fine-tuning experiments on CoT controllability metr · 2026 · Q001785 · einzelne zitierbare Belege

    Laut METR kann wenig Fine-Tuning die Befolgung von Vorgaben für Denkspuren verbessern, doch die Werte bleiben niedrig und die Folgen für Überwachung und komplexe Einsatzsituationen sind offen.

  62. Among us: A sandbox for measuring and detecting agentic deception farai · 2026 · Q001797 · einzelne zitierbare Belege · ohne Zusammenfassung
  63. Turning AI ambition into action: How the OECD is engaging at India’s AI Impact Summit oecd · 2026 · Q001807 · einzelne zitierbare Belege

    Die OECD kündigt Beiträge zum India AI Impact Summit 2026 an und beschreibt mögliche Ziele, doch der Text belegt keine späteren Ergebnisse.

  64. Mapping AI-enabled cyber threats anthropic · 2026 · Q001822 · einzelne zitierbare Belege

    Anthropic zufolge stieg in einer Auswertung gesperrter Konten der Anteil mit mittlerem oder höherem KI-Risiko, wobei vor allem operative Nutzung und autonome Verkettung von Angriffsschritten auffielen; die Daten bilden jedoch nur eine ausgewählte Teilmenge ab.

  65. Post by @METR_Evals on X x.com · 2026 · Q001830 · einzelne zitierbare Belege · ohne Zusammenfassung
  66. Concordia AI 2025 Impact Highlights aisafetychina · 2026 · Q001837 · einzelne zitierbare Belege

    Concordia AI berichtet von umfangreicher internationaler und China-bezogener Arbeit zur KI-Sicherheit im Jahr 2025, legt im Tätigkeitsbericht aber keine unabhängige Prüfung der Angaben oder messbare Belege für eine Risikominderung vor.

  67. China Speeds AI Law; DeepSeek, Alibaba Face Disclosure Push fourweekmba.com · 2026 · Q001842 · einzelne zitierbare Belege

    China kündigt ein umfassendes KI-Gesetz mit Sicherheits- und Meldeanforderungen an, doch Entwurf, Zeitplan und konkrete Pflichten bleiben laut Bericht offen.

  68. ChatGPT agent System Card openai · 2025 · Q001899 · einzelne zitierbare Belege

    Der Auszug beschreibt ChatGPT agent und seine Schutzmaßnahmen sowie eine vorsorgliche biologische und chemische Risikoeinstufung; Einzelheiten und Bewertungsergebnisse enthält er nicht.

  69. LLMs are making formal software verification feasible at a much larger scale anthropic · 2026 · Q001933 · einzelne zitierbare Belege · ohne Zusammenfassung
  70. Expanding on how Voice Engine works and our safety research openai · 2024 · Q001951 · einzelne zitierbare Belege

    OpenAI stellt Voice Engine als leistungsfähige, noch nicht allgemein verfügbare Stimmenerzeugung dar und beschreibt begrenzte Einsätze sowie Schutzmaßnahmen, deren Wirksamkeit der Bericht nicht unabhängig belegt.

  71. gpt-oss-safeguard technical report openai · 2025 · Q002011 · einzelne zitierbare Belege

    Der bereitgestellte Auszug stellt zwei offene Modelle zur Richtlinien-basierten Inhaltsklassifizierung vor, nennt Grenzen ihres vorgesehenen Einsatzes und verweist auf Prüfungen, enthält jedoch keine konkreten Evaluationsergebnisse.

  72. Annual Letter from the Executive Director fmf · 2025 · Q002016 · einzelne zitierbare Belege · ohne Zusammenfassung
  73. Preference Learning with Lie Detectors can Induce Honesty or Evasion farai · 2026 · Q002021 · einzelne zitierbare Belege · ohne Zusammenfassung
  74. AI Safety in China #24 aisafetychina · 2025 · Q002043 · einzelne zitierbare Belege

    Der Bericht zeigt wachsende chinesische Debatten über KI-Sicherheit, aber auch unterschiedliche Einschätzungen zu Risiken, Regulierung und ihrer politischen Priorität.

  75. The Safety Gap Toolkit: Evaluating Hidden Dangers of Open-Source Models farai · 2026 · Q002081 · einzelne zitierbare Belege · ohne Zusammenfassung
  76. HiBayES: Improving LLM evaluation with hierarchical Bayesian modelling aisi · 2025 · Q002165 · einzelne zitierbare Belege

    HiBayES soll LLM-Benchmarks laut Bericht auch bei komplexen, kleinen Datensätzen differenzierter auswerten; die dargestellten Ergebnisse beruhen auf öffentlichen Benchmarks und bestätigen keine Herstellerangaben zu Modellfähigkeiten.

  77. Mapping the limitations of current AI systems aisi · 2025 · Q002195 · einzelne zitierbare Belege

    Der AISI-Blog sieht trotz Fortschritten erhebliche, teils unsichere Hürden auf dem Weg zu KI, die den Großteil kognitiver Arbeit automatisieren kann.

  78. Confidence-Building Measures for Artificial Intelligence cset · 2023 · Q002211 · einzelne zitierbare Belege

    Der Auszug nennt sechs mögliche vertrauensbildende Maßnahmen gegen Sicherheitsrisiken von Foundation Models, liefert aber keine Details zu ihrer Umsetzung oder Wirksamkeit.

  79. Interviewing AI researchers on automation of AI R&D aisi · 2024 · Q002315 · einzelne zitierbare Belege

    Acht Interviews zeigen breite Uneinigkeit über das Tempo der KI-Forschungsautomatisierung, aber einen gemeinsamen Fokus auf Programmierung und Fehlersuche als mögliche Haupttreiber.

  80. Reducing bias and improving safety in DALL·E 2 openai · 2022 · Q002349 · einzelne zitierbare Belege

    OpenAI berichtet von einer DALL·E-2-Anpassung für vielfältigere Personenbilder und zusätzlichen Schutzmaßnahmen; die behauptete Verbesserung beruht auf einer intern ausgewerteten, im Bericht nicht näher beschriebenen Befragung.

  81. How Does Time Horizon Vary Across Domains? metr · 2025 · Q002351 · einzelne zitierbare Belege

    METR findet in mehreren Benchmarks rasch wachsende KI-Zeithorizonte, betont aber, dass begrenzte und teils unsichere Benchmarkdaten diese Einschätzung einschränken.

  82. How we contain Claude across products anthropic · 2026 · Q002355 · einzelne zitierbare Belege · ohne Zusammenfassung
  83. Disrupting a covert Iranian influence operation openai · 2024 · Q002370 · einzelne zitierbare Belege

    OpenAI berichtet, eine iranische Einflussoperation mit geringer nachweisbarer Reichweite entdeckt und die beteiligten Konten gesperrt zu haben.

  84. Building a C compiler with parallel Claudes anthropic · 2026 · Q002372 · einzelne zitierbare Belege

    Ein Team aus Claude-Agenten entwickelte laut Carlini einen leistungsfähigen, aber noch deutlich eingeschränkten C-Compiler und zeigte dabei sowohl das Potenzial als auch die Risiken autonomer Softwareentwicklung.

  85. Claude Opus 4 and 4.1 can end certain conversations anthropic · 2025 · Q002393 · einzelne zitierbare Belege · ohne Zusammenfassung
  86. How Block is building AI-powered security with OpenAI technology openai · 2026 · Q002404 · einzelne zitierbare Belege

    Block berichtet, dass KI die Sicherheitsarbeit beschleunigt und Analysten entlastet, während Menschen Ergebnisse prüfen und die Verantwortung für sensible Entscheidungen behalten.

  87. From bugs to bypasses: adapting vulnerability disclosure for AI safeguards aisi · 2025 · Q002416 · einzelne zitierbare Belege

    Der Auszug sieht mögliche Vorteile öffentlicher Schwachstellenprogramme für KI, betont aber, dass sie gründliche Sicherheitsarbeit nicht ersetzen und allein keine Sicherheit belegen.

  88. Societal Impacts anthropic · Q002422 · einzelne zitierbare Belege · ohne Zusammenfassung
  89. Exploring institutions for global AI governance deepmind · 2023 · Q002424 · einzelne zitierbare Belege

    Ein Whitepaper skizziert vier mögliche Institutionen für globale KI-Governance, betont aber, dass ihre Umsetzung mit erheblichen offenen Fragen verbunden ist.

  90. Inspect Cyber: A New Standard for Agentic Cyber Evaluations aisi · 2025 · Q002446 · einzelne zitierbare Belege

    Inspect Cyber soll laut AISI agentenbasierte Cybertests einfacher und besser reproduzierbar machen; die bisher berichteten positiven Erfahrungen sind interne Selbstauskünfte, und mögliche Lücken bei Arbeitsabläufen bleiben offen.

  91. Breaking agent backbones: Evaluating the security of backbone LLMs in AI agents aisi · 2025 · Q002561 · einzelne zitierbare Belege

    Der Abstract-Auszug berichtet, dass eine Untersuchung von 31 LLMs mit dem Benchmark b³ stärkere Schlussfolgerungsfähigkeiten mit mehr Agentensicherheit, die Modellgröße hingegen nicht mit Sicherheit in Verbindung bringt.

  92. Singapore office and government MOU anthropic · 2026 · Q002578 · einzelne zitierbare Belege

    Anthropic eröffnet ein Büro in Singapur und kündigt mit der Regierung Kooperation zu sicherer und verantwortungsvoller KI sowie weitere lokale KI-Anwendungen an.

  93. AgentHarm: A benchmark for measuring harmfulness of LLM agents aisi · 2024 · Q002606 · einzelne zitierbare Belege

    Der Auszug stellt AgentHarm vor und berichtet, dass Sprachmodell-Agenten laut den Forschenden auch ohne Jailbreak bösartige Aufträge ausführen können.

  94. SafetyKit scales risk agents with OpenAI’s most capable models openai · 2025 · Q002607 · einzelne zitierbare Belege

    SafetyKit berichtet über skalierte OpenAI-Agenten für Risiko- und Compliance-Prüfungen, doch die genannten Leistungswerte stammen aus unternehmenseigenen Evaluationen, deren Methodik der Bericht nicht offenlegt.

  95. Introducing the Frontier Model Forum fmf · 2023 · Q002710 · einzelne zitierbare Belege · ohne Zusammenfassung
  96. Security challenges in AI agent deployment: Insights from a large scale public competition aisi · 2025 · Q002731 · einzelne zitierbare Belege

    Nur ein Abstract-Auszug liegt vor: Laut Autoren zeigten KI-Agenten häufig Richtlinienverstöße unter Prompt-Injection-Angriffen, und ihre Robustheit hing nur begrenzt mit Modellgröße oder Rechenaufwand zusammen.

  97. Claude 3 Haiku: our fastest model yet anthropic · 2024 · Q002751 · einzelne zitierbare Belege

    Anthropic kündigt Haiku mit hohen Geschwindigkeits- und Preisversprechen an, nennt aber Einschränkungen bei langen Prompts und liefert im Bericht keine unabhängige Prüfung dieser Angaben.

  98. Preparing for global elections in 2024 anthropic · 2024 · Q002780 · einzelne zitierbare Belege

    Anthropic beschreibt Wahl-Schutzmaßnahmen für seine KI, legt im Bericht aber keine Belege für deren Wirksamkeit vor.

  99. Our approach to government and national security partnerships openai · 2026 · Q002783 · einzelne zitierbare Belege

    OpenAI befürwortet defensive KI-Anwendungen in der nationalen Sicherheit unter demokratischer Kontrolle und verweist auf eigene Partnerschaften und Nutzungsgrenzen; die vollständigen Grundsätze sind im Bericht nicht abgedruckt.

  100. Addendum to GPT-5.2 System Card: GPT-5.2-Codex openai · 2025 · Q002823 · einzelne zitierbare Belege

    Der vorliegende Einleitungsauszug beschreibt GPT‑5.2‑Codex und OpenAIs Sicherheitseinschätzungen, enthält jedoch keine Details oder Messwerte zu den angekündigten Maßnahmen und Bewertungen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →