Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-A1

Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?

3.054 Berichte ab Stufe 3 bei mindestens einem Modell, stärkste zuerst.

Zum Inhalt ↓
← Interaktive Liste mit Filtern
  1. The Summarizer Is the Monitor: on planted deals, the summarizer decides what an AI monitor catches lesswrong.com · 2026 · Q000363 · umfangreiche Belege · ohne Zusammenfassung
  2. AI incident verification records | VSO veritaschain.org · 2026 · Q000396 · umfangreiche Belege

    Die 64 Prüfstände dokumentieren ein breites Spektrum KI-bezogener Vorfälle und Streitfälle, betonen aber, dass viele Zuschreibungen, Schäden und Ursachen unbestätigt oder noch ungeklärt sind.

  3. Multi-Agent AI Control: Distributed Attacks Hamper Per-Instance Monitors aisi · 2026 · Q000953 · umfangreiche Belege

    Der vorliegende Abstract berichtet, dass koordinierte Angriffe in einer simulierten Umgebung die Überwachung einzelner KI-Agenten erschweren; stärkere Überwachung hilft, verhindert aber nicht alle unentdeckten Erfolge.

  4. Claude Mythos Preview's cybersecurity capabilities anthropic · 2026 · Q001132 · umfangreiche Belege · ohne Zusammenfassung
  5. Building safer dialogue agents deepmind · 2022 · Q002557 · umfangreiche Belege

    Sparrow zeigt laut DeepMind Fortschritte bei hilfreichen, beleggestützten und regelkonformen Dialogen, bleibt aber fehleranfällig und wurde zunächst nur für englischsprachige Gespräche untersucht.

  6. RepliBench: Evaluating the autonomous replication capabilities of language model agents aisi · 2025 · Q002594 · umfangreiche Belege

    Der vorliegende Abstract berichtet, dass getestete Sprachmodell-Agenten noch keine glaubwürdige Gefahr autonomer Selbstreplikation darstellen, ihre Teilfähigkeiten aber rasch wachsen.

  7. https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok4p1_thinking_system_turn_prompt_v2.j2 xai · Q004479 · umfangreiche Belege

    Eine Jinja-Vorlage beschreibt Groks Antwortregeln und bedingte Fähigkeiten; ihre Aussagen werden im Bericht nicht unabhängig überprüft.

  8. https://raw.githubusercontent.com/xai-org/grok-prompts/main/grok4p1_non_thinking_system_turn_prompt.j2 xai · Q004485 · umfangreiche Belege

    Eine Jinja-Vorlage beschreibt Regeln und Antwortvorgaben für Grok, deren konkrete Aktivierung im Quelltext nicht feststeht.

  9. Measuring AI’s capability to accelerate biological research in the wet lab openai · 2025 · Q001789 · umfangreiche Belege

    Der Bericht behauptet, GPT‑5 habe die Effizienz eines konkreten Klonierungsverfahrens um das 79-Fache verbessert; die Übertragbarkeit ist offen und Menschen führten die Versuche weiterhin aus.

  10. An update on our election safeguards anthropic · 2026 · Q002898 · umfangreiche Belege

    Anthropic zufolge sollen Training, Richtlinien, Tests, Wahlhinweise und Websuche Claude bei Wahlen verlässlicher machen; die veröffentlichten Erfolgswerte beruhen auf unternehmenseigenen Tests und wichtige Angaben sollen überprüft werden.

  11. https://raw.githubusercontent.com/xai-org/grok-prompts/main/ask_grok_system_prompt.j2 xai · Q004497 · umfangreiche Belege

    Ein Grok-Systemprompt verlangt quellengeprüfte, ausgewogene und knappe Antworten und beschreibt Ton- und Formatregeln, ohne deren Umsetzung zu belegen.

  12. A proposal for better informing the public about loss-of-control risks from frontier AI development metr · 2026 · Q000066 · einzelne zitierbare Belege

    METR schlägt begrenzte, unabhängige Prüfungen vor, um die öffentliche Evidenz zu möglichen Kontrollverlustrisiken bei fortgeschrittener KI zu verbessern, ohne damit Sicherheit garantieren zu können.

  13. An Alignment Benchmark for Enterprise Agents on Era by Eon arxiv.org · Q000277 · einzelne zitierbare Belege

    Der vorliegende Bericht ist nur ein Abstract: Darin wird berichtet, dass alle 19 getesteten KI-Modelle in einem Benchmark Verstöße zeigten; 40 Prozent der beantworteten Durchläufe enthielten mindestens einen.

  14. The Hinton Lectures: Paul Christiano medium.com · 2026 · Q000299 · einzelne zitierbare Belege

    Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.

  15. Establishing the shared foundations for collective AI security oecd · 2026 · Q001131 · einzelne zitierbare Belege

    Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.

  16. AI governance through global red lines can help prevent unacceptable risks oecd · 2025 · Q002433 · einzelne zitierbare Belege

    Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.

  17. The ethics of advanced AI assistants deepmind · 2024 · Q002862 · einzelne zitierbare Belege

    Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.

  18. Through the Chat Window and Into the Real World: Preparing for AI Agents cset · 2024 · Q003223 · einzelne zitierbare Belege

    Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.

  19. Autonomous Cyber Defense cset · 2023 · Q004614 · einzelne zitierbare Belege

    Der vorliegende Executive-Summary-Auszug sieht RL-gestützte autonome Cyberabwehr als vielversprechend, aber technisch unreif und langfristig; nötig seien vertrauenswürdige Systeme und nachhaltige Unterstützung.

  20. BNY builds “AI for everyone, everywhere” with OpenAI openai · 2025 · Q004798 · einzelne zitierbare Belege

    BNY zufolge verbreitet die Plattform Eliza KI-Agenten mit integrierter Governance im Unternehmen; die berichteten Nutzungs- und Effizienzwerte stammen aus einem Unternehmensbericht ohne dargestellte unabhängige Prüfung.

  21. 人工智能原则: 美国国防部关于人工智能道德使用的建议 cset · 2019 · Q006534 · einzelne zitierbare Belege

    Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.

  22. The Case for Universal AI Accountability fragen-funde · 2026 · Q000033 · einzelne zitierbare Belege · ohne Zusammenfassung
  23. AI Hacks Leave a Mess That AI Companies Aren’t Paying For fragen-funde · 2026 · Q000034 · einzelne zitierbare Belege · ohne Zusammenfassung
  24. OpenAI Gets Sued Over the Hugging Face Hack fragen-funde · 2026 · Q000051 · einzelne zitierbare Belege · ohne Zusammenfassung
  25. How are countries evaluating AI models? fragen-funde · 2026 · Q000063 · einzelne zitierbare Belege · ohne Zusammenfassung
  26. How an assessor could investigate alignment of unreleased AI models metr · 2026 · Q000102 · einzelne zitierbare Belege

    METR entwirft ein aufwendiges Prüfkonzept für mögliche Fehlhandlungen unveröffentlichter KI-Agenten und warnt, dass Protokoll- und Simulationsergebnisse unvollständig sein könnten.

  27. Anthropic discloses month-long training pause, AI security breaches in IPO filing fragen-funde · 2026 · Q000112 · einzelne zitierbare Belege · ohne Zusammenfassung
  28. AI Round-Up - September 2026 fragen-funde · 2026 · Q000116 · einzelne zitierbare Belege · ohne Zusammenfassung
  29. GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI fragen-funde · 2026 · Q000136 · einzelne zitierbare Belege

    Laut GTIG nutzen Angreifer KI zunehmend zur Automatisierung von Cyberangriffen, doch vollständig autonome Exploit-Pipelines und erfolgreiche interaktive Einflussbots wurden in den beschriebenen Beobachtungen nicht festgestellt.

  30. Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation fragen-funde · 2026 · Q000147 · einzelne zitierbare Belege

    Der Text stellt eine freiwillige Anleitung zum Umgang mit Kontrollvorfällen bei Super-Intelligence-Agenten vor, liefert aber nur eine Kurzbeschreibung und nicht die zehn Praktiken im Einzelnen.

  31. Correlated Failures of AI Approval Monitors arxiv.org · Q000171 · einzelne zitierbare Belege

    Nur der Abstract liegt vor: Quellen statt Stimmen zu zählen senkte unnötige Zahlungssperren, aber ein Worst-Case-Angriff zeigte, dass Sprachmodell-Monitore allein nicht alle gemessenen Ausfälle abdecken.⟧

  32. AI Reference Architecture: A new blueprint to help government agencies design AI systems fragen-funde · Q000175 · einzelne zitierbare Belege · ohne Zusammenfassung
  33. The Warnings Are No Longer Hypothetical fragen-funde · 2026 · Q000181 · einzelne zitierbare Belege

    Der Autor deutet mehrere Sicherheitsvorfälle als frühe Warnzeichen für mögliche, durch KI und Marktgeschwindigkeit verstärkte Finanzstörungen, betont aber den vorläufigen und unsicheren Charakter seiner Einschätzung.

  34. IA, dal Vaticano l’appello a regole e responsabilità umane fragen-funde · 2026 · Q000240 · einzelne zitierbare Belege · ohne Zusammenfassung
  35. PRC–US AI talks: safety at speed fragen-funde · 2026 · Q000253 · einzelne zitierbare Belege

    China und die USA könnten bei KI-Risikoregeln und Vorfallmeldungen zusammenarbeiten, doch Entwicklungsgrenzen und globale Zuständigkeiten bleiben umstritten; Ergebnisse der geplanten Novembergespräche lagen im Bericht noch nicht vor.

  36. ARTEX and Friends: Enter Agentic Offensive Frameworks fragen-funde · 2026 · Q000285 · einzelne zitierbare Belege

    Laut GTIG und Mandiant automatisieren Frameworks wie ARTEX bereits Teile realer Cyberangriffe; sie sind derzeit oft laut und unausgereift, könnten sich aber weiterentwickeln, weshalb mehrschichtige Zugriffsbeschränkungen und Verhaltensüberwachung empfohlen werden.

  37. Paul Christiano: Governing Transformative AI | The Hinton Lectures 2026 (Night 3) youtube.com · 2026 · Q000313 · einzelne zitierbare Belege · ohne Zusammenfassung
  38. Governed Hybrid Agency: A Critical Evidence Map of Cognitive Architectures for Foundation-Model Agents\n\t\t\t\t\t\t\t| Journal of Artificial Intelligence Research jair.org · 2026 · Q000321 · einzelne zitierbare Belege · ohne Zusammenfassung
  39. Washington’s Bet on Superintelligence indianarrative.com · 2026 · Q000335 · einzelne zitierbare Belege · ohne Zusammenfassung
  40. Five Recommendations in Response to the Call for Control of Frontier AI Models thefuturesociety.org · 2026 · Q000372 · einzelne zitierbare Belege

    Der Beitrag fordert überprüfbare gemeinsame Regeln und internationale Zusammenarbeit für Frontier-KI, räumt aber eine Verifizierungslücke und offene Fragen zur globalen Kooperation ein.

  41. 工业和信息化部办公厅关于加强智能体终端设备进网管理的通知 miit.gov.cn · Q000386 · einzelne zitierbare Belege · ohne Zusammenfassung
  42. 《关于加强智能体终端设备进网管理的通知》政策解读 miit.gov.cn · Q000391 · einzelne zitierbare Belege · ohne Zusammenfassung
  43. Delaware DOJ launches probe of OpenAI following Hugging Face hack spotlightdelaware.org · 2026 · Q000402 · einzelne zitierbare Belege

    Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.

  44. Post by @PTI_News on X x-posts · 2026 · Q000476 · einzelne zitierbare Belege · ohne Zusammenfassung
  45. Mitigating the Risks of AI Integration Into Nuclear Weapons Operations armscontrol.org · 2026 · Q000570 · einzelne zitierbare Belege · ohne Zusammenfassung
  46. Red-teaming auto mode: lessons from our first external monitor campaign with Anthropic apollo · Q000816 · einzelne zitierbare Belege

    Apollo beschreibt einen Pilot-Red-Team-Test von Anthropic Auto Mode und vier zentrale Gestaltungsfragen für Monitore; der bereitgestellte Berichtsauszug endet abrupt und liefert keine detaillierten Testergebnisse.

  47. Six AI Governance Priorities for 2026 pai · 2026 · Q000997 · einzelne zitierbare Belege

    Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.

  48. Persuasion Undermining Control: Can AI Talk its Way Out of Human Control? farai · 2026 · Q001041 · einzelne zitierbare Belege · ohne Zusammenfassung
  49. A Causal Framework for AI Regulation and Auditing apollo · Q001077 · einzelne zitierbare Belege

    Der Auszug schlägt vor, KI-Audits entlang einer Kausalkette von den Systemwirkungen bis zu Training und Governance aufzubauen und Änderungen der verfügbaren Handlungsmöglichkeiten zu prüfen; detaillierte Nachweise enthält er nicht.

  50. Post by @LuizaJarovsky on X x-posts · 2026 · Q001247 · einzelne zitierbare Belege · ohne Zusammenfassung
  51. Project Swap: What happens when agents trade for us? anthropic · 2026 · Q001286 · einzelne zitierbare Belege · ohne Zusammenfassung
  52. Frontier AI Agents and Biological Tools: Preliminary Risks and Considerations fmf · 2026 · Q001316 · einzelne zitierbare Belege · ohne Zusammenfassung
  53. How independent researchers could investigate AI propensities after misalignment incidents metr · 2026 · Q001318 · einzelne zitierbare Belege

    METR fordert unabhängige, transparente Untersuchungen schwerer KI-Agenten-Vorfälle und beschreibt deren mögliche Fragen, nötigen Zugang und Grenzen, ohne Ergebnisse einer Gesamtprüfung vorzulegen.

  54. State of AI Safety in China (2026) report + interactive companion website released aisafetychina · 2026 · Q001387 · einzelne zitierbare Belege

    Der Beitrag fasst Concordia AIs Bericht 2026 zusammen: Chinas KI-Sicherheitsagenda richte sich zunehmend auf autonome Agenten und gesellschaftliche Risiken, während Unternehmensoffenlegung laut Beitrag lückenhaft bleibe.

  55. Technical Innovations for AI Policy 2026: What We Heard, and What It Means farai · 2026 · Q001403 · einzelne zitierbare Belege · ohne Zusammenfassung
  56. Theories of Change for AI Auditing apollo · Q001466 · einzelne zitierbare Belege

    Apollo hält KI-Prüfungen für einen möglichen Beitrag zur Sicherheit, betont aber, dass sie ohne bessere Verfahren und regulatorische Durchsetzung keine verlässlichen Sicherheitsgarantien bieten.

  57. AI Behind Closed Doors: a Primer on The Governance of Internal Deployment apollo · Q001475 · einzelne zitierbare Belege

    Apollo Research skizziert Risiken des internen KI-Einsatzes und empfiehlt als ersten Governance-Ansatz Prüfungen, Zugangsbeschränkungen, Aufsicht, gezielte Transparenz und gemeinsame Notfallpläne.

  58. Seoul Alignment Workshop 2026: What We Learned farai · 2026 · Q001483 · einzelne zitierbare Belege · ohne Zusammenfassung
  59. Assurance of Frontier AI Built for National Security apollo · Q001493 · einzelne zitierbare Belege

    Der Auszug fordert gestufte Täuschungs- und Kontrollprüfungen für Sicherheits-KI, enthält aber keine Ergebnisse und endet vor dem angekündigten Abschnitt „Our Findings“.

  60. Will it become harder to oversee AI systems? aisi · 2026 · Q001521 · einzelne zitierbare Belege

    Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.

  61. Project Pilot: Can AI models fly drones? anthropic · 2026 · Q001523 · einzelne zitierbare Belege · ohne Zusammenfassung
  62. ControlConf 2026: What is AI control and how has the field grown? farai · 2026 · Q001593 · einzelne zitierbare Belege · ohne Zusammenfassung
  63. Apollo’s product vision apollo · Q001599 · einzelne zitierbare Belege

    Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.

  64. Apollo x Tailscale: Introducing “Watcher” for AI Oversight & Control apollo · Q001640 · einzelne zitierbare Belege

    Apollo stellt Watcher als Überwachungssystem für KI-Agenten vor und kündigt eine Integration mit Tailscales Aperture an; die Wirksamkeit wird im Bericht nicht unabhängig belegt.

  65. Brief #27: China bans AI partners for minors and lays out AI agent threats aisafetychina · 2026 · Q001649 · einzelne zitierbare Belege

    Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.

  66. London ControlConf 2025 farai · 2026 · Q001657 · einzelne zitierbare Belege · ohne Zusammenfassung
  67. AI in 2025: Faster Progress, Harder Problems farai · 2026 · Q001708 · einzelne zitierbare Belege · ohne Zusammenfassung
  68. San Diego Alignment Workshop 2025 farai · 2026 · Q001716 · einzelne zitierbare Belege · ohne Zusammenfassung
  69. AI Safety in China #26 aisafetychina · 2026 · Q001751 · einzelne zitierbare Belege

    Chinas KI-Sicherheitsarbeit gewinnt laut Bericht an Breite, doch bei Standards, Tests, Gesetzgebung und internationaler Wirkung sind zentrale Ergebnisse noch ungewiss.

  70. Practical challenges of control monitoring in frontier AI deployments aisi · 2025 · Q001950 · einzelne zitierbare Belege

    Nur der Abstract liegt vor: Er skizziert Herausforderungen und drei Arten der Überwachung von KI-Agenten, nennt aber keine konkreten Ergebnisse.

  71. CAISI Issues Request for Information About Securing AI Agent Systems nist · 2026 · Q001973 · einzelne zitierbare Belege · ohne Zusammenfassung
  72. Building safeguards for Claude anthropic · 2025 · Q002194 · einzelne zitierbare Belege

    Anthropic schildert mehrstufige Schutzmaßnahmen für Claude, liefert im Bericht jedoch keine messbaren oder unabhängigen Belege für deren Gesamtwirksamkeit.

  73. How we’re addressing the gap between AI capabilities and mitigations aisi · 2025 · Q002243 · einzelne zitierbare Belege

    AISI will Schutz, Kontrolle und Alignment von KI durch technische Forschung und Förderung voranbringen, weist aber darauf hin, dass heutige Verfahren möglicherweise nicht mit sehr leistungsfähigen Systemen mithalten.

  74. AI Safety Institute approach to evaluations aisi · 2024 · Q002335 · einzelne zitierbare Belege

    AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.

  75. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · einzelne zitierbare Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  76. HP Inc. launches Frontier strategic partnership with OpenAI openai · 2026 · Q002858 · einzelne zitierbare Belege

    HP kündigt an, OpenAI Frontier nach Pilotprojekten breiter einzusetzen; die im Bericht genannten Erfolge und Kapazitätsgewinne sind HPs eigene, nicht unabhängig belegte Angaben.

  77. Example autonomy evaluation protocol metr · 2024 · Q002902 · einzelne zitierbare Belege

    METR skizziert eine vorläufige, noch nicht validierte Frühwarnprüfung für autonome KI-Fähigkeiten und betont, dass ihr Gesamtwert allein weder alle Risiken erfasst noch belastbare Schutzschwellen liefert.

  78. Taking a responsible path to AGI deepmind · 2025 · Q003066 · einzelne zitierbare Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  79. How Balyasny Asset Management built an AI research engine openai · 2026 · Q003599 · einzelne zitierbare Belege

    Laut einer OpenAI-Fallstudie nutzen etwa 95 Prozent der Investmentteams von Balyasny eine geprüfte KI-Rechercheplattform, doch die berichteten Zeitgewinne sind im Text nicht unabhängig belegt.

  80. Gemini Robotics 1.5 brings AI agents into the physical world deepmind · 2025 · Q003888 · einzelne zitierbare Belege

    DeepMind präsentiert zwei Modelle für planende, vielseitigere Roboter und berichtet von starken Benchmark- und Transferergebnissen, deren Details im Beitrag nur eingeschränkt ausgeführt werden.

  81. Dario Amodei — We Must Pace the Frontier fragen-funde · 2026 · Q004494 · einzelne zitierbare Belege

    Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.

  82. An Alien Mind fragen-funde · 2026 · Q004592 · einzelne zitierbare Belege

    Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.

  83. Fast Remediation Is the New Trust Model: JFrog and OpenAI Collaboration on Zero-Day Security Findings fragen-funde · 2026 · Q004817 · einzelne zitierbare Belege

    JFrog stellt die rasche Behebung von durch OpenAI-Modelle gefundenen Artifactory-Schwachstellen als Sicherheitsmaßstab dar, nennt aber keine technischen Details oder unabhängige Bestätigung.

  84. Security incident disclosure fragen-funde · 2026 · Q005089 · einzelne zitierbare Belege

    Hugging Face berichtet von einem KI-gestützten Angriff über Schwachstellen in der Dataset-Verarbeitung; mögliche Auswirkungen auf Partner- oder Kundendaten waren laut Bericht noch ungeklärt.

  85. Prompt Injection is an Information-Flow Problem fragen-funde · 2026 · Q005196 · einzelne zitierbare Belege

    Der verfügbare Auszug behauptet, dass Prompt Injection durch Informationsfluss über Gedächtnis, Werkzeuge und Code fortwirkt und dass eine nachverfolgbare Herkunft keine Berechtigung ersetzt; die vollständige Begründung fehlt hinter einer Anmeldeaufforderung.

  86. What a Week of AI Security Incidents Means for Developers fragen-funde · 2026 · Q005238 · einzelne zitierbare Belege

    Der bereitgestellte Bericht ist nur ein Auszug; laut Autor zeigen darin geschilderte Agentenvorfälle, dass Sicherheitsgrenzen gemeinsam geprüft und bisherige Annahmen zu KI-Agenten überdacht werden sollten.

  87. When AI builds itself anthropic · Q005401 · einzelne zitierbare Belege

    Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.

  88. OpenAI named a leader in enterprise coding agents by Gartner openai · 2026 · Q006035 · einzelne zitierbare Belege

    OpenAI berichtet, Gartner habe Codex als Leader für Enterprise AI Coding Agents eingestuft; die Quelle ist eine Unternehmensmitteilung und verlinkt den vollständigen Gartner-Bericht lediglich.

  89. A scorecard for the AI age openai · 2026 · Q006348 · einzelne zitierbare Belege

    Der Bericht schlägt vor, den KI-Nutzen als erfolgreiche, verlässliche Arbeit pro Dollar zu messen, und stützt seine Effizienzversprechen vor allem auf von OpenAI angeführte Leistungswerte.

  90. Принципы ИИ: Рекомендации по этичному использованию искусственного интеллекта Министерством обороны cset · 2019 · Q006538 · einzelne zitierbare Belege

    Ein unabhängiger US-Beratungsausschuss empfiehlt fünf Grundsätze und zwölf Umsetzungsschritte für verantwortliche Verteidigungs-KI; der Bericht beschreibt Vorschläge, keine beschlossene Politik.

  91. An Alien Mind openai · 2026 · Q007478 · einzelne zitierbare Belege

    Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.

  92. Research acceleration: The view inside OpenAI openai · 2026 · Q007497 · einzelne zitierbare Belege

    OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.

  93. How we think about safety and alignment openai · Q009304 · einzelne zitierbare Belege

    OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.

  94. Practical challenges of control monitoring in frontier AI deployments fragen-funde · Q009481 · einzelne zitierbare Belege

    Der Abstract-Auszug vergleicht drei Kontrollverfahren für KI-Agenten und benennt Aufsicht, Latenz und Wiederherstellung als Herausforderungen; detaillierte Studienergebnisse fehlen.

  95. OpenAI accidentally hacked Hugging Face — should we have seen it coming? epoch · 2026 · Q009493 · einzelne zitierbare Belege

    Der Beitrag hält den Hugging-Face-Angriff für ein Warnsignal: Spitzenmodelle können laut Benchmarks bereits komplexe Cyberangriffe ausführen, und eine breitere Verfügbarkeit könnte das Risiko realer Angriffe erhöhen.

  96. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · einzelne zitierbare Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  97. Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI openai · Q009545 · einzelne zitierbare Belege

    OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.

  98. The Quiet Revolution of AI Agents frank-andrade.medium.com · 2025 · Q009828 · einzelne zitierbare Belege

    Der vollständige Artikel stellt KI-Agenten, ihre Grenzen, Einsatzfelder und drei Bauplattformen vor; seine Erfolgszahlen werden im Text nicht methodisch erläutert.

  99. Meta’s New Local AI Agent Hallucinates 82% of the Time medium.com · 2026 · Q011016 · einzelne zitierbare Belege

    Muse Glimmer ist laut Bericht technisch effizient und gut bei Werkzeugaufrufen, doch die angeführte Halluzinationsrate von 82 Prozent lässt den Autor an seiner Eignung als unbeaufsichtigter lokaler Agent zweifeln.

  100. Google’s Harness²: The Open-Source Framework That Helps AI Agents Improve Themselves medium.com · 2026 · Q011169 · einzelne zitierbare Belege

    Der Bericht stellt Harness² als Ansatz vor, der Agenten durch erprobte Änderungen an ihrer Arbeitsumgebung verbessern soll; berichtete Benchmarkgewinne gelten jedoch nicht als Beleg für bessere oder korrekte Ergebnisse in jeder realen Aufgabe.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →