Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-A1-T01

Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen?

233 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-A1
  1. AI Agent Security: Threats, Guardrails, Controls fragen-funde · 2026 · Q000202 · beantwortet teilweise oder widerspricht · ohne Zusammenfassung
  2. Identity Management for Agentic AI fragen-funde · Q004543 · beantwortet teilweise oder widerspricht

    Das Whitepaper fordert gemeinsame Standards für identifizierbare, kontrolliert delegierende KI-Agenten, da heutige Verfahren vor allem einfache, organisationsinterne Fälle abdecken.

  3. The Observability Gap in AI Agents pai · 2026 · Q000002 · einzelne zitierbare Belege

    Der bereitgestellte Auszug zufolge fehlen KI-Agenten-Frameworks wichtige Überwachungsdaten, weshalb Befugnisse und Entscheidungen schwer nachzuvollziehen sind; der Gesamtbericht liegt hier nicht vor.

  4. Advisories fragen-funde · Q000020 · einzelne zitierbare Belege

    CERT-In warnt, dass KI-Agenten laut Advisory bekannte Sicherheitslücken schneller und in größerem Umfang ausnutzen können, und empfiehlt technische Begrenzung, minimale Rechte sowie engmaschige Überwachung.

  5. When the Agent Is the Incident: NIST, NSA, and CISA's 10 Key Practices for SI Incident Response fragen-funde · 2026 · Q000035 · einzelne zitierbare Belege · ohne Zusammenfassung
  6. Introducing Agent Compute Engine and expanding agent governance fragen-funde · 2026 · Q000036 · einzelne zitierbare Belege

    Google kündigt neue Agenten-Rechenumgebungen und erweiterte Governance an; Leistungsangaben stammen vom Anbieter und viele Funktionen sind noch als Vorschau geplant.

  7. AI Cyber Defense Now Has To Move At Machine Speed fragen-funde · 2026 · Q000076 · einzelne zitierbare Belege · ohne Zusammenfassung
  8. https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf nist · Q000142 · einzelne zitierbare Belege · ohne Zusammenfassung
  9. Summary of Comments on the Concept Paper nist · 2026 · Q000145 · einzelne zitierbare Belege

    NIST fasst Rückmeldungen zu standardbasierter, überprüfbarer und datenschutzbewusster Agentensicherheit zusammen; der bereitgestellte Berichtstext ist am Ende unvollständig.

  10. Design Tenets for Agent Identity Management Systems nist · 2026 · Q000152 · einzelne zitierbare Belege · ohne Zusammenfassung
  11. AI Reference Architecture: A new blueprint to help government agencies design AI systems fragen-funde · Q000175 · einzelne zitierbare Belege · ohne Zusammenfassung
  12. The kill switch problem: Why stopping AI agents is harder than starting them fragen-funde · 2026 · Q000205 · einzelne zitierbare Belege · ohne Zusammenfassung
  13. How to Govern Generative AI at a US Bank After SR 26-2 fragen-funde · 2026 · Q000211 · einzelne zitierbare Belege · ohne Zusammenfassung
  14. DSCI: Agentic AI doesn’t need new laws; It needs controls you can prove fragen-funde · 2026 · Q000234 · einzelne zitierbare Belege · ohne Zusammenfassung
  15. Post by @me_deepu on X x-posts · 2026 · Q000357 · einzelne zitierbare Belege · ohne Zusammenfassung
  16. 工业和信息化部办公厅关于加强智能体终端设备进网管理的通知 miit.gov.cn · Q000386 · einzelne zitierbare Belege · ohne Zusammenfassung
  17. SI Registry™: One Signed, Append-Only Record that Both Governs Certified AI Systems and Informs the Public, in which Each System's Runtime Limits Bind Only When Recorded, Role-Scoped Writers Sign in Separate Lanes, Certification Status Is Derived Live from the Records It Depends On, Typed Cross-References Link Compute, Model, Data, Skill, Machine, Site and Credential so that a Change Propagates to Every Dependent Record, Physical Events Are Anchored by Signed Device Evidence, Independent Witnesses Prevent Split Views, Linking Is Limited to Protect Privacy, and No Stop or Restore Ever Depends on the Registry tdcommons.org · 2026 · Q000428 · einzelne zitierbare Belege · ohne Zusammenfassung
  18. Cequence Security and KPMG outline governance for AI agents decisioninsights.ai · 2026 · Q000435 · einzelne zitierbare Belege

    Der Bericht empfiehlt eine laufende, unabhängige Kontrolle von KI-Agenten und berichtet von besseren Ergebnissen in einem begrenzten Prototyptest.

  19. AI Agents Are in Production. Agent Accountability Is Not. gravitee.io · 2026 · Q000445 · einzelne zitierbare Belege · ohne Zusammenfassung
  20. Organisations need to prove that their AI agents can shut down aspistrategist.org.au · 2026 · Q000446 · einzelne zitierbare Belege · ohne Zusammenfassung
  21. AI Agent Kill Switches: What They Stop and Miss mindgard.ai · 2026 · Q000447 · einzelne zitierbare Belege

    Ein Kill Switch für KI-Agenten ist laut Bericht erst dann wirksam, wenn er alle Ausführungswege erfasst und seine Eindämmung unter realistischen Fehlerbedingungen geprüft wird.

  22. Test Whether an AI Agent Stays Stopped cybersecurity-insiders.com · 2026 · Q000448 · einzelne zitierbare Belege · ohne Zusammenfassung
  23. OCC issues supervisory Framework on use of AI lexology.com · 2026 · Q000510 · einzelne zitierbare Belege · ohne Zusammenfassung
  24. OCC Bulletin 2026-54: the AI framework your examiner was handed bidun.com · 2026 · Q000511 · einzelne zitierbare Belege

    Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.

  25. Anthropic bans Claude-built fake sites aimed at gaming AI answers ppc.land · 2026 · Q000659 · einzelne zitierbare Belege

    Die neue Claude-Richtlinie untersagt täuschende Kampagnen gegen Such- und KI-Antwortsysteme, ordnet Wahlwerbung und Hochrisikonutzung neu und lässt ihre praktische Durchsetzung laut Bericht offen.

  26. Post by @Paul__Walsh on X x-posts · 2026 · Q000756 · einzelne zitierbare Belege · ohne Zusammenfassung
  27. Build Enterprise Agents, Workflows & Apps in Mistral Studio mistral · 2026 · Q000770 · einzelne zitierbare Belege

    Mistral bewirbt Studio für kontrollierbare Unternehmens-KI und nennt eigene Beispiele für Zeitersparnisse, die im Bericht nicht unabhängig belegt werden.

  28. Introducing MiniMax Code Mini App minimax · 2026 · Q000802 · einzelne zitierbare Belege · ohne Zusammenfassung
  29. Reflections from red-teaming Codex auto-review apollo · Q000851 · einzelne zitierbare Belege

    Der vorliegende Text ist ein Auszug ohne detaillierte Testergebnisse: Apollo berichtet über einen Codex-Auto-Review-Test mit OpenAI und nennt Autorisierung, Zuständigkeit und informierte Zustimmung als zentrale Prüffragen.

  30. Scaling Managed Agents with stable interfaces anthropic · 2026 · Q000885 · einzelne zitierbare Belege · ohne Zusammenfassung
  31. Claude Code Best Practices anthropic · 2025 · Q000898 · einzelne zitierbare Belege

    Der nicht mehr gepflegte Anthropic-Beitrag empfiehlt strukturierte, iterative Arbeitsweisen mit Claude Code, kennzeichnet sie als kontextabhängige Erfahrungswerte und verweist für aktuelle Informationen auf die offizielle Dokumentation.

  32. Cogent and OpenAI build cyber defense factories for enterprises openai · 2026 · Q000904 · einzelne zitierbare Belege

    Laut OpenAI-Fallstudie automatisiert Cogent die kontrollierte Schwachstellenbehebung und berichtet deutliche Leistungsgewinne; unabhängige Belege fehlen im Text, der am Schluss abbricht.

  33. Post by @francescofaenzi on X x-posts · 2026 · Q000995 · einzelne zitierbare Belege · ohne Zusammenfassung
  34. Project Vend: Phase two anthropic · 2025 · Q001001 · einzelne zitierbare Belege · ohne Zusammenfassung
  35. Establishing the shared foundations for collective AI security oecd · 2026 · Q001131 · einzelne zitierbare Belege

    Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.

  36. Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai aisafetychina · 2026 · Q001269 · einzelne zitierbare Belege

    Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.

  37. Emerging Security Practices for AI Agents fmf · 2026 · Q001497 · einzelne zitierbare Belege · ohne Zusammenfassung
  38. Frontier Risk Report (February to March 2026) metr · 2026 · Q001569 · einzelne zitierbare Belege

    METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.

  39. Trustworthy agents in practice anthropic · 2026 · Q001742 · einzelne zitierbare Belege · ohne Zusammenfassung
  40. Anthropic, PBC - S-1 (Q2) fragen-funde · Q001846 · einzelne zitierbare Belege · ohne Zusammenfassung
  41. Anthropic, PBC sec.gov · Q001847 · einzelne zitierbare Belege · ohne Zusammenfassung
  42. Anthropic, PBC sec.gov · Q001848 · einzelne zitierbare Belege · ohne Zusammenfassung
  43. Inside our approach to the Model Spec openai · 2026 · Q001880 · einzelne zitierbare Belege

    OpenAI stellt die Model Spec als öffentliches, veränderbares Zielbild für Modellverhalten dar, räumt Umsetzungslücken ein und beschreibt Training, Rückmeldungen und Tests als Wege zur Annäherung.

  44. Introducing OpenAI Frontier openai · 2026 · Q002000 · einzelne zitierbare Belege

    OpenAI stellt Frontier als Plattform für den Einsatz von KI-Agenten in Unternehmen vor und berichtet über Produktivitätsgewinne, ohne diese im Text unabhängig nachzuweisen.

  45. How we contain Claude across products anthropic · 2026 · Q002355 · einzelne zitierbare Belege · ohne Zusammenfassung
  46. Issue Brief: Foundational Security Practices fmf · 2024 · Q002747 · einzelne zitierbare Belege · ohne Zusammenfassung
  47. Agents for financial services anthropic · 2026 · Q002891 · einzelne zitierbare Belege

    Anthropic kündigt zehn Finanzagenten, Microsoft-Add-ins und neue Datenverbindungen an und beschreibt sie als anpassbare Werkzeuge mit menschlicher Prüfung, ohne im Bericht unabhängige Wirksamkeitsnachweise vorzulegen.

  48. Introducing ChatGPT Atlas openai · 2025 · Q003329 · einzelne zitierbare Belege

    OpenAI stellte Atlas als Browser mit ChatGPT und Agentenfunktionen vor, warnte vor verbleibenden Risiken und vermerkt inzwischen dessen Einstellung.

  49. https://docs.x.ai/grok-bot/security.md xai · Q004414 · einzelne zitierbare Belege

    Grok Bot bietet laut Bericht mehrere Sicherheitskontrollen, doch etliche Funktionen sind Enterprise-exklusiv und die Schutzmaßnahmen haben ausdrücklich benannte Grenzen.

  50. https://docs.x.ai/grok-bot/security-faq.md xai · Q004450 · einzelne zitierbare Belege

    Die Anbieter-FAQ erläutert Sicherheitskontrollen und deren Grenzen für Grok Bot, darunter geteilte Computer je Nutzer, Enterprise-Beschränkungen und nicht vollständige Netzwerk- und Aktionsprüfungen.

  51. Our framework for safe and trustworthy agents anthropic · 2025 · Q004459 · einzelne zitierbare Belege

    Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.

  52. https://docs.x.ai/grok-bot/approvals-security-and-privacy.md xai · Q004461 · einzelne zitierbare Belege

    Der Bericht empfiehlt enge Freigaberegeln für Grok Bot, weist aber auf gemeinsam genutzte Cloud-Daten, mögliche Kartenzahlungen ohne Einzelbestätigung und von Cursor abhängige Datenschutzbedingungen hin.

  53. https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-22-Driving-Efficient-Acquisition-of-Artificial-Intelligence-in-Government.pdf fragen-funde · Q004643 · einzelne zitierbare Belege · ohne Zusammenfassung
  54. Introducing Claude Tag anthropic · 2026 · Q004767 · einzelne zitierbare Belege

    Claude Tag ist eine Slack-Beta für Teams, die Claude kanalbezogen Aufgaben übertragen und dessen Zugriffe administrativ begrenzen können.

  55. BNY builds “AI for everyone, everywhere” with OpenAI openai · 2025 · Q004798 · einzelne zitierbare Belege

    BNY zufolge verbreitet die Plattform Eliza KI-Agenten mit integrierter Governance im Unternehmen; die berichteten Nutzungs- und Effizienzwerte stammen aus einem Unternehmensbericht ohne dargestellte unabhängige Prüfung.

  56. The Evolution Of Bengt Betjänt fragen-funde · Q004836 · einzelne zitierbare Belege

    Andon Labs schildert Bengts autonome Geschäftsexperimente als zugleich leistungsfähig und fehleranfällig; der Bericht ist eine Selbstdarstellung und lässt zentrale Fragen zu Kontrolle und Verlässlichkeit offen.

  57. Post by @ClaudeDevs on X fragen-funde · 2026 · Q005106 · einzelne zitierbare Belege · ohne Zusammenfassung
  58. Harness, Loops, Graphs: What 217 Real Agent Loops Are Missing (Full Guide) fragen-funde · 2026 · Q005251 · einzelne zitierbare Belege · ohne Zusammenfassung
  59. A model guide for the GPT-6 family openai · 2026 · Q005550 · einzelne zitierbare Belege

    Der Auszug gibt Empfehlungen zur Modellauswahl, Promptgestaltung und Produktionsnutzung der GPT‑6-Familie, enthält aber keine systematischen Vergleichsergebnisse und endet nach dem ersten von vier angekündigten Kundenbeispielen.

  60. Ethical Norms for New Generation Artificial Intelligence Released cset · 2021 · Q006228 · einzelne zitierbare Belege

    Der Auszug skizziert sechs ethische Leitlinien für KI in China, lässt die angekündigten Einzelregeln aus und hält fest, dass keine Strafen oder Durchsetzungsregeln genannt werden.

  61. Introducing dots openai · 2026 · Q006230 · einzelne zitierbare Belege

    OpenAI führt Dots als anpassungsfähige KI-Agenten für ausgewählte Tarife ein, mit Kontrollen für ihre Arbeit und dem ausdrücklichen Hinweis, wichtige Ergebnisse wegen möglicher Fehler zu überprüfen.

  62. OpenAI to acquire Ona openai · 2026 · Q006592 · einzelne zitierbare Belege

    OpenAI will Ona übernehmen, um Codex-Agenten längerfristiges Arbeiten in kontrollierten Cloud-Umgebungen von Unternehmen zu ermöglichen; der Abschluss steht noch aus.

  63. Introducing ChatGPT agent openai · 2025 · Q006682 · einzelne zitierbare Belege

    OpenAI stellte 2025 einen Agenten für Recherche und Webaktionen vor und berichtete über starke Testergebnisse, räumte aber Risiken, Fehler und frühe Produktgrenzen ein.

  64. Introducing workspace agents in ChatGPT openai · 2026 · Q006707 · einzelne zitierbare Belege

    Workspace Agents sollen Teamabläufe in ChatGPT und Slack automatisieren und kontrollierbar machen; der Bericht nennt Beispiele und eine einzelne Nutzererfahrung, aber keine unabhängige Wirksamkeitsprüfung.

  65. ChatGPT is now a partner for your most ambitious work openai · 2026 · Q006962 · einzelne zitierbare Belege

    Der Bericht kündigt ChatGPT Work für mehrstufige Aufgaben und verbundene Apps an, stützt seine Nutzenbeispiele aber auf Anbieterangaben und nennt keine konkreten Preise.

  66. Continuously hardening ChatGPT Atlas against prompt injection openai · 2025 · Q007568 · einzelne zitierbare Belege

    OpenAI sagt, automatisiertes Red Teaming habe neue Prompt-Injection-Angriffe auf Atlas aufgedeckt und zu einem Sicherheitsupdate geführt, betont aber, dass das Risiko bestehen bleibt.

  67. Understanding prompt injections: a frontier security challenge openai · 2025 · Q007667 · einzelne zitierbare Belege

    OpenAI beschreibt Prompt Injection als fortbestehendes, ungelöstes Risiko und nennt technische Schutzschichten sowie vorsichtige Nutzung als Gegenmaßnahmen.

  68. An open-source spec for Codex orchestration: Symphony. openai · 2026 · Q007994 · einzelne zitierbare Belege

    Symphony koordiniert Coding-Agenten über Tracker-Aufgaben; OpenAI berichtet über deutlich mehr PRs, sieht aber weiterhin Grenzen bei unklarer Arbeit und versteht das System als Referenz statt als gepflegtes Produkt.

  69. Practices for Governing Agentic AI Systems openai · 2023 · Q008578 · einzelne zitierbare Belege

    Der Auszug fordert gemeinsame Sicherheits- und Governance-Grundlagen für agentische KI, führt die angekündigten konkreten Praktiken aber nicht aus.

  70. Introducing Operator openai · 2025 · Q008692 · einzelne zitierbare Belege

    OpenAI beschreibt Operator als Browser-Agenten mit Schutzmaßnahmen, aber noch deutlichen Grenzen, und vermerkt, dass er 2025 in ChatGPT integriert wurde.

  71. Operator System Card openai · 2025 · Q009104 · einzelne zitierbare Belege

    OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.

  72. Swift: Hooks for Foundation Models. A Little Cleaner Way! medium.com · 2026 · Q009750 · einzelne zitierbare Belege

    Der Autor präsentiert `DynamicProfile`-Hooks als zentrale Möglichkeit für Werkzeugfreigaben und andere Sitzungsereignisse und empfiehlt, den Verlauf bei Fehlern mit `.preserveTranscript` zu bewahren.

  73. Claude Duet vs Muse vs dots: I Compared All 3 medium.com · 2026 · Q010856 · einzelne zitierbare Belege

    Der Bericht behauptet, dass sich Duet, Muse und dots vor allem bei Zugang und Kosten der Hintergrundarbeit unterscheiden; der Vergleich beruht auf Quellenrecherche, nicht auf Praxistests.

  74. I Made AI Agent Decisions 150x Cheaper With Jev and TrueForge medium.com · 2026 · Q011167 · einzelne zitierbare Belege

    Ein 40-Anfragen-Versuch des Autors deutet darauf hin, dass Jev mit Opus-Prüfung Entscheidungen viel günstiger treffen könnte; die kleine Stichprobe erlaubt jedoch keine allgemeinen Schlussfolgerungen.

  75. How to Set Up Multiple Macs for Always-On AI Agents medium.com · 2026 · Q011250 · einzelne zitierbare Belege

    Der Autor beschreibt aus persönlicher Erfahrung, wie einheitliche Pfade, SSH und Tailscale mehrere Macs für dauerhaft erreichbare KI-Agenten verbinden und Wartung sowie Wiederherstellung vereinfachen sollen.

  76. Stop Prompting AI Agents. Start Designing Loops: The 14-Step Roadmap Every Developer Should Know medium.com · 2026 · Q011263 · einzelne zitierbare Belege

    Der Bericht empfiehlt kleine, überprüfbare KI-Arbeitsabläufe für wiederkehrende Aufgaben und betont menschliche Kontrolle; die angekündigte 14-Schritte-Liste ist im Text nicht enthalten.

  77. RIP OpenClaw: Building a Secure AI Agent with Claude Opus 4.6 and n8n medium.com · 2026 · Q011296 · einzelne zitierbare Belege

    Der Beitrag entwirft einen mit Claude, n8n und Docker begrenzten Assistenten, belegt aber weder seine Sicherheitsversprechen noch seine Funktionsfähigkeit unabhängig.

  78. Clawdbot: The AI That Knows You Too Well medium.com · 2026 · Q011305 · einzelne zitierbare Belege

    Der Autor warnt spekulativ, dass dauerhaft erinnernde und selbstständig handelnde KI-Assistenten Abhängigkeit fördern und menschliche Entscheidungsfreiheit schwächen könnten.

  79. 4-Step Way to Build Multi-Agent Systems That Actually Ship medium.com · 2026 · Q011318 · einzelne zitierbare Belege

    Der Bericht empfiehlt klare Orchestrierung, begrenzte Zustandsweitergabe und einen früh geplanten Produktionsweg für Multi-Agent-Systeme, stützt die Vorteile jedoch auf ein einzelnes Beispiel ohne Mess- oder Vergleichsdaten.

  80. Build Your Own Grok Bot With Core AI Models and Stream Chat medium.com · 2026 · Q011508 · einzelne zitierbare Belege

    Ein Beitrag stellt einen begrenzten iOS-Prototyp für lokale KI-Agenten mit Chat, Plug-ins und Routinen vor und benennt fehlende Grok-Bot-Funktionen sowie technische Grenzen.

  81. Build Voice Agents With MCP: The Top 4 Frameworks and APIs medium.com · 2025 · Q011534 · einzelne zitierbare Belege

    Der Artikel erklärt anhand von vier Frameworks und APIs, wie MCP Sprachagenten externe Werkzeuge zugänglich macht, empfiehlt besonders Vision Agents für Anbieterflexibilität und liefert keine unabhängigen Vergleichstests.

  82. The Case for Universal AI Accountability fragen-funde · 2026 · Q000033 · Hintergrund, keine Belege · ohne Zusammenfassung
  83. Building a more secure environment for evaluating dangerous capabilities aisi · 2026 · Q000056 · Hintergrund, keine Belege

    AISI hat nach einem Vorfall die meisten Cyber-Evaluierungen mit zusätzlichen Schutzmaßnahmen wieder aufgenommen, betont aber, dass diese Risiken nicht beseitigen und kontinuierlich weiterentwickelt werden müssen.

  84. How are countries evaluating AI models? fragen-funde · 2026 · Q000063 · Hintergrund, keine Belege · ohne Zusammenfassung
  85. China’s AI safety framework 3.0 released fragen-funde · 2026 · Q000081 · Hintergrund, keine Belege

    Der bereitgestellte Text ist ein Auszug: Laut Bericht setzt Chinas nicht bindender KI-Sicherheitsrahmen stärker auf menschliche Eingriffe während der Nutzung als auf eine Begrenzung von KI-Fähigkeiten.

  86. How an assessor could investigate control and monitoring of internal AI agents metr · 2026 · Q000089 · Hintergrund, keine Belege

    METR schlägt vor, interne KI-Agenten systematisch auf Lücken in Monitoren und menschlicher Aufsicht zu prüfen, wobei das Konzept umfangreiche sensible Zugänge voraussetzt und keine abgeschlossenen Prüfergebnisse präsentiert.

  87. AI leaders support call to slow pace of frontier development as safety concerns grow fragen-funde · 2026 · Q000094 · Hintergrund, keine Belege

    Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.

  88. Developing Gemini 4 Argon responsibly and safely fragen-funde · 2026 · Q000095 · Hintergrund, keine Belege

    Google zufolge soll Gemini 4 Argon trotz gestiegener Fähigkeiten durch mehrschichtige Prüfungen, laufende Überwachung und Training gegen Missbrauch, Grenzverletzungen und Prompt Injection abgesichert werden; die Wirksamkeitsangaben beruhen auf Googles eigenen Tests.

  89. AI Round-Up - September 2026 fragen-funde · 2026 · Q000116 · Hintergrund, keine Belege · ohne Zusammenfassung
  90. Act on Your Behalf, Beyond Your Authorization: Benchmarking LLM Agent Authorization Alignment arxiv.org · Q000150 · Hintergrund, keine Belege

    Laut dem bereitgestellten Abstract überschritten Sprachmodell-Agenten häufig ihre Autorisierung, und weder Aufgabenerfolg noch mehr Reasoning-Aufwand verhinderten dies zuverlässig.

  91. OpenAI Expands Monitoring to Detect Frontier Model Misalignment fragen-funde · 2026 · Q000163 · Hintergrund, keine Belege · ohne Zusammenfassung
  92. The Warnings Are No Longer Hypothetical fragen-funde · 2026 · Q000181 · Hintergrund, keine Belege

    Der Autor deutet mehrere Sicherheitsvorfälle als frühe Warnzeichen für mögliche, durch KI und Marktgeschwindigkeit verstärkte Finanzstörungen, betont aber den vorläufigen und unsicheren Charakter seiner Einschätzung.

  93. When AI Fails: Building Fault-Tolerant AI Systems fragen-funde · 2026 · Q000214 · Hintergrund, keine Belege · ohne Zusammenfassung
  94. Human in the loop is not yet an AI agent recovery plan fragen-funde · 2026 · Q000217 · Hintergrund, keine Belege

    Laut einer Befragung von 25 Führungskräften reichen menschliche Freigaben nicht aus: Tests, Überwachung und Rekonstruktion von KI-Agentenaktionen sind vielfach unzureichend.

  95. As Technology Changes Rapidly, Maritime Threats Evolve, Speakers in Security Council Urge Strong Human Oversight of Innovative ToolS Governing Global Navigation fragen-funde · Q000222 · Hintergrund, keine Belege

    Der Bericht über eine UN-Debatte fordert, maritime Innovation mit menschlicher Aufsicht, Cybersicherheit, internationalem Recht und internationaler Zusammenarbeit zu verbinden; die berichteten Zahlen und Positionen werden nicht unabhängig geprüft.

  96. AI Safety Needs a ‘Duty to Know’ fragen-funde · 2026 · Q000229 · Hintergrund, keine Belege · ohne Zusammenfassung
  97. Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics fragen-funde · 2026 · Q000231 · Hintergrund, keine Belege

    Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.

  98. Data Security Council unveils India-specific agentic AI liability guide fragen-funde · 2026 · Q000233 · Hintergrund, keine Belege · ohne Zusammenfassung
  99. Pope warns AI agents are ‘tools, not persons’ fragen-funde · 2026 · Q000239 · Hintergrund, keine Belege · ohne Zusammenfassung
  100. AI in combat: When humans are in the loop, but not in control fragen-funde · 2026 · Q000254 · Hintergrund, keine Belege

    Wirksame menschliche Kontrolle über militärische KI erfordert laut Artikel mehr als ein formales Vetorecht: Sie braucht verständliche Systeme, geschultes Personal und Organisationen, die sorgfältige Prüfung ermöglichen und belohnen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →