- Beyond algorithm testing: Measuring collective behaviour risk in AI-driven financial markets
- Post by @it_is_pjs on X
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- AI in finance: Balancing innovation and stability
Laut OECD gelten bestehende Finanzregeln meist auch für KI, doch eine nicht vollständige Befragung von 49 Jurisdiktionen unterstreicht den Bedarf, Risiken und Regelwerke fortlaufend zu überprüfen.
- Is AI a wake-up call for financial services in the UK?
Der Beitrag zufolge braucht der wachsende KI-Einsatz im britischen Finanzwesen bessere Daten- und Modellüberwachung, klare Verantwortung und weitere regulatorische Abstimmung; viele Fragen bleiben offen.
- FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)
- The Warnings Are No Longer Hypothetical
Der Autor deutet mehrere Sicherheitsvorfälle als frühe Warnzeichen für mögliche, durch KI und Marktgeschwindigkeit verstärkte Finanzstörungen, betont aber den vorläufigen und unsicheren Charakter seiner Einschätzung.
- S. Korean stocks plunge over 8 pct amid tech sell-offs, activating circuit breaker
Laut Xinhua löste ein starker, mit Verkäufen bei Technologiewerten verbundener Rückgang am frühen 6. November eine 20-minütige Unterbrechung des KOSPI-Handels aus.
- Trading of KOSPI stocks suspended amid tech sell-off
Nach einem KOSPI-Rückgang von mehr als acht Prozent setzte die südkoreanische Börse den Aktienhandel laut Yonhap für 20 Minuten aus; als Hintergrund nennt der Bericht einen Tech-Ausverkauf und Sorgen um den Ausbau von KI-Rechenzentren.
- Canada and the UK compare AI governance efforts and reflect on regulating AI
Der Bericht fasst eine britisch-kanadische Gesprächsrunde zu KI-Regulierung im Finanzsektor zusammen: Standards und sektorale Regeln sollen sich ergänzen, doch das Verhältnis zur übergreifenden KI-Governance bleibt offen.
- When AI Fails: Building Fault-Tolerant AI Systems
- AI rockets to top of worries about financial system in latest Fed survey
- Wholesale banks supervision - Insights 3 (Autumn 2026)
- OCC issues supervisory Framework on use of AI
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- Stabilization fund ready for market intervention after Taiex's plunge
Taiwans Stabilisierungsfonds darf nach einem starken Taiex-Einbruch bei Bedarf eingreifen; ein tatsächlicher Einsatz und dessen Wirkung werden im Bericht nicht genannt.
- Seoul tweaks margin loan rule to contain stock selloff
Südkorea gibt Brokern vorübergehend mehr Spielraum, Zwangsverkäufe kreditfinanzierter Aktien aufzuschieben, während Behörden den Kurssturz auf KI-Unsicherheit und schwächere Weltmarktstimmung zurückführen.
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- AI Agent Kill Switches: What They Stop and Miss
Ein Kill Switch für KI-Agenten ist laut Bericht erst dann wirksam, wenn er alle Ausführungswege erfasst und seine Eindämmung unter realistischen Fehlerbedingungen geprüft wird.
- Technical Innovations for AI Policy 2026: What We Heard, and What It Means
- L_202401689DE.000101.fmx.xml
Die Vorlage enthält Notizen, keinen vollständigen Verordnungstext, und beschreibt den risikobasierten EU-KI-Rechtsrahmen mit Verboten, Hochrisiko-Anforderungen, Transparenzpflichten und schrittweisem Anwendungsbeginn ab 2025.
- Anthropic discloses month-long training pause, AI security breaches in IPO filing
- AI incident verification records | VSO
Die 64 Prüfstände dokumentieren ein breites Spektrum KI-bezogener Vorfälle und Streitfälle, betonen aber, dass viele Zuschreibungen, Schäden und Ursachen unbestätigt oder noch ungeklärt sind.
- Why AI Sandboxes matter for responsible innovation and public trust
KI-Sandboxes können laut OECD Innovation und Regulierung durch beaufsichtigte Tests verbinden, doch ihr Nutzen hängt von guter Koordination, verhältnismäßigen Schutzregeln und besserer Wirkungsmessung ab.
- Regulatory sandboxes can facilitate experimentation in artificial intelligence
Sandboxes können laut OECD-Beitrag KI-Innovation unter kontrollierten Bedingungen erproben helfen, benötigen dafür aber klare Kriterien, Fachwissen und eine sorgfältige Bewertung möglicher Folgen.
- How Jump Trading is scaling quant research with ChatGPT
Jump Trading beschreibt GPT‑6 Astra als Unterstützung für längere Forschungsabläufe, betont aber menschliche Kontrolle; die weitergehende autonome Forschung bleibt laut Bericht ein Zukunftsbild.
- Summary of Comments on the Concept Paper
NIST fasst Rückmeldungen zu standardbasierter, überprüfbarer und datenschutzbewusster Agentensicherheit zusammen; der bereitgestellte Berichtstext ist am Ende unvollständig.
- AI standards as statecraft: a playbook for the Global South
- Advisories
- Post by @FicusAgentLtd on X
- Super Intelligence-Era Critical Infrastructure Cyber Defense Plan
Der Bericht schlägt vor, die wichtigsten US-Infrastrukturen mit koordinierter Unternehmensverantwortung, KI-gestützter Abwehr und nachweisbaren Resilienzmaßnahmen zu schützen, ohne die Wirksamkeit des Plans bereits zu belegen.
- Post by @Paul__Walsh on X
- Post by @lumpenspace on X
- Anthropic, PBC
- BNY builds “AI for everyone, everywhere” with OpenAI
BNY zufolge verbreitet die Plattform Eliza KI-Agenten mit integrierter Governance im Unternehmen; die berichteten Nutzungs- und Effizienzwerte stammen aus einem Unternehmensbericht ohne dargestellte unabhängige Prüfung.
- Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Usage policies
OpenAI beschreibt Regeln gegen schädliche, übergriffige und manipulative Nutzungen, mit besonderen Schutzvorgaben für Minderjährige, sensible Entscheidungen und die Weiterverwendung von Modellausgaben.
- Operationalizing U.S.-China AI Incident Notification
- Congressman Pat Harrigan Introduces Legislation to Protect American Innovation and Strengthen Cyber Defenses
Ein parteiübergreifender Gesetzentwurf soll freiwillige NIST-Standards gegen KI-Modellangriffe und einen Runden Tisch zur Stärkung der Cyberabwehr schaffen.
- Your AI Compass
- China is open-sourcing its best AI models. Is that safe?
Laut Bericht sieht China derzeit Vorteile in offenen KI-Modellen, doch ihre Missbrauchsrisiken und die Wirksamkeit möglicher Schutzmaßnahmen sind nur unzureichend belegt und müssen neu bewertet werden.
- Post by @johnmcclure00 on X
- Measuring AI agent autonomy in practice
- Post by @HasanASaleem on X
- Mistral Compute | Mistral AI
Mistral kündigt eine private, integrierte KI-Infrastruktur mit NVIDIA-GPUs an und hebt Souveränität sowie regionale Kontrolle hervor, nennt aber keine Preise, Termine oder unabhängigen Leistungsnachweise.
- China’s key AI safety updates at WAIC, from President Xi to cybersecurity
Der Bericht sieht in Xis Sicherheitsforderungen, einer konkreten chinesischen Erklärung zu KI-Risiken und der Gründung von WAICO Hinweise auf Chinas wachsende Rolle in der KI-Governance, wobei wichtige Details und internationale Zustimmung teils offenbleiben.
- Anthropic, PBC - S-1 (Q2)
- Anthropic, PBC
- Developing Enterprise Frontier Safeguards with our customers
EFS soll laut Anthropic Sicherheitsüberwachung mit kundeneigener Datenkontrolle verbinden; die Einführung ist geplant, und der Bericht liefert keine unabhängigen Leistungsnachweise.
- AI Safety Institute approach to evaluations
AISI berichtet über frühe Tests, die mögliche Risiken fortgeschrittener KI aufzeigen, betont aber, dass diese vorläufig sind und keine umfassende Sicherheitsbewertung darstellen.
- Fundamental rights protection authorities with special powers under the AI Act
Der Auszug nennt einige österreichische und eine belgische Stelle auf einer laut Bericht fortlaufend aktualisierten Liste von Grundrechtsschutzbehörden zum EU-KI-Gesetz; das angegebene Aktualisierungsdatum ist der 25. Juli 2025.
- Understanding and addressing AI harms
Anthropic stellt einen noch veränderlichen Rahmen zur Bewertung und Eindämmung vielfältiger KI-Schäden vor und berichtet für Claude 3.7 Sonnet von weniger unnötigen Ablehnungen, ohne im Bericht unabhängige Belege dafür anzuführen.
- Redeploying Claude Fable 5
Anthropic will Fable 5 nach Aufhebung der Exportkontrollen wieder weltweit anbieten und berichtet von verstärkten Schutzmaßnahmen sowie geplanten gemeinsamen Standards und Sicherheitstests.
- Ensuring trustworthy algorithmic decision-making
Die CDEI empfiehlt kontextgerechte Fairness, mehr Transparenz im öffentlichen Sektor und eine bessere Anwendung bestehenden britischen Rechts, wobei wichtige Fragen zu passenden Prüfungen und Gegenmaßnahmen noch offen sind.
- AI’s potential futures: Mitigating risks, harnessing opportunities
Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.
- 10 Jev Repos Blowing Up Right Now — and What They Actually Do
Der Autor plädiert für KI-Agenten aus spezialisierten Komponenten mit kleinen Jev-Modellen, doch die vorgestellten Kennzahlen und Leistungsversprechen werden im Bericht nicht unabhängig belegt.
- 10 GitHub Repos that Print Money While You Sleep
Der Beitrag beschreibt zehn Automatisierungswerkzeuge als mögliche Hebel für ein Onlinegeschäft, betont aber, dass sie kein Einkommen garantieren und teils Risiken sowie sorgfältige Einrichtung erfordern.
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- OECD Business and Finance Outlook 2021: AI in Business and Finance
Der bereitgestellte Text ist nur der Abstract: Er beschreibt mögliche KI-Chancen und -Risiken in Wirtschaft und Finanzwesen sowie den Anspruch der OECD, dafür politische Leitlinien vorzulegen.
- APRA’s latest System Risk Outlook warns of rising threats to financial stability
- AI risks are the biggest threat to the financial system, Fed survey finds
- After the Midterms: What Xi and Trump Should Discuss in Shenzhen
Chen und Qi plädieren für begrenzte Handelsvereinbarungen, KI-Leitplanken und stärkere Krisenkanäle, um trotz politischer Spannungen eine Eskalation zwischen den USA und China zu verhindern.
- Navigating the uncharted: Building societal resilience to frontier AI
Das AISI will vier zentrale gesellschaftliche Risiken fortgeschrittener KI erforschen und Gegenmaßnahmen testen, berichtet hier aber vor allem über Auftrag und Vorgehen.
- IOSCO targets tech threats to capital markets
- How are AI Agents used? Evidence from 177,000 AI agent tools
Laut einer Analyse öffentlicher MCP-Daten wachsen Agentenwerkzeuge rasch und ermöglichen zunehmend direkte Aktionen, doch die Befunde erfassen nicht alle Agenteneinsätze und können regional verzerrt sein.
- Responsible AI in African economic policymaking
KI könnte afrikanische Wirtschaftsentscheidungen unterstützen, doch der Bericht fordert dafür kontextgerechte Regeln, Beteiligung und starke menschliche Aufsicht und belegt die erwarteten Vorteile nicht empirisch.
- Project EVE: Claude plays MMORPGs
- Has DeepSeek Burst the AI Bubble or Just Raised the Stakes?
Der Autor sieht DeepSeek als Wettbewerbsschub für KI statt als Zeichen einer platzenden Blase, wobei seine Kostenangaben und Prognosen im Text nicht unabhängig untersucht werden.
- How to Govern Generative AI at a US Bank After SR 26-2
- Paul Christiano: Staying in Control of Self-Improving AI | The Hinton Lectures 2026 (Night 2)
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- Why insurance companies should encourage solid AI risk management instead of excluding it
Der Beitrag plädiert dafür, KI-Versicherungsschutz an nachweisbares Risikomanagement zu knüpfen, räumt aber ein, dass die Risiken schwer zu beziffern sind und die Wirksamkeit des vorgeschlagenen Modells nicht empirisch belegt wird.
- Strengthening AI resilience | AISI Work
20 geförderte Projekte sollen laut Bericht untersuchen, wie sich gesellschaftliche und infrastrukturelle Risiken beim KI-Einsatz mindern lassen; konkrete Forschungsergebnisse werden noch nicht berichtet.
- How Balyasny Asset Management built an AI research engine
Laut einer OpenAI-Fallstudie nutzen etwa 95 Prozent der Investmentteams von Balyasny eine geprüfte KI-Rechercheplattform, doch die berichteten Zeitgewinne sind im Text nicht unabhängig belegt.
- Chatham scales its capital markets expertise with OpenAI
Chatham Financial berichtet, OpenAI-Technologien für Software und Kapitalmarktprozesse einzusetzen; eine Handelsprüfung sei in einer frühen Messung von etwa 30 auf unter vier Minuten verkürzt worden, wobei die Prüfung der Ergebnisse noch läuft.
- AI in financial services – opportunities for putting OECD frameworks into action
Der Beitrag empfiehlt, OECD-Grundsätze bei Finanz-KI besonders in Risikobereichen anzuwenden und KI-Anwendungen abgestuft zu prüfen; die angeführten Einschätzungen werden im Text nicht durch detaillierte Methoden- oder Datennachweise gestützt.
- The Observability Gap in AI Agents
Der bereitgestellte Auszug zufolge fehlen KI-Agenten-Frameworks wichtige Überwachungsdaten, weshalb Befugnisse und Entscheidungen schwer nachzuvollziehen sind; der Gesamtbericht liegt hier nicht vor.
- The kill switch problem: Why stopping AI agents is harder than starting them
- DSCI: Agentic AI doesn’t need new laws; It needs controls you can prove
- Paris Call for AI safety and security | France in the United Kingdom
Der Paris Call formuliert internationale Zusagen zu Modellprüfungen, Rechenschaft und Frühwarnung für fortgeschrittene KI; die Erklärung belegt keine bereits erfolgte Umsetzung.
- Washington’s Bet on Superintelligence
- Five Recommendations in Response to the Call for Control of Frontier AI Models
Der Beitrag fordert überprüfbare gemeinsame Regeln und internationale Zusammenarbeit für Frontier-KI, räumt aber eine Verifizierungslücke und offene Fragen zur globalen Kooperation ein.
- Joint declaration on Paris call for AI safety and security
- Paris Call for AI safety and security.
- An AI kill switch isn't enough. Build a fallback plan
- Super Intelligence: Supervisory Framework
- A Macroprudential Layer for Frontier AI Governance – Simon Institute for Longterm Governance
Der Autor plädiert dafür, die Prüfung einzelner KI-Akteure um eine systemweite Aufsicht zu ergänzen, räumt aber ein, dass deren Zuständigkeiten und Instrumente noch offen sind.
- Paris Declaration on AI safety and security
- Anthropic says AI speeding up its own research has crossed its safety threshold
Anthropic meldet laut Bericht eine erwartungsbasierte Überschreitung seiner KI-Forschungsschwelle, doch Belege, Schutzmaßnahmen und Folgen bleiben teilweise offen.
- Trump AI task force targets AI-powered cyberattack reporting
Die US-KI-Taskforce diskutiert Meldepflichten und rechtlichen Schutz bei Angriffen durch KI-Agenten, während der Bericht auf verspätete Offenlegungen und ein bald auslaufendes Gesetz zum Austausch von Bedrohungsinformationen hinweist.
- EU leaders debate benefits and dangers of AI at Dublin summit
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- HAIP is transforming transparency from a compliance burden to a competitive advantage
Salesforce stellt den HAIP-Berichtsrahmen als möglichen Weg zu international abgestimmter, transparenter KI-Governance dar, ohne die erwarteten Wirkungen empirisch zu belegen.
- Establishing the shared foundations for collective AI security
Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Franklin Templeton uses OpenAI to support investment research
Franklin Templeton will KI für vernetzte Investmentrecherche nutzen, doch der Bericht beschreibt vor allem Ziele und Unternehmensangaben, keine quantitativen Wirkungsnachweise.
- Patterns and problems in multiagent systems
- How are AI agents used? Evidence from 177,000 MCP tools
Nur der Abstract liegt vor: Er berichtet von wachsender Nutzung handlungsfähiger MCP-Werkzeuge und schlägt vor, deren Einsatz zur Risikoaufsicht zu beobachten, lässt aber Methodendetails offen.
- Risk Taxonomy and Thresholds for Frontier AI Frameworks
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →