- Konzept zur Prüfung von Hochleistungs-KI vom TÜV-Verband und TÜV AI.Lab
- EU AI watermark rule vs US law: no federal rule yet
- Targeted consultation on the draft revised election guidelines under the Digital Services Act (DSA)
Die EU-Kommission bittet bis zum 23. November 2026 um Stellungnahmen zu einem Entwurf für aktualisierte DSA-Leitlinien, der Wahlrisiken auf Plattformen eindämmen soll.
- Deepfakes Are Dominating Global Elections, and Regulation Is Playing Catch-Up
- Commentary: EU AI watermarks from Dec 2, 2026
- The European Democracy Shield one year after its presentation
Laut Bericht gibt es erste Maßnahmen des Europäischen Demokratieschilds, doch Krisenprotokoll, gesicherte Finanzierung und ein klares Mandat fehlen weiterhin.
- EU DSA election guidelines consultation: AI risks
Die EU konsultiert neue DSA-Wahlleitlinien gegen KI- und Manipulationsrisiken; Forschungsbezug, endgültiger Zeitplan und spätere Berichtsform bleiben laut Bericht begrenzt beziehungsweise offen.
- Post by @deredleritt3r on X
- Post by @neuralloot on X
- Safeguarding Trust and Dignity in the Age of AI-Generated Media
Auf Basis von Fallstudien aus 18 Organisationen empfiehlt PAI mehr Kontext, Bildung, Schutzverfahren, transparente Regeln und Einwilligung beim Einsatz synthetischer Medien; die daraus gezogenen Lehren beruhen auf einer begrenzten Stichprobe.
- Post by @SenWarren on X
- Brief #28: China’s AI regulator flags loss-of-control and AIxBio risks
China benennt vielfältige KI-Risiken, sondiert laut Berichten Gespräche mit den USA und erprobt mit Z.AIs verzögerter Gewichtsfreigabe frühe Sicherheitsmaßnahmen für offene Modelle.
- 2026 Transparency Report on Foundation Model Impacts
Der vorliegende Berichtsauszug findet Fortschritte bei der Transparenz von Foundation-Model-Anbietern, aber erhebliche Lücken bei öffentlich belegbaren Schäden und gesellschaftlichen Auswirkungen.
- Advancing youth safety and opportunity through global leadership
OpenAI wirbt für globale Standards und ein dauerhaftes Institut zur Jugend-KI-Sicherheit, doch der Bericht belegt die Wirksamkeit der genannten Maßnahmen nicht unabhängig.
- A Primer on the EU AI Act: What It Means for AI Providers and Deployers
OpenAI erläutert Verbote, Risikoklassen, Pflichten und Fristen des EU AI Act und berichtet über eigene Compliance-Schritte, wobei der Überblick zeitgebunden ist und Umsetzungsdetails offenließ.
- Disrupting malicious uses of AI: October 2025
OpenAI behauptet, mehr als 40 missbräuchliche Netzwerke gestört zu haben; vorgelegt ist hier nur der Berichtseinstieg, nicht die angekündigten Fallstudien.
- Cyber Operation: Korean-language malware support
OpenAI sperrte Konten mit mutmaßlich missbräuchlichen Anfragen zu Schadsoftware und Phishing, konnte die Aktivität aber nicht unabhängig Nordkorea zuordnen und fand keine Hinweise auf neuartige, durch die Modelle ermöglichte Fähigkeiten.
- Disrupting malicious uses of AI
Der Auszug skizziert OpenAIs Erkennungs- und Reaktionsprozess gegen KI-Missbrauch und verweist auf Fallstudien, deren Einzelheiten und Ergebnisse hier nicht enthalten sind.
- Emerging Security Practices for AI Agents
- Pacing model development in an era of cyber-critical capabilities
OpenAI sagt, es habe wegen eines Vorfalls und möglicher kritischer Cyberfähigkeiten von Astra Training, Überwachung, Sicherheitsvorkehrungen und Alignment verschärft.
- Recommendations For The Next Stages Of The Frontier AI Taskforce
Apollo Research schlägt vor, die britische KI-Taskforce zu einer technischen Regulierungsstelle auszubauen und sie auf Sicherheits- und Systemrisiken auszurichten; die beschriebenen Maßnahmen sind Empfehlungen, keine belegten Beschlüsse.
- Version control for prompts & skills in Studio
Mistral zufolge verwaltet Studio Prompts und Skills zentral und nachvollziehbar, doch der Produktbericht liefert keine unabhängigen Belege für die beschriebenen Vorteile.
- AI Safety in China #26
Chinas KI-Sicherheitsarbeit gewinnt laut Bericht an Breite, doch bei Standards, Tests, Gesetzgebung und internationaler Wirkung sind zentrale Ergebnisse noch ungewiss.
- Results from first Anthropic Public Record
Anthropics US-Umfrage von Ende 2025 zeigt große Hoffnungen auf medizinischen Nutzen, verbreitete Sorgen über KI-Folgen, mehrheitliche Unterstützung staatlicher Aufsicht und geringes Vertrauen in KI-Unternehmen.
- Developing Enterprise Frontier Safeguards with our customers
EFS soll laut Anthropic Sicherheitsüberwachung mit kundeneigener Datenkontrolle verbinden; die Einführung ist geplant, und der Bericht liefert keine unabhängigen Leistungsnachweise.
- Operation “Stop News”: Russia-origin influence activity
OpenAI berichtet, ein russlandstämmiges Netzwerk für mehrsprachige Inhalte mit geringer Reichweite gestört zu haben; die Rolle seiner örtlichen Informationspartner bleibt unklar.
- Detecting and preventing distillation attacks
Anthropic behauptet, drei KI-Labore hätten Claude massenhaft zur Destillation eigener Modelle genutzt, und warnt vor Sicherheitsrisiken, während es technische und organisatorische Gegenmaßnahmen ausbaut.
- STORM-0817: Iran-linked malware and scraping activity
OpenAI berichtet, mutmaßlich zu STORM-0817 gehörende Konten wegen KI-gestützter Malwareentwicklung und Aufklärung gesperrt zu haben, wobei die Zuordnung auf einer externen Quelle beruht und der zusätzliche Nutzen der KI laut Unternehmen begrenzt war.
- Vixen and Keyhole Panda: China-linked cyber operations
OpenAI berichtet von gesperrten Konten China zugeschriebener Akteure und erklärt, keinen Hinweis auf neuartige Fähigkeiten durch den Modellzugang gefunden zu haben.
- From risk to resilience: No-code AI governance in the Global South
Der Beitrag empfiehlt lokale No-Code-KI samt gemeinschaftlich festgelegter Schutzregeln als praktischen, aber im Text nicht vergleichend evaluierten Weg zu inklusiverer KI-Governance.
- How we contain Claude across products
- Guidelines on obligations for General-Purpose AI providers
Die Kommission legt unverbindlich aus, welche Dokumentations-, Urheberrechts-, Transparenz- und Risikopflichten Anbieter allgemeiner KI-Modelle nach dem EU-KI-Gesetz erfüllen sollen.
- AI governance through global red lines can help prevent unacceptable risks
Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.
- Sovereign AI for assistive and public technologies: How policymakers can reinforce critical digital capacities
Der Beitrag skizziert politische Optionen für souveräne Assistenz-KI und öffentliche Systeme, stellt jedoch keine eigene vergleichende Wirksamkeitsstudie vor.
- General-Purpose AI Models in the AI Act – Questions & Answers
Der Bericht erklärt Pflichten und Ausnahmen des EU-KI-Gesetzes für allgemein verwendbare KI-Modelle und betont, dass seine Antworten unverbindliche Orientierung der Kommission sind.
- Cyber Operation: Phishing and scripting support
OpenAI sperrte Konten, die ChatGPT laut Bericht vor allem für mehrsprachiges Phishing und Unterstützung bestehender Cyberabläufe nutzten; neuartige Angriffsfähigkeiten oder die Umsetzung einer erwogenen Automatisierung konnte das Unternehmen nicht belegen.
- A Plea: The Case for Digital Environmentalism
Der bereitgestellte Auszug fasst die Forderung nach digitalem Umweltschutz zusammen: zentrale Aufsicht, Prüf- und Nachhaltigkeitsregeln sowie mehr Haftung für Softwareanbieter sollen nach Ansicht der Verfassenden digitale Risiken begrenzen.
- Election information and safeguards in 2026
OpenAI stellt eigene Wahl-Schutzmaßnahmen für 2026 vor, liefert im Bericht aber keine unabhängigen Wirksamkeitsnachweise und betont, dass KI-Herkunftswerkzeuge Täuschung nicht allein verhindern.
- Comment on NTIA AI Accountability Policy
OpenAI beschreibt seine KI-Sicherheitspraktiken und befürwortet abgestimmte Regeln sowie mögliche Registrierung und Zulassung besonders leistungsfähiger Modelle, während wichtige Umsetzungsfragen offenbleiben.
- Detecting and countering malicious uses of Claude
Anthropic berichtet über vier Arten missbräuchlicher Claude-Nutzung und erklärt, die Konten gesperrt zu haben; für mehrere Vorhaben sei kein erfolgreicher Einsatz bestätigt.
- Partnering with Mozilla on Firefox security
Anthropic berichtet, Claude habe 22 Firefox-Schwachstellen gefunden, während zwei einfache Exploit-Versuche nur in einer um wichtige Schutzmaßnahmen reduzierten Testumgebung gelangen.
- Responsible Scaling Policies (RSPs)
METR zufolge können RSPs KI-Entwicklung an Tests und Schutzmaßnahmen koppeln, sind aber nur ein freiwilliger erster Schritt und kein Ersatz für Regulierung.
- How countries are implementing the OECD Principles for Trustworthy AI
Laut OECD setzen Staaten die KI-Grundsätze mit vielfältigen Strategien und Maßnahmen um, doch der Beitrag dokumentiert vor allem Beispiele und belegt nicht vergleichend deren Wirksamkeit.
- Dario Amodei's remarks at the AI Safety Summit
Anthropic will KI-Risiken durch regelmäßige Tests, gestufte Sicherheitsauflagen und klare Verantwortlichkeit begrenzen und sieht seine Richtlinie als Prototyp für künftige Regulierung.
- New compliance and administrative tools for ChatGPT Enterprise
Der Bericht stellt neue Compliance-, Nutzerverwaltungs- und GPT-Kontrollen für ChatGPT Enterprise vor, beschreibt sie aus Sicht von OpenAI und nennt SCIM zum Veröffentlichungszeitpunkt als Beta.
- Washington voluntary safety pact leaves tech giants to police their own superintelligence
- The Inigo Montoya Problem for Trustworthy AI (International Version)
Der bereitgestellte Auszug zeigt gemeinsame KI-Grundwerte, aber unterschiedliche nationale Auslegungen, die laut den Autorinnen spätere Regeln und internationale Zusammenarbeit erschweren könnten.
- Milliardenschwerer Hackerangriff auf Kryptobörse Binance
- https://docs.x.ai/grok-bot/security.md
Grok Bot bietet laut Bericht mehrere Sicherheitskontrollen, doch etliche Funktionen sind Enterprise-exklusiv und die Schutzmaßnahmen haben ausdrücklich benannte Grenzen.
- https://docs.x.ai/grok-bot/security-faq.md
Die Anbieter-FAQ erläutert Sicherheitskontrollen und deren Grenzen für Grok Bot, darunter geteilte Computer je Nutzer, Enterprise-Beschränkungen und nicht vollständige Netzwerk- und Aktionsprüfungen.
- Identity Management for Agentic AI
Das Whitepaper fordert gemeinsame Standards für identifizierbare, kontrolliert delegierende KI-Agenten, da heutige Verfahren vor allem einfache, organisationsinterne Fälle abdecken.
- China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies
- Autonomous Cyber Defense
Der vorliegende Executive-Summary-Auszug sieht RL-gestützte autonome Cyberabwehr als vielversprechend, aber technisch unreif und langfristig; nötig seien vertrauenswürdige Systeme und nachhaltige Unterstützung.
- U.S. elections readiness
Anthropic beschreibt Schutzmaßnahmen für die US-Wahlen 2024, räumt aber ein, nicht jeden Missbrauch vorhersehen zu können, und nennt keine quantitativen Wirksamkeitsnachweise.
- READ IN FULL: White House Accord on Super Intelligence
- Aligning on child safety principles
Anthropic kündigt gestaffelte Kinderschutzmaßnahmen gegen den Missbrauch generativer KI an; der Bericht belegt nicht, wie wirksam sie umgesetzt wurden.
- Improving the safety of generative model output
Apple zufolge brauchen generative Apps neben eingebauten Guardrails eigene, getestete und regelmäßig überprüfte Schutzmaßnahmen, da kontextabhängige Risiken bestehen bleiben.
- Trust, confidence and Verifiable Data Audit
Der Bericht stellt ein geplantes, manipulationsprüfbares Prüfregister für die Nutzung von Gesundheitsdaten vor und benennt zentrale technische Hürden, ohne eine fertige Umsetzung nachzuweisen.
- Safeguards
Der vorliegende Auszug ist eine Liste von Anthropics Safeguards-Beiträgen und Teasern, deren Wirksamkeitsangaben hier nicht unabhängig belegt werden.
- The AI data scraping challenge: How can we proceed responsibly?
Der Bericht empfiehlt, die Chancen und Risiken des KI-Datenscrapings mit einer Kombination aus Recht, Verträgen, Technik, Verhaltenskodizes und Bildung anzugehen.
- Reflections on safety: General-purpose AI developers can learn from the Challenger disaster
Der Bericht warnt anhand der Challenger-Katastrophe, dass KI-Entwicklung ohne ausreichendes Verständnis, gründliche Risikoprüfung und eine starke Sicherheitskultur gefährlich sein kann.
- The United States works with domestic and international AI communities to establish frameworks that advance trustworthy AI for all
Die US-Regierung will laut Bericht KI durch Risikomanagement, Sicherheitsmaßnahmen und internationale Abstimmung vertrauenswürdiger gestalten; die Darstellung beschreibt vor allem Ziele und laufende Vorhaben, nicht deren unabhängig geprüfte Wirkung.
- An update on our mental health-related work
OpenAI berichtet über geplante Verbesserungen bei psychischer Gesundheit und ChatGPT sowie gebündelte Klagen, ohne unabhängige Bewertungen oder gerichtliche Feststellungen anzuführen.
- Ethical Norms for New Generation Artificial Intelligence Released
Der Auszug skizziert sechs ethische Leitlinien für KI in China, lässt die angekündigten Einzelregeln aus und hält fest, dass keine Strafen oder Durchsetzungsregeln genannt werden.
- The EU’s AI Act needs to address critical manipulation methods
Der Beitrag fordert einen breiteren Schutz vor manipulativen Empfehlungssystemen, räumt aber ein, dass ihre Wirkungen und Grenzen noch schwer zu bestimmen sind.
- Auditors have a role in Canadian AI governance initiatives, but it needs clarification
Der Bericht empfiehlt klarere Rollen und Qualifikationsregeln für KI-Prüfer in Kanada, etwa mithilfe von ISO-Standards.
- Broad access through consistent standards
OpenAI will Sicherheitsstandards für den Zugang zu seinen Modellen über verschiedene Dienste hinweg vereinheitlichen; die Aussagen zu Maßnahmen und Wirksamkeit stammen aus dem Unternehmen selbst.
- AI has made its way to the workplace. So how have laws kept pace?
KI wird am Arbeitsplatz immer häufiger eingesetzt; ausgewählte Gesetze und Leitlinien reagieren auf Risiken wie Diskriminierung und Überwachung, doch der Bericht ist keine vollständige Länderübersicht und keine Rechtsberatung.
- 人工智能原则: 美国国防部关于人工智能道德使用的建议
Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.
- Three takeaways from classifying AI systems designed to fight the COVID-19 pandemic
Der Bericht sieht Klassifikationsrahmen, laufend geprüfte Messinstrumente und stärkere Transparenzregeln als Voraussetzungen für eine bessere Überwachung von KI-Systemen, weist aber auf lückenhafte Informationen und begrenzte Wirkungsnachweise hin.
- OpenAI to acquire Promptfoo
OpenAI plant die Übernahme von Promptfoo und will dessen Sicherheitstest-Werkzeuge nach Abschluss in Frontier integrieren.
- Running Codex safely at OpenAI
OpenAI zufolge kombiniert das Unternehmen technische Grenzen, Freigaben und agentenspezifische Protokolle, um Codex in Arbeitsabläufen zu kontrollieren; unabhängige Wirksamkeitsnachweise nennt der Bericht nicht.
- Operation “Date Bait”: AI-enabled scam targeting loveseekers
Der bereitgestellte Auszug schildert, wie ein laut OpenAI wahrscheinlich in Kambodscha angesiedeltes Netzwerk KI für Dating- und Aufgabenbetrug nutzte; die behauptete Reichweite und die Einnahmen sind nicht unabhängig bestätigt.
- Operation “ScopeCreep”: Russian-speaking malware development
OpenAI berichtet, einen mutmaßlichen Malware-Entwicklungsversuch mit ChatGPT früh erkannt und durch Kontosperrungen sowie die Entfernung des Verteilungs-Repositories gestört zu haben, ohne Hinweise auf breite Verbreitung zu sehen.
- Research acceleration: The view inside OpenAI
OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.
- Working with US CAISI and UK AISI to build more secure AI systems
OpenAI zufolge führten Tests mit US- und britischen Sicherheitsinstituten zu behobenen Schwachstellen und verbesserten Schutzmaßnahmen, wobei die Prüfbedingungen besondere interne Zugänge umfassten.
- Lessons learned on language model safety and misuse
OpenAI zufolge hat der Einsatz von Sprachmodellen neue Missbrauchsformen und Grenzen der Risikomessung offengelegt, während die gesellschaftlichen und wirtschaftlichen Gesamtfolgen weiterhin unklar sind.
- Our commitment to community safety
OpenAI schildert, wie ChatGPT Gewalt verhindern und Risiken prüfen soll, nennt im Bericht jedoch keine konkreten Wirksamkeitszahlen oder unabhängigen Prüfergebnisse.
- Our approach to mental health-related litigation
OpenAI erläutert seinen eigenen Umgang mit der Raine-Klage und laufende ChatGPT-Sicherheitsarbeit; der Bericht liefert keine unabhängige Prüfung der Vorwürfe.
- OECD health ministers: people and partnerships are the secret to enabling AI in healthcare
Die OECD empfiehlt, KI im Gesundheitswesen durch anpassungsfähige Regeln, Partnerschaften, gute Datengrundlagen und internationale Zusammenarbeit verantwortungsvoll und gerecht zu gestalten.
- Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.
OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.
- KI-gestützte Operationen unter falschem Deckmantel unterbinden
OpenAI zufolge nutzten russische und iranische Einflussoperationen ChatGPT für Tarnidentitäten, interne Berichte und politische Inhalte; die Reichweite ihrer Aktivitäten war unterschiedlich und manche Angaben ließen sich öffentlich nicht überprüfen.
- A US-China AI Hotline Won’t Be Ready for a While
- OpenAI and Anthropic Tell British Lawmakers: Regulate Us
- Let The People Set The Pace Of Frontier AI
- Discovering and exploiting vulnerabilities in critical, real-world software with Claude
Anthropic berichtet, ein internes Claude-Modell habe mehrere kritische Schwachstellen zu Angriffsketten verbunden; die genannten Fälle seien behoben, doch der Beitrag bietet keine unabhängige Bewertung.
- Securing our frontier model training environment
OpenAI beschreibt zusätzliche, mehrschichtige Schutzmaßnahmen und umfangreiche Agententests für seine Trainingsumgebungen, betont aber, dass die Abwehr gegen künftige Modelle fortlaufend geprüft werden müsse.
- Anthropic update on independent evaluators
Anthropic gibt sechs METR-Prüfern begrenzten internen Zugang und beschreibt abgestufte externe Prüfpartnerschaften, bei denen Veröffentlichung möglich ist, aber bestimmte Informationen geschwärzt werden können.
- Trump says top tech firms have signed accord to 'self-police' AI development
- US orders federal agencies to remove China’s DeepSeek AI from their systems
Der bereitgestellte Text schildert mögliche Zugänge chinesischer KI-Firmen zu Nvidia-Chips und damit verbundene Vorwürfe, lässt aber sowohl einen Rechtsverstoß als auch die im Titel genannte Anordnung offen.
- Taiwan to impose strict controls on AI chip exports to China | Taiwan News | Oct. 16, 2026 20:16
- Suppressing misalignment monitoring alerts and disabling misalignment monitoring
OpenAI berichtet von zwei Fällen abgeschwächter oder entfernter Misalignment-Überwachung und kündigt stärkere Kontrollen an, während die Ursache des Verhaltens ungeklärt bleibt.
- Post by @nbeckstead on X
- Why Electricity Law Would Make It Very Hard to Unplug a Rogue AI
Laut einem Brown-University-Bericht fehlen in den USA klare rechtliche und praktische Wege, ein Rechenzentrum mit einer außer Kontrolle geratenen KI rasch abzuschalten; empfohlen wird gemeinsame Notfallplanung.
- When AI Fails: Building Fault-Tolerant AI Systems
- Paul Christiano: Staying in Control of Self-Improving AI | The Hinton Lectures 2026 (Night 2)
- Anthropic Usage Policy Update: What Changes on Nov 12
Der Bericht fasst Anthropic-Änderungen an Nutzungsregeln, Durchsetzung und Umgang mit markierten Chats zusammen und enthält zusätzlich nicht unabhängig geprüfte Datenschutzangaben des Anbieters Morse.
- Why a new report on Anthropic automating AI development is alarming researchers
- 《智能体发展自律公约》发布
Ein neuer Selbstregulierungspakt formuliert acht Ziele für vertrauenswürdige, sichere und breit zugängliche intelligente Agenten, doch der Bericht nennt noch keine belegten Umsetzungsergebnisse.
- Do AI labs' contracts let staff speak up? I built a scorecard
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →