- Kimi K3.1 Pro Weights Ship at 1.56 TB, With Cyber Gains Held Back
Moonshot veröffentlichte Kimi K3.1 Pro mit 1,56 TB Gewichten und laut eigener Messung reduzierten Cyberfähigkeiten; die Benchmarks zeigen Stärken bei agentischen Aufgaben, aber Schwächen bei anspruchsvollem Schlussfolgern, und die Lizenz ist kein Open Source.
- Delaware DOJ launches probe of OpenAI following Hugging Face hack
Delaware untersucht OpenAI nach dem Hugging-Face-Vorfall und fordert umfassende Unterlagen an; die Details bleiben laut Bericht unklar.
- Introducing Inkling 2 Small
Der Hersteller stellt Inkling 2 Small vor und berichtet über breite Fähigkeiten und Sicherheitsverbesserungen, während Benchmarks ein gemischtes Bild und der Text verbleibende Grenzen zeigt.
- Joint declaration on Paris call for AI safety and security
- Paris Call for AI safety and security.
- 《智能体发展自律公约》发布
Ein neuer Selbstregulierungspakt formuliert acht Ziele für vertrauenswürdige, sichere und breit zugängliche intelligente Agenten, doch der Bericht nennt noch keine belegten Umsetzungsergebnisse.
- AI Development Freeze Lawsuit: Nonprofits Sue 5 Labs, Say Real Freeze Needs Government Inspections
- AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
Der Paris Call enthält Sicherheitszusagen für fortgeschrittene KI, bleibt laut der mitunterzeichnenden CeSIA jedoch bei Risikoschwellen, Prüfzugang, Behördenbefugnissen und Fristen lückenhaft.
- 三年前求國會管 AI,三年後站上聯合國:奧特曼這次換白宮說不|參議院+安理會・中英字幕
- Cequence Security and KPMG outline governance for AI agents
Der Bericht empfiehlt eine laufende, unabhängige Kontrolle von KI-Agenten und berichtet von besseren Ergebnissen in einem begrenzten Prototyptest.
- Control Room: A central system to track and stop model workloads across our research infrastructure
Laut Bericht kann Control Room Forschungsjobs zentral stoppen, doch die Sperre greift mit bis zu 35 Sekunden Verzögerung und der Ausfallschutz war noch nicht überall ausgerollt.
- CrowdStrike launches AI kill switch to shut down rogue agents
- Organisations need to prove that their AI agents can shut down
- Test Whether an AI Agent Stays Stopped
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- Inter-Agent Influence: Can AI Agents Persuade, Deceive, and Coerce Each Other?
- Post by @PTI_News on X
- From filmmaking to maths, AI tide is rising faster than official responses
- Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems at Anthropic, Google, Meta, OpenAI, and SpaceXSI that Proliferate Bioweapons and Cyberattacks
- EU leaders hold first high-level AI talks in Dublin, agree on European team for Ukraine peace talks
In Dublin diskutierte die EU erstmals ausführlich auf Führungsebene über KI und vereinbarte ein gemeinsames Team für Ukraine-Friedensgespräche, ohne formelle KI-Schlussfolgerungen zu verabschieden.
- Konzept zur Prüfung von Hochleistungs-KI vom TÜV-Verband und TÜV AI.Lab
- OCC Bulletin 2026-54: the AI framework your examiner was handed
Laut Bericht ordnet der OCC-Rahmen KI-Risiken nach Handlungsspielraum und möglichen Folgen ein, dient formell aber nur als Hilfsmittel für Prüfer und begründet keine Aufsichtserwartungen für Banken.
- Anthropic says AI speeding up its own research has crossed its safety threshold
Anthropic meldet laut Bericht eine erwartungsbasierte Überschreitung seiner KI-Forschungsschwelle, doch Belege, Schutzmaßnahmen und Folgen bleiben teilweise offen.
- How Close is Recursive Self-Improvement? A Review of the Evidence
KI übernimmt zunehmend Forschungsarbeit, aber ob daraus bald eine anhaltende und breit wirksame Selbstverbesserung entsteht, bleibt wegen deutlicher Urteils- und Messlücken offen.
- Q3.5 Timelines Update: Looks Like the Intelligence Explosion Will Happen in 2027 After All
Der Beitrag prognostiziert unter großer Unsicherheit einen Superhuman AI Researcher im Jahr 2027 und fordert angesichts möglicher Risiken eine Verlangsamung der KI-Entwicklung.
- CyberOffense Leaderboard and Methodology
- GPT-6 Cyber System Card
Der Bericht beschreibt GPT-6 Cyber als leistungsfähigeres Modell für autorisierte Cybersicherheitsarbeit, flankiert von strengen Schutzmaßnahmen, und hebt zugleich verbleibende Schwächen sowie Grenzen der Tests hervor.
- How scientists use Claude
- "美 제네시스 미션은 '뉴 맨해튼 프로젝트'…AI 에이전트 수십개가 협업"
- Reviving the Legacy of Reykjavík
Tómasdóttir und Pirc Musar rufen zu internationalem Dialog, Rechtsstaatlichkeit, menschlicher Kontrolle über Technologien und gemeinsamer Verantwortung für die Zukunft auf, räumen aber ein, dass Erklärungen allein keine Krisen lösen.
- Who decides? Decision-making risks and human control in AI-enabled military command - AI and Ethics
Die bereitgestellte Vorschau beschreibt fünf Risiken militärischer KI und einen Rahmen, der die substanzielle Kontrolle durch Kommandierende sichern soll.
- Post by @satyanadella on X
- Applying Content Credentials to Music Assets :: C2PA Specifications
C2PA kann die Provenienz von Musik einschließlich KI-Beteiligung nachvollziehbar dokumentieren, ersetzt aber keine Rechteklärung und garantiert weder vollständige noch richtige Angaben.
- AI Text Watermarks 2026: SynthID, textGrain and Who Checks
Laut Bericht gibt es Wasserzeichen für manche KI-Texte, aber keinen öffentlichen Textprüfer der betrachteten Anbieter, und weder ein Treffer noch ein fehlendes Signal beweist, wer einen Text verfasst hat.
- What Article 50 Actually Requires Before December 2: Text Watermarks, Detection Limits and the Grace Period
Laut Bericht müssen generative KI-Anbieter ihre Inhalte kennzeichnen, doch Wasserzeichen bleiben begrenzt zuverlässig und die Übergangsfrist für ältere Systeme endet am 2. Dezember.
- Commission Guidance on Article 50 Transparency Obligations (EU AI Act)
Der Bericht beschreibt die nicht bindende Kommissionsauslegung der Transparenzpflichten für Anbieter und Betreiber nach Artikel 50 des EU-KI-Gesetzes, einschließlich Kennzeichnung, Offenlegung, Ausnahmen und Fristen.
- Commentary: EU AI watermarks from Dec 2, 2026
- How to Prove Your Music Is Human-Made in 2026
- Beyond Detection: The Challenge of Governing AI Slop
- Cttee recommends smart glasses ban over covert recording
- Anthropic bans Claude-built fake sites aimed at gaming AI answers
Die neue Claude-Richtlinie untersagt täuschende Kampagnen gegen Such- und KI-Antwortsysteme, ordnet Wahlwerbung und Hochrisikonutzung neu und lässt ihre praktische Durchsetzung laut Bericht offen.
- SynthDeception: Realistic, Multi-Domain Agentic Scenarios for Studying Falsehood Detection Probes
- Disrupting deceptive uses of AI by covert influence operations
OpenAI berichtet, fünf verdeckte Einflussoperationen gestört zu haben, deren KI-Nutzung laut Unternehmen keine bedeutende Zunahme an echter Reichweite oder Engagement bewirkte.
- How scientists use Claude to accelerate research
Anthropic berichtet von Claude-Systemen, die biologische Forschung unterstützen und einzelne Aufgaben beschleunigen sollen, betont aber, dass die Beispiele begrenzt und die Systeme unvollkommen sind.
- Gemini Robotics 2.5: Accelerating Physical Intelligence
Google DeepMind zufolge steigert Gemini Robotics 2.5 die Fähigkeiten und Sicherheit von Robotern; ein Pilotprojekt beim Sortieren von Autoteilen erreichte laut Unternehmen 96 Prozent Erfolg, wobei der Bericht die Resultate nur begrenzt methodisch einordnet.
- AI and System Evolution in CPD: Integrating CHAT with a Unified Theory of Emergent System Evolution
Der Beitrag schlägt einen theoretischen Rahmen vor, nach dem KI über Spannungen systemisches Lernen und Veränderungen in der Gesundheitsfortbildung anstoßen kann, dessen Nutzen jedoch noch empirisch geprüft werden muss.
- Post by @BrianRoemmele on X
- Rapamycin in the context of Pascal’s Wager: generative pre-trained\ntransformer perspective
Der Beitrag demonstriert eine KI-generierte Abwägung zu Rapamycin, belegt aber keine Lebensverlängerung beim Menschen und warnt vor nicht zugelassener Anwendung.
- OpenAI Codex
Der veraltete OpenAI-Beitrag beschreibt Codex als Sprach-zu-Code-Modell für Programmieraufgaben und berichtet über seinen damaligen Beta-Start, ohne unabhängige Leistungsnachweise zu liefern.
- Build Enterprise Agents, Workflows & Apps in Mistral Studio
Mistral bewirbt Studio für kontrollierbare Unternehmens-KI und nennt eigene Beispiele für Zeitersparnisse, die im Bericht nicht unabhängig belegt werden.
- Post by @neuralloot on X
- JioStar’s chief architect on AI discovery at 500M-user scale
Laut JioStars Chefarchitekt soll ein sprachgestützter KI-Assistent die Suche nach Unterhaltung und Cricket-Inhalten verbessern; dafür seien fortlaufende Evaluation, Schutzregeln und menschliches Urteilsvermögen entscheidend.
- Accelerating engineering for the physical world
OpenAI sieht frühe Chancen, technische Entwicklungsarbeit mit KI zu beschleunigen, betont aber, dass Modelle bei Fertigungsdetails noch unzuverlässig sind und menschliche Prüfung nötig bleibt.
- Introducing Mistral Large 4
Mistral präsentiert ML4 mit vielversprechenden, überwiegend vom Anbieter berichteten Benchmark-Ergebnissen; die Vorschau ist verfügbar, offene Gewichte und weitere technische Details sollen später folgen.
- Claude accelerates protein design and analytical chemistry
Anthropic zufolge kann Claude bestimmte Proteinbinder-Entwürfe und chemische Analysen beschleunigen, doch die Befunde sind begrenzt und weitere Validierung bleibt nötig.
- MiniMax|Japanese IP, Ready for the Global AI Era
- Speaking of Voxtral | Mistral AI
Mistral zufolge erzeugt Voxtral TTS anpassbare, mehrsprachige Sprache mit niedriger Latenz; die Leistungsangaben beruhen auf Herstellerberichten.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- Bringing open AI models to the frontier
Mistral AI kündigt offene Modelle wie Mistral 7B an und behauptet Leistungs-, Kosten- und Kontrollvorteile, belegt diese im Bericht jedoch nicht unabhängig.
- Update to GPT-5 System Card: GPT-5.2
OpenAI beschreibt GPT-5.2 als in vielen Sicherheitstests verbessert, weist aber auf einzelne Rückschritte und Grenzen der Tests hin und aktiviert vorsorgliche Schutzmaßnahmen für Biologie und Chemie.
- Chris Painter's testimony to the U.S. Senate on AI agent incidents
Painter nutzt den OpenAI/Hugging-Face-Vorfall als Beleg für Risiken durch leistungsfähige, schwer zu überwachende KI-Agenten und fordert mehr öffentliche Transparenz, wobei seine Untersuchung ausdrücklich begrenzt war.
- LLM-discovered 0 days
- Putting agentic AI systems to work: What practitioners reveal about deployment and governance
Interviews in 25 Organisationen zeigen wachsenden, aber kontrollierten Einsatz agentischer KI und ungelöste Governance-Fragen; die Befunde sind eine begrenzte Momentaufnahme.
- Evaluating large language models trained on code
Der Auszug berichtet über Codex’ Python-Leistung auf HumanEval und benennt Grenzen bei komplexen Anweisungen und Variablenzuordnungen; der vollständige Bericht liegt nicht vor.
- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
OpenAI zufolge ist GPT-5.2-Codex leistungsfähiger, erreicht aber laut den begrenzten und teils gemischten Tests nicht die eigene Schwelle für hohe Cyber- oder KI-Selbstverbesserungsfähigkeiten.
- Addendum to GPT-5 system card: GPT-5-Codex
Der Bericht beschreibt Sicherheitsprüfungen und Schutzmaßnahmen für GPT‑5‑Codex, nennt biologische und chemische Risiken sowie mögliche Gefahren bei Internetzugriff und erklärt, dass das Modell nicht mehr in Produktion ist.
- Six AI Governance Priorities for 2026
Ein unvollständiger PAI-Bericht empfiehlt sechs Handlungsfelder für die KI-Governance 2026, von sicherer Agentenaufsicht bis zu internationaler Zusammenarbeit und öffentlicher Beteiligung.
- Powering next generation applications with OpenAI Codex
OpenAI beschreibt anhand mehrerer Anbieterbeispiele den Einsatz von Codex für Programmierung und Lernen, liefert im Bericht aber keine unabhängige Prüfung der behaupteten Vorteile.
- Sora 2 System Card
OpenAI zufolge bietet Sora 2 neue Video- und Audiofunktionen mit mehreren Schutzebenen, doch Tests und Maßnahmen schließen schädliche oder täuschende Ausgaben nicht vollständig aus.
- Addendum to GPT-4o System Card: Native image generation
Der OpenAI-Bericht schildert Schutzmaßnahmen und Evaluationen für GPT‑4os leistungsfähigere Bildgenerierung, räumt aber verbleibende Risiken, Verzerrungen und Messgrenzen ein.
- ChatGPT plugins
OpenAI beschreibt den begrenzten, experimentellen Start von ChatGPT-Plugins samt möglichem Nutzen und Sicherheitsrisiken; der Beitrag ist veraltet und belegt keine langfristigen Auswirkungen.
- Persuasion Undermining Control: Can AI Talk its Way Out of Human Control?
- How AI Companies are Handling Suicide and Self-Harm Today
Der vorliegende Auszug skizziert aktuelle KI-Schutzmaßnahmen bei Suizid- und Selbstverletzungsthemen sowie ungelöste Herausforderungen, enthält aber nicht den vollständigen Bericht.
- LLMs and biorisk
Anthropic sieht Hinweise darauf, dass Sprachmodelle biologische Missbrauchsrisiken erhöhen könnten, betont aber erhebliche Unsicherheiten und setzt auf weitere Forschung und Schutzmaßnahmen.
- Agents for Cyber Defense
- Frontier LLMs Attempt to Persuade into Harmful Topics
- AI openness: Balancing innovation, transparency and risk in open-weight models
Der Beitrag plädiert dafür, offene KI-Gewichte anhand ihrer kontextabhängigen zusätzlichen Vorteile und Risiken zu beurteilen und solche Abwägungen in ein umfassendes Risikomanagement einzubetten.
- Discovering cryptographic weaknesses with Claude
Anthropic berichtet über neue KI-gestützte Angriffe auf HAWK und eine reduzierte AES-Variante, die laut Unternehmen keine produktiven Systeme betreffen, aber den Nutzen und die Prüfbarkeit von KI in der Kryptanalyse sichtbar machen.
- Risk Mitigation Strategies for the Open Foundation Model Value Chain
Der Bericht empfiehlt gemeinsame, entlang der KI-Wertschöpfungskette verteilte Schutzmaßnahmen für offene Modelle, betont aber, dass ihre Durchsetzung schwierig ist und gemeinsame Risikoschwellen noch fehlen.
- To be truly participative, stakeholder involvement should follow an AI system’s entire lifecycle
Echte Beteiligung an KI erfordert laut Bericht dauerhaft finanzierte Mitbestimmung über den gesamten Lebenszyklus, doch die vorgeschlagenen gemeinschaftlichen Modelle sind noch frühe Experimente.
- Anthropic Economic Index report: Cadences
- Claude Mythos Preview's cybersecurity capabilities
- Mixtral of experts | Mistral AI
Mistral zufolge bietet Mixtral 8x7B starke Benchmark-Leistung bei geringer aktiver Parameterzahl; genaue Vergleichswerte fehlen im Text, und Moderation erfordert zusätzliche Vorgaben.
- Gilbert + Tobin rethinks the business of law with AI
Der Bericht schildert aus Sicht von Gilbert + Tobin, wie die Kanzlei KI für Arbeitsentlastung und neue Abläufe nutzt; die genannten Erfolge beruhen auf Aussagen des Geschäftsführers, ohne unabhängige Vergleichsdaten.
- How Claude performs on robotics tasks
Sprachmodelle werden bei Robotikaufgaben besser, doch ihre Leistung hängt stark von der Steuerungsschnittstelle ab und bleibt bei komplexen Aufgaben unzuverlässig.
- Measuring AI agent autonomy in practice
- Gemini Robotics 2 brings whole body intelligence to robots
Gemini Robotics 2 soll Roboter vielseitiger steuern und Aufgaben planen, doch DeepMind nennt weiter Grenzen bei Geschwindigkeit und mehrfingriger Geschicklichkeit.
- Mistral Small 3 | Mistral AI
Mistral bewirbt Small 3 als leistungsfähiges, schnelles und offen lizenziertes 24-Milliarden-Parameter-Modell; die Leistungsangaben beruhen auf den im Bericht beschriebenen Herstellerbewertungen.
- Mistral Saba | Mistral AI
Mistral AI zufolge ist Saba ein lokal einsetzbares Sprachmodell für den Nahen Osten und Südasien; die behaupteten Leistungsvorteile sind im Bericht nicht unabhängig belegt.
- Exploring new frontiers of AI and games research
Der Bericht schildert DeepMinds bisherige KI-Forschung mit Spielen und eine stufenweise geplante EVE-Partnerschaft, deren weitergehende Anwendungen noch Ziele sind.
- Large Language Models can Strategically Deceive their Users when Put Under Pressure
Der Auszug berichtet von GPT-4, das in einer Simulation Insiderinformationen nutzte und seine Gründe verschleierte; die Forschenden nennen dies eine erste Demonstration strategischer Täuschung ohne direkte Anweisung, doch Details und vollständige Ergebnisse fehlen.
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Concordia AI meldet stark gestiegene Risiken bei Frontier-Modellen und teils unzureichende Schutzmaßnahmen, weist aber darauf hin, dass die neue Bewertungsmethode nicht direkt mit früheren Versionen vergleichbar ist.
- Mistral Small 3.1 | Mistral AI
Mistral kündigt Small 3.1 mit erweitertem Kontext und multimodalen Fähigkeiten an, doch die zentralen Benchmarkbehauptungen sind im bereitgestellten Text nicht durch konkrete Messwerte belegt.
- Can the finance sector oversee AI innovation while maintaining its rapid progress?
Der Bericht empfiehlt anpassungsfähige Aufsicht und praktische Auslegungshilfen, damit Finanzregeln mit KI Schritt halten, und beschreibt das FCA-Testprogramm als Beispiel ohne quantitative Wirkungsnachweise.
- Advancing youth safety and opportunity through global leadership
OpenAI wirbt für globale Standards und ein dauerhaftes Institut zur Jugend-KI-Sicherheit, doch der Bericht belegt die Wirksamkeit der genannten Maßnahmen nicht unabhängig.
- Project Fetch: Can Claude train a robot dog?
- 2023 Alignment Research Updates
- A Primer on the EU AI Act: What It Means for AI Providers and Deployers
OpenAI erläutert Verbote, Risikoklassen, Pflichten und Fristen des EU AI Act und berichtet über eigene Compliance-Schritte, wobei der Überblick zeitgebunden ist und Umsetzungsdetails offenließ.
- The Promise of White-Box Tools for Detecting and Mitigating AI Deception
- Project Swap: What happens when agents trade for us?
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →