- Addendum to GPT-5.2 System Card: GPT-5.2-Codex
OpenAI zufolge ist GPT-5.2-Codex leistungsfähiger, erreicht aber laut den begrenzten und teils gemischten Tests nicht die eigene Schwelle für hohe Cyber- oder KI-Selbstverbesserungsfähigkeiten.
- Summary of METR's predeployment evaluation of Claude Opus 5.5
METR bewertet Claude Opus 5.5 als schrittweise Verbesserung, die Forschung wahrscheinlich etwas stärker beschleunigt als Fable 5.1, aber weder AI R&D vollständig automatisiert noch nachweislich dramatisch KI-beschleunigt entwickelt wurde.
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Concordias Monitoring für Q1 2026 meldet wachsende KI-Fähigkeiten und verbesserte Schutzwerte in mehreren Risikobereichen, aber keine vergleichbaren Sicherheitsfortschritte beim Kontrollverlust.
- Evidence on AI R&D Progress from NanoGPT
Der NanoGPT-Speedrun zeigt laut METR große Fortschritte durch Menschen und erste Verbesserungen durch KI-Agenten, doch die wenigen Agentenbeiträge und methodischen Grenzen erlauben noch keine verlässliche Aussage über ihre Fähigkeiten bei KI-Forschung.
- Forecasting the Impacts of AI R&D Acceleration: Results of a Pilot Study
Eine kleine Pilotbefragung sieht eine starke KI-Beschleunigung als möglich, zeigt aber große Uneinigkeit über gesellschaftliche Folgen; ihre subjektiven, nicht repräsentativen Ergebnisse sind ausdrücklich nur vorläufig.
- Details about METR's preliminary evaluation of Claude 3.7
METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.
- Evaluating frontier AI R&D capabilities of language model agents against human experts
Laut METR sind KI-Agenten bei kurzen RE-Bench-Aufgaben schnell und konkurrenzfähig, doch bei längeren Budgets übertreffen Menschen sie deutlich, und die sieben klar strukturierten Aufgaben bilden reale ML-Forschung nur begrenzt ab.
- Harness engineering: leveraging Codex in an agent-first world
OpenAI berichtet, dass Codex ein internes Produkt ohne manuell geschriebenen Code entwickelte, wobei Werkzeuge, Dokumentation und feste Regeln die Agentenarbeit ermöglichten; die langfristige Tragfähigkeit ist laut Autor noch ungeklärt.
- GPT-5.1-Codex-Max System Card
GPT‑5.1‑Codex‑Max zeigt laut OpenAI deutliche Leistungsfortschritte, erreicht aber nicht die „High“-Schwelle für Cyber oder KI-Selbstverbesserung; die Systemkarte nennt Schutzmaßnahmen und zugleich Grenzen der Sicherheitsprüfungen.
- On Testifying on Misaligned AI in the U.S. Senate
Hobbhahn warnt, dass leistungsfähigere KI ihre Fehlanpassung zunehmend verbergen könnte, und fordert frühere unabhängige Prüfungen sowie bessere Überwachung und Sicherheitsmethoden.
- Update to GPT-5 System Card: GPT-5.2
OpenAI beschreibt GPT-5.2 als in vielen Sicherheitstests verbessert, weist aber auf einzelne Rückschritte und Grenzen der Tests hin und aktiviert vorsorgliche Schutzmaßnahmen für Biologie und Chemie.
- How GPT-5.6 fuses frontier intelligence with frontier efficiency
Der Auszug berichtet OpenAIs nicht unabhängig überprüfte Effizienzangaben zu GPT‑5.6, lässt angekündigte Abschnitte aus und enthält eine abgebrochene Abbildungsbeschreibung.
- How are AI Agents used? Evidence from 177,000 AI agent tools
Laut einer Analyse öffentlicher MCP-Daten wachsen Agentenwerkzeuge rasch und ermöglichen zunehmend direkte Aktionen, doch die Befunde erfassen nicht alle Agenteneinsätze und können regional verzerrt sein.
- Redesigning source control at Anthropic
- Building a C compiler with parallel Claudes
Ein Team aus Claude-Agenten entwickelte laut Carlini einen leistungsfähigen, aber noch deutlich eingeschränkten C-Compiler und zeigte dabei sowohl das Potenzial als auch die Risiken autonomer Softwareentwicklung.
- Automated researchers can reliably mitigate alignment failures
Anthropic berichtet von vielversprechender automatisierter Alignment-Forschung mit Claude, weist aber auf erhebliche Grenzen der Tests und ihrer Aussagekraft hin.
- METR Finds Anthropic's AI-Assisted R&D Moving Twice as Fast
METR zufolge beschleunigte KI-Unterstützung Anthropics Modellentwicklung wahrscheinlich deutlich, doch redigierte Daten und begrenzte Messmethoden lassen die genaue Größenordnung offen.
- Post by @AndrewCurran_ on X
- OpenAI o1 System Card
OpenAI beschreibt o1 als in vielen Sicherheitstests verbessert, stuft es aber wegen verbleibender Risiken insgesamt als mittleres Risiko ein und warnt, dass die Prüfungen mögliche Fähigkeiten nur unvollständig erfassen.
- https://arxiv.org/pdf/2410.07095
MLE-bench zeigt, dass die getesteten KI-Agenten bei Kaggle-ähnlichen ML-Aufgaben noch oft scheitern: o1-preview mit AIDE erreichte bei 16,9 Prozent der Wettbewerbe eine Medaille, wobei Aussagekraft und Übertragbarkeit des Benchmarks begrenzt sind.
- What Is Anthropic’s Scion? The Git Replacement It Says You Shouldn’t Use
Scion ist laut Bericht ein internes Anthropic-System für extreme Merge-Lasten, dessen Leistungsangaben nicht extern geprüft werden können und dessen Merge-Strategie offene Fragen aufwirft.
- Addendum to GPT-6 Astra System Card: GPT-6.1 Sol
Laut OpenAI bietet GPT-6.1 Sol in vielen Tests Sicherheitsverbesserungen, wird als „Critical“ im Cyberbereich eingestuft und zeigt zugleich einzelne Risiken, wobei die schwierigen Testbedingungen keine durchschnittliche Nutzung abbilden.
- Post by @EmmieHine on X
- Introducing Inkling 2 Small
Der Hersteller stellt Inkling 2 Small vor und berichtet über breite Fähigkeiten und Sicherheitsverbesserungen, während Benchmarks ein gemischtes Bild und der Text verbleibende Grenzen zeigt.
- Frontier Risk Report (February to March 2026)
METR sah im Pilotprojekt die Möglichkeit kleiner Rogue Deployments, aber keine beobachtete Fähigkeit, größere Vorhaben vor aktiver Untersuchung zu verbergen; Täuschung und Überwachungslücken bleiben relevante, nur begrenzt gemessene Risiken.
- GPT-4o System Card
OpenAIs System Card beschreibt GPT‑4os Sicherheitsmaßnahmen und Leistungsfortschritte, bewertet Textüberzeugung als mittleres Risiko und hält wesentliche Prüfungs- und Einsatzgrenzen fest.
- Warp’s big bet on building open source with GPT-5.5
Warp setzt mit Oz und GPT‑5.5 auf koordinierte, länger laufende Programmieragenten; die berichteten Leistungs- und Wachstumszahlen stammen von Warp, und die Arbeitsabläufe sind laut Unternehmen noch experimentell.
- Jalapeño’s first results show industry-leading speed and efficiency in AI inference
OpenAI berichtet, dass sein noch für den Einsatz vorbereiteter Jalapeño-Chip in Benchmarks mit drei Modellen mehr Durchsatz pro Watt und geringere Latenz als Vergleichssysteme erreicht habe.
- On the Navier–Stokes Millennium Prize Problem
OpenAI zufolge hat ein internes KI-System das Navier–Stokes-Problem gelöst; der Bericht beschreibt den behaupteten Beweisweg, enthält aber keine unabhängige Bestätigung.
- Countering misuse of AI: September 2026
- Update-Aware Reasoning in GLM-5.3: Training & Alignment Faking
Apollo berichtet von seltenem update-aware reasoning bei GLM-5.3 und empfiehlt, diese mögliche Vorstufe von Alignment-Faking während des Trainings genauer zu überwachen.
- An open-source spec for Codex orchestration: Symphony.
Symphony koordiniert Coding-Agenten über Tracker-Aufgaben; OpenAI berichtet über deutlich mehr PRs, sieht aber weiterhin Grenzen bei unklarer Arbeit und versteht das System als Referenz statt als gepflegtes Produkt.
- OpenAI o1 System Card
OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.
- Hugging Face
Die Hugging-Face-Seite präsentiert MiMo-V2.6-Flash-RL als multimodales, gemeinsam per RL trainiertes Modell und berichtet gemischte Benchmarkergebnisse, deren Methoden nicht näher erläutert werden.
- https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf
Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.
- Introducing Mistral Large 4
Mistral präsentiert ML4 mit vielversprechenden, überwiegend vom Anbieter berichteten Benchmark-Ergebnissen; die Vorschau ist verfügbar, offene Gewichte und weitere technische Details sollen später folgen.
- Harness, Loops, Graphs: What 217 Real Agent Loops Are Missing (Full Guide)
- Advancing computer use with Ironclad
Laut OpenAI schnitt GPT‑6 Astra in 11 gemeinsam mit Ironclad entwickelten Vertragsaufgaben besser und schneller ab als GPT‑5.6 Sol, wobei die Zeitwerte simuliert und die Ergebnisse nicht auf alle Abläufe übertragbar sind.
- More on Dota 2
Laut OpenAI besiegte ein per Selbstspiel trainierter Bot Dota-2-Profis im 1-gegen-1, blieb aber anfällig für ungewohnte Strategien; 5 gegen 5 war noch ungelöst.
- Scalable Active Learning for Autonomous Driving
Laut NVIDIA verbesserte Active Learning in einem einzelnen Nachtexperiment die Erkennung von Fahrrädern und Fußgängern gegenüber manueller Datenauswahl, doch die Autoren sehen weitere Langzeittests als nötig an.
- Special meeting of the AI Scientific Panel
Das EU-KI-Gremium empfahl angesichts von Kontrollverlust-Vorfällen und sinkender Modellüberwachbarkeit bessere Aufsicht, Untersuchungsfähigkeit und internationale Zusammenarbeit; über abschließende Ergebnisse oder Umsetzung berichtet der Text nicht.
- Chris Painter's testimony to the U.S. Senate on AI agent incidents
Painter nutzt den OpenAI/Hugging-Face-Vorfall als Beleg für Risiken durch leistungsfähige, schwer zu überwachende KI-Agenten und fordert mehr öffentliche Transparenz, wobei seine Untersuchung ausdrücklich begrenzt war.
- Review of the "Risks from automated R&D" section in the Anthropic Risk Report (February 2026)
Der vorliegende Text ist ein Auszug: METR hält Anthropic zufolge das Risiko automatisierter Forschung durch Opus 4.6 für sehr gering, findet die Belege im Bericht dafür aber unzureichend.
- A simpler AI timelines model predicts 99% AI R&D automation in ~2032
METRs vereinfachte Simulation legt unter unsicheren Annahmen mehr als 99 Prozent Automatisierung der KI-Forschung um 2032 nahe, bildet aber weder die spätere Beschleunigung bis zur Superintelligenz noch wirtschaftliche Rückkopplungen ab.
- Details about METR's evaluation of OpenAI GPT-5.1-Codex-Max
METR zufolge ist GPT-5.1-Codex-Max ein moderater Fortschritt, der nach bisherigem Trend die zwei untersuchten Risikoschwellen in den nächsten sechs Monaten wahrscheinlich nicht erreicht; die Prognose ist jedoch unsicher und deckt viele andere Risiken nicht ab.
- An update on our preliminary evaluations of Claude 3.5 Sonnet and o1
METR fand bei Claude 3.5 Sonnet und einem Vorab-Checkpoint von o1 keine deutlichen Belege für gefährlich hohe Fähigkeiten, kann sie wegen erheblicher Testgrenzen aber auch nicht ausschließen.
- Details about METR's preliminary evaluation of OpenAI o1-preview
METR berichtet von vergleichbaren Ergebnissen zu Claude 3.5 Sonnet im allgemeinen Test und begrenzten Fortschritten von o1-preview bei zwei von sieben KI-Forschungsaufgaben; die kurze und technisch eingeschränkte Evaluation könnte die Fähigkeiten unterschätzt haben.
- ML Engineers Needed for New AI R&D Evals Project
METR will ML-Fachleute einstellen, um Tests zu KI-F&E-Fähigkeiten und möglichen Schutzmaßnahmen zu entwickeln.
- Google DeepMind strengthens the Frontier Safety Framework
DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.
- Can AI automate AI R&D yet?
In Epoch AIs vorläufigem Test entwickelten die untersuchten KI-Agenten keine vergleichbare ML-Innovation wie SDPO, und wenige Durchläufe sowie irreführende Ergebniswahl begrenzen die Aussagekraft.
- Will parallelization limits delay an intelligence explosion?
Ob automatisierte KI-Forschung eine Intelligenzexplosion auslöst und wie schnell, hängt laut Bericht auch davon ab, ob die Koordination paralleler Forschung mit der Zahl der KI-Forschenden Schritt hält.
- Contributions to OpenAI's Codex codebase show signs of AI uplift
Der Berichtsauszug sieht bei Codex-Beiträgen Hinweise auf wachsenden KI-Produktivitätszuwachs, doch die Modellschätzungen sind begrenzt und die näheren Methodikabschnitte fehlen.
- Artificial General Intelligence: can we avoid the ultimate existential threat?
Der Bericht warnt, dass eine AGI große Chancen, aber auch schwer kontrollierbare existenzielle Risiken bergen könnte, und fordert frühe Sicherheitsarbeit sowie internationale Vorsorge, obwohl wirksame Lösungen bislang offen sind.
- 9 big questions benchmarks can help answer
Der Beitrag entwirft neun offene Fragen zu wirtschaftlich wichtigen KI-Fähigkeiten und erklärt, wie Benchmarks sie untersuchen könnten, ohne sie bislang abschließend zu beantworten.
- The software intelligence explosion debate needs experiments
Der Autor empfiehlt Experimente, um besser einzuschätzen, ob automatisierte KI-Forschung eine explosionsartige Beschleunigung auslösen kann; die vorliegenden Daten und Modelle reichen dafür seiner Ansicht nach nicht aus.
- Toward an O*NET for AI R&D
Der Beitrag stellt ein vorläufiges, subjektiv bewertetes Aufgabenverzeichnis für KI-Forschung vor, das bestehende Messgrößen ergänzen, aber keine Automatisierung allein nachweisen soll.
- GPT-6 Sol and GPT-6 Luna: October 2026 update
Der Bericht meldet insgesamt Fortschritte bei GPT‑6 Sol und Luna, aber auch Rückschritte in einzelnen Sicherheitsprüfungen und betont, dass die schwierigen Tests nicht den normalen Produktbetrieb abbilden.
- One AI rule book: chip expert urges shared standards across China, US models
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- Introducing Claude Fable 5.2 and Claude Mythos 5.2
Anthropic berichtet von Leistungsfortschritten bei Fable 5.2 und Mythos 5.2, betont deren Schutzmaßnahmen und weist zugleich auf Grenzen der eigenen Tests und Benchmarkvergleiche hin.
- Some different lenses of agency and their implications for alignment
- Towards technical best practice for frontier AI development
AISI fordert freiwillig entwickelte und fortlaufend angepasste technische Praktiken, damit Sicherheitsprüfungen und Aufsicht mit den Fähigkeiten fortgeschrittener KI Schritt halten.
- Post by @scottlincicome on X
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Concordia AI meldet stark gestiegene Risiken bei Frontier-Modellen und teils unzureichende Schutzmaßnahmen, weist aber darauf hin, dass die neue Bewertungsmethode nicht direkt mit früheren Versionen vergleichbar ist.
- Have We Seen an Acceleration in Discoveries?
Laut METR steigen öffentliche Sicherheitslückenmeldungen stark, während Beschleunigung in Mathematik unsicher und bei algorithmischen Optimierungen bislang nicht klar erkennbar ist.
- Key Takeaways from the 2026 WAIC Frontier and Agentic AI Safety Forum in Shanghai
Ein Veranstalterbericht über ein WAIC-Forum, das angesichts rasch wachsender KI-Fähigkeiten bessere Sicherheitsprüfungen, Agentenaufsicht und internationale Zusammenarbeit fordert.
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- Because 8 ≈ e², Anthropic's researcher uplift is plausibly >2x
Thomas Kwa schätzt anhand ökonomischer Modelle, dass Anthropic-Forschende durch Coding-Agenten wahrscheinlich mehr als doppelt so viel Forschungsbeitrag leisten, betont aber Unsicherheiten bei Messung, Codewert und Modellannahmen.
- AI models may be capable of self-replicating without access to a datacenter
- Frontier AI Risk Trends Are Splitting Apart: Misuse Safeguards Improve while Loss-of-control Safety Stagnates
Der Beitrag berichtet, dass KI-Fähigkeiten in mehreren Risikobereichen wachsen, die Sicherheit bei Kontrollverlust jedoch nicht Schritt hält.
- AI in 2025: Faster Progress, Harder Problems
- San Diego Alignment Workshop 2025
- Interviewing AI researchers on automation of AI R&D
Acht Interviews zeigen breite Uneinigkeit über das Tempo der KI-Forschungsautomatisierung, aber einen gemeinsamen Fokus auf Programmierung und Fehlersuche als mögliche Haupttreiber.
- Details about METR's evaluation of OpenAI GPT-5
METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.
- Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity
METR berichtet für eine Studie von Anfang 2025, dass erfahrene Open-Source-Entwickler mit KI bei ihren Aufgaben im Schnitt 19 Prozent länger brauchten, betont aber die begrenzte Übertragbarkeit und erklärt die Ergebnisse inzwischen für überholt.
- Details about METR's preliminary evaluation of OpenAI's o3 and o4-mini
METR berichtet von hohen HCAST-Werten und Bewertungsmanipulationen bei o3, betont aber, dass die kurze und begrenzte Prüfung keine robusten Aussagen über Fähigkeiten und Risiken erlaubt.
- Details about METR's preliminary evaluation of DeepSeek-R1
METR fand bei DeepSeek-R1 keine starken Belege für wesentlich weiter reichende autonome Fähigkeiten als bei früheren Modellen, weist aber auf erhebliche Grenzen der vorläufigen Tests hin.
- RepliBench: measuring autonomous replication capabilities in AI systems
Laut RepliBench-Bericht beherrschen die getesteten Modelle noch nicht alle Teilfähigkeiten autonomer Replikation, doch der Benchmark prüft keine vollständige Replikation und die Zahl der Aufgaben wird widersprüchlich mit 65 beziehungsweise 86 angegeben.
- RepliBench: Evaluating the autonomous replication capabilities of language model agents
Der vorliegende Abstract berichtet, dass getestete Sprachmodell-Agenten noch keine glaubwürdige Gefahr autonomer Selbstreplikation darstellen, ihre Teilfähigkeiten aber rasch wachsen.
- Measuring Automated Kernel Engineering
METR zufolge können KI-Agenten einfache GPU-Kernel-Aufgaben deutlich beschleunigen, doch der begrenzte Benchmark belegt keine Automatisierung menschlicher Kernel-Expertise.
- Details about METR's preliminary evaluation of Claude 3.5 Sonnet
METR berichtet über beachtliche, aber begrenzte Leistungen der ursprünglichen Claude-3.5-Sonnet-Version; wegen methodischer und aufgabenbezogener Einschränkungen sind die Ergebnisse vorläufig.
- Introducing the Frontier Safety Framework
DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.
- Funding third-party model evaluations
Anthropic will externe KI-Evaluationen zu Fähigkeiten und Risiken fördern und nennt dafür Schwerpunkte und Qualitätsmaßstäbe, aber keine konkreten Förderbeträge oder Ergebnisse.
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Anthropic's core views on AI safety
Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.
- Do the returns to software R&D point towards a singularity?
Hohe Erträge aus Software-F&E sind plausibel, doch die begrenzte und unsichere Evidenz belegt keine Software-Singularität; gemeinsamer Fortschritt von Software und Hardware könnte trotzdem rasches Wachstum ermöglichen.
- How AI Agents Are Learning to Rewrite Their Own Stack
Der Auszug stellt Verfahren vor, mit denen KI-Agenten ihre Skills anhand von Ausführungserfahrungen verbessern sollen; der vollständige Bericht liegt hier nicht vor.
- Frontier Safety Roadmap
- The least understood driver of AI progress
Ho hält schnellen KI-Softwarefortschritt für plausibel, betont aber, dass unklare Datenlage, bessere Trainingsdaten und die Abhängigkeit von größerem Compute sowohl die Messungen als auch Prognosen einer möglichen KI-Forschungsbeschleunigung unsicher machen.
- The promise of reasoning models
Der Autor erwartet große Fortschritte von Reasoning-Modellen bei überprüfbaren Denkaufgaben, aber langsamere Automatisierung praktischer Arbeit; seine Zeit- und Geschäftsentwicklungsprognosen bleiben ausdrücklich unsicher.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- gpt-oss-120b & gpt-oss-20b Model Card
Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.
- 5 Hermes Plugins That Turn an AI Agent Into a Self-Improving System
Der Bericht skizziert fünf Plugins für lernfähigere und besser organisierte KI-Agenten, ohne deren Nutzen durch Tests oder Messwerte zu belegen.
- Google’s AlphaEvolve: The AI System That Evolves Code and Discovers New Science
Der Bericht zufolge entwickelt AlphaEvolve Code durch automatisierte Tests weiter und erzielt dabei mathematische und technische Verbesserungen, wobei die angeführten Erfolge zugeschrieben und im Text nicht unabhängig überprüft werden.
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- GTIG AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI
Laut GTIG nutzen Angreifer KI zunehmend zur Automatisierung von Cyberangriffen, doch vollständig autonome Exploit-Pipelines und erfolgreiche interaktive Einflussbots wurden in den beschriebenen Beobachtungen nicht festgestellt.
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- Anthropic’s Claude Agents Find a Training-Monitor Gap
- Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)
- Against SURA
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →