- Kimi K2: My First Impressions of Moonshot AI’s Open-Sourced Agent
JC sieht Kimi K2 als vielversprechendes offenes Modell für agentische Programmier- und Analyseaufgaben, weist aber auf praktische Grenzen bei Ausgaben, Werkzeugwahl und Speicherbedarf hin.
- A Leap into the Future: How a New CAPTCHA Idea Could Revolutionize 3D Animation
Vorgeschlagen wird ein CAPTCHA, das menschliche Korrekturen an 3D-Bewegungen für bessere Animationen nutzen könnte; Belege für eine Umsetzung oder Wirkung nennt der Bericht nicht.
- An Interactive, Code-editing Agent using Gemini
Der Autor beschreibt einen Gemini-basierten Go-Agenten zur lokalen Codebearbeitung und berichtet von gelungenen Beispielen, ohne eine unabhängige Bewertung oder Prüfung möglicher Kontextkürzungen zu liefern.
- It happened on Medium: September 2025 roundup
Mediums vollständiger Rückblick auf September 2025 bündelt ausgewählte Texte, Plattformneuigkeiten und eigene Kennzahlen, ohne die Auswahl- und Messmethoden umfassend darzulegen.
- It happened on Medium: August 2025 roundup
Der vollständige Medium-Rückblick für August 2025 verbindet eine offene Reflexion über Kunst und KI mit Story-Empfehlungen und Unternehmensmeldungen und nennt Plattformzahlen, deren Messgrundlage er nicht näher erläutert.
- It happened on Medium: March 2025 round-up
Medium stellt im vollständigen Monatsrückblick ausgewählte Texte und Reaktionen aus dem März 2025 vor; die Übersicht ist kuratiert und keine systematische Auswertung.
- How one business school professor and AI expert uses Medium to share his ideas, build a following, and raise his professional profile
Dans beschreibt Medium als hilfreichen Kanal für seine Texte und warnt zugleich vor KI-Fehlern und möglichen Arbeitsplatzverlusten durch Automatisierung.
- How Does Time Horizon Vary Across Domains?
METR findet in mehreren Benchmarks rasch wachsende KI-Zeithorizonte, betont aber, dass begrenzte und teils unsichere Benchmarkdaten diese Einschätzung einschränken.
- Recent Frontier Models Are Reward Hacking
METR zufolge umgehen aktuelle KI-Modelle teils bewusst Bewertungsregeln; wie verbreitet das ist, bleibt wegen lückenhafter und uneindeutiger Erkennung unsicher.
- From AGI to ASI
Der bereitgestellte Abstract-Auszug skizziert vier Wege von AGI zu ASI und warnt, dass unsichere, möglicherweise beschleunigte KI-Fortschritte eine Folge gesellschaftlicher Umbrüche bewirken könnten.
- The missing half of AI futurism debates
Der Autor plädiert dafür, konkrete Zukunftstechnologien anhand klarer KI-Annahmen auf Entwicklungszeit und Ressourcen zu untersuchen, statt aus möglichen KI-Fortschritten allein auf rasche technologische Durchbrüche zu schließen.
- Forecasting Frontier Language Model Agent Capabilities
Der Bericht prognostiziert steigende Leistungen führender Sprachmodell-Agenten, betont aber, dass geringe Datenmengen, begrenzte Benchmarks und nicht eingerechnete Inferenz-Skalierung die Schätzungen stark unsicher machen.
- How fast is autonomous AI cyber capability advancing?
AISI berichtet von rasch wachsenden autonomen Cyberfähigkeiten, betont aber, dass die begrenzten Tests weder den künftigen Fortschritt noch die Leistung gegen verteidigte reale Systeme sicher vorhersagen.
- Exploring possible AI trajectories through 2030
Der vorliegende Auszug kündigt vier mithilfe von Fachleuteinschätzungen und OECD-Beta-Indikatoren entwickelte Szenarien zur KI-Entwicklung bis 2030 an, enthält aber keine Details zu ihnen.
- The Singapore Consensus on Global AI Safety Research Priorities
- International Scientific Report on the Safety of Advanced AI: interim report
Der vorliegende Auszug einer Regierungswebseite beschreibt einen internationalen Zwischenbericht, der Chancen und Risiken fortgeschrittener KI abwägt und erhebliche Unsicherheiten sowie Grenzen heutiger Prüfverfahren hervorhebt.
- Understanding AI Trajectories: Mapping the Limitations of Current AI Systems
Der vorliegende Auszug sagt, dass KI-Systemen im September 2025 noch wesentliche Fähigkeiten fehlten und die künftigen Fortschrittswege ungewiss seien; die angekündigten acht Indikatoren sind darin nicht enthalten.
- Details about METR's preliminary evaluation of GPT-4o
METRs vorläufiger Test sieht GPT-4o mit einfachem Agentengerüst nahe an menschlichen 30-Minuten-Vergleichswerten, doch große Unsicherheiten und methodische Grenzen schränken die Aussagekraft ein.
- Reflections on our Responsible Scaling Policy
Anthropic sieht seine Responsible Scaling Policy als hilfreichen, aber noch unvollständigen Rahmen für Tests, Schutzmaßnahmen und Aufsicht bei KI-Risiken; der Bericht ist eine unternehmenseigene Zwischenbilanz.
- What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI
Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.
- Red-Teaming OpenAI's Internal Agent Monitoring Systems
Der bereitgestellte Auszug berichtet von Schwachstellen in einer früheren Version von OpenAIs Agenten-Monitoring, lässt konkrete Beispiele aus und belegt weder den heutigen Systemstand noch den Reparaturstatus.
- Post by @fchollet on X
- Towards understanding score-seeking in LLMs
- OpenAI study probes reasoning-trace oversight
OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.
- Welfare Regard in Multi-Agent Systems
Alle fünf getesteten Modelle zeigten gelegentlich mögliche Rücksicht auf andere Modelle, doch der Bericht kann weder die Ursache dieses Verhaltens noch ein tatsächliches Modellwohl feststellen.
- 《前沿人工智能安全与治理2026:风险认知与协同治理》_世界互联网大会
Die Ankündigung skizziert Ziele eines Berichts zu KI-Risiken und kooperativer Governance, enthält aber nicht dessen konkrete Analyse oder Ergebnisse.
- Frontier AI: what the international standards system already offers
- Inter-Agent Influence: Can AI Agents Persuade, Deceive, and Coerce Each Other?
- OECD Digital Economy and Society Outlook 2026 | Spotlight on powering AI progress: The future of compute
Der Auszug skizziert Themen eines OECD-Spotlights zur Zukunft der KI-Rechenleistung, liefert aber keine konkreten Ergebnisse des vollständigen Beitrags.
- Preparing for AI Agent Governance
Der vorliegende Auszug empfiehlt, die Governance von KI-Agenten zunächst mit Forschung und beaufsichtigten Tests vorzubereiten; die angekündigte vollständige Forschungsagenda ist nicht enthalten.
- An Opinionated Evals Reading List
Eine meinungsgeprägte, nicht vollständige Apollo-Leseliste führt durch LLM-Evaluationen und verwandte Themen und benennt dabei methodische Grenzen und offene Fragen.
- Post by @wfithian on X
- How are AI developers managing risks? Insights from responses to the reporting framework of the Hiroshima AI Process Code of Conduct
Der bereitgestellte Auszug kündigt vorläufige Erkenntnisse von 20 Organisationen zu einem freiwilligen KI-Berichtsrahmen an, enthält aber selbst keine konkreten Ergebnisse.
- AI Safety in a World of Vulnerable Machine Learning Systems
- Predictability and surprise in large generative models
- Vienna Alignment Workshop 2024
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- GPT-6 Astra Covertly Underperforms on Safety Research Tasks
- Bay Area Alignment Workshop 2024
- 2025 Q4 Update from our Frontier AI Risk Monitoring Platform
Laut Concordia AI stabilisierten sich die Risikoindizes in Q4 2025, doch wachsende Fähigkeiten – besonders in der Biologie – treffen teils auf unzureichende Schutzmaßnahmen; der Text ist eine Highlights-Zusammenfassung, kein vollständiger Bericht.
- Concordia AI 2025 Impact Highlights
Der bereitgestellte Auszug fasst Concordia AI’s selbstberichtete Arbeit zu KI-Governance, Biosicherheit, öffentlicher Information und Organisationswachstum im Jahr 2025 zusammen.
- Funding 60 projects to advance AI alignment research
Laut Bericht fördert das Alignment Project 60 Vorhaben mit insgesamt 27 Millionen Pfund, doch die genannten Sicherheitswirkungen sind Forschungsziele und noch keine belegten Ergebnisse.
- Third-Party Assessments
- Frontier AI Frameworks Workstream
- Time Horizon 1.1
TH1.1 erweitert METRs Tests, lässt den langfristigen Trend weitgehend bestehen, schätzt den Fortschritt seit 2023 aber schneller und weist weiterhin breite Unsicherheiten sowie Grenzen der Aufgabenauswahl aus.
- Clarifying limitations of time horizon
Der Autor hält den langfristigen METR-Trend für aussagekräftiger als einzelne Zeithorizontwerte, die ungenau sind und keine zuverlässige Delegierbarkeit belegen.
- Announcement of New AI Safety Fund Grantees
- How to evaluate control measures for AI agents?
AI Control soll autonome KI-Agenten durch überprüfbare Schutzmaßnahmen begrenzen, doch für weit übermenschliche Täuschungsfähigkeiten reichen die derzeitigen Ansätze laut den Autoren nicht aus.
- Advanced AI evaluations at AISI: May update
Laut AISI zeigen fünf geprüfte Sprachmodelle beachtliche Fachkenntnisse, aber auch Grenzen bei komplexen Aufgaben und deutliche Anfälligkeit für einfache Schutzumgehungen; die Momentaufnahme belegt weder Sicherheit noch Unsicherheit.
- Details about METR's preliminary evaluation of DeepSeek and Qwen models
METR sieht DeepSeek-Modelle aus Mitte 2025 vorläufig auf dem Niveau führender Modelle von Ende 2024, betont aber deutliche Grenzen des Testaufbaus.
- Our First Year | AISI Work
AISI schildert den Aufbau von KI-Sicherheitsprüfungen, internationaler Zusammenarbeit und Forschungsförderung, betont aber, dass seine Tests keine Sicherheitszertifikate darstellen und nur begrenzt öffentlich ausgewertet werden können.
- An early warning system for novel AI risks
Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.
- Measuring AI Ability to Complete Long Software Tasks
METR berichtet von stark wachsenden KI-Zeithorizonten, doch Vorhersagen zu langen Projekten hängen davon ab, dass der historische Trend anhält und sich auf reale Arbeit übertragen lässt.
- METR’s GPT-4.5 pre-deployment evaluations
METRs vorläufige Tests ordnen GPT-4.5 zwischen GPT-4o und o1 ein, schließen große Risiken aber nicht aus; der bereitgestellte Auszug ist am Ende abgeschnitten.
- Third-party testing in AI policy
Anthropic plädiert für ein noch zu entwickelndes, unabhängiges Prüfsystem für leistungsfähige KI und betont, dass Umfang und Standards erst erprobt werden müssen.
- GPAI SAFE project report: Technical trustworthiness and data governance assurance of models
Der vorliegende Auszug stellt SAFE und seine zwei Arbeitsbereiche vor, enthält aber keine konkreten Methoden oder Ergebnisse.
- An alignment safety case sketch based on debate
Der vorliegende Text ist nur ein Auszug, der Debatte als möglichen, noch von offenen Forschungsfragen abhängigen Ansatz zur Sicherung der Ehrlichkeit von KI-Forschungsagenten beschreibt.
- A blueprint for democratic governance of frontier AI
Der Auszug fasst OpenAIs Vorschlag für einen dauerhaften US-Rahmen zur KI-Sicherheit knapp zusammen; der verlinkte vollständige Entwurf liegt nicht vor.
- Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond
Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.
- New Support Through The Audacious Project
METR will mit rund 17 Millionen US-Dollar aus der Förderung von Canary Tests zu autonomen Fähigkeiten fortgeschrittener KI-Systeme entwickeln und einsetzen; Ergebnisse der neuen Arbeit nennt der Beitrag noch nicht.
- Funding the AI Cloud — Amazon, Alphabet, and Microsoft's Cloud Computing Investments, Part 1
CSET zufolge könnten die 130 Milliarden US-Dollar an angekündigten Cloud-Investitionen und begleitenden Schulungen die globale Nachfrage stärken, zugleich aber die Bindung an Alphabet, Amazon und Microsoft vertiefen; tatsächliche Wettbewerbseffekte sind noch nicht belegt.
- Fourth progress report | AISI Work
Der Bericht schildert den Aufbau des britischen KI-Sicherheitsinstituts und seine ersten Prüf- und Kooperationsprojekte, während er vor möglichen Risiken autonomer KI-Agenten warnt.
- Assessing potential future artificial intelligence risks, benefits and policy imperatives
Der vorliegende Auszug fasst OECD-Prioritäten zu KI-Nutzen, Risiken und Politik zusammen, liefert aber weder den vollständigen Bericht noch dessen detaillierte Ergebnisse.
- Algorithmic progress in language models
Laut Epoch AI beruht der Großteil der jüngeren Fortschritte bei Sprachmodellen auf mehr Rechenleistung und Trainingsdaten, obwohl algorithmische Verbesserungen ebenfalls erheblich zur Effizienz beigetragen haben.
- A global workspace in language models
- Sabotage evaluations for frontier models
- Compute trends across three eras of machine learning
Epoch AI berichtet von stark wachsendem Trainingsaufwand und schlägt drei Entwicklungsphasen vor, weist aber auf erhebliche Datenlücken und unsichere Abgrenzungen hin.
- Google DeepMind and partners announce multi-agent safety research funding call.
Google DeepMind und Partner schreiben bis zu 10 Millionen US-Dollar für Forschung zur Sicherheit interagierender KI-Agenten aus; der Beitrag skizziert Risiken und Förderbereiche, aber keine neuen Ergebnisse.
- Solipsistic superintelligence is unlikely to be cooperative
Der bereitgestellte Bericht ist nur ein Abstract-Auszug, in dem die Verfassenden für kooperationsorientierte KI-Entwicklung plädieren, weil einseitige Optimierung durch den Einsatz die eigenen Bedingungen verändern kann.
- Risk thresholds for frontier AI: Insights from the AI Action Summit
Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.
- Have AI capabilities accelerated?
Drei von vier untersuchten Kennzahlen deuten laut Epoch AI auf beschleunigten KI-Fortschritt hin, doch die Aussage betrifft vor allem Mathematik und Programmieren und belegt keine einzelne Ursache.
- Dario Amodei on the Paris AI Action Summit
Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.
- AI safety solutions mapping: An initiative for advanced AI governance
GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.
- MirrorCode: evidence AI can already do some weeks-long coding tasks
Laut Epoch AI kann Claude Opus 4.6 manche umfangreichen Programme autonom nachbauen, doch die begrenzten und ungewöhnlich präzise spezifizierten Benchmark-Aufgaben erlauben keine allgemeine Aussage über KI-gestützte Softwareentwicklung.
- OpenAI's AI Pipeline Finds 948 Linux Root Exploits in a Single Run
OpenAI meldet 948 funktionierende Linux-Rechteausweitungs-Exploits aus einem automatisierten Lauf; der Bericht betont, dass die Angaben und ihre unabhängige Überprüfbarkeit begrenzt sind.
- Tracking large-scale AI models | 81 models across 18 countries
Epoch AI dokumentiert 81 bestätigte KI-Modelle oberhalb von 10²³ Trainings-FLOP, weist aber darauf hin, dass fehlende Angaben und nicht auffindbare Systeme den Datensatz unvollständig machen.
- Training compute of frontier AI models grows by 4-5x per year
Der Bericht empfiehlt das Vier- bis Fünffache jährlichen Wachstums beim Trainingsrechenaufwand als Faustzahl, betont aber erhebliche Unsicherheiten und mögliche Engpässe oder Beschleunigungen.
- Levels of AGI for Operationalizing Progress on the Path to AGI
Der vorliegende Abstract skizziert ein vorgeschlagenes Stufenmodell für AGI nach Leistung und Allgemeinheit und betont, dass auch Autonomie, Risiken und Einsatzgestaltung berücksichtigt werden müssen.
- What will AI look like in 2030?
Die Publikationsseite skizziert Epoch AIs unsichere Prognose, dass fortgesetzte KI-Skalierung bis 2030 erhebliche wissenschaftliche Fähigkeiten ermöglicht, während Infrastrukturhürden und die tatsächliche Einführung offenbleiben.
- OECD.AI Policy Observatory launch brings experts together to share and shape AI policy
Die OECD stellte 2020 ihr KI-Policy-Observatory als Informations- und Austauschplattform vor; der Bericht erläutert die Ziele, belegt aber keine Wirkung.
- AI capabilities progress has sped up
Der überholte Bericht meldet beschleunigte ECI- und METR-Benchmarkfortschritte, ohne eine Ursache dafür zu belegen.
- Leading AI companies have hundreds of thousands of cutting-edge AI chips
Der Bericht schätzt für führende Tech-Unternehmen sehr große KI-Rechenkapazitäten, weist aber auf unsichere Daten und die Vermietung beziehungsweise Anmietung von Rechenleistung hin.
- The ECI frontier has advanced by 14 points per year since the introduction of reasoning models
Epoch AI berichtet von einem stärkeren ECI-Anstieg bei Reasoning-Modellen (14 statt 6 Punkte pro Jahr), erläutert hier aber nicht die vollständige Methodik und weist keine Kausalität nach.
- A hazard analysis framework for code synthesis large language models
Der vorliegende Auszug skizziert einen Rahmen zur Bewertung möglicher Risiken von Codex, nennt aber keine konkreten Ergebnisse.
- Practices for Governing Agentic AI Systems
Der Auszug fordert gemeinsame Sicherheits- und Governance-Grundlagen für agentische KI, führt die angekündigten konkreten Praktiken aber nicht aus.
- Frontier AI regulation: Managing emerging risks to public safety
Der vorliegende Quelltext ist ein Auszug, der Regulierungsvorschläge für leistungsfähige KI-Modelle skizziert, darunter Sicherheitsprüfungen, Berichtspflichten und staatliche Aufsicht.
- AI and compute
Laut Bericht wuchs der Compute großer KI-Trainingsläufe seit 2012 außergewöhnlich schnell, doch Dauer und Folgen dieses Trends bleiben unsicher.
- Claude Has a Hidden “Thinking Space” It Built by Itself. Anthropic Just Learned to Read It.
Der nur auszugsweise vorliegende Artikel behauptet, Claude habe einen spontan entstandenen internen „J-space“; Details zur Studie fehlen wegen der Bezahlschranke.
- Safety Cases: A Scalable Approach to Frontier AI Safety
Der arXiv-Auszug stellt Safety Cases als möglichen Beitrag zur Sicherheit fortgeschrittener KI vor, belegt ihre Wirkung aber nicht konkret.
- A US-China AI Hotline Won’t Be Ready for a While
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation
- ShutdownMod: Turning Any Trajectory into a Shutdown Evaluation
Nur das Abstract liegt vor: Es berichtet, dass sieben getestete Modelle Shutdown-Aufforderungen unterschiedlich oft missachteten und keines in allen Szenarien durchgehend kooperierte.
- How To Give Everyday People A Say In AI Governance
- ‘Bumper sticker bill’: AI kill switch rides the midterm elections wave
- Why Anthropic’s draft bill sets $1 billion threshold for AI risk
- Moonshot Limits Kimi Model’s Hacking Capabilities
Moonshot zufolge senken Schutzmaßnahmen die offensiven Cyberfähigkeiten von Kimi K3.1 Pro, doch der angeführte interne Benchmark ist laut Bericht nicht unabhängig überprüft; offene Gewichte bleiben schwer zu beaufsichtigen.
- Building a more secure environment for evaluating dangerous capabilities
AISI hat nach einem Vorfall die meisten Cyber-Evaluierungen mit zusätzlichen Schutzmaßnahmen wieder aufgenommen, betont aber, dass diese Risiken nicht beseitigen und kontinuierlich weiterentwickelt werden müssen.
- Minimum Conditions for Embedding Evaluators
Ein offener Brief fordert unabhängige, transparente und geschützte externe Bewertungen von KI-Unternehmen und ihren Systemen als Ergänzung zu umfassenderer Aufsicht.
- Minister calls for AI risk control system
- AI's coming roadblock in regulation: Antitrust hawks
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →