- Introducing text and code embeddings
OpenAI zufolge ermöglichen Text- und Code-Einbettungen semantische Suche und weitere ML-Aufgaben und übertrafen in den genannten Tests frühere Vergleichswerte, wobei der Bericht die Aussagekraft außerhalb dieser Tests nur begrenzt belegt.
- Competitive self-play
Laut Bericht kann Selbstspiel simulierte Agenten dazu bringen, Wettkampffähigkeiten zu entwickeln und sie auf neue Situationen zu übertragen.
- Interpretable machine learning through teaching
OpenAI berichtet, dass gezielt ausgewählte Beispiele KI-Systemen und Menschen beim Erlernen von Konzepten helfen können, doch der Text behandelt nur beispielbasiertes Lehren und nennt keine detaillierten Versuchsdaten.
- https://arxiv.org/pdf/1802.09464
Der Bericht präsentiert Roboter-Benchmarks, in denen HER laut Autoren meist DDPG verbessert, und skizziert dazu ungelöste RL-Forschungsfragen.
- https://arxiv.org/pdf/2410.11081
sCM soll kontinuierliche Konsistenzmodelle für schnelle Bildgenerierung stabilisieren und erreicht laut Bericht in zwei Schritten FID-Werte nahe an vortrainierten Diffusionsmodellen, bleibt aber mit Artefakten und offenen Skalierungsgrenzen behaftet.
- https://arxiv.org/pdf/1803.01118
E-MAML und E-RL2 sollen Erkundung für schnelleres Lernen neuer Aufgaben nutzbar machen und schneiden in den untersuchten Gridworld- und Labyrinthaufgaben teils besser als Vergleichsverfahren ab.
- https://arxiv.org/pdf/2201.10005
Kontrastives Vortraining erzielt laut Bericht starke Ergebnisse bei Text- und Codesuche, bleibt aber bei Satzähnlichkeit schwächer und ist rechenintensiv.
- Corrupt Comment: Kritik an einer Antikorruptionsstiftung
OpenAI zufolge erzeugte eine gesperrte Kontengruppe Kommentare gegen die FBK und verbreitete sie auf X; der vorliegende Auszug enthält keine abschließende Wirkungseinstufung.
- ChatGPT-6 Astra: The Complete Guide
Andrade sieht Astra als nützlich für anspruchsvolle, folgenreiche Aufgaben, warnt aber anhand eigener und fremder Einzeltests vor abweichenden Ergebnissen, Nutzungslimits und den Grenzen des 20-Dollar-Tarifs.
- OpenAI Releases GPT o1 “Strawberry”: First Model With Advanced Reasoning
Der Beitrag sieht in o1 anhand ausgewählter Beispiele und Benchmarks Fortschritte beim Schlussfolgern, betont aber, dass diese weder eine umfassende Überlegenheit belegen noch die damals noch ausstehende vollständige Version bewerten.
- Is AI Officially Taking Our Jobs? Meet Devin, The First AI Software Engineer
Der Autor hält Devin für beeindruckend, aber noch nicht für einen Beleg dafür, dass KI Programmierer ersetzen kann.
- This Study by OpenAI Reveals What Jobs Might Be Replaced by GPT-4
Laut der im Beitrag zusammengefassten OpenAI-Studie könnten Sprachmodelle viele US-Aufgaben beschleunigen, doch Exposition bedeutet nicht automatisch Automatisierung oder Arbeitsplatzverlust.
- Fable 5.2 Costs 2x Opus 5.5 Per Token. Only 1 SEO Job Justifies It
Der Bericht empfiehlt eine nach Aufgaben gestaffelte Modellauswahl, betont aber, dass mangels SEO-Benchmarks alle SEO-Empfehlungen Einschätzungen sind.
- Opus 5.5 Quietly Ignores Your Effort Setting. I Checked What All 5 Levels Actually Cost.
Laut den von Anthropic veröffentlichten Benchmarks empfiehlt der Autor medium für normale Codearbeit und high für lange Terminal-Aufgaben; alte persönliche Effort-Einstellungen könnten bei Opus 5.5 wirkungslos sein.
- Why GitHub’s Trending Page Just Became the Best Map of Where Software Is Actually Going
Der vollständige Bericht deutet GitHub Trending als Momentaufnahme möglicher Trends zu selbst gehosteter Software und KI-Infrastruktur, wobei die daraus abgeleiteten Marktprognosen Einschätzungen des Autors bleiben.
- Why Claude Fable 5 Keeps Silently Switching You to Opus 4.8 — and What Actually Triggers It
Der Artikel behauptet, dass Sicherheitsfilter Fable-5-Sitzungen teils wegen harmloser Inhalte dauerhaft auf Opus 4.8 umstellen, und empfiehlt getrennte Gespräche sowie gespeicherte Notizen als praktische Gegenmaßnahmen.
- What Is Anthropic’s Scion? The Git Replacement It Says You Shouldn’t Use
Scion ist laut Bericht ein internes Anthropic-System für extreme Merge-Lasten, dessen Leistungsangaben nicht extern geprüft werden können und dessen Merge-Strategie offene Fragen aufwirft.
- Seven AI Models Traded Prediction Markets for a Week. Five Lost Money.
Der vorliegende Auszug berichtet, dass bei PolyBench fünf von sieben selbstsicher handelnden Sprachmodellen Geld verloren; der vollständige Artikel und seine angekündigten weiteren Belege sind gesperrt.
- AI Doesn’t Need a Quantum Computer. Quantum Computers Need AI.
Nur ein Auszug liegt vor: Er berichtet von einer laut Autor 1,4-prozentigen Perplexitätsverbesserung durch einen Quantenschaltkreis in Llama 3.1 und deutet an, dass KI eher Quantencomputern helfen könnte; die vollständige Argumentation fehlt.
- Kimi K3 Really Does Run on a 4GB GPU. A 500-Token Answer Takes 42 Hours.
Kimi K3 lässt sich laut Bericht mit wenig VRAM ausführen, doch der Autor hält die extrem lange Laufzeit und den hohen Speicherbedarf für praktische Grenzen und sieht den Hauptnutzen eher in Forschung und Modellinspektion.
- 41% of LinkedIn Posts Are Fully AI. The Feed Was Built to Reward Them.
Der Beitrag behauptet, dass günstige KI-Texterstellung und LinkedIns Ranking viele generische Beiträge fördern könnten, während die geplante Gegenmaßnahme Originalität schwer messbar mache und laut den genannten Studien erhebliche Unsicherheiten bestehen.
- I Ran Three AI Coding Agents at Once and Turned Into Young Steve Jobs
Der Autor plädiert dafür, Coding-Agenten mit klaren Vorgaben arbeiten zu lassen und ihre Ergebnisse am Ende sorgfältig zu prüfen, weil Tests bei kleinen Datenmengen Produktionsprobleme wie einen fehlenden Index übersehen können.
- BERT Meets GPUs
Der vollständige NVIDIA-Bericht behauptet, BERT-large mit Mixed Precision und XLA bei vergleichbarer Genauigkeit deutlich schneller trainiert zu haben, und veröffentlicht dafür Rezepte sowie versuchsbezogene Leistungswerte.
- Strands Decider: A small, fast decision model for agentic AI.
Der vollständige Bericht beschreibt Strands Decider für schnelle strukturierte Agentenentscheidungen und führt Leistungswerte an, deren Konfidenz und Schwellen laut Autor am jeweiligen Einsatz geprüft und angepasst werden sollten.
- The First 10 Million Token AI Model You Can Run on a Single GPU Is Here
Pokee behauptet, Isaac 28B verbinde zehn Millionen Tokens Kontext mit Einzel-GPU-Betrieb; die im Bericht genannten Leistungswerte sind nicht unabhängig belegt.
- The New AI Stack: Models, Harnesses, Loops, and Self-Improving Agents
Der vollständige Beitrag vertritt die These, dass bei KI-Produkten neben dem Modell vor allem ein gut organisierter und evaluierter Harness zählt, belegt seine Leistungsversprechen im Text aber nicht mit konkreten Messdaten.
- MiniMax M2.1: The Open-Source Coding Model to Elevate Code Engineering
Der Beitrag lobt MiniMax M2.1 für Coding und Agentenarbeit anhand berichteter Benchmarkwerte, ohne die Ergebnisse ausführlich unabhängig zu belegen.
- AI safety solutions mapping: An initiative for advanced AI governance
GRASP soll laut Bericht internationale KI-Risiken und Sicherheitslösungen für Forschung und Politik kartieren; konkrete Wirkungsnachweise enthält der Text nicht.
- Special meeting of the AI Scientific Panel
Das EU-KI-Gremium empfahl angesichts von Kontrollverlust-Vorfällen und sinkender Modellüberwachbarkeit bessere Aufsicht, Untersuchungsfähigkeit und internationale Zusammenarbeit; über abschließende Ergebnisse oder Umsetzung berichtet der Text nicht.
- Monitorable-by-design architectures for a post-Astra world: a compartmentalization-based approach
- The enforcement framework of the AI Act
Der Bericht skizziert Zuständigkeiten, Ermittlungs- und Bußgeldbefugnisse sowie den gestaffelten Zeitplan zur Durchsetzung des AI Act und bezeichnet sich als unverbindliche Informationsübersicht.
- Bridging frameworks: How HAIP 2.0 supports interoperability with the EU AI Act
HAIP 2.0 soll EU-Regeln durch freiwillige, öffentliche und international vergleichbare Berichte ergänzen; die berichteten Überschneidungen beruhen auf einer unabhängigen CeSIA-Analyse, und die praktische Wirkung hängt von tatsächlichen Offenlegungen ab.
- How are AI developers managing risks? Insights from responses to the reporting framework of the Hiroshima AI Process Code of Conduct
Der bereitgestellte Auszug kündigt vorläufige Erkenntnisse von 20 Organisationen zu einem freiwilligen KI-Berichtsrahmen an, enthält aber selbst keine konkreten Ergebnisse.
- Paris AI Security Forum 2025
- Documenting the Impacts of Foundation Models
Der bereitgestellte Auszug skizziert vier Praktiken zur Dokumentation von Foundation-Model-Auswirkungen, fünf Hindernisse und dazugehörige Empfehlungen, ohne Methoden und Beispiele ausführlich darzustellen.
- Frontier AI Frameworks Workstream
- Introducing ControlArena: A library for running AI control experiments
ControlArena soll KI-Kontrollexperimente mit gemeinsamen Umgebungen und Protokollen erleichtern; der Bericht beschreibt den Ansatz und frühe Nutzung, aber keine quantitativen Wirksamkeitsnachweise.
- FMF Response: Request for Information on the Development of an AI Action Plan
- Sociotechnical Safety Evaluation of generative AI systems
Der vorliegende Abstract-Auszug skizziert einen dreistufigen Rahmen zur soziotechnischen Bewertung generativer KI und eine Bestandsaufnahme von Lücken, nennt aber keine Einzelheiten zu deren Befunden.
- Ensuring AI’s trustworthiness: reliability engineering meets data-driven risk management
Der Beitrag empfiehlt Zuverlässigkeitstechnik und dokumentierte Vorfallmeldungen für das KI-Risikomanagement, betont aber, dass dieser Ansatz allein keine KI-Sicherheit garantiert.
- Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI
Der Abstract skizziert Ansätze zur Steuerung von KI-Risiken über den Systemlebenszyklus hinweg, nennt dafür OECD-, ISO- und NIST-Rahmenwerke, liefert aber selbst keine konkreten Ergebnisse.
- Violet Teaming in Practice
Der Auszug berichtet, dass ein Pilotworkshop mit „Violet Teaming“ Missbrauchsrisiken und Umsetzungsgrenzen komplexer KI untersuchte; der vollständige Bericht liegt hier nicht vor.
- 美国观察|从零份文件到两份清单:白宫会谈后中美人工智能治理合作的区间、层级与路线
Laut Bericht ist begrenzte technische Kooperation zwischen China und den USA bei KI-Vorfällen und Tests wahrscheinlicher als ein verbindliches Abkommen zu Spitzenmodellen.
- Prioritizing Real-Time Failure Detection in AI Agents
Der bereitgestellte Auszug fordert abgestufte Echtzeitkontrollen für KI-Agenten, abhängig von Folgen, Umkehrbarkeit und Handlungsspielraum, und nennt selbst keine empirischen Ergebnisse.
- European AI Office
Das Europäische KI-Büro soll laut Bericht die EU-KI-Regeln umsetzen und durchsetzen sowie vertrauenswürdige KI fördern; konkrete Ergebnisse oder die Wirksamkeit seiner Maßnahmen bewertet der Text nicht.
- Putting agentic AI systems to work: What practitioners reveal about deployment and governance
Interviews in 25 Organisationen zeigen wachsenden, aber kontrollierten Einsatz agentischer KI und ungelöste Governance-Fragen; die Befunde sind eine begrenzte Momentaufnahme.
- Post by @LuizaJarovsky on X
- AI-Bio Workstream
- Metrics of Agent Ability
METR systematisiert agenten- und menschenbezogene Fähigkeitskennzahlen und zeigt, dass ihre Aussagekraft von Leistungskurven, Aufwand und Messbedingungen abhängt.
- Capturing and Countering Threats to National Security: a Blueprint for an Agile AI Incident Regime
Der Bericht schlägt Sicherheitsnachweise, eine Meldefrist von 24 Stunden und staatliche Untersuchungs- und Eingriffsbefugnisse für KI-Vorfälle vor, belegt aber keine Umsetzung oder Wirksamkeit.
- Information Sharing, Incident Reporting, and Incident Response for Frontier AI Risks
- AI-Cyber Workstream
- Announcement of New AI Safety Fund Grantees
- Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems
- Interpretability
- Issue Brief: Thresholds for Frontier AI Safety Frameworks
- The HAIP Reporting Framework: Feedback on a quiet revolution in AI transparency
Frühe qualitative Rückmeldungen sehen HAIP als nützlichen, aber noch erklärungsbedürftigen Transparenzrahmen, dessen Weiterentwicklung Flexibilität, Vergleichbarkeit und kontextbezogene Bewertung ausbalancieren sollte.
- GPAI SAFE project report: Technical trustworthiness and data governance assurance of models
Der vorliegende Auszug stellt SAFE und seine zwei Arbeitsbereiche vor, enthält aber keine konkreten Methoden oder Ergebnisse.
- Safety in Artificial Intelligence: Challenges and Opportunities for the U.S. National Labs and Beyond
Der vorliegende Abstract fordert umfangreiche KI-Sicherheitsforschung und staatliche Standards; er empfiehlt nationale Labore als Prüfstellen, legt aber keine konkreten Bewertungsverfahren dar.
- Emerging practices in frontier AI safety frameworks
Der vorliegende Auszug skizziert drei Kernbereiche von Sicherheitsrahmenwerken für Frontier-KI, nennt aber keine konkreten Praktiken oder Ergebnisse.
- Safety Cases: A scalable approach to Frontier AI safety
Der kurze Abstract argumentiert, Sicherheitsnachweise könnten die Sicherheit von Frontier-KI besser beurteilbar machen, lässt aber Methodik und Umsetzung als offene Forschungsfragen stehen.
- The ethics of advanced AI assistants
Der Beitrag skizziert mögliche gesellschaftliche Folgen fortgeschrittener KI-Assistenten und fordert vorausschauende Sicherheitsprüfungen, menschliche Wertausrichtung, Selbstbestimmung und gerechten Zugang.
- How to Assess the Likelihood of Malicious Use of Advanced AI Systems
Der vorliegende Auszug skizziert ein dreistufiges Verfahren zur Einschätzung der Wahrscheinlichkeit, dass fortgeschrittene KI für schädliche Zwecke eingesetzt wird, bewertet aber nicht das Schadensausmaß.
- Putting Teeth into AI Risk Management
Der Auszug empfiehlt, KI-Risikostandards mithilfe risikobasierter Bundesbeschaffung durchzusetzen und dabei aus der Cybersicherheit zu lernen.
- A Rosetta Stone for AI benchmarks
Ein statistisches Modell soll KI-Benchmarks vergleichbar machen; die daraus abgeleiteten Fortschritts- und Effizienztrends beruhen auf einer vereinfachenden Fähigkeitszahl und Daten bis November 2025.
- How the global community can come together to understand AI’s risks
Der Bericht empfiehlt eine koordinierte internationale KI-Governance, die politische Abstimmung und schnelle wissenschaftliche Risikobewertungen verbindet, obwohl Wissen, Zuständigkeiten und Zeitrahmen unsicher bleiben.
- Google DeepMind and partners announce multi-agent safety research funding call.
Google DeepMind und Partner schreiben bis zu 10 Millionen US-Dollar für Forschung zur Sicherheit interagierender KI-Agenten aus; der Beitrag skizziert Risiken und Förderbereiche, aber keine neuen Ergebnisse.
- Our position on open-weights models
Anthropic lehnt ein pauschales Verbot offener KI-Gewichte ab und plädiert für Chipkontrollen, Maßnahmen gegen industrielle Destillation und verpflichtende Tests leistungsfähiger Modelle.
- AI’s potential futures: Mitigating risks, harnessing opportunities
Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.
- Ethics and Artificial Intelligence
Der bereitgestellte Auszug empfiehlt, KI-Recht durch konkrete Ethikregeln, Prüfverfahren und Unternehmensverantwortung zu ergänzen und bestehende Prinzipien auf einzelne Anwendungen anzuwenden.
- Towards a Hiroshima Artificial Intelligence Process Code of Conduct Reporting Framework: Findings from the Pilot
Der bereitgestellte Auszug schildert die Entwicklung und Erprobung eines OECD-Berichtsrahmens zum Hiroshima-Kodex, enthält aber keine konkreten Ergebnisse des Piloten.
- AI security and sovereignty: INESIA unveils its roadmap for 2026-2027
- AI Safety Assessment < \n Our Work AISI AI Safety Institute
Das Institut will nationale Risiken fortgeschrittener KI erkennen und Bewertungsrahmen sowie Infrastruktur für deren Prüfung entwickeln; konkrete Ergebnisse nennt der Bericht nicht.
- Deadline extended to 1 October: Public consultation on risk thresholds for advanced AI systems
Der Bericht stellt eine OECD-Konsultation zu noch umstrittenen Risikoschwellen für fortgeschrittene KI vor, deren Beiträge bis zum 1. Oktober 2024 weitere Forschung und politische Arbeit unterstützen sollten.
- States Can Facilitate an AI Slowdown Without the Federal Government
- OpenAI Distillation Campaign: What It Says About Moonshot
OpenAI meldet eine unterbundene Kampagne zur Extraktion verborgener Modellüberlegungen und verbindet einen Kern der Aktivität mit Personen aus dem Umfeld von Moonshot AI, doch die Erfolgsmenge und die Belege der Zuordnung bleiben laut Bericht offen.
- Trusting AI starts with trusting its data
- Correlated Failures of AI Approval Monitors
Nur der Abstract liegt vor: Quellen statt Stimmen zu zählen senkte unnötige Zahlungssperren, aber ein Worst-Case-Angriff zeigte, dass Sprachmodell-Monitore allein nicht alle gemessenen Ausfälle abdecken.⟧
- AI Reference Architecture: A new blueprint to help government agencies design AI systems
- Anthropic IPO Disclosure of ‘Existential’ AI Risk Sets Standard
Der Autor meint, Unternehmen sollten konkrete, wesentliche KI-Risiken geschäftsbezogen offenlegen, da Anthropics Prospekt den erwarteten Maßstab dafür verschärfen könnte.
- AI safety depends on government capacity. Washington is weakening it.
Der Kommentar fordert, staatliche KI-Sicherheitskompetenz und die Zusammenarbeit von CBRN- und Cyberabwehr rasch wieder aufzubauen.
- IA, dal Vaticano l’appello a regole e responsabilità umane
- AI in combat: When humans are in the loop, but not in control
Wirksame menschliche Kontrolle über militärische KI erfordert laut Artikel mehr als ein formales Vetorecht: Sie braucht verständliche Systeme, geschultes Personal und Organisationen, die sorgfältige Prüfung ermöglichen und belohnen.
- Microdosing the spirit of Anthropic
- AI cyberattacks: a timeline of real cases
- Post by @NIST on X
- The AI Kill Switch Isn't One Control, and Stopping the Agent Is The Easy Part
- AI Arms Control in a Contested World
- AI Act Scientific Panel
Der Bericht stellt Auftrag und Zusammensetzung eines 60-köpfigen EU-Expertengremiums zum AI Act vor, enthält aber kaum Angaben zu den Ergebnissen seiner Arbeit.
- Progress Update: FMF Information Sharing of Frontier AI Threats and Vulnerabilities
- The Loss of Control Playbook: Degrees, Dynamics, and Preparedness
Der Bericht bietet eine grobe Taxonomie für KI-Kontrollverlust und empfiehlt, Risiken durch Prüfung von Einsatzkontext, Handlungsmöglichkeiten und Berechtigungen sowie durch mehrschichtige Schutzmaßnahmen zu begrenzen.
- The Global South can shape AI in practical terms: Why the India AI Impact Summit Matters
Der Blogbeitrag plädiert dafür, den Indien-Gipfel zu nutzen, um inklusive und messbare KI-Anwendungen sowie praktische Sicherheits- und Rechenschaftsregeln voranzubringen, berichtet aber keine tatsächlichen Gipfelergebnisse.
- What’s New at FAR.AI
- Questions and answers on the code of practice for General-Purpose AI
Der Auszug erklärt Zweck, Themen und Zeitplan des freiwilligen EU-Kodex für GPAI-Anbieter und endet mit einer unbeantworteten Frage nach weiteren Informationen.
- Post by @boazbaraktcs on X
- Drawing-up a General-Purpose AI Code of Practice
Der Bericht beschreibt den breit angelegten Prozess zur Ausarbeitung des freiwilligen GPAI-Kodex und einer Vorlage für Trainingsdaten-Zusammenfassungen, erläutert aber die konkreten Kodexregeln nicht ausführlich.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- Automated alignment is harder than you think
Der bereitgestellte Abstract behauptet, automatisierte Ausrichtungsforschung könne durch schwer erkennbare und korrelierte Fehler trügerische Sicherheit erzeugen; mögliche Gegenansätze stehen laut Autorinnen und Autoren vor neuen Herausforderungen.
- Post by @Sam_McCandlish on X
- Post by @Sam_McCandlish on X
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →