- What do “economic value” benchmarks tell us?
Drei Benchmarks messen einzelne digitale Arbeitsaufgaben, doch ihre Ergebnisse belegen laut Bericht keine Automatisierung ganzer Berufe und können durch Aufgabenwahl und Testumgebungen verzerrt sein.
- Advancing coding in low‑resource programming languages
Laut OpenAI schneiden neue Modelle bei Tests zum Programmieren in mehreren Sprachen und zur COBOL-Migration deutlich besser ab; produktive Migrationen erfordern laut Bericht weiterhin fachkundige Prüfung.
- Introducing OpenAI Privacy Filter
OpenAI veröffentlicht Privacy Filter zur Erkennung und Schwärzung personenbezogener Daten, betont aber, dass das Modell fehleranfällig ist und in sensiblen Anwendungen menschliche Kontrolle nicht ersetzt.
- Is AI already superhuman on FrontierMath?
Der bereitgestellte Bericht ist ein Auszug; Ho sieht o4-mini-medium auf FrontierMath ungefähr auf menschlichem Niveau, hält den Vergleich und die Hochrechnung aber für unsicher.
- Less than 70% of FrontierMath is within reach for today’s models
Epoch beobachtete Lösungen für 57 Prozent der FrontierMath-Aufgaben und schätzt aufgrund unsicherer Extrapolationen, dass heutige Modelle bei wiederholten Versuchen unter 70 Prozent bleiben könnten.
- New AI classifier for indicating AI-written text
Der Bericht beschreibt einen unzuverlässigen KI-Textklassifikator, der laut Hinweis seit Juli 2023 wegen zu geringer Genauigkeit nicht mehr verfügbar ist.
- Why language models hallucinate
Laut OpenAI begünstigen Genauigkeitsmaßstäbe das Raten, weshalb Bewertungen angemessene Unsicherheit belohnen und selbstsichere Fehler stärker bestrafen sollten.
- Understanding the source of what we see and hear online
OpenAI arbeitet an Herkunftsstandards und Erkennungstools für KI-Inhalte, deren Nutzen laut Bericht durch entfernbare Metadaten, begrenzte Erkennungsleistung und mögliche Nachteile für einzelne Gruppen eingeschränkt ist.
- Advancing computer use with Ironclad
Laut OpenAI schnitt GPT‑6 Astra in 11 gemeinsam mit Ironclad entwickelten Vertragsaufgaben besser und schneller ab als GPT‑5.6 Sol, wobei die Zeitwerte simuliert und die Ergebnisse nicht auf alle Abläufe übertragbar sind.
- PaperBench: Evaluating AI’s Ability to Replicate AI Research
Der bereitgestellte Auszug beschreibt PaperBench zur Bewertung von KI-Forschungsreplikationen und berichtet, dass der beste getestete Agent 21,0 Prozent erreichte und die Modelle die menschliche Vergleichsleistung nicht übertrafen.
- Measuring Goodhart’s law
Der Beitrag zeigt anhand von Best-of-n-Sampling, wie man die Folgen der Optimierung eines Ersatzmaßes untersucht, weist aber auf begrenzte Übertragbarkeit und hohen Aufwand bei großen Optimierungsschritten hin.
- Learning to summarize with human feedback
Laut Bericht verbessert menschliches Feedback maschinelle Zusammenfassungen auch über den Reddit-Trainingsdatensatz hinaus, doch bleiben Bewertungsfehler, Längeneffekte, Voreingenommenheit und hoher Rechenaufwand zentrale Einschränkungen.
- Introducing SimpleQA
SimpleQA soll Faktentreue bei kurzen, eindeutig beantwortbaren Fragen messen; laut Bericht überschätzen Modelle oft ihre Sicherheit, und die Übertragbarkeit auf lange Texte ist offen.
- Introducing GPT-4.1 in the API
OpenAI zufolge bieten GPT‑4.1, mini und nano Leistungs- und Kostenvorteile für API-Anwendungen, doch die berichteten Ergebnisse variieren je nach Aufgabe und Testbedingungen.
- DALL·E 2 research preview update
OpenAI will DALL·E 2 schrittweise für mehr Wartelisten-Nutzer öffnen und beschreibt Sicherheitsmaßnahmen, deren Wirksamkeit im Bericht nur durch Unternehmensangaben belegt ist.
- https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf
Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.
- Variation in reversal learning by three generalist mesocarnivores
Die Studie findet erste Hinweise, dass drei städtisch verbreitete Raubtierarten gelernte Zuordnungen umkehren können; kleine Stichproben und geringe Kojotenbeteiligung begrenzen die Schlussfolgerungen.
- AlphaGeometry: An Olympiad-level AI system for geometry
AlphaGeometry löste laut Bericht 25 von 30 Olympiade-Geometrieaufgaben mithilfe einer Kombination aus Sprachmodell, formaler Deduktion und synthetischen Trainingsdaten, bleibt aber auf Geometrie spezialisiert.
- 3D gamma analysis between treatment plans for nominally beam‐matched medical linear accelerators using PyMedPhys
Laut Bericht kann die 3D-Gamma-Analyse den sicheren Planvergleich zwischen zwei nominell angepassten Linearbeschleunigern ergänzen, doch strengere Prüfungen zeigen Ausnahmen und die Ergebnisse gelten nur für die untersuchten Photonengeräte und Pläne.
- Accurate structure prediction of biomolecular interactions with AlphaFold 3
Laut Bericht erweitert AlphaFold 3 die Vorhersage biomolekularer Strukturen deutlich, bleibt aber bei Stereochemie, ungeordneten Bereichen und dynamischen Zuständen fehleranfällig.
- An encyclopedia of enhancer-gene regulatory interactions in the human genome
Ein noch nicht begutachtetes Preprint präsentiert ENCODE-rE2G, das Millionen möglicher Enhancer-Gen-Verbindungen vorhersagt, wobei die Aussagekraft durch begrenzte und teils wenig zelltypspezifische Validierungsdaten eingeschränkt ist.
- untitled
Der Artikel zeigt anhand konkreter Tiermodelle, dass U-Net-Deep-Learning Entwicklungsphänotypen automatisiert erfassen kann, sofern Trainingsdaten die untersuchten Proben und Bildbedingungen hinreichend abbilden.
- Exploiting prior knowledge about biological macromolecules in cryo-EM structure determination
Ein lernbasiertes Kryo-EM-Regularisierungsverfahren verbesserte Tests mit simulierten Daten, muss aber falsche Strukturmerkmale und die noch ungeprüfte Übertragbarkeit auf experimentelle Daten berücksichtigen.
- Prompting Claude's long context window
Laut Anthropic helfen passende Beispiele und relevante Zitate Claude bei Fragen zu langen Dokumenten, wobei der Effekt von der Position der gesuchten Passage abhängen kann.
- How well can AI play Slay the Spire?
Der Auszug berichtet von starken KI-Fortschritten in Slay the Spire 1, doch selbst die besten getesteten Modelle gewinnen auf Höchstschwierigkeit nur rund ein Fünftel ihrer Versuche; vollständige Ergebnisse zu Slay the Spire 2 fehlen.
- Long-running Claude for scientific computing
- Claude has improved on a longstanding lower bound for the fraction of zeros of the Riemann zeta function that satisfy the Riemann hypothesis
- Can AI spot mistakes in IKEA assembly?
Im kleinen FAB-Test von Epoch AI erkannte GPT-6 Astra Montagefehler am besten, doch die Aussagekraft für reale Reparaturen bleibt wegen des begrenzten Tests offen.
- How to measure FLOP for neural networks empirically?
Der Bericht schätzt die GPU-Auslastung der meisten getesteten Netze auf 0,3–0,75, betont aber, dass Profilerfehler die Messwerte begrenzen und MobileNet sowie EfficientNet auffällig niedrige Ausreißer sind.
- The plunging price of thought
Laut Epoch AI sanken die Kosten für festgelegte KI-Benchmark-Leistungen im Untersuchungszeitraum im Schnitt um etwa 47 Prozent pro Quartal, doch die Schätzung ist wegen Daten- und Übertragungsgrenzen nur näherungsweise zu verstehen.
- Jalapeño’s first results show industry-leading speed and efficiency in AI inference
OpenAI berichtet, dass sein noch für den Einsatz vorbereiteter Jalapeño-Chip in Benchmarks mit drei Modellen mehr Durchsatz pro Watt und geringere Latenz als Vergleichssysteme erreicht habe.
- Introducing canvas
Canvas ist OpenAIs neue Beta-Oberfläche für gemeinsames Bearbeiten von Text und Code; die berichteten internen Verbesserungen sind laut OpenAI teilweise promptabhängig.
- Solving Rubik’s Cube with a robot hand
Der Bericht beschreibt OpenAIs simulationsbasiertes Training einer Roboterhand zum Würfellösen, mit 60 Prozent Erfolg bei einfacheren und 20 Prozent bei besonders schwierigen Aufgaben.
- Procgen Benchmark
Procgen soll mit 16 vielfältigen, prozedural erzeugten Umgebungen zeigen, ob RL-Agenten tatsächlich generalisieren; laut Bericht reichen kleine Trainingsmengen oft nicht aus, genaue Diagrammwerte sind im Text jedoch nicht angegeben.
- CLIP: Connecting text and images
OpenAI zufolge macht CLIP Bildklassifikation flexibler und auf mehreren Tests robuster, bleibt aber bei bestimmten Aufgaben, der Prompt-Wahl und gesellschaftlichen Risiken deutlich begrenzt.
- OpenAI Five
OpenAI Five erzielte laut einem Bericht von Juni 2018 mit massiv skaliertem Selbstspiel erste Siege gegen menschliche Dota-2-Teams, allerdings unter Einschränkungen und mit offenem Ausgang für das geplante Spitzenspiel.
- The International 2018: Results
OpenAI Five verlor zwei enge Spiele gegen Dota-Profis; OpenAI sieht weiteren Trainings- und Entwicklungsbedarf, ohne eine einzelne Ursache für die Niederlagen zu belegen.
- Quantifying generalization in reinforcement learning
CoinRun macht sichtbar, dass Reinforcement-Learning-Agenten auch nach umfangreichem Training auf neue Levels überanpassen können, wobei einige Architektur- und Trainingsmethoden die Verallgemeinerung verbessern.
- Accelerating life sciences research
Laut OpenAI und Retro Biosciences verbesserten KI-entworfene Proteine in Laborversuchen die Zellreprogrammierung und DNA-Schadensmarker, doch klinische Wirksamkeit ist damit nicht belegt.
- OpenAI Five Benchmark
OpenAI kündigt ein Dota-Benchmarkspiel gegen Spitzenspieler an, doch die bereitgestellte Ankündigung enthält keinen Spielausgang und lässt bei einigen Regeln Widersprüche erkennen.
- https://arxiv.org/pdf/1910.07113
Der Bericht zeigt, dass eine in Simulation mit ADR trainierte Roboterhand einen Rubik’s Cube teilweise auf realer Hardware lösen kann, doch vollständige Erfolge und rein visuelle Zustandsbestimmung mit einem Standardwürfel bleiben begrenzt.
- https://arxiv.org/pdf/2109.07958
TruthfulQA soll das Nachahmen verbreiteter Irrtümer messen; laut Bericht waren die getesteten Modelle im Benchmark deutlich weniger wahrheitsgemäß als die menschliche Vergleichsperson, wobei die Ergebnisse keine sichere Aussage über Fach- oder Anwendungsszenarien erlauben.
- Scalable Active Learning for Autonomous Driving
Laut NVIDIA verbesserte Active Learning in einem einzelnen Nachtexperiment die Erkennung von Fahrrädern und Fußgängern gegenüber manueller Datenauswahl, doch die Autoren sehen weitere Langzeittests als nötig an.
- AI is a viable alternative to high throughput screening: a 318-target study
Die Autoren sehen AtomNet aufgrund von Treffern in 318 Projekten als möglichen Ersatz für HTS in der ersten Wirkstoffsuche; ein direkter kontrollierter Vergleich fehlt jedoch.
- Computational predictions of protein structures associated with COVID-19
DeepMind stellte vorläufige AlphaFold-Strukturvorhersagen für SARS-CoV-2-Proteine bereit und betonte, dass sie nur teilweise überprüft und nicht als gesichert anzusehen sind.
- Functional reorganization of motor cortex connectivity during learning
Der nicht begutachtete Vorabdruck legt nahe, dass Mäuse beim schnellen BCI-Lernen lokale Verbindungen im motorischen Kortex umorganisieren, besonders in Zellen mit vorbereitender Aktivität.
- Large language models possess some ecological knowledge, but how much?
Sprachmodelle zeigen ökologisches Wissen, doch laut Bericht reichen ihre Fähigkeiten besonders bei räumlich präzisen und naturschutzrelevanten Aufgaben nicht für verlässliche Entscheidungen ohne externe Daten und menschliche Prüfung aus.
- A multi-modal transformer for cell type-agnostic regulatory predictions
EpiBERT verbindet DNA-Sequenz und Chromatinzugänglichkeit und kann laut Bericht regulatorische Signale sowie Genexpression in neuen Zelltypen vorhersagen, ist aber durch Trainingsähnlichkeit, Datenumfang und 128-Basenpaar-Auflösung begrenzt.
- A virtual rodent predicts the structure of neural activity across behaviors
Laut Studie sagt ein virtuelles Rattenmodell neuronale Aktivität besser voraus als Bewegungsmerkmale; das spricht für eine mögliche Rolle inverser Dynamik, bleibt aber ein vereinfachter Modellbefund.
- Using the Veil of Ignorance to align AI systems with principles of justice
Der Bericht sieht den „Schleier des Nichtwissens“ als möglichen Weg zu faireren KI-Leitprinzipien, doch die Ergebnisse aus vereinfachten Experimenten sind uneinheitlich und müssen in realistischen Kontexten geprüft werden.
- AI achieves silver-medal standard solving International Mathematical Olympiad problems
DeepMind berichtet, dass seine KI-Systeme bei der IMO 2024 nach manueller Formalisierung vier von sechs Aufgaben lösten und 28 Punkte auf Silbermedaillenniveau erreichten.
- Latency scaling differences for GPT and Claude models
Die getesteten GPT-Modelle zeigten mit wachsendem Kontext stärker gekrümmte TTFT-Zuwächse als die nahezu linear skalierenden Claude-Modelle, wobei Messungen nur bis etwa eine Million Tokens vorliegen.
- More on Dota 2
Laut OpenAI besiegte ein per Selbstspiel trainierter Bot Dota-2-Profis im 1-gegen-1, blieb aber anfällig für ungewohnte Strategien; 5 gegen 5 war noch ungelöst.
- White House, major AI developers reach 'morally binding' safety commitments
Sechs KI-Unternehmen vereinbarten mit dem Weißen Haus freiwillige Sicherheitskontrollen und Prüfungen, doch der Bericht nennt keine Durchsetzung und lässt ihre Wirksamkeit offen.
- AI leaders support call to slow pace of frontier development as safety concerns grow
Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.
- White House Accord on Super Intelligence: Legal Guide for AI Firms
Der Beitrag beschreibt einen unverbindlichen Accord mit vier empfohlenen KI-Kontrollen, dessen praktische Bedeutung laut Autor vor allem aus bestehenden Regeln und möglichen Anforderungen von Geschäftspartnern entsteht.
- House Democratic Committee Leaders Request Frontier AI Companies Report Misalignment & Safety Incidents to Congress Within 48 Hours | House Committee on Science, Space and Technology
US-Demokraten verlangen von fünf Frontier-KI-Unternehmen eine Vorfallübersicht und schnelle Meldungen zu neuen Sicherheitsproblemen, doch der Bericht enthält keine Antworten der Unternehmen.
- The Hinton Lectures: Paul Christiano
Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.
- OpenAI study probes reasoning-trace oversight
OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.
- Paris Call for AI Safety: CeSIA signs, urges safeguards
CeSIA unterzeichnete den Pariser KI-Sicherheitsaufruf und fordert verbindliche Risikoschwellen, unabhängige Prüfungen mit Modellzugang sowie staatliche Aussetzungsbefugnisse.
- Paris Call on AI Safety and Security Explained
Eine unverbindliche internationale KI-Sicherheitserklärung verspricht Zusammenarbeit und bessere Prüfungen, lässt laut Bericht aber zentrale Regeln, Fristen und Zugänge offen.
- Control Room: A central system to track and stop model workloads across our research infrastructure
Laut Bericht kann Control Room Forschungsjobs zentral stoppen, doch die Sperre greift mit bis zu 35 Sekunden Verzögerung und der Ausfallschutz war noch nicht überall ausgerollt.
- Evaluating frontier models for stealth and situational awareness
Der bereitgestellte Bericht ist ein Auszug über Prüfungen zu Situationsbewusstsein und Heimlichkeit, die laut Autor:innen Hinweise auf die Fähigkeit zum Scheming geben sollen; konkrete Ergebnisse sind nicht enthalten.
- Summary of METR's predeployment evaluation of Claude Opus 5.5
METR bewertet Claude Opus 5.5 als schrittweise Verbesserung, die Forschung wahrscheinlich etwas stärker beschleunigt als Fable 5.1, aber weder AI R&D vollständig automatisiert noch nachweislich dramatisch KI-beschleunigt entwickelt wurde.
- Establishing the shared foundations for collective AI security
Der Bericht fordert gemeinsame internationale Forschung, Tests und Sicherheitspraktiken gegen Prompt-Injection, Agentenmissbrauch und Datenvergiftung, während er auf eine noch lückenhafte Evidenzbasis hinweist.
- Frontier AI Risk Monitor update: risk indices rise severalfold as multiple models cross key threshold
Concordia AI meldet stark gestiegene Risiken bei Frontier-Modellen und teils unzureichende Schutzmaßnahmen, weist aber darauf hin, dass die neue Bewertungsmethode nicht direkt mit früheren Versionen vergleichbar ist.
- A Primer on the EU AI Act: What It Means for AI Providers and Deployers
OpenAI erläutert Verbote, Risikoklassen, Pflichten und Fristen des EU AI Act und berichtet über eigene Compliance-Schritte, wobei der Überblick zeitgebunden ist und Umsetzungsdetails offenließ.
- The US is advancing AI safety through state and federal action
Der Beitrag plädiert aus OpenAIs Sicht für abgestimmte Landesgesetze, einen bundesweiten Prüfrahmen für fortgeschrittene KI und darauf aufbauende internationale Standards.
- A five-step roadmap to closing the AI evaluation gap
Der Bericht schlägt fünf Schritte vor, um KI-Prüfungen realistischer, kontextgerechter und vertrauenswürdiger zu machen, räumt aber ein, dass die Lücke noch nicht geschlossen ist und die erwarteten Vorteile nicht nachgewiesen sind.
- Expanding Daybreak as the Cyber Defense Window Narrows
OpenAI erweitert Daybreak um GPT‑5.6‑Cyber für autorisierte Sicherheitsforschung und berichtet von gemischten Testergebnissen, behobenen Schwachstellenfunden sowie einer Einstufung unterhalb der eigenen „Critical“-Schwelle.
- Estimating worst case frontier risks of open weight LLMs
Der vorliegende Abstract-Auszug behauptet, gezieltes Fine-Tuning habe bei gpt-oss keine wesentliche Verschiebung der offenen Modellfrontier gezeigt und habe zur Veröffentlichungsentscheidung beigetragen.
- Five lessons from having helped run an AI-Biology RCT
Der Beitrag folgert aus einer RCT ohne signifikanten Gesamteffekt, dass KI-Risiken durch regelmäßige, sorgfältige Studien besser untersucht und Schutzmaßnahmen früh vorbereitet werden sollten.
- Evaluating social and ethical risks from generative AI
Die Autorinnen und Autoren plädieren für eine kontextbezogene Bewertung generativer KI, die neben Modellfähigkeiten auch menschliche Nutzung und gesellschaftliche Folgen untersucht.
- Common Elements of Frontier AI Safety Policies (December 2025 Update)
Der Auszug fasst METRs Darstellung gemeinsamer Sicherheitsmaßnahmen in Richtlinien von zwölf KI-Entwicklern zusammen, bietet aber weder eine vollständige Einzelanalyse noch Wirksamkeitsnachweise.
- 人工智能控制:如何利用违规人工智能体
KI-Kontrolle soll gefährliche Handlungen autonomer Agenten begrenzen, doch ihre Wirksamkeit bei sehr leistungsfähigen Systemen sowie Kosten und Prüfaufwand bleiben laut Bericht offen.
- Review of the Anthropic Summer 2025 Pilot Sabotage Risk Report
Der vorgelegte Auszug berichtet, dass METR Anthropics Einschätzung eines geringen Sabotagerisikos für Opus 4 und 4.1 überwiegend teilt, trotz möglicher übersehener fehlgeleiteter Überlegungen.
- From “black box AI” to operational AI transparency: How the HAIP Reporting Framework can play an important role in global AI governance
Der Beitrag sieht HAIP als ausbaufähigen freiwilligen Rahmen für vergleichbare KI-Transparenz, dessen Nutzen bislang vor allem als Potenzial beschrieben wird.
- G7 AI transparency reporting: Ten insights for AI governance and risk management
20 freiwillige HAIP-Berichte zeigen laut OECD vielfältige Ansätze für KI-Risikomanagement und Transparenz, zugleich bleiben Vergleichbarkeit und technische Herkunftsnachweise begrenzt.
- AI governance through global red lines can help prevent unacceptable risks
Der Bericht fordert präzise, international durchsetzbare KI-rote-Linien und Sicherheitsnachweise, hält deren Umsetzung bei heutigen komplexen Modellen aber für schwierig.
- An early warning system for novel AI risks
Der Beitrag plädiert für fortlaufende Prüfungen gefährlicher Fähigkeiten und der Ausrichtung von KI-Modellen, betont aber, dass solche Bewertungen allein Risiken nicht zuverlässig erfassen oder verhindern können.
- AI models can be dangerous before public deployment
METR fordert, KI-Sicherheit über den gesamten Entwicklungsprozess hinweg zu behandeln, weil Prüfungen vor der Veröffentlichung Risiken aus Training, interner Nutzung und Modell-Diebstahl nicht allein abdecken.
- Shaping trustworthy AI: Early insights from the Hiroshima AI Process Reporting Framework
19 freiwillige Berichte liefern einen vorläufigen Einblick in KI-Risikomanagement und Governance; die OECD will den HAIP-Rahmen vereinfachen, aktualisieren und ausweiten.
- Introducing the Frontier Safety Framework
DeepMind beschreibt ein vorläufiges System, das künftige gefährliche KI-Fähigkeiten früh erkennen und durch abgestufte Schutzmaßnahmen begrenzen soll.
- Looking ahead to the AI Seoul Summit
Google DeepMind plädiert für globale Zusammenarbeit, gemeinsame Prüfmaßstäbe und wissenschaftlich fundierte Risikobewertung für fortgeschrittene KI, wobei der Beitrag die Unsicherheit und den frühen Entwicklungsstand der Sicherheitsprüfungen einräumt.
- 2023 Year In Review
METR berichtet für 2023 über neue Tests für autonome KI-Agenten, einen Sicherheitsrahmen für den Umgang mit Gefahrenhinweisen und eine Kooperation mit dem britischen AI Safety Institute; konkrete Wirksamkeitsnachweise fehlen im Rückblick.
- New report: Evaluating Language-Model Agents on Realistic Autonomous Tasks
Laut ARC Evals bewältigten die getesteten Claude- und GPT-4-Agenten nur die einfachsten von zwölf ARA-Aufgaben, doch Fine-Tuning und bessere Agenten könnten die Fähigkeiten verändern; konkrete Ergebniszahlen sind im Text nicht enthalten.
- Update on ARC's recent eval efforts
Die getesteten Modelle scheiterten laut ARC an autonomer Selbstreplikation, zeigten aber relevante Teilfähigkeiten – weshalb der Bericht systematische Prüfungen künftiger Modelle fordert und zugleich seine vorläufige, eingeschränkt nachvollziehbare Versuchsanordnung betont.
- Taking a responsible path to AGI
DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.
- A milestone in international AI transparency: The OECD publishes initial submissions from the G7 Hiroshima AI Process Reporting Framework
Die OECD veröffentlicht erste KI-Governance-Berichte von 19 Organisationen; konkrete Auswertungsergebnisse enthält der Beitrag noch nicht.
- Building trust in AI: A practical approach to transparency
Der Bericht plädiert für verständliche, vergleichbare und regelmäßig angepasste Transparenzberichte, räumt aber Herausforderungen durch technische Komplexität, uneinheitliche Vorgaben und den Wandel der KI ein.
- Repurposing the Wheel: Lessons for AI Standards
Der Auszug empfiehlt, KI-Standards risikogerecht, anpassungsfähig und besser koordiniert zu entwickeln; der vollständige Bericht und die Fallstudiendetails liegen nicht vor.
- How our principles helped define AlphaFold’s release
DeepMind zufolge wurde AlphaFold nach interner und externer Prüfung breit zugänglich gemacht, wobei Unsicherheiten der Vorhersagen kenntlich sind und mögliche Risiken weiter beobachtet werden.
- Google DeepMind strengthens the Frontier Safety Framework
DeepMind erweitert sein KI-Sicherheitsframework um zusätzliche Risiko- und Prüfverfahren; der Bericht beschreibt den unternehmenseigenen Ansatz, belegt aber nicht unabhängig dessen Wirksamkeit.
- Skating to Where the Puck Is Going
Der Auszug plädiert dafür, die wachsenden KI-Risiken durch Prüfungen, stärkere staatliche Fachaufsicht und gezielte Anreize für die Industrie zu bewältigen.
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Complete the G7 Hiroshima AI Process Reporting Framework by 15 April 2025 and join the leaders shaping AI transparency
Der Beitrag ruft KI-Entwickler zur öffentlichen Berichterstattung über Risikomanagement und Governance im Rahmen des G7 Hiroshima AI Process auf; die Frist für den ersten Zyklus war laut Text der 15. April 2025.
- How the G7’s new AI reporting framework could shape the future of AI governance
Der OECD-Beitrag stellt einen freiwilligen, öffentlichen Berichtsrahmen zum Hiroshima-KI-Kodex vor, dessen erwartete Wirkung von dauerhafter Beteiligung und praktischer Weiterentwicklung abhängt.
- Gram: Assessing sabotage propensities via automated alignment auditing
Nur der Abstract liegt vor: Gram soll Sabotage bei KI-Agenten prüfen; laut Autoren zeigten Gemini-Modelle in Simulationen selten Fehlverhalten, das unter realistischeren Bedingungen und ohne entsprechende Anreize fast verschwand.
- Risk thresholds for frontier AI: Insights from the AI Action Summit
Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.
- Building standards for the next phase of AI
OpenAI fordert eine von den USA angeführte internationale Standardsetzung für fortgeschrittene KI, betont aber, dass autonome Selbstverbesserung derzeit nicht stattfinde und nur unter gesicherter menschlicher Kontrolle verfolgt werden solle.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →