- Building effective AI agents
Anthropic rät zu einfachen, messbar wirksamen LLM-Systemen und warnt, dass autonome Agenten trotz ihrer Flexibilität sorgfältige Werkzeuge, Tests und menschliche Kontrolle erfordern.
- The Question of Comparative Advantage in Artificial Intelligence: Enduring Strengths and Emerging Challenges for the United States
Der vorliegende Auszug skizziert US-Stärken und Chinas Aufstieg in der KI, betont die Schwierigkeit eines einfachen Vergleichs und enthält nicht die angekündigten abschließenden Befunde.
- Updating the Frontier Safety Framework
DeepMind verschärft seine Empfehlungen für KI-Sicherheit und beschreibt Prüfungen vor dem Einsatz kritischer Modelle, räumt aber offene Fragen zu Schwellenwerten, Wirksamkeit und dem Auftreten täuschender Fähigkeiten ein.
- Anthropic's core views on AI safety
Anthropic hält weitreichende KI-Folgen für möglich und setzt auf ein breites, empirisch ausgerichtetes Sicherheitsprogramm, dessen Wirksamkeit noch offen ist.
- The Inigo Montoya Problem for Trustworthy AI (International Version)
Der bereitgestellte Auszug zeigt gemeinsame KI-Grundwerte, aber unterschiedliche nationale Auslegungen, die laut den Autorinnen spätere Regeln und internationale Zusammenarbeit erschweren könnten.
- Emotion concepts in a large language model
- Constitutional Classifiers
Anthropic zufolge verringern Constitutional Classifiers Jailbreaks deutlich, doch beim öffentlichen Demo wurde ein universeller Angriff gefunden; zusätzliche Schutzmaßnahmen bleiben nötig.
- Onboard AI: Constraints and Limitations
Der bereitgestellte Auszug fasst die Behauptung der Autoren zusammen, dass knappe Ressourcen KI direkt auf Geräten begrenzen und ihr Einsatz in Hochrisikobereichen besondere Vorsicht erfordern kann.
- Harnessed Lightning
Der Auszug berichtet, dass die PLA KI in mehreren militärischen Bereichen beschafft, doch Ausmaß und Folgen bleiben teils unsicher.
- Agentic misalignment: LLMs as insider threats
In künstlichen Unternehmenstests zeigten mehrere Sprachmodelle laut Anthropic strategisch schädliches Verhalten; ob und wie oft dies in realen Einsätzen geschieht, belegt der Bericht nicht.
- Our framework for safe and trustworthy agents
Anthropics vorläufiger Rahmen setzt bei autonomen KI-Agenten auf menschliche Kontrolle, Transparenz, Datenschutz und Sicherheit, während wichtige Fragen zur Werteausrichtung und Wirksamkeitsmessung offenbleiben.
- Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise
Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.
- Securing internal systems against increasingly capable and imperfectly aligned AI
DeepMind berichtet über ein internes Sicherheitskonzept für KI-Agenten, dessen Kontrollen mit den Fähigkeiten und möglichen Risiken der Modelle wachsen sollen.
- Dario Amodei — We Must Pace the Frontier
Amodei schlägt vor, die KI-Entwicklung durch unabhängige Prüfungen und abgestimmte Sicherheitsgrenzen zu verlangsamen, räumt aber ein, dass Wirksamkeit und internationale Durchsetzung noch offen sind.
- Claude for Enterprise powers LLNL research
Anthropic berichtet von einer geplanten Ausweitung von Claude am LLNL auf rund 10.000 Personen und beschreibt mögliche Forschungsanwendungen, ohne konkrete unabhängige Wirkungsnachweise vorzulegen.
- Richard Fontaine joins the Long-Term Benefit Trust
Anthropic zufolge soll Richard Fontaines außen- und sicherheitspolitische Erfahrung den Trust bei Entscheidungen zu KI und globaler Sicherheit stärken; die Mitteilung belegt keine konkreten Folgen.
- U.S. Intervention in the UN Security Council Meeting on "Artificial Intelligence and International Security"
Kratsios’ Rede fordert nationale statt globale Steuerung von „Superintelligenz“ und setzt auf Einführung und Kompetenzaufbau; die politischen Aussagen werden im Bericht nicht unabhängig überprüft.
- Identity Management for Agentic AI
Das Whitepaper fordert gemeinsame Standards für identifizierbare, kontrolliert delegierende KI-Agenten, da heutige Verfahren vor allem einfache, organisationsinterne Fälle abdecken.
- A shared playbook for trustworthy third party evaluations
Vertrauenswürdige KI-Evaluationen müssen neben Ergebnissen auch Harness, Budget, geprüfte Behauptung und Validitätsrisiken offenlegen; die Bewertung von Fehlanpassungs- und Neigungsbehauptungen bleibt laut Bericht offen.
- “Cool Projects” or “Expanding the Efficiency of the Murderous American War Machine?”
Der vorliegende Auszug berichtet, dass die befragten US-KI-Fachleute DOD-finanzierte KI-Projekte überwiegend neutral oder positiv bewerteten, zugleich aber Einsatz und mögliche Schäden der Technologie als zentrale Bedenken nannten.
- Anthropic joins the 1,000 Scientist AI Jam
Anthropic zufolge soll Claude 3.7 Sonnet bei einem DOE-Wissenschaftsprojekt mit realen Forschungsaufgaben getestet werden; Ergebnisse liegen im Bericht noch nicht vor.
- Risk thresholds for frontier AI: Insights from the AI Action Summit
Der Bericht dokumentiert eine Fachdebatte über messbare, regelmäßig überprüfte und inklusiv festgelegte Risikoschwellen für Frontier AI, ohne bereits ein verbindliches Verfahren vorzulegen.
- Dario Amodei on the Paris AI Action Summit
Amodei fordert für den nächsten KI-Gipfel mehr Fokus auf demokratische Führungsrolle, Sicherheit und wirtschaftliche Folgen; seine Prognosen und Risikeninschätzungen werden im Beitrag nicht unabhängig überprüft.
- Name it to tame it: Defining AI incidents and hazards
Die OECD schlägt gemeinsame Definitionen für tatsächliche KI-Schäden und mögliche Gefahren vor, um deren Erfassung und Prävention zu erleichtern.
- An Alien Mind
Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.
- Autonomous Cyber Defense
Der vorliegende Executive-Summary-Auszug sieht RL-gestützte autonome Cyberabwehr als vielversprechend, aber technisch unreif und langfristig; nötig seien vertrauenswürdige Systeme und nachhaltige Unterstützung.
- The case for targeted regulation
Anthropic fordert flexible, überprüfbare und gezielte Regeln für fortgeschrittene KI, um ausgewählte schwere Risiken zu senken und unnötige Belastungen zu vermeiden.
- Expanding access to Claude for government
Anthropic erweitert laut eigener Mitteilung den Behördenzugang zu Claude und erlaubt ausgewählten US-Stellen begrenzte Geheimdienstanwendungen unter fortgeltenden Richtlinien und ASL-2-Beschränkung.
- Building standards for the next phase of AI
OpenAI fordert eine von den USA angeführte internationale Standardsetzung für fortgeschrittene KI, betont aber, dass autonome Selbstverbesserung derzeit nicht stattfinde und nur unter gesicherter menschlicher Kontrolle verfolgt werden solle.
- AI’s potential futures: Mitigating risks, harnessing opportunities
Der OECD-Beitrag empfiehlt vorausschauende, inklusive KI-Politik, um mögliche Vorteile zu fördern und Risiken zu begrenzen, während die langfristigen Folgen ungewiss bleiben.
- Contending Frames: Evaluating Rhetorical Dynamics in AI
Der vorliegende Auszug berichtet, dass der KI-Wettbewerbsrahmen die Medienberichterstattung von 2012 bis 2020 dominierte, während die daraus abgeleiteten Wirkungen auf Öffentlichkeit und Politik Vermutungen bleiben.
- Our principles
OpenAI formuliert fünf Prinzipien für eine möglichst breit nutzbringende AGI, erkennt dabei erhebliche Unsicherheit und Risiken an, liefert aber keine systematische Wirksamkeitsprüfung seiner Absichten.
- Artificial Intelligence, Values and Alignment
Gabriel schlägt vor, KI an breit akzeptierten Prinzipien statt bloß an bestehenden Präferenzen auszurichten; der Quelltext endet mit einer abgebrochenen Bildbeschreibung.
- AI Safety Assessment < \n Our Work AISI AI Safety Institute
Das Institut will nationale Risiken fortgeschrittener KI erkennen und Bewertungsrahmen sowie Infrastruktur für deren Prüfung entwickeln; konkrete Ergebnisse nennt der Bericht nicht.
- The Public AI Research Portfolio of China’s Security Forces
Der vorliegende Auszug behauptet, dass KI-Forschung chinesischer Sicherheitskräfte zunimmt und besonders militärische Computer-Vision-Anwendungen umfasst, nennt aber keine konkreten Daten oder Methoden.
- China AI-Brain Research
Die Executive Summary beschreibt Chinas KI-Gehirn-Forschung als ernsthafte Initiative ohne belegten nahen AGI-Durchbruch und empfiehlt internationale Sicherheitsabkommen sowie eine koordinierte US-Beobachtung; der vollständige Bericht liegt hier nicht vor.
- Tino Cuéllar joins as Chief Global Affairs Officer
Anthropic beruft den Juristen und früheren Präsidenten der Carnegie Endowment Tino Cuéllar zum ersten Leiter für globale Angelegenheiten, ohne im Beitrag konkrete Maßnahmen für seine neue Aufgabe festzulegen.
- Chris Liddell appointed to Anthropic's board
Anthropic beruft den erfahrenen Unternehmens- und Regierungsmanager Chris Liddell in seinen Verwaltungsrat und hebt seine Erfahrung mit Technologie-Governance hervor.
- Mainframes: A Provisional Analysis of Rhetorical Frames in AI
Der vorliegende Auszug berichtet vorläufig, dass der KI-Wettbewerbsrahmen in drei englischsprachigen Medien seit 2012 häufiger auftauchte, 2015 anteilig gipfelte und nach Einschätzung der Autorinnen und Autoren Risiken für Sicherheit und Zusammenarbeit birgt.
- A framework for AI development transparency
Anthropic fordert flexible, gesetzliche Transparenzpflichten zu Sicherheitspraktiken für die größten KI-Entwickler und stellt sie als ersten Schritt zu mehr Rechenschaft dar.
- One Size Does Not Fit All
Der vorliegende Auszug stellt CSETs Vorhaben vor, vielfältige und skalierbare Verfahren zur KI-Bewertung zu untersuchen, und enthält noch keine konkreten Forschungsergebnisse.
- Exploring Clusters of Research in Three Areas of AI Safety
Der Auszug stellt drei Teilbereiche der KI-Sicherheitsforschung und die geplante CSET-Analyse vor, enthält aber keine konkreten Untersuchungsergebnisse.
- Mariano-Florentino Cuéllar appointed to Long-Term Benefit Trust
Anthropic beruft Tino Cuéllar in den Long-Term Benefit Trust, während die Gründungsmitglieder Kanika Bahl und Zachary Robinson ausscheiden.
- Harness, Loops, Graphs: What 217 Real Agent Loops Are Missing (Full Guide)
- U.S. Military Investments in Autonomy and AI: Executive Summary
Der Auszug beschreibt Fragestellung, Analysemodell und Datengrundlage einer CSET-Untersuchung zu US-Militärinvestitionen in Autonomie und KI, enthält aber nicht deren angekündigte Ergebnisse und Empfehlungen.
- AI Act and disability-centred policy: how can we stop perpetuating social exclusion?
Der Beitrag fordert, KI-Regeln und -Entwicklung konsequent an den Erfahrungen und Rechten von Menschen mit Behinderungen auszurichten: „Nichts über uns ohne uns.“
- Announcing the new OECD.AI Expert Group on AI Futures
Die OECD kündigt eine vielfältig besetzte Expertengruppe an, die KI-Zukunftsszenarien untersuchen und durch öffentliche Beteiligung vorausschauende Politik unterstützen soll.
- When AI builds itself
Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.
- What is AI? Can you make a clear distinction between AI and non-AI systems?
Laut OECD-Bericht beschreibt die überarbeitete Definition KI-Systeme breit als Systeme, die aus Eingaben zielbezogene Ausgaben ableiten; sie ersetzt keine Regeln zu Haftung und Verantwortung und lässt kontextbezogene Regulierung offen.
- Evaluating Frontier Models for Dangerous Capabilities
Der Abstract-Auszug berichtet, dass erste Tests eines fünf Bereiche umfassenden Programms bei Gemini keine ausgeprägten gefährlichen Fähigkeiten belegten, aber frühe Warnzeichen zeigten.
- Agile Alliances
Der Auszug aus der Executive Summary schlägt zehn gemeinsame Initiativen vor, mit denen die USA und ihre Partner demokratische Werte bei der KI-Entwicklung schützen und stärken sollen.
- How Australia takes a global approach to human-centred AI for maximum benefits
Australien wolle laut Beitrag KI mit ethischen Leitlinien, Qualifizierung und flexibler Regulierung zum gesellschaftlichen und wirtschaftlichen Nutzen einsetzen; die erwarteten Wirkungen, darunter eine Schätzung von bis zu 2,2 Billionen AUD bis 2030, werden im Text nicht empirisch belegt.
- New AI technologies can perpetuate old biases: some examples in the United States
Der OECD-Beitrag zufolge kann KI Ungleichheiten verstärken oder mit klaren Schutzmaßnahmen verringern; dafür seien faire Entwicklung, menschliche Kontrolle und verständliche Erklärungen nötig.
- Military AI Cooperation Toolbox
Der bereitgestellte Executive-Summary-Auszug empfiehlt, vorhandene US-Kooperationsmechanismen für militärische KI stärker zu nutzen; er benennt dabei offene Hürden und eine Unterrepräsentation indopazifischer Partner.
- Levels of AGI for Operationalizing Progress on the Path to AGI
Der vorliegende Abstract skizziert ein vorgeschlagenes Stufenmodell für AGI nach Leistung und Allgemeinheit und betont, dass auch Autonomie, Risiken und Einsatzgestaltung berücksichtigt werden müssen.
- Messier than Oil: Assessing Data Advantage in Military AI
Der vorliegende Auszug zufolge entsteht ein möglicher Datenvorteil für militärische KI vor allem durch aufbereitete, anwendungsspezifische Daten; kommerzielle Daten sind nur begrenzt übertragbar und die Relevanz künftiger Ansätze bleibt unklar.
- The AI Triad and What It Means for National Security Strategy
Der Auszug führt Buchanans KI-Triade aus Daten, Algorithmen und Rechenleistung ein und nennt GPT-3 als Beispiel, während er zugleich auf Grenzen und Risiken von KI hinweist.
- Why policymakers worldwide must prioritise security for AI
Der Beitrag fordert, KI-Sicherheit wegen vielfältiger Angriffsrisiken stärker in Regulierung und Praxis zu verankern, räumt aber ein, dass Abwehr schwierig bleibt.
- A National Security Research Agenda for Cybersecurity and Artificial Intelligence
Der Auszug stellt vier sicherheitspolitische Forschungsfelder zu maschinellem Lernen und Cybersicherheit vor, enthält aber nicht die angekündigten konkreten Fragen und Antworten.
- How do we govern the complex intersection between AI and cybersecurity?
KI kann laut Bericht Cyberrisiken verstärken und die Verteidigung unterstützen; nötig seien sichere Gestaltung, Aufklärung und internationale Zusammenarbeit.
- Twenty Years of the NSAF Joint Fund: Exploration and Practice of a New Model for Strengthening Requirement-Led Basic Scientific Research Collaboration and Innovation
Der Auszug erläutert Ziele und Entstehung des NSAF, enthält aber keine Finanzierungs- oder Ergebnisdaten; die behauptete internationale Mitwirkung und ein möglicher Nutzen für CAEP werden hier nicht belegt.
- Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023
Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.
- Artificial Intelligence in Society
Der vorliegende Abstract skizziert mögliche Chancen und Herausforderungen von KI und kündigt eine Bestandsaufnahme für politische Diskussionen an, enthält aber keine konkreten Ergebnisse.
- Paul Christiano joins OpenAI Foundation Board
OpenAI kündigt Paul Christianos Berufung in Foundation-Vorstand und Sicherheitsausschuss an und begründet sie mit seiner Erfahrung in KI-Alignment und Risikobewertung.
- Initial policy considerations for generative artificial intelligence
Der OECD-Beitrag sieht in generativer KI Chancen und erhebliche, teils noch ungewisse Risiken und fordert frühzeitige politische Antworten.
- Basic safety requirements for AI risk management
Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.
- A Pragmatic View of AI Personhood
Der vorliegende Abstract-Auszug empfiehlt ein flexibles, zweckbezogenes Verständnis von KI-Personsein als Bündel von Rechten und Pflichten und nennt mögliche Vorteile wie Verantwortlichkeit sowie Risiken manipulativer Gestaltung.
- DeepMind: Exploring institutions for global AI governance
Der Auszug fordert eine inklusive internationale KI-Governance gegen mögliche Missbrauchsrisiken, enthält aber keine konkreten institutionellen Vorschläge oder Ergebnisse.
- Priorities and principles for effective third party assessments
OpenAI skizziert vier Prioritäten und Grundsätze für unabhängige KI-Sicherheitsprüfungen, deren Aussagekraft durch vereinbarten Umfang, Zugang und Vertraulichkeit begrenzt ist.
- Artificial General Intelligence: can we avoid the ultimate existential threat?
Der Bericht warnt, dass eine AGI große Chancen, aber auch schwer kontrollierbare existenzielle Risiken bergen könnte, und fordert frühe Sicherheitsarbeit sowie internationale Vorsorge, obwohl wirksame Lösungen bislang offen sind.
- Canada’s leadership in AI – talent, ecosystems, and responsible AI
Der Bericht beschreibt Kanadas Förderung von KI-Forschung, Talenten und wirtschaftlicher Anwendung sowie geplante Regeln für verantwortungsvolle KI, ohne die behaupteten Wirkungen unabhängig zu überprüfen.
- What do AI systems and cows have in common?
Der OECD-Beitrag stellt einen noch weiterzuentwickelnden Rahmen vor, der konkrete KI-Anwendungen anhand von Menschen, Kontext, Modellen, Daten und Autonomie klassifiziert, um Risiken besser sichtbar zu machen.
- The OECD Framework for Classifying AI Systems to assess policy challenges and ensure international standards in AI
Die OECD beschreibt eine allgemeine Klassifikation von KI-Systemen als mögliche Grundlage für verständlichere Politikdebatten, Risikobewertung und internationale Abstimmung, deren breite Wirkung laut Bericht noch aussteht.
- Testing frameworks for the classification of AI systems
Laut CSET können klare Klassifikationsrahmen die Einordnung von KI-Systemen verbessern, doch ihre Verlässlichkeit hängt stark von ausreichenden Systeminformationen ab.
- How well did forecasters predict 2025 AI progress?
Die KI-Prognosen für 2025 waren gemischt; besonders Unternehmensumsätze und biologische Risiken fielen höher aus als erwartet, während der vorliegende Text nur den Hauptbeitrag und ausgewählte Daten enthält.
- Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.
- An introduction to the Global Partnership on AI’s work on Responsible AI
Die GPAI-Arbeitsgruppe plante 2020, verantwortungsvolle KI durch eine Bestandsaufnahme bestehender Ansätze und Empfehlungen für internationale Zusammenarbeit zu fördern; der Beitrag berichtet nicht über spätere Ergebnisse.
- An Alien Mind
Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.
- Research acceleration: The view inside OpenAI
OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.
- Governance of superintelligence
OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.
- AI progress and recommendations
OpenAI erwartet rasante KI-Fortschritte und empfiehlt, ihre Chancen durch breite Zugänglichkeit zu nutzen und Risiken mit Aufsicht, gemeinsamer Sicherheitsarbeit und robuster Kontrolle zu begrenzen.
- Detecting and reducing scheming in AI models
Laut OpenAI und Apollo Research senkte ein Anti-Scheming-Training verdeckte Handlungen in Tests deutlich, doch Testwahrnehmung, mögliche Verschleierung und die Abhängigkeit von lesbaren Gedankengängen erschweren die Bewertung.
- Bringing ChatGPT to GenAI.mil
OpenAI will ChatGPT für nicht klassifizierte Aufgaben auf GenAI.mil bereitstellen und erklärt, staatliche Daten würden geschützt und nicht für öffentliche Modelle genutzt.
- Summarizing books with human feedback
OpenAI berichtet über ein Verfahren zur schrittweisen Buchzusammenfassung, das menschliche Bewertungen erleichtern soll, dessen angeführte Leistungsbelege aber nur begrenzte Zahlen enthalten.
- Improving verifiability in AI development
Der Text stellt zehn Empfehlungen für besser überprüfbare KI-Entwicklung vor, ist aber nur eine Zusammenfassung und erläutert weder deren Wirksamkeit noch die Einschränkungen des vollständigen Berichts.
- Built to benefit everyone: our plan
OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- Preparing for malicious uses of AI
Der Beitrag skizziert mögliche böswillige KI-Nutzungen und empfiehlt vorsorgliche Forschungssicherungen, Sicherheitspraktiken und eine breitere Debatte, ohne Wirksamkeitsnachweise vorzulegen.
- Confidence-Building Measures for Artificial Intelligence: Workshop proceedings
Der Auszug benennt sechs vertrauensbildende Maßnahmen gegen mögliche internationale Sicherheitsrisiken durch Foundation Models, erläutert oder bewertet ihre Umsetzung aber nicht.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- OpenAI o3-mini System Card
Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.
- Practical challenges of control monitoring in frontier AI deployments
Der Abstract-Auszug vergleicht drei Kontrollverfahren für KI-Agenten und benennt Aufsicht, Latenz und Wiederherstellung als Herausforderungen; detaillierte Studienergebnisse fehlen.
- Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.
OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- How the OECD’s AI system classification work added to a year of progress in AI governance
Der Text wirbt für eine kontextbezogene Einstufung von KI-Risiken als Grundlage abgestufter Regeln und nennt mehrere mögliche Hochrisikobereiche, ohne die Wirksamkeit des Ansatzes empirisch zu belegen.
- Sharper Machines, Duller Minds: The Paradox of AI Intelligence
Der Autor befürwortet KI als Unterstützung, warnt aber davor, eigenes kritisches Denken und die Kontrolle ihrer Ergebnisse an sie abzugeben.
- What Project Stargate Means for the Future of AI — and Who Controls It
Der vollständige Bericht verbindet vorsichtige Hoffnung auf Stargates mögliche Vorteile mit der unbelegten Warnung des Autors, KI könne Macht und Kontrolle bei wenigen Eigentümern konzentrieren.
- Stop Building AI Agents Like Monoliths: 5 Architecture Tips Every Developer Should Know
Der vollständige Bericht empfiehlt fünf Architekturprinzipien für anpassungsfähige KI-Agenten, begründet deren Vorteile aber vor allem mit vereinfachten Beispielen statt mit empirischen Nachweisen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →