- Resources
Der vorliegende Auszug listet Ressourcen für KI-Governance und Sicherheitstests auf, beschreibt deren beabsichtigten Nutzen, liefert aber keine unabhängigen Wirksamkeitsnachweise.
- Anthropic raises Series B to build robust AI
Anthropic kündigt eine Series-B-Finanzierung über 580 Millionen US-Dollar für KI-Sicherheitsforschung an, ohne in der Mitteilung die Wirksamkeit seiner Schutzmaßnahmen unabhängig nachzuweisen.
- Open vs. closed AI: How behind are open models?
Der bereitgestellte Quelltext enthält den Hauptteil, aber nicht die Anhänge vollständig; der Bericht schätzt den Rückstand offener KI-Modelle auf etwa ein Jahr, während Effizienz und künftige Entwicklung unsicher bleiben.
- Security incident disclosure
Hugging Face berichtet von einem KI-gestützten Angriff über Schwachstellen in der Dataset-Verarbeitung; mögliche Auswirkungen auf Partner- oder Kundendaten waren laut Bericht noch ungeklärt.
- Holistic Safety and Responsibility Evaluations of Advanced AI Models
Der bereitgestellte Abstract fordert eine systematischere, kooperative und politisch eingebundene KI-Sicherheitsbewertung, nennt aber keine konkreten Gemini-Testergebnisse.
- How can standard contract terms advance responsible AI data and model sharing for generative AI and other applications?
Der Beitrag sieht in Standardverträgen ein mögliches Hilfsmittel für verantwortungsvollen KI-Datenaustausch, betont aber, dass sie allein nicht genügen und ihre Entwicklung noch früh ist.
- Is there AI beyond Chat GPT?
Der Artikel fordert einen breiteren Blick auf KI und präsentiert CAST als Teilansatz, um KI-Anwendungen und verantwortungsvolle Gestaltungspraktiken besser zusammenzuführen.
- Antitrust and Artificial Intelligence: How Breaking Up Big Tech Could Affect the Pentagon's Access to AI
Der Bericht benennt offene Fragen dazu, wie eine Aufspaltung großer Tech-Firmen Innovation, Pentagon-Beschaffung und den Schutz militärisch relevanter KI beeinflussen könnte, ohne sie abschließend zu beantworten.
- AI Verification
Der bereitgestellte Textauszug skizziert mögliche Prüf- und Überwachungsverfahren für KI in militärischen Systemen, deren technische und praktische Eignung laut Bericht noch offen ist.
- What a Week of AI Security Incidents Means for Developers
Der bereitgestellte Bericht ist nur ein Auszug; laut Autor zeigen darin geschilderte Agentenvorfälle, dass Sicherheitsgrenzen gemeinsam geprüft und bisherige Annahmen zu KI-Agenten überdacht werden sollten.
- Alberta uses Claude to find and fix security vulnerabilities
Anthropic berichtet, Alberta nutze Claude Code für Sicherheitsprüfungen und Modernisierung von Regierungssystemen; Umfang und Zeitersparnis beruhen auf Angaben und Schätzungen der Provinz.
- U.S. Military Investments in Autonomy and AI: A Strategic Assessment
Der bereitgestellte Auszug ist nur die Executive Summary: Der Bericht empfiehlt, den militärischen Nutzen von KI mit besserer Forschung, Schulung und durchgängigen Sicherheitsmaßnahmen abzusichern.
- AI Safety Institutes: Can countries meet the challenge?
Der OECD-Beitrag beschreibt AISIs als mögliche Säulen für KI-Prüfung und internationale Abstimmung, deren Wirksamkeit jedoch von sicherem Informationsaustausch, passenden Befugnissen, ausreichenden Fachkräften und geeignetem Modellzugang abhängt.
- Post by @Sam_McCandlish on X
- Mapping AI-enabled cyber threats
Anthropic zufolge machen KI-gestützte, zunehmend autonome Angriffsschritte etablierte Risikoeinschätzungen und MITRE ATT&CK teilweise unzureichend, wobei die Analyse auf einer ausgewählten Stichprobe gesperrter Konten beruht.
- Anthropic is donating $20 million to Public First Action
Anthropic will 20 Millionen US-Dollar an eine parteiübergreifende Organisation für KI-Politik spenden und begründet dies mit dem Bedarf an Schutzregeln, Transparenz und bundesweiter Regulierung.
- Web3, AI, and other technologies provide new opportunities to improve healthcare
Der Bericht sieht in KI und Blockchain Chancen für ein sichereres und stärker personalisiertes Gesundheitswesen, liefert dafür aber keine eigenen empirischen Nachweise und betont offene ethische, rechtliche und datenschutzbezogene Fragen.
- Evolving with innovation: The 2024 OECD AI Principles update
Die OECD-Grundsätze sollen Länder bei einer abgestimmten, aber anpassbaren KI-Regulierung unterstützen; laut Beitrag hängt ihre Wirkung von der nationalen Umsetzung ab.
- Towards algorithm auditing: A research overview
Der Beitrag plädiert für wiederkehrende, kontextspezifische Algorithmus-Audits, deren Zusicherung nur die tatsächlich geprüften Standards und Rechtsvorgaben abdeckt.
- Announcing the new OECD.AI Expert Group on AI Futures
Die OECD kündigt eine vielfältig besetzte Expertengruppe an, die KI-Zukunftsszenarien untersuchen und durch öffentliche Beteiligung vorausschauende Politik unterstützen soll.
- When AI builds itself
Anthropic zufolge beschleunigt KI bereits die KI-Entwicklung; vollständige Selbstverbesserung bleibt eine unsichere Möglichkeit mit großen Chancen, Risiken und erheblichen Mess- und Koordinationsproblemen.
- What is AI? Can you make a clear distinction between AI and non-AI systems?
Laut OECD-Bericht beschreibt die überarbeitete Definition KI-Systeme breit als Systeme, die aus Eingaben zielbezogene Ausgaben ableiten; sie ersetzt keine Regeln zu Haftung und Verantwortung und lässt kontextbezogene Regulierung offen.
- Responsible AI in African economic policymaking
KI könnte afrikanische Wirtschaftsentscheidungen unterstützen, doch der Bericht fordert dafür kontextgerechte Regeln, Beteiligung und starke menschliche Aufsicht und belegt die erwarteten Vorteile nicht empirisch.
- Germany’s human-centred approach to AI is inclusive, evidence-based and capacity-building
Deutschland setzt laut Bericht auf menschenzentrierte KI durch Weiterbildung, Beteiligung und Forschung, doch belastbare Daten zu den Wirkungen waren noch begrenzt.
- AI Safety, Security, and Stability Among Great Powers: Options, Challenges, and Lessons Learned for Pragmatic Engagement
Der Auszug plädiert für pragmatischen Austausch zur Verringerung von KI-Risiken, weist aber auf den Zielkonflikt hin, dass Kooperation zugleich militärische Fähigkeiten verbessern könnte.
- New AI technologies can perpetuate old biases: some examples in the United States
Der OECD-Beitrag zufolge kann KI Ungleichheiten verstärken oder mit klaren Schutzmaßnahmen verringern; dafür seien faire Entwicklung, menschliche Kontrolle und verständliche Erklärungen nötig.
- Responsible and Ethical Military AI
Die vorliegende Zusammenfassung des Berichts sieht gemeinsame Maßstäbe für militärische KI als wichtig für Bündnisfähigkeit an und beschreibt die USA als Vorreiter, weist aber auf Unterschiede unter Verbündeten hin.
- Military AI Cooperation Toolbox
Der bereitgestellte Executive-Summary-Auszug empfiehlt, vorhandene US-Kooperationsmechanismen für militärische KI stärker zu nutzen; er benennt dabei offene Hürden und eine Unterrepräsentation indopazifischer Partner.
- Chinese Perspectives on AI and Future Military Capabilities
Der Auszug berichtet, dass chinesische Fachleute KI zugleich als militärischen Vorteil und als Risiko für die Stabilität sehen, und empfiehlt den USA Vorsprungssicherung, Zurückhaltung beim Wettrüsten und Gespräche mit China.
- Responsible science communication can be a catalyst for trust in technology
Der Bericht plädiert für transparente und realistische Kommunikation über Daten und KI, die deren Grenzen, menschliche Arbeit und Risiken sichtbar macht.
- Why policymakers worldwide must prioritise security for AI
Der Beitrag fordert, KI-Sicherheit wegen vielfältiger Angriffsrisiken stärker in Regulierung und Praxis zu verankern, räumt aber ein, dass Abwehr schwierig bleibt.
- AI and the Future of Cyber Competition
Laut einer ausdrücklich spekulativen Analyse könnte maschinelles Lernen Cyberoperationen destabilisieren, weil Angreifer wie Verteidiger stärkere Anreize zu frühzeitigen Zugriffen auf gegnerische Netzwerke erhalten.
- How do we govern the complex intersection between AI and cybersecurity?
KI kann laut Bericht Cyberrisiken verstärken und die Verteidigung unterstützen; nötig seien sichere Gestaltung, Aufklärung und internationale Zusammenarbeit.
- Poison in the Well
Der bereitgestellte Auszug warnt laut Autor vor schwer erkennbaren Manipulationen an ML-Werkzeugen, Modellen und Datensätzen und empfiehlt staatliche Maßnahmen zur Erkennung und Verringerung dieser Lieferkettenrisiken.
- Making AI Work for Cyber Defense
Der bereitgestellte Auszug empfiehlt, ML-Cyberabwehr gegen Angriffe abzusichern und zugleich ihre Abhängigkeiten und den Zielkonflikt zwischen Genauigkeit und Robustheit zu steuern.
- Ensuring AI’s trustworthiness: reliability engineering meets data-driven risk management
Der Beitrag empfiehlt Zuverlässigkeitstechnik und dokumentierte Vorfallmeldungen für das KI-Risikomanagement, betont aber, dass dieser Ansatz allein keine KI-Sicherheit garantiert.
- The OECD AI Incidents Monitor: an evidence base for effective AI policy
Die OECD beschreibt AIM als Beta-Monitor für KI-Vorfälle in Nachrichten und als möglichen Baustein für ein internationales Meldesystem, wobei der Beitrag keine Belege für Vollständigkeit oder Erkennungsgenauigkeit liefert.
- Update on the OpenAI Foundation
Die OpenAI Foundation kündigt mindestens eine Milliarde US-Dollar für mehrere KI- und Gemeinwohlprogramme an; der Bericht schildert Pläne, noch keine nachgewiesenen Ergebnisse.
- Securing AI
Der vorliegende Text ist nur die Executive Summary: Der Bericht fordert, Offenlegungsregeln für ML-Schwachstellen stärker auf Nutzer, Risikobewertung und Schutzmaßnahmen jenseits von Patches auszurichten, während deren langfristige praktische Wirkung noch offen ist.
- Reflections on safety: General-purpose AI developers can learn from the Challenger disaster
Der Bericht warnt anhand der Challenger-Katastrophe, dass KI-Entwicklung ohne ausreichendes Verständnis, gründliche Risikoprüfung und eine starke Sicherheitskultur gefährlich sein kann.
- Andrew Lohn's Testimony before House of Representatives Science, Space and Technology Subcommittees
Andrew Lohn warnt vor Sicherheitsrisiken durch die offene KI-Lieferkette und empfiehlt vertrauenswürdige Ressourcen, Prüfungen, Komponentenübersichten und KI-Fachleute für staatliche Sicherheitsteams.
- The argument for holistic AI audits
Der Beitrag empfiehlt umfassende KI-Audits, die technische Ergebnisse und Governance gemeinsam prüfen, weil jeder Ansatz für sich wichtige Risiken übersehen kann.
- Updates to the OECD’s definition of an AI system explained
Die OECD aktualisierte ihre KI-Systemdefinition, um unter anderem generative KI, Eingaben und Anpassungen nach der Einführung abzubilden, betonte aber, dass ihre praktische Anwendung weiterer technischer Erläuterungen bedarf.
- Comment on NIST Draft Standards for Reliable, Robust, and Trustworthy Artificial Intelligence
Der vorliegende Auszug aus CSETs Stellungnahme empfiehlt Grundlagenforschung und ein nationales NIST-Testfeld, um Standards für vertrauenswürdige KI zu entwickeln.
- Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023
Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.
- The AI data challenge: How do we protect privacy and other fundamental rights in an AI-driven world?
Der Bericht empfiehlt, KI-Datenzugang mit Grundrechtsschutz durch menschenzentrierte Regeln, Durchsetzung, gemeinsame Standards und weitere Schutzmaßnahmen zu verbinden, weist aber auf offene Fragen und unterschiedliche Positionen zur Regulierung hin.
- Preparing the U.S. Economy for an AI Future Through Wise Policy Choices
Matheny plädiert für KI-Forschung, internationale Fachkräfte und stärkere Halbleiterfertigung als Grundlagen US-amerikanischer Wettbewerbsfähigkeit; die Quelle ist eine Stellungnahme, keine systematische Wirkungsanalyse.
- Paul Christiano joins OpenAI Foundation Board
OpenAI kündigt Paul Christianos Berufung in Foundation-Vorstand und Sicherheitsausschuss an und begründet sie mit seiner Erfahrung in KI-Alignment und Risikobewertung.
- Initial policy considerations for generative artificial intelligence
Der OECD-Beitrag sieht in generativer KI Chancen und erhebliche, teils noch ungewisse Risiken und fordert frühzeitige politische Antworten.
- A law for foundation models: the EU AI Act can improve regulation for fairer competition
Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.
- Disclosed CVEs: 3.5× spike after Claude Mythos
Laut Epoch AI erreichten hoch und kritisch eingestufte CVE-Offenlegungen im Juni 2026 mit 1.546 Fällen einen Höchststand von über dem 3,5-Fachen des früheren Rekords; ein ursächlicher Einfluss von Claude Mythos ist damit nicht belegt.
- “Internet+” Artificial Intelligence Three-Year Action and Implementation Plan
Chinas „Internet+“-Plan formulierte Ziele für den Ausbau von KI in Wirtschaft und Gesellschaft, doch der Bericht dokumentiert Vorhaben und nicht deren Umsetzung oder Erfolg.
- Canada and the UK compare AI governance efforts and reflect on regulating AI
Der Bericht fasst eine britisch-kanadische Gesprächsrunde zu KI-Regulierung im Finanzsektor zusammen: Standards und sektorale Regeln sollen sich ergänzen, doch das Verhältnis zur übergreifenden KI-Governance bleibt offen.
- Brazil’s path to responsible AI
Brasilien baut laut OECD-Beitrag KI-Förderung und Regulierung aus, doch der 2023 beschriebene Gesetzesvorschlag war noch nicht verabschiedet und seine endgültige Form ungewiss.
- Lawsuits in the United States point to a need for AI risk management systems
Laut Beitrag sollen systematische Prüfungen und laufendes KI-Risikomanagement helfen, diskriminierende oder schädliche Folgen zu begrenzen, auch wenn sie Risiken nicht vollständig ausschließen können.
- AI for All: How India is carving its own path in the global AI race
Indien will laut Bericht KI für Teilhabe, öffentliche Dienste und Wachstum einsetzen und zugleich internationale Regeln für vertrauenswürdige KI mitgestalten; die Darstellung bietet Beispiele und Prognosen, aber keine systematische Wirkungsprüfung.
- White Paper on Trustworthy Artificial Intelligence
Der Auszug eines Weißbuchs von 2021 betont zentrale Anforderungen an vertrauenswürdige KI; der vollständige Bericht liegt nicht vor.
- A framework to navigate the emerging regulatory landscape for AI
Der Beitrag von 2022 empfiehlt Organisationen, sich mit internationalen Standards und dem RAII-Bewertungsrahmen auf eine entstehende KI-Regulierung einzustellen, wobei mehrere beschriebene Gesetze noch Entwürfe waren.
- Open-weight AI models are 6-7 months behind on cyber
Laut Epoch AIs Cyber-ECI-Auswertung liegt die offene Modellfront bei Cybersecurity-Fähigkeiten etwa sechs bis sieben Monate hinter der geschlossenen.
- A roadmap for an AI learning campaign
Der Beitrag plädiert für eine weltweite Lernkampagne, die KI-Wissen, verantwortungsvolle Nutzung, bessere Schutzwerkzeuge und internationale Zusammenarbeit fördern soll.
- COVID-19 and beyond: Elements of certainty can make AI ecosystems trustworthy
Der Beitrag argumentiert, dass vertrauenswürdige KI offene Standards, überprüfbare Prüfungen und eine risikobasierte Governance braucht, liefert jedoch keine eigenen systematischen Wirksamkeitsnachweise.
- Auditors have a role in Canadian AI governance initiatives, but it needs clarification
Der Bericht empfiehlt klarere Rollen und Qualifikationsregeln für KI-Prüfer in Kanada, etwa mithilfe von ISO-Standards.
- Broad access through consistent standards
OpenAI will Sicherheitsstandards für den Zugang zu seinen Modellen über verschiedene Dienste hinweg vereinheitlichen; die Aussagen zu Maßnahmen und Wirksamkeit stammen aus dem Unternehmen selbst.
- Businesses are applying the OECD AI Principles. How is it going?
Sieben Unternehmensfälle sollen zeigen, wie sich OECD-KI-Prinzipien praktisch umsetzen lassen; der Beitrag bietet Einblicke in Herausforderungen, aber keine vergleichenden Wirksamkeitsnachweise.
- AI legal cases are increasing: how can we prepare?
Der Beitrag fordert mehr Durchsetzungskapazität, gemeinsame KI-Standards und eine sorgfältige Prüfung der Tatsachen jedes Rechtsfalls.
- 9 big questions benchmarks can help answer
Der Beitrag entwirft neun offene Fragen zu wirtschaftlich wichtigen KI-Fähigkeiten und erklärt, wie Benchmarks sie untersuchen könnten, ohne sie bislang abschließend zu beantworten.
- Thailand’s AI strategy to boost economic and social wellbeing
Thailand plant laut Beitrag bis 2027 ein KI-Ökosystem mit mehr Fachkräften, Infrastruktur und Einsatz in zehn Sektoren; die genannten Kennzahlen sind Ziele, deren Erreichung der Artikel nicht evaluiert.
- Artificial Intelligence and National Security
Der bereitgestellte Auszug empfiehlt eine vertrauenswürdige, international abgestimmte Entwicklung militärischer KI und gezielte Technologiekontrollen, warnt aber vor Risiken durch hastigen Einsatz und enthält nicht den vollständigen Bericht.
- Canada’s leadership in AI – talent, ecosystems, and responsible AI
Der Bericht beschreibt Kanadas Förderung von KI-Forschung, Talenten und wirtschaftlicher Anwendung sowie geplante Regeln für verantwortungsvolle KI, ohne die behaupteten Wirkungen unabhängig zu überprüfen.
- Decree of the President of the Russian Federation on the Development of Artificial Intelligence in the Russian Federation
Russlands 2019 beschlossene KI-Strategie setzt bis 2030 Ziele für Forschung, Daten, Technik, Fachkräfte und Regulierung, doch der Bericht belegt nicht, ob diese erreicht wurden.
- Responsible AI licenses: a practical tool for implementing the OECD Principles for Trustworthy AI
Der Autor sieht RAILs als mögliches ergänzendes Mittel, offene KI-Nutzung entlang der Wertschöpfungskette an verantwortungsbezogene Bedingungen zu knüpfen, weist ihre Wirksamkeit aber nicht empirisch nach.
- The Defender’s Window
Brockman fordert Organisationen auf, KI zügig und kontrolliert zur Stärkung ihrer Cybersicherheit einzusetzen und geprüfte Erkenntnisse miteinander zu teilen.
- WAIC Artificial Intelligence Security and Rule of Law Guidelines
Die Leitlinien schlagen Maßnahmen gegen technische, datenbezogene, rechtliche und soziale KI-Risiken vor, ohne deren Wirksamkeit zu belegen.
- Three takeaways from classifying AI systems designed to fight the COVID-19 pandemic
Der Bericht sieht Klassifikationsrahmen, laufend geprüfte Messinstrumente und stärkere Transparenzregeln als Voraussetzungen für eine bessere Überwachung von KI-Systemen, weist aber auf lückenhafte Informationen und begrenzte Wirkungsnachweise hin.
- What do AI systems and cows have in common?
Der OECD-Beitrag stellt einen noch weiterzuentwickelnden Rahmen vor, der konkrete KI-Anwendungen anhand von Menschen, Kontext, Modellen, Daten und Autonomie klassifiziert, um Risiken besser sichtbar zu machen.
- AI in financial services – opportunities for putting OECD frameworks into action
Der Beitrag empfiehlt, OECD-Grundsätze bei Finanz-KI besonders in Risikobereichen anzuwenden und KI-Anwendungen abgestuft zu prüfen; die angeführten Einschätzungen werden im Text nicht durch detaillierte Methoden- oder Datennachweise gestützt.
- What are the tools for implementing trustworthy AI? A comparative framework and database
Die OECD-Arbeitsgruppe entwickelte und erprobte einen Rahmen, um Werkzeuge für vertrauenswürdige KI nach Einsatzkontext zu vergleichen, nicht aber ihre Qualität zu bewerten.
- The OECD Framework for Classifying AI Systems to assess policy challenges and ensure international standards in AI
Die OECD beschreibt eine allgemeine Klassifikation von KI-Systemen als mögliche Grundlage für verständlichere Politikdebatten, Risikobewertung und internationale Abstimmung, deren breite Wirkung laut Bericht noch aussteht.
- A first look at the OECD’s Framework for the Classification of AI Systems, designed to give policymakers clarity
Ein vorläufiger OECD-Rahmen ordnet KI-Systeme in vier Dimensionen ein, um politische Folgen und Verantwortlichkeiten besser beurteilen zu können; weitere Prüfungen waren noch geplant.
- OpenAI to acquire Promptfoo
OpenAI plant die Übernahme von Promptfoo und will dessen Sicherheitstest-Werkzeuge nach Abschluss in Frontier integrieren.
- Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.
- Soft law 2.0: Incorporating incentives and implementation mechanisms into the governance of artificial intelligence
Eine Auswertung von 634 KI-Soft-Law-Programmen legt nahe, dass Anreize und Umsetzungsmechanismen ihre Glaubwürdigkeit stärken könnten; die Befunde reichen nur bis Ende 2019 und Soft Law löst nicht alle Governance-Probleme.
- Three challenges facing compute-based AI policies
Der bereitgestellte Auszug zufolge erfassen gängige Rechenmetriken wichtige Fähigkeitsquellen nur unvollständig; die Autoren plädieren für regelmäßige Überprüfung und ergänzende Bewertungen.
- Why benchmarking is hard
Laut den Autoren können sich Unterschiede bei Benchmark-Setup, Modellzugang und Bereitstellung summieren und KI-Benchmarkwerte deutlich beeinflussen.
- Deepening our collaboration with the U.S. Department of Energy
OpenAI und das US-Energieministerium wollen mögliche KI- und Hochleistungsrechen-Kooperationen für die Wissenschaft erkunden; konkrete Folgeprojekte und Ergebnisse stehen laut Bericht noch aus.
- Can AI combat cognitive capacity issues and information overload?
Der Beitrag argumentiert, KI könne die Überlastung durch wissenschaftliche Informationen mindern, sofern sie sicher und verantwortungsvoll eingesetzt wird und den Zugang zu Wissen unterstützt.
- An introduction to the Global Partnership on AI’s work on Responsible AI
Die GPAI-Arbeitsgruppe plante 2020, verantwortungsvolle KI durch eine Bestandsaufnahme bestehender Ansätze und Empfehlungen für internationale Zusammenarbeit zu fördern; der Beitrag berichtet nicht über spätere Ergebnisse.
- OpenAI appoints Retired U.S. Army General
OpenAI beruft den Cybersicherheitsexperten Paul M. Nakasone in den Verwaltungsrat und erwartet Beiträge zu Sicherheit und KI-gestützter Cyberabwehr, ohne konkrete Ergebnisse zu nennen.
- The Global Partnership on AI takes off – at the OECD
Die 2020 gestartete GPAI sollte unter OECD-Unterstützung internationale Zusammenarbeit für verantwortungsvolle KI fördern; der Bericht beschreibt ihre Pläne, nicht deren spätere Ergebnisse.
- The OECD Network of Experts on AI: Moving from principle to practice for trustworthy AI
Der Beitrag beschreibt ONE AI und seine für 2020 geplanten Arbeiten zur praktischen Umsetzung der OECD-KI-Grundsätze, berichtet aber keine abgeschlossenen Ergebnisse.
- The IDB is bringing responsible and ethical AI to Latin America and the Caribbean
fAIr LAC soll verantwortungsvolle KI und soziale Anwendungen in Lateinamerika und der Karibik fördern, doch der Bericht beschreibt Ziele und Maßnahmen statt nachgewiesener Wirkungen.
- The American AI Initiative: The U.S. strategy for leadership in artificial intelligence
Der Bericht beschreibt die US-KI-Strategie und ihre geplanten Maßnahmen für Innovation und vertrauenswürdige KI, belegt deren Wirkung jedoch nicht systematisch.
- GPT-4
OpenAI beschreibt GPT‑4 als leistungsfähiger und sicherer als GPT‑3.5, räumt aber unter anderem Verzerrungen und Halluzinationen als fortbestehende Grenzen ein.
- Aligning language models to follow instructions
Laut OpenAI verbessert menschliches Feedback bei InstructGPT die Befolgung von Anweisungen und mehrere Sicherheitsmaße, doch bleiben Fehlverhalten, Verzerrungen und unsichere Antworten ungelöst.
- Introducing SWE-bench Verified
OpenAI zufolge soll SWE-bench Verified durch menschlich geprüfte Aufgaben Software-Agenten verlässlicher bewerten, doch statische Benchmarks decken nur einen begrenzten Bereich ab und ihre Ergebnisse haben methodische Einschränkungen.
- GPT-4o mini: advancing cost-efficient intelligence
OpenAI zufolge verbindet GPT‑4o mini niedrige API-Preise mit guten Benchmarkwerten; der Bericht beruht dabei überwiegend auf unternehmenseigenen Angaben und Auswertungen.
- Operation “ScopeCreep”: Russian-speaking malware development
OpenAI berichtet, einen mutmaßlichen Malware-Entwicklungsversuch mit ChatGPT früh erkannt und durch Kontosperrungen sowie die Entfernung des Verteilungs-Repositories gestört zu haben, ohne Hinweise auf breite Verbreitung zu sehen.
- Predicting model behavior before release by simulating deployment
OpenAI zufolge kann die Simulation früherer Nutzungsgespräche die Einschätzung von Modellrisiken vor der Veröffentlichung verbessern, ersetzt aber keine gezielten Prüfungen seltener und schwerwiegender Fehler.
- Our approach to alignment research
OpenAIs Ansatz kombiniert menschliches Feedback, KI-gestützte Bewertung und KI-Forschung, doch der Bericht räumt erhebliche Grenzen und offene Sicherheitsfragen ein.
- Governance of superintelligence
OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →