- Military AI Cooperation Toolbox
Der bereitgestellte Executive-Summary-Auszug empfiehlt, vorhandene US-Kooperationsmechanismen für militärische KI stärker zu nutzen; er benennt dabei offene Hürden und eine Unterrepräsentation indopazifischer Partner.
- The AI data scraping challenge: How can we proceed responsibly?
Der Bericht empfiehlt, die Chancen und Risiken des KI-Datenscrapings mit einer Kombination aus Recht, Verträgen, Technik, Verhaltenskodizes und Bildung anzugehen.
- How do we govern the complex intersection between AI and cybersecurity?
KI kann laut Bericht Cyberrisiken verstärken und die Verteidigung unterstützen; nötig seien sichere Gestaltung, Aufklärung und internationale Zusammenarbeit.
- Making AI Work for Cyber Defense
Der bereitgestellte Auszug empfiehlt, ML-Cyberabwehr gegen Angriffe abzusichern und zugleich ihre Abhängigkeiten und den Zielkonflikt zwischen Genauigkeit und Robustheit zu steuern.
- Ensuring AI’s trustworthiness: reliability engineering meets data-driven risk management
Der Beitrag empfiehlt Zuverlässigkeitstechnik und dokumentierte Vorfallmeldungen für das KI-Risikomanagement, betont aber, dass dieser Ansatz allein keine KI-Sicherheit garantiert.
- The argument for holistic AI audits
Der Beitrag empfiehlt umfassende KI-Audits, die technische Ergebnisse und Governance gemeinsam prüfen, weil jeder Ansatz für sich wichtige Risiken übersehen kann.
- The United States works with domestic and international AI communities to establish frameworks that advance trustworthy AI for all
Die US-Regierung will laut Bericht KI durch Risikomanagement, Sicherheitsmaßnahmen und internationale Abstimmung vertrauenswürdiger gestalten; die Darstellung beschreibt vor allem Ziele und laufende Vorhaben, nicht deren unabhängig geprüfte Wirkung.
- Bridging the gap in AI governance and the rule of law: The Athens Roundtable 2023
Die Ankündigung der Athens Roundtable 2023 fordert eine rechtebasierte, international koordinierte KI-Governance mit zentraler Beteiligung der Zivilgesellschaft, enthält aber keine späteren Konferenzergebnisse.
- The AI data challenge: How do we protect privacy and other fundamental rights in an AI-driven world?
Der Bericht empfiehlt, KI-Datenzugang mit Grundrechtsschutz durch menschenzentrierte Regeln, Durchsetzung, gemeinsame Standards und weitere Schutzmaßnahmen zu verbinden, weist aber auf offene Fragen und unterschiedliche Positionen zur Regulierung hin.
- Opinions of the CCP Central Committee and the State Council on Constructing a Basic System for Data and Putting Data Factors of Production to Better Use
Der Auszug skizziert Chinas Ziele für wirtschaftliche Datennutzung unter Sicherheits- und Schutzauflagen; die Übersetzung ist unvollständig und soll im verlinkten PDF weitergehen.
- A law for foundation models: the EU AI Act can improve regulation for fairer competition
Der Beitrag plädiert für einen gezielten EU AI Act, der besonders leistungsfähige foundation models reguliert und Risiken begrenzt, ohne kleinere Anbieter zu benachteiligen.
- A roadmap for an AI learning campaign
Der Beitrag plädiert für eine weltweite Lernkampagne, die KI-Wissen, verantwortungsvolle Nutzung, bessere Schutzwerkzeuge und internationale Zusammenarbeit fördern soll.
- COVID-19 and beyond: Elements of certainty can make AI ecosystems trustworthy
Der Beitrag argumentiert, dass vertrauenswürdige KI offene Standards, überprüfbare Prüfungen und eine risikobasierte Governance braucht, liefert jedoch keine eigenen systematischen Wirksamkeitsnachweise.
- Analysing simulated environments and immersive technologies in the European AI Act and Brazil’s proposed AI regulation
Der Beitrag fordert eine an Risiken und Rechten orientierte Regulierung immersiver KI-Technologien und beschreibt mögliche Chancen und Gefahren als Einschätzungen, nicht als Ergebnisse einer eigenen empirischen Studie.
- Is it enough to audit recruitment algorithms for bias?
Der Bericht befürwortet Bias-Audits für Einstellungsalgorithmen, empfiehlt aber zusätzlich Prüfungen zu Transparenz, Robustheit und Datenschutz und weist auf fehlende einheitliche Prüfmaßstäbe hin.
- Singapore’s A.I.Verify builds trust through transparency
Singapurs A.I. Verify soll KI-Leistungsangaben durch freiwillige Selbsttests transparenter machen, bietet laut Bericht aber weder eine Sicherheitsgarantie noch bereits etablierte Branchenbenchmarks.
- Decree of the President of the Russian Federation on the Development of Artificial Intelligence in the Russian Federation
Russlands 2019 beschlossene KI-Strategie setzt bis 2030 Ziele für Forschung, Daten, Technik, Fachkräfte und Regulierung, doch der Bericht belegt nicht, ob diese erreicht wurden.
- Responsible AI licenses: a practical tool for implementing the OECD Principles for Trustworthy AI
Der Autor sieht RAILs als mögliches ergänzendes Mittel, offene KI-Nutzung entlang der Wertschöpfungskette an verantwortungsbezogene Bedingungen zu knüpfen, weist ihre Wirksamkeit aber nicht empirisch nach.
- 人工智能原则: 美国国防部关于人工智能道德使用的建议
Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.
- Принципы ИИ: Рекомендации по этичному использованию искусственного интеллекта Министерством обороны
Ein unabhängiger US-Beratungsausschuss empfiehlt fünf Grundsätze und zwölf Umsetzungsschritte für verantwortliche Verteidigungs-KI; der Bericht beschreibt Vorschläge, keine beschlossene Politik.
- Do the biorisk evaluations of AI labs actually measure the risk of developing bioweapons?
Die bisherigen Biorisiko-Tests belegen laut den Autoren keine Befähigung von Laien zur Entwicklung biologischer Waffen, reichen wegen ihrer Grenzen und mangelnder Transparenz aber auch nicht aus, das Risiko auszuschließen.
- What do AI systems and cows have in common?
Der OECD-Beitrag stellt einen noch weiterzuentwickelnden Rahmen vor, der konkrete KI-Anwendungen anhand von Menschen, Kontext, Modellen, Daten und Autonomie klassifiziert, um Risiken besser sichtbar zu machen.
- The OECD Framework for Classifying AI Systems to assess policy challenges and ensure international standards in AI
Die OECD beschreibt eine allgemeine Klassifikation von KI-Systemen als mögliche Grundlage für verständlichere Politikdebatten, Risikobewertung und internationale Abstimmung, deren breite Wirkung laut Bericht noch aussteht.
- A first look at the OECD’s Framework for the Classification of AI Systems, designed to give policymakers clarity
Ein vorläufiger OECD-Rahmen ordnet KI-Systeme in vier Dimensionen ein, um politische Folgen und Verantwortlichkeiten besser beurteilen zu können; weitere Prüfungen waren noch geplant.
- Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.
- An Alien Mind
Der OpenAI-Wissenschaftler Jakub Pachocki warnt, dass KI schneller leistungsfähiger werden könnte, als ihre Ausrichtung und Überwachung Schritt halten, und fordert deshalb Sicherheitsgrenzen und internationale Koordination.
- Governance of superintelligence
OpenAI fordert für mögliche Superintelligenz internationale Koordination, Aufsicht, Sicherheitsforschung und öffentliche Mitsprache, legt aber weder ein fertiges Regelwerk noch Belege für seine Zukunftsprognosen vor.
- An update on our safety & security practices
OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.
- How should AI systems behave, and who should decide?
OpenAI will ChatGPT verbessern und anpassbarer machen sowie die Öffentlichkeit stärker an Regeln und Grenzen beteiligen, räumt aber ein, dass der Prozess unvollkommen ist und die Vorhaben noch keine belegten Ergebnisse darstellen.
- AI progress and recommendations
OpenAI erwartet rasante KI-Fortschritte und empfiehlt, ihre Chancen durch breite Zugänglichkeit zu nutzen und Risiken mit Aufsicht, gemeinsamer Sicherheitsarbeit und robuster Kontrolle zu begrenzen.
- Moving AI governance forward
Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.
- Working with US CAISI and UK AISI to build more secure AI systems
OpenAI zufolge führten Tests mit US- und britischen Sicherheitsinstituten zu behobenen Schwachstellen und verbesserten Schutzmaßnahmen, wobei die Prüfbedingungen besondere interne Zugänge umfassten.
- OpenAI safety practices
OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.
- Daybreak: Tools for securing every organization in the world
OpenAI will mit Daybreak Schwachstellenbehebung für geprüfte Verteidiger beschleunigen und nennt dafür eigene Nutzungs- und Benchmarkwerte, deren Aussagekraft in realen Abläufen noch untersucht werde.
- Helping build shared standards for advanced AI
OpenAI zufolge soll Appia offene, interoperable Standards für KI-Prüfungen fördern; die Wirkung des Vorhabens wird im Bericht nicht unabhängig belegt.
- Advancing responsible AI across Europe
OpenAI erläutert eigene Maßnahmen für verantwortungsvolle KI in Europa, räumt technische Grenzen bei Herkunftsnachweisen ein und kündigt weitere Anpassungen an.
- Introducing OpenAI o1
Der Bericht fasst OpenAIs Einführung von o1-preview und o1-mini samt selbst berichteten Leistungs- und Sicherheitswerten zusammen und weist darauf hin, dass die damaligen Zugangsinformationen historisch sind und beide Modelle inzwischen aus der API zurückgezogen wurden.
- Introducing Intelligence Age
Der Beitrag skizziert ein noch offenes Forschungsprogramm dazu, wie KI-bedingte Machtkonzentration begrenzt und individuelle Freiheit geschützt werden kann.
- Improving verifiability in AI development
Der Text stellt zehn Empfehlungen für besser überprüfbare KI-Entwicklung vor, ist aber nur eine Zusammenfassung und erläutert weder deren Wirksamkeit noch die Einschränkungen des vollständigen Berichts.
- Why responsible AI development needs cooperation on safety
Der Bericht empfiehlt Kooperation, Transparenz und Anreize für Sicherheitsstandards, damit Wettbewerbsdruck die sichere Entwicklung von KI nicht untergräbt.
- Advancing red teaming with people and AI
Der Bericht stellt OpenAIs externe und automatisierte Red-Teaming-Ansätze vor, die Sicherheitsprüfungen verbessern sollen, aber zeitlich begrenzt sind und eigene Risiken wie die Offenlegung missbrauchsrelevanter Informationen mit sich bringen.
- Confidence-Building Measures for Artificial Intelligence: Workshop proceedings
Der Auszug benennt sechs vertrauensbildende Maßnahmen gegen mögliche internationale Sicherheitsrisiken durch Foundation Models, erläutert oder bewertet ihre Umsetzung aber nicht.
- Frontier Model Forum
Vier KI-Unternehmen kündigen ein Forum für Sicherheitsforschung, Standards und Informationsaustausch zu Frontier-Modellen an; die Quelle beschreibt Vorhaben, nicht deren Umsetzung oder Wirkung.
- Testimony before the U.S. Senate
Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.
- Response to NIST Executive Order on AI
OpenAI beschreibt Ansätze für KI-Sicherheitsprüfungen und Herkunftsnachweise, betont aber, dass deren Ergebnisse begrenzt, teils unsicher und weiter zu erforschen sind.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- Frontier Model Forum updates
Das Frontier Model Forum kündigt eine neue Leitung, einen mit über zehn Millionen US-Dollar ausgestatteten Sicherheitsfonds und weitere technische Zusammenarbeit an.
- Strengthening America’s AI leadership with the U.S. National Laboratories
OpenAI plant, gemeinsam mit Microsoft Schlussfolgerungsmodelle auf einem Supercomputer der National Laboratories für Forschung und nationale Sicherheit bereitzustellen; belegte Ergebnisse nennt die Ankündigung noch nicht.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- https://arxiv.org/pdf/2102.02503
Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.
- OECD health ministers: people and partnerships are the secret to enabling AI in healthcare
Die OECD empfiehlt, KI im Gesundheitswesen durch anpassungsfähige Regeln, Partnerschaften, gute Datengrundlagen und internationale Zusammenarbeit verantwortungsvoll und gerecht zu gestalten.
- Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.
OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- OpenAI und Polens NASK kooperieren für mehr KI-Sicherheit und Schutz vor Angriffen
OpenAI und Polens NASK vereinbaren, mögliche gemeinsame KI-Sicherheitsforschung zu prüfen; konkrete Projekte nennt der Bericht noch nicht.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- Biden’s Executive Order on AI Was Necessary. Yet, There’s Still A Lot to Do
Andrade begrüßt Bidens KI-Verordnung als notwendigen Anfang, hält ihre praktische Umsetzung – besonders die Kennzeichnung und Erkennung KI-generierter Inhalte – jedoch für schwierig und noch offen.
- Does Codex Train on Your Code? OpenAI Answered That Four Different Ways in Three Days.
Der Artikel sagt, OpenAIs Antworten ließen offen, ob Codex-Daten zum Training beitragen, und mahnt, die separate Trainingseinstellung für Codex-Vollumgebungen zu prüfen.
- You Are Evaluating Sovereign AI Wrong
Der Beitrag empfiehlt, KI-Souveränität anhand von Kontrolle über Rechenleistung, Daten, Modelle und Wechselmöglichkeiten zu prüfen, statt sie allein am Serverstandort oder an offenen Modellgewichten festzumachen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →