Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-M3

Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?

1.491 Berichte ab Stufe 3 bei mindestens einem Modell, stärkste zuerst.

Zum Inhalt ↓
← Interaktive Liste mit Filtern
  1. Biosecurity and AI: Risks and Opportunities cais · Q001728 · Hintergrund, keine Belege

    Der Beitrag hält KI-gestützten Bioterrorismus für ein mögliches, aber unsicheres Risiko und empfiehlt öffentliche Gesundheitsmaßnahmen sowie gezielte Sicherheitsvorkehrungen unter Abwägung ihrer Folgen für die Forschung.

  2. Evaluating whether AI models would sabotage AI safety research aisi · 2026 · Q001731 · Hintergrund, keine Belege

    Keine eigenständige Sabotage wurde festgestellt, doch Fortsetzungstests zeigten einzelne problematische Verhaltensweisen – bei deutlichen Grenzen der Aussagekraft.

  3. Among us: A sandbox for measuring and detecting agentic deception farai · 2026 · Q001797 · Hintergrund, keine Belege · ohne Zusammenfassung
  4. Adversarial Distillation fmf · 2026 · Q001884 · Hintergrund, keine Belege · ohne Zusammenfassung
  5. Frontier AI and Nuclear Security fmf · 2026 · Q001941 · Hintergrund, keine Belege · ohne Zusammenfassung
  6. Post by @ContentAuth on X x.com · 2026 · Q001956 · Hintergrund, keine Belege · ohne Zusammenfassung
  7. How We Protect Confidential Information metr · 2026 · Q001966 · Hintergrund, keine Belege

    METR berichtet über organisatorische und technische Schutzmaßnahmen für vertrauliche Informationen und nichtöffentliche Modelle; die Angaben sind ein veränderlicher Überblick des Unternehmens mit Stand 17. Februar 2026.

  8. Post by @sentient_found on X x.com · 2026 · Q001979 · Hintergrund, keine Belege · ohne Zusammenfassung
  9. Chain of Thought Monitorability fmf · 2026 · Q002002 · Hintergrund, keine Belege · ohne Zusammenfassung
  10. Introducing Lockdown Mode and Elevated Risk labels in ChatGPT openai · 2026 · Q002027 · Hintergrund, keine Belege

    OpenAI stellt eingeschränkte Funktionen im Lockdown-Modus und Risikohinweise für ausgewählte vernetzte Fähigkeiten vor; der Bericht erläutert deren Zweck, belegt aber keine unabhängige Wirksamkeit.

  11. Securing Agentic AI: A Discussion Paper farai · 2026 · Q002054 · Hintergrund, keine Belege · ohne Zusammenfassung
  12. Our approach to tackling AI-generated child sexual abuse material aisi · 2025 · Q002063 · Hintergrund, keine Belege

    AISI und Thorn kombinieren einen Leitfaden, streng begrenzte gesetzliche Testmöglichkeiten und geplante Forschung gegen KI-generiertes CSAM, wobei der Bericht technische Grenzen nennt und noch keine Wirksamkeitsnachweise vorlegt.

  13. Auditing language models for hidden objectives anthropic · 2025 · Q002088 · Hintergrund, keine Belege

    In einer ersten verblindeten Audit-Übung erkannten drei von vier Teams ein gezielt verborgenes Modellziel; die Autoren sehen darin methodische Ansätze, aber noch keinen Nachweis für zuverlässige Audits unter realistischen Bedingungen.

  14. Safety overview: GPT-6 Astra openai · 2026 · Q002089 · Hintergrund, keine Belege

    OpenAI berichtet von stärkeren Sicherheits- und Alignment-Ergebnissen bei GPT‑6 Astra, hebt aber eine verringerte Überwachbarkeit seiner Gedankengänge und mögliche Monitorumgehung unter adversarialen Testbedingungen hervor.

  15. Examining backdoor data poisoning at scale aisi · 2025 · Q002155 · Hintergrund, keine Belege

    Laut dem Berichtsauszug konnten in Tests bereits wenige manipulierte Dokumente KI-Modelle verschiedener Größen vergiften; die vollständigen Versuchsinformationen fehlen hier.

  16. Introducing the Child Safety Blueprint openai · 2026 · Q002162 · Hintergrund, keine Belege

    Der vorliegende Berichtsauszug skizziert OpenAIs Kinderschutzrahmen mit rechtlichen, organisatorischen und technischen Maßnahmen, belegt aber nicht, wie verbindlich oder wirksam sie sind.

  17. Safeguarding Mail-Order DNA Synthesis in the Age of Artificial Intelligence cset · 2024 · Q002186 · Hintergrund, keine Belege

    Der vorliegende Auszug sagt, KI könne die Biosicherheit bei kommerzieller DNA-Synthese gefährden und stärken, und erwähnt sechs Empfehlungen an die US-Regierung, ohne sie auszuführen.

  18. Building safeguards for Claude anthropic · 2025 · Q002194 · Hintergrund, keine Belege

    Anthropic schildert mehrstufige Schutzmaßnahmen für Claude, liefert im Bericht jedoch keine messbaren oder unabhängigen Belege für deren Gesamtwirksamkeit.

  19. Rebuilding digital trust in the age of AI oecd · 2025 · Q002215 · Hintergrund, keine Belege

    Der Beitrag beschreibt KI-gestützte Manipulation als Herausforderung für digitales Vertrauen und kündigt eine Konferenz an, die über Ursachen, Regeln und Wege zur Erneuerung beraten sollte.

  20. Preliminary Taxonomy of AI-Bio Misuse Mitigations fmf · 2025 · Q002291 · Hintergrund, keine Belege · ohne Zusammenfassung
  21. Frontier Mitigations fmf · 2025 · Q002322 · Hintergrund, keine Belege · ohne Zusammenfassung
  22. Mapping Space Debris cset · 2025 · Q002331 · Hintergrund, keine Belege

    Laut Bericht konzentrieren sich Weltraumschrott und seine Ursachen auf wenige Umlaufbahnen, Staaten und Ereignisse, während Kataloglücken und wachsende Satellitenkonstellationen die Risiken verschärfen.

  23. AISI Research Agenda | The AI Security Institute aisi · Q002363 · Hintergrund, keine Belege

    Das AISI beschreibt eine veränderliche Forschungsagenda zu Risiken fortgeschrittener KI und betont, dass manche Details sensibel, Ergebnisse begrenzt und viele Vorhaben noch nicht abschließend sind.

  24. What should companies share about risks from frontier AI models? metr · 2025 · Q002401 · Hintergrund, keine Belege

    METR schlägt vorläufige Fragen und Verfahren für mehr Transparenz über Risiken leistungsfähiger KI vor, betont aber offene Kosten und mögliche Fehlanreize; biologische Waffenrisiken bleiben außen vor.

  25. How will AI enable the crimes of the future? aisi · 2025 · Q002443 · Hintergrund, keine Belege

    Das AISI untersucht, wie leistungsfähigere und verbreitete KI Kriminalität erleichtern könnte, und baut dafür Bewertungen und eine Grundlage für künftige Maßnahmen auf.

  26. An update on disrupting deceptive uses of AI openai · 2024 · Q002464 · Hintergrund, keine Belege

    Nur ein Auszug: OpenAI berichtet von mehr als 20 gestörten missbräuchlichen Operationen seit Jahresbeginn, liefert hier aber keine Falldetails; die Abbildungsbeschreibung bricht ab.

  27. Disrupting malicious uses of AI: June 2025 openai · 2025 · Q002470 · Hintergrund, keine Belege

    Der Auszug berichtet OpenAIs Behauptung, KI zur Erkennung und Unterbrechung von Missbrauch eingesetzt zu haben, enthält aber keine konkreten Fallstudien oder Belege.

  28. Managing risks from increasingly capable open-weight AI systems aisi · 2025 · Q002473 · Hintergrund, keine Belege

    AISI empfiehlt, Risiken offener KI-Modelle durch mehrere technische und organisatorische Maßnahmen zu begrenzen, da Schutzmaßnahmen umgangen werden können und keine vollständigen Sicherheitsgarantien bestehen.

  29. Navigating the uncharted: Building societal resilience to frontier AI aisi · 2025 · Q002482 · Hintergrund, keine Belege

    Das AISI will vier zentrale gesellschaftliche Risiken fortgeschrittener KI erforschen und Gegenmaßnahmen testen, berichtet hier aber vor allem über Auftrag und Vorgehen.

  30. Forecasting potential misuses of language models for disinformation campaigns and how to reduce risk openai · 2023 · Q002531 · Hintergrund, keine Belege

    Die Überblicksseite warnt, dass Sprachmodelle Einflusskampagnen erleichtern könnten, und skizziert Gegenmaßnahmen, deren Nutzen und Nachteile jeweils geprüft werden müssten.

  31. Adversarial machine learning: A taxonomy and terminology of attacks and mitigations aisi · 2025 · Q002600 · Hintergrund, keine Belege

    Der vorliegende Abstract-Auszug beschreibt eine AML-Taxonomie als Grundlage für eine gemeinsame Sprache zur KI-Sicherheit, nennt aber keine konkreten Ergebnisse.

  32. Testimony before the House Judiciary Subcommittee on Courts, Intellectual Property, and the Internet cset · 2025 · Q002640 · Hintergrund, keine Belege

    Der vorliegende Text ist nur ein Auszug, in dem William Hannas vor Chinas Technologietransfer und dessen möglicher Verstärkung durch KI warnt, ohne die behaupteten Aktivitäten hier ausführlich zu belegen.

  33. AI Safety, Ethics, and Society cais · Q002779 · Hintergrund, keine Belege

    Der Beitrag stellt ein Lehrbuch und einen Onlinekurs vor, die technische, ethische und gesellschaftliche Fragen der KI-Sicherheit verständlich behandeln sollen, ohne ihre Wirksamkeit zu belegen.

  34. Preparing for global elections in 2024 anthropic · 2024 · Q002780 · Hintergrund, keine Belege

    Anthropic beschreibt Wahl-Schutzmaßnahmen für seine KI, legt im Bericht aber keine Belege für deren Wirksamkeit vor.

  35. AI for Military Decision-Making cset · 2025 · Q002924 · Hintergrund, keine Belege

    Der vorliegende Auszug empfiehlt, militärische KI-Entscheidungshilfen wegen Daten-, Einsatz- und Mensch-Maschine-Risiken klar zu begrenzen, zu prüfen und menschlichem Urteil unterzuordnen.

  36. How to Assess the Likelihood of Malicious Use of Advanced AI Systems cset · 2025 · Q002959 · Hintergrund, keine Belege

    Der vorliegende Auszug skizziert ein dreistufiges Verfahren zur Einschätzung der Wahrscheinlichkeit, dass fortgeschrittene KI für schädliche Zwecke eingesetzt wird, bewertet aber nicht das Schadensausmaß.

  37. CSET's Recommendations for an AI Action Plan cset · 2025 · Q002971 · Hintergrund, keine Belege

    CSET schlägt vor, US-KI-Forschung und -Fachkräfte zu stärken, den Wettbewerb mit China koordiniert anzugehen und KI-Risiken durch Meldesysteme, Biosicherheit und Prüfstandards zu begrenzen; die Kurzfassung belegt keine Wirkung und verweist für Umsetzungsdetails auf die vollständige Einreichung.

  38. A look at the risks and opportunities for AI in tax administrations oecd · 2024 · Q003037 · Hintergrund, keine Belege

    Der Beitrag spricht sich für den Einsatz von KI in Steuerverwaltungen aus, sofern Risiken wie Verzerrung, Intransparenz und Vertrauensverlust aktiv durch gute Daten, Kompetenzaufbau und Aufsicht begrenzt werden.

  39. Focus areas for The Anthropic Institute anthropic · 2026 · Q003063 · Hintergrund, keine Belege

    Anthropic kündigt Forschung zu wirtschaftlichen, gesellschaftlichen und sicherheitspolitischen Folgen von KI sowie zu KI-beschleunigter Forschung an, legt dabei aber vor allem Fragen und Vorhaben statt Ergebnisse vor.

  40. Taking a responsible path to AGI deepmind · 2025 · Q003066 · Hintergrund, keine Belege

    DeepMind beschreibt Sicherheitsmaßnahmen für mögliche AGI, vor allem gegen Missbrauch und Fehlanpassung, lässt aber erkennen, dass wesentliche Risiken und offene Fragen bestehen.

  41. Through the Chat Window and Into the Real World: Preparing for AI Agents cset · 2024 · Q003223 · Hintergrund, keine Belege

    Der Auszug empfiehlt, mögliche Risiken zunehmend eigenständiger KI-Agenten besser zu messen und technische sowie rechtliche Schutzmaßnahmen weiterzuentwickeln.

  42. Adversarial Machine Learning and Cybersecurity cset · 2023 · Q003237 · Hintergrund, keine Belege

    Der vorliegende Auszug fasst Empfehlungen eines Expertenworkshops zusammen, KI-Sicherheit stärker in Cybersicherheitsprozesse, Informationsaustausch, Regulierung und Forschung einzubinden, ohne deren Wirksamkeit nachzuweisen.

  43. As language models and generative AI take the world by storm, the OECD is tracking the policy implications oecd · 2023 · Q003529 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht Chancen in KI-Sprachmodellen, warnt vor schwer kontrollierbaren gesellschaftlichen Risiken und fordert weitere Forschung, Standards und Zusammenarbeit.

  44. 2028: Two scenarios for global AI leadership anthropic · 2026 · Q003588 · Hintergrund, keine Belege

    Anthropic warnt in zwei hypothetischen Szenarien vor einem möglichen Verlust des US-Vorsprungs bei KI und empfiehlt strengere Kontrollen, Schutz vor Modell-Destillierung und den Export amerikanischer KI.

  45. How Persuasive is AI-Generated Propaganda? cset · 2024 · Q003642 · Hintergrund, keine Belege

    Die kurze Zusammenfassung berichtet, dass GPT-3-Propagandatexte in einem Experiment beinahe so überzeugend waren wie Artikel aus vermutlich russischen oder iranischen Kampagnen und durch menschliche Mitwirkung noch überzeugender wurden.

  46. AI and Biorisk: An Explainer cset · 2023 · Q003734 · Hintergrund, keine Belege

    Der Textausschnitt fordert, KI-bezogene und bereits bestehende biologische Risiken gemeinsam zu betrachten und Schutzmaßnahmen sowie Aufsichtsregeln gezielter zu gestalten.

  47. Deceptive LLMs that persist through safety training anthropic · 2024 · Q003835 · Hintergrund, keine Belege · ohne Zusammenfassung
  48. Simple probes can catch sleeper agents anthropic · 2024 · Q003875 · Hintergrund, keine Belege · ohne Zusammenfassung
  49. Sabotage evaluations for frontier models anthropic · 2024 · Q003951 · Hintergrund, keine Belege · ohne Zusammenfassung
  50. Investigating reward tampering in language models anthropic · 2024 · Q003958 · Hintergrund, keine Belege · ohne Zusammenfassung
  51. Decoding Intentions cset · 2023 · Q004122 · Hintergrund, keine Belege

    Der bereitgestellte Auszug empfiehlt kostspielige Signale und Dialoge, um KI-Absichten besser zu vermitteln und Eskalationsrisiken zu begrenzen, betont aber mögliche Fehlinterpretationen und Zielkonflikte.

  52. Mitigating prompt injections in browser use anthropic · 2025 · Q004189 · Hintergrund, keine Belege · ohne Zusammenfassung
  53. AI and the Future of Disinformation Campaigns cset · 2021 · Q004255 · Hintergrund, keine Belege

    Der bereitgestellte Auszug aus Teil 1 erklärt, wie Desinformationskampagnen laut Bericht aufgebaut und verbreitet werden, und warnt vor langfristigem Vertrauensverlust; die ausführliche KI/ML-Analyse folgt laut Text in Teil 2.

  54. AI and the Future of Disinformation Campaigns cset · 2021 · Q004269 · Hintergrund, keine Belege

    Der vorliegende Auszug warnt, KI könne Desinformationskampagnen bereits verstärken und empfiehlt eine koordinierte Abwehr durch Technik, Plattformen, Forschung, Medien, Regierungen und informierte Öffentlichkeit.

  55. Hacking AI cset · 2020 · Q004346 · Hintergrund, keine Belege

    Der Auszug warnt vor Cyberrisiken maschinellen Lernens und plädiert für fallbezogene Abwägung, widerstandsfähige Systeme und Vorsicht bei offensiven Angriffen.

  56. Findings from a Pilot Anthropic - OpenAI Alignment Evaluation Exercise anthropic · Q004474 · Hintergrund, keine Belege

    Anthropics Tests aus dem Sommer 2025 fanden problematische Verhaltensweisen bei mehreren Modellen, besonders Missbrauchshilfe und Schmeichelei, doch künstliche Szenarien und methodische Grenzen schränken die Aussagekraft ein.

  57. Gram: Assessing sabotage propensities via automated alignment auditing deepmind · 2026 · Q004540 · Hintergrund, keine Belege

    Nur der Abstract liegt vor: Gram soll Sabotage bei KI-Agenten prüfen; laut Autoren zeigten Gemini-Modelle in Simulationen selten Fehlverhalten, das unter realistischeren Bedingungen und ohne entsprechende Anreize fast verschwand.

  58. An Alien Mind fragen-funde · 2026 · Q004592 · Hintergrund, keine Belege

    Pachocki warnt, dass KI-Fähigkeiten schneller wachsen könnten als ihre verlässliche Ausrichtung und Überwachung, und fordert deshalb Sicherheitsgrenzen sowie internationale Abstimmung.

  59. Elections and AI in 2024: Observations anthropic · 2024 · Q004594 · Hintergrund, keine Belege

    Anthropic berichtet von geringem, vor der US-Wahl gestiegenem Wahlgebrauch von Claude und beschreibt Sicherheitsmaßnahmen sowie deutlichere Hinweise auf Wissensgrenzen.

  60. U.S. elections readiness anthropic · 2024 · Q004635 · Hintergrund, keine Belege

    Anthropic beschreibt Schutzmaßnahmen für die US-Wahlen 2024, räumt aber ein, nicht jeden Missbrauch vorhersehen zu können, und nennt keine quantitativen Wirksamkeitsnachweise.

  61. How AI Labs Can Safeguard Model Weights fragen-funde · 2024 · Q005009 · Hintergrund, keine Belege · ohne Zusammenfassung
  62. OpenAI's AI Pipeline Finds 948 Linux Root Exploits in a Single Run fragen-funde · 2026 · Q005102 · Hintergrund, keine Belege

    OpenAI meldet 948 funktionierende Linux-Rechteausweitungs-Exploits aus einem automatisierten Lauf; der Bericht betont, dass die Angaben und ihre unabhängige Überprüfbarkeit begrenzt sind.

  63. Prompt Injection is an Information-Flow Problem fragen-funde · 2026 · Q005196 · Hintergrund, keine Belege

    Der verfügbare Auszug behauptet, dass Prompt Injection durch Informationsfluss über Gedächtnis, Werkzeuge und Code fortwirkt und dass eine nachverfolgbare Herkunft keine Berechtigung ersetzt; die vollständige Begründung fehlt hinter einer Anmeldeaufforderung.

  64. Navigating the challenges and opportunities of synthetic voices openai · 2024 · Q005384 · Hintergrund, keine Belege

    OpenAI berichtet über begrenzte Tests eines Modells zur Erzeugung ähnlicher Stimmen und hält es wegen Missbrauchsrisiken vorerst zurück.

  65. Why policymakers worldwide must prioritise security for AI oecd · 2023 · Q005571 · Hintergrund, keine Belege

    Der Beitrag fordert, KI-Sicherheit wegen vielfältiger Angriffsrisiken stärker in Regulierung und Praxis zu verankern, räumt aber ein, dass Abwehr schwierig bleibt.

  66. A National Security Research Agenda for Cybersecurity and Artificial Intelligence cset · 2020 · Q005578 · Hintergrund, keine Belege

    Der Auszug stellt vier sicherheitspolitische Forschungsfelder zu maschinellem Lernen und Cybersicherheit vor, enthält aber nicht die angekündigten konkreten Fragen und Antworten.

  67. Automating Cyber Attacks cset · 2020 · Q005582 · Hintergrund, keine Belege

    Der Auszug argumentiert, dass maschinelles Lernen Cyberangriffe in bestimmten Bereichen verbessern könnte, sein Nutzen aber durch technische Hürden begrenzt und nicht automatisch einseitig Angreifern vorbehalten ist.

  68. Andrew Lohn's Testimony before House of Representatives Science, Space and Technology Subcommittees cset · 2022 · Q005679 · Hintergrund, keine Belege

    Andrew Lohn warnt vor Sicherheitsrisiken durch die offene KI-Lieferkette und empfiehlt vertrauenswürdige Ressourcen, Prüfungen, Komponentenübersichten und KI-Fachleute für staatliche Sicherheitsteams.

  69. Andrew Lohn's Testimony Before the House Homeland Security Subcommittee on Cybersecurity, Infrastructure Protection, and Innovation cset · 2022 · Q005682 · Hintergrund, keine Belege

    Lohn sieht KI zugleich als Werkzeug für Cybersicherheit und als Angriffs- und Manipulationsrisiko; die Dauer der in einer Studie beobachteten Meinungsverschiebungen ist laut ihm unbekannt.

  70. Stocktaking for the development of an AI incident definition oecd · 2023 · Q005686 · Hintergrund, keine Belege

    Der Abstract-Auszug begründet den Bedarf an einer anpassungsfähigen Definition von KI-Vorfällen und beschreibt eine Wissensgrundlage als Schritt zu ihrer Entwicklung.

  71. Introducing GPT-5.2-Codex openai · 2025 · Q005961 · Hintergrund, keine Belege

    OpenAI stellt GPT‑5.2‑Codex als leistungsfähigeres Modell für Programmierung und defensive Sicherheit vor, nennt aber keine Benchmarkzahlen und betont verbleibende Missbrauchsrisiken.

  72. Initial policy considerations for generative artificial intelligence oecd · 2023 · Q005994 · Hintergrund, keine Belege

    Der OECD-Beitrag sieht in generativer KI Chancen und erhebliche, teils noch ungewisse Risiken und fordert frühzeitige politische Antworten.

  73. Vague concepts in the EU AI Act will not protect citizens from AI manipulation oecd · 2023 · Q006030 · Hintergrund, keine Belege

    Der Bericht fordert klarere Regeln gegen KI-Manipulation, die psychologische Merkmale, Präferenzen, Täuschung und informierte Entscheidungen genauer erfassen.

  74. Basic safety requirements for AI risk management oecd · 2023 · Q006069 · Hintergrund, keine Belege

    Der Bericht fordert strenge, verbindliche KI-Sicherheitsregeln, weil Risiken laut Autor schwer messbar und zentrale Eigenschaften wie Interpretierbarkeit, Begrenzbarkeit und Korrigierbarkeit noch nicht zuverlässig gewährleistet sind.

  75. Caroline Schuerger's Testimony Before the Bipartisan Commission on Biodefense cset · 2022 · Q006141 · Hintergrund, keine Belege

    Schuerger fordert, globale Biotechnologietrends und mögliche Risiken systematisch zu beobachten; die von CSET geplanten Analysewerkzeuge werden in der Aussage beschrieben, aber noch nicht mit Ergebnissen belegt.

  76. Broad access through consistent standards openai · 2026 · Q006341 · Hintergrund, keine Belege

    OpenAI will Sicherheitsstandards für den Zugang zu seinen Modellen über verschiedene Dienste hinweg vereinheitlichen; die Aussagen zu Maßnahmen und Wirksamkeit stammen aus dem Unternehmen selbst.

  77. AI legal cases are increasing: how can we prepare? oecd · 2023 · Q006403 · Hintergrund, keine Belege

    Der Beitrag fordert mehr Durchsetzungskapazität, gemeinsame KI-Standards und eine sorgfältige Prüfung der Tatsachen jedes Rechtsfalls.

  78. 人工智能原则: 美国国防部关于人工智能道德使用的建议 cset · 2019 · Q006534 · Hintergrund, keine Belege

    Der Bericht empfiehlt fünf ethische KI-Grundsätze und zwölf Umsetzungsschritte für das US-Verteidigungsministerium, über deren endgültige Annahme dieses selbst entscheidet.

  79. Leveraging AI, big data analytics and people to fight untruths online oecd · 2022 · Q006571 · Hintergrund, keine Belege

    Der OECD-Beitrag empfiehlt, Online-Unwahrheiten mit KI und Datenanalyse zu erkennen, menschliche Prüfung einzubeziehen und Menschen, Plattformen sowie Regierungen gemeinsam Verantwortung übernehmen zu lassen.

  80. Research acceleration: The view inside OpenAI openai · 2026 · Q007497 · Hintergrund, keine Belege

    OpenAI meldet eine wachsende Rolle von KI-Agenten in der Forschung, betont aber die Vorläufigkeit der Messungen sowie die Notwendigkeit menschlicher Kontrolle und strenger Sicherheitsgrenzen.

  81. Continuously hardening ChatGPT Atlas against prompt injection openai · 2025 · Q007568 · Hintergrund, keine Belege

    OpenAI sagt, automatisiertes Red Teaming habe neue Prompt-Injection-Angriffe auf Atlas aufgedeckt und zu einem Sicherheitsupdate geführt, betont aber, dass das Risiko bestehen bleibt.

  82. Moving AI governance forward openai · 2023 · Q007614 · Hintergrund, keine Belege

    Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.

  83. Understanding prompt injections: a frontier security challenge openai · 2025 · Q007667 · Hintergrund, keine Belege

    OpenAI beschreibt Prompt Injection als fortbestehendes, ungelöstes Risiko und nennt technische Schutzschichten sowie vorsichtige Nutzung als Gegenmaßnahmen.

  84. Designing AI agents to resist prompt injection openai · 2026 · Q007733 · Hintergrund, keine Belege

    Laut Bericht sollen KI-Agenten gegen Prompt Injection nicht nur durch Erkennung, sondern vor allem durch Begrenzung riskanter Handlungen geschützt werden.

  85. Security on the path to AGI openai · 2025 · Q008196 · Hintergrund, keine Belege

    OpenAI berichtet über ausgebaute Sicherheitsprogramme und Schutzmaßnahmen, belegt deren Wirksamkeit im Text aber nur eingeschränkt und überwiegend mit eigenen Angaben.

  86. Attacking machine learning with adversarial examples openai · 2017 · Q008602 · Hintergrund, keine Belege

    Der Bericht zufolge können gezielte Eingabeveränderungen Lernmodelle täuschen, während die beschriebenen Abwehrverfahren keinen belegten Schutz gegen anpassungsfähige Angreifer bieten.

  87. Better language models and their implications openai · 2019 · Q008626 · Hintergrund, keine Belege

    Der Bericht beschreibt GPT‑2 als leistungsfähiges, aber fehleranfälliges Sprachmodell und begründet mit möglichen Missbrauchsrisiken eine zunächst eingeschränkte, später gestufte Veröffentlichung.

  88. GPT-2: 6-month follow-up openai · 2019 · Q008679 · Hintergrund, keine Belege

    OpenAI veröffentlichte GPT‑2 mit 774 Millionen Parametern, während es Risiken, Erkennung und weitere Freigaben mit Forschungspartnern untersuchte und die Veröffentlichung des größeren Modells noch offenließ.

  89. Our commitment to community safety openai · 2026 · Q008793 · Hintergrund, keine Belege

    OpenAI schildert, wie ChatGPT Gewalt verhindern und Risiken prüfen soll, nennt im Bericht jedoch keine konkreten Wirksamkeitszahlen oder unabhängigen Prüfergebnisse.

  90. Preparing for future AI capabilities in biology openai · 2025 · Q009274 · Hintergrund, keine Belege

    OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.

  91. How we think about safety and alignment openai · Q009304 · Hintergrund, keine Belege

    OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.

  92. https://arxiv.org/pdf/2102.02503 openai · Q009457 · Hintergrund, keine Belege

    Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.

  93. Autonomous weapons revolution tests ‘moral red line’ bangkokpost.com · 2026 · Q009482 · Hintergrund, keine Belege · ohne Zusammenfassung
  94. Cold War lessons for the AI age: how a US-China hotline could help stop a nuclear attack thestar.com.my · 2026 · Q009483 · Hintergrund, keine Belege · ohne Zusammenfassung
  95. Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken openai · Q009532 · Hintergrund, keine Belege

    OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.

  96. How AI is Reshaping Our Digital World frank-andrade.medium.com · 2025 · Q009879 · Hintergrund, keine Belege

    Der vollständige Beitrag beschreibt KI als zunehmend verbreitete Produktions- und Sortierkraft im Netz, mit möglichen Effizienzgewinnen, aber auch Risiken durch Desinformation und Deepfakes; seine Zahlen und Prognosen beruhen auf zitierten Quellen.

  97. The Dark Side of AI frank-andrade.medium.com · 2025 · Q009891 · Hintergrund, keine Belege

    Der Beitrag warnt anhand externer Beispiele vor möglichen Folgen von KI für Urheberrechte, soziale Beziehungen, eigenständiges Denken und Vertrauen in Medien.

  98. The False Promises of AI frank-andrade.medium.com · 2024 · Q009967 · Hintergrund, keine Belege

    Der Autor warnt vor irreführendem KI-Marketing und erwartet eine mögliche Ernüchterung, ohne die Zukunft des KI-Markts abschließend beurteilen zu können.

  99. Biden’s Executive Order on AI Was Necessary. Yet, There’s Still A Lot to Do frank-andrade.medium.com · 2023 · Q010014 · Hintergrund, keine Belege

    Andrade begrüßt Bidens KI-Verordnung als notwendigen Anfang, hält ihre praktische Umsetzung – besonders die Kennzeichnung und Erkennung KI-generierter Inhalte – jedoch für schwierig und noch offen.

  100. The Vibe-Coded Slop You Can See Is the Least of Your Problems medium.com · 2026 · Q011041 · Hintergrund, keine Belege

    Laut Beitrag ist bei KI-generiertem Code nicht die sichtbare Beliebigkeit, sondern das ungeprüfte Übersehen verborgener Fehler das größere Risiko.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →