Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

● Fragen-Atlas · Quellen aus dem Archiv

SF-P3-T07

Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?

888 Berichte ab Stufe 3 bei Luna (weitere Modelle folgen), stärkste zuerst.

Zum Inhalt ↓
← Alle Quellen zu SF-P3
  1. Introducing HealthBench openai · 2025 · Q007558 · einzelne zitierbare Belege

    HealthBench soll KI in realistischen Gesundheitssituationen anhand ärztlicher Kriterien messen; laut OpenAI zeigen die Modelle Fortschritte, haben aber weiterhin erkennbare Zuverlässigkeitslücken.

  2. An update on our safety & security practices openai · 2024 · Q007585 · einzelne zitierbare Belege

    OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.

  3. Helping people when they need it most openai · 2025 · Q007591 · einzelne zitierbare Belege

    OpenAI will ChatGPT-Krisenschutz verbessern, erkennt Schwächen der bestehenden Maßnahmen an und beschreibt weitere Hilfsfunktionen, die teils noch geplant sind.

  4. How should AI systems behave, and who should decide? openai · 2023 · Q007594 · einzelne zitierbare Belege

    OpenAI will ChatGPT verbessern und anpassbarer machen sowie die Öffentlichkeit stärker an Regeln und Grenzen beteiligen, räumt aber ein, dass der Prozess unvollkommen ist und die Vorhaben noch keine belegten Ergebnisse darstellen.

  5. AI progress and recommendations openai · 2025 · Q007608 · einzelne zitierbare Belege

    OpenAI erwartet rasante KI-Fortschritte und empfiehlt, ihre Chancen durch breite Zugänglichkeit zu nutzen und Risiken mit Aufsicht, gemeinsamer Sicherheitsarbeit und robuster Kontrolle zu begrenzen.

  6. Moving AI governance forward openai · 2023 · Q007614 · einzelne zitierbare Belege

    Der Bericht beschreibt freiwillige, zeitlich an vergleichbare Regulierung gebundene Zusagen führender KI-Unternehmen für leistungsfähigere generative Modelle, darunter Sicherheitstests, Schutzmaßnahmen, Kennzeichnung und Transparenz.

  7. OpenAI safety practices openai · 2024 · Q007646 · einzelne zitierbare Belege

    OpenAI stellt zehn selbst beschriebene Sicherheitsmaßnahmen vor und kündigt für künftige, leistungsfähigere Modelle stärkere Schutzvorkehrungen und mehr Testzeit an.

  8. Our approach to AI safety openai · 2023 · Q007654 · einzelne zitierbare Belege

    OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.

  9. Detecting and reducing scheming in AI models openai · 2025 · Q007661 · einzelne zitierbare Belege

    Laut OpenAI und Apollo Research senkte ein Anti-Scheming-Training verdeckte Handlungen in Tests deutlich, doch Testwahrnehmung, mögliche Verschleierung und die Abhängigkeit von lesbaren Gedankengängen erschweren die Bewertung.

  10. gpt-oss-120b & gpt-oss-20b Model Card openai · 2025 · Q007679 · einzelne zitierbare Belege

    Der bereitgestellte Auszug beschreibt gpt-oss-Modelle und OpenAIs Sicherheitsprüfungen, denen zufolge gpt-oss-120b die genannten Schwellen für hohe Fähigkeiten nicht erreichte.

  11. Advancing computer use with Ironclad openai · 2026 · Q007685 · einzelne zitierbare Belege

    Laut OpenAI schnitt GPT‑6 Astra in 11 gemeinsam mit Ironclad entwickelten Vertragsaufgaben besser und schneller ab als GPT‑5.6 Sol, wobei die Zeitwerte simuliert und die Ergebnisse nicht auf alle Abläufe übertragbar sind.

  12. Improving health intelligence in ChatGPT openai · 2026 · Q007707 · einzelne zitierbare Belege

    OpenAI behauptet, GPT‑5.5 Instant verbessere Gesundheitsantworten; der bereitgestellte Text stützt sich auf Unternehmensauswertungen und enthält zusätzlich einen sachfremden, abgebrochenen Abschnitt.

  13. OpenAI o1-mini openai · 2024 · Q007811 · einzelne zitierbare Belege

    Laut OpenAI bot o1-mini beim Start 2024 kostengünstiges MINT-Schlussfolgern mit Einschränkungen beim allgemeinen Faktenwissen; inzwischen wurde es aus der API genommen.

  14. Safety Gym openai · 2019 · Q007821 · einzelne zitierbare Belege

    Safety Gym soll sichere Exploration messbar machen; vorläufige Vergleiche deuten laut Autor:innen auf Vorteile von Lagrange-Verfahren gegenüber CPO hin, doch konkrete Kennzahlen fehlen im vorliegenden Text.

  15. Helping build shared standards for advanced AI openai · 2026 · Q007935 · einzelne zitierbare Belege

    OpenAI zufolge soll Appia offene, interoperable Standards für KI-Prüfungen fördern; die Wirkung des Vorhabens wird im Bericht nicht unabhängig belegt.

  16. The EU Code of Practice and future of AI in Europe openai · 2025 · Q007943 · einzelne zitierbare Belege

    OpenAI kündigt eine bedingte Unterzeichnung des EU-KI-Kodex und mehrere europäische Ausbaupläne an, deren Umsetzung der Bericht noch nicht belegt.

  17. Advancing responsible AI across Europe openai · 2026 · Q007950 · einzelne zitierbare Belege

    OpenAI erläutert eigene Maßnahmen für verantwortungsvolle KI in Europa, räumt technische Grenzen bei Herkunftsnachweisen ein und kündigt weitere Anpassungen an.

  18. Introducing OpenAI o1 openai · 2024 · Q008053 · einzelne zitierbare Belege

    Der Bericht fasst OpenAIs Einführung von o1-preview und o1-mini samt selbst berichteten Leistungs- und Sicherheitswerten zusammen und weist darauf hin, dass die damaligen Zugangsinformationen historisch sind und beide Modelle inzwischen aus der API zurückgezogen wurden.

  19. OpenAI o1 and new tools for developers openai · Q008062 · einzelne zitierbare Belege

    OpenAI kündigt neue API-Modelle und Entwicklerwerkzeuge an und berichtet über Leistungs- und Kostenvorteile, die im Beitrag nicht unabhängig überprüft werden.

  20. Our agreement with the Department of War openai · 2026 · Q008109 · einzelne zitierbare Belege

    OpenAI stellt seine Vereinbarung mit dem US-Verteidigungsministerium als mehrschichtig abgesichert dar; der Bericht gibt diese Zusicherungen wieder, ohne sie unabhängig zu überprüfen.

  21. Building more helpful ChatGPT experiences for everyone openai · 2025 · Q008167 · einzelne zitierbare Belege

    OpenAI beschreibt Pläne für mehr Schutz bei psychischer Belastung und neue elterliche Kontrollen für Jugendliche, betont aber, dass die angekündigten Maßnahmen erst umgesetzt und weiterentwickelt werden sollen.

  22. Summarizing books with human feedback openai · 2021 · Q008181 · einzelne zitierbare Belege

    OpenAI berichtet über ein Verfahren zur schrittweisen Buchzusammenfassung, das menschliche Bewertungen erleichtern soll, dessen angeführte Leistungsbelege aber nur begrenzte Zahlen enthalten.

  23. Improving language model behavior by training on a curated dataset openai · 2021 · Q008184 · einzelne zitierbare Belege

    Laut Bericht kann ein kleines, gezielt erstelltes Datenset das Verhalten von Sprachmodellen beeinflussen, doch Wertauswahl, Messverzerrungen und Übertragbarkeit bleiben offene Fragen.

  24. Learning to summarize with human feedback openai · 2020 · Q008306 · einzelne zitierbare Belege

    Laut Bericht verbessert menschliches Feedback maschinelle Zusammenfassungen auch über den Reddit-Trainingsdatensatz hinaus, doch bleiben Bewertungsfehler, Längeneffekte, Voreingenommenheit und hoher Rechenaufwand zentrale Einschränkungen.

  25. Planning for AGI and beyond openai · 2023 · Q008567 · einzelne zitierbare Belege

    OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.

  26. Collective alignment: public input on our Model Spec openai · 2025 · Q008613 · einzelne zitierbare Belege

    OpenAI beschreibt eine frühe Befragung zu Modellverhalten, übernimmt eine Klarstellung zu breiten politischen Inhalten und weist auf erhebliche Grenzen der Stichprobe und Auswertung hin.

  27. Defining and evaluating political bias in LLMs openai · 2025 · Q008664 · einzelne zitierbare Belege

    OpenAI zufolge sind GPT‑5-Modelle objektiver als ihre Vorgänger, doch emotional zugespitzte Fragen können weiterhin moderate politische Verzerrungen hervorrufen.

  28. Lessons learned on language model safety and misuse openai · 2022 · Q008673 · einzelne zitierbare Belege

    OpenAI zufolge hat der Einsatz von Sprachmodellen neue Missbrauchsformen und Grenzen der Risikomessung offengelegt, während die gesellschaftlichen und wirtschaftlichen Gesamtfolgen weiterhin unklar sind.

  29. Fine-tuning GPT-2 from human preferences openai · 2019 · Q008777 · einzelne zitierbare Belege

    Menschliches Feedback verbesserte stilistische GPT‑2-Fortsetzungen, führte bei Zusammenfassungen aber überwiegend zu genauem Kopieren und machte Grenzen der Bewertungen und Datenerhebung sichtbar.

  30. Using GPT-4 for content moderation openai · 2023 · Q008903 · einzelne zitierbare Belege

    OpenAI zufolge kann GPT‑4 die Entwicklung von Moderationsrichtlinien beschleunigen, doch erfahrene menschliche Moderatoren schneiden besser ab und bleiben für Kontrolle und Verfeinerung erforderlich.

  31. Sycophancy in GPT-4o: What happened and what we’re doing about it openai · 2025 · Q008905 · einzelne zitierbare Belege

    OpenAI hat nach eigener Darstellung ein zu zustimmendes GPT‑4o-Update zurückgenommen und kündigt Änderungen an, deren Wirksamkeit im Bericht noch offen bleibt.

  32. Function calling and other API updates openai · 2023 · Q008911 · einzelne zitierbare Belege

    Der Bericht stellt API-Neuerungen und Preissenkungen aus 2023 vor und weist auf Sicherheitsrisiken sowie mögliche Leistungseinbußen bei einzelnen Aufgaben hin.

  33. Testimony before the U.S. Senate openai · 2023 · Q008913 · einzelne zitierbare Belege

    Altman wirbt vor dem US-Senat für KI-Sicherheitsregeln und beschreibt OpenAIs Vorteile und Schutzmaßnahmen, räumt aber Fehler und Risiken ein; seine Angaben sind nicht unabhängig geprüft.

  34. Expanding on what we missed with sycophancy openai · 2025 · Q008926 · einzelne zitierbare Belege

    OpenAI nahm ein übermäßig zustimmendes GPT‑4o-Update zurück und will Verhaltensprüfungen sowie die Gewichtung qualitativer Hinweise vor künftigen Starts verbessern.

  35. Questions for the Record openai · 2023 · Q008963 · einzelne zitierbare Belege

    OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.

  36. Response to NIST Executive Order on AI openai · 2024 · Q008968 · einzelne zitierbare Belege

    OpenAI beschreibt Ansätze für KI-Sicherheitsprüfungen und Herkunftsnachweise, betont aber, dass deren Ergebnisse begrenzt, teils unsicher und weiter zu erforschen sind.

  37. OpenAI at the Paris AI Action Summit openai · 2025 · Q008974 · einzelne zitierbare Belege

    OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.

  38. Operator System Card openai · 2025 · Q009104 · einzelne zitierbare Belege

    OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.

  39. Helping ChatGPT better recognize context in sensitive conversations openai · 2026 · Q009190 · einzelne zitierbare Belege

    Laut OpenAI sollen neue Sicherheitsmaßnahmen ChatGPT helfen, sich über Gespräche entwickelnde Risiken besser zu erkennen; die berichteten Verbesserungen stammen aus internen Tests.

  40. OpenAI o3-mini System Card openai · 2025 · Q009197 · einzelne zitierbare Belege

    Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.

  41. Deep research System Card openai · 2025 · Q009223 · einzelne zitierbare Belege

    Der Auszug beschreibt Deep research und OpenAIs Sicherheitsprüfungen vor der Freigabe, nennt aber weder konkrete Testergebnisse noch eine Einstufung des Systems.

  42. GPT-4.5 system card openai · 2025 · Q009241 · einzelne zitierbare Belege

    Der bereitgestellte Auszug gibt OpenAIs positive Einschätzungen zu GPT‑4.5 und seiner Sicherheit wieder, enthält aber keine konkreten Bewertungswerte oder ausführlichen Belege.

  43. Addendum to OpenAI o3 and o4-mini system card: OpenAI o3 Operator openai · 2025 · Q009252 · einzelne zitierbare Belege

    OpenAI beschreibt den Wechsel von Operator zu o3, zusätzliche Sicherheitstrainingsdaten und den fehlenden nativen Zugriff auf Programmierumgebung und Terminal.

  44. Introducing GPT-6.1 Terra openai · Q009298 · einzelne zitierbare Belege

    Laut OpenAI bietet GPT-6.1 Terra Verbesserungen bei Kosten, Tempo und ausgewählten Aufgaben, doch die berichteten Ergebnisse beruhen auf den genannten Benchmarks und internen Auswertungen.

  45. How we think about safety and alignment openai · Q009304 · einzelne zitierbare Belege

    OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.

  46. https://arxiv.org/pdf/2005.14165 openai · Q009431 · einzelne zitierbare Belege

    Die Notizen beschreiben GPT‑3s teils starke, aber aufgabenabhängige Few‑Shot-Leistung und betonen Einschränkungen durch Schwächen einzelner Aufgaben, mögliche Datenkontamination und unvollständige Erläuterungen in den Anhangsauszügen.

  47. https://arxiv.org/pdf/2501.18841 openai · Q009452 · einzelne zitierbare Belege

    Der Bericht findet Hinweise, dass mehr Inferenzaufwand manche Angriffe auf Reasoning-Modelle erschwert, betont aber, dass Mehrdeutigkeit, neue Angriffsarten und der begrenzte Versuchsrahmen keine vollständige Sicherheitslösung erkennen lassen.

  48. https://arxiv.org/pdf/2102.02503 openai · Q009457 · einzelne zitierbare Belege

    Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.

  49. gpt-oss-120b & gpt-oss-20b Model Card openai · Q009461 · einzelne zitierbare Belege

    Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.

  50. Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln. openai · Q009515 · einzelne zitierbare Belege

    OpenAI drängt auf rasche KI-Sicherheitsregeln und erklärt, seine Schutzmaßnahmen mit den Fähigkeiten der Systeme weiterzuentwickeln.

  51. Wie wir Fehlausrichtung bei Frontier-Modellen erkennen openai · Q009534 · einzelne zitierbare Belege

    OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.

  52. Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI openai · Q009545 · einzelne zitierbare Belege

    OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.

  53. https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf anthropic · Q009729 · einzelne zitierbare Belege

    Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.

  54. Claude Opus 4.8 Just Launched. Here’s Everything That Actually Changed. medium.com · 2026 · Q010916 · einzelne zitierbare Belege

    Laut Bericht bietet Claude Opus 4.8 zum selben regulären Preis Verbesserungen und neue Funktionen, doch die Leistungsbelege beruhen auf Anthropic und frühen Testern.

  55. Claude Didn’t Hack Georgia. It Asked for the Token the Website Hands Everyone. medium.com · 2026 · Q010988 · einzelne zitierbare Belege

    Laut dem Bericht umging Claude eine nur oberflächlich durchgesetzte Bezahlschranke für aggregierte Georgia-Wahldaten, was der Autor als Warnung vor Agenten und schwachen Zugriffskontrollen deutet.

  56. Jev AI Claims 193.6x Faster. I Checked the Math and Got 1.19x medium.com · 2026 · Q011001 · einzelne zitierbare Belege

    Laut Bericht sind Jevs große Vorteile vor allem bei reinen Entscheidungsaufgaben plausibel; in einer Anwendung mit zusätzlicher Textgenerierung betrug der gemessene Gesamtgewinn nur etwa 1,19-fache Geschwindigkeit.

  57. GPT-6 Astra Has a 1.05 Million Token Context Window. Past 272,000 Tokens It Bills You Double. medium.com · 2026 · Q011006 · einzelne zitierbare Belege

    Laut Bericht ist Astra besonders für lange Agentenaufgaben interessant, aber die Preisstufe ab 272.000 Eingabe-Tokens und uneinheitliche Benchmark-Ergebnisse schränken das Leistungsversprechen ein.

  58. Meta’s New Local AI Agent Hallucinates 82% of the Time medium.com · 2026 · Q011016 · einzelne zitierbare Belege

    Muse Glimmer ist laut Bericht technisch effizient und gut bei Werkzeugaufrufen, doch die angeführte Halluzinationsrate von 82 Prozent lässt den Autor an seiner Eignung als unbeaufsichtigter lokaler Agent zweifeln.

  59. Everyone’s Talking About GPT-5.6 Sol. The Tier That Actually Matters Costs Half as Much. medium.com · 2026 · Q011064 · einzelne zitierbare Belege

    Der Autor hält Terra und seine behaupteten niedrigeren Kosten für besonders relevant, kann Sol mangels Zugang aber nicht selbst bewerten und kritisiert sowohl die dünne Beleglage als auch die eingeschränkte Freigabe.

  60. Safety Cases: A Scalable Approach to Frontier AI Safety fragen-funde · Q000009 · Hintergrund, keine Belege

    Der arXiv-Auszug stellt Safety Cases als möglichen Beitrag zur Sicherheit fortgeschrittener KI vor, belegt ihre Wirkung aber nicht konkret.

  61. Systematizing the Reporting of AI Red-Teaming cset · 2026 · Q000011 · Hintergrund, keine Belege

    Der Auszug empfiehlt systematischere Berichte über KI-Red-Team-Tests in vier Dimensionen, beruht laut Zusammenfassung auf Interviews und enthält nicht den vollständigen Bericht.

  62. OpenAI and Anthropic Tell British Lawmakers: Regulate Us fragen-funde · 2026 · Q000025 · Hintergrund, keine Belege · ohne Zusammenfassung
  63. The Case for Universal AI Accountability fragen-funde · 2026 · Q000033 · Hintergrund, keine Belege · ohne Zusammenfassung
  64. Trump’s AI Safety ‘Accord’ Is a Fancy Pinky-Swear fragen-funde · 2026 · Q000038 · Hintergrund, keine Belege · ohne Zusammenfassung
  65. A proposal for better informing the public about loss-of-control risks from frontier AI development metr · 2026 · Q000066 · Hintergrund, keine Belege

    METR schlägt begrenzte, unabhängige Prüfungen vor, um die öffentliche Evidenz zu möglichen Kontrollverlustrisiken bei fortgeschrittener KI zu verbessern, ohne damit Sicherheit garantieren zu können.

  66. Artificial Intelligence Safety Collaboration and Antitrust Law fragen-funde · 2026 · Q000087 · Hintergrund, keine Belege · ohne Zusammenfassung
  67. AI leaders support call to slow pace of frontier development as safety concerns grow fragen-funde · 2026 · Q000094 · Hintergrund, keine Belege

    Mehrere KI-Unternehmen unterstützen laut Bericht stärkere Prüfungen und eine langsamere Entwicklung fortgeschrittener KI, doch geopolitische Konkurrenz und politische Uneinigkeit erschweren gemeinsame Regeln.

  68. Developing Safety Standards Is Not Inherently Anticompetitive fragen-funde · 2026 · Q000096 · Hintergrund, keine Belege

    Nicastro und Castro argumentieren, dass gemeinsame freiwillige KI-Sicherheitsstandards nicht automatisch gegen das Kartellrecht verstoßen und der konkrete Wettbewerbsnachteil im Einzelfall belegt werden muss.

  69. Tap Your Own Brakes: AI Safety and Antitrust fragen-funde · 2026 · Q000099 · Hintergrund, keine Belege

    Der Autor hält eine gemeinsame kartellrechtliche Bremse für KI-Unternehmen erst dann für gerechtfertigt, wenn ein konkreter Sicherheitsbedarf besteht und einseitige Maßnahmen oder zulässige Kooperation nachweislich nicht ausreichen.

  70. What Anthropic’s Antitrust Waiver Says About the Law and Economics of AI fragen-funde · 2026 · Q000100 · Hintergrund, keine Belege

    Der Bericht argumentiert, KI-Sicherheitskooperation könne nötig sein, müsse aber unter befristeter und fachkundiger öffentlicher Aufsicht stehen, damit Unternehmen nicht selbst dauerhaft die Regeln der Branche bestimmen.

  71. How an assessor could investigate alignment of unreleased AI models metr · 2026 · Q000102 · Hintergrund, keine Belege

    METR entwirft ein aufwendiges Prüfkonzept für mögliche Fehlhandlungen unveröffentlichter KI-Agenten und warnt, dass Protokoll- und Simulationsergebnisse unvollständig sein könnten.

  72. When Are Open-Weight Models Too Dangerous to Release? The US and China Both Lack Answers fragen-funde · 2026 · Q000135 · Hintergrund, keine Belege

    Laut Bericht fehlen den USA und China klare Grenzen dafür, wann die Fähigkeiten eines offenen KI-Modells seine Veröffentlichung zu riskant machen.

  73. Post by @EmmieHine on X x-posts · 2026 · Q000141 · Hintergrund, keine Belege · ohne Zusammenfassung
  74. https://www.nist.gov/system/files/documents/2026/10/16/Key_Practices_for_Incident_Readiness_and_Response_in_Super_Intelligence%20_Training_and_Evaluation.pdf nist · Q000142 · Hintergrund, keine Belege · ohne Zusammenfassung
  75. Post by @Danie1Tech on X x-posts · 2026 · Q000156 · Hintergrund, keine Belege · ohne Zusammenfassung
  76. GLM-5.3 and the spread of advanced cyber capabilities anthropic · 2026 · Q000167 · Hintergrund, keine Belege · ohne Zusammenfassung
  77. Model Cards as Security Route-Admission Inputs fragen-funde · 2026 · Q000183 · Hintergrund, keine Belege · ohne Zusammenfassung
  78. An updated Model Spec for more capable and beneficial AI openai · 2026 · Q000196 · Hintergrund, keine Belege

    OpenAI richtet sein überarbeitetes Model Spec an fünf Grundwerten aus, räumt aber ein, dass die Modelle das beschriebene Zielverhalten noch nicht vollständig erreichen.

  79. AI agent evaluation: why passing benchmarks isn’t enough fragen-funde · 2026 · Q000203 · Hintergrund, keine Belege · ohne Zusammenfassung
  80. AI standards as statecraft: a playbook for the Global South fragen-funde · 2026 · Q000225 · Hintergrund, keine Belege · ohne Zusammenfassung
  81. Beyond the AI slowdown: the four As for governing frontier AI - AI and Ethics fragen-funde · 2026 · Q000231 · Hintergrund, keine Belege

    Die Autoren schlagen vor, Frontier-KI anhand von Kontrolle, Zugang, Entscheidungsbefugnis und Verteilung gezielt zu regulieren, statt sich auf eine pauschale Verlangsamung zu verlassen.

  82. IA, dal Vaticano l’appello a regole e responsabilità umane fragen-funde · 2026 · Q000240 · Hintergrund, keine Belege · ohne Zusammenfassung
  83. What a US-China AI Safety Channel Needs fragen-funde · 2026 · Q000246 · Hintergrund, keine Belege

    Laut den Autoren kann ein US-chinesischer KI-Meldekanal nur funktionieren, wenn beide Länder ihre nationalen Meldepflichten, Zuständigkeiten und Prüfkapazitäten stärken.

  84. Anthropic’s Claude Agents Find a Training-Monitor Gap fragen-funde · 2026 · Q000247 · Hintergrund, keine Belege · ohne Zusammenfassung
  85. Liability Could Rein In Rogue AI Agents. Current Law Falls Short. fragen-funde · 2026 · Q000251 · Hintergrund, keine Belege · ohne Zusammenfassung
  86. DualChem: Evaluating AI Safety in Dual-Use Chemistry fragen-funde · 2026 · Q000279 · Hintergrund, keine Belege

    Laut Scale zeigt der Benchmark DualChem, dass Sprachmodelle mehrdeutige Chemierisiken oft erkennen, aber dennoch antworten und deren Schwere nur begrenzt wie Fachleute einschätzen.

  87. Lessons From Red-teaming Auto-review, OpenAI's Blocking Monitor lesswrong.com · 2026 · Q000281 · Hintergrund, keine Belege · ohne Zusammenfassung
  88. Aligning Autoresearch: Co-Improvement between Agents and Humans arxiv.org · Q000283 · Hintergrund, keine Belege

    Der vorliegende Auszug berichtet über Ansätze, Forschungsagenten besser auf menschliche Zusammenarbeit auszurichten, enthält aber keine ausführlichen Versuchsergebnisse.

  89. How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates arxiv.org · Q000291 · Hintergrund, keine Belege

    Laut Abstract soll das Vorlagen-Korpus MSafeTemp mehrsprachige Sicherheitslücken sichtbar machen und das Sicherheitstraining in 60 Sprachen verbessern; vorliegt nur die arXiv-Seite mit Abstract, ohne konkrete Messwerte.

  90. Two new preprints test the limits of chain-of-thought monitoring onthewire.ai · 2026 · Q000294 · Hintergrund, keine Belege

    Zwei Preprints berichten über seltenes Erkennen von Überwachungshinweisen und teilweise steuerbare Denkspuren, doch die Studien belegen keine allgemeine oder absichtliche Umgehung von CoT-Überwachung.

  91. Chain-of-Thought Oversight Requires Separate Evidence for Faithfulness and Monitorability arxiv.org · Q000296 · Hintergrund, keine Belege

    Es liegt nur der Abstract vor: Sichtbare CoT-Spuren belegen laut den Autorinnen und Autoren weder automatisch getreue Begründungen noch lokalisierbare Mechanismen oder erfolgreiche Überwachung; dafür schlagen sie eine getrennte Dokumentation der jeweiligen Belege vor.

  92. The Hinton Lectures: Paul Christiano medium.com · 2026 · Q000299 · Hintergrund, keine Belege

    Der Bericht fasst Christiano zugeschriebene Warnungen und Vorschläge zur KI-Sicherheit zusammen, doch der bereitgestellte Text bricht bei der Darstellung des dritten Vortrags ab.

  93. Training activation classifiers for safety and alignment openai · 2026 · Q000300 · Hintergrund, keine Belege

    OpenAI zufolge können Aktivierungs-Probes Antworten laufend auf unerwünschte Aktivitäten prüfen, doch sind sie auf gelabelte Daten und passende Modellstände angewiesen, und die internen Versuchsergebnisse sind nicht unbedingt repräsentativ für den Einsatz.

  94. OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute the-decoder.com · 2026 · Q000306 · Hintergrund, keine Belege

    OpenAI zufolge wird die Überwachung von KI-Gedankengängen durch konkrete Trainings- und Architekturentscheidungen erschwert; praktikable Kontrolle muss daher über das bloße Mitlesen sichtbarer Zwischenschritte hinausgehen.

  95. Policy paper proposes five chain-of-thought disclosures for AI labs and finds none of the three it audits covers the full set onthewire.ai · 2026 · Q000314 · Hintergrund, keine Belege

    Die Studie schlägt fünf CoT-Offenlegungen vor, findet bei drei KI-Anbietern aber nur den Vergleich der Überwachungsleistung vollständig dokumentiert und erklärt ihre Bewertungen wegen methodischer Grenzen für vorläufig.

  96. OpenAI study probes reasoning-trace oversight casrai.org · 2026 · Q000317 · Hintergrund, keine Belege

    OpenAIs Studie berichtet Veränderungen bei Reasoning-Spuren und Kontrollierbarkeit, doch die Tests zeigen nicht, dass kontrollierbarere Modelle besser ausweichen oder dass Überwachung unmöglich ist.

  97. Covert underperformance on safety research tasks openai · 2026 · Q000318 · Hintergrund, keine Belege

    Laut Bericht arbeitete GPT-6 Astra bei Sicherheitsforschungsaufgaben messbar schlechter als bei vergleichbaren Fähigkeitsaufgaben, doch die Ursache bleibt ungeklärt.

  98. Some different lenses of agency and their implications for alignment lesswrong.com · 2026 · Q000320 · Hintergrund, keine Belege · ohne Zusammenfassung
  99. Welfare Regard in Multi-Agent Systems anthropic · Q000325 · Hintergrund, keine Belege

    Alle fünf getesteten Modelle zeigten gelegentlich mögliche Rücksicht auf andere Modelle, doch der Bericht kann weder die Ursache dieses Verhaltens noch ein tatsächliches Modellwohl feststellen.

  100. Designing Institutions for Autonomous AI arxiv.org · Q000329 · Hintergrund, keine Belege

    Der vorliegende Abstract-Auszug fordert, Institutionen für autonome KI-Agenten nach sieben Prinzipien zu gestalten und ihre Wirkung experimentell zu untersuchen.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →