- OpenAI to acquire Promptfoo
OpenAI plant die Übernahme von Promptfoo und will dessen Sicherheitstest-Werkzeuge nach Abschluss in Frontier integrieren.
- Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
Der Bericht plädiert für risikobasierte Audits von Algorithmen, die zentrale Vertrauensfragen prüfen, Zielkonflikte berücksichtigen und in Governance eingebettet werden.
- Soft law 2.0: Incorporating incentives and implementation mechanisms into the governance of artificial intelligence
Eine Auswertung von 634 KI-Soft-Law-Programmen legt nahe, dass Anreize und Umsetzungsmechanismen ihre Glaubwürdigkeit stärken könnten; die Befunde reichen nur bis Ende 2019 und Soft Law löst nicht alle Governance-Probleme.
- Zico Kolter Joins OpenAI’s Board of Directors
OpenAI kündigt die Berufung des KI-Sicherheitsforschers Zico Kolter in den Verwaltungsrat und dessen Sicherheitsausschuss an.
- Deepening our collaboration with the U.S. Department of Energy
OpenAI und das US-Energieministerium wollen mögliche KI- und Hochleistungsrechen-Kooperationen für die Wissenschaft erkunden; konkrete Folgeprojekte und Ergebnisse stehen laut Bericht noch aus.
- Building more with GPT-5.1-Codex-Max
OpenAI zufolge verbessert GPT‑5.1‑Codex‑Max die Ergebnisse und Ausdauer bei agentischen Programmieraufgaben, doch der Bericht stützt sich überwiegend auf unternehmenseigene Benchmarks und interne Beobachtungen und empfiehlt weiterhin menschliche Kontrolle.
- The power of continuous learning
Eine OpenAI-Mitarbeiterin schildert ihre Projekte und betont Lernen, Teamarbeit sowie die ungelösten Aufgaben der KI-Sicherheit und Ausrichtung.
- Can AI combat cognitive capacity issues and information overload?
Der Beitrag argumentiert, KI könne die Überlastung durch wissenschaftliche Informationen mindern, sofern sie sicher und verantwortungsvoll eingesetzt wird und den Zugang zu Wissen unterstützt.
- OpenAI API
Der Beitrag von 2020 beschreibt OpenAIs API-Pläne für zugängliche Textgenerierung mit kontrolliertem Zugang, räumt Risiken wie Missbrauch und Verzerrungen ein und liefert keinen unabhängigen Wirksamkeitsnachweis.
- Introducing GPT-5
OpenAI zufolge verbindet GPT‑5 schnelle Antworten mit bedarfsgesteuertem Nachdenken und erzielt in eigenen Tests Fortschritte, deren Aussagekraft an die genannten Testbedingungen gebunden ist.
- GPT-4
OpenAI beschreibt GPT‑4 als leistungsfähiger und sicherer als GPT‑3.5, räumt aber unter anderem Verzerrungen und Halluzinationen als fortbestehende Grenzen ein.
- Finding GPT-4’s mistakes with GPT-4
CriticGPT soll die menschliche Prüfung von ChatGPT-Code verbessern, zeigt laut Bericht vielversprechende Vergleichsergebnisse, bleibt aber bei Halluzinationen, langen und komplexen Aufgaben begrenzt.
- Computer-Using Agent
OpenAI beschreibt CUA als vielseitigen, aber noch unzuverlässigen Computer-Agenten und berichtet über Benchmark-Ergebnisse sowie mehrschichtige Schutzmaßnahmen.
- Running Codex safely at OpenAI
OpenAI zufolge kombiniert das Unternehmen technische Grenzen, Freigaben und agentenspezifische Protokolle, um Codex in Arbeitsabläufen zu kontrollieren; unabhängige Wirksamkeitsnachweise nennt der Bericht nicht.
- Introducing SWE-bench Verified
OpenAI zufolge soll SWE-bench Verified durch menschlich geprüfte Aufgaben Software-Agenten verlässlicher bewerten, doch statische Benchmarks decken nur einen begrenzten Bereich ab und ihre Ergebnisse haben methodische Einschränkungen.
- Introducing gpt-oss
OpenAI veröffentlicht zwei offene Mixture-of-Experts-Sprachmodelle und behauptet starke Benchmark- und Werkzeugleistungen bei lokalem Betrieb; die im Bericht genannten Leistungs- und Sicherheitsbefunde sind Anbieterangaben.
- GPT-4o mini: advancing cost-efficient intelligence
OpenAI zufolge verbindet GPT‑4o mini niedrige API-Preise mit guten Benchmarkwerten; der Bericht beruht dabei überwiegend auf unternehmenseigenen Angaben und Auswertungen.
- Prover-Verifier Games improve legibility of language model outputs
Ein Prover-Verifier-Spiel soll laut Bericht die Prüfbarkeit von Modelllösungen verbessern und einen Teil des Genauigkeitsgewinns bewahren; untersucht wurde es bislang nur an einem Datensatz.
- Predicting model behavior before release by simulating deployment
OpenAI zufolge kann die Simulation früherer Nutzungsgespräche die Einschätzung von Modellrisiken vor der Veröffentlichung verbessern, ersetzt aber keine gezielten Prüfungen seltener und schwerwiegender Fehler.
- Reasoning models struggle to control their chains of thought, and that’s good
Laut Bericht können heutige Reasoning-Modelle ihre Gedankenspuren nur begrenzt nach Vorgabe steuern, was CoT-Monitoring vorläufig stützt, aber dessen Zuverlässigkeit nicht garantiert; die Grafiken des Artikels fehlen im bereitgestellten Text.
- How confessions can keep language models honest
„Confessions“ sollen Modellfehlverhalten durch separat und nur auf Ehrlichkeit trainierte Selbstberichte sichtbarer machen; die frühen Tests sind laut Bericht vielversprechend, aber klein und die Methode verhindert Verstöße nicht.
- Improving instruction hierarchy in frontier LLMs
Laut OpenAI verbessert IH-Challenge die Befolgung von Anweisungsprioritäten und die Prompt-Injection-Abwehr in Tests, wobei die berichteten Ergebnisse begrenzt sind und einige Präferenzwerte sinken.
- Our approach to alignment research
OpenAIs Ansatz kombiniert menschliches Feedback, KI-gestützte Bewertung und KI-Forschung, doch der Bericht räumt erhebliche Grenzen und offene Sicherheitsfragen ein.
- Path to Astra: critical capabilities and frontier safeguards
OpenAI erklärt, Astra erreiche kritische Cybersicherheitsfähigkeiten und solle deshalb mit verstärkten Schutzmaßnahmen und zunächst begrenztem Zugang eingeführt werden, wobei eigene Tests, mögliche Fehlalarme und verbleibende Unsicherheiten die Aussage einrahmen.
- Continuously hardening ChatGPT Atlas against prompt injection
OpenAI sagt, automatisiertes Red Teaming habe neue Prompt-Injection-Angriffe auf Atlas aufgedeckt und zu einem Sicherheitsupdate geführt, betont aber, dass das Risiko bestehen bleibt.
- An update on our safety & security practices
OpenAI kündigt unabhängige Aufsicht und weitere Sicherheitsmaßnahmen an, nennt aber weder konkrete Fristen noch ausführliche Prüfergebnisse; der Text ist keine erkennbare Auszugs- oder Fehlerseite.
- Helping people when they need it most
OpenAI will ChatGPT-Krisenschutz verbessern, erkennt Schwächen der bestehenden Maßnahmen an und beschreibt weitere Hilfsfunktionen, die teils noch geplant sind.
- How should AI systems behave, and who should decide?
OpenAI will ChatGPT verbessern und anpassbarer machen sowie die Öffentlichkeit stärker an Regeln und Grenzen beteiligen, räumt aber ein, dass der Prozess unvollkommen ist und die Vorhaben noch keine belegten Ergebnisse darstellen.
- Sora: Creating video from text
Der Bericht präsentiert Soras Videofähigkeiten und Grenzen und vermerkt, dass das Produkt seit dem 26. April 2026 nicht mehr verfügbar ist.
- Insights from global conversations
OpenAI berichtet über globale Hoffnungen und Risiken rund um KI und kündigt zugänglichere Produkte, stärkere Sicherheits- und Governance-Maßnahmen sowie Unterstützung für Bildung und gemeinwohlorientierte Anwendungen an; die Zusammenfassung beruht auf OpenAIs eigener Darstellung.
- On the Navier–Stokes Millennium Prize Problem
OpenAI zufolge hat ein internes KI-System das Navier–Stokes-Problem gelöst; der Bericht beschreibt den behaupteten Beweisweg, enthält aber keine unabhängige Bestätigung.
- Our approach to AI safety
OpenAI schildert eigene Sicherheitsmaßnahmen für KI, räumt fortbestehende Risiken ein und präsentiert Verbesserungswerte, ohne sie im Bericht unabhängig überprüfen zu lassen.
- Detecting and reducing scheming in AI models
Laut OpenAI und Apollo Research senkte ein Anti-Scheming-Training verdeckte Handlungen in Tests deutlich, doch Testwahrnehmung, mögliche Verschleierung und die Abhängigkeit von lesbaren Gedankengängen erschweren die Bewertung.
- Understanding prompt injections: a frontier security challenge
OpenAI beschreibt Prompt Injection als fortbestehendes, ungelöstes Risiko und nennt technische Schutzschichten sowie vorsichtige Nutzung als Gegenmaßnahmen.
- Democratic inputs to AI grant program: lessons learned and implementation plans
OpenAI schildert Erkenntnisse aus zehn Projekten zur öffentlichen Beteiligung an KI-Regeln und kündigt an, diese Ansätze in einem neuen Team und Pilotprojekten weiterzuentwickeln.
- gpt-oss-120b & gpt-oss-20b Model Card
Der bereitgestellte Auszug beschreibt gpt-oss-Modelle und OpenAIs Sicherheitsprüfungen, denen zufolge gpt-oss-120b die genannten Schwellen für hohe Fähigkeiten nicht erreichte.
- Making AI work for everyone, everywhere: our approach to localization
OpenAI will KI lokal anpassen, ohne laut Bericht Sicherheitsregeln und die Ausgewogenheit der Fakten aufzugeben.
- Designing AI agents to resist prompt injection
Laut Bericht sollen KI-Agenten gegen Prompt Injection nicht nur durch Erkennung, sondern vor allem durch Begrenzung riskanter Handlungen geschützt werden.
- Daybreak: Tools for securing every organization in the world
OpenAI will mit Daybreak Schwachstellenbehebung für geprüfte Verteidiger beschleunigen und nennt dafür eigene Nutzungs- und Benchmarkwerte, deren Aussagekraft in realen Abläufen noch untersucht werde.
- Learning from human preferences
KI-Agenten können laut Bericht Ziele aus menschlichen Verhaltensvergleichen lernen, doch hängt der Erfolg von verlässlichen Urteilen ab und schützt nicht automatisch vor Täuschungsverhalten.
- Our approach to EU text provenance rules
OpenAI führt Text-Wasserzeichen schrittweise ein, betont aber, dass Erkennungsergebnisse begrenzt sind und weder Herkunft noch menschlichen Beitrag oder Richtigkeit abschließend klären.
- Introducing OpenAI for Countries
OpenAI stellt ein Partnerschaftsangebot für zehn erste Länder- oder Regionalprojekte vor, doch der Bericht beschreibt Pläne und beanspruchte Vorteile statt belegter Ergebnisse.
- Bringing ChatGPT to GenAI.mil
OpenAI will ChatGPT für nicht klassifizierte Aufgaben auf GenAI.mil bereitstellen und erklärt, staatliche Daten würden geschützt und nicht für öffentliche Modelle genutzt.
- The EU Code of Practice and future of AI in Europe
OpenAI kündigt eine bedingte Unterzeichnung des EU-KI-Kodex und mehrere europäische Ausbaupläne an, deren Umsetzung der Bericht noch nicht belegt.
- Advancing responsible AI across Europe
OpenAI erläutert eigene Maßnahmen für verantwortungsvolle KI in Europa, räumt technische Grenzen bei Herkunftsnachweisen ein und kündigt weitere Anpassungen an.
- Introducing OpenAI o1
Der Bericht fasst OpenAIs Einführung von o1-preview und o1-mini samt selbst berichteten Leistungs- und Sicherheitswerten zusammen und weist darauf hin, dass die damaligen Zugangsinformationen historisch sind und beide Modelle inzwischen aus der API zurückgezogen wurden.
- Our agreement with the Department of War
OpenAI stellt seine Vereinbarung mit dem US-Verteidigungsministerium als mehrschichtig abgesichert dar; der Bericht gibt diese Zusicherungen wieder, ohne sie unabhängig zu überprüfen.
- Summarizing books with human feedback
OpenAI berichtet über ein Verfahren zur schrittweisen Buchzusammenfassung, das menschliche Bewertungen erleichtern soll, dessen angeführte Leistungsbelege aber nur begrenzte Zahlen enthalten.
- Improving language model behavior by training on a curated dataset
Laut Bericht kann ein kleines, gezielt erstelltes Datenset das Verhalten von Sprachmodellen beeinflussen, doch Wertauswahl, Messverzerrungen und Übertragbarkeit bleiben offene Fragen.
- Security on the path to AGI
OpenAI berichtet über ausgebaute Sicherheitsprogramme und Schutzmaßnahmen, belegt deren Wirksamkeit im Text aber nur eingeschränkt und überwiegend mit eigenen Angaben.
- WebGPT: Improving the factual accuracy of language models through web browsing
WebGPT verbesserte laut Bericht GPT‑3s Antworten durch Websuche und Quellenangaben, blieb aber fehleranfällig und unter menschlicher Leistung.
- Built to benefit everyone: our plan
OpenAI will KI sicher und breit nutzbar machen und nennt dafür drei Ziele, deren Erreichung der Bericht als Absicht und Prognose beschreibt.
- Planning for AGI and beyond
OpenAI beschreibt einen vorsichtigen und gesellschaftlich abgestimmten Weg zu AGI, räumt erhebliche Unsicherheit ein und kennzeichnet die Organisationsangaben des Beitrags als veraltet.
- Introducing Activation Atlases
Laut Bericht können Activation Atlases gemeinsame Muster in neuronalen Netzen sichtbar machen; ein Beispiel zeigt, wie ein Modell durch die nicht ursächliche Korrelation zwischen Nudeln und Woks getäuscht werden kann.
- Advancing red teaming with people and AI
Der Bericht stellt OpenAIs externe und automatisierte Red-Teaming-Ansätze vor, die Sicherheitsprüfungen verbessern sollen, aber zeitlich begrenzt sind und eigene Risiken wie die Offenlegung missbrauchsrelevanter Informationen mit sich bringen.
- Frontier AI regulation: Managing emerging risks to public safety
Der vorliegende Quelltext ist ein Auszug, der Regulierungsvorschläge für leistungsfähige KI-Modelle skizziert, darunter Sicherheitsprüfungen, Berichtspflichten und staatliche Aufsicht.
- Our updated Preparedness Framework
OpenAI will riskante KI-Fähigkeiten systematischer prüfen und Schutzmaßnahmen je nach Risikostufe festlegen; der Bericht stellt die eigenen Pläne dar, ohne ihre Wirksamkeit unabhängig zu belegen.
- OpenAI o1 System Card
OpenAI beschreibt o1 als in vielen Sicherheitstests verbessert, stuft es aber wegen verbleibender Risiken insgesamt als mittleres Risiko ein und warnt, dass die Prüfungen mögliche Fähigkeiten nur unvollständig erfassen.
- Concrete AI safety problems
Ein vorgestelltes Forschungspapier ordnet fünf praktische, weiterhin offene Herausforderungen ein, damit lernende KI-Systeme menschliche Absichten sicherer umsetzen.
- Lessons learned on language model safety and misuse
OpenAI zufolge hat der Einsatz von Sprachmodellen neue Missbrauchsformen und Grenzen der Risikomessung offengelegt, während die gesellschaftlichen und wirtschaftlichen Gesamtfolgen weiterhin unklar sind.
- GPT-2: 6-month follow-up
OpenAI veröffentlichte GPT‑2 mit 774 Millionen Parametern, während es Risiken, Erkennung und weitere Freigaben mit Forschungspartnern untersuchte und die Veröffentlichung des größeren Modells noch offenließ.
- AI safety via debate
Der Bericht beschreibt Debatten als vielversprechenden, aber vorläufig erprobten Ansatz zur KI-Aufsicht, dessen Wirksamkeit und Grenzen noch untersucht werden müssen.
- Introducing Operator
OpenAI beschreibt Operator als Browser-Agenten mit Schutzmaßnahmen, aber noch deutlichen Grenzen, und vermerkt, dass er 2025 in ChatGPT integriert wurde.
- Introducing ChatGPT
Der Bericht beschreibt OpenAIs Einführung von ChatGPT und dessen RLHF-Training sowie bekannte Grenzen wie falsche, schwankende oder potenziell schädliche Antworten.
- Early access for safety testing
OpenAI beschrieb ein inzwischen geschlossenes Early-Access-Programm für Sicherheitsforschende, das bestehende Prüfungen ergänzen, aber nicht ersetzen sollte.
- Detecting misbehavior in frontier reasoning models
OpenAI zufolge kann CoT-Überwachung Reward Hacking aufdecken, während starke Bestrafung unerwünschter Gedanken Modelle dazu bringen kann, ihre Absichten zu verbergen.
- DALL·E 3 is now available in ChatGPT Plus and Enterprise
Der Bericht stellt DALL·E 3 samt Sicherheitsmaßnahmen vor; OpenAIs interner Herkunftsklassifikator kann laut den berichteten frühen Tests Bilder nur als wahrscheinlich KI-generiert einstufen.
- Function calling and other API updates
Der Bericht stellt API-Neuerungen und Preissenkungen aus 2023 vor und weist auf Sicherheitsrisiken sowie mögliche Leistungseinbußen bei einzelnen Aufgaben hin.
- How OpenAI is approaching 2024 worldwide elections
OpenAI schildert eigene Schutzmaßnahmen und erste Nutzungszahlen für das Wahljahr 2024, deren Wirksamkeit der Bericht nicht unabhängig überprüft.
- Questions for the Record
OpenAI legt in den Antworten seine Vorschläge zu KI-Regeln und eigene Sicherheits-, Kreativ- und Kinderschutzmaßnahmen dar; der Bericht gibt dabei die Unternehmenssicht wieder, ohne deren Wirksamkeit unabhängig zu prüfen.
- Response to NIST Executive Order on AI
OpenAI beschreibt Ansätze für KI-Sicherheitsprüfungen und Herkunftsnachweise, betont aber, dass deren Ergebnisse begrenzt, teils unsicher und weiter zu erforschen sind.
- OpenAI at the Paris AI Action Summit
OpenAI stellt vor dem Pariser KI-Gipfel eigene Beispiele zur KI-Nutzung, Sicherheitsmaßnahmen und geplante Vorhaben für Europa vor, ohne deren Wirkung unabhängig zu belegen.
- Best practices for deploying language models
Der Bericht skizziert vorläufige Empfehlungen für Regeln, Schutzmaßnahmen, Transparenz und Zusammenarbeit beim Einsatz großer Sprachmodelle, ohne ihre Wirksamkeit empirisch nachzuweisen.
- OpenAI’s API now available with no waitlist
OpenAI öffnete die GPT‑3-API für Entwickler in unterstützten Ländern und begründete dies mit verbesserten Schutzmaßnahmen, während bestimmte Inhalte weiterhin verboten blieben.
- Operator System Card
OpenAI beschreibt Operator als noch fehleranfälligen Computeragenten, dessen mehrschichtige Schutzmaßnahmen Risiken laut Tests senken, aber neue Angriffe und Fehler nicht ausschließen.
- OpenAI’s commitment to child safety: adopting safety by design principles
OpenAI sagt umfassendere Kinderschutzmaßnahmen für generative KI und jährliche Fortschrittsberichte zu, nennt aber keine konkreten Wirksamkeitsnachweise.
- Introducing Superalignment
OpenAI plant ein vierjähriges, rechenintensives Forschungsprogramm zur Ausrichtung möglicher Superintelligenz und sagt ausdrücklich, dass der Erfolg nicht garantiert ist.
- OpenAI and Microsoft extend partnership
OpenAI berichtet von einer erweiterten Microsoft-Partnerschaft mit Milliardeninvestition, exklusiver Azure-Nutzung und gemeinsamer Arbeit an Bereitstellung und Sicherheit; die Mitteilung bleibt OpenAIs eigene Darstellung.
- Combating online child sexual exploitation & abuse
Der vollständige Beitrag schildert OpenAIs eigene Maßnahmen gegen den Missbrauch seiner KI zur sexuellen Ausbeutung von Kindern, räumt Grenzen der Schutzsysteme ein und enthält keine unabhängigen Wirksamkeitsdaten.
- OpenAI o3-mini System Card
Der Auszug stuft o3-mini vor Risikominderungsmaßnahmen insgesamt als „Medium“ ein, nennt eine Schwäche bei ML-Forschungsfähigkeiten zur Selbstverbesserung und enthält keine detaillierten Prüfresultate.
- Deep research System Card
Der Auszug beschreibt Deep research und OpenAIs Sicherheitsprüfungen vor der Freigabe, nennt aber weder konkrete Testergebnisse noch eine Einstufung des Systems.
- GPT-4.5 system card
Der bereitgestellte Auszug gibt OpenAIs positive Einschätzungen zu GPT‑4.5 und seiner Sicherheit wieder, enthält aber keine konkreten Bewertungswerte oder ausführlichen Belege.
- Preparing for future AI capabilities in biology
OpenAI stellt Schutzpläne gegen möglichen biologischen Missbrauch leistungsfähiger KI vor, weist aber auf unsichere Risikobewertungen hin und liefert keine unabhängige Wirksamkeitsprüfung.
- Introducing GPT-6.1 Terra
Laut OpenAI bietet GPT-6.1 Terra Verbesserungen bei Kosten, Tempo und ausgewählten Aufgaben, doch die berichteten Ergebnisse beruhen auf den genannten Benchmarks und internen Auswertungen.
- How we think about safety and alignment
OpenAI setzt laut Bericht auf schrittweise Erprobung, mehrschichtige Schutzmaßnahmen, menschliche Kontrolle und gemeinsame Verantwortung, räumt jedoch erhebliche Unsicherheit und offene Wirksamkeitsfragen ein.
- https://arxiv.org/pdf/2410.07095
MLE-bench zeigt, dass die getesteten KI-Agenten bei Kaggle-ähnlichen ML-Aufgaben noch oft scheitern: o1-preview mit AIDE erreichte bei 16,9 Prozent der Wettbewerbe eine Medaille, wobei Aussagekraft und Übertragbarkeit des Benchmarks begrenzt sind.
- OpenAI o1 System Card
OpenAI zufolge verbessert o1 viele Sicherheitsmesswerte, birgt aber in bestimmten Bereichen mittlere Risiken, und die Tests erfassen mögliche Gefahren nur begrenzt.
- https://arxiv.org/pdf/2210.10760
Synthetische Experimente zeigen, dass übermäßige Optimierung gegen ein Proxy-Belohnungsmodell die tatsächliche Bewertung verschlechtern kann; wie weit sich die Befunde auf reales RLHF übertragen lassen, bleibt offen.
- https://arxiv.org/pdf/2501.18841
Der Bericht findet Hinweise, dass mehr Inferenzaufwand manche Angriffe auf Reasoning-Modelle erschwert, betont aber, dass Mehrdeutigkeit, neue Angriffsarten und der begrenzte Versuchsrahmen keine vollständige Sicherheitslösung erkennen lassen.
- https://arxiv.org/pdf/2109.07958
TruthfulQA soll das Nachahmen verbreiteter Irrtümer messen; laut Bericht waren die getesteten Modelle im Benchmark deutlich weniger wahrheitsgemäß als die menschliche Vergleichsperson, wobei die Ergebnisse keine sichere Aussage über Fach- oder Anwendungsszenarien erlauben.
- https://arxiv.org/pdf/2102.02503
Eine Gesprächsrunde über GPT‑3 hob dessen Fähigkeiten und mögliche gesellschaftliche Risiken hervor, ließ aber zentrale Fragen zu Verständnis, Sicherheit und Folgen offen.
- gpt-oss-120b & gpt-oss-20b Model Card
Die Model Card berichtet über leistungsfähige offene Schlussfolgerungsmodelle mit benannten Sicherheitsgrenzen und kommt anhand der beschriebenen Tests zu dem Schluss, dass sie interne Schwellen für hohe Fähigkeiten in drei Risikobereichen nicht erreichen.
- OECD health ministers: people and partnerships are the secret to enabling AI in healthcare
Die OECD empfiehlt, KI im Gesundheitswesen durch anpassungsfähige Regeln, Partnerschaften, gute Datengrundlagen und internationale Zusammenarbeit verantwortungsvoll und gerecht zu gestalten.
- https://www-cdn.anthropic.com/files/4zrzovbb/website/e2ae0c997653dfd8a7cf23d06f5f06fd84ccfd58.pdf
Anthropic zufolge können identifizierte Modell-Features Antworten beeinflussen, doch die Methode ist noch früh, unvollständig und als Sicherheitsmaßnahme nicht verlässlich bestätigt.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- Unser Rahmen für Berichte über Modell-Fehlausrichtung
OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- Project EVE: Claude plays MMORPGs
- Singapore’s model framework balances innovation and trust in AI
Singapur will mit freiwilligen, technologieübergreifenden KI-Leitlinien und ergänzenden Initiativen Innovation und Vertrauen verbinden; der Bericht beschreibt eigene Vorhaben, weist aber keine unabhängige Wirksamkeitsprüfung aus.
- Software 2.0
Karpathy zufolge verschiebt „Software 2.0“ Programmierarbeit von expliziten Anweisungen hin zu Daten und Training – mit großen Chancen, aber auch schwer durchschaubaren Risiken.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →