- Wir stellen den Australian Youth Safety Blueprint vor
OpenAI präsentiert einen sechssäuligen Jugendschutz-Fahrplan für KI in Australien und erklärt, Unternehmen müssten Sicherheit in ihre Produkte integrieren; Einzelheiten und Wirkungsbelege fehlen im Beitrag.
- KI-gestützte Operationen unter falschem Deckmantel unterbinden
OpenAI zufolge nutzten russische und iranische Einflussoperationen ChatGPT für Tarnidentitäten, interne Berichte und politische Inhalte; die Reichweite ihrer Aktivitäten war unterschiedlich und manche Angaben ließen sich öffentlich nicht überprüfen.
- Böswillige Nutzung von KI verhindern
Der vorliegende Auszug fasst OpenAIs Aussage zusammen, dass böswillige Akteure KI oft mit anderen Werkzeugen und mitunter mehreren Modellen kombinieren, enthält aber nicht den angekündigten vollständigen Bericht.
- Operation „A2Z“: Mehrsprachige Einflussaktivitäten
OpenAI zufolge nutzte die mehrsprachige Operation „A2Z“ KI für politische Inhalte auf X und Facebook, erzielte meist geringe Reichweite und wurde nach Gegenmaßnahmen des Unternehmens weitgehend unterbrochen.
- Bet Bot: Spam-Netzwerk für Glücksspiel
OpenAI zufolge nutzte das X-Netzwerk „Bet Bot“ KI-generierte Profile und Nachrichten, um für Glücksspielseiten zu werben, doch Versand und Reichweite der Direktnachrichten ließen sich nicht vollständig belegen.
- Corrupt Comment: Kritik an einer Antikorruptionsstiftung
OpenAI zufolge erzeugte eine gesperrte Kontengruppe Kommentare gegen die FBK und verbreitete sie auf X; der vorliegende Auszug enthält keine abschließende Wirkungseinstufung.
- Cyber-Spezialoperationen: Planung von Einflussnahme mit Verbindungen nach China
OpenAI beschreibt Hinweise auf koordinierte chinesische Einflussoperationen und Belästigung von Kritikern, räumt aber ein, dass sich viele Angaben des gesperrten ChatGPT-Kontos nicht unabhängig bestätigen lassen.
- Cyber-Bedrohungsakteure: KI-gestützte Angriffsforschung
OpenAI sperrte mutmaßlich mit DPRK-nahen Akteuren verbundene Konten, deren Cyber- und Phishing-Anfragen laut Bericht überwiegend auf bekannten Open-Source-Informationen beruhten.
- Operation „High Five“: Kommentare zur Politik der Philippinen
Der bereitgestellte Auszug bricht bei Abbildung 2 ab; OpenAI beschreibt darin eine gesperrte, KI-gestützte politische Kommentarkampagne auf den Philippinen, deren mindestens mehrere Tausend Beiträge laut Bericht kaum Resonanz fanden.
- Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken
OpenAI fordert, KI-Sicherheitszuständigkeiten, Cyberabwehr und öffentliche Institutionen rasch zu stärken, legt im vorliegenden Kurzbericht jedoch keine Wirksamkeitsnachweise vor.
- GPT-6.1 Sol hilft CodeRabbit, die Sicherheit komplexer Codebasen zu verbessern
CodeRabbit zufolge hilft GPT‑6.1 Sol bei repositoryübergreifenden Sicherheitsprüfungen und Korrekturvorschlägen, während Menschen die Freigabe behalten; unabhängige Wirksamkeitsbelege nennt der Bericht nicht.
- Wie wir Fehlausrichtung bei Frontier-Modellen erkennen
OpenAI berichtet über ein erweitertes Überwachungssystem für KI-Agenten, das Vorfälle früher erkennen soll, aber laut Bericht durch Fehlalarme, Umgehungsmöglichkeiten und Datenschutzgrenzen eingeschränkt bleibt.
- Unser Rahmen für Berichte über Modell-Fehlausrichtung
OpenAI veröffentlicht einen vorläufigen Offenlegungsrahmen und sechs Einzelfälle von Modell-Fehlausrichtung, die laut Unternehmen weder deren Häufigkeit noch das gesamte bekannte Spektrum abbilden.
- Wie Ultrafast die Untersuchung von Vorfällen bei OpenAI von Stunden auf Minuten verkürzte
Laut internen OpenAI-Berichten beschleunigt Ultrafast Codex Vorfalluntersuchungen und weitere Aufgaben deutlich, doch der Beitrag liefert keine unabhängige Überprüfung der genannten Zeitersparnisse.
- OpenAI weitet Cyberzugang für den zivilen Schutz der Ukraine aus
OpenAI kündigt KI-Unterstützung für die ukrainische Cyberabwehr an, berichtet aber noch keine Ergebnisse aus deren Nutzung in der Ukraine.
- OpenAI und Polens NASK kooperieren für mehr KI-Sicherheit und Schutz vor Angriffen
OpenAI und Polens NASK vereinbaren, mögliche gemeinsame KI-Sicherheitsforschung zu prüfen; konkrete Projekte nennt der Bericht noch nicht.
- OpenAI übernimmt Orchestra Bio
OpenAI kündigt die Übernahme von Orchestra Bio an, um KI-Agenten stärker in Rosalind und die Koordination der Medikamentenentwicklung einzubinden; konkrete Wirksamkeitsnachweise nennt die Mitteilung nicht.
- Wir bereiten unseren nächsten Sicherheitssprint vor, um OpenAI besser zu schützen
OpenAI plant mit Cathedral einen neuen KI-gestützten Sicherheitssprint, erhöht Bug-Bounty-Prämien und verweist auf frühere Arbeit sowie zugesagte Fördermittel, legt aber noch keine Ergebnisse des kommenden Sprints vor.
- Sam Altmans Rede vor dem Sicherheitsrat der Vereinten Nationen
Altman wirbt in einer Rede für menschlich kontrollierte, demokratisch gestaltete KI und internationale Sicherheitsstandards; der Bericht gibt seine Positionen wieder, ohne sie unabhängig zu überprüfen.
- Mit Tausenden KI-Agenten neue Ansatzpunkte in biologischen Daten entdecken
Tausende KI-Agenten werteten Mäusegehirn-Daten aus und schlugen neue, noch experimentell zu prüfende Forschungshypothesen vor.
- Auf dem Weg zu Sicherheitsnachweisen für das Training von Frontier-KI
OpenAI skizziert vorläufige Sicherheitsleitlinien für Frontier-KI-Training und betont, dass belastbare Sicherheitsnachweise ein langfristiges Ziel sind.
- https://github.com/UKGovernmentBEIS/aisi-sandboxing/blob/main/Technical%20Guidance.pdf
Der Bericht erklärt Sandbox-Profile für KI-Evaluationen, betont aber, dass sie keine vollständige Sicherheit garantieren und einige Beispiele widersprüchlich sind.
- https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf
Der Bericht beschreibt RL- und Destillationsverfahren, mit denen DeepSeek laut den Autoren starke Schlussfolgerungs-Benchmarkwerte erreicht, nennt aber weiterhin Grenzen bei Lesbarkeit, Sprachen, Prompting und einigen praktischen Aufgaben.
- https://github.com/google/trillian/blob/master/docs/papers/VerifiableDataStructures.pdf
Das Papier stellt drei transparente Datenstrukturen vor, mit denen sich Einträge und Werte prüfen lassen; vollständige Betriebsprüfungen können eine Vollprüfung durch Auditoren erfordern.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →