Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai14. Oktober 2026 · Q002404

How Block is building AI-powered security with OpenAI technology

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Block zufolge beschleunigen KI-Systeme wie Daybreak Sicherheitsprüfungen, Alarmtriage und die Entwicklung von Patch-Vorschlägen deutlich; das Unternehmen berichtet unter anderem von 50 Prozent mehr Triage-Durchsatz. Menschen prüfen die Ergebnisse weiterhin, steuern die Behebung und entscheiden über sensible Fälle; die im Bericht genannten Kennzahlen sind Unternehmensangaben.

Mittel

Der Bericht schildert Blocks Einsatz von OpenAI Daybreak und weiteren KI-Systemen für Schwachstellensuche, Alarmbearbeitung und Sicherheitsprüfungen. Block zufolge lässt sich eine Erkennungsregel inzwischen in weniger als einer Stunde mit sieben Monaten Produktivdaten abgleichen. Bei einer Red-Team-Übung habe Daybreak in etwa zwei Stunden einen mehrstufigen Angriffspfad entwickelt; ein vorgeschlagener Patch sei in jüngsten Übungen 18 Minuten nach einer groben Schwachstellenmeldung verfügbar gewesen.

Block berichtet außerdem von 50 Prozent mehr Triage-Durchsatz, 50 Prozent mehr Informationsbeschaffung und Untersuchungen sowie etwa 600 eingesparten Analystenstunden pro Quartal für falsche Alarme. Rund 1.100 Stunden Untersuchungsarbeit würden pro Quartal durch das System geleistet. Der Bericht präsentiert diese Zahlen als Angaben des Unternehmens, ohne sie unabhängig zu prüfen. Menschen validieren weiterhin Ergebnisse, prüfen und begleiten Patches und übernehmen Fälle, wenn das verantwortungsvoll ist. Sie liefern auch den organisatorischen Kontext, den den Agenten fehlt. Block will den Einsatz auf sensiblere Systeme schrittweise ausweiten und langfristig mehr Schwachstellen vorbeugend verhindern.

Ausführlich lesen

Der Bericht beschreibt, wie Block, das Unternehmen hinter Square, Cash App und Afterpay, KI in der Sicherheitsarbeit einsetzt. Laut dem Bericht nutzt das Team OpenAI Daybreak und einen darauf aufbauenden Sicherheitsrahmen, um Schwachstellen zu finden, Warnmeldungen zu untersuchen und Abwehrmaßnahmen zu prüfen. Ziel sei, Aufgaben, die früher Tage oder Wochen beanspruchten, in deutlich kürzerer Zeit zu erledigen und Fachleute für strategische Arbeit freizusetzen.

Als Beispiel für die Anpassung von Erkennungsregeln nennt Block den Abgleich einer vorgeschlagenen Änderung mit sieben Monaten Produktivdaten: Das dauere inzwischen weniger als eine Stunde. Da die Rohdaten früherer Untersuchungen gespeichert würden, könne das Team Änderungen umfangreicher prüfen, statt Hunderte alte Fälle manuell erneut auszuwerten. Für unterschiedliche Aufgaben wähle Block verschiedene Modelle. Das System könne Arbeit an passende Modelle weiterleiten und ermögliche menschliche Übernahme sowie gegenseitige Überprüfung durch Agenten. Block vergleiche die Leistung fortlaufend mit internen Benchmarks und Ergebnissen aus der Praxis und leite Fälle bei Bedarf an Menschen weiter.

Der Bericht führt außerdem eine Warnmeldung auf einem Laptop an, die zunächst wie ein kleiner Richtlinienverstoß gewirkt habe. Bei einer Überprüfung habe Daybreak einen beiläufig erwähnten Hinweis mit Identitätsprotokollen verknüpft und dadurch weitere Probleme offengelegt. Bei einer Red-Team-Übung habe das Modell nach wenigen Hinweisen innerhalb von etwa zwei Stunden einen Angriffspfad mit SQL-Injection, Rechteausweitung, Zugangsdaten-Ermittlung und Wechsel zu weiteren Systemen entwickelt. Laut Block hätte ein menschliches Red-Team-Mitglied dafür üblicherweise mehrere Tage benötigt. In jüngsten Übungen seien von einer groben Schwachstellenmeldung bis zu einem automatisiert vorgeschlagenen Patch 18 Minuten vergangen.

Block berichtet von 50 Prozent mehr Durchsatz bei der Triage und einer 50-prozentigen Zunahme bei Informationsbeschaffung und Untersuchungen. Pro Quartal würden etwa 600 Analystenstunden für die Bearbeitung falscher Alarme eingespart; rund 1.100 Stunden an Untersuchungsarbeit würden durch das System geleistet. Diese Zahlen und Zeitvergleiche werden im Bericht als Ergebnisse Blocks dargestellt, nicht unabhängig geprüft.

Der Bericht betont, dass Menschen die Resultate weiterhin prüfen. Bei Schwachstellen lokalisieren sie den betroffenen Code und dessen Verantwortliche, prüfen die Ausnutzbarkeit, begleiten den Patch und verifizieren die Behebung. Menschen ergänzen zudem Organisationswissen und frühere Entscheidungen, die den Agenten fehlen. Block wolle den Einsatz auf sensiblere Systeme erst ausweiten, wenn sich die Zuverlässigkeit in der Praxis bewährt. Als nächsten Schwerpunkt nennt das Unternehmen, Schwachstellen möglichst schon bei ihrer Entstehung zu verhindern und so mehr Zeit für vorbeugende Sicherheitsarbeit zu gewinnen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen von Luna wurden zusammen bewertet; die mittlere Fassung ist inhaltlich treu, die kurze lässt mehrere Punkte aus. Die Einordnungen beziehen sich ausschließlich auf den Bericht, der Unternehmensangaben von Block zu KI-Sicherheitsabläufen enthält und die Sammelfragen nur teilweise berührt.

Im Bericht, aber nicht in der Zusammenfassung

  • Blocks Sicherheitsharness setzt auf Daybreak auf, leitet Aufgaben an das passende Modell weiter und enthält Übernahme-Hooks sowie gegenseitige Prüfung der Agenten
  • Die Systeme werden laufend gegen interne Benchmarks und reale Leistung evaluiert, und der Ansatz wird bei Bedarf angepasst
  • Fallbeispiele: Verknüpfung von Endpoint-Alarm und Identitätslogs zu einer Kampagne sowie die Verkettung eines Angriffspfads mit Daybreak

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 32 %einzelne zitierbare Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 26 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 28 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 51 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  3. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 33 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht

    • SF-F5-T04 Wie unterscheiden Aufsichtsbehörden, die eine Plattform zur Aufsicht über KI-Sicherheit aufbauen, automatisch erzeugte Sicherheitskorrekturen (Patches) von der offensiven Ausnutzung von Sicherheitslücken, ohne Verteidigungsforschung zu unterdrücken? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 25 %Hintergrund, keine Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 58 %einzelne zitierbare Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 42 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %einzelne zitierbare Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 27 %Hintergrund, keine Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra 45 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 38 %beantwortet teilweise oder widerspricht
    • amos 34 %einzelne zitierbare Belege
    • SubQ 31 %einzelne zitierbare Belege
    • drex 34 %einzelne zitierbare Belege
    • d3-ultra 49 %einzelne zitierbare Belege

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 48 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 33 %einzelne zitierbare Belege
    • drex 38 %einzelne zitierbare Belege
    • d3-ultra 37 %gleiches Oberthema, hilft nicht

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 34 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 59 %Hintergrund, keine Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 52 %einzelne zitierbare Belege
    • JEV 49 %beantwortet teilweise oder widerspricht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →