Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai20. Juni 2024 · Q001351

Empowering defenders through our Cybersecurity Grant Program

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI stellt ausgewählte Projekte seines 2023 gestarteten Cybersecurity Grant Program vor, darunter Forschung zu Prompt-Injection, geschützter KI-Inferenz, Code-Schwachstellen und autonomer Cyberabwehr. Das Unternehmen beschreibt außerdem ChatGPT-Nutzungen durch Verteidiger und kündigt weitere kostenlose Zugänge sowie eine Ausweitung auf Team und Enterprise an; erreichte Projektergebnisse werden im Beitrag nicht systematisch belegt.

Mittel

Der Beitrag stellt OpenAIs 2023 gestartetes Cybersecurity Grant Program vor. OpenAI zufolge gingen mehr als 600 Bewerbungen ein; der Bericht präsentiert daraus ausgewählte Förderprojekte. Sie reichen von Abwehrmaßnahmen gegen Prompt-Injection und KI-gestützter Erkennung von Software-Fehlkonfigurationen über geschützte LLM-Inferenz und Schutz privater Trainingsdaten bis zur Erkennung von Code-Schwachstellen. Weitere Vorhaben entwickeln Schulungen zu KI und OSINT sowie autonome Cyberabwehr-Agenten und Sprachmodell-Agenten für Red-Team- und Capture-the-Flag-Aufgaben.

OpenAI beschreibt außerdem typische ChatGPT-Nutzungen durch Cyberverteidiger: technische Meldungen vereinfachen, Analysecode schreiben, Log-Parser erstellen und den Stand eines Vorfalls zusammenfassen. Das Unternehmen berichtet, kostenlose ChatGPT-Plus-Zugänge vergeben zu haben, und kündigt an, das Angebot fortzusetzen und um Team- und Enterprise-Zugänge zu erweitern. Die Ausweitung soll mit dem Research and Education Network for Uganda beginnen.

Der Beitrag lädt zu weiteren Förderanträgen ein. Er ist eine Darstellung OpenAIs und nennt Beispiele sowie Projektziele, aber keine systematische Evaluation oder belegten Gesamtergebnisse. Die beschriebenen Wirkungen sind daher als Angaben beziehungsweise Absichten der Beteiligten zu lesen.

Ausführlich lesen

Der Bericht stellt OpenAIs Cybersecurity Grant Program vor und beschreibt ausgewählte geförderte Projekte sowie den Einsatz von ChatGPT in der Cyberabwehr. OpenAI zufolge wurde das Programm 2023 gestartet, um Cyberverteidiger mit fortgeschrittenen KI-Modellen zu unterstützen und Forschung an der Schnittstelle von Cybersicherheit und künstlicher Intelligenz zu fördern. Das Unternehmen berichtet von mehr als 600 eingegangenen Bewerbungen. Der Beitrag nennt acht Beispiele aus dem Förderprogramm, ohne sie als vollständige Übersicht auszuweisen.

Die Projekte befassen sich mit unterschiedlichen Sicherheitsproblemen. Das Wagner Lab an der University of California, Berkeley, arbeitet laut Bericht mit OpenAI an Abwehrtechniken gegen Prompt-Injection-Angriffe auf große Sprachmodelle. Coguard setzt KI nach eigener Projektbeschreibung dafür ein, Fehlkonfigurationen in Software aufzuspüren und ihre Erkennung aktuell zu halten. Mithril Security hat einen Machbarkeitsnachweis für geschützte Inferenzinfrastrukturen entwickelt: Open-Source-Werkzeuge sollen den Betrieb von KI-Modellen auf GPUs in sicheren Enklaven ermöglichen. Das Projekt zielt darauf, Daten bei der Übermittlung an KI-Anbieter auch vor Administratoren abzuschirmen; der Bericht verweist dazu auf öffentlich zugänglichen Code und ein Architektur-Whitepaper.

Weitere Förderbeispiele richten sich auf Forschung, Ausbildung und praktische Verteidigung. Gabriel Bernadett-Shapiro entwickelte einen Workshop zu KI-gestützter Open-Source-Intelligence sowie ein kostenloses Einsteigerpaket zu KI-Sicherheit. Laut Beitrag umfasst die Schulung unter anderem Studierende der Nachrichtendienstforschung und Ermittler internationaler Gräueltaten. Das Breuer Lab am Dartmouth College untersucht Abwehrmaßnahmen gegen Angriffe, bei denen aus Modellinteraktionen private Trainingsdaten rekonstruiert werden. Ziel sei, solche Angriffe ohne Einbußen bei Genauigkeit oder Effizienz zu verhindern. Forschende der Boston University arbeiten daran, Sprachmodelle beim Auffinden und Beheben von Schwachstellen im Code zu verbessern. Eine Gruppe der University of California, Santa Cruz vergleicht autonome Cyberabwehr-Agenten auf Basis von Foundation Models mit Ansätzen aus dem bestärkenden Lernen und prüft mögliche Kombinationen. MIT CSAIL untersucht außerdem automatisierte Abläufe für Red-Team-Aufgaben und den Einsatz von Sprachmodell-Agenten in kontrollierten Capture-the-Flag-Übungen.

Für die alltägliche Arbeit von Cyberverteidigern nennt OpenAI als häufige ChatGPT-Anwendungen das Vereinfachen technischer Begriffe und von Protokollmeldungen, das Schreiben von Code zur Untersuchung von Beweismaterial, das Erstellen von Log-Parsern und das Zusammenfassen des Vorfallsstands unter Zeitdruck. OpenAI erklärt, vielen Fachleuten kostenlose ChatGPT-Plus-Zugänge bereitgestellt zu haben. Das Angebot soll fortgeführt und um ChatGPT Team und Enterprise erweitert werden; der Ausbau beginne mit dem Research and Education Network for Uganda.

Der Beitrag ist zugleich ein Aufruf, weitere Förderanträge einzureichen. Seine Grenzen sind die Form einer Selbstdarstellung: Er nennt ausgewählte Vorhaben und beschreibt deren Ziele und erwarteten Nutzen, liefert aber keine systematische Bewertung, Vergleichsdaten oder Nachweise für erreichte Projektergebnisse. Formulierungen zu Schutzwirkung und Leistungsfähigkeit sind daher als Angaben beziehungsweise Zielsetzungen im Bericht zu verstehen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung enthält für die drei Sammelfragen eigene Stufen und Prozentangaben, die ich nicht übernehme; ich bewerte allein nach dem Berichtstext. Für die Teilfragen gibt es keine Einträge. Die beiden Zusammenfassungen wurden gemeinsam geprüft, weil das Schema nur eine Bewertung vorsieht. Der Bericht ist ein Werbe- und Selbstdarstellungstext von OpenAI ohne systematische Evaluation, weshalb seine Angaben als Aussagen des Unternehmens zu lesen sind.

Im Bericht, aber nicht in der Zusammenfassung

  • In der kurzen Fassung fehlen die konkreten Förderprojekte und Hochschullabore (z. B. Wagner Lab, Breuer Lab, MIT CSAIL), die der Bericht ausführlich nennt.
  • Die kurze Fassung erwähnt nicht, dass OpenAI nach eigenen Angaben über 600 Bewerbungen erhielt.
  • Die Abbildung mit dem abstrakten Gemälde wird in keiner Fassung erwähnt; für den Inhalt ist das unerheblich.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 53 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 27 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 47 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  2. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 88 %Hintergrund, keine Belege
    • JEV 57 %gleiches Oberthema, hilft nicht
    • amos 30 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 37 %gleiches Oberthema, hilft nicht
    • JEV 57 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 50 %nur am Rande erwähnt
    • amos 33 %nur am Rande erwähnt
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 26 %einzelne zitierbare Belege
    • amos 32 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 28 %nur am Rande erwähnt
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 55 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 79 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 67 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →