Rewarding defenders with bigger bug bounties
Zusammenfassung
Kurz
OpenAI kündigt deutlich höhere Bug-Bounty-Prämien sowie Qualitäts-, Treue- und Kampagnenboni an; für außergewöhnliche kritische Funde in Kernprodukten nennt das Unternehmen mit Boni bis zu 172.000 US-Dollar. Die Beispielrechnungen seien unverbindlich, und der Bericht belegt nicht, wie sich die Änderungen später auf tatsächliche Auszahlungen oder die Sicherheit auswirken.
Mittel
OpenAI kündigt höhere Prämien und neue Boni für sein Security-Bug-Bounty-Programm an. Das Unternehmen erklärt, damit unabhängige Forschende zur verantwortungsvollen Meldung von Schwachstellen ermutigen zu wollen, die interne Tests möglicherweise übersehen. Die Mittelwerte der Prämienbereiche für mittelschwere, schwere und kritische Funde sollen im Durchschnitt mehr als vervierfacht werden. Für kritische Schwachstellen in Kernprodukten wie ChatGPT, Codex oder der API-Plattform nennt OpenAI bis zu 30.000 US-Dollar; außergewöhnliche Funde könnten mit Boni bis zu 172.000 US-Dollar erreichen.
Neue Zuschläge gibt es für besonders aussagekräftige Berichte mit verlässlichem Machbarkeitsnachweis, für wiederholt mitwirkende Forschende in einem fünfstufigen Treueprogramm sowie bei zeitlich begrenzten Schwerpunktkampagnen. Beispielrechnungen reichen von 2.415 bis 171.925 Dollar. OpenAI betont, dass Beispiele und frühere Prämien nur der Veranschaulichung dienen und keine Auszahlung garantieren.
Noch nicht vergütete eingereichte Meldungen sollen nach den neuen Bereichen bewertet werden. Für Auszahlungen aus den 30 Tagen vor der Ankündigung ist eine Nachzahlung der Differenz vorgesehen, wenn die neue Berechnung höher wäre. Der Bericht kündigt außerdem einen Auftritt des Sicherheitsteams bei PROMPT2PWN in Oakland an. Er enthält keine unabhängige Prüfung der angekündigten Regeln oder ihrer späteren Wirkung.
Ausführlich lesen
OpenAI kündigt Änderungen an seinem Security-Bug-Bounty-Programm an. Das Unternehmen erklärt, die höheren Prämien sollten unabhängige Sicherheitsforschende stärker dazu bewegen, Schwachstellen zu finden, die interne Tests übersehen haben könnten. Verantwortungsvolle Meldungen ergänzten die Sicherheitsarbeit der eigenen Entwicklerinnen und Entwickler, so OpenAI.
Für mittelschwere, schwere und kritische Schwachstellen erhöht OpenAI die Prämienbereiche deutlich: Deren Mittelwerte würden im Durchschnitt mehr als vervierfacht. Für eine kritische Lücke in einem zentralen Produkt wie ChatGPT, Codex oder der API-Plattform seien künftig bis zu 30.000 US-Dollar möglich. Außergewöhnliche kritische Funde könnten bis zu 100.000 US-Dollar einbringen; mit Boni nennt der Bericht als mögliche Höchstsumme 172.000 US-Dollar.
Zusätzlich führt OpenAI drei Bonusarten ein. Ein Qualitätsbonus soll besonders nützliche Berichte honorieren, etwa wenn ein verlässlicher Machbarkeitsnachweis den Fehler isoliert, seine Ausnutzbarkeit zeigt und die Folgen belegt. Ein fünfstufiges Treueprogramm soll wiederholt mitwirkende Forschende belohnen. Bei zeitlich begrenzten Schwerpunktkampagnen zu neuen Funktionen können weitere Bonuspools hinzukommen.
Zur Veranschaulichung nennt der Bericht vier Beispielrechnungen. Sie reichen von einer mittelschweren Berechtigungslücke in ChatGPT, für die 2.415 Dollar ausgewiesen werden, bis zu einem außergewöhnlichen Angriff auf eine Sicherheitsgrenze, für den die Rechnung 171.925 Dollar ergibt. Weitere Beispiele betreffen einen Dateizugriff in Prism und eine kritische, ohne Klick mögliche Kontoübernahme. Die genannten historischen Auszahlungen und Szenarien seien ausdrücklich illustrativ; sie sind daher keine Zusage, dass vergleichbare Meldungen stets dieselbe Prämie erhalten.
Auch rückwirkende Zahlungen sind vorgesehen: Für bereits eingereichte, aber noch nicht vergütete Meldungen sollen die neuen Prämienbereiche gelten. Wurde eine Prämie in den 30 Tagen vor der Ankündigung ausgezahlt, will OpenAI die Differenz nachzahlen, sofern die neue Berechnung – einschließlich Grund- und Treueprämie – höher ausfiele.
Abschließend kündigt OpenAI die Teilnahme seines Sicherheitsteams an PROMPT2PWN in Oakland am 20. und 21. November an. Forschende sollen dort Ziele vor Ort testen und über mögliche Zusammenarbeit sprechen können. Der Bericht beschreibt die angekündigten Programmregeln und Beispielrechnungen, liefert aber keine unabhängige Bewertung ihrer Wirkung oder tatsächlicher Auszahlungen nach der Änderung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Teilfragen-Liste war leer, daher gibt es keine Einordnung dazu. Die Bewertungen sind unabhängig von Lunas Stufen und Anteilen erfolgt.
Im Bericht, aber nicht in der Zusammenfassung
- Der Verweis auf das Defense-Factory-Programm, in dem Ingenieure Modelle zum Auffinden, Nachstellen und Testen von Schwachstellen einsetzen, fehlt in beiden Zusammenfassungen.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Im mittleren Text heißt es, Beispiele und frühere Prämien garantierten keine Auszahlung. Der Bericht sagt nur, dass alle Szenarien und historischen Prämien illustrativ sind.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 30 %einzelne zitierbare Belege
- JEV 43 %einzelne zitierbare Belege
- amos 21 %Hintergrund, keine Belege
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 32 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 46 %gleiches Oberthema, hilft nicht
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 36 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 25 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 35 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Alle Berichte im Archiv