Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai25. März 2026 · Q001671

Introducing the OpenAI Safety Bug Bounty program

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI kündigt ein öffentliches Bug-Bounty-Programm für KI-spezifische Sicherheits- und Missbrauchsrisiken an, darunter bestimmte Agentenangriffe, Offenlegung proprietärer Informationen und Schwächen der Konto- oder Plattformintegrität. Jailbreaks ohne nachweisbare Schadenswirkung sind ausgeschlossen; der Bericht beschreibt den vorgesehenen Umfang, nennt aber keine Prämien oder bisherigen Ergebnisse.

Mittel

OpenAI stellt ein öffentliches Safety-Bug-Bounty-Programm vor, das Meldungen zu KI-bezogenen Missbrauchs- und Sicherheitsrisiken aufnehmen soll, auch wenn sie keine herkömmlichen Sicherheitslücken darstellen. Einsendungen sollen von den Safety- und Security-Teams geprüft und bei Bedarf zwischen den beiden Programmen weitergeleitet werden.

Im Mittelpunkt stehen agentische Risiken wie reproduzierbare Prompt-Injection, die Agenten zu schädlichen Handlungen oder zur Offenlegung sensibler Nutzerdaten bringt. Ebenfalls erfasst werden bestimmte schädliche Aktionen von OpenAI-Agenten, Risiken rund um proprietäre Informationen sowie Schwächen der Konto- und Plattformintegrität. Bei Prompt-Injection muss das Verhalten mindestens in 50 Prozent der Versuche reproduzierbar sein; andere gemeldete Aktionen müssen plausiblen und erheblichen Schaden erkennen lassen. MCP-Tests müssen die Bedingungen von Drittanbietern einhalten. Zugriffsprobleme, die unbefugten Zugriff auf Funktionen oder Daten ermöglichen, gehören laut Bericht ins separate Security-Bug-Bounty-Programm.

Jailbreaks und allgemeine Inhaltsregel-Umgehungen ohne belegte Sicherheits- oder Missbrauchsauswirkung sind ausgeschlossen. Andere Fehler können im Einzelfall berücksichtigt werden, wenn sie einen direkten Weg zu Nutzerschäden eröffnen und konkrete Abhilfen ermöglichen. Interessierte Forschende können sich über die Programmseite bewerben. Zu Prämien, Bearbeitungszeiten oder bisherigen Ergebnissen enthält der Bericht keine Angaben.

Ausführlich lesen

OpenAI kündigt ein öffentliches Safety-Bug-Bounty-Programm an, das Sicherheits- und Missbrauchsrisiken im Zusammenhang mit KI-Produkten untersuchen soll. Das Unternehmen begründet den Schritt damit, dass sich mit der raschen Entwicklung von KI auch die Möglichkeiten für schädliche Nutzung verändern. Ziel sei, Systeme vor Missbrauch zu schützen, der konkreten Schaden verursachen könnte.

Das neue Programm ergänzt OpenAIs bestehendes Security-Bug-Bounty-Programm. Es soll Meldungen zu erheblichen Sicherheits- oder Missbrauchsrisiken annehmen, auch wenn diese nicht den üblichen Kriterien für eine Sicherheitslücke entsprechen. OpenAIs Safety- und Security-Bug-Bounty-Teams sollen die Einsendungen prüfen und sie je nach Zuständigkeit oder Geltungsbereich zwischen den Programmen weiterleiten können.

Als einen Schwerpunkt nennt der Bericht agentische Risiken, einschließlich Risiken im Zusammenhang mit MCP. Dazu zählt Prompt-Injection durch Dritte, wenn Angreifertext einen Agenten zuverlässig dazu bringen kann, schädliche Aktionen auszuführen oder vertrauliche Nutzerdaten preiszugeben. Das Verhalten muss laut Ausschreibung in mindestens der Hälfte der Versuche reproduzierbar sein. Ebenfalls genannt werden agentische OpenAI-Produkte, die auf der OpenAI-Website in größerem Umfang unzulässige Aktionen ausführen, sowie andere potenziell schädliche Aktionen, sofern ein plausibler und erheblicher Schaden dargelegt wird. MCP-Tests müssen außerdem die Nutzungsbedingungen beteiligter Drittanbieter einhalten.

Weitere Bereiche betreffen proprietäre Informationen von OpenAI, darunter Modellausgaben mit vertraulichen Informationen zum Reasoning, sowie andere Schwachstellen, durch die interne oder sonstige geschützte Informationen offengelegt werden. Unter Konto- und Plattformintegrität führt OpenAI unter anderem das Umgehen von Automatisierungsschutz, die Manipulation von Vertrauenssignalen und das Ausweichen vor Einschränkungen, Suspendierungen oder Sperren auf. Probleme, die Zugriff auf Funktionen, Daten oder Möglichkeiten außerhalb der erteilten Berechtigungen verschaffen, sollen dagegen beim Security-Bug-Bounty-Programm gemeldet werden.

Jailbreaks sind laut Bericht nicht Teil des neuen Programms. OpenAI erklärt, gelegentlich separate private Kampagnen für bestimmte Schadensbereiche durchzuführen, und verweist als Beispiele auf frühere beziehungsweise besondere Programme zu Biorisiken in ChatGPT Agent und GPT‑5. Andere Fehler können im Einzelfall für Prämien berücksichtigt werden, wenn sie einen direkten Weg zu Nutzerschäden eröffnen und konkrete, umsetzbare Abhilfemaßnahmen ermöglichen. Allgemeine Umgehungen von Inhaltsregeln ohne nachweisbare Sicherheits- oder Missbrauchsauswirkung gelten als außerhalb des Geltungsbereichs. Als Beispiele nennt der Bericht Jailbreaks, die lediglich unhöfliche Sprache oder leicht über Suchmaschinen auffindbare Informationen hervorbringen.

Interessierte Forschende können sich über die Programmseite bewerben. Der Bericht nennt keine konkreten Prämienhöhen, keine Bearbeitungsfristen und keine Ergebnisse bereits eingegangener Meldungen. Er beschreibt die Programmregeln und den vorgesehenen Meldeweg, belegt aber nicht, wie wirksam das Programm in der Praxis sein wird.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Stufen und Anteilswerte habe ich nicht übernommen, sondern jede Frage unabhängig bewertet. Die Abbildungen im Bericht (Control Room, Hacktron, GPT-6 Cyber) haben keinen erkennbaren Bezug zum Bug-Bounty-Text und wurden nicht berücksichtigt.

Im Bericht, aber nicht in der Zusammenfassung

  • Die privaten Biorisk-Kampagnen zu ChatGPT Agent und GPT-5, zu denen Forschende eingeladen werden können

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 26 %einzelne zitierbare Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-M4-T01 Welches gemeinsame Meldeformat und welcher geschützte Kanal ließen Labore Fehler nachstellen und Korrekturen prüfen, ohne private Daten oder gefährliche technische Details preiszugeben? Und könnte sich die Branche über Grenzen hinweg auf einen Standard für das Melden KI-gestützter Einbrüche und Datenabflüsse einigen, damit eine Eskalation gemessen und nicht nur behauptet wird? Luna: Stufe 4 · 25 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 28 %nur am Rande erwähnt
    • Luna 43 %einzelne zitierbare Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 39 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 41 %nur am Rande erwähnt
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 45 %beantwortet teilweise oder widerspricht
    • amos 25 %einzelne zitierbare Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 20 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 33 %einzelne zitierbare Belege
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 24 %gleiches Oberthema, hilft nicht
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 34 %nur am Rande erwähnt
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 25 %einzelne zitierbare Belege
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 43 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 31 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 24 %gleiches Oberthema, hilft nicht
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 81 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →