Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi17. Februar 2026 · Q001942

Boundary Point Jailbreaking of Black-Box LLMs

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der vorliegende Text ist nur ein Auszug mit dem Abstract einer Arbeit. Deren Autorinnen und Autoren stellen BPJ als Black-Box-Jailbreak-Verfahren vor und beanspruchen Erfolge gegen Constitutional Classifiers sowie GPT-5s Eingabeklassifikator; konkrete Erfolgszahlen fehlen im Auszug. Viele markierte Anfragen während der Optimierung könnten laut ihnen eine Abwehr durch Überwachung größerer Anfragegruppen ermöglichen.

Mittel

Der bereitgestellte Text ist nur ein Auszug, im Wesentlichen das Abstract einer Forschungsarbeit; die folgenden Ergebnisse sind daher als Aussagen der Autorinnen und Autoren zu verstehen. Vorgestellt wird Boundary Point Jailbreaking (BPJ), ein automatisiertes Verfahren zum Umgehen von Schutzklassifikatoren für große Sprachmodelle. Laut Abstract arbeitet es vollständig als Black-Box-Angriff und benötigt pro Anfrage nur ein Ja-Nein-Signal, ob der Klassifikator die Interaktion markiert. Es soll weder Gradienten oder Klassifikatorwerte noch vorhandene Jailbreak-Sammlungen verwenden. Um Änderungen an einem Angriff bewerten zu können, zerlegt BPJ das schädliche Ziel demnach in Zwischenziele und wählt gezielt Prüfpunkte aus, an denen sich kleine Unterschiede in der Angriffsstärke zeigen könnten.

Die Forschenden beanspruchen, BPJ entwickle erstmals automatisiert universelle Jailbreaks gegen Constitutional Classifiers und greife GPT-5s Eingabeklassifikator ohne menschliche Angriffsvorlagen an. Der Auszug enthält keine konkreten Erfolgszahlen oder unabhängige Überprüfung. Er räumt ein, dass während der Optimierung viele Anfragen markiert werden, und schlägt deshalb zusätzlich zur Einzelprüfung eine Überwachung von Anfragemengen vor.

Ausführlich lesen

Der bereitgestellte Text ist nur ein Auszug: Er enthält vor allem die Zusammenfassung eines Forschungsbeitrags sowie einzelne Seitenelemente, nicht den vollständigen Bericht oder die vollständige Arbeit. Die dort beschriebenen Ergebnisse sind daher als Aussagen der Autorinnen und Autoren wiedergegeben.

Der Beitrag stellt „Boundary Point Jailbreaking“ (BPJ) vor, ein automatisiertes Verfahren, das Schutzmechanismen großer Sprachmodelle mit gezielten Eingaben umgehen soll. Der Text beschreibt bestehende Schutzsysteme als Klassifikatoren, die schädliche Anfragen erkennen und laut Beitrag bereits umfangreiche menschliche Red-Team-Prüfungen überstanden haben.

BPJ soll solche Schutzsysteme vollständig von außen angreifen können: Für jede Anfrage nutzt das Verfahren demnach nur ein einzelnes Ja-Nein-Signal dazu, ob ein Klassifikator die Interaktion markiert. Es setzt laut Abstract weder Gradienten oder Klassifikatorwerte noch eine Sammlung bekannter Jailbreaks voraus. Die zentrale Schwierigkeit bestehe darin, bei einer Änderung eines Angriffs festzustellen, ob diese ihn tatsächlich verbessert. BPJ soll dafür das gewünschte schädliche Ziel in eine Abfolge von Zwischenzielen aufteilen und gezielt solche Prüfpunkte auswählen, an denen kleine Veränderungen der Angriffsstärke erkennbar werden könnten. Diese Prüfpunkte nennen die Autorinnen und Autoren „boundary points“.

Die Forschenden geben an, BPJ sei der erste vollständig automatisierte Angriff, der universelle Jailbreaks gegen Constitutional Classifiers entwickle. Außerdem beanspruchen sie, damit erstmals einen automatisierten Angriff gegen den Eingabeklassifikator von GPT-5 ohne menschlich vorgegebene Angriffsmuster erreicht zu haben. Der Auszug liefert jedoch keine konkreten Erfolgsraten, Versuchsdetails oder unabhängige Bestätigung dieser Prioritäts- und Leistungsansprüche.

Als Einschränkung nennt die Zusammenfassung, dass BPJ während der Optimierung viele Interaktionen auslöst, die vom Klassifikator markiert werden. Obwohl der Angriff bei einzelnen Interaktionen schwer abzuwehren sei, könnte diese Häufung laut den Autorinnen und Autoren auf Batch-Ebene auffallen. Sie folgern daraus, dass wirksame Abwehrmaßnahmen neben der Prüfung einzelner Interaktionen auch deren Muster über größere Anfragegruppen hinweg beobachten sollten.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 26 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 22 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Agenten und vernetzte Systeme
Modelle teilen und schützen
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 55 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →