Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
arxiv.orgohne Datum · Q000460

DEPUTYBENCH: Evaluating Contextual Safety in Enterprise Agents

arxiv.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Abstract-Auszug zu DEPUTYBENCH, einem Benchmark für die Sicherheitsprüfung von Unternehmensagenten. Die Ergebnisse deuten darauf hin, dass fehlende Berechtigungsnachweise häufiger zu unzulässiger Ausführung führen als eine ausdrücklich fehlende Berechtigung; der Auszug belegt jedoch keinen zugrunde liegenden internen Mechanismus.

Mittel

Der vorliegende Text ist ein Auszug: Er enthält den Abstract und bibliografische Angaben, nicht den vollständigen Bericht. DEPUTYBENCH soll prüfen, ob Unternehmensagenten Anfragen anhand interner Regeln und Unterlagen autorisieren können. Der Benchmark umfasst 79 Basisaufgaben, 375 Varianten und paarweise Berechtigungskontexte. Für zwölf Modelle nennt der Abstract 88,0 Prozent Gesamtsicherheit und 79,1 Prozent paarweisen Erfolg.

In einer kontrollierten Studie mit 28 Aufgaben und sechs Modellen folgten die Ergebnisse den Backend-Berechtigungen. Dennoch wurde bei fehlenden Nachweisen häufiger eingeschränktes Handeln ausgeführt als bei ausdrücklich verweigerter Berechtigung: 10,3 gegenüber 3,5 Prozent bei 27 abgeglichenen Aufgaben. Eine nachträgliche Analyse ordnete einen großen Teil der Ausführungen unter verdeckten Belegen vier Datenschutzaufgaben zu; außerhalb dieser Aufgaben war der Unterschied deutlich kleiner. Die Autoren betonen, dass dies keinen internen Mechanismus nachweist. Zwei Experten prüften die Aufgabengrundwahrheit, während Stufenkennzeichnungen vom Sprachmodell stammten. Der Auszug zeigt somit eine Grenze bei nicht verifizierbarer Berechtigung, erlaubt aber keine vollständige Beurteilung des Gesamtberichts.

Ausführlich lesen

Der vorliegende Quelltext enthält nur den Abstract sowie bibliografische Angaben und den Eintrag zur Einreichungsversion; den vollständigen Bericht gibt er nicht wieder. Die Zusammenfassung beruht daher auf diesem Auszug.

Der Abstract stellt DEPUTYBENCH vor, einen ausführbaren Benchmark zur Prüfung, ob Unternehmensagenten alltägliche Anfragen anhand organisatorischer Unterlagen und Regeln korrekt autorisieren und ihre legitime Arbeit fortsetzen können. Der Benchmark umfasst 79 Basisaufgaben mit 375 Varianten, paarweise angelegte Berechtigungskontexte und abgestufte Anforderungen an die Belege. In einer Auswertung von zwölf Modellen berichten die Autoren 88,0 Prozent Gesamtsicherheit und 79,1 Prozent Erfolg in den paarweisen Vergleichen.

Eine kontrollierte Untersuchung mit 28 abgeleiteten Aufgaben und sechs Modellen prüfte Veränderungen von Autorisierungsfakten, das Verbergen von Belegen und irrelevante Umformulierungen. Die Ergebnisse folgten den Berechtigungen im Backend. Allerdings kam es bei fehlenden Nachweisen häufiger zu unzulässiger Ausführung als bei ausdrücklich fehlender Berechtigung: 10,3 gegenüber 3,5 Prozent in 27 abgeglichenen Aufgaben. Der Abstract beziffert die Differenz mit 6,8 Prozentpunkten und einem 95-Prozent-Intervall von 1,9 bis 13,0; er kennzeichnet dies als ergänzende Analyse.

Eine nachträgliche Auswertung ordnet 61 von 100 Ausführungen unter verdeckten Belegen vier Datenschutzaufgaben zu, bei denen vollständige kumulative Zählungen oder eine Einwilligung für eine bestimmte Person erforderlich waren. Der Unterschied blieb bestehen, wenn das fehleranfälligste Modell oder die größte beitragende Aufgabe ausgeschlossen wurde, fiel außerhalb dieser vier Aufgaben aber deutlich kleiner aus. Laut Abstract beschreibt diese Konzentrationsanalyse Aufgabenstruktur und geprüfte Ergebnisse, keinen nachgewiesenen internen Mechanismus. Die mittlere Erfolgsquote blieb bei irrelevanten Umformulierungen innerhalb einer vorab festgelegten Toleranz von fünf Prozentpunkten gleich; die Sicherheit starker Modelle lag nahe am Höchstwert.

Zur Validierung der Bewertung nennt der Abstract eine Verbesserung auf 266 korrekt bewertete Fälle von 284 zurückgehaltenen Gegenbeispielen, gegenüber zuvor 178. Zwei Sicherheitsexperten prüften die Aufgabengrundwahrheit manuell über zwei Wochen; die Kennzeichnungen der einzelnen Stufen wurden weiterhin von einem Sprachmodell erzeugt. Der Auszug belegt damit keine verlässliche Entscheidung, wenn eine Berechtigung mangels Nachweisen nicht überprüfbar ist, und enthält keine vollständigen Angaben zu Aufbau, Resultaten oder weiteren Einschränkungen des Gesamtberichts.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 28 %einzelne zitierbare Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 32 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 18 %Hintergrund, keine Belege
    • Luna 40 %umfangreiche Belege
    • JEV 39 %umfangreiche Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 31 %einzelne zitierbare Belege
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 43 %umfangreiche Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 4 · 35 % · einzelne zitierbare Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 33 %umfangreiche Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 22 %einzelne zitierbare Belege
    • d3-ultra 58 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 5 · 37 % · umfangreiche Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 16 %Hintergrund, keine Belege
    • Luna 45 %einzelne zitierbare Belege
    • JEV 38 %beantwortet teilweise oder widerspricht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 18 %gleiches Oberthema, hilft nicht
    • Luna 43 %einzelne zitierbare Belege
    • JEV 65 %umfangreiche Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 21 %beantwortet teilweise oder widerspricht
    • Luna 58 %einzelne zitierbare Belege
    • JEV 53 %umfangreiche Belege
    • amos 29 %umfangreiche Belege
    • SubQ 29 %einzelne zitierbare Belege
    • drex 22 %Hintergrund, keine Belege
    • d3-ultra 34 %Hintergrund, keine Belege

    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 5 · 31 % · umfangreiche Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 21 %Hintergrund, keine Belege
    • Luna 42 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 28 %einzelne zitierbare Belege
    • SubQ 24 %gleiches Oberthema, hilft nicht
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 33 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 25 %gleiches Oberthema, hilft nicht
    • JEV 27 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →