Transfer of adversarial robustness between perturbation types
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Text ist ein Auszug, der im Wesentlichen das Abstract enthält. Die Autoren berichten, dass Robustheit gegen eine adversariale Störungsart nicht zuverlässig auf andere übergeht und diese mitunter sogar schwächen kann; sie empfehlen Tests mit vielfältigen Störungstypen und -stärken. Konkrete Angriffe und Messwerte sind im Auszug nicht aufgeführt.
Mittel
Der bereitgestellte Text ist ein Auszug aus dem Bericht: Er umfasst das Abstract, Metadaten und Bildunterschriften, aber keine detaillierten Versuchsergebnisse. Darin untersuchen die Autoren, ob adversariale Robustheit zwischen verschiedenen Arten von Störungen übertragbar ist. Sie berichten von 32 Angriffen aus fünf Störungstypen auf adversarial trainierte Modelle für eine Auswahl von 100 ImageNet-Klassen.
Den im Abstract dargestellten empirischen Ergebnissen zufolge ist ein breites Spektrum an Störungsstärken nötig, um solche Übertragungen angemessen einzuschätzen. Robustheit gegen eine Störungsart garantiere demnach nicht, dass ein Modell auch gegen andere Arten robust ist; sie könne die Robustheit gegen andere Störungen mitunter sogar verschlechtern. Die Autoren empfehlen deshalb, Abwehrmaßnahmen mit unterschiedlichen Störungstypen und -stärken zu evaluieren. Der Auszug nennt keine einzelnen Störungstypen, Messwerte oder Resultate je Angriff, sodass sich die Details und Grenzen der Experimente daraus nicht beurteilen lassen.
Ausführlich lesen
Der bereitgestellte Text ist ein Auszug: Er enthält Metadaten, das Abstract, eine Autorenliste und Bildunterschriften, aber keine ausführliche Darstellung der Studie. Deshalb lassen sich die konkreten Angriffsverfahren, Messwerte und Einzelresultate daraus nicht nachvollziehen.
Das Abstract beschreibt eine Untersuchung dazu, ob sich die Widerstandsfähigkeit tiefer neuronaler Netze gegen eine Art adversarialer Störung auf andere Störungsarten überträgt. Die Autoren weisen darauf hin, dass sich ein großer Teil der bisherigen Forschung auf Störungen mit L∞- oder L₂-Begrenzung konzentriert habe; diese deckten jedoch nicht alle Störungsmöglichkeiten ab, die Angreifern offenstehen könnten.
Der Studie zufolge wurden 32 Angriffe aus fünf verschiedenen Störungstypen gegen Modelle ausgewertet, die adversarial auf einer Auswahl von 100 ImageNet-Klassen trainiert worden waren. Die im Abstract berichteten empirischen Ergebnisse legen nahe, dass die Bewertung über ein breites Spektrum an Störungsstärken nötig ist, um Übertragungen der Robustheit zwischen Störungstypen zu verstehen.
Als zentrale Aussage berichten die Autoren, dass Robustheit gegen einen Störungstyp nicht zuverlässig Robustheit gegen andere Typen bedeutet. Sie könne die Widerstandsfähigkeit gegen andere Störungen mitunter sogar verringern. Daraus leiten sie die Empfehlung ab, Abwehrmaßnahmen nicht nur mit einzelnen Störungsarten oder -stärken zu prüfen, sondern mit einer vielfältigen Auswahl von beidem.
Die Reichweite dieser Zusammenfassung ist durch den vorliegenden Auszug begrenzt: Er nennt weder die fünf Störungstypen noch die konkreten Versuchsbedingungen, Ergebnisse je Angriff oder Unsicherheiten. Die Aussagen sind daher als Zusammenfassung der im Abstract berichteten Befunde und Empfehlung zu verstehen, nicht als unabhängige Überprüfung der Studie.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 33 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 43 %einzelne zitierbare Belege
- JEV 27 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Vertrauen in Modelle
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 40 %einzelne zitierbare Belege
- JEV 35 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Alle Berichte im Archiv