Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai3. Mai 2019 · Q008682

Transfer of adversarial robustness between perturbation types

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist ein Auszug, der im Wesentlichen das Abstract enthält. Die Autoren berichten, dass Robustheit gegen eine adversariale Störungsart nicht zuverlässig auf andere übergeht und diese mitunter sogar schwächen kann; sie empfehlen Tests mit vielfältigen Störungstypen und -stärken. Konkrete Angriffe und Messwerte sind im Auszug nicht aufgeführt.

Mittel

Der bereitgestellte Text ist ein Auszug aus dem Bericht: Er umfasst das Abstract, Metadaten und Bildunterschriften, aber keine detaillierten Versuchsergebnisse. Darin untersuchen die Autoren, ob adversariale Robustheit zwischen verschiedenen Arten von Störungen übertragbar ist. Sie berichten von 32 Angriffen aus fünf Störungstypen auf adversarial trainierte Modelle für eine Auswahl von 100 ImageNet-Klassen.

Den im Abstract dargestellten empirischen Ergebnissen zufolge ist ein breites Spektrum an Störungsstärken nötig, um solche Übertragungen angemessen einzuschätzen. Robustheit gegen eine Störungsart garantiere demnach nicht, dass ein Modell auch gegen andere Arten robust ist; sie könne die Robustheit gegen andere Störungen mitunter sogar verschlechtern. Die Autoren empfehlen deshalb, Abwehrmaßnahmen mit unterschiedlichen Störungstypen und -stärken zu evaluieren. Der Auszug nennt keine einzelnen Störungstypen, Messwerte oder Resultate je Angriff, sodass sich die Details und Grenzen der Experimente daraus nicht beurteilen lassen.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält Metadaten, das Abstract, eine Autorenliste und Bildunterschriften, aber keine ausführliche Darstellung der Studie. Deshalb lassen sich die konkreten Angriffsverfahren, Messwerte und Einzelresultate daraus nicht nachvollziehen.

Das Abstract beschreibt eine Untersuchung dazu, ob sich die Widerstandsfähigkeit tiefer neuronaler Netze gegen eine Art adversarialer Störung auf andere Störungsarten überträgt. Die Autoren weisen darauf hin, dass sich ein großer Teil der bisherigen Forschung auf Störungen mit L∞- oder L₂-Begrenzung konzentriert habe; diese deckten jedoch nicht alle Störungsmöglichkeiten ab, die Angreifern offenstehen könnten.

Der Studie zufolge wurden 32 Angriffe aus fünf verschiedenen Störungstypen gegen Modelle ausgewertet, die adversarial auf einer Auswahl von 100 ImageNet-Klassen trainiert worden waren. Die im Abstract berichteten empirischen Ergebnisse legen nahe, dass die Bewertung über ein breites Spektrum an Störungsstärken nötig ist, um Übertragungen der Robustheit zwischen Störungstypen zu verstehen.

Als zentrale Aussage berichten die Autoren, dass Robustheit gegen einen Störungstyp nicht zuverlässig Robustheit gegen andere Typen bedeutet. Sie könne die Widerstandsfähigkeit gegen andere Störungen mitunter sogar verringern. Daraus leiten sie die Empfehlung ab, Abwehrmaßnahmen nicht nur mit einzelnen Störungsarten oder -stärken zu prüfen, sondern mit einer vielfältigen Auswahl von beidem.

Die Reichweite dieser Zusammenfassung ist durch den vorliegenden Auszug begrenzt: Er nennt weder die fünf Störungstypen noch die konkreten Versuchsbedingungen, Ergebnisse je Angriff oder Unsicherheiten. Die Aussagen sind daher als Zusammenfassung der im Abstract berichteten Befunde und Empfehlung zu verstehen, nicht als unabhängige Überprüfung der Studie.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 43 %einzelne zitierbare Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →