Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai8. Februar 2017 · Q008676

Adversarial attacks on neural network policies

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur ein Abstract-Auszug. Darin berichten die Autorinnen und Autoren, dass kleine, für Menschen kaum wahrnehmbare Eingabestörungen die Testleistung neuronaler Richtlinien im bestärkenden Lernen über verschiedene Aufgaben und Trainingsverfahren hinweg deutlich senken können; konkrete Messwerte und Versuchsdetails fehlen.

Mittel

Der bereitgestellte Text ist ein Auszug aus dem Abstract; Einzelheiten zu Experimenten und Ergebnissen fehlen. Der Bericht untersucht, ob gezielte, kleine Veränderungen an den Rohdaten neuronale Richtlinien im bestärkenden Lernen zu schlechteren Entscheidungen bringen können. Die Autorinnen und Autoren berichten, dass vorhandene Techniken zur Erzeugung adversarialer Beispiele auch gegen solche Richtlinien wirksam seien und ihre Leistung im Test deutlich verschlechtern könnten.

Laut Abstract betrachtet die Studie eine Teilklasse solcher Angriffe in White-Box- und Black-Box-Situationen und vergleicht ihre Wirkung über verschiedene Aufgaben und Trainingsverfahren. Die Forschenden behaupten, unabhängig von Aufgabe und Trainingsverfahren einen deutlichen Leistungsabfall beobachtet zu haben. Die Veränderungen seien so klein, dass Menschen sie nicht wahrnähmen.

Der Auszug enthält keine konkreten Aufgaben, Verfahren, Messwerte oder Angaben zum Versuchsaufbau. Wie groß die Einbußen ausfallen und wie weit die Ergebnisse auf bestimmte Anwendungen übertragbar sind, lässt sich daher anhand dieses Textes nicht beurteilen.

Ausführlich lesen

Der bereitgestellte Text ist ein Auszug: Er enthält das Abstract eines Berichts über gezielte Störungen von neuronalen Richtlinien im bestärkenden Lernen, aber keine ausführliche Beschreibung der Experimente oder ihrer Ergebnisse.

Das Abstract stellt das Problem in den Zusammenhang adversarialer Beispiele: Eingaben werden absichtlich so verändert, dass ein maschinelles Lernmodell falsche Entscheidungen trifft. Solche Angriffe seien bereits für Klassifikatoren in der Bildverarbeitung umfassend untersucht worden. Die Autorinnen und Autoren berichten, dass vergleichbare Techniken auch bei neuronalen Richtlinien im bestärkenden Lernen wirksam seien und die Leistung bereits trainierter Richtlinien während des Tests deutlich verschlechtern könnten.

Als Bedrohungsmodell betrachten sie Angreifer, die kleine Veränderungen an den Rohdaten der Richtlinie vornehmen können. Der Bericht untersucht laut Abstract eine Teilklasse von Angriffen auf adversariale Beispiele und vergleicht deren Wirkung über verschiedene Aufgaben und Trainingsverfahren hinweg. Dabei werden sowohl White-Box- als auch Black-Box-Situationen berücksichtigt. Das Abstract behauptet, dass die Leistung unabhängig von der erlernten Aufgabe und dem Trainingsverfahren erheblich abnehme. Die Störungen seien dabei so klein, dass sie die menschliche Wahrnehmung nicht beeinträchtigten.

Der vorliegende Auszug nennt jedoch weder die konkreten Aufgaben und Trainingsverfahren noch Messwerte, Versuchsaufbau oder Einzelheiten dazu, welche Angriffstechniken verwendet wurden. Daher lassen sich aus ihm weder die Größenordnung der Leistungseinbußen noch die Übertragbarkeit der Ergebnisse auf bestimmte Anwendungen genauer beurteilen. Er verweist auf ergänzende Videos, enthält diese aber nicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 63 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →