Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
arxiv.orgohne Datum · Q000431

DISCERN: Distributional Synthetic Replay for Retain-Free Incremental Machine Unlearning

arxiv.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Es liegt nur ein Auszug vor. Darin stellen die Autoren DISCERN vor, das synthetische, klassenweise modellierte Einbettungen nutzt, um Klassenwissen schrittweise und ohne Zugriff auf die verbliebenen Trainingsdaten zu löschen. Sie berichten über besondere Stabilität auf Transformern und weniger Wiederauftauchen vergessener Klassen; wichtige Kennzahlen fehlen im Auszug.

Mittel

Es liegt nur ein Auszug vor: die arXiv-Seite mit Abstract und Metadaten, nicht der vollständige Bericht. Darin beschreiben die Autoren DISCERN, ein Verfahren, das Klassenwissen schrittweise löschen soll, ohne auf die verbliebenen Trainingsdaten zuzugreifen. Stattdessen erzeugt es synthetische Einbettungen aus einer pro Klasse ausgewählten Verteilung. Die Auswahl umfasst euklidische und richtungsbezogene Verteilungsfamilien; laut Abstract soll dies den unterschiedlichen latenten Geometrien von konvolutionalen Netzen und Transformern Rechnung tragen.

Getestet worden sei DISCERN mit sieben Vergleichsverfahren auf MNIST, CIFAR-10 und CIFAR-100, mit vier Backbones und verschiedenen Szenarien der Klassenlöschung. Die Autoren berichten, dass DISCERN bei gleichzeitigen Löschungen konkurrenzfähig und beim schrittweisen Unlearning auf Transformern besonders stabil sei. Eine gepaarte Ablation lege nahe, dass die Verteilungsauswahl das Wiederauftauchen bereits vergessener Klassen verringere und so das kumulierte Vergessen stabilisiere. Die im Auszug angekündigten Kennzahlen fehlen allerdings: Der Wert des harmonischen Mittels nach 20 Löschungen sowie die Vergleichswerte sind nicht angegeben. Die Ergebnisse und Versuchsdetails lassen sich anhand dieses Auszugs daher nicht vollständig prüfen.

Ausführlich lesen

Es liegt nur ein Auszug vor: die arXiv-Seite mit dem Abstract und bibliografischen Angaben, nicht der vollständige Bericht. Der Abstract stellt DISCERN vor, ein Verfahren zum fortlaufenden Vergessen bestimmter Klassen in trainierten Modellen. Das Problem entsteht, wenn Löschanfragen nacheinander eintreffen: Bereits entfernte Klassen sollen vergessen bleiben, während das Wissen über die übrigen Klassen erhalten wird. Das Verfahren soll dafür ohne Zugriff auf die verbliebenen Trainingsdaten auskommen.

Nach Darstellung der Autorinnen und Autoren ersetzt DISCERN diese Daten durch synthetische Einbettungen, die aus einer für jede Klasse angepassten parametrischen Verteilung gezogen werden. Es berücksichtigt sowohl euklidische Verteilungen – darunter Gauß-, Laplace- und Student-t-Verteilungen – als auch Richtungsverteilungen wie von-Mises-Fisher und Fisher-Bingham. Die passende Familie wird laut Abstract anhand statistischer Tests ausgewählt; akzeptiert keine dieser Tests eine Verteilung, entscheidet die kreuzvalidierte Log-Likelihood. Die Motivation: Einbettungen von Transformern lägen ungefähr auf einer Hypersphäre und konzentrierten sich um Klassenrichtungen, während sich die latente Geometrie bei konvolutionalen Netzen unterscheide. Das Verfahren soll diese Architekturunterschiede berücksichtigen, statt für alle Klassen eine isotrope Gaußverteilung um den jeweiligen Schwerpunkt anzunehmen.

Die Autoren berichten Vergleiche mit sieben anderen Verfahren ohne Zugriff auf die verbliebenen Trainingsdaten. Untersucht wurden MNIST, CIFAR-10 und CIFAR-100, zwei konvolutionale und zwei Transformer-Backbones sowie das Entfernen einzelner oder mehrerer Klassen und schrittweises Unlearning. Bei gleichzeitiger Entfernung von Klassen sei DISCERN konkurrenzfähig. Im schrittweisen Szenario auf Transformern beschreiben sie es als besonders stabil: Für ViT-B/16 werde nach 20 aufeinanderfolgenden Löschungen ein harmonisches Mittel genannt. Der Zahlenwert fehlt jedoch im vorliegenden Auszug. Auch die behauptete Verschlechterung des stärksten Verfahrens aus dem gleichzeitigen Szenario ist nicht beziffert, da Ausgangs- und Endwert fehlen.

Eine gepaarte Ablation wird als Hinweis angeführt, dass die klassenweise Auswahl der Verteilung das Wiederauftauchen zuvor vergessener Klassen deutlich verringere. Die Autoren deuten dies als Stabilisierung des kumulierten Vergessens, nicht als durchgängige Verbesserung sämtlicher Ergebnisse. Da nur Abstract und Metadaten vorliegen und zentrale Zahlen im Abstract-Auszug fehlen, lassen sich Versuchsdetails und quantitative Aussagen hier nicht unabhängig beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →