Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
arxiv.orgohne Datum · Q000424

IDSISA: Influence-Distilled Sharded Training for Efficient Machine Unlearning

arxiv.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Bericht enthält nur den Abstract-Auszug zu IDSISA. Das Verfahren soll Löschanfragen in wenigen Trainings-Shards bündeln und Modellgüte durch Destillation zurückgewinnen; die Autoren behaupten eine exakte Löschgarantie sowie empirische Qualitätsgewinne, doch die Angaben zur Entlernzeit sind unvollständig.

Mittel

Der bereitgestellte Bericht ist nur ein arXiv-Auszug mit Abstract, nicht der vollständige Artikel. Er stellt IDSISA als Erweiterung von SISA für maschinelles Vergessen vor. SISA ermöglicht laut Abstract zertifizierte Löschungen durch Aufteilung der Trainingsdaten und unabhängiges Neutraining; zufällige Aufteilungen können Löschanfragen jedoch über viele Shards verteilen und die Modellgüte beeinträchtigen.

IDSISA soll löschgefährdete Beispiele mithilfe von Einflussfunktionen in wenigen Shards bündeln. Destillation aus nicht betroffenen Shards soll den dadurch entstehenden Qualitätsverlust ausgleichen. Die Verfassenden unterscheiden die exakte Löschgarantie des Neutrainings von dieser empirischen Näherung und geben für letztere einen erwarteten ε_cert-Wert von höchstens 0,015 an. Für wiederholte Löschungen behaupten sie, dass ein kaskadierendes Neutraining die Garantie für das aggregierte Modell wiederherstellt, selbst wenn Destillation Abhängigkeiten zwischen Shards schafft.

Experimente mit Bild-, Text- und Sequenzmodellen werden als erfolgreicher beim selektiven Vergessen und beim Erhalt der Modellgüte beschrieben. Die Angaben zur Veränderung der Entlernzeit sind im Auszug unvollständig und enthalten keine Zahlen. Versuchsdetails und weitergehende Einschränkungen sind anhand des Abstracts nicht beurteilbar.

Ausführlich lesen

Der bereitgestellte Bericht ist ein arXiv-Auszug mit Titel, Metadaten und Abstract, kein vollständiger Artikel. Er beschreibt IDSISA, ein Verfahren für maschinelles Vergessen: Bestimmte Trainingsbeispiele sollen aus einem Modell entfernt werden, ohne das gesamte Modell neu zu trainieren. Der Abstract stellt den Zielkonflikt so dar: Vollständiges Neutraining biete starke Garantien, sei aber bei großen Datenmengen teuer; effiziente Näherungsverfahren hätten dagegen keine formalen Garantien. SISA soll Löschungen zertifiziert ermöglichen, indem Trainingsdaten aufgeteilt und betroffene Bereiche unabhängig neu trainiert werden. Laut Bericht verteilt eine zufällige Aufteilung Löschanfragen jedoch oft auf viele Teilmodelle und kann durch das isolierte Training die Modellgüte beeinträchtigen.

IDSISA soll diese Nachteile mit zwei Bausteinen adressieren. Einflussfunktionen sollen Beispiele, bei denen eine Löschung wahrscheinlich angefragt wird, in wenige Daten-Shards bündeln. Zusätzlich soll Wissensdestillation aus nicht betroffenen Shards einen Teil des durch die Isolation entstandenen Qualitätsverlusts ausgleichen. Der Abstract unterscheidet dabei ausdrücklich zwischen Garantie und Näherung: Die Löschgarantie aus dem Neutraining-Schritt von SISA bleibe exakt und benötige laut Autorinnen und Autoren keine probabilistische Einschränkung. Die durch Destillation erzielte Wiederherstellung der Modellgüte sei dagegen eine separat quantifizierte empirische Näherung; als Grenze wird ein erwarteter Wert von höchstens 0,015 für ε_cert angegeben.

Für Folgen wiederholter Löschanfragen betrachten die Verfassenden außerdem mögliche Abhängigkeiten zwischen Shards, die durch die Destillation entstehen können. Sie geben an, eine zertifizierende Behandlung zu formalisieren und zu beweisen, dass ein auf Abschlussbildung beruhendes, kaskadierendes Neutraining die Löschgarantie für das gesamte aggregierte Modell bei beliebigen Löschfolgen wiederherstellt.

Die im Abstract genannten Experimente umfassen ResNet-18 auf CIFAR-10 und CIFAR-100, BiLSTM und TCN auf IMDB sowie ein vollständig verbundenes Netzwerk auf Fashion-MNIST. Laut Bericht erzielt IDSISA besseres selektives Vergessen und behält die Modellgüte relativ betrachtet in manchen Vergleichen besser; bei den übrigen Architekturen werden durchgehend Zugewinne in Prozentpunkten behauptet, wo ein relativer Basiswert nicht definiert sei. Die Angaben zu Änderungen der Entlernzeit sind im vorliegenden Text unvollständig: Es heißt lediglich, sie reichten je nach Architektur von „bis“, ohne Zahlen zu nennen. Da nur der Abstract-Auszug vorliegt, lassen sich weder Versuchsdetails noch Belege und Einschränkungen aus dem vollständigen Paper prüfen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV offen
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 28 %gleiches Oberthema, hilft nicht
    • JEV offen
    • amos 21 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →