Sample-Grained Approximate Unlearning with Provable Per-Sample Bounds
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Die bereitgestellte Quelle ist nur die arXiv-Abstractseite, nicht der vollständige Artikel. Die Autorinnen und Autoren stellen SALA und eine Kennzahl für Abweichungen beim Unlearning einzelner Beispiele vor; laut Abstract verringert SALA diese Abweichung in Experimenten um bis zu 86,67 Prozent und verbessert die Robustheit gegenüber Hyperparametern.
Mittel
Der bereitgestellte Bericht ist eine arXiv-Abstractseite, kein vollständiger Artikel; die Zusammenfassung kann daher nur die dort genannten Aussagen wiedergeben. Thema ist maschinelles Unlearning: Der Einfluss ausgewählter Trainingsbeispiele soll ohne vollständiges erneutes Training entfernt werden, während die Leistung auf den übrigen Beispielen erhalten bleibt. Die Autorinnen und Autoren weisen darauf hin, dass Datensatz-Kennzahlen Abweichungen bei einzelnen Beispielen verbergen können.
Sie schlagen SALA vor, ein ergänzendes Optimierungsverfahren, das einzelne Beispiele auf ihre Zielverteilung ausrichten soll. Dazu definieren sie den „sample-grained distribution gap“, der die Ausgaben des näherungsweisen Verfahrens mit denen eines exakten erneuten Trainings pro Beispiel vergleicht. Der Abstract behauptet theoretische Schranken und eine Verringerung dieser Abweichung; außerdem beschreiben die Autorinnen und Autoren eine kostengünstige Schätzung der benötigten Zielverteilungen. Experimente zu Klassifikation und Generierung sollen den Abstand mit bestehenden Verfahren um bis zu 86,67 Prozent senken und die Robustheit gegenüber Unlearning-Hyperparametern verbessern. Datensätze und Einzelheiten zu den Experimenten sind auf der vorliegenden Seite nicht ausgeführt.
Ausführlich lesen
Der bereitgestellte Bericht ist eine arXiv-Abstractseite mit bibliografischen Angaben und Einreichungshistorie, kein vollständiger Artikel. Die Zusammenfassung beruht daher ausschließlich auf dem Abstract; ausführliche Angaben zu Versuchsaufbau und Belegen liegen hier nicht vor.
Die Autorinnen und Autoren behandeln maschinelles Unlearning: Dabei soll der Einfluss ausgewählter Trainingsbeispiele aus einem trainierten Modell entfernt werden, während dessen Leistung auf den übrigen Beispielen erhalten bleibt. Näherungsweise Verfahren sollen dies ohne vollständiges erneutes Training ermöglichen. Laut Abstract werden ihre Ergebnisse meist mit Kennzahlen über ganze Datensätze bewertet. Solche zusammengefassten Werte könnten jedoch Unterschiede bei einzelnen Beispielen verdecken.
Als Lösung schlagen die Autorinnen und Autoren SALA vor, ein ergänzendes Optimierungsverfahren, das einzelne Beispiele auf ihre jeweils angestrebte Zielverteilung ausrichten soll. Außerdem führen sie den „sample-grained distribution gap“ ein. Diese Kennzahl soll für jedes Beispiel die Abweichung zwischen der Ausgabe des näherungsweisen Unlearning-Verfahrens und der Ausgabe eines exakten erneuten Trainings erfassen. Der Abstract behauptet, dass SALA diese Abweichung theoretisch verringert und eine Schranke für die Abweichung pro Beispiel garantiert. Für die praktische Anwendung entwickelten die Autorinnen und Autoren demnach ein kostengünstiges Verfahren, um Zielverteilungen für Mitglieder und Nichtmitglieder der Trainingsdaten abzuschätzen.
Laut Abstract zeigen umfangreiche Experimente zu Klassifikations- und Generierungsaufgaben, dass SALA in Verbindung mit bestehenden näherungsweisen Unlearning-Verfahren den genannten Abstand um bis zu 86,67 Prozent reduziert. Zudem soll SALA die Robustheit gegenüber der Wahl von Unlearning-Hyperparametern verbessern. Die Seite enthält jedoch keine konkreten Datensätze, Versuchsdetails oder Einzelergebnisse, anhand derer sich diese Angaben hier weiter prüfen ließen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 84 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 35 %gleiches Oberthema, hilft nicht
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug