Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
arxiv.orgohne Datum · Q000399

Embedding-Space Fingerprinting of LoRA Fine-Tunes: Recovering the Training-Data Domain from the Model Artifact Alone

arxiv.org · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Text ist nur die arXiv-Seite mit Abstract und Metadaten, nicht der vollständige Bericht. Laut Abstract ließ sich die Domäne von LoRA-Feinabstimmungen eines Basismodells bei bislang unbekannten Datensätzen aus Aktivierungen zu 61 Prozent und aus Ausgaben zu 64 Prozent erkennen; Gewichtsdifferenzen erreichten 42 Prozent. Die berichteten Resultate gelten für die untersuchte Konfiguration und belegen hier keine Übertragbarkeit auf andere Modelle.

Mittel

Der bereitgestellte Text ist eine arXiv-Seite mit Abstract und Metadaten, nicht der vollständige Bericht. Untersucht wird laut Abstract, ob sich die Domäne der Trainingsdaten einer LoRA-Feinabstimmung allein aus dem Modellartefakt erkennen lässt. Dafür wurden 36 Anpassungen eines Basismodells mit 18 öffentlichen Datensätzen aus fünf Bereichen ausgewertet. Ein vorab festgelegtes Leave-one-dataset-out-Verfahren prüfte die Erkennung bei jeweils unbekannten Datensätzen.

Der Abstract berichtet 61 Prozent Genauigkeit mit internen Aktivierungen, 64 Prozent mit erzeugten Ausgaben und 42 Prozent anhand von Gewichtsdifferenzen; die Zufallsrate wird mit 20 Prozent angegeben. Aktivierungen und Ausgaben waren somit informativer als die untersuchten Gewichtsstatistiken – entgegen der vorab formulierten Hypothese. Die Black-Box-Genauigkeit blieb laut Text auch ohne Token-Wahrscheinlichkeiten bei 64 Prozent. Weitere berichtete Prüfungen ergaben stabile Resultate bei unabhängig gezogenen Datenstichproben und LoRA-Rängen von 8 bis 64. Die Angaben beziehen sich auf ein Basismodell und die untersuchten Datensätze; der Auszug liefert keine Grundlage für Aussagen über andere Modelle oder eine breitere Übertragbarkeit.

Ausführlich lesen

Der bereitgestellte Text ist eine arXiv-Seite mit Titel, Abstract und bibliografischen Angaben; er enthält nicht den vollständigen Bericht. Das Abstract untersucht, ob sich der Themenbereich der Trainingsdaten eines mit Low-Rank Adaptation (LoRA) feinabgestimmten Sprachmodells allein aus dem fertigen Modellartefakt erkennen lässt, ohne die Trainingsdaten einzusehen. Betrachtet werden drei Zugriffsarten: Gewichtsdifferenzen (White Box), interne Aktivierungen auf einem festgelegten Testsatz (Gray Box) und erzeugte Texte (Black Box).

Laut Abstract erstellte der Autor 36 LoRA-Feinabstimmungen eines einzelnen Basismodells, Qwen3.5-0.8B, mit 18 öffentlichen Datensätzen aus fünf Bereichen: Medizin, Programmierung, Mathematik, nicht englischsprachige Texte und erzählende Prosa. Ein vor Sichtung der Ergebnisse festgelegtes Leave-one-dataset-out-Verfahren sollte prüfen, ob ein Klassifikator den Bereich auch bei einem Datensatz erkennen kann, der beim Training auf anderen Datensätzen nicht vorkam.

Als berichtete Ergebnisse nennt der Text eine Bereichsgenauigkeit von 61 Prozent anhand interner Aktivierungen und 64 Prozent anhand der Modellausgaben. Statistiken der Gewichtsdifferenzen erreichten 42 Prozent. Zum Vergleich gibt das Abstract eine Zufallsgenauigkeit von 20 Prozent an. Die Ergebnisse über Aktivierungen und Ausgaben lagen damit über den Gewichtsstatistiken. Das widersprach der vorab formulierten Erwartung, dass das erkennbare Signal mit weniger direktem Modellzugriff schrittweise abnehmen würde. Für die Black-Box-Auswertung sei die Genauigkeit von 64 Prozent auch dann gleich geblieben, wenn nur erzeugter Text und keine Token-Wahrscheinlichkeiten verwendet wurden.

Weiter berichtet das Abstract, dass die Bereichserkennung stabil blieb, wenn pro Datensatz ein dritter Lauf mit einer unabhängig gezogenen Datenstichprobe trainiert wurde. Auch Änderungen des LoRA-Rangs zwischen 8 und 64 hätten die Black-Box-Vorhersagen nicht verändert. Der Text gibt an, dass Code und Merkmalsvektoren für einzelne Läufe veröffentlicht wurden.

Die Aussagekraft ist anhand des bereitgestellten Auszugs begrenzt: Beschrieben wird eine Untersuchung mit einem Basismodell und den genannten öffentlichen Datensätzen und Bereichen. Angaben zu Konfidenzintervallen, Fehleranalysen oder möglichen Übertragungen auf andere Modelle und Daten enthält dieser Text nicht. Die Ergebnisse und Einschränkungen sind daher als Aussagen des Abstracts wiedergegeben; der vollständige Bericht liegt hier nicht vor.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 27 %gleiches Oberthema, hilft nicht
    • JEV 35 %beantwortet teilweise oder widerspricht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 28 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 4 · 29 % · einzelne zitierbare Belege
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 41 %gleiches Oberthema, hilft nicht
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 40 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 29 %beantwortet teilweise oder widerspricht
    • Luna 61 %umfangreiche Belege
    • JEV 60 %beantwortet direkt und ausführlich
    • amos 30 %umfangreiche Belege
    • SubQ 31 %beantwortet direkt und ausführlich
    • drex 31 %umfangreiche Belege
    • d3-ultra 41 %beantwortet teilweise oder widerspricht

Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →