Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
aisi10. April 2026 · Q001790

Infusion: Shaping model behaviour by editing training data via influence functions

aisi.gov.uk · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Vorliegt nur ein Auszug mit dem Abstract. Die Arbeit beschreibt Infusion, ein Verfahren für subtile Änderungen an Trainingsdaten, die Modellverhalten beeinflussen sollen; laut den berichteten CIFAR-10-Ergebnissen können Änderungen an 0,2 Prozent der Daten mit einer Vergleichsmethode konkurrieren. Vorläufige Sprachversuche zeigen dem Abstract zufolge, dass der Ansatz bereits gelernte Verhaltensweisen am besten verstärkt und auch scheitern kann.

Mittel

Vorliegt nur ein Auszug mit dem Abstract, nicht der vollständige Bericht. Die Arbeit stellt Infusion vor, ein Verfahren, das Näherungen von Einflussfunktionen nutzt, um kleine Änderungen an Trainingsdokumenten zu berechnen und damit Modellverhalten gezielt zu beeinflussen.

Für CIFAR-10 berichten die Autorinnen und Autoren, dass subtile Änderungen an 100 von 45.000 Trainingsdokumenten (0,2 Prozent) mit einer Vergleichsmethode konkurrieren können, bei der wenige ausdrückliche Verhaltensbeispiele eingefügt werden. Zudem berichten sie, dass eine vergiftete Datensammlung mehrere unabhängig trainierte Modelle mit unterschiedlichen Architekturen beeinflussen könne. Die Sprachversuche seien vorläufig: Infusion verstärke Zielverhalten am ehesten, wenn das Modell es bereits gelernt hat; der Abstract beschreibt auch Fälle, in denen der Ansatz scheitert. Die Ergebnisse belegen laut den Forschenden, dass kleine Änderungen das Modellverhalten systematisch formen können. Weitergehende Versuchsdaten und Einschränkungen sind im bereitgestellten Auszug nicht enthalten.

Ausführlich lesen

Vorliegt nur ein Auszug mit dem Abstract, nicht der vollständige Bericht. Die Zusammenfassung gibt daher die dort beschriebenen Ziele und Ergebnisse wieder; Einzelheiten zur Durchführung und weitere Einschränkungen sind im bereitgestellten Text nicht enthalten.

Die Arbeit untersucht, ob sich Einflussfunktionen nicht nur nutzen lassen, um den Einfluss von Trainingsdokumenten auf Modellverhalten zuzuordnen, sondern auch gezielt, um dieses Verhalten durch Änderungen an den Trainingsdaten zu formen. Dafür stellen die Autorinnen und Autoren Infusion vor: Das Verfahren verwendet skalierbare Näherungen von Einflussfunktionen, um kleine Änderungen an Trainingsdokumenten zu berechnen. Diese sollen Verschiebungen der Modellparameter und dadurch gezielte Verhaltensänderungen bewirken.

Laut Abstract wird Infusion für Datenvergiftungsaufgaben in Bild- und Sprachdomänen untersucht. Für CIFAR-10 berichten die Autorinnen und Autoren, dass subtile Änderungen an 0,2 Prozent der Trainingsdokumente – 100 von 45.000 – mit einer Vergleichsmethode konkurrieren können, bei der eine kleine Zahl ausdrücklicher Verhaltensbeispiele eingefügt wird. Außerdem berichten sie von einem Transfer über Architekturen hinweg: Eine vergiftete Datensammlung könne demnach mehrere unabhängig trainierte Modelle beeinflussen. Als genannte Architektur wird ein ResNet-CNN angeführt.

Die Sprachversuche werden ausdrücklich als vorläufig bezeichnet. In ihnen untersuchen die Forschenden, unter welchen Bedingungen Infusion die Wahrscheinlichkeit eines Zielverhaltens erhöht und wann der Ansatz scheitert. Am wirksamsten sei er dem Abstract zufolge, wenn er Verhaltensweisen verstärkt, die das Modell bereits gelernt hat. Der Text behauptet damit nicht, dass sich beliebiges neues Verhalten zuverlässig erzeugen lässt.

Als übergreifende Schlussfolgerung führen die Autorinnen und Autoren an, dass kleine und unauffällige Änderungen an Trainingsdaten Modellverhalten systematisch beeinflussen können. Sie heben deshalb die Bedeutung der Interpretierbarkeit von Trainingsdaten sowohl für mögliche Angreifer als auch für Verteidiger hervor. Da nur das Abstract vorliegt, lassen sich die Versuchsdetails, die genaue Definition der Vergleichsleistung und zusätzliche Grenzen der Methode aus diesem Material nicht beurteilen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 63 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 20 %Hintergrund, keine Belege
    • Luna 56 %einzelne zitierbare Belege
    • JEV 32 %beantwortet teilweise oder widerspricht
    • amos 27 %einzelne zitierbare Belege
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-H3-T02 Welche gemeinsamen Prüfstandards und Verfahren zum Herkunftsnachweis erkennen versteckte Verhaltensauslöser und eine systemweite Verschlechterung der Ausrichtung an den vorgesehenen Zielen und Werten, wenn Training immer mehr auf synthetischen Daten anderer Spitzenmodelle beruht? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →