LFM2 Breakthrough: Small Models That Outrun Giants on Phones and Laptops
Zusammenfassung
Kurz
Der Bericht stellt LFM2 als für Geräte wie Telefone und Laptops optimierte Modellfamilie vor, mit einem hybriden Aufbau sowie Varianten für Text, Vision, Audio und Retrieval. Laut den im Artikel beschriebenen Tests erreicht sie auf bestimmten Prozessoren höhere Geschwindigkeit als ähnlich große offene Modelle; genaue Benchmarktabellen und unabhängige Bestätigungen fehlen im Bericht.
Mittel
Der Bericht beschreibt LFM2 als Modellfamilie von Liquid AI, die auf lokale Ausführung mit begrenztem Speicher, Rechenleistung und Energieverbrauch zugeschnitten sei. Sie umfasst dichte Modelle von 350 Millionen bis 2,6 Milliarden Parametern, ein MoE-Modell mit 8,3 Milliarden Parametern insgesamt und etwa 1,5 Milliarden aktiven Parametern pro Token sowie Vision-, Audio- und Retrieval-Varianten.
Architektonisch kombiniere LFM2 überwiegend CPU-freundliche Gated-Short-Convolution-Blöcke mit einigen Grouped-Query-Attention-Schichten. Der Artikel führt außerdem ein gestuftes Training, eine Top-K-Destillation mit 32 Lehrer-Logits und eine Nachbearbeitung aus Feintuning, Präferenzanpassung und Modellzusammenführung an. Vision und Audio nutzen jeweils spezialisierte Encoder; LFM2-ColBERT dient der Suche mit tokenweisen Einbettungen.
Laut den im Bericht wiedergegebenen Tests mit Q4-Quantisierung auf einem Snapdragon-S25- und einem Ryzen-HX-370-Prozessor seien Vorverarbeitung und Ausgabe etwa 1,5- bis 3-mal schneller als bei ähnlich großen offenen Vergleichsmodellen. Der Text nennt allerdings keine genauen Benchmarktabellen und liefert keine unabhängige Bestätigung. Die Leistungsangaben beziehen sich auf die beschriebenen Testbedingungen.
Ausführlich lesen
Der Bericht stellt LFM2 als Modellfamilie von Liquid AI vor, die für den Einsatz auf Mobiltelefonen, Laptops und anderen Geräten mit begrenztem Speicher, Rechenleistung und Energie ausgelegt sei. Der Artikel beschreibt dichte Modelle mit 350 Millionen bis 2,6 Milliarden Parametern, ein Mixture-of-Experts-Modell mit insgesamt 8,3 Milliarden und rund 1,5 Milliarden je Token aktiven Parametern sowie Vision-, Audio- und Retrieval-Varianten. Die Angaben und Leistungsbewertungen stammen aus dem Bericht; unabhängige Bestätigungen werden darin nicht vorgelegt.
Als zentrales Gestaltungsprinzip nennt der Text die Ausrichtung auf Gerätebedingungen. Der hybride Modellaufbau bestehe überwiegend aus Gated-Short-Convolution-Blöcken, die lokale Informationen verarbeiten und laut Artikel für CPU-Caches geeignet seien. Weniger häufig eingesetzte Grouped-Query-Attention-Schichten sollen weitreichende Beziehungen zwischen Tokens erfassen. Ergänzt werde das durch SwiGLU-MLPs, RMSNorm, RoPE und QK-Norm. Beim MoE-Modell würden Tokens an ausgewählte Experten weitergeleitet, sodass trotz der größeren Gesamtzahl an Parametern der Rechenaufwand pro Token begrenzt bleibe.
Der Bericht beschreibt außerdem das Training: Auf ein Basistraining mit ungefähr 10 bis 12 Billionen Tokens bei 4K Kontext folge ein Zwischentraining mit einer Billion höherwertiger Tokens und 32K Kontext. Für die Destillation auf kleinere Modelle werde eine Top-K-Methode mit den 32 stärksten Lehrer-Logits verwendet. Sie trenne laut Erklärung den Abgleich der Gesamtwahrscheinlichkeit innerhalb dieser Auswahl vom Abgleich der bedingten Verteilung darin. Danach folge eine dreistufige Nachbearbeitung mit überwachtem Feintuning, Präferenzanpassung und Modellzusammenführung.
Für Vision nennt der Artikel einen SigLIP2-Encoder mit leichtgewichtigem Anschluss und Kachelung hochauflösender Bilder; die Anzahl der Vision-Tokens könne demnach gegen Laufzeit abgewogen werden. Die Audio-Version verarbeite Sprache mit einem kontinuierlichen Encoder und könne Audioausgaben über diskrete Mimi-RVQ-Codes und einen Detokenisierer erzeugen. LFM2-ColBERT sei ein 350-Millionen-Parameter-Retriever mit tokenweisen Einbettungen und MaxSim-Auswertung.
Zu den Ergebnissen berichtet der Text von Tests auf einem Snapdragon-S25-Telefonprozessor und einem Ryzen-HX-370-Laptopprozessor mit Q4-Quantisierung in llama.cpp. Gegen ähnlich große offene Vergleichsmodelle seien Vorverarbeitung und Token-Ausgabe je nach Messgröße und Kontext etwa 1,5- bis 3-mal schneller; bei Aufgaben wie Instruktionsbefolgung, Mathematik und Mehrsprachigkeit schnitten die Modelle laut Artikel häufig besser ab als größere Modelle. Die genaue Auswertung bleibt jedoch begrenzt: Der Bericht enthält keine numerischen Benchmarktabellen, sondern verweist dafür auf Liquid AI (2025), und nennt keine unabhängige Prüfung. Die Laufzeitaussagen sind zudem an die genannten Geräte, Quantisierung und Vergleichsbedingungen gebunden. Das Beispiel zur lokalen Ausführung wird ausdrücklich als konzeptionell und nicht als direkt nutzbares Skript bezeichnet.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen von Luna sind inhaltlich treu, die kurze ohne erfundene Angaben und die mittlere mit fehlenden Genauigkeitsangaben; bewertet wurde die mittlere Fassung. Die meisten Sammelfragen betreffen Rechts-, Aufsichts- und Verlernfragen, die der technische Medium-Artikel nicht behandelt, daher fallen die Einordnungen insgesamt niedrig aus.
Im Bericht, aber nicht in der Zusammenfassung
- Genauigkeitsangaben: Laut Bericht übertrifft LFM2 bei Anweisungsbefolgung, Mathematik und mehrsprachigen Aufgaben oft größere Modelle
- Trainingsumfang: etwa 10 bis 12 Billionen Tokens Basistraining und 1 Billion Tokens Mid-Training mit 32K-Kontext
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 42 %beantwortet teilweise oder widerspricht
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 52 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 56 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 34 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-H1-T04 Welche Maßnahmen für Transparenz über Destillationsverfahren könnten Labore einführen, um Sicherheitsbedenken zu begegnen, ohne geschützte Innovation preiszugeben?
- SF-H1-T05 Wie können Staaten zusammenarbeiten, um die Ausbreitung von Fähigkeiten zu beobachten, die durch Destillation aus großen, auf Sicherheit ausgerichteten Modellen in kleinere, weniger geregelte Modelle gelangen?
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 57 %gleiches Oberthema, hilft nicht
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 58 %einzelne zitierbare Belege
- JEV 33 %einzelne zitierbare Belege
- amos 28 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-H3-T04 Welches Protokoll zum Datenaustausch ließe ein Ministerium in jedem Staat prüfen, dass die Cyberfähigkeiten eines eingesetzten Modells denen der geprüften Fassung entsprechen, ohne Gewichte oder Nutzerdaten offenzulegen?
- SF-H3-T06 Welcher unabhängig prüfbare Mindestbeleg zeigt, dass eine bestimmte Person, Organisation oder ein geschützter Datensatz aus einem veröffentlichten Modell und seinen Adaptern (Zusatzmodulen) verlernt wurde, und welches Restrisiko einer Extraktion lässt sich womöglich nie auf null senken?
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 45 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 27 %Hintergrund, keine Belege
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv