Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com21. März 2026 · Q011286

Claude Code did this: 400B AI on a Laptop

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht behauptet, Claude Code habe in knapp zweieinhalb Stunden eine Methode entwickelt und erprobt, mit der das Modell Qwen3.5–397B auf einem MacBook lokal mit etwa sechs Tokens pro Sekunde läuft. Die frühe Umsetzung könnte laut Autor private Offline-Nutzung ermöglichen, hat aber Einschränkungen wie fehlendes Prefill-Caching und ungünstige SSD-Zugriffe bei MoE-Modellen; unabhängige Messbelege führt der Bericht nicht an.

Mittel

Der Bericht schildert, wie Dan Woods mit Claude Code versucht habe, Qwen3.5–397B auf einem MacBook lokal auszuführen. Möglich werde dies durch die Kombination von Karpathys Framework „autoresearch“, Apples Konzept, Modellgewichte bei Bedarf von der SSD zu laden, und einem Agenten, der Code und Experimente iterativ bearbeitet. Das Modell nutzt eine Mixture-of-Experts-Architektur; laut Artikel werden benötigte Experten nachgeladen und zwischengespeichert. Pro Token würden etwa 1,8 GB von der SSD gelesen. Nach einer zunächst mit 0,96 Tokens pro Sekunde laufenden Python-Version sei der rechenintensive Teil auf Apple Metal umgestellt worden. Der Bericht nennt danach sechs Tokens pro Sekunde, 0,1 Sekunden Ladezeit und sechs bis zehn Gigabyte Speicherbedarf. Claude Code habe elf Experimente in zwei Stunden und 24 Minuten durchgeführt, sieben erfolgreiche Konfigurationen behalten und vier verworfen. Der Autor sieht darin einen möglichen Schritt zu privater, offlinefähiger KI ohne laufende API-Kosten. Zugleich sei die Umsetzung noch früh: MoE-Zugriffsmuster bremsen sie, Prefill-Caching fehlt, und die SSD-Bandbreite ist laut Bericht nicht ausgeschöpft. Die Leistungsangaben werden im Text berichtet, aber nicht extern belegt.

Ausführlich lesen

Der Bericht beschreibt einen Versuch, ein Modell mit rund 397 Milliarden Parametern auf einem MacBook lokal auszuführen. Autor Code Coup stellt ihn als Zusammenspiel dreier Bausteine dar: Andrej Karpathys Framework „autoresearch“ zur automatisierten Durchführung und Dokumentation von Experimenten, Apples Vorschlag „LLM in a Flash“, Modellgewichte bei Bedarf von einer SSD zu laden, und Claude Code als Agent, der Code schreibt, Experimente ausführt und Ergebnisse auswertet. Laut Bericht gab Dan Woods Claude Code das Framework und Apples Arbeit als Ausgangspunkt mit der Aufgabe, eine funktionierende Umsetzung zu finden.

Als Modell kam Qwen3.5–397B von Alibaba zum Einsatz. Es nutzt eine Mixture-of-Experts-Architektur: Pro Token werden nur ausgewählte Teilnetze aktiviert. Der Artikel nennt etwa zehn von 512 Experten je Schicht und Token. Weil die benötigten Experten über den Datenträger verteilt liegen und wechselnde Zugriffe erfordern, müssen Gewichte effizient geladen und zwischengespeichert werden. Die beschriebene Umsetzung hält demnach rund fünf Gigabyte anderer Gewichte im Speicher, lädt benötigte Experten von der SSD nach und versucht, künftige Zugriffe vorherzusagen. Pro Token würden etwa 1,8 GB von der SSD gelesen. Nach 20 Tokens habe der Cache laut Artikel eine Trefferquote von 44 Prozent erreicht und weiter zugenommen.

Die erste Ausführung erreichte laut Bericht 0,96 Tokens pro Sekunde. Der Autor führt die Begrenzung zunächst auf Python und dessen Global Interpreter Lock zurück. Für den rechenintensiven Teil sei die Implementierung deshalb auf Apple Metal umgestellt worden. Als Ergebnis nennt der Artikel eine Ladezeit von 0,1 Sekunden, eine Geschwindigkeit von ungefähr sechs Tokens pro Sekunde und einen Speicherverbrauch von sechs bis zehn Gigabyte. Das Modell soll damit lokal und offline ungefähr mit Lesetempo Text erzeugen können.

Der Bericht betont, dass Claude Code wesentliche Teile der Arbeit übernommen habe: Es habe die Forschungsarbeit gelesen, die Modellarchitektur berücksichtigt, elf Experimente über zwei Stunden und 24 Minuten ausgeführt und protokolliert sowie sieben erfolgreiche Konfigurationen behalten und vier verworfen. Der Autor deutet das als Beispiel für einen KI-Agenten, der an Systemforschung mitwirkt, und nicht bloß beim Schreiben von Code hilft. Daraus leitet er mögliche Vorteile lokaler Modelle ab, darunter mehr Datenschutz, keine laufenden API-Kosten, Offline-Nutzung und Unabhängigkeit von Dienstgrenzen oder Ausfällen. Zugleich stellt er die weitergehende These auf, dass der Versuch die Annahme zentraler Rechenzentren für leistungsfähige KI infrage stellen könnte.

Der Artikel schränkt die Aussagekraft des frühen Versuchs ein: MoE-Modelle seien wegen ihrer unvorhersehbaren Zugriffsmuster besonders ungünstig für diese Ladeweise; dichte Modelle könnten auf derselben Hardware bis zu viermal schneller sein. Außerdem fehlten Prefill-Caching für effizientere mehrteilige Gespräche, und die SSD-Bandbreite werde noch nicht vollständig genutzt. Es handle sich ausdrücklich um einen frühen, unfertigen Stand. Die genannten Leistungen und die Rolle des Agenten sind Angaben und Einordnungen des Berichts; unabhängige Messdaten oder eine externe Überprüfung enthält der Text nicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen; beide wurden geprüft und das Urteil bezieht sich auf die mittlere Fassung, die die Zahlen des Berichts vollständiger wiedergibt. Lunas Anteil-Werte und Stufen wurden nicht übernommen, die Einordnung erfolgt unabhängig.

Im Bericht, aber nicht in der Zusammenfassung

  • Cache-Trefferquote von 44 Prozent nach 20 Tokens
  • Python-GIL als Engpass, der zum Wechsel auf Metal führte
  • Hinweis, dass Dense-Modelle auf demselben Aufbau bis zu 4x schneller laufen könnten
  • Fehlende Prefill-Caching-Funktion als Einschränkung für Mehrfachkonversationen (in der mittleren Fassung nur indirekt erwähnt)
  • Dan Woods' Open-Source-Veröffentlichung als Grundlage für Ökosystembildung

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %einzelne zitierbare Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 22 %Hintergrund, keine Belege
    • Luna 44 %beantwortet teilweise oder widerspricht
    • JEV 52 %beantwortet teilweise oder widerspricht
    • amos 29 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 26 %einzelne zitierbare Belege
    • d3-ultra 32 %Hintergrund, keine Belege
    • Haiku-Prüfung einzelne zitierbare Belege

Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 25 %Hintergrund, keine Belege
    • Luna 45 %Hintergrund, keine Belege
    • JEV 60 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 31 %Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 26 %Hintergrund, keine Belege
    • Luna 41 %Hintergrund, keine Belege
    • JEV 31 %einzelne zitierbare Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 39 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 61 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 22 %Hintergrund, keine Belege
    • Luna 46 %Hintergrund, keine Belege
    • JEV 55 %beantwortet teilweise oder widerspricht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 37 %gleiches Oberthema, hilft nicht

    • SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte? Luna: Stufe 1 · 42 % · gleiches Oberthema, hilft nicht · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →