Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com21. September 2026 · Q011002

I Ordered a Mac mini M5 Pro as My Local AI Server. The M6 Lost on One Number.

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Autor wählt den M5 Pro mit 64 GB als lokalen Modellserver, weil dessen laut Bericht höhere Speicherbandbreite für sein dichtes, quantisiertes Qwen-Modell beim Token-Erzeugen wichtiger sei als die Vorteile des M6 bei anderen Aufgaben. Seine Geschwindigkeitswerte sind allerdings Hochrechnungen und noch nicht durch Messungen dieser Geräte bestätigt; für ein sparsames MoE-Modell wäre der günstigere M6 seiner Einschätzung nach ausreichend.

Mittel

Der Autor begründet den Kauf eines Mac mini mit M5 Pro und 64 GB Speicher für 2.899 US-Dollar mit seiner Nutzung als ständig verfügbarer lokaler Modellserver. Obwohl er den günstigeren M6 für die meisten Käufer empfiehlt, sei beim Erzeugen von Modellantworten vor allem die Speicherbandbreite entscheidend: Der M5 Pro biete laut Artikel 307 GB/s, der M6 in den 24- und 32-GB-Ausführungen 170 GB/s. Für sein dichtes, auf etwa 17 GB quantisiertes Qwen-27B-Modell leitet er daraus theoretische und anschließend geschätzte Geschwindigkeiten von ungefähr 11–14 Token pro Sekunde beim M5 Pro gegenüber 6–8 beim M6 ab. In längeren Agentenabläufen könne sich dieser Abstand über viele Aufrufe summieren.

Die Geschwindigkeiten sind jedoch Bandbreiten-Hochrechnungen, keine Gerätemessungen: Laut Bericht lagen noch keine unabhängigen llama.cpp- oder MLX-Tests vor. Zudem sei beim M5 Pro mit 24 GB nach Abzug des für die GPU nutzbaren Speichers kaum Platz neben den Modellgewichten; 32 GB seien für ein einzelnes Modell komfortabler. Die 64 GB erlaubten dem Autor, zwei Modelle gleichzeitig vorzuhalten. Seine Einschätzung hängt stark von der 4-Bit-Quantisierung ab; bei einem vorhandenen sparsamen MoE-Modell könnte der M6 dagegen genügen. Der Autor hält es für möglich, dass sich seine teure Entscheidung mit dem Fortschritt solcher Modelle als überdimensioniert erweist.

Ausführlich lesen

Der Autor erklärt, warum er für einen lokalen, rund um die Uhr laufenden KI-Server einen Mac mini mit M5 Pro, 64 GB gemeinsamem Arbeitsspeicher und einem Preis von 2.899 US-Dollar bestellt hat, obwohl er den günstigeren M6 für die meisten Käufer für die bessere Wahl hält. Ausschlaggebend sei für seinen konkreten Einsatz die Speicherbandbreite: Laut den im Bericht verglichenen Angaben erreicht der M5 Pro 307 GB/s, der M6 in den Konfigurationen mit 24 oder 32 GB 170 GB/s. Der M6 sei bei Einzelkernleistung und beworbener Promptverarbeitung überlegen; diese Vorteile beträfen vor allem das Einlesen der Eingabe. Beim anschließenden Erzeugen von Texten müsse das Modell dagegen fortlaufend Gewichte aus dem Speicher lesen. Der Autor folgert daraus, dass die Bandbreite bei seinem überwiegenden Arbeitsanteil wichtiger sei.

Als Beispiel dient ihm das dichte Modell Qwen 3.6–27B in Q4_K_M-Quantisierung. Dessen Gewichte belegten laut Bericht etwa 17 GB und müssten für jedes erzeugte Token gelesen werden. Eine Division der Bandbreite durch diese Datenmenge ergebe theoretische Obergrenzen von ungefähr 10 Token pro Sekunde beim M6 und 18 beim M5 Pro. Weil reale Inferenz diese Grenzen nicht erreiche, schätzt der Autor mit einem angenommenen Wirkungsgrad von 60 bis 80 Prozent etwa 6–8 beziehungsweise 11–14 Token pro Sekunde. Er veranschaulicht, dass sich der Unterschied bei langen Aufgaben mit vielen aufeinanderfolgenden Modellaufrufen summieren könnte.

Diese Zahlen sind ausdrücklich Hochrechnungen aus der Speicherbandbreite, keine Messungen der beiden Rechner. Zum Zeitpunkt des Berichts seien noch keine llama.cpp- oder MLX-Messwerte für die Geräte veröffentlicht gewesen; als unabhängiges M6-Ergebnis nennt der Autor lediglich einen einzelnen Geekbench-CPU-Eintrag. Auch die GPU-Nutzung des gemeinsamen Speichers schränke die praktisch verfügbare Kapazität ein. Die im Artikel herangezogene Faustregel von etwa 75 Prozent würde bei 24 GB ungefähr 18 GB GPU-Arbeitsspeicher lassen – laut Autor wenig Spielraum über die Modellgewichte hinaus. Auf 32 GB reiche der entsprechende Spielraum eher für das Modell. Die genaue Grenze könne je nach Hardware abweichen; der Bericht verweist auf eine Messung von 78 Prozent auf einem anderen Mac und empfiehlt, den Wert am eigenen Gerät abzufragen.

Damit sei das günstigere M6-Modell mit 32 GB für den Autor keine eindeutige Alternative: Es koste 1.299 US-Dollar, während der günstigste M5 Pro für 1.699 US-Dollar nur 24 GB biete. Der für ihn passende M5 Pro mit 64 GB koste hingegen 2.899 US-Dollar. Diese Kapazität solle beide installierten Qwen-Modelle gleichzeitig im Speicher halten; ein 32-GB-Gerät würde laut seiner Einschätzung jeweils einen Modellwechsel samt Ladezeit erfordern. Seine Rechnung hängt dabei wesentlich davon ab, dass er 4-Bit-Quantisierung verwendet. Bei 16-Bit-Präzision benötige ein 27B-Modell laut Artikel etwa 54 GB allein für die Gewichte.

Für ein vorhandenes MoE-Modell mit 35 Milliarden Gesamtparametern, von denen pro Token etwa 3 Milliarden aktiv seien, hält der Autor den M6 dagegen für ausreichend: Die tatsächlich je Token gelesenen Gewichte seien deutlich kleiner, sodass die Bandbreite weniger begrenze. Er räumt ein, dass sich die Modellwahl weiterentwickeln und der teure M5 Pro dadurch künftig überdimensioniert sein könnte. Zusätzlich nennt er Thunderbolt 5 und Apples beworbene Möglichkeit, M5-Pro-Minis für größere Modelle zu verbinden; einen zweiten Rechner plane er derzeit nicht. Sein Schluss lautet daher: Für die meisten Käufer sei der M6 sinnvoll, doch Käufer eines Modellservers sollten Bandbreite und pro Token gelesene Modellgewichte für ihre konkrete Nutzung vergleichen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung gibt den Bericht überwiegend treu wieder; die Mängel sind Auslassungen und eine ungenaue Vergleichsaussage zum M5 Pro. Die drei Sammelfragen zur KI-Sicherheit liegen thematisch weit vom Kaufbericht zu Mac-mini-Hardware entfernt, daher fallen die Einordnungen niedrig aus. Lunas Stufen- und Anteilsangaben wurden unabhängig vom Bericht bewertet und nicht übernommen.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Prefill-Vorteil des M6 (bis 4,8x) und die Unterscheidung zwischen Prefill und Token-Generierung, auf der die Argumentation des Berichts beruht
  • Das Thunderbolt-5-Clustering des M5 Pro als weiterer Kaufgrund
  • Die Einsatzzwecke auf dem Mini (Agenten-Harness, n8n-Workflows mit lokalem Modell)

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, 32 GB seien beim M5 Pro für ein einzelnes Modell komfortabler, steht so nicht im Bericht. Der Bericht nennt den 24-GB-M5-Pro als knapp und bezeichnet den 32-GB-M6 als workable, zieht aber keinen direkten Vergleich zum M5 Pro.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 34 %umfangreiche Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 33 %nur am Rande erwähnt
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Modelle teilen und schützen
Frieden und Sicherheit
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 37 %gleiches Oberthema, hilft nicht
    • JEV 41 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 59 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →