Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com1. September 2026 · Q011205

Top Open-Weight AI Models for Your Hardware

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht empfiehlt offene KI-Modelle passend zu Speicher und Aufgabe: von kleinen Modellen für einfache lokale Aufgaben bis zu großen Modellen für Programmierung und multimodale Anwendungen. Die Speicherangaben sind grobe Richtwerte; Quantisierung, Geräteaufbau und Arbeitslast beeinflussen, was tatsächlich läuft, und ein genanntes Modell war zum Schreibzeitpunkt noch als Vorschau markiert.

Mittel

Der Bericht ordnet offene KI-Modelle nach dem verfügbaren Arbeitsspeicher und empfiehlt, ein Modell passend zur Aufgabe auszuwählen, statt stets das größte zu nutzen. Für etwa 8 GB nennt der Autor LFM2.5–2.6B für einfache Aufgaben wie Klassifikation, Datenextraktion und leichte Werkzeugaufrufe. Bei rund 16 GB führt er Ornith-1.5–9B für Agenten und Programmierwerkzeuge sowie Gemma 4 12B für Chat und multimodale Anwendungen an. Diese Einteilung sei eine grobe Orientierung, da Modellversionen und konkrete Anforderungen variieren.

Für 24 bis 96 GB empfiehlt der Beitrag Qwen3.8–27B für anspruchsvollere lokale Programmierarbeit; Quantisierung senke den Speicherbedarf, gehe aber mit Präzisionsverlust einher. Qwen3.8-Flash-Next wird für 96 bis 196 GB genannt, war laut Bericht zum Schreibzeitpunkt jedoch noch als Vorschau oder bevorstehend markiert. Bei 196 bis 384 GB nennt der Autor GLM-5.3-Flash und verweist auf laut Modellkarte 320 Milliarden Gesamtparameter, von denen 18 Milliarden aktiv seien. Ab 384 GB komme GLM-5.3 infrage, wenn Qualität Vorrang vor Geschwindigkeit habe.

Die Speicherbereiche sind keine festen Grenzen: Quantisierung, mehrere GPUs, Systemspeicher und CPU-Inferenz können die Möglichkeiten verschieben. Der Beitrag bietet Empfehlungen, aber keine garantierten Leistungswerte für konkrete Geräte oder Arbeitslasten.

Ausführlich lesen

Der Bericht schlägt vor, offene KI-Modelle danach auszuwählen, welche Hardware bereits vorhanden ist. Statt ein möglichst großes Modell auf jedes Gerät zu zwingen, solle man den Speicherbedarf und den jeweiligen Zweck berücksichtigen. Die genannten Speicherbereiche sind laut Autor Orientierungspunkte, keine festen Mindestanforderungen.

Für etwa 8 GB RAM oder VRAM empfiehlt der Beitrag LFM2.5–2.6B von Liquid AI. Der Autor beschreibt es als kleines, für effizienten Einsatz auf Geräten konzipiertes Modell. Liquid AI gebe ein Kontextfenster von 131.000 Tokens und eine Nachtrainierung für agentische Aufgaben an. Geeignete Aufgaben seien etwa Klassifikation, strukturierte Datenextraktion, einfache Werkzeugaufrufe, kleine Programmieraufgaben und das Weiterleiten von Anfragen. Das Modell könne als einfacher Helfer innerhalb eines größeren Systems dienen; es solle keine Spitzenmodelle ersetzen. Der Beitrag verweist zudem auf GGUF- und ONNX-Versionen.

Bei ungefähr 16 GB stellt der Autor Ornith-1.5–9B als Option für Agenten und Programmierwerkzeuge vor. Das Modell sei für den Einsatz auf einer einzelnen GPU ausgelegt; quantisierte Fassungen sollen den Betrieb auf kleinerer Hardware erleichtern. Eine OpenAI-kompatible Schnittstelle mit Werkzeugaufrufen könne die Einbindung in bestehende Anwendungen vereinfachen. Für allgemeine Chat- und multimodale Aufgaben nennt der Beitrag außerdem Gemma 4 12B. Die Zuordnung von Ornith zu Agenten und Programmierabläufen und Gemma zu Chat und multimodalen Aufgaben sei jedoch nur eine grobe Orientierung: Modelle, Quantisierungen und konkrete Anforderungen unterschieden sich.

Im Bereich von 24 bis 96 GB empfiehlt der Autor Qwen3.8–27B für anspruchsvollere lokale Programmierarbeit. Quantisierung könne den Speicherbedarf deutlich senken, verringere aber die Präzision. Der Beitrag beschreibt damit einen möglichen Einsatz vom Lesen und Verstehen eines Softwareprojekts bis zum Schreiben und Überarbeiten von Änderungen. Für 96 bis 196 GB führt er Qwen3.8-Flash-Next an. Zum Zeitpunkt des Schreibens sei dieses Modell auf Hugging Face noch als Vorschau oder bevorstehende Veröffentlichung gekennzeichnet gewesen; Verfügbarkeit und endgültige Spezifikationen könnten sich daher ändern.

Für 196 bis 384 GB nennt der Bericht GLM-5.3-Flash. Laut Modellkarte habe es insgesamt 320 Milliarden, davon aber 18 Milliarden aktive Parameter, und kombiniere nach Darstellung des Beitrags spärliche mit linearer Aufmerksamkeit. Es werde als nativ multimodal beschrieben. Bei 384 bis 512 GB komme das vollständige GLM-5.3 infrage, wenn Qualität wichtiger sei als Geschwindigkeit.

Der Autor betont abschließend, dass Quantisierung, Speicherarchitektur, aktive Parameter, KV-Cache und Auslagerung neben der reinen Speichermenge eine Rolle spielen. Modelle könnten mit aggressiver Quantisierung, mehreren GPUs, Systemspeicher oder CPU-Inferenz auch außerhalb der vorgeschlagenen Bereiche nutzbar sein. Die Empfehlungen sind eine hardwareorientierte Auswahlhilfe, keine Messreihe oder Garantie für Leistung und Eignung im jeweiligen Einsatz.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Geprüft wurde die mittlere Zusammenfassung; die kurze Fassung ist ebenfalls treu. Die Zusammenfassung fasst die Speicherbereiche korrekt zusammen, formuliert aber ab 384 GB offen, während der Bericht GLM-5.3 nur für 384–512 GB nennt. Die Anteilswerte in Lunas Einordnung (43 %, 37 %, 29 %) sind im Schema nicht vorgesehen und am Bericht nicht prüfbar, daher nicht bewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Ornith bietet einen OpenAI-kompatiblen Endpunkt mit Tool-Calling, sodass bestehende Agentenarchitekturen ohne große Umbauten angebunden werden können
  • GLM-5.3-Flash wird als nativ multimodal beschrieben und nutzt eine hybride Aufmerksamkeitsarchitektur aus spärlicher und linearer Aufmerksamkeit
  • Der Autor empfiehlt, das günstigste Modell zu wählen, das die Aufgabe zuverlässig erledigt, und nennt dazu ein Code-Beispiel mit Modellauswahl

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 77 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung kein Bezug
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 43 %beantwortet teilweise oder widerspricht
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 27 %nur am Rande erwähnt
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 47 %gleiches Oberthema, hilft nicht
    • JEV 52 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →