Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
medium.com6. August 2026 · Q011230

The First 10 Million Token AI Model You Can Run on a Single GPU Is Here

medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Beitrag berichtet über Pokee-Isaac 28B, das laut Pokee zehn Millionen Tokens Kontext verarbeiten und auf einer einzelnen RTX 4090 laufen soll. Die genannten Benchmark-, Geschwindigkeits- und Hardwarewerte stammen aus Anbieterangaben; der Text liefert keine unabhängige Prüfung oder ausführlichen Testbedingungen.

Mittel

Der Bericht beschreibt Pokee-Isaac 28B als Modell mit einem Kontextfenster von zehn Millionen Tokens, das laut Anbieter auf einer einzelnen RTX 4090 oder ähnlicher Hardware laufen könne. Ein so großes Fenster könnte ganze Codebasen oder umfangreiche Archive in einer Anfrage verfügbar machen und damit RAG-Abläufe vereinfachen, bei denen relevante Textabschnitte zunächst gesucht werden müssen.

Pokee zufolge erreicht das Modell bei zehn Millionen Tokens 93,3 Prozent RULER-Genauigkeit. Der Beitrag nennt außerdem Ergebnisse auf BFCL v4, τ³-bench und dem Sicherheitsbenchmark DTAP. Die berichteten Messwerte zeigen beim Prefill eine höhere Tokenrate und eine etwa dreifache statt zehnfache Zunahme der Zeit bis zum ersten Token zwischen einer und zehn Millionen Tokens; die Dekodiergeschwindigkeit bleibe nahezu gleich. Für Intel Arc Pro B70 meldet Pokee Vorteile gegenüber llama.cpp. Vorgesehen sei das Modell für Agenten und OpenAI-kompatible Anwendungen; genannt werden Cloud-, lokale und Gerätebereitstellung sowie vorläufige API-Preise von 0,15 US-Dollar je Million Eingabe- und 1 US-Dollar je Million Ausgabe-Tokens. Diese Leistungs-, Kompatibilitäts- und Hardwareangaben sind im Text Anbieterbehauptungen; unabhängige Bestätigung und detaillierte Testbedingungen fehlen.

Ausführlich lesen

Der Bericht stellt Pokee-Isaac 28B vor und beschreibt ihn als Modell mit einem Kontextfenster von zehn Millionen Tokens, das laut Pokee auf einer einzelnen RTX 4090 oder vergleichbarer Hardware laufen könne. Der Beitrag ordnet die Ankündigung in den Wettbewerb um immer größere Kontextfenster ein: Solche Fenster sollen mehr Text in einer Anfrage verfügbar machen, doch lange Eingaben können die Verarbeitung verlangsamen. Tokens seien kleine Texteinheiten; zehn Millionen davon könnten laut der groben Einordnung des Beitrags etwa ein ganzes Softwareprojekt samt Dokumentation, Protokollen und E-Mails umfassen.

Als möglichen Nutzen nennt der Text die Analyse vollständiger Codebasen. Übliche RAG-Systeme teilen Inhalte in Abschnitte, speichern sie in einer Vektordatenbank und rufen passende Teile ab. Dabei könne wichtiges Material übersehen werden. Ein sehr großes Kontextfenster könnte diese Abrufschritte teilweise ersetzen, indem das Modell mehr Material direkt erhält. Der Bericht leitet daraus mögliche Anwendungen für umfangreiche technische Projekte, Rechtsarchive, Forschungsdaten und interne Dokumentationen ab.

Die Leistungsangaben stammen laut Beitrag von Pokee. Genannt werden 93,3 Prozent RULER-Genauigkeit bei zehn Millionen Tokens, führende Resultate auf BFCL v4, starke Ergebnisse auf τ³-bench und die niedrigste kombinierte Angriffs-Erfolgsrate unter den getesteten Modellen im DTAP-Sicherheitsbenchmark. Für den Vorlauf zur Antwort (Prefill) nennt der Bericht 42.400 Tokens pro Sekunde bei einer Million Tokens und 137.200 bei zehn Millionen. Die Zeit bis zum ersten Token steige den Angaben zufolge von 23,6 auf 72,9 Sekunden. Die Dekodiergeschwindigkeit werde mit 335 beziehungsweise 337 Tokens pro Sekunde als nahezu konstant dargestellt. Für die Intel Arc Pro B70 vergleicht Pokee sein System mit dem unveränderten llama.cpp und meldet höhere Prefill- und Dekodiergeschwindigkeiten.

Das Modell werde als Grundlage für autonome Agenten mit Funktionsaufrufen, Streaming, Hintergrundausführung und einer OpenAI-kompatiblen API positioniert. Als Bereitstellungsoptionen nennt der Beitrag Rechenzentren, Workstations, professionelle GPUs und bestimmte Edge-Geräte sowie VPC, lokale Infrastruktur und Gerätebetrieb. Der angegebene vorläufige API-Preis beträgt 0,15 US-Dollar je Million Eingabe-Tokens und 1 US-Dollar je Million Ausgabe-Tokens.

Die Aussagen zu Kontextgröße, Hardware-Unterstützung, Benchmarks, Geschwindigkeit und Preis werden im Bericht als Angaben beziehungsweise Behauptungen von Pokee wiedergegeben. Er legt keine unabhängige Prüfung, Testbedingungen im Detail oder Vergleichsmethodik vor. Daher belegen die genannten Zahlen im bereitgestellten Text nicht eigenständig, dass die Leistung in anderen Umgebungen ebenso erreicht wird.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurden nur die drei Sammelfragen, da keine Teilfragen angegeben sind. Die Zusammenfassungen wurden anhand der beiden Fassungen kurz und mittel geprüft; die mittlere ist inhaltlich genauer.

Im Bericht, aber nicht in der Zusammenfassung

  • Kurzfassung: die RULER-Genauigkeit von 93,3 % bei 10 Mio. Tokens und die Prefill- sowie Time-to-First-Token-Werte fehlen
  • Kurzfassung: Preise und der Intel-Arc-Vergleich mit llama.cpp fehlen
  • Beide Fassungen lassen den Vergleich mit gängigen Modellen aus, die laut Bericht etwa zehnmal kleinere Kontextfenster haben

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 53 %einzelne zitierbare Belege
    • JEV 44 %nur am Rande erwähnt
    • amos 34 %nur am Rande erwähnt
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 45 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %Hintergrund, keine Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 45 %einzelne zitierbare Belege
    • JEV 54 %umfangreiche Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 61 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →