Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
mistral18. Juli 2024 · Q001117

Mistral NeMo | Mistral AI

mistral.ai · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Mistral stellt NeMo vor: ein gemeinsam mit NVIDIA entwickeltes 12B-Modell mit bis zu 128.000 Tokens Kontext, offenen Gewichten unter Apache 2.0 und dem neuen Tokenizer Tekken. Die behaupteten Vorteile bei Mehrsprachigkeit, Kompression und Aufgabenleistung werden im Bericht durch erwähnte Grafiken gestützt, deren konkrete Zahlenwerte im bereitgestellten Text fehlen.

Mittel

Mistral AI kündigt Mistral NeMo an, ein gemeinsam mit NVIDIA entwickeltes Modell mit 12 Milliarden Parametern und einem Kontextfenster von bis zu 128.000 Tokens. Mistral zufolge ist es in seiner Größenklasse besonders leistungsfähig und kann dank Standardarchitektur Systeme mit Mistral 7B ersetzen. Basis- und Instruct-Version stehen unter Apache 2.0. Das Training soll FP8-Inferenz ohne Genauigkeitsverlust ermöglichen.

Das Modell wurde laut Anbieter auf Funktionsaufrufe und mehrsprachige Anwendungen ausgelegt und sei besonders stark in elf genannten Sprachen, darunter Deutsch, Chinesisch, Arabisch und Hindi. Der neue Tokenizer Tekken soll gegenüber früheren Mistral-Tokenizern effizienter komprimieren: ungefähr 30 Prozent besser bei bestimmten Sprachen und Quellcode, zwei- bis dreimal besser bei Koreanisch und Arabisch. Gegenüber dem Llama-3-Tokenizer sei er bei rund 85 Prozent der Sprachen effizienter.

Die Instruct-Version soll Anweisungen, Schlussfolgern, mehrteilige Gespräche und Programmierung besser bewältigen als Mistral 7B. Ihre Bewertung nutzte laut Bericht GPT-4o als Beurteiler. Die erwähnten Benchmarkgrafiken sind im Text enthalten, aber ohne auslesbare Zahlenwerte; die Leistungsangaben bleiben daher Anbieterbehauptungen. Gewichte und Bereitstellungen werden unter anderem über Hugging Face, la Plateforme und NVIDIA NIM angeboten.

Ausführlich lesen

Der Bericht ist eine Ankündigung von Mistral AI zur Veröffentlichung von Mistral NeMo, einem gemeinsam mit NVIDIA entwickelten Modell mit 12 Milliarden Parametern. Mistral zufolge verfügt es über ein Kontextfenster von bis zu 128.000 Tokens und erreicht bei Schlussfolgern, Weltwissen und Programmiergenauigkeit Spitzenwerte in seiner Größenklasse. Weil es eine Standardarchitektur verwendet, soll es sich laut Anbieter leicht einsetzen und in Systemen mit Mistral 7B als Ersatz verwenden lassen.

Mistral veröffentlichte vortrainierte Basis- und instruktionsoptimierte Versionen unter der Lizenz Apache 2.0, um die Nutzung durch Forschung und Unternehmen zu erleichtern. Das Training berücksichtigte laut Bericht Quantisierung, sodass eine FP8-Inferenz ohne Genauigkeitsverlust möglich sein soll.

Der Anbieter beschreibt NeMo als für mehrsprachige Anwendungen ausgelegt. Das Modell sei auf Funktionsaufrufe trainiert und besonders stark in Englisch, Französisch, Deutsch, Spanisch, Italienisch, Portugiesisch, Chinesisch, Japanisch, Koreanisch, Arabisch und Hindi. Die angekündigten Vergleiche umfassen die Basisversion gegenüber Gemma 2 9B und Llama 3 8B sowie Ergebnisse auf mehrsprachigen Benchmarks. Die zugehörigen Abbildungen werden im Bericht zwar genannt, ihre Zahlenwerte sind im bereitgestellten Text jedoch nicht enthalten.

Als Neuerung stellt Mistral den Tokenizer Tekken vor. Er basiere auf Tiktoken und sei mit Daten aus mehr als 100 Sprachen trainiert worden. Laut Anbieter komprimiere Tekken natürliche Sprache und Quellcode effizienter als SentencePiece, das in früheren Mistral-Modellen eingesetzt wurde. Für Quellcode sowie Chinesisch, Italienisch, Französisch, Deutsch, Spanisch und Russisch nennt der Bericht eine Effizienzsteigerung von ungefähr 30 Prozent. Bei Koreanisch und Arabisch soll Tekken zwei- beziehungsweise dreimal effizienter sein. Im Vergleich zum Llama-3-Tokenizer habe Tekken bei rund 85 Prozent der Sprachen eine bessere Textkompression erzielt. Auch hierzu enthält der Quelltext keine auslesbaren Messwerte aus der abgebildeten Grafik.

Die instruktionsoptimierte Version durchlief laut Mistral eine weiterentwickelte Feinabstimmung und Ausrichtungsphase. Im Vergleich zu Mistral 7B soll sie präzise Anweisungen besser befolgen, schlussfolgern, mehrteilige Gespräche führen und Code erzeugen. Die zugehörige Genauigkeitsbewertung wurde laut Bildunterschrift mit GPT-4o als Beurteiler anhand offizieller Referenzen vorgenommen; konkrete Resultate sind im Text nicht aufgeführt.

Die Modellgewichte werden für Basis- und Instruct-Version auf Hugging Face angeboten. Der Bericht nennt außerdem mistral-inference zum Ausprobieren, mistral-finetune zur Anpassung, die Bereitstellung auf la Plateforme unter dem Namen „open-mistral-nemo-2407“ und eine NVIDIA-NIM-Inferenzversion. Die Leistungs- und Effizienzangaben sind Aussagen des Anbieters; der bereitgestellte Text erlaubt keine unabhängige Prüfung der grafisch dargestellten Benchmarkwerte.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 3 · 56 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 41 %einzelne zitierbare Belege
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 21 %Hintergrund, keine Belege
    • Luna 53 %einzelne zitierbare Belege
    • JEV 61 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 35 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 61 %einzelne zitierbare Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 42 %einzelne zitierbare Belege
    • JEV 64 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht

Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →