Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
mistral11. Dezember 2023 · Q001140

Mixtral of experts | Mistral AI

mistral.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Mistral beschreibt Mixtral 8x7B als effizientes, offen gewichtetes Mixture-of-Experts-Modell, das bei den meisten genannten Benchmarks Llama 2 70B und GPT-3.5 erreiche oder übertreffe. Die konkreten Vergleichswerte sind im Text nicht ausformuliert, und ohne passende Moderationsvorgaben folgt das Modell laut Beitrag den erhaltenen Anweisungen.

Mittel

Mistral AI stellt Mixtral 8x7B als offen gewichtetes Modell unter Apache-2.0 vor. Es nutzt eine Mixture-of-Experts-Architektur: Von acht Expertengruppen verarbeitet ein Router je Token zwei. Das Modell hat laut Bericht 46,7 Milliarden Parameter, aktiviert pro Token aber nur 12,9 Milliarden und soll deshalb ähnlich schnell und kostengünstig wie ein Modell dieser Größe arbeiten. Es verarbeitet Kontexte bis 32.000 Tokens, unterstützt fünf europäische Sprachen und zeigt laut Mistral starke Codeleistungen.

In den vom Unternehmen berichteten Benchmarks erreicht oder übertrifft Mixtral meist Llama 2 70B und GPT-3.5. Mixtral Instruct wurde mit überwachter Feinabstimmung und Präferenzoptimierung trainiert und erzielt laut Beitrag 8,30 Punkte auf MT-Bench. Mistral berichtet außerdem von geringerer Verzerrung als Llama 2 im BBQ-Test und positiveren Stimmungswerten im BOLD-Test. Die konkreten Benchmark-Zahlen sind im Text nicht aufgeführt, sondern weitgehend in Abbildungen ausgelagert; die Leistungsurteile stammen vom Hersteller. Zur Moderation merkt der Beitrag an, dass das Modell ohne passende Aufforderungen grundsätzlich den erhaltenen Anweisungen folgt. Für die Bereitstellung nennt Mistral vLLM, Megablocks, SkyPilot und den Beta-Endpunkt „mistral-small“.

Ausführlich lesen

Der Bericht stellt Mixtral 8x7B und Mixtral 8x7B Instruct als neue, offen gewichtete Modelle von Mistral AI vor. Das Basismodell steht laut Beitrag unter der Apache-2.0-Lizenz. Mistral beschreibt Mixtral als sparsches Mixture-of-Experts-Modell: In jeder Schicht wählt ein Router für jedes Token zwei von acht Expertengruppen aus, deren Ausgaben kombiniert werden. So habe das Modell insgesamt 46,7 Milliarden Parameter, nutze aber pro Token nur 12,9 Milliarden. Dadurch soll es laut Mistral bei Kosten und Geschwindigkeit ungefähr einem Modell mit 12,9 Milliarden Parametern entsprechen. Vortrainiert worden sei es mit Daten aus dem offenen Web; Experten und Router seien gleichzeitig trainiert worden.

Mistral zufolge bewältigt Mixtral Kontexte mit bis zu 32.000 Tokens, arbeitet auf Englisch, Französisch, Italienisch, Deutsch und Spanisch und zeigt starke Leistungen bei der Codegenerierung. In den vom Unternehmen herangezogenen Vergleichen erreiche oder übertreffe es Llama 2 70B und GPT-3.5 bei den meisten Standardbenchmarks. Der Beitrag bezeichnet es als besonders starkes offen gewichtetes Modell mit freizügiger Lizenz und günstigem Verhältnis von Kosten zu Leistung. Die konkreten Benchmark-Ergebnisse werden jedoch überwiegend in eingebundenen Abbildungen dargestellt; im vorliegenden Text stehen dazu keine detaillierten Zahlen. Die Vergleiche und Leistungsurteile sind daher als Angaben des Herstellers wiedergegeben.

Für Mixtral 8x7B Instruct nennt der Bericht überwachte Feinabstimmung und Direct Preference Optimization als Verfahren zur Verbesserung der Befolgung von Anweisungen. Das Modell erreiche 8,30 Punkte auf MT-Bench und sei damit laut Mistral das beste Open-Source-Modell in diesem Vergleich, mit einer Leistung ähnlich GPT-3.5. Bei den untersuchten Verzerrungen meldet das Unternehmen im BBQ-Test geringere Verzerrungen als bei Llama 2. Auf BOLD habe Mixtral insgesamt positivere Stimmungen gezeigt, bei ähnlichen Varianzen innerhalb der Dimensionen. Der Beitrag beschreibt diese Messungen als Prüfung des Basismodells, um mögliche Schwächen für spätere Feinabstimmung oder Präferenzmodellierung zu erkennen.

Der Bericht betont zugleich eine Einschränkung bei Moderation: Das Modell könne durch passende Aufforderungen bestimmte Ausgaben unterbinden; auch Präferenzabstimmung könne diesem Zweck dienen. Ohne solche Vorgaben werde es jedoch den jeweils gegebenen Anweisungen folgen. Für den Betrieb nennt Mistral Änderungen am Open-Source-Projekt vLLM, darunter Megablocks-CUDA-Kernels, sowie SkyPilot zur Bereitstellung von vLLM-Endpunkten in der Cloud. Mixtral 8x7B werde außerdem hinter dem Beta-Endpunkt „mistral-small“ eingesetzt. CoreWeave und Scaleway werden für technische Unterstützung beim Training gedankt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist sachlich korrekt und enthält keine erfundenen Angaben, wirkt aber in der mittleren Fassung dicht an Zahlen, lässt jedoch Inferenzgeschwindigkeit und Trainingsdatenherkunft aus; die kurze Fassung ist treu, aber sehr knapp und nennt Lizenz und Kontextlänge nicht.

Im Bericht, aber nicht in der Zusammenfassung

  • Mixtral erreicht laut Bericht 6-fache Inferenzgeschwindigkeit gegenüber Llama 2 70B
  • Mixtral gilt laut Bericht als stärkstes offen gewichtetes Modell mit permissiver Lizenz und als bestes Modell hinsichtlich Kosten-Leistung
  • Mixtral wurde auf Daten aus dem offenen Web vortrainiert, wobei Experten und Router gleichzeitig trainiert wurden
  • Mixtral dient im Beta-Endpunkt mistral-small als Grundlage und ist über die Plattform zugänglich
  • Die Verzerrungs- und Stimmungsmessungen beziehen sich auf das Basismodell, nicht auf die Instruct-Version

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 4 · 45 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 52 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 65 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 31 %gleiches Oberthema, hilft nicht
    • JEV 47 %umfangreiche Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 37 %nur am Rande erwähnt
    • JEV 44 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 22 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 47 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 48 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 23 %Hintergrund, keine Belege
    • Luna 70 %einzelne zitierbare Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 35 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung umfangreiche Belege

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 53 %umfangreiche Belege
    • JEV 42 %beantwortet teilweise oder widerspricht
    • amos 28 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 29 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 52 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 40 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →