Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
mistral27. September 2023 · Q000967

Mistral 7B

mistral.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Mistral stellt sein Modell mit 7,3 Milliarden Parametern als leistungsstark und effizient vor und berichtet, es schneide in eigenen Benchmark-Neuauswertungen oft besser als größere Vergleichsmodelle ab. Der Bericht beschreibt zudem Aufmerksamkeitsverfahren, eine Apache-2.0-Lizenz und eine Chat-Feinabstimmung; die Chat-Version habe laut Mistral keine Moderation, und die Leistungsangaben beruhen auf den Auswertungen des Unternehmens.

Mittel

Der Bericht stellt Mistral 7B vor, ein Sprachmodell mit 7,3 Milliarden Parametern. Das Mistral-Team behauptet, es übertreffe Llama 2 13B in allen eigenen Benchmark-Auswertungen und Llama 1 34B in vielen; bei Code-Aufgaben nähere es sich CodeLlama 7B. Die Vergleiche decken unter anderem Schlussfolgern, Wissen, Leseverständnis, Mathematik und Programmieren ab. Bei Weltwissen liege Mistral 7B nur etwa gleichauf mit Llama 2 13B. Mistral weist darauf hin, dass es die Modelle selbst erneut bewertet habe, bei MBPP eine handgeprüfte Teilmenge verwendete und bei TriviaQA keine Wikipedia-Kontexte einbezog. Da Llama 2 34B nicht veröffentlicht worden sei, enthält der Vergleich stattdessen Llama 34B.

Technisch kombiniert das Modell Grouped-Query Attention und Sliding Window Attention mit einem Fenster von 4.096 Zuständen. Laut Bericht senkt dies Rechen- und Speicherbedarf; bei 16.000 Tokens sei mit Änderungen an FlashAttention und xFormers eine doppelte Geschwindigkeit erreicht worden. Veröffentlicht wurde das Modell unter Apache 2.0. Eine mit öffentlichen Hugging-Face-Datensätzen feinabgestimmte Chat-Version soll bei MT-Bench andere 7B-Modelle übertreffen. Sie verfügt laut Bericht allerdings über keine Moderation. Die Leistungsangaben stammen vom Mistral-Team und sind nicht unabhängig bestätigt.

Ausführlich lesen

Der Bericht stellt Mistral 7B vor, ein Sprachmodell mit 7,3 Milliarden Parametern. Das Mistral-Team bezeichnet es als besonders leistungsfähig für seine Größe und berichtet, es übertreffe Llama 2 13B in allen ausgewerteten Benchmarks sowie Llama 1 34B in vielen. Bei Programmieraufgaben nähere es sich CodeLlama 7B, während es zugleich für englischsprachige Aufgaben geeignet bleibe. Diese Leistungsangaben beruhen auf Vergleichen, die Mistral nach eigener Aussage mit einer einheitlichen Evaluationspipeline erneut durchgeführt hat.

Die Auswertungen umfassen unter anderem Alltagswissen und Schlussfolgern, Weltwissen, Leseverständnis, Mathematik, Programmieren sowie aggregierte Ergebnisse aus MMLU, BBH und AGI Eval. Das Team sagt, Mistral 7B liege bei vielen Messungen deutlich vor Llama 2 13B und sei auf manchen Gebieten mit größeren Modellen vergleichbar. Beim Weltwissen liege es dagegen nur etwa gleichauf mit Llama 2 13B; der Bericht vermutet, die begrenzte Parameterzahl schränke die speicherbare Wissensmenge ein. Die dargestellte Gegenüberstellung verwendet Llama 34B, weil Llama 2 34B laut Bericht nicht veröffentlicht wurde. Mistrals Benchmark-Vergleiche weichen außerdem in zwei Punkten von der LLaMA-2-Veröffentlichung ab: Für MBPP wurde eine handgeprüfte Teilmenge verwendet, und bei TriviaQA wurden keine Wikipedia-Kontexte bereitgestellt.

Technisch nutzt Mistral 7B Grouped-Query Attention für schnellere Inferenz und Sliding Window Attention (SWA), bei der jede Schicht auf die vorherigen 4.096 verborgenen Zustände zugreift. Das Team beschreibt die Rechenkosten dadurch als linear zur Sequenzlänge. Änderungen an FlashAttention und xFormers hätten bei einer Sequenzlänge von 16.000 und einem Fenster von 4.000 eine Verdopplung der Geschwindigkeit ermöglicht. Durch die gestapelten Transformer-Schichten könne Information dennoch über das unmittelbare Fenster hinaus zurückreichen. Ein rotierender Cache begrenze den Inferenzspeicherbedarf; für eine Sequenzlänge von 8.192 spare dies laut Bericht die Hälfte des Cache-Speichers, ohne die Modellqualität zu beeinträchtigen.

Mistral 7B wurde unter Apache 2.0 veröffentlicht und soll damit frei nutzbar sein. Der Bericht nennt lokale Nutzung, Bereitstellung auf AWS, GCP oder Azure sowie Hugging Face als Wege zum Zugriff. Außerdem beschreibt er eine Chat-Version, Mistral 7B Instruct, die mit öffentlich verfügbaren Anweisungsdatensätzen von Hugging Face feinabgestimmt worden sei. Mistral zufolge übertreffe sie bei MT-Bench andere 7B-Modelle und sei mit Chat-Modellen der 13B-Klasse vergleichbar. Der Bericht schränkt jedoch ausdrücklich ein, dass diese Instruct-Version über keinen Moderationsmechanismus verfügt. Die Leistungs- und Geschwindigkeitswerte sind somit als Angaben des veröffentlichenden Teams zu verstehen; der Text beschreibt Vergleiche und deren Bedingungen, liefert aber keine unabhängige Bestätigung.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die mittlere Zusammenfassung. Die kurze Fassung enthält keine erfundenen Angaben, lässt aber Benchmark-Details, den Effizienzvergleich und die Cache-Einsparung aus. Die Prozentangaben in Lunas Einordnung wurden nicht geprüft.

Im Bericht, aber nicht in der Zusammenfassung

  • Mistral beschreibt das Modell als leistungsstärkstes seiner Größe.
  • Bei MMLU entspricht Mistral 7B einem Llama 2 mit mehr als dreifacher Größe, was Speicher und Durchsatz spart.
  • Der Rolling-Buffer-Cache halbiert den Cache-Speicher bei 8192 Tokens, ohne die Modellqualität zu beeinträchtigen.
  • Das Modell ist über Download, Cloud-Deployment mit vLLM und SkyPilot sowie HuggingFace verfügbar.
  • Die Chat-Version wurde nur mit öffentlich verfügbaren Datensätzen ohne proprietäre Daten feinabgestimmt.

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, die Leistungsangaben seien nicht unabhängig bestätigt, steht so nicht im Bericht. Er sagt nur, Mistral habe alle Modelle selbst neu ausgewertet.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 24 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 44 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 4 · 24 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 58 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 20 %Hintergrund, keine Belege
    • Luna 61 %einzelne zitierbare Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 39 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 56 %einzelne zitierbare Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht
  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 60 %einzelne zitierbare Belege
    • JEV 61 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →