Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
mistral4. August 2026 · Q001675

Introducing Shieldstral.

mistral.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Mistral beschreibt Shieldstral als offenen, kompakten Text- und Bildmoderator, der Richtlinien per natürlichsprachlicher Frage zur Laufzeit anwenden und einen kontinuierlichen Sicherheitswert liefern soll. Die behaupteten Leistungswerte werden im Bericht nicht mit konkreten Benchmarkzahlen belegt; als nächste Entwicklungsfelder nennt Mistral Mehrsprachigkeit, lange Dokumente und breitere multimodale Sicherheit.

Mittel

Mistral kündigt Shieldstral an, einen offenen multimodalen Sicherheitsklassifikator mit drei Milliarden Parametern. Das Unternehmen gibt an, das Modell könne offene Guard-Modelle bis zum Siebenfachen seiner Größe bei verschiedenen Aufgaben erreichen oder übertreffen; für multimodale Moderation beansprucht es einen neuen Bestwert. Die Gewichte stehen unter Apache 2.0, und der Betrieb soll auf einer einzelnen NVIDIA-GPU mit 16 GB Speicher möglich sein.

Shieldstral behandelt Moderation als Ja-Nein-Frage: Eine natürlichsprachliche Richtlinie, eine konkrete Frage und der zu prüfende Text oder Bildinhalt bilden die Eingabe. Aus den Ja- und Nein-Wahrscheinlichkeiten entsteht ein kontinuierlicher Sicherheitswert. Laut Mistral lassen sich Richtlinien so zur Laufzeit anpassen, ohne neues Training. Für das Training wurden unterschiedlich beschriftete Datensätze vereinheitlicht, ähnliche Regeln gezielt gegeneinander abgegrenzt und Bilddaten ergänzt und gefiltert. Mehrere feinabgestimmte Modellstände wurden zusammengeführt.

Der Bericht nennt vier getestete Bereiche und sagt, die Testbeispiele seien vom Training getrennt gewesen. Konkrete Benchmarkzahlen oder detaillierte Vergleichsergebnisse fehlen jedoch. Mistral sieht weiteren Entwicklungsbedarf bei Mehrsprachigkeit, langen Dokumenten und breiterer multimodaler Sicherheit.

Ausführlich lesen

Mistral stellt mit Shieldstral einen offenen multimodalen Sicherheitsklassifikator mit drei Milliarden Parametern vor. Laut Mistral erreicht das Modell bei mehreren Sicherheitsaufgaben Leistungen, die mit offenen Modellen bis zum Siebenfachen seiner Größe vergleichbar oder besser seien. Bei der multimodalen Moderation beansprucht das Unternehmen einen neuen Bestwert. Die Gewichte werden unter Apache 2.0 veröffentlicht; laut Bericht kann das Modell auf einer einzelnen NVIDIA-GPU mit 16 GB Speicher laufen.

Der zentrale Ansatz ist, Moderation als Beantwortung einer Ja-Nein-Frage zu formulieren. Eine Anfrage enthält den Bewertungskontext und gegebenenfalls eine Definition unsicherer Inhalte, eine konkrete Frage sowie den zu prüfenden Inhalt. Dieser kann aus einer Eingabe, einer Antwort, einem Austausch aus Eingabe und Antwort oder einem Bild mit optionalem Text bestehen. Das Modell wertet die Wahrscheinlichkeiten für „Ja“ und „Nein“ aus und gibt daraus einen kontinuierlichen Sicherheitswert zurück. Nutzende können damit Inhalte anhand eines Schwellenwerts einstufen oder nach Konfidenz sortieren. Richtlinien werden als natürlichsprachliche Fragen vorgegeben und sollen laut Mistral zur Laufzeit angepasst werden können, ohne das Modell neu zu trainieren.

Mistral beschreibt vier Aufgabenbereiche der Auswertung: Textsicherheit, Erkennung von Verweigerungen, Anpassung an Richtlinien und multimodale Sicherheit. Die getesteten Beispiele seien beim Training zurückgehalten worden. Der Bericht nennt jedoch keine konkreten Benchmarkwerte oder detaillierten Vergleichsergebnisse; die Aussagen zur Leistung bleiben daher in diesem Text allgemeine Angaben des Unternehmens.

Für das Training habe Mistral Sicherheitsdatensätze mit unterschiedlichen Kategorien, Kennzeichnungen und Annotationsregeln in ein gemeinsames Format überführt. Variationen bei Anweisungen und Fragen sollen verhindern, dass das Modell nur bestimmte Formulierungen wiedererkennt. Außerdem sei die Strenge je nach Datenquelle angepasst worden. Um die Unterscheidung ähnlicher Richtlinien zu trainieren, habe das Team gezielt Fälle erzeugt, in denen Inhalte gegen eine von zwei ähnlichen Regeln verstoßen, gegen die andere aber nicht. Das soll die Übertragung auf neue, von Nutzenden formulierte Richtlinien fördern.

Für Bildsicherheit ergänzt das Unternehmen begrenzte Moderationsdaten durch allgemeine Bilddatensätze als Beispiele sicherer Inhalte. Fragen seien variiert und Bild-Frage-Paare mit einem Bild-Sprach-Reranker gefiltert worden, um Fehlkennzeichnungen und Halluzinationen zu reduzieren. Abschließend seien mehrere feinabgestimmte Modellstände mit SLERP zusammengeführt worden. Mistral zufolge bündelt das Ergebnis so Richtlinienkalibrierung, differenzierte Regelunterscheidung und Anweisungsbefolgung.

Der Bericht benennt auch offene Entwicklungsfelder: Mistral will die mehrsprachige Abdeckung, Robustheit bei längeren Dokumenten und die Sicherheit in weiteren multimodalen Szenarien verbessern. Die Leistungsangaben und Grenzen beruhen auf der Selbstdarstellung des Unternehmens; unabhängige Prüfergebnisse oder ausführliche Benchmarkzahlen enthält der vorliegende Text nicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung bezieht sich auf beide von Luna vorgelegten Zusammenfassungen; die kurze Fassung ist die lückenhaftere. Die Einordnungsstufen weichen bei SF-H2, SF-E4 und SF-P3-T07 von Lunas Angaben ab, unabhängig von deren Anteilswerten.

Im Bericht, aber nicht in der Zusammenfassung

  • In der kurzen Fassung fehlen das Trainingsverfahren (vereinheitlichte Datensätze, kontrastive Policy-Paare, Bilddatenfilterung, Verschmelzung von Checkpoints), die Apache-2.0-Lizenz und der Betrieb auf einer 16-GB-GPU.
  • In der mittleren Fassung fehlen nur Nebenpunkte wie die Mitgliedschaft in der Open Secure AI Alliance und die Trainingsplattform Forge.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 47 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 30 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 22 %einzelne zitierbare Belege
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 49 %einzelne zitierbare Belege
    • JEV 30 %umfangreiche Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 51 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 24 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 51 %einzelne zitierbare Belege
    • JEV 30 %umfangreiche Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 41 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 24 %nur am Rande erwähnt
    • Luna 64 %einzelne zitierbare Belege
    • JEV 62 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 33 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 59 %umfangreiche Belege
    • JEV 37 %beantwortet teilweise oder widerspricht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 52 %einzelne zitierbare Belege
    • JEV 68 %einzelne zitierbare Belege
    • amos 21 %Hintergrund, keine Belege
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 34 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →