Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai25. September 2023 · Q007854

GPT-4V(ision) system card

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der Auszug beschreibt GPT-4V als Modellfähigkeit zur Analyse von Nutzereingaben in Bildform und kündigt eine Sicherheitsanalyse mit Schwerpunkt auf Bildinputs an. Konkrete Prüfmethoden, Befunde und Grenzen der Schutzmaßnahmen enthält dieser Ausschnitt nicht.

Mittel

Der vorliegende Text ist ein Auszug aus der „GPT-4V(ision) system card“ und umfasst nur ein Abstract sowie Bildunterschriften. Laut Abstract kann GPT-4V von Nutzern bereitgestellte Bilder analysieren. OpenAI ordnet zusätzliche Modalitäten wie Bilder als möglichen wichtigen Entwicklungsbereich ein: Multimodale Sprachmodelle könnten textbasierte Systeme um neue Schnittstellen, Fähigkeiten und Aufgaben erweitern.

Die Systemkarte soll die Sicherheitseigenschaften von GPT-4V untersuchen. Die Arbeit knüpfe an die Sicherheitsarbeit zu GPT-4 an und vertiefe speziell Prüfungen, Vorbereitungen und Gegenmaßnahmen für Bildeingaben. Der Auszug nennt jedoch weder konkrete Prüfmethoden noch Ergebnisse, Risiken oder die Wirksamkeit von Schutzmaßnahmen. Die Bildunterschriften beschreiben eine Systemkarten-Abbildung und drei abstrakte beziehungsweise florale Motive; sie ergänzen die Sicherheitsbefunde nicht. Daher lässt sich aus dem bereitgestellten Ausschnitt nur der Untersuchungsfokus, nicht aber das Ergebnis der Sicherheitsanalyse zusammenfassen.

Ausführlich lesen

Der bereitgestellte Text ist nur ein Auszug aus der „GPT-4V(ision) system card“: Er enthält ein Abstract und Bildunterschriften, aber keine ausführlichen Abschnitte zu Prüfungen, Ergebnissen oder Schutzmaßnahmen. Die Zusammenfassung kann daher nur die Aussagen dieses Auszugs wiedergeben.

Im Abstract beschreibt OpenAI GPT-4V als Fähigkeit, GPT-4 vom Nutzer bereitgestellte Bilder analysieren zu lassen, und als neueste Funktion, die breit verfügbar gemacht werde. Der Bericht ordnet Bild- und andere zusätzliche Eingabemodalitäten als möglichen wichtigen Forschungs- und Entwicklungsbereich der KI ein. Multimodale Sprachmodelle könnten laut Abstract die Wirkung rein textbasierter Systeme erweitern, etwa durch neue Schnittstellen und Fähigkeiten, die zusätzliche Aufgaben und Nutzungserfahrungen ermöglichen.

Als Schwerpunkt der Systemkarte nennt das Abstract die Sicherheitseigenschaften von GPT-4V. Die Sicherheitsarbeit baue auf der Arbeit zu GPT-4 auf; für diesen Bericht würden insbesondere die Prüfungen, Vorbereitungen und Gegenmaßnahmen betrachtet, die speziell auf Bildeingaben ausgerichtet seien. Der Auszug berichtet jedoch nicht, wie diese Prüfungen durchgeführt wurden, welche Resultate sie ergaben oder wie wirksam die genannten Maßnahmen waren. Auch konkrete Risiken oder Einschränkungen des Modells werden hier nicht ausgeführt.

Die vier Bildunterschriften benennen eine Systemkarten-Abbildung sowie drei künstlerische Motive: eine orangefarbene Blume in weichem Fokus, ein abstraktes Muster aus orangefarbenen, gelben und violetten Pinselstrichen sowie violette Blüten vor grünem Hintergrund. Sie liefern keine zusätzlichen Angaben zur Sicherheitsbewertung. Insgesamt kündigt der Auszug eine gezielte Sicherheitsanalyse von Bildinputs an, belegt aber keine detaillierten Befunde oder Schlussfolgerungen dieser Analyse.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 20 %Hintergrund, keine Belege
    • Luna 31 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 63 %gleiches Oberthema, hilft nicht
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 48 %gleiches Oberthema, hilft nicht
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra 73 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 57 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 31 %Hintergrund, keine Belege
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 33 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 28 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %Hintergrund, keine Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 75 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 25 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 36 %einzelne zitierbare Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 71 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →