New embedding models and API updates
Zusammenfassung
Kurz
OpenAI kündigt neue Einbettungsmodelle mit laut Bericht besseren Benchmarkwerten und niedrigeren Preisen für das kleine Modell an, außerdem Aktualisierungen für GPT‑3.5 Turbo, GPT‑4 Turbo und die Moderations-API. Neue Optionen sollen das Kürzen von Einbettungen, die Steuerung von API-Schlüsselrechten und die Auswertung des Verbrauchs je Schlüssel ermöglichen; die Leistungs- und Produktangaben stammen von OpenAI und werden im Bericht nicht unabhängig überprüft.
Mittel
Der Bericht beschreibt neue OpenAI-Modelle und API-Funktionen. Die Einbettungsmodelle `text-embedding-3-small` und `text-embedding-3-large` sollen laut OpenAI bei den Benchmarks MIRACL und MTEB besser abschneiden als `text-embedding-ada-002`. Das kleine Modell kostet demnach 0,00002 US-Dollar je 1.000 Token; für das große werden 0,00013 US-Dollar genannt. Einbettungen beider Modelle lassen sich über den Parameter `dimensions` kürzen, um Speicher- und Rechenaufwand zu senken, wobei laut Bericht Leistungseinbußen möglich sind. Das ältere Modell bleibt verfügbar.
Angekündigt werden außerdem `gpt-3.5-turbo-0125` mit niedrigeren Tokenpreisen und Verbesserungen bei Ausgabeformaten sowie Kodierungsproblemen, und die GPT‑4-Turbo-Vorschau `gpt-4-0125-preview`, die Aufgaben vollständiger erledigen soll. Ein neuer GPT‑4-Turbo-Alias soll stets auf die neueste Vorschau zeigen. Hinzu kommt das Moderationsmodell `text-moderation-007`. Entwickler können API-Schlüsseln Berechtigungen zuweisen und nach Aktivierung der Nachverfolgung Nutzungsdaten je Schlüssel einsehen. OpenAI erklärt, API-Daten würden standardmäßig nicht zum Modelltraining verwendet. Benchmarkwerte und geplante Änderungen gibt der Bericht als OpenAI-Angaben wieder; eine unabhängige Prüfung oder spätere Bestätigung enthält er nicht.
Ausführlich lesen
Der Bericht kündigt neue OpenAI-Modelle und Änderungen an der API an: zwei Einbettungsmodelle, aktualisierte Vorschauen von GPT‑4 Turbo und GPT‑3.5 Turbo sowie ein neues Moderationsmodell. Außerdem sollen Entwickler mehr Kontrolle über API-Schlüssel und bessere Einblicke in deren Nutzung erhalten. OpenAI erklärt, dass standardmäßig übermittelte API-Daten nicht zum Trainieren oder Verbessern seiner Modelle verwendet würden.
Bei Einbettungen stellt OpenAI das kleinere Modell `text-embedding-3-small` und das größere `text-embedding-3-large` vor. Einbettungen bilden Inhalte wie Sprache oder Code als Zahlenfolgen ab und können etwa für Suche, Abruf und Gruppierung eingesetzt werden. Laut den im Bericht genannten Vergleichen steigt der durchschnittliche MIRACL-Wert für mehrsprachigen Abruf beim kleinen Modell gegenüber `text-embedding-ada-002` von 31,4 auf 44,0 Prozent; der MTEB-Wert für englische Aufgaben steigt von 61,0 auf 62,3 Prozent. OpenAI gibt den Preis des kleinen Modells mit 0,00002 US-Dollar je 1.000 Token an, gegenüber 0,0001 US-Dollar für das Vorgängermodell. `ada-002` soll verfügbar bleiben.
Das große Modell erzeugt Einbettungen mit bis zu 3.072 Dimensionen. OpenAI bezeichnet es als sein leistungsstärkstes Einbettungsmodell und berichtet für MIRACL einen Wert von 54,9 Prozent sowie für MTEB 64,6 Prozent. Der angegebene Preis beträgt 0,00013 US-Dollar je 1.000 Token. Beide neuen Modelle unterstützen laut Bericht das Kürzen von Einbettungen über den API-Parameter `dimensions`. Damit sollen Entwickler Speicher- und Rechenbedarf gegen Leistung abwägen können. Als Beispiel nennt OpenAI eine auf 256 Dimensionen gekürzte Einbettung des großen Modells, die im MTEB-Vergleich weiterhin besser abschneide als eine ungekürzte `ada-002`-Einbettung mit 1.536 Dimensionen. Kürzere Vektoren können dem Bericht zufolge allerdings mit einem Genauigkeitsverlust einhergehen.
Für GPT‑3.5 Turbo kündigt OpenAI das Modell `gpt-3.5-turbo-0125` an. Der Bericht nennt Preisreduktionen von 50 Prozent für Eingaben und 25 Prozent für Ausgaben sowie Verbesserungen bei angeforderten Ausgabeformaten und eine Korrektur eines Problems mit der Textkodierung bei Funktionsaufrufen in anderen Sprachen. Nutzer des nicht festgelegten Alias `gpt-3.5-turbo` sollten laut Ankündigung zwei Wochen nach dem Start automatisch umgestellt werden. Für GPT‑4 Turbo erscheint die Vorschau `gpt-4-0125-preview`, die Aufgaben wie Codegenerierung vollständiger erledigen und Fälle unvollständiger Bearbeitung verringern soll. Ein neuer Alias soll künftig stets auf die neueste GPT‑4-Turbo-Vorschau verweisen. Eine allgemeine Verfügbarkeit von GPT‑4 Turbo mit Bildverarbeitung wird für die kommenden Monate in Aussicht gestellt.
Das Moderationsmodell `text-moderation-007` wird als bislang robustestes Modell bezeichnet; die Aliase `text-moderation-latest` und `text-moderation-stable` werden darauf umgestellt. Für API-Schlüssel sollen sich Berechtigungen festlegen lassen, etwa Lesezugriff oder Zugriff auf bestimmte Endpunkte. Nach Aktivierung der entsprechenden Nachverfolgung sollen Nutzungsübersicht und Export außerdem Kennzahlen pro API-Schlüssel anzeigen. Die berichteten Leistungswerte, Produkteigenschaften und Zeitpläne sind Angaben und Ankündigungen von OpenAI; der Text liefert keine unabhängige Überprüfung der Benchmarks oder späteren Umsetzung.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung. Die kurze Zusammenfassung ist ebenfalls im Wesentlichen treu, lässt aber die Preisangaben aus. Der Bericht ist eine Produktankündigung von OpenAI mit Benchmarkangaben des Herstellers, die er nicht unabhängig prüft; die drei Sammelfragen beantwortet er deshalb nur teilweise.
Im Bericht, aber nicht in der Zusammenfassung
- Der Preis für text-embedding-3-small sinkt laut Bericht um den Faktor 5 gegenüber ada-002 (von 0,0001 auf 0,00002 US-Dollar je 1.000 Token).
- Die GPT-3.5-Turbo-Preissenkungen (Input minus 50 %, Output minus 25 %) fehlen, ebenso die Angabe, es sei die dritte Senkung im vergangenen Jahr.
- Der Alias gpt-3.5-turbo wird zwei Wochen nach dem Start automatisch auf gpt-3.5-turbo-0125 umgestellt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %nur am Rande erwähnt
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %einzelne zitierbare Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 35 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 35 %einzelne zitierbare Belege
- JEV 30 %beantwortet teilweise oder widerspricht
- amos 24 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung einzelne zitierbare Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 39 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 37 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 28 %Hintergrund, keine Belege
- JEV 31 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 31 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 32 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 26 %nur am Rande erwähnt
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 49 %einzelne zitierbare Belege
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Alle Berichte im Archiv