Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai22. September 2026 · Q006740

Better prompt caching for GPT-6

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

OpenAI zufolge soll verbessertes Prompt-Caching für GPT‑6 gemeinsame Prompt-Präfixe häufiger wiederverwenden und dadurch Antwortzeiten und Kosten senken; für geeignete gecachte Eingaben nennt der Bericht Rabatte von bis zu 90 Prozent. Ein Dashboard, Diagnosewerkzeuge und Empfehlungen zu stabilen Werkzeugdefinitionen, Cache-Grenzen und Vorwärmen sollen die Optimierung erleichtern. Die im Text genannten Einsparungen stammen von Unternehmensvertretern und werden nicht unabhängig belegt.

Mittel

Der Bericht beschreibt ein verbessertes Prompt-Caching für GPT‑6. OpenAI zufolge sollen gemeinsame Prompt-Präfixe innerhalb eines 30-Minuten-Fensters standardmäßig häufiger wiederverwendet werden. Das kann Antworten beschleunigen; für geeignete zwischengespeicherte Eingabetokens nennt OpenAI Rabatte von bis zu 90 Prozent.

Ein neues Dashboard soll Trefferraten und die Zusammensetzung gecachter und ungecachter Eingaben sichtbar machen. Ein Diagnosetool vergleicht Anfragen mit jüngsten Antworten, um mögliche Cache-Fehler etwa durch Änderungen an Werkzeugen oder Eingaben und die Zahl betroffener Tokens zu ermitteln. Weitere Empfehlungen sind explizite Cache-Grenzen, stabile Werkzeugdefinitionen und -reihenfolgen, das Ergänzen neuer Anweisungen am Kontextende sowie das Vorwärmen bekannter Inhalte. Bei GPT‑6 könne der Denkaufwand zwischen Antworten angepasst werden, ohne den Cache zu unterbrechen, wenn die beschriebene `configuration_update`-Methode verwendet wird.

Zitierte Unternehmensvertreter berichten von mehr als 50 Prozent weniger neu zu verarbeitenden Tokens bei Milliarden Anfragen beziehungsweise von 20 Prozent geringeren Kosten. Das sind zugeschriebene Erfahrungswerte; der Artikel nennt keine unabhängige Prüfung oder detaillierte Messmethodik. Die möglichen Rabatte sind keine Garantie für jede Anwendung.

Ausführlich lesen

Der Bericht stellt Verbesserungen beim Prompt-Caching für die GPT‑6-Modelle vor. OpenAI zufolge eignen sich GPT‑6-Modelle für länger laufende Agentenaufgaben, bei denen mehrere API-Anfragen dieselben Anweisungen, Werkzeugdefinitionen und Kontextteile wiederverwenden. Werden solche gemeinsamen Prompt-Präfixe aus dem Cache bedient, kann laut Bericht die Antwortzeit sinken; für zwischengespeicherte Eingabetokens seien Rabatte von bis zu 90 Prozent möglich. Das überarbeitete System soll standardmäßig eine höhere Cache-Trefferrate erreichen und berücksichtigt geeignete gemeinsame Präfixe innerhalb eines Zeitfensters von 30 Minuten.

Als neue Hilfen nennt OpenAI ein Dashboard zur Beobachtung der Cache-Nutzung und ein Diagnosetool für verfehlte Cache-Treffer. Im Dashboard lassen sich laut Beschreibung Trefferraten über die Zeit sowie zwischengespeicherte und nicht zwischengespeicherte Eingabetokens vergleichen. Die Diagnose soll eine Anfrage einer kürzlich erfolgten Antwort gegenüberstellen, mögliche Änderungen etwa an Modell, Werkzeugen, Einstellungen oder Eingabe erkennen und die Zahl der betroffenen Tokens schätzen. Ein Beispiel im Bericht führt einen Cache-Fehler auf geänderte Werkzeuge zurück und beziffert die betroffenen Tokens auf 5.629.

Entwickler können außerdem mit expliziten Cache-Grenzen festlegen, welche Präfixe wiederverwendet werden sollen. Bei GPT‑6 lasse sich der Denkaufwand zwischen Antworten anpassen, ohne den Cache zu unterbrechen, sofern die Änderung als `configuration_update` angehängt und die anfragebezogene Einstellung unverändert gelassen wird. Um Kontext trotz wechselnder Werkzeugnutzung wiederverwendbar zu halten, empfiehlt der Bericht stabile Werkzeugdefinitionen, Schemas und Reihenfolgen. Werkzeuge sollen eher über `allowed_tools` eingeschränkt oder per `tool_choice` deaktiviert werden, statt ihre Definitionen zu entfernen. Neue Anweisungen könnten am Ende des Kontexts ergänzt werden. Durch Vorwärmen des Caches lasse sich bekannter Kontext bereits vor der ersten Nutzeranfrage verarbeiten.

Zwei Unternehmensvertreter berichten von Verbesserungen in ihren eigenen Umgebungen. Ein GitHub-Copilot-Verantwortlicher gibt an, der Anteil neu zu verarbeitender Prompt-Tokens sei über Milliarden Anfragen hinweg gegenüber einer früheren Vergleichsbasis um mehr als 50 Prozent gesunken. Ein anderer zitierter Verantwortlicher schreibt Dashboard und Diagnose eine Steigerung der Cache-Trefferrate um einige Prozentpunkte und eine Kostensenkung um 20 Prozent zu. Diese Angaben sind zugeschriebene Erfahrungsberichte; der Text beschreibt keine unabhängige Prüfung oder nähere Messmethodik. Auch die Rabatte von bis zu 90 Prozent werden als mögliche Obergrenze dargestellt, nicht als garantierte Einsparung für jede Anwendung. Der Bericht empfiehlt, Trefferraten zu beobachten, unerwartete Ausfälle zu untersuchen und die eigene Integration anhand des Leitfadens zu optimieren.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Luna lieferte zwei Zusammenfassungen (kurz und mittel); beide wurden gemeinsam bewertet, da das Schema nur ein Urteil vorsieht. Die mittlere Fassung ist die treuere; die Kurzfassung ist sachlich korrekt, aber knapper. Die Zahlen aus den Unternehmenszitaten (über 50 Prozent, 20 Prozent) sind korrekt als Herstellerangaben gekennzeichnet. Für die Teilfragen gab es keine Einordnung, daher fehlt dieser Teil.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Kontext persistenter Agenten, die über Stunden komplexe Aufgaben bearbeiten, fehlt als Rahmen des Berichts
  • In der Kurzfassung fehlt das 30-Minuten-Fenster für wiederverwendbare gemeinsame Präfixe

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 38 %beantwortet teilweise oder widerspricht
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 40 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 35 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Frieden und Sicherheit
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →