You Can Cut AI Token Costs by 90% Without Using Open-Source Models
Zusammenfassung
Kurz
Der Autor empfiehlt, KI nur für Schritte einzusetzen, die tatsächlich Urteilskraft erfordern; feste Regeln, wiederkehrende Antworten und unnötig umfangreiche Kontexte sollten durch Code, Caching und gezielte Eingaben ersetzt werden. Die 90/9/1-Aufteilung und das Einsparversprechen von 90 Prozent werden im Text nicht durch Messdaten belegt.
Mittel
Der Beitrag führt hohe KI-Kosten darauf zurück, dass Modelle oft auch Aufgaben erledigen, die mit einfachen Regeln und Programmcode lösbar wären. In einem Rechnungsablauf müsse etwa nicht ein Sprachmodell prüfen, ob ein Anhang vorliegt oder ob ein fester Schwellenwert überschritten wurde. Die Zahl der Schritte eines Prozesses sage laut Autor wenig darüber aus, wie viel Urteilskraft tatsächlich nötig ist.
Empfohlen wird, Abläufe in einzelne Aufgaben aufzuteilen: Deterministische Schritte sollen per Code laufen, bekannte Ergebnisse aus einem Cache kommen, einfache Beurteilungen ein kleines Modell übernehmen und komplexe oder mehrdeutige Fälle ein stärkeres Modell oder eine menschliche Prüfung erhalten. Die sogenannte 90/9/1-Regel des Beitrags besagt grob, dass die meisten Aufgaben kein Spitzenmodell benötigen. Zusätzlich solle man den Modellkontext auf die für die jeweilige Entscheidung nötigen Informationen begrenzen, um Tokenverbrauch zu senken und möglicherweise die Genauigkeit zu verbessern.
Der Text stützt seine Empfehlungen auf Beispiele und Faustregeln, nicht auf eine dargestellte Messung. Trotz des Titels belegt er daher nicht, dass sich die Kosten allgemein um 90 Prozent senken lassen.
Ausführlich lesen
Der Beitrag argumentiert, dass hohe Ausgaben für KI nicht immer am Preis des verwendeten Modells liegen. Ein wesentlicher Kostentreiber sei, dass Modelle Aufgaben übernehmen, die sich mit gewöhnlichem, festgelegtem Programmcode erledigen lassen. Der Autor beschreibt, wie Unternehmen KI-Agenten in umfangreiche Abläufe einbauen, obwohl viele Schritte darin lediglich Regeln, Datenzugriffe oder Benachrichtigungen umfassen. Als Beispiel dient die Rechnungsverarbeitung: Das Vorhandensein eines Anhangs zu prüfen oder anhand eines festen Betrags eine Genehmigung anzufordern, seien einfache Bedingungen und benötigten keine Modellentscheidung.
Daraus leitet der Beitrag ab, dass die Zahl der Schritte eines Ablaufs nicht mit dem nötigen Maß an Intelligenz gleichzusetzen sei. Statt einen gesamten Geschäftsprozess einem Agenten zu übertragen, solle man ihn in einzelne Aufgaben zerlegen und für jede fragen, ob sie tatsächlich Urteilskraft erfordert. Im Kundenservice könnten etwa Kundensuche, CRM-Aktualisierung und Versand per Code laufen, während das Verstehen einer Anfrage oder die Auswahl einer Antwort eher KI erfordere.
Als Auswahlregel schlägt der Autor vor: Für deterministische Schritte Code verwenden, bekannte Antworten aus einem Cache abrufen, für einfache Schlussfolgerungen ein kleineres Modell einsetzen und komplexe oder mehrdeutige Aufgaben einem leistungsstärkeren Modell oder einer menschlichen Prüfung überlassen. Als grobe Faustregel nennt der Beitrag eine Verteilung von 90 Prozent Aufgaben, die ohne Spitzenmodelle lösbar seien, 9 Prozent für stärkere Modelle und 1 Prozent für Frontier-Modelle. Diese 90/9/1-Regel wird als wiederkehrendes Muster dargestellt, aber nicht mit Messdaten oder einer konkreten Untersuchung belegt.
Drei Einsparungsansätze stehen im Mittelpunkt: feste Regeln in Code abbilden, jeweils das kleinste ausreichend leistungsfähige Modell wählen und wiederkehrende Ergebnisse oder Informationen zwischenspeichern. Außerdem bezeichnet der Autor übergroße Eingabekontexte als versteckte Kostenquelle. Ein Modell solle nur die für die konkrete Entscheidung nötigen Informationen erhalten, etwa den relevanten Rechnungspositionstext und die passende Richtlinie statt einer vollständigen Kundenhistorie und sämtlicher Dokumente. Weniger Kontext könne nach Darstellung des Beitrags sowohl Kosten senken als auch die Genauigkeit verbessern.
Der Text bietet damit Architekturprinzipien und illustrative Beispiele für eine sparsamere Aufteilung von KI- und Softwareaufgaben. Sein Titel verspricht eine Senkung der Tokenkosten um 90 Prozent, doch der bereitgestellte Text enthält keine Fallstudie, Berechnung oder sonstigen Nachweis, dass diese Einsparung allgemein erreicht wird. Die genannten Anteile und Wirkungen sind daher als Behauptungen beziehungsweise Faustregeln des Autors zu verstehen, nicht als hier belegte Ergebnisse.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Zusammenfassung gibt den Bericht im Kern treu wieder. Die Einordnung stützt sich auf den Bericht, der sich mit Tokenkosten befasst. Fragen zu Ausrichtung, Aufsicht und Sicherheit werden darin kaum berührt, weshalb die Stufen niedrig ausfallen.
Im Bericht, aber nicht in der Zusammenfassung
- Ausgangslage: KI-Nutzung und Tokenkosten sind in Unternehmen stark gestiegen, die Produktivität aber nicht im gleichen Maß
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Unabhängig prüfen
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 45 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 92 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 83 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 47 %einzelne zitierbare Belege
- JEV 69 %beantwortet direkt und ausführlich
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung Hintergrund, keine Belege
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 40 %Hintergrund, keine Belege
- JEV 32 %nur am Rande erwähnt
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 34 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 47 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 31 %Hintergrund, keine Belege
- JEV 30 %nur am Rande erwähnt
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv