Jalapeño’s first results show industry-leading speed and efficiency in AI inference
Zusammenfassung
Kurz
OpenAI zufolge erzielt der Inferenzchip Jalapeño in Tests mit drei offenen Modellen zugleich höheren Durchsatz pro Watt und geringere Latenz als kommerzielle Vergleichssysteme. Die Angaben stammen aus dem InferenceX-Benchmark und internen Tests; Einsatz und Qualifizierung waren laut Bericht noch in Vorbereitung.
Mittel
OpenAI stellt erste Messergebnisse seines eigens entwickelten Inferenzchips Jalapeño vor und behauptet, er verbinde höheren Durchsatz mit geringerer Latenz und höherer Energieeffizienz. Getestet wurde der Chip mit GPT‑OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T im öffentlichen InferenceX-Benchmark von SemiAnalysis, der den gesamten Ablauf einer Anfrage misst. Gegen kommerzielle Vergleichssysteme habe Jalapeño über die drei Modelle hinweg 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt bei Spitzen-Durchsatz und eine 1,7- bis 3,6-mal niedrigere Ende-zu-Ende-Latenz erreicht. OpenAI führt die Werte auf ein gemeinsam optimiertes System aus Chip, Speicher, Netzwerk und Software zurück. KI habe außerdem Entwicklung und Programmierung beschleunigt; bei ausgewählten GPT‑OSS-Bausteinen seien KI-generierte Implementierungen 1,5- bis 1,8-mal schneller als bestehende Fachleute-Implementierungen gewesen. Das gelte nicht für das Gesamtmodell. OpenAI plant den Einsatz in der eigenen Infrastruktur bis Jahresende. Zum Berichtszeitpunkt liefen noch Qualifizierung, Softwareausbau und weitere Modelltests; die Angaben sind Herstellerergebnisse und keine abgeschlossene Einsatzbilanz.
Ausführlich lesen
OpenAI berichtet über erste Messergebnisse seines eigens entwickelten Inferenzchips Jalapeño. Das Unternehmen behauptet, der Chip könne gleichzeitig mehr KI-Arbeit pro Energieeinheit leisten und Antworten mit geringerer Verzögerung liefern. Damit solle er einen Zielkonflikt zwischen Durchsatz und Latenz verringern, der bei bestehenden Systemen häufig auftrete. Für Nutzerinnen und Nutzer könnten daraus schnellere Antworten, reaktionsfähigere Agenten und eine verlässlichere Versorgung bei steigender Nachfrage folgen. OpenAI stellt die Effizienzgewinne außerdem als möglichen Beitrag dazu dar, leistungsfähige KI günstiger und breiter verfügbar zu machen.
Für die Auswertung nutzte OpenAI den öffentlichen InferenceX-Benchmark von SemiAnalysis, der den gesamten Ablauf einer Anfrage betrachtet. Verglichen wurden Jalapeño und kommerziell erhältliche KI-Systeme über verschiedene Betriebsbereiche hinweg, von hohem Durchsatz bis zu interaktiver Nutzung mit niedriger Latenz. Die Messungen wurden auf vergleichbare Nutzererfahrung bezogen; die Leistungswerte pro Energieeinheit normalisierte OpenAI anhand der veröffentlichten Chip-Leistungsangaben. Jalapeño ist mit 700 Watt angegeben, habe bei den getesteten Aufgaben aber dauerhaft höchstens 550 Watt aufgenommen.
Laut OpenAI wurde Jalapeño mit GPT‑OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T geprüft. Über diese drei Modelle hinweg nennt das Unternehmen das 1,5- bis 1,9-Fache an KI-Arbeit pro Watt bei Spitzen-Durchsatz sowie eine um das 1,7- bis 3,6-Fache niedrigere Ende-zu-Ende-Latenz gegenüber den jeweiligen Vergleichssystemen. Bei stark interaktiven Aufgaben gibt OpenAI einen 2,1- bis 4,1-fachen Leistungsvorteil an. Für Kimi nennt der Bericht ungefähr 1,5-mal mehr Spitzenleistung pro Watt und 3,4-mal geringere Ende-zu-Ende-Latenz. Weitere Tabellen im Anhang weisen je nach Modell und Messpunkt teils deutlich größere Vorteile bei bestimmten Durchsatzvergleichen aus. OpenAI erklärt zudem, interne Tests mit eigenen Frontier-Modellen hätten einen noch größeren Vorsprung gezeigt; konkrete Messwerte dafür nennt der Bericht hier nicht.
Als technische Erklärung beschreibt OpenAI ein gemeinsam geplantes Gesamtsystem aus Chip, Speicher, Netzwerk, Software und Rack. Es soll Datenbewegungen und Kommunikationsverzögerungen reduzieren und Rechenleistung, Speicher und Netzwerke je nach Inferenzphase einsetzen. Das sei für Agenten relevant, deren Aufgaben aus vielen aufeinanderfolgenden Schritten bestehen. KI habe laut Unternehmen auch die Entwicklung beschleunigt: Vom ersten Entwurf bis zum Tape-out seien neun Monate vergangen. Mit Codex und GPT‑Astra habe das Team drei zunächst nicht für den Produktionseinsatz vorgesehene offene Modelle innerhalb von zwei Monaten optimiert. Bei ausgewählten GPT‑OSS-Aufmerksamkeits- und Mixture-of-Experts-Blöcken seien KI-generierte Implementierungen 1,5- bis 1,8-mal schneller gelaufen als vorhandene, von Fachleuten geschriebene Varianten; diese Werte gelten ausdrücklich nur für die ausgewählten Bausteine, nicht für das vollständige Modell.
Jalapeño soll laut OpenAI Ultra-fast-, Fast- und gebündelte Inferenz effizienter machen. Der Einsatz in der eigenen Recheninfrastruktur soll bis Ende des Jahres beginnen; die zweite Generation sei in intensiver Entwicklung, die dritte in Vorbereitung. Zum Berichtszeitpunkt liefen jedoch noch Produktionsqualifizierung, Softwareausbau, Skalierungsvorbereitungen und weitere Modellprüfungen. Die Ergebnisse sind daher als frühe, vom Hersteller berichtete Benchmark- und interne Testergebnisse zu verstehen, nicht als abgeschlossene breite Einsatzbilanz.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Bewertet wurde die mittlere Zusammenfassung; die kurze Fassung ist im Kern treu, lässt aber die Leistungszahlen und die KI-gestützte Entwicklung weg. Der Bericht ist ein Herstellerbericht zu einem Inferenzchip, daher berühren die Sicherheitsfragen ihn nur am Rande, und die Einordnungen sind entsprechend niedrig.
Im Bericht, aber nicht in der Zusammenfassung
- Die Vorteile bei interaktiven Arbeitslasten (2,1- bis 4,1-fache Leistung) fehlen.
- Die Nennleistung von 700 W steht einer gemessenen Dauerleistung von höchstens 550 W gegenüber, was fehlt.
- Der Tapeout in neun Monaten mit KI-Unterstützung fehlt.
- Die Ausrichtung auf Agenten und die Erklärung über Prefill- und Decode-Phasen fehlen.
- Die Roadmap mit Gen 2 in Entwicklung und Gen 3 in Planung sowie der weitere Einsatz von NVIDIA-Beschleunigern fehlt.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 63 %einzelne zitierbare Belege
- JEV 42 %umfangreiche Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten?
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 53 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 20 %Hintergrund, keine Belege
- Luna 72 %einzelne zitierbare Belege
- JEV 37 %umfangreiche Belege
- amos 31 %einzelne zitierbare Belege
- SubQ 35 %gleiches Oberthema, hilft nicht
- drex 34 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist?
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 29 %Hintergrund, keine Belege
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 58 %Hintergrund, keine Belege
- JEV 24 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 80 %Hintergrund, keine Belege
- JEV 41 %gleiches Oberthema, hilft nicht
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht?
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 58 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H5-T03 Welche beobachtbare Reaktion würde zeigen, dass Technologiebeschränkungen ein überprüfbares Sicherheitsabkommen unwahrscheinlicher machen, während sie den Fähigkeitsvorsprung vergrößern, und wie würde sich die Strategie dann ändern?
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 73 %Hintergrund, keine Belege
- JEV 42 %einzelne zitierbare Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv