OpenAI and Broadcom unveil LLM-optimized inference chip
Zusammenfassung
Kurz
OpenAI und Broadcom stellen Jalapeño vor, einen speziell für LLM-Inferenz entwickelten Beschleuniger, dessen Entwurf laut Bericht in neun Monaten bis zum Tape-out gelang. OpenAI meldet vielversprechende frühe Tests, misst die endgültige Leistung aber noch; der geplante Einsatz in großem Maßstab soll Ende 2026 beginnen.
Mittel
Der Bericht kündigt Jalapeño an, einen von OpenAI und Broadcom entwickelten Chip zur Ausführung großer Sprachmodelle. Er ist laut OpenAI von Grund auf für heutige und künftige LLMs ausgelegt. Die Architektur soll Datenbewegungen verringern und Rechenleistung, Speicher und Netzwerk so abstimmen, dass die tatsächliche Auslastung näher an die theoretische Höchstleistung heranreicht. Broadcom und Celestica wirkten nach Angaben des Berichts an Chipumsetzung, Netzwerken und Systemintegration mit.
Vom Entwurf bis zum Tape-out seien neun Monate vergangen; OpenAI führt die kurze Entwicklungszeit auch auf die Zusammenarbeit der Hardware- und Softwareteams und den Einsatz eigener Modelle zurück. Entwicklungsmuster liefen demnach bereits mit Zielfrequenz und -leistung im Labor. Die endgültige Leistung werde jedoch noch gemessen. Erste Tests ließen laut OpenAI eine deutlich bessere Leistung pro Watt als bei heutigen Spitzenlösungen erwarten. Vergleichswerte fehlen; ein ausführlicher technischer Bericht sei für die kommenden Monate angekündigt.
Der Einsatz in großmaßstäblichen Rechenzentren soll laut Planung Ende 2026 beginnen und über weitere Chipgenerationen wachsen. Schnellere, zuverlässigere und günstigere KI-Angebote sind erklärte Ziele, aber noch keine belegten Nutzerergebnisse.
Ausführlich lesen
Der Bericht stellt Jalapeño vor, einen von OpenAI und Broadcom entwickelten Beschleuniger für die Inferenz großer Sprachmodelle (LLMs). OpenAI beschreibt ihn als ersten Chip einer gemeinsam geplanten, mehrjährigen Rechenplattform. Das Unternehmen ordnet das Projekt seiner Strategie zu, neben Modellen und Produkten auch mehr der zugrunde liegenden Infrastruktur selbst zu entwickeln. Broadcom und Celestica hätten bei der Umsetzung in Silizium sowie bei Platinen, Racks, Netzwerken und skalierbaren Produktionssystemen mitgewirkt.
Laut Bericht wurde Jalapeño von Grund auf für heutige und künftige LLMs entworfen. Die Architektur orientiere sich an OpenAIs Modellfahrplan, Rechenkernen, Speicherbewegungen, Netzwerken und Serving-Systemen. Sie solle zugleich flexibel für LLMs anderer Anbieter sein. Ziel sei, hohe Leistung und Durchsatz mit einer Latenz zu verbinden, wie sie sonst spezialisierte Inferenzsysteme anstreben. OpenAI erklärt, die Architektur verringere Datenbewegungen und stimme Rechen-, Speicher- und Netzwerkressourcen aufeinander ab, um die tatsächlich erreichte Auslastung näher an die theoretische Spitzenleistung zu bringen.
Als Entwicklungsansatz hebt der Bericht die enge gemeinsame Arbeit von Software- und Hardwareteams hervor. Vom ersten Entwurf bis zum sogenannten Tape-out, dem Abschluss des Chipentwurfs für die Fertigung, seien neun Monate vergangen. OpenAI bezeichnet dies als möglicherweise schnellsten Entwicklungszyklus für einen Hochleistungs-ASIC dieser Art; diese Einordnung ist eine Behauptung des Unternehmens. OpenAIs eigene Modelle hätten Teile des Entwurfs und der Optimierung beschleunigt. Technische Muster des Chips liefen laut Bericht bereits als Entwicklungsmuster im Labor bei der angestrebten Zielfrequenz und Leistungsaufnahme, darunter für GPT-5.3-Codex-Spark.
Bei den Ergebnissen bleibt der Bericht vorläufig: OpenAI messe die endgültige Leistung noch. Erste Tests deuteten laut Unternehmen auf eine deutlich bessere Leistung pro Watt als bei derzeit führenden Lösungen hin. Ein ausführlicher technischer Leistungsbericht werde erst in den kommenden Monaten erwartet. Unabhängige Messwerte oder Vergleichsdaten nennt der Text nicht.
Die Unternehmen planen laut Ankündigung den Beginn des Einsatzes in Rechenzentren bis Ende 2026 und eine Ausweitung über mehrere Chipgenerationen. Hock Tan von Broadcom spricht von Rechenzentren im Gigawattmaßstab mit Microsoft und weiteren Partnern ab 2026. Der Bericht nennt damit eine angekündigte Planung, aber keine bereits erfolgte Bereitstellung in diesem Maßstab.
OpenAI begründet das Vorhaben mit erwarteten Verbesserungen bei Geschwindigkeit, Zuverlässigkeit und Kosten von KI-Diensten. Eine höhere Infrastruktureffizienz könne sich demnach etwa in schnelleren ChatGPT-Antworten, längeren Codex-Aufgaben und günstigeren API-Angeboten niederschlagen. Das sind erwartete Vorteile und Ziele, keine im Bericht nachgewiesenen Auswirkungen für Nutzer. Als Grenzen der Aussagen bleiben insbesondere die noch laufenden Leistungsmessungen, der angekündigte spätere technische Bericht und der künftige, erst geplante Großausbau.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Zusammenfassung ist in beiden Fassungen sachlich korrekt und enthält keine erfundenen Angaben; die mittlere Fassung ist vollständiger. Die Stufen 4 und 3 mit Anteilen von 73, 60, 43, 40, 35 und 30 Prozent sind durch den Bericht nicht gedeckt, weil er keine dieser Sammelfragen behandelt; die Anteile lassen sich aus dem Bericht nicht ableiten.
Im Bericht, aber nicht in der Zusammenfassung
- Die Partnerschaft nennt Microsoft als Partner für die Gigawatt-Rechenzentren, das fehlt in Lunas Zusammenfassung.
- Die Einordnung als Teil einer Vollstack-Strategie von OpenAI (Modelle, Produkte, Chips) wird nicht wiedergegeben.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen?
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 52 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 73 %einzelne zitierbare Belege
- JEV 51 %beantwortet teilweise oder widerspricht
- amos 24 %einzelne zitierbare Belege
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 31 %nur am Rande erwähnt
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht?
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 83 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %gleiches Oberthema, hilft nicht
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 43 %einzelne zitierbare Belege
- JEV 28 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht?
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 60 %einzelne zitierbare Belege
- JEV 63 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- Haiku-Prüfung nur am Rande erwähnt
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E4-T02 Welche konkreten Mechanismen (bezahlbarer Zugang zu Modellen, Rechenleistung im öffentlichen Interesse, Technologietransfer) sollen Sicherheitsregeln begleiten, damit sie Monopole nicht vertiefen und Länder mit wenig Mitteln nicht abhängig zurücklassen?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 35 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra
Weitere Berichte zu diesen Fragen
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv