OpenAI Jalapeño: Der erste AI-Chip wirft Nvidia GB300 aus dem P/W-Rennen
OpenAI hat am letzten Tag von Hot Chips 2026 Jalapeño detaillierter vorgestellt. Der Chip ist nicht nur schnell, sondern auch sehr effizient, da er „nur“ 700 Watt verbraucht. In einigen Szenarien liegt er deshalb deutlich vor Nvidias GB300, die hohe Leistung bieten, deren Verbrauch aber auch extrem angestiegen ist.
Wenn ein relativ neues Unternehmen sich erstmals an einen eigenen Chip traut, dann ist es ein interessantes Unterfangen. OpenAI suchte deshalb Hilfe von Broadcom, das sich damit auskennt.
Dennoch ist der Zeitstrahl ist vergleichsweise kurz und das erste A0-Stepping bringt nach nicht einmal zwei Jahren bereits extrem gute Ergebnisse. So etwas kann bei etablierten Firmen durchaus deutlich längere Zeit in Anspruch nehmen.
We used AI to design the chip, and designed the chip so AI could program it
Die Leistung des neuen Chips ist in ausgewählten Tests beeindruckend. Vor allem vor dem Hintergrund, dass von der 700-Watt-TDP im Schnitt nur rund 550 Watt oder weniger genutzt werden und so die Metrik Performance/Watt in echten Tests noch besser wurde.
Der Chip ist unter der Haube eine klassische TPU, wie sie Broadcom und auch Google bereits seit Jahren bauen. Diese zeichnet dabei vor allem eine hohe FP8-/FP4-Leistung aus. Auch tragen die sechs HBM4-Chips mit einer Gesamtkapazität von 216 GByte (6 × 36 GByte) zu einer hohen Bandbreite bei, sodass daraus ein stimmiges Gesamtprodukt wird. Und dank N3P+N3E-Fertigung von TSMC wird das Ganze bei 700 Watt realisiert.
Da die Chips aber ASICs sind, können sie nicht allein arbeiten. Für reguläre Aufgaben sind AMD Epyc aus der Turin-Generation mit dabei, ein CPU-Host-Rack wird dabei mit einem ASIC-Rack kombiniert, sodass daraus ein Komplettpaket entsteht.
Wird Jalapeño auch Nvidia Vera Rubin gefährlich?
Der Nachfolger von Nvidia Blackwell heißt zum Ende dieses Jahres aber bekanntlich Nvidia Rubin. Dieser Chip wird zwar noch einmal schneller, allerdings steigt die TDP auch auf 1.800 bis 2.300 Watt an, mit entsprechenden Folgen für das gesamte Ökosystem drumherum. Die Ergebnisse heute lassen deshalb bereits erkennen, dass Jalapeño insbesondere beim Thema Performance/Watt auch gegen Nvidias neuesten Chip nicht pauschal als Verlierer vom Platz geht, im Gegenteil, mitunter sogar als Gewinner.
Zudem kann man dem Chip noch eine kleine Revision zugestehen, mit einigen Optimierungen in einem B0-Stepping könnte dieser deshalb noch einmal an Leistung zulegen – bis zu 25 Prozent in der Metrik Performance pro Watt, heißt es in Gerüchten.
Vorab-Werte und natürlich ausgesuchte Hersteller-Benchmarks sind das eine. Das Produkt muss am Ende letztlich dem Kunden passen. Da dieser Chip bei OpenAI für den eigenen Bedarf ist und nicht wie bei Nvidia externen Kunden schmackhaft gemacht werden muss, fällt ein großer Punkt weg. Es dürfte dennoch nicht lange dauern, bis Nvidia Ergebnisse zeigt, in denen Vera Rubin deutlich überlegen ist.
TSMC-Fertigung und Stückzahlen unbekannt
Die große Frage am Ende bleibt, wie viele Chips OpenAI via Broadcom und damit via TSMC eigentlich bauen kann. Denn die Front-End-Kapazität ist nicht nur knapp, auch die Back-End-Kapazitäten für CoWoS sind bei TSMC bekanntlich weitgehend ausgebucht. Die ersten Chips sollen bereits ab Ende dieses Jahres im Einsatz sein, größere Mengen dann ab 2027.