Nach DeepSeek-Schock: OpenAI schlägt zurück
OpenAI macht beim Thema KI-Chips ernst, zumindest, wenn man der Pressemitteilung glauben will. Mit Jalapeño hat der ChatGPT-Konzern seinen ersten eigenen Inferenz-Chip entwickelt und jetzt erste Leistungsdaten veröffentlicht. Die Ergebnisse sind beachtlich: Jalapeño soll bei wichtigen KI-Modellen deutlich mehr Leistung pro Watt liefern.
Jalapeño soll 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt leisten.
Die Latenz liegt laut OpenAI 1,7- bis 3,6-mal niedriger als bei Vergleichssystemen.
Der Chip soll noch in diesem Jahr in OpenAIs eigener Infrastruktur zum Einsatz kommen.
Der wichtigste Punkt für OpenAI ist die Effizienz. Denn mit steigender Nutzung von ChatGPT und KI-Agenten wächst auch der Bedarf an Rechenleistung. Gleichzeitig werden Strom und Infrastruktur zu immer größeren Kostenfaktoren. Der Jalapeño-Chip soll hier ansetzen. OpenAI testete den Chip auf dem öffentlichen InferenceX-Benchmark von SemiAnalysis. Dabei wurden unter anderem GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T untersucht.
Über alle drei Modelle hinweg kam Jalapeño laut OpenAI auf 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt bei maximalem Durchsatz. Die End-to-End-Latenz fiel gleichzeitig um den Faktor 1,7 bis 3,6 niedriger aus. Besonders interessant ist Kimi K2.5 1T. Bei dem größten der getesteten Modelle erreichte Jalapeño demnach rund 1,5-mal mehr Leistung pro Watt. Die Latenz lag gleichzeitig 3,4-mal niedriger als beim Vergleichssystem.
700 Watt auf dem Papier, 550 Watt im Test
Jalapeño ist laut OpenAI mit einer Leistung von 700 Watt ausgelegt. In den durchgeführten Tests lag die tatsächlich gemessene Dauerleistung allerdings bei maximal 550 Watt.
OpenAI betrachtet dabei nicht allein die Leistung eines einzelnen Chips. Entscheidend sei vielmehr, wie viel nutzbare KI-Arbeit mit einer bestimmten Energiemenge erledigt werden kann. Gerade bei KI-Agenten ist das relevant. Sie müssen zahlreiche einzelne Schritte nacheinander ausführen. Jede Verzögerung kann sich dadurch auf die gesamte Aufgabe auswirken.
Jalapeño soll deshalb sowohl hohe Rechenleistung als auch geringe Latenz ermöglichen. Bei interaktiven Anwendungen erreichte der Chip laut OpenAI eine 2,1- bis 4,1-mal höhere Performance.
OpenAI baut den kompletten Stack
Der Chip ist Teil einer größeren Strategie. OpenAI will nicht nur eigene Modelle und Anwendungen entwickeln, sondern zunehmend auch die darunterliegende Infrastruktur kontrollieren. Jalapeño wurde deshalb zusammen mit Speicher, Netzwerk und Software entwickelt. Ein wichtiger Punkt ist die Verteilung der Modelldaten. OpenAI will unnötige Datenbewegungen reduzieren und beispielsweise den sogenannten KV-Cache möglichst lokal halten.
Nvidia bleibt trotzdem wichtig
Für Nvidia ist die Nachricht zunächst ein Warnsignal. OpenAI gehört zu den wichtigsten Abnehmern von KI-Beschleunigern. Eigene Chips könnten langfristig die Abhängigkeit vom Marktführer reduzieren.
Von einem Abschied von Nvidia kann allerdings keine Rede sein. OpenAI betont ausdrücklich, weiterhin Beschleuniger von Nvidia und anderen Partnern für Training und Inferenz einsetzen zu wollen.
Jalapeño dürfte daher zunächst vor allem eine Ergänzung sein. Gleichzeitig zeigt die Entwicklung, wohin sich die KI-Infrastruktur bewegt: Spezialisierte Chips werden wichtiger, wenn die Kosten für die Bereitstellung von KI-Diensten weiter steigen.