OpenAI met son premier puce IA Jalapeño à l’épreuve de Nvidia

OpenAI a dévoilé Jalapeño, son premier chip d’IA conçu en interne, avec un déploiement attendu dans son infrastructure de calcul d’ici la fin de l’année. Le processeur, développé avec Broadcom, cible l’inférence, c’est-à-dire l’exécution des modèles au quotidien, quand ils répondent à une requête ou font tourner un agent. L’enjeu dépasse la fiche technique : il touche la facture énergétique d’OpenAI, sa dépendance à Nvidia et, plus largement, la montée des puces sur mesure chez les géants de l’IA.

Pourquoi OpenAI veut fabriquer ses propres puces

Jalapeño a été présenté par OpenAI comme une puce à “industry-leading speed and efficiency”, avec des premiers résultats de benchmark publiés mardi. L’entreprise dit qu’elle doit permettre des “faster responses, more responsive agents and more reliable access” à mesure que la demande augmente. En pratique, le bénéfice attendu est très prosaïque : moins de watts, moins de refroidissement, moins d’infrastructure électrique à mobiliser. Le genre d’optimisation qui ne fait pas la une très longtemps, mais qui finit par peser lourd sur les coûts.

Selon Alexander Harrowell, analyste principal chez Omdia cité par CNBC, Jalapeño est “an impressive achievement, most of all in terms of efficiency”. Il ajoute qu’à grande échelle, cela économiserait de l’énergie, du refroidissement et des équipements de distribution électrique, tout en améliorant les “unit economics”. OpenAI a aussi indiqué travailler déjà sur les générations deux et trois de la puce, signe qu’il ne s’agit pas d’un essai isolé mais d’un programme au long cours.

Nvidia reste dominante, mais la pression monte

La comparaison avec Nvidia est au cœur du sujet, même si elle mérite une nuance. OpenAI affirme que Jalapeño a battu les systèmes Blackwell de Nvidia sur le rapport performance/watt dans presque tous les scénarios testés. SemiAnalysis, qui dit avoir visité les laboratoires d’OpenAI, a jugé la comparaison “somewhat incomplete and unfair”, car Jalapeño utilise de la mémoire HBM4 plus récente. Le cabinet estime que Rubin, la plateforme suivante de Nvidia, constitue un point de comparaison plus pertinent [à vérifier].

Pour autant, plusieurs analystes interrogés par CNBC y voient un signal de marché clair. Adrien Sanchez, chez Yole Group, estime qu’une puce conçue par un hyperscaler peut désormais “match or beat Nvidia's Blackwell-class GPUs on inference efficiency”. Il souligne toutefois que Nvidia garde “the vast majority” de la capacité de calcul IA et un fort verrouillage logiciel via CUDA. Fion Chiu, analyste chez TrendForce, pense qu’OpenAI pourrait réduire sa dépendance à Nvidia pour les charges d’inférence, mais que les GPU du groupe resteront importants pour l’entraînement de grands modèles et les tâches les plus lourdes.

Le vrai front, c’est l’inférence

Le marché surveille surtout l’inférence, car c’est là que l’usage monte le plus vite. Nvidia a profité de l’explosion des centres de données, avec une demande massive pour ses puces à la fois pour l’entraînement et pour l’inférence. Mais OpenAI n’est pas seul à vouloir internaliser une partie du silicium. Google développe ses TPU, AWS pousse Trainium, Meta a annoncé un accord portant sur 1 gigawatt de puces IA sur mesure avec Broadcom, et Anthropic s’est engagé à dépenser plus de 100 milliards de dollars sur 10 ans en technologies AWS, y compris les futures générations de puces Amazon.

Dans ce contexte, Omdia estime que les ASIC personnalisés comme Jalapeño pourraient dépasser les GPU en volume d’ici 2028, même si le revenu mettra plus de temps à suivre, les GPU restant nettement plus chers. Harrowell voit là “the biggest competitive threat to NVIDIA”, car environ la moitié des dépenses d’investissement dans l’infrastructure IA viennent de fournisseurs cloud à grande échelle qui ont déjà un programme de puces maison, ou pourraient en lancer un. Les startups Cerebras, SambaNova, D-Matrix, Etched et Fractile sont aussi sur le coup.

Une relation client-fournisseur qui se tend

OpenAI a longtemps été un gros acheteur de GPU Nvidia pour entraîner et faire tourner ses modèles. Si Jalapeño passe du stade d’échantillon d’ingénierie à un déploiement large, la relation pourrait changer. Adrien Sanchez rappelle qu’OpenAI a été “one of the largest single consumers of Nvidia GPUs”, et que cette puce “raises the stakes for Nvidia's largest customer relationship specifically”. Nvidia n’a pas commenté, selon CNBC.

Reste un point de calendrier : SemiAnalysis indique que les systèmes Vera Rubin de Nvidia commencent déjà à être livrés, alors qu’OpenAI n’en serait encore qu’aux échantillons d’ingénierie pour Jalapeño. Autrement dit, la bataille ne se joue pas seulement sur le papier ou dans les slides. Elle se joue aussi sur la capacité à produire, à intégrer et à livrer à temps. Et dans ce genre de duel, le silicium parle rarement en slogans.