Nvidia combine modèle ouvert et routage pour réduire le coût des agents IA

Nvidia a présenté le 11 août 2026 Nemotron 3.5 Lightning, un modèle ouvert de 30 milliards de paramètres, et NeMo Switchyard, une bibliothèque open source qui route chaque étape d’un agent vers le modèle le plus adapté. L’objectif est simple à résumer, moins simple à faire tenir sur une facture : garder de bonnes performances sur des tâches agentiques tout en réduisant le coût d’exécution. Dans un marché où les agents tournent en continu, le sujet compte autant pour les équipes techniques que pour les directions achats.

Le pari : ne plus faire payer le modèle le plus cher à chaque clic

Le problème que Nvidia vise est connu des entreprises qui déploient des agents IA en production. Envoyer chaque requête vers un modèle de pointe fait grimper la note. Construire un routage maison pour envoyer les tâches simples vers des modèles moins coûteux ajoute, lui, une couche d’ingénierie à maintenir à chaque changement de flux. Nemotron 3.5 Lightning et Switchyard sont pensés comme un duo pour traiter les deux bouts du problème.

Nemotron 3.5 Lightning est un modèle de type mixture-of-experts hybride, mêlant Mamba-2, MoE et attention, avec 3 milliards de paramètres actifs sur 30 milliards au total. Nvidia le positionne pour les agents autonomes de longue durée, les sous-agents et l’inférence locale sur matériel personnel. Switchyard, de son côté, choisit à chaque étape quel modèle appeler selon l’état de l’agent, le coût attendu et, dans certains cas, la verbosité anticipée du modèle. Ce dernier point n’est pas anodin : si un modèle parle trop, il coûte plus cher. Les tokens, encore eux.

Ce que Nvidia promet en performance et en coût

Selon Nvidia, Lightning peut produire jusqu’à 4 fois plus vite que des modèles comparables de sa catégorie et exécute des tâches agentiques environ 30 % plus vite que Qwen3.6-35B, à précision équivalente. Dans une configuration combinée avec Switchyard, l’entreprise dit conserver un niveau de finition proche du haut de gamme tout en ramenant le coût des benchmarks à environ un tiers de celui d’Opus 4.8 seul. Ces chiffres proviennent de benchmarks et de mesures internes publiées par Nvidia, [à vérifier] pour les comparaisons directes entre fournisseurs, qui utilisent parfois des protocoles différents.

Sur PinchBench, Nvidia indique que Lightning égale la précision de Qwen3.6-35B avec environ 30 % de rapidité en plus, et qu’il dépasse Gemma 4 26B à un temps d’exécution similaire. Sur SWE-bench Verified, la version NVFP4 affiche 52,80, contre 51,56 pour la version BF16 du même modèle. Sur Terminal-Bench 2.1, elle passe à 23,46. Ce n’est pas la couronne du modèle le plus généraliste, mais un bon dossier pour des tâches où vitesse et coût comptent autant que la note finale.

Un routage qui s’insère dans l’existant, pas qui le remplace

Nvidia ne part pas de zéro. Le routage de modèles existe déjà via OpenRouter, LiteLLM, RouteLLM ou Not Diamond. La différence ici tient au fait que Nvidia fournit à la fois le modèle et la brique de routage, sous licences ouvertes, et dit vouloir s’insérer dans les outils déjà en place. Switchyard est déjà intégré ou pris en charge par des acteurs comme OpenRouter, LiteLLM, Kong, LangChain, Cognition et Nous Research.

Cette approche répond à un basculement plus large du marché. Depuis le printemps 2026, Alibaba, Moonshot, Zhipu et DeepSeek ont multiplié les modèles ouverts compétitifs en Chine, tandis que Meta a ajouté sa propre offre ouverte de 30 milliards de paramètres avec Muse Glimmer. Les poids ouverts ne sont plus un bonus de communication ; ils deviennent une base de concurrence. Nvidia arrive donc dans un marché plus dense, où la bataille se déplace du “qui a le plus gros modèle” vers “qui sait orchestrer le bon modèle au bon moment”.

Sur le plan matériel, Lightning est compatible avec Blackwell, Hopper et Ampere, et peut tourner sur une seule H100 ou un DGX Spark GB10. Le modèle accepte jusqu’à 1 million de tokens de contexte, ce qui le destine à des usages de long agent, de code, de recherche documentaire ou de RAG. Les langues supportées incluent l’anglais, l’espagnol, le français, l’allemand, l’italien et le japonais. Bref, il ne se limite pas à faire joli sur une slide.

Ce que cela change pour les entreprises

Le message de Nvidia est moins celui d’un modèle miracle que d’une méthode. Pour les entreprises, la question n’est plus seulement de choisir un meilleur modèle de base, mais de construire un système capable d’arbitrer en temps réel entre vitesse, coût et précision. Switchyard pousse ce raisonnement plus loin en automatisant ce tri au fil des étapes d’un agent, plutôt qu’au niveau d’une requête figée.

Dans ce contexte, le vrai enjeu devient la maintenance du routage. Un agent qui évolue, des outils qui changent, des coûts qui montent : le besoin est moins spectaculaire qu’un lancement de modèle géant, mais beaucoup plus concret. Et c’est souvent là que se joue la différence entre un prototype sympathique et un système qui tient en production. Avec Lightning et Switchyard, Nvidia tente justement de vendre cette robustesse-là.