Nvidia compresse ses modèles d’agents pour les faire tourner localement

Nvidia a présenté Nemotron 3.5 Super VL et deux modèles Bolt conçus pour des tâches d’agents, avec un objectif très concret : faire tourner plus d’intelligence sur du matériel local, du laptop aux stations DGX Spark. Le plus marquant est Bolt 74B-A9B 24GB, un modèle de 74 milliards de paramètres compressé pour tenir dans 24 Go de mémoire grâce à une quantification en 2 bits. Cette approche compte, car elle réduit la dépendance au cloud pour le code, la recherche et les usages conversationnels, tout en gardant des performances jugées compétitives par Nvidia. Sans la compression, le modèle ne rentrerait tout simplement pas dans la valise.

Quand le modèle tient dans 24 Go, le local redevient crédible

Nemotron 3.5 Bolt 74B-A9B 24GB est dérivé de Super VL et active 9 milliards de paramètres à la fois sur 74 milliards au total. Nvidia dit l’avoir optimisé pour les systèmes RTX Spark et DGX Spark, avec prise en charge de llama.cpp, Ollama, LM Studio et vLLM. Dans ses tests, Bolt obtient 51,0 sur Terminal-Bench 2.1, contre 44,4 pour Qwen3.6-35B-A3B et 37,2 pour Gemma 4 26B-A4B, tous deux évalués en BF16. L’idée est simple : garder un modèle capable d’outillage et de raisonnement multi-étapes, mais sans transformer le poste de travail en radiateur hors de prix.

Pour atteindre ce format, Nvidia mise sur une architecture hybride qui mélange Mamba-2, attention et couches mixture-of-experts. Le modèle utilise aussi LiLiCorr, une technique de speculative decoding : un petit modèle prépare plusieurs jetons à l’avance, puis le modèle principal valide l’ensemble. Selon Nvidia, cette méthode accélère la génération jusqu’à 2,3 fois sur DGX Spark par rapport à une génération sans spéculation. En pratique, cela vise les tâches où la latence compte autant que la qualité de réponse.

Super VL vise les agents multimodaux, pas seulement les chats de bureau

Nemotron 3.5 Super VL, le modèle phare, monte à 120 milliards de paramètres et ajoute la compréhension d’images et de documents à la logique de raisonnement et d’outillage. Nvidia précise qu’il s’appuie sur 12 milliards de paramètres actifs en inference et sur une fenêtre de contexte allant jusqu’à 1 million de tokens. Le modèle hérite de Nemotron 3 Super, lancé en mars, mais ajoute l’entrée image et vidéo, sans sortie image. Cette évolution le place sur des usages de workflow plus larges : suivi d’instructions, lecture de tableaux, analyse de documents, interaction avec des outils.

Les benchmarks restent contrastés. Nvidia affirme que Super VL dépasse Qwen3.5-122B-A10B sur le raisonnement scientifique et certaines tâches terminales, mais qu’il reste derrière sur SWE-bench Verified et la compréhension documentaire. Sur Terminal-Bench 2.1, Nvidia annonce 66,7 pour Super VL contre 48,7 pour Qwen3.5. En revanche, sur SWE-bench Verified, les scores sont de 71,1 pour Super VL et 71,9 pour Qwen3.5. Le message est donc plus nuancé qu’un simple « plus grand, donc meilleur » : le modèle gagne surtout en efficacité et en vitesse, pas sur tous les tableaux.

Une stratégie de vitesse plus qu’une course au score

Nvidia insiste sur la rapidité d’exécution. L’entreprise annonce un traitement quatre fois plus rapide de 10 000 tâches SWE-bench Pro sur quatre GPU B200, même si son graphique montre une précision plus basse que Qwen3.8-Flash-Next et DeepSeek V4 Flash. Sur CharXiv, benchmark dédié au raisonnement sur graphiques, Super VL atteint 80,8 % selon Nvidia, contre 63 % pour Nano Omni. Avec interprétation de code Python, le score grimpe à 84 %. Ces chiffres servent une même ligne : rendre l’agent utile en production, où la vitesse de réponse et la capacité à enchaîner des actions comptent souvent davantage que le podium d’un benchmark isolé.

Les deux modèles Bolt et Super VL sont disponibles dès maintenant sur Hugging Face sous licence OpenMDW 1.1, qui autorise l’usage commercial et la modification. Le troisième modèle, Bolt E4B 4GB, est annoncé pour plus tard dans le mois et cible les agents conversationnels et physiques sur GeForce RTX, Jetson et Spark. Dans ce contexte, Nvidia ne pousse pas seulement des modèles plus légers ; elle essaie aussi de verrouiller une couche logicielle compatible avec l’exécution locale, là où beaucoup d’équipes cherchent justement à sortir du tout-cloud. Le marché des agents n’en est qu’à ses débuts, mais la bataille se déplace déjà vers la mémoire disponible sur la machine et vers la vitesse d’inférence.