Sarvam réduit le coût et la taille de son modèle pour les agents en entreprise

Sarvam AI a publié Sarvam-105B-1711, un checkpoint open weight orienté agents d’entreprise, support client et voix. Le modèle tient sur un GPU workstation de 96 Go et vise le déploiement local sans API tierce.

Sarvam AI a publié le 22 novembre 2026 Sarvam-105B-1711, un checkpoint open weight destiné aux agents d’entreprise, au support client et aux usages vocaux à fort volume. Le modèle ne remplace pas une fondation neuve : il reprend la base Mixture-of-Experts de 105 milliards de paramètres de Sarvam-105B, avec 10,3 milliards de paramètres actifs, puis ajoute du post-training pour le tool calling, le suivi d’instructions, les tâches agentiques et les langues indiennes. L’enjeu est concret : exécuter ces flux sur site, avec un coût annoncé plus bas et sans dépendre d’API tierces.

Un modèle affûté pour l’exécution, pas pour le spectacle

La mise à jour de Sarvam se concentre sur la phase de post-training, là où un modèle apprend à mieux suivre des consignes et à utiliser des outils. Deux versions sont mises en avant : des poids BF16 pour poursuivre l’entraînement, et une variante NVFP4 4 bits conçue pour tourner sur un seul GPU de workstation. Dans les faits, Sarvam cherche moins à impressionner qu’à rendre l’inférence plus simple à déployer. L’entreprise présente ainsi son checkpoint comme un outil pour des agents qui doivent répondre, appeler des outils et traiter des documents sans faire tourner une petite centrale électrique dans le coin du serveur.

Sur ses propres tests, Sarvam dit avoir fait passer le score d’IFBench sur le suivi d’instructions de 32,5 à 82,5 entre le checkpoint de février et cette version, tandis que Tau2 pour l’usage d’outils en service client monte de 46,2 à 85,5. La suite Indic, son benchmark interne pour les langues indiennes, progresse de 30,1 à 79,1. À ce stade, ces chiffres restent des résultats maison : les évaluations utilisent vLLM pour les modèles open weight, OpenRouter pour les modèles API, et un protocole où les réponses hors budget ou mal formées comptent pour zéro. La hausse est nette, mais elle demande donc [à vérifier] sur des charges réelles.

Ce que change le format NVFP4 pour l’entreprise

Le format NVFP4 est le cœur du message produit. Sarvam indique que le checkpoint de 65 Go tient sur un GPU NVIDIA RTX PRO 6000 Blackwell de 96 Go et atteint 99 tokens par seconde et par utilisateur avec une invite de 10 000 tokens. Cela permet, selon la société, de déployer un agent Indus Cowork en interne, sans envoyer les documents vers un service externe. Pour les entreprises, le sujet dépasse la seule performance : il touche à la confidentialité, à la latence et au contrôle des coûts. Les équipes qui manipulent des données sensibles regardent d’abord ce triptyque, pas le logo sur la page d’accueil.

Le modèle servi via Sarvam Token Factory est justement cette version NVFP4, tandis que la version BF16 est pensée pour le fine-tuning et un post-training supplémentaire. Le dépôt est annoncé sous licence Apache-2.0, avec un service via vLLM 0.33.0 et, en option, DSpark. Sarvam recommande aussi un mode “thinking” activé par défaut, avec une température de 1,0 dans ce mode et de 0,6 sans lui. Autrement dit, la société pousse un modèle prêt à l’emploi, mais garde la porte ouverte aux adaptations internes.

Des gains d’infrastructure qui servent aussi le prix

Le discours de Sarvam ne repose pas seulement sur le modèle, mais sur la chaîne d’exécution. L’entreprise affirme que sa recette d’entraînement MXFP8 sur 64 GPU NVIDIA B200 a porté le débit de préentraînement de 5 500 à 10 900 tokens par seconde et par GPU, à contexte 8K. Pour le renforcement par apprentissage, l’usage de précision 8 bits et du décodage spéculatif DSpark aurait fait passer une étape de 758 secondes à environ 420 à 440 secondes, sans baisse notable du reward moyen dans ses tests. Le prolongement du préentraînement, sur 330 milliards de tokens avec 512 B200 pendant un peu plus de sept jours, a étendu le contexte à 160K tokens.

Ces choix techniques expliquent le prix affiché. Sarvam annonce un coût blended de 0,15 dollar par million de tokens pour Sarvam-105B-1711, contre 0,44 dollar pour son prédécesseur. Sur ses propres comparaisons, Gemini 3.5 Flash-Lite ressort à 0,85 dollar par million de tokens pour un score moyen de 74,0 sur huit benchmarks d’agents conversationnels, quand Gemma 4 31B affiche 73,0 à 0,54 dollar. Sarvam revendique de son côté 73,9 à 0,15 dollar. Le tableau est séduisant, mais un détail compte : tous les scores viennent des runs de l’éditeur.

Pourquoi ce lancement compte pour les agents d’entreprise

Le mouvement est clair : Sarvam pousse un modèle open weight vers des usages où l’agent doit être hébergé localement, traiter des documents sensibles et rester économique à l’échelle. Cette combinaison intéresse les éditeurs d’outils métiers, les intégrateurs et les grandes organisations qui ne veulent pas dépendre d’une API externe pour chaque requête. La question n’est donc pas seulement celle de la performance brute, mais de la capacité à maintenir ces gains en production, sur des flux réels et des contraintes métier plus rugueuses que celles d’un benchmark.

Dans cette logique, Sarvam-105B-1711 ressemble moins à une démonstration de laboratoire qu’à une pièce de plus dans la compétition autour des modèles d’agents déployables, sobres en calcul et compatibles avec des environnements privés. Reste à voir si les gains mesurés en interne se confirment hors du cadre contrôlé de la société. C’est là que l’histoire devient intéressante, et un peu moins docile.

Points clés

  • 22 novembre 2026 : sortie de Sarvam-105B-1711.
  • 105 milliards de paramètres, dont 10,3 milliards actifs.
  • 65 Go pour la version NVFP4, selon Sarvam.
  • 0,15 dollar par million de tokens, prix blended annoncé.
  • Sarvam cite Gemini 3.5 Flash-Lite et Gemma 4 31B.

En chiffres

  • 5 500 à 10 900 tokens/s/GPU — débit de préentraînement sur 64 NVIDIA B200, selon Sarvam.
  • 330 milliards de tokens — continuation du préentraînement sur 512 B200, selon Sarvam.
  • 160K tokens — contexte étendu après entraînement continu, selon Sarvam.
  • 99 tokens/s — débit annoncé pour un utilisateur sur RTX PRO 6000 Blackwell 96 Go.
  • 69,5% — score Tau2 pass^4 revendiqué par Sarvam sur ses tests.

À lire