Nemotron 3 : Nvidia démocratise les modèles open-weights pour l’IA d’entreprise

Nvidia lance Nemotron 3, une nouvelle génération de modèles open-weights conçus pour l’IA en entreprise, avec une architecture innovante et une ouverture inédite des données et outils de formation.

Face au besoin croissant d’IA d’entreprise accessible et personnalisable, Nvidia dévoile Nemotron 3, une série de modèles open-weights qui promettent de combler le vide laissé par l’absence de solutions américaines comparables aux géants comme OpenAI. Cette initiative vise à offrir aux entreprises des modèles puissants, transparents et adaptables, tout en évitant les risques liés à l’utilisation d’API fermées.

Quand la transparence devient un levier stratégique

Les modèles open-weights, dont Nvidia est un acteur historique, gagnent en maturité avec Nemotron 3. Disponibles en trois tailles – Nano (30 milliards de paramètres), Super (100 milliards) et Ultra (500 milliards) – ces modèles seront progressivement publiés sur des plateformes comme Hugging Face, accompagnés des données d’entraînement et des environnements de renforcement (NeMo Gym). Cette démarche inédite facilite la personnalisation et le fine-tuning, essentiels pour répondre aux besoins spécifiques des entreprises.

Une architecture hybride pour dompter les longues séquences

Nemotron 3 innove avec une architecture « hybrid latent MoE » combinant Mamba-2 et Transformer. Cette hybridation optimise le traitement des longues séquences, un défi majeur pour les modèles classiques, en réduisant les temps de réponse et en assurant une cohérence contextuelle sur des fenêtres pouvant atteindre un million de tokens, soit environ 3 000 pages doubles espacées. Le modèle active seulement une fraction des paramètres pour chaque token, ce qui améliore la vitesse et l’efficacité mémoire.

Des performances et une flexibilité accrues pour l’entreprise

Le modèle Nano, déjà disponible, offre des performances comparables à gpt-oss-20B ou Qwen3 VL 32B, tout en étant optimisé pour tourner sur des GPU d’entreprise comme le L40S ou RTX Pro 6000 Server Edition. Grâce à la quantification 4 bits, il peut même fonctionner sur des cartes avec 24 Go de mémoire vidéo. Nvidia mise aussi sur la prédiction multi-token, une technique qui accélère l’inférence jusqu’à trois fois, particulièrement utile pour les assistants de code ou les workflows agentiques.

Points clés

  • Nemotron 3 Nano : 30 milliards de paramètres, disponible dès cette semaine.
  • Fenêtre contextuelle d’un million de tokens, soit 3 000 pages doubles espacées.
  • Architecture hybride latent MoE combinant Mamba-2 et Transformer.
  • Disponibilité progressive des modèles Super et Ultra prévue pour le premier semestre 2025.
  • NeMo Gym : environnement de renforcement pour personnalisation des modèles.

En chiffres

  • 30 milliards de paramètres pour Nemotron 3 Nano (Nvidia, 2024).
  • 1 million de tokens dans la fenêtre contextuelle, équivalent à 3 000 pages (Nvidia).
  • 3x gain de vitesse d’inférence grâce à la prédiction multi-token (Nvidia).
  • 24 Go de mémoire vidéo minimum pour faire tourner la version quantifiée 4 bits (Nvidia).
  • 100 et 500 milliards de paramètres pour les versions Super et Ultra attendues en 2025.

À lire