DeepInfer ouvre l’inférence de DeepSeek sans livrer toute la machine

DeepSeek a publié DeepInfer, le moteur d’inférence qui sert ses modèles en production, sous licence Apache 2.0. L’outil permet de faire tourner DeepSeek-V4.1-Flash sur une infrastructure propre, avec des optimisations proches de celles utilisées par l’entreprise. Le lancement intervient alors que Washington durcit encore ses restrictions sur la technologie DeepSeek dans les agences civiles américaines. Dans ce contexte, le sujet dépasse largement le cas d’un seul modèle : il touche au coût de déploiement de l’IA et à la bataille autour des briques d’infrastructure.

Une brique d’infrastructure, pas un kit complet

DeepInfer ne livre pas une plateforme de production prête à brancher. DeepSeek précise que la version ouverte couvre l’inférence hors ligne et les fonctions nécessaires pour servir un modèle à grande échelle, mais qu’il manque encore des composants comme la gestion du cache KV, la séparation des étapes d’inférence entre machines et l’équilibrage de charge entre réplicas. Autrement dit, l’entreprise ouvre le moteur, pas le châssis entier.

Cette nuance compte, car l’inférence est souvent la partie la plus chère d’un projet d’IA en production. Le calcul n’est pas seulement une affaire de poids de modèle : la manière dont les requêtes sont distribuées, regroupées et exécutées sur les puces influe directement sur la latence, le débit et la facture énergétique. DeepSeek dit vouloir aider la communauté à « lower compute costs, reduce energy use, and make AI more affordable ». Phrase sobre, objectif massif.

Nvidia et Huawei côte à côte, sans faux suspense

Le détail qui retient l’attention se trouve dans le matériel supporté dès le départ. DeepInfer fonctionne sur les GPU Nvidia SM100, utilisés dans la génération Blackwell pour datacenters, mais aussi sur les NPU Huawei Ascend 950. La présence de Huawei aux côtés de Nvidia n’a rien d’anodin : elle reflète les contraintes d’exportation américaines et le repositionnement technique des acteurs chinois autour du matériel domestique.

DeepSeek avait déjà évoqué, en avril 2025, les difficultés à publier son moteur complet. La société expliquait alors que son système était trop couplé à son infrastructure interne pour être déployé publiquement sans modifications lourdes. Le nouveau relâchement semble contourner ce problème en limitant le périmètre. Reste que certaines fonctions, comme l’inférence déterministe par lots, ne sont disponibles que sur Nvidia, et les performances publiées par DeepSeek reposent sur des GPU SM100, avec quatre unités pour le préremplissage et 64 pour le décodage.

Le coût, vrai nerf de la guerre

Au centre de cette annonce, il y a une pression très concrète : faire baisser le coût d’exécution des modèles. DeepInfer intègre des kernels optimisés, des bibliothèques de communication, du speculative decoding, une planification asynchrone et la prise en charge de sorties structurées. DeepSeek publie aussi deepseek-recipe, une bibliothèque compagnon pour convertir les requêtes API en entrées modèle et transformer les sorties, avec des versions pour Rust et Python.

Le message est clair pour les équipes techniques : la performance ne se joue plus seulement à l’entraînement, mais dans l’atelier d’exécution. C’est là que les services d’IA gagnent, ou perdent, leur viabilité économique. Pour rappel, DeepSeek a aussi lancé récemment des Search et Fetch APIs autour de sa pile interne, ce qui montre une stratégie d’ouverture par couches successives plutôt qu’un grand dévoilement d’un seul bloc.

Washington serre les vis, DeepSeek ouvre le capot

Le calendrier est presque ironique. D’un côté, le gouvernement américain a ordonné aux agences civiles fédérales de retirer la technologie DeepSeek de leurs systèmes sous 60 jours, y compris lorsqu’elle se trouve dans des produits tiers bâtis sur ses modèles. De l’autre, DeepSeek met en libre accès l’une des parties les plus sensibles de sa chaîne de production. La coïncidence n’est pas fortuite, mais elle dit beaucoup du moment actuel : la réglementation ferme des portes, l’open source en ouvre d’autres.

Pour les entreprises privées, l’intérêt est immédiat. DeepInfer peut servir de base pour reproduire une partie des optimisations de DeepSeek et réduire la dépense de calcul, mais il ne remplace pas une plateforme complète. Les organisations devront encore assembler autour de lui leur orchestration, leur supervision et leur couche d’exploitation. Le moteur est là. Le tableau de bord, lui, reste à monter.