DeepSeek V4.1-Flash réduit fortement la mémoire des agents IA

DeepSeek a présenté V4.1-Flash, un modèle multimodal pensé pour les agents IA qui enchaînent les outils, les requêtes et les contextes interminables. L’enjeu est très concret : réduire le coût du cache KV, ce tampon mémoire qui grossit à mesure que le modèle lit et relit de longs échanges. Selon les documents techniques cités par Marktechpost et THE DECODER, la version Flash descend à 890 octets par token pour le cache global, avec un contexte d’un million de tokens. Ce gain compte, car la mémoire GPU, les SSD et la bande passante finissent vite par payer l’addition.

Une architecture taillée pour lire moins cher que pour répondre

Le cœur du modèle repose sur 552 milliards de paramètres de base, auxquels s’ajoutent 196 milliards de paramètres Engram, avec une activation de 8 milliards de paramètres par token au moment du pré-remplissage, puis 16 milliards en décodage. DeepSeek sépare ainsi le backbone en deux moitiés : un encodeur causal de 20 couches pour l’entrée, puis un décodeur de 20 couches pour la génération. Résultat, le calcul d’entrée est presque divisé par deux, ce qui vise directement les agents qui absorbent sans cesse de nouveaux prompts et appels d’outils.

La mécanique ne s’arrête pas là. V4.1-Flash introduit aussi CSA2, une forme de sparse attention qui partage certaines clés KV, des indexeurs et des indices Top-K entre couches selon trois modes — Full, Reindex et Reuse. Dit autrement, toutes les couches ne recalculent pas tout, ce qui évite de faire travailler le modèle comme un stagiaire qui relit chaque mail quinze fois.

Moins de mémoire, mais pas au prix d’un modèle bricolé

DeepSeek indique que le cache KV principal passe en FP4, avec quantification E2M1 et un facteur d’échelle E4M3 par 16 canaux. Cette compression, associée à la suppression de certaines persistances sur SSD, réduit fortement l’empreinte mémoire par rapport à V4-Flash. Les sources parlent d’un cache global environ quatre fois plus petit que celui de V4-Flash et 437 fois plus compact que DeepSeek-V1 [à vérifier sur le périmètre exact comparé].

Le stockage des états de sliding-window attention change aussi de philosophie : au lieu d’être conservés sur SSD, ils vivent dans un pool distribué prélevé sur 10 % de la DRAM hôte, avec une durée de vie de quelques minutes, tandis que le cache global bénéficie d’une conservation garantie pendant 72 heures. En cas de manque, le système ne rejoue que les 128 derniers tokens du prompt pour reconstruire le SWA, au lieu de relancer des séquences beaucoup plus lourdes.

Des résultats solides sur le code, plus contrastés ailleurs

Selon le rapport technique, V4.1-Flash a été préentraîné sur 45 000 milliards de tokens multimodaux, avec un ratio texte / multimodal de 7:1. Le modèle a ensuite été étendu à un contexte d’un million de tokens après 34 000 milliards de tokens. Sur les tâches de code et d’agents, DeepSeek met en avant des scores élevés : 90,6 sur Terminal-Bench 2.1, 74,2 sur DeepSWE v1.1, ou encore 54,8 sur Automation-Bench dans la configuration maximale citée par Marktechpost.

Mais le tableau reste nuancé. THE DECODER souligne que le modèle reste en retrait sur certaines tâches scientifiques complexes et sur l’analyse d’images exigeante. DeepSeek reconnaît aussi que le réglage du niveau de raisonnement change fortement le compromis : plus la profondeur de “thinking” augmente, plus les résultats montent, mais avec environ 2,5 fois plus de tokens de sortie. Le modèle est distribué sous licence MIT sur Hugging Face et accessible via API, avec plusieurs niveaux de raisonnement annoncés.

Ce que ce lancement dit du marché des agents

V4.1-Flash montre que la bataille des modèles ne se joue plus seulement sur les paramètres ou les benchmarks de style, mais sur la facture d’infrastructure. Pour les équipes qui déploient des agents à grande échelle, quelques centaines d’octets gagnés par token changent la taille des caches, le besoin en mémoire vive et, au bout de la chaîne, le coût d’exploitation. DeepSeek parie clairement sur cette économie-là : moins de calcul en entrée, moins de mémoire persistée, et assez de performance pour rester crédible face aux modèles fermés premium.

La publication arrive aussi après une séquence chargée pour l’entreprise, qui avait déjà amélioré V4-Flash en juillet avec la mise à jour 0731, puis relevé certains tarifs d’API en août, selon THE DECODER. Sur le fond, le message est limpide : les agents IA avancés ne seront pas seulement jugés sur ce qu’ils savent faire, mais sur ce qu’ils coûtent à faire tourner. Une nuance très peu glamour, mais décisive pour les DSI.