DeepSeek V4.1-Flash arrive sur Baseten avec un contexte d’1 million de tokens

Baseten a rendu DeepSeek V4.1-Flash disponible sur ses Model APIs le 11 septembre 2026, quelques jours après l’annonce de DeepSeek datée du 9 septembre. Ce modèle multimodal open weight accepte du texte et des images, génère du texte et se distingue par un contexte d’1 million de tokens, un format qui compte pour les usages d’agents, de code et d’analyse longue. Derrière la fiche produit, l’enjeu est simple : réduire la facture d’inférence sans sacrifier les capacités sur les tâches lourdes.

Un modèle de grande taille, mais taillé pour l’inférence

DeepSeek V4.1-Flash est décrit comme un modèle MoE de 552 milliards de paramètres, avec 8 milliards de paramètres actifs au préremplissage et 16 milliards au décodage. Le MoE, ou mixture of experts, n’active qu’une partie du modèle à chaque token ; cela permet de garder une grosse capacité tout en limitant le coût de calcul à l’exécution. Baseten le présente aussi comme le troisième modèle open weight flash de DeepSeek en 2026, et comme le seul de cette échelle à utiliser ce que DeepSeek appelle une architecture Causal Encoder-Decoder.

Dans la pratique, la promesse est surtout économique. DeepSeek dit avoir retravaillé l’équilibre entre préremplissage et décodage pour les agents, ces systèmes qui produisent beaucoup plus de contexte que de réponses finales. Résultat annoncé : moins de mémoire, moins de stockage, et une utilisation plus efficace sur les charges de travail longues. Ce n’est pas exactement un modèle de poche ; disons plutôt qu’il a appris à rentrer ses valises.

Pourquoi l’architecture change la donne

Selon la model card, V4.1-Flash repose sur un Transformer de 40 couches, découpé entre un encodeur causal de 20 couches et un décodeur de 20 couches. Le cache KV global du décodeur est projeté à partir des états cachés finaux de l’encodeur, plutôt que d’être reconstruit depuis chaque couche de décodage. DeepSeek affirme que cette organisation permet de limiter le coût du préremplissage, alors que Baseten souligne que V4-Flash activait 13 milliards de paramètres à la fois au préremplissage et au décodage.

La fiche technique mentionne aussi Compressed Sparse Attention 2, un mécanisme où chaque couche d’attention adopte un mode statique parmi Full, Reindex ou Reuse. À cela s’ajoute un Hierarchical Sparse Indexer dans le décodeur, censé contenir le coût d’indexation quand le contexte s’allonge. Avec le cache KV FP4, le modèle tombe à 890 octets par token pour le cache global, soit environ un quart de V4-Flash selon la card. DeepSeek ajoute que les besoins en HBM seraient réduits à un quart et ceux en SSD à un huitième par rapport à la génération précédente.

Des gains réels, mais pas une baguette magique

Les chiffres de benchmark vont dans le sens d’un modèle plus solide que ses prédécesseurs. À effort de raisonnement maximal réglé sur 100, V4.1-Flash obtient 90,6 sur Terminal-Bench 2.1, contre 82,7 pour V4-Flash et 87,9 pour V4-Pro. Le modèle affiche aussi 74,2 sur DeepSWE v1.1, contre 54,4 et 62,7, puis 54,8 sur AutomationBench, contre 37,7 et 43,2. Baseten résume l’idée sans trop de détour : V4.1-Flash dépasse V4-Pro avec environ un tiers des paramètres totaux, mais l’AutomationBench à 54,8 montre qu’il échoue encore sur une partie importante des workflows complexes. Mieux vaut donc garder un humain dans la boucle pour les pipelines d’agents.

Sur d’autres tests, la fiche mentionne 90,9 sur GPQA Diamond, un score Codeforces de 3471 et 63,9 sur HLE avec outils. Baseten souligne aussi que V4.1-Flash est le premier modèle non expérimental de DeepSeek à accepter nativement des images. Avant lui, cette capacité restait cantonnée à V4-Flash-Vision-Exp, avec des scores de 78,9 sur Chartography et 49 sur ZeroBench pour le nouveau modèle, contre 64,3 et 35 pour l’expérimental [à vérifier selon le périmètre exact des comparaisons].

Ce que cela change pour les équipes produit

Baseten sert le modèle via son Inference Stack, avec NVIDIA Dynamo et un routage sensible au cache KV. En clair, la requête est envoyée vers la réplique qui possède déjà le préfixe, plutôt que vers n’importe quel nœud libre. Pour des équipes qui déploient des agents ou des assistants de code, le gain porte autant sur la latence que sur la facture. Baseten annonce aussi un support prochain pour son produit Loops, centré sur l’entraînement.

De son côté, DeepSeek a réorganisé son offre API. Les modèles V4-Flash et V4-Flash-Vision-Exp sont retirés de sa plateforme, même si leurs anciens noms d’API pointent temporairement vers V4.1-Flash pour préserver la compatibilité. Les nouveaux tarifs ont pris effet le 10 septembre 2026 à 04:00 UTC, avec des prix hors pointe fixés à 50 % des tarifs de pointe. DeepSeek cite aussi WorkBuddy, dont CodeBuddy, et OpenCode parmi ses partenaires officiels pleinement compatibles avec V4.1-Flash.