Fireworks muscle l’inférence et le contrôle des déploiements d’IA

Fireworks a dévoilé le 3 novembre 2026, lors de sa première conférence Forge, une nouvelle salve de produits d’IA pour les entreprises. Le point d’accroche est Ultra-fast, un mode d’inférence en aperçu public qui, selon la société, atteint jusqu’à 1 500 tokens par seconde sur DeepSeek V4.1 Flash. Derrière la démonstration de vitesse, l’enjeu est plus large : réduire le temps d’attente, baisser la facture et garder la main sur l’infrastructure, trois sujets qui pèsent lourd dans les déploiements d’IA en production.

Quand l’inférence devient un sujet de budget

Ultra-fast vise les agents multi-étapes, ces systèmes qui enchaînent plusieurs appels de modèle avant de livrer une réponse. Fireworks affirme avoir ramené le temps de complétion de son benchmark d’agent sur 30 tours d’une minute à huit secondes. Le service est en aperçu public sur GPU NVIDIA Blackwell. En face, la société réserve d’autres modes à des tâches moins urgentes : Background Mode, destiné aux traitements différables comme la génération de données d’évaluation ou la recherche nocturne, est facturé moitié prix pour les usages éligibles.

La logique tarifaire passe aussi par le cache. Le Prompt Caching multi-jours doit limiter le coût des contextes répétés, un poste qui devient vite significatif dans les agents longue durée. Fireworks cite un benchmark du 14 septembre 2026 sur DeepSeek V4.1 Flash : dans son run DeepSWE, 99,6 % des tokens d’entrée étaient des cache hits, et ces charges représentaient 60 % de la facture. Autrement dit, le texte déjà vu pèse parfois plus que le texte généré. C’est moins glamour qu’un lancement de modèle, mais beaucoup plus utile pour le service financier.

Routage, évaluation et modèles spécialisés : la boîte à outils s’étoffe

La conférence a aussi servi à présenter Nexus, une couche de routage entre modèles ouverts et fermés intégrée à des outils de codage et de coworking déjà utilisés par les équipes. Fireworks y ajoute une sélection personnalisée des modèles, une prise en compte du cache et une vue centralisée des dépenses. Nexus Desktop arrive avec le CLI existant, et le service s’intègre dans Codex, Claude Desktop et OpenCode. Les plans Nexus Pro démarrent à 8 dollars par mois, les offres Teams à 10 dollars par siège et par mois, tandis que les formules Enterprise ajoutent l’authentification unique, la gouvernance, des budgets partagés et des contrôles d’accès.

Autre brique, No Eval, en aperçu privé, s’appuie sur des traces de production et sur des signaux issus des produits pour construire des évaluations ciblées. L’idée est de mesurer des faiblesses concrètes sans passer par des semaines de labellisation manuelle. Fireworks a aussi lancé Specialized Model Inference en aperçu public pour servir des adaptateurs LoRA sur sa flotte partagée, à commencer par GLM 5.3 Flash. Les tarifs documentés pour ce modèle sont de 0,15 dollar par million de tokens d’entrée, 0,03 dollar par million de tokens d’entrée mis en cache et 0,50 dollar par million de tokens de sortie.

Les entreprises veulent du contrôle, pas seulement des promesses

Sur le terrain de l’entreprise, Fireworks insiste sur la gouvernance. Le contrôle des modèles, les budgets et les journaux d’audit exportables sont désormais généralement disponibles. D’autres éléments restent en aperçu, comme la gestion centralisée des comptes, les contrôles régionaux des données et le chiffrement géré par le client. Ce positionnement répond à un besoin simple : faire entrer l’IA générative dans des règles d’exploitation déjà existantes, sans transformer chaque projet en chantier parallèle.

La pièce la plus lourde du lot s’appelle Fireworks Sovereign. Cette offre privée fait tourner le moteur d’inférence de l’éditeur dans le cloud, un neocloud ou un centre de données appartenant au client. L’inférence et l’entraînement restent alors dans l’environnement du client, sous ses politiques de sécurité et de changement. Fireworks dit gérer plus de 25 000 GPU dans des environnements clients. L’entreprise prend en charge la qualification du cluster, le déploiement des modèles, les mises à jour, la supervision, l’optimisation des performances et la réponse aux incidents, tandis que le client garde la main sur l’architecture, les règles, l’ingress, le load balancing, le DNS, les certificats TLS et les routes sortantes autorisées.

Fireworks affirme que Sovereign apporte 20 % à 50 % de débit supplémentaire sur matériel identique et environ 2,3 fois plus de tokens par dollar matériel. Une option d’overflow hybride peut aussi rediriger les charges éligibles vers Fireworks Cloud, dans des régions approuvées par le client, quand le cluster sature, puis revenir sur les GPU du client quand la demande retombe. Au fond, la ligne de partage est claire : d’un côté, des options serveur sans capacité dédiée mais sans garantie de latence pendant l’aperçu ; de l’autre, une pile opérée par Fireworks sur une infrastructure détenue par le client. Les DSI ont rarement un goût spontané pour les choix binaires, mais ils adorent qu’on leur explique les compromis.