Flint veut accélérer le codage local sur ordinateur

Recursive a présenté Flint, un modèle de codage local conçu pour faire tourner des agents sur matériel IA embarqué, sans dépendre d’une API distante. Ce modèle mixture-of-experts totalise 40 milliards de paramètres, mais n’en active qu’environ 2,5 milliards par jeton, ce qui réduit la charge de calcul à l’inférence. L’entreprise dit l’avoir construit en moins de quatre mois avec une petite équipe de humains et d’agents, aidée par son système de recherche automatisée Eureka Machine. Le sujet compte pour les développeurs qui veulent garder les données sur leur machine, limiter les coûts et travailler même hors ligne.

Un modèle local pensé pour les développeurs pressés

Flint cible surtout le codage agentique, c’est-à-dire des assistants capables de planifier et d’exécuter plusieurs étapes de travail sur du code. Recursive le positionne comme un modèle rapide pour un usage local, avec des performances annoncées de plus de 125 jetons par seconde sur un MacBook Pro M4 Pro et 150 jetons par seconde sur une machine NVIDIA RTX Spark de 64 Go, à contextes courts. L’entreprise indique aussi que Flint supporte jusqu’à 512 000 jetons de contexte, tout en recommandant de rester sous 256 000. Un détail qui parlera aux équipes techniques : plus le contexte grossit, plus les modèles aiment rappeler qu’ils ont aussi des limites, avec beaucoup d’assurance.

Des résultats de benchmark très agressifs, mais à lire dans leur périmètre

Recursive affirme que Flint arrive en tête des modèles MoE de moins de 50 milliards de paramètres sur SWE-Bench Pro v2, Terminal-Bench 2.1 et SWE-Bench Verified. L’entreprise dit aussi que ses performances sont comparables à celles de modèles denses de 25 à 40 milliards de paramètres, tout en tournant plus de cinq fois plus vite. Ces résultats proviennent des benchmarks cités par Recursive [à vérifier selon des tests indépendants]. La société ajoute que Flint vise les utilisateurs qui veulent travailler en local, éviter les frais d’API et garder les données sur l’appareil. En contrepartie, elle recommande de découper les tâches complexes en sous-problèmes et de donner des instructions explicites, car le modèle peut demander plus de guidage que certaines alternatives fermées plus larges.

Eureka Machine, le moteur de recherche derrière l’architecture

Le développement de Flint s’appuie sur Eureka Machine, le système automatisé de Recursive qui a proposé des idées, implémenté des briques et testé les résultats. Selon la société, ce système a influé sur l’architecture, les données, les optimiseurs, les recettes d’entraînement, l’infrastructure, la quantification et les performances d’inférence. Le chemin de conception serait passé d’une base de 35 milliards de paramètres avec 3 milliards actifs à la configuration finale de Flint, qui combine 40 milliards de paramètres au total et 2,5 milliards actifs par jeton. Pour la quantification, Recursive dit avoir placé la couche de sortie à 4 bits et utilisé une distillation hors ligne avec le modèle 16 bits comme professeur. Le modèle NVFP4 obtenu se situe à moins de 0,7 point de la version 16 bits sur les benchmarks internes, tout en réduisant presque de moitié les étapes d’entraînement par rapport à sa base aware-quantization.

Poids ouverts, outils compatibles et moteur d’inférence dédié

Recursive publie les poids de Flint sous licence Apache 2.0, ce qui autorise une large réutilisation, y compris dans des projets commerciaux. Le modèle est compatible avec llama.cpp, Ollama, Unsloth, LM Studio, vLLM et SGLang, ce qui facilite son adoption par les équipes qui ont déjà leurs outils de travail local. L’entreprise lance aussi rec, un moteur d’inférence ajusté pour Flint sur Mac M4 Pro, M5 Pro et M5 Max. En pratique, Recursive pousse un message simple : si le cloud garde l’avantage sur l’accès aux gros modèles généralistes, le local revient dans la course dès qu’il faut vitesse, confidentialité et maîtrise des coûts.