Beam, le modèle ouvert de Reflection pensé pour le long contexte

Reflection publie Beam, un modèle ouvert de 501 milliards de paramètres pensé pour le code, les agents et les longs échanges. Il arrive avec une fenêtre de 1 million de tokens et des variantes FP8 et NVFP4 pour l’inférence.

Reflection a publié Beam, un modèle de langage ouvert de 501 milliards de paramètres conçu pour le code, le raisonnement et les usages agentiques. L’éditeur le distribue sous licence Apache 2.0, avec une fenêtre de contexte d’1 million de tokens et des versions FP8 et NVFP4 pour l’inférence. Sur le papier, il vise les équipes qui veulent exécuter et adapter un modèle de très grande taille sur leur propre matériel, leur infrastructure ou leur cloud.

Un géant ouvert, mais pas un monolithe

Beam est un modèle mixture-of-experts, souvent abrégé MoE : à chaque token, seule une fraction du réseau est activée. Ici, 8 experts sur 256 sont mobilisés à chaque étape, ce qui lui permet de calculer comme un modèle d’environ 23 milliards de paramètres tout en gardant la capacité d’un ensemble bien plus vaste. Reflection parle d’un modèle text-only, orienté codage, appels d’outils et tâches agentiques. Une bonne nouvelle pour les ingénieurs, une mauvaise pour les agendas déjà trop chargés : le fichier BF16 pèse environ 1 To.

Le modèle repose sur 52 couches, avec 43 couches à fenêtre glissante et 9 couches globales. Cette architecture hybride limite la croissance de la mémoire nécessaire pour traiter de très longues conversations ou de gros dépôts de code. Reflection indique aussi un support natif du preserve_thinking, des appels d’outils via une grammaire dédiée, et cinq niveaux de raisonnement, de « low » à « max ».

Pourquoi le long contexte change la donne

Avec 1 million de tokens de contexte, Beam peut garder en mémoire des échanges ou des bases de code bien plus longs que la plupart des modèles courants. Reflection estime que la mémoire cache croît à 36,08 GiB par séquence en BF16 à pleine longueur, contre 208 GiB si toutes les couches restaient globales. Dit autrement, le modèle reste lourd à servir, mais il évite une explosion encore plus brutale des besoins en mémoire.

Les formats proposés suivent cette logique. Le checkpoint NVFP4 compresse une partie des poids en 4 bits et réduit l’empreinte de stockage à environ 280 GB, contre 1 TB en BF16. Les checkpoints FP8 sont, eux, pensés pour des GPU Hopper et Ampere, tandis que le format NVFP4 est destiné aux GPU Blackwell. Reflection recommande, pour servir le modèle confortablement, quatre B200 ou un nœud complet de 8x B200. Le modèle se dote ainsi d’un positionnement rare : ouvert, mais clairement taillé pour du gros matériel.

Des performances solides, surtout sur le code

Selon les résultats fournis par Reflection, Beam affiche des scores élevés sur plusieurs bancs d’essai liés au code et aux agents. Sur SWE Bench Pro v2-Hard, le modèle atteint 76,5 % en BF16, 78,4 % en FP8 et 78,6 % en NVFP4. Sur Terminal Bench v2.1, il monte à 80,1 %, 78,9 % et 78,2 % selon la précision. Sur LiveCodeBench, Reflection annonce 88,3 %, 88,1 % et 87,4 %.

Les résultats de raisonnement suivent la même tendance. Sur AIME 2026, Beam affiche 97,7 % en BF16, 98,0 % en FP8 et 97,5 % en NVFP4. Sur GPQA Diamond, les scores annoncés sont de 90,6 %, 90,3 % et 89,3 %. Reflection précise toutefois que certains essais sont des vibe evals, c’est-à-dire des tests exploratoires et non des benchmarks formels. À prendre comme un signal utile, pas comme un certificat définitif.

Déployer, ajuster, puis remettre les mains dans le cambouis

Beam arrive dès le lancement avec un support pour transformers, vLLM et SGLang. Reflection fournit des recettes de déploiement, y compris des serveurs OpenAI-compatibles, ainsi que des exemples pour l’inférence multi-GPU et multi-nœud. L’entreprise propose aussi des outils pour le post-entraînement, avec du SFT via TRL et du RL via Miles. Cela veut dire que le modèle n’est pas seulement censé être consommé tel quel, mais aussi adapté à des usages très précis.

Reflection met enfin en avant un programme de crédits Hub de 10 000 dollars pour les projets construits avec Beam. Le message est clair : il ne s’agit pas seulement de publier un poids de modèle sur Hugging Face, mais d’encourager les démonstrations, les fine-tunings, les jeux de données synthétiques et les bancs de test. L’effet marché compte autant que la fiche technique. Dans ce segment, l’open source ne sert plus seulement à regarder, il sert à prouver qu’on peut encore construire dessus.

Points clés

  • Beam compte 501 milliards de paramètres, dont 23 milliards actifs.
  • La fenêtre de contexte atteint 1 million de tokens en text-only.
  • Reflection publie Beam sous licence Apache 2.0.
  • Les versions FP8 et NVFP4 visent différents GPU.
  • Beam est supporté dès le jour 0 dans transformers, vLLM et SGLang.
  • Le modèle cible surtout le code et les usages agentiques.

En chiffres

  • 501 milliards — paramètres du modèle Beam, selon Reflection.
  • 1 million — tokens de contexte annoncés par Reflection.
  • 256 — experts par couche MoE, dont 8 activés par token.
  • 76,5 % — score BF16 sur SWE Bench Pro v2-Hard.
  • 10 000 dollars — crédits Hub promis aux meilleurs projets.

À lire