Maia 300, le nouveau pari de Microsoft sur l’inférence IA

Microsoft détaille Maia 300, sa puce IA de troisième génération conçue pour l’inférence à grande échelle. L’objectif est clair : gagner en tokens par watt et par dollar, alors que les agents IA exigent plus de mémoire, de bande passante et de réseau.

Microsoft a détaillé Maia 300, sa puce IA de troisième génération, pensée pour l’inférence à grande échelle plutôt que pour l’entraînement des modèles. Présentée le 12 octobre 2026, elle doit alimenter Copilot, GitHub Copilot et Microsoft Foundry avec une meilleure efficacité énergétique, à un moment où les usages agentiques consomment plus de mémoire, de bande passante et de réseau. En clair, l’entreprise veut faire passer plus d’intelligence dans le même plafond de puissance. Pas exactement le genre d’exercice qu’on règle avec une prise multiple.

Une architecture pensée pour faire bouger moins de données

Maia 300 s’appuie sur une philosophie simple : l’inférence IA coûte cher surtout quand il faut déplacer les données. Microsoft explique avoir prolongé son approche SDLA, pour Software Defined Locally Accessed Dataflow Architecture, une architecture où le logiciel pilote explicitement le placement, le mouvement et la conversion des données entre mémoires locales, moteurs de calcul et réseau.

La nouveauté tient aussi à l’organisation mémoire. Là où Maia 200 reposait sur une mémoire uniforme, Maia 300 adopte une logique NUMA, c’est-à-dire une mémoire répartie où certaines zones sont plus proches de certains calculs. Résultat annoncé : moins de trajets inutiles, moins d’énergie perdue et davantage de capacité pour les modèles longs, les raisonnements en plusieurs étapes et les sessions simultanées.

Microsoft avance plusieurs gains par rapport à Maia 200 : 36 % de FLOPs supplémentaires, 2,5 fois plus de bande passante mémoire, 14 % de bande passante de montée en charge en plus, ainsi qu’une capacité mémoire portée à 288 Go par accélérateur grâce à huit piles HBM4. La bande passante atteint 18 To/s par accélérateur, selon l’entreprise.

Du rack à la superpuce : le réseau devient une partie du calcul

Maia 300 ne se limite pas à une puce. Microsoft la présente comme un système complet, co-conçu avec le logiciel, le rack, le réseau et le datacenter. Un rack regroupe 96 accélérateurs dans 167 kW, avec 24 plateaux de quatre accélérateurs, ce qui double la densité d’accélérateurs de Maia 200 selon la fiche technique publiée par Microsoft le 12 octobre 2026.

Le réseau suit la même logique de co-design. La firme décrit une architecture à deux niveaux, capable d’étendre un même modèle de communication jusqu’à 12 288 accélérateurs dans un superpod. Les liaisons internes au rack sont électriques, tandis que le second niveau passe par de l’optique pour relier plusieurs racks. L’idée est de faire du réseau une extension du calcul, pas un étage séparé qu’il faut traverser à coup de protocoles et de patience.

Cette approche permet aussi une répartition plus souple des charges. Microsoft indique que le préremplissage et le décodage peuvent être placés séparément, que les tâches peuvent s’étendre sur plusieurs racks et que des capacités de secours peuvent prendre le relais en cas de panne, sans sortir du domaine de montée en charge. Pour les opérateurs de datacenters, c’est un point loin d’être anecdotique : la disponibilité dépend autant du logiciel que du câblage.

Ce que Microsoft cherche vraiment à optimiser

Le discours de Microsoft est constant depuis plusieurs générations de Maia : maximiser les tokens utiles par watt et par dollar. Dans la version 2026 de cette stratégie, la société dit viser une amélioration de plus de 2,5 fois du rendement par watt par rapport à Maia 200, ainsi qu’un débit de jetons en rack jusqu’à sept fois supérieur dans la configuration complète à 96 accélérateurs.

Selon un article publié par THE DECODER le 12 octobre 2026, Microsoft prévoit aussi un déploiement de ses puces Maia à l’échelle du gigawatt à partir de 2027, avec Maia 200 déjà utilisée pour Copilot aux États-Unis, en Europe et en Australie, et GitHub Copilot ainsi que Foundry attendus d’ici la fin de l’année. La même source rapporte que Satya Nadella parle de « our biggest bet yet on our own silicon ». [à vérifier]

Ce mouvement compte pour le marché parce qu’il confirme une tendance lourde : les grands fournisseurs cloud ne veulent plus seulement acheter des GPU, ils cherchent à industrialiser leurs propres accélérateurs, afin de reprendre la main sur les coûts, l’approvisionnement et les marges. Microsoft rejoint ici une bataille où la performance brute compte, mais où l’intégration système pèse tout autant.

En chiffres

  • 96 accélérateurs — par rack, selon Microsoft, 12 octobre 2026.
  • 167 kW — puissance du rack Maia 300, selon Microsoft, 12 octobre 2026.
  • 288 Go — mémoire HBM4 par accélérateur, selon Microsoft, 12 octobre 2026.
  • 18 To/s — bande passante mémoire par accélérateur, selon Microsoft, 12 octobre 2026.
  • 12 288 accélérateurs — taille maximale du superpod, selon Microsoft, 12 octobre 2026.

À lire