Microsoft prépare Maia 300, puce IA pensée pour l’inférence à grande échelle

Microsoft a dévoilé Maia 300, la troisième génération de son programme de puces IA Azure Maia, avec des déploiements de production annoncés pour 2027. La société dit vouloir en faire son système d’inférence principal pour ses produits et services, au moment où les usages basculent vers des modèles plus longs, plus bavards et plus gourmands en calcul. Maia 200 est déjà en production, notamment pour Microsoft Copilot, et doit aussi alimenter GitHub Copilot et Microsoft Foundry d’ici la fin de l’année. Le sujet compte parce qu’il ne s’agit plus seulement de construire des modèles, mais aussi de maîtriser le matériel qui les fait tourner.

Une puce pensée pour les usages qui saturent déjà les serveurs

Maia 300 est décrite comme un système d’inférence d’abord, optimisé pour les contextes longs, les échanges sensibles à la latence et les tâches agentiques en plusieurs étapes. En clair, elle vise les requêtes où l’IA doit se souvenir de beaucoup d’éléments, répondre vite et enchaîner plusieurs actions sans se perdre en route. Microsoft insiste aussi sur une co-conception entre matériel et logiciel, présentée comme nécessaire pour ses propres charges de travail. Cette logique n’est pas nouvelle dans les grands clouds, mais elle devient plus visible à mesure que la demande en IA se déplace du prototype vers la production.

La société dit que Maia 300 doit offrir 40 % de tokens par mégawatt en plus que les meilleurs systèmes à base de GPU. Dans une configuration complète à 96 accélérateurs, elle atteindrait jusqu’à 7 fois le débit de tokens au niveau rack par rapport à Maia 200. Les chiffres sont fournis par Microsoft et concernent son architecture interne, pas un benchmark indépendant [à vérifier].

Pourquoi Microsoft pousse ses propres puces

Microsoft explique que Maia 200 sert déjà des charges de travail en production aux États-Unis, en Europe et en Australie. L’entreprise affirme aussi qu’elle fournit jusqu’à 1,7x plus de tokens par watt pour des fonctions d’IA intégrées dans Teams, Copilot et Cowork, comparé à une infrastructure GPU de référence. Là encore, il s’agit d’une comparaison donnée par l’éditeur, utile pour mesurer la direction prise, mais à lire comme un message industriel autant que comme une mesure de marché.

Dans ce contexte, Maia 300 doit prendre le relais sur des usages plus lourds : génération de données et inférence pour l’équipe MAI, service cloud pour Microsoft Foundry, expériences de codage chez GitHub, et interactions à faible latence pour Dragon Copilot dans le domaine médical. Le but est simple : faire tenir davantage d’intelligence dans chaque mégawatt consommé. Ce n’est pas le plus poétique des objectifs, mais c’est souvent celui qui finit par décider de la facture.

Une architecture qui mise sur la mémoire, pas seulement sur la force brute

La fiche technique mise sur plusieurs choix assez classiques dans l’industrie des puces IA, mais réunis ici pour optimiser l’inférence à grande échelle. Maia 300 s’appuie sur huit piles HBM4, pour 18,0 To/s de bande passante mémoire de pointe dans un TDP de 950 W. Le TDP, ou enveloppe thermique de conception, correspond à la puissance maximale visée pour le refroidissement et l’alimentation du composant. Microsoft ajoute une architecture multi-chiplets, avec séparation des fonctions de calcul, du contrôleur mémoire et de l’I/O, ainsi qu’un procédé TSMC N2P pour les chiplets de calcul.

Autre axe mis en avant : limiter les mouvements de données. L’entreprise dit que le vrai goulot d’étranglement des grands systèmes d’inférence n’est plus seulement le calcul brut, mais le transport de l’information entre calcul, mémoire et réseau. Maia 300 embarque donc une architecture de dataflow définie par logiciel, complétée par une optimisation de kernels assistée par IA. En résumé, l’idée est de rapprocher les données des unités de calcul plutôt que de les faire circuler sans fin.

Des racks plus denses, mais aussi plus complexes à exploiter

Microsoft annonce aussi des systèmes rack à 96 accélérateurs, dans une enveloppe de 167 kW, pour 27,6 To de capacité HBM et 1,7 Po/s de bande passante HBM agrégée. Ces ordres de grandeur montrent que l’entreprise ne cherche pas seulement à augmenter la puissance brute, mais à densifier ses datacenters pour servir davantage d’interactions IA au même endroit. C’est une logique de capacité, autant que de performance.

La partie réseau suit la même philosophie. Maia 300 traite l’interconnexion comme une extension du dataflow, avec des liaisons haut débit entre accélérateurs et un transport IA personnalisé sur Ethernet pour passer d’un rack à l’échelle datacenter. Microsoft dit vouloir ainsi couvrir un spectre allant du rack unique aux déploiements massifs. Le mot “simple” ne figure nulle part dans la fiche, et pour cause.

Ce que ça dit de la stratégie IA de Microsoft

Au fond, Maia 300 confirme une tendance nette chez les grands acteurs du cloud : l’IA n’est plus seulement une affaire de modèles, mais de chaîne complète, du silicium jusqu’aux agents. Microsoft présente sa plateforme comme ouverte, hétérogène et multi-modèles, tout en affirmant pouvoir optimiser de bout en bout ses propres services. Cette capacité à choisir ses briques matérielles et logicielles devient un avantage compétitif à mesure que les coûts d’inférence pèsent davantage sur les marges.

Le calendrier est aussi révélateur. Maia 200 est déjà en production, Maia 300 doit entrer en production en 2027, et Microsoft promet d’en dire plus lors de Microsoft Ignite 2026 à San Francisco et en ligne. Autrement dit, l’entreprise prépare déjà l’infrastructure qui devra absorber la prochaine vague d’usages IA, des assistants de productivité aux systèmes d’agents. Reste à voir, d’ici là, si les promesses d’efficacité survivront au passage des slides aux datacenters.