Maia 200 : l’accélérateur IA de Microsoft optimise l’inférence à haute efficacité énergétique

Microsoft a présenté Maia 200, son nouvel accélérateur IA conçu spécifiquement pour l’inférence de modèles d’apprentissage profond. Fabriqué en technologie TSMC N3, ce processeur embarque 144 milliards de transistors et délivre jusqu’à 10 petaFLOPS en précision FP4, rivalisant ainsi avec les GPU Blackwell de Nvidia. L’objectif est clair : proposer une solution plus économe en énergie et plus abordable pour les centres de données Azure, tout en supportant les modèles de très grande taille.

Quand la puissance rencontre l’efficacité énergétique

Maia 200 se distingue par une consommation maximale de 750 watts, soit presque deux fois moins que les 1 400 watts du Nvidia Blackwell B300 Ultra. Cette efficacité énergétique permet à Microsoft de déployer son accélérateur dans des datacenters refroidis à l’air ou par liquide, réduisant ainsi l’empreinte environnementale. Scott Guthrie, vice-président exécutif d’Azure, souligne que Maia 200 est « 30 % moins cher que tout autre silicium IA sur le marché » tout en offrant une performance par dollar améliorée de 30 % par rapport à la génération précédente Maia 100.

Optimisé pour l’inférence, mais pas pour tout

Contrairement aux GPU polyvalents, Maia 200 est taillé pour l’inférence, notamment des modèles de langage à très grande échelle. Il privilégie les calculs en faible précision (FP4, FP6, FP8), ce qui correspond aux pratiques actuelles d’inférence où les poids sont souvent quantifiés en 4 bits pour accélérer les traitements. En revanche, les opérations nécessitant des précisions plus élevées (BF16, FP16 ou FP32) subissent une pénalité de performance, car elles sont traitées par des unités vectorielles moins optimisées. Cette spécialisation limite son usage à l’inférence, Microsoft continuant à s’appuyer sur Nvidia pour l’entraînement des modèles.

Une architecture mémoire pensée pour la vitesse et la scalabilité

Le chip intègre 216 Go de mémoire HBM3e répartis sur six piles, offrant une bande passante de 7 To/s, proche des meilleures références du marché. Une mémoire SRAM de 272 Mo est subdivisée en deux pools, CSRAM et TSRAM, pour optimiser la gestion des communications et des calculs intermédiaires. Cette organisation permet de réduire les transferts coûteux entre mémoire rapide et mémoire haute capacité, améliorant ainsi l’efficacité globale.

Pour supporter les modèles multi-trillions de paramètres, Maia 200 peut être interconnecté en clusters allant jusqu’à 6 144 puces via un réseau Ethernet intégré, offrant 2,8 To/s de bande passante bidirectionnelle. Cette topologie en deux niveaux, proche d’un arbre « fat tree », assure une communication fluide entre les unités, un choix original face aux solutions propriétaires comme NVLink de Nvidia.