Google élargit ses TPU avec des puces pour agents IA et contextes géants

Google a présenté le 9 novembre 2026 deux nouveaux systèmes TPU de huitième génération, TPU 8tx et TPU 8i Max, qui complètent les TPU 8t et 8i annoncés plus tôt dans l’année. Le premier vise l’inférence confidentielle pour les secteurs régulés, le second les contextes de très grande taille et la densité de calcul en data center. L’enjeu dépasse la simple fiche technique : il s’agit d’adapter l’infrastructure aux agents IA, qui consomment plus de mémoire, plus de sécurité et moins de patience réseau.

Deux systèmes pour deux goulots d’étranglement

TPU 8i Max s’attaque au “memory wall”, ce plafond qui apparaît quand les modèles doivent manipuler trop de données à la fois. Google indique que ce système double le calcul, la SRAM et la bande passante HBM par rapport à TPU 8i, tout en tenant dans le même encombrement en rack. Traduction concrète : davantage de puissance par mètre carré et par watt, un critère devenu central dans les data centers.

De son côté, TPU 8tx cible les usages où la confidentialité ne peut pas être un simple argument marketing. Google le présente comme un système pensé pour l’inférence sécurisée et confidentielle, avec des entreprises régulées et des administrations en ligne de mire. Le matériel intègre la protection directement dans la couche matérielle, afin de garder les données sensibles et les poids du modèle isolés pendant le calcul.

Le pari des contextes massifs, ou quand les agents lisent trop de pages

La montée des agents IA change la donne. Ces systèmes ne répondent plus seulement à une requête isolée ; ils enchaînent des actions, consultent des outils, croisent des documents et gardent en mémoire des conversations longues. Google dit vouloir répondre à cette évolution avec TPU 8i Max pour les “massive context windows”, ces fenêtres de contexte qui permettent à un modèle de travailler sur des volumes de texte, de code, d’audio ou de vidéo bien plus importants.

Dans sa communication, l’entreprise relie aussi ce mouvement à Gemini, son modèle phare, qui prend en charge une fenêtre de 1 million de tokens. Un token correspond à une unité de texte manipulée par le modèle ; 1 million de tokens représente environ 750 000 mots, soit près de 1 500 pages. À ce stade, la promesse est surtout industrielle : garder la latence sous contrôle pendant que les modèles avalent plus d’informations.

Google pousse aussi l’ouverture logicielle

Les nouveaux systèmes ne viennent pas seuls. Google met en avant un ensemble d’outils destinés à réduire les frictions d’adoption, avec support de PyTorch, TorchTPU open source, compatibilité avec Hugging Face, et prise en charge de moteurs d’inférence comme vLLM et SGLang. L’objectif est clair : faire en sorte que les développeurs n’aient pas à réécrire leur code pour utiliser des TPU.

L’entreprise annonce aussi des outils pour l’exploitation, dont Agent Compute Engine, qui suspend automatiquement les sessions d’agents inactifs, et TPU Sync, une couche de gestion de l’état des modèles qui vise à réduire les transferts de contexte et le temps de première réponse. Sur GKE, Cloud Pathways et le dynamic slicing doivent simplifier le pilotage de grands clusters TPU. Une manière de dire que Google ne vend plus seulement du silicium, mais une pile complète, du code jusqu’au rack. Le tout sans oublier que les agents, eux, adorent faire une pause au pire moment.

Ce que change cette montée en gamme pour le marché cloud

Avec quatre systèmes TPU lancés sur une seule année, Google cherche à verrouiller une position plus fine sur le marché des accélérateurs IA. Les 8t et 8i posaient le socle pour l’entraînement et le raisonnement ; 8tx et 8i Max ajoutent deux couches très demandées par les clients : la conformité et la densité. Cette segmentation répond à une réalité de marché simple : tous les modèles n’ont pas les mêmes besoins, et tous les clients ne peuvent pas déplacer leurs données librement d’un cluster à l’autre.

Les annonces de Google montrent aussi une tension de fond dans l’infrastructure IA : les modèles deviennent plus capables, mais ils réclament davantage de mémoire, de bande passante et de garanties de sécurité. Dans ce contexte, le différenciateur ne se joue plus seulement sur la vitesse brute. Il se joue sur la capacité à exécuter proprement des charges de travail très différentes, sans casser la facture ni la conformité.