Samsung muscle la mémoire LPDDR5X avec du calcul intégré

Samsung a présenté au Hot Chips 2026 une version validée de sa LPDDR5X-PIM, une mémoire LPDDR5X qui intègre du calcul au plus près des cellules DRAM. Cette approche, appelée Processing-in-Memory, vise à accélérer l’inférence IA en limitant les allers-retours avec le processeur. Dans un marché où la mémoire pèse de plus en plus lourd dans le coût des puces IA, le positionnement n’a rien d’anecdotique. Et la HBM, très performante, reste surtout très chère.

Quand la mémoire fait elle-même une partie du travail

Le principe du PIM est simple à décrire, moins à fabriquer : de petites fonctions logiques sont placées dans ou près de la DRAM pour exécuter des opérations de base sans solliciter autant le CPU ou l’accélérateur principal. Samsung dit travailler sur ce sujet depuis 2021, avec des démonstrations d’abord menées via des stacks HBM, puis un HBM-PIM introduit en 2023. La LPDDR5X-PIM présentée cette fois n’est plus un simple concept, mais un produit passé par validation.

Le cœur de l’argument tient à la réduction des mouvements de données. En inference, où les calculs sont répétitifs et les transferts coûtent cher en temps comme en énergie, rapprocher le calcul de la mémoire change la donne. Selon Samsung, la LPDDR5X-PIM affiche un temps d’exécution 2,28 fois plus rapide qu’une LPDDR5X standard sur ces tâches, avec un débit en tokens par seconde en hausse de 3,01 fois. Pas mal pour de la mémoire qui refuse de rester passive.

Une LPDDR5X presque classique, mais pas tout à fait

Sur le papier, le module reste proche d’une LPDDR5X classique. Samsung évoque un boîtier standard à 561 billes, deux rangs de 64 bits et des modules de 16 Go. La différence se joue dans l’organisation interne : chaque bank mémoire dispose de son bloc PIM, ce qui améliore l’intégration par rapport à l’approche HBM-PIM, où Samsung avait dû réduire le nombre de banks pour faire de la place à la logique.

La mémoire peut fonctionner en deux modes, single-bank pour le DRAM traditionnel et multi-bank pour le PIM. Pour éviter les problèmes de réordonnancement, Samsung introduit ce qu’il appelle Address Align Mode, ou AAM, qui mappe les adresses DRAM vers des instructions MAC. MAC signifie multiply-accumulate, une opération de base des réseaux neuronaux. L’idée est de garder le flot de calcul lisible pour le contrôleur tout en exploitant les banques en parallèle.

Pourquoi Samsung vise aussi le client et le mobile

Le choix de la LPDDR5X n’est pas seulement technique, il est aussi économique. Samsung le rappelle clairement : la HBM reste trop coûteuse pour beaucoup d’usages, alors que la LPDDR5X offre un meilleur point d’équilibre entre débit, consommation et prix. L’entreprise avance aussi un chiffre de bande passante : 76,8 Go/s pour une LPDDR5X-9600 classique, contre 614 Go/s avec PIM, soit un gain annoncé d’un facteur huit grâce à la réduction des transferts.

Côté énergie, le discours est plus nuancé. Samsung reconnaît que les pics de consommation seront plus élevés à cause des rafales de calcul, mais dit ne pas s’attendre à une hausse globale par rapport à la DRAM conventionnelle. En pratique, le moindre nombre de lectures et d’écritures entre la mémoire et l’hôte doit compenser. Le vrai test viendra des intégrations à grande échelle, pas des slides. Et comme souvent avec la mémoire, le diable se cache dans les banques.