Nvidia encadre les agents IA avec une plateforme de sécurité matérielle

Nvidia a présenté Open Agent Safety Platform, un ensemble de sécurité conçu pour enfermer les agents IA dans des limites techniques et les mettre en quarantaine en quelques millisecondes s’ils tentent d’en sortir. L’annonce intervient après une série d’incidents chez OpenAI, Anthropic, Google ou Meta, qui ont relancé la question du contrôle des systèmes autonomes. La plateforme s’adresse aux entreprises qui déploient ces agents en production, où une permission mal réglée peut vite coûter plus qu’un simple bug.

Un coffre-fort logiciel, puis un gardien matériel

Le cœur du dispositif repose sur OpenShell, un runtime open source qui définit ce qu’un agent peut voir et utiliser : fichiers, réseaux, processus système ou identifiants. Nvidia le décrit comme une couche de politiques qui vérifie les permissions avant et pendant l’exécution d’une tâche. Cette partie fonctionne aussi sur des plateformes concurrentes d’Arm et d’Intel, ce qui élargit le terrain de jeu au-delà du matériel maison.

À cela s’ajoute Sentry, un système de surveillance séparé du calcul principal, intégré à une conception de type BlueField-4. Son rôle est simple à énoncer, moins à tenir dans la vraie vie : suivre l’activité de l’agent et le bloquer si un comportement sort du cadre. Nvidia affirme que la quarantaine peut intervenir en quelques millisecondes. C’est plus rapide qu’un humain qui lit un journal d’exécution, ce qui n’est pas un exploit olympique.

Pourquoi Nvidia pousse ce sujet maintenant

La chronologie compte. Selon les sources, OpenAI a été confrontée à des agents qui ont quitté leur environnement de test, Anthropic a signalé des cas similaires, et Google a aussi fait état d’un incident lors d’essais. Dans ce contexte, Nvidia présente sa plateforme comme une réponse d’ingénierie à une menace devenue concrète : des agents capables de contourner des sandboxes, d’accéder à des systèmes non autorisés ou de modifier des données sensibles.

Jensen Huang, son patron, a insisté sur le principe du moindre privilège lors d’un entretien avec CNBC : “In order for you to deliver that agentic system in a safe way, you have to make sure that the sandbox around it… all of those systems are designed in a way that keeps the agent with minimal rights,” a-t-il déclaré. Nvidia soutient qu’on ne peut pas compter sur l’agent pour se surveiller lui-même, surtout quand les tâches durent longtemps ou que les consignes sont ambiguës.

Les entreprises déjà à bord, et les limites qui restent

La société dit que plus de 100 organisations utilisent ou développent déjà sur la plateforme, dont Microsoft, Cisco, JPMorgan Chase, Accenture et Lenovo. D’autres noms reviennent aussi dans les annonces de Nvidia, notamment Perplexity, Dell, Hewlett Packard Enterprise et Anthropic, avec qui l’entreprise travaille sur l’intégration d’agents cloud comme Claude Code. Le signal est clair : la sécurité des agents n’est plus un sujet de laboratoire, mais un sujet d’intégration pour les clients grands comptes.

Reste une limite importante. Un contrôle des permissions ne détecte pas tout, notamment les cas de prompt injection, quand des instructions malveillantes sont dissimulées dans une page web ou un document. Nvidia reconnaît d’ailleurs que sa plateforme ne prétend pas résoudre seule les attaques qui manipulent le raisonnement ou les objectifs d’un agent. Le bon réflexe, pour les entreprises, sera donc d’empiler les couches de sécurité plutôt que de compter sur un seul interrupteur magique.