Les agents IA montent en gamme sur la promesse de confidentialité

OpenAI et Meta font monter la confidentialité au premier plan de la guerre des agents IA. Lors de DevDay, OpenAI a présenté Dots comme un assistant censé « set a new standard for privacy in frontier AI », tandis que Meta décrit Muse comme « built from the ground up for privacy and security ». Le sujet compte, car ces assistants demandent souvent un accès très large aux données personnelles et professionnelles. Reste une question simple : les garanties affichées résistent-elles à l’usage réel ?

La confidentialité devient un argument commercial, pas seulement technique

La bataille se joue désormais autant sur la confiance que sur les performances. Chez Meta, Nat Friedman a expliqué sur X que l’objectif de Muse était de construire quelque chose « like openclaw that we could make safe and secure and easy to use and scale to billions of people ». Mark Zuckerberg parle d’un « isolated linux computer with a browser, CPU, memory, and storage », c’est-à-dire une machine virtuelle séparée du reste du système, pour contenir les données des utilisateurs.

OpenAI répond sur le même terrain. À DevDay, Alexander Embiricos, responsable produit Codex, a assuré que l’entreprise vise « the most trustworthy, safe, and secure assistant ». Sam Altman a aussi montré des garde-fous plus concrets, comme une règle interdisant à Dots de dépasser un certain montant d’achat. Pour les entreprises, OpenAI met en avant des « stronger controls » et des options de « zero data retention », donc l’absence de stockage des données sur ses serveurs.

Des garanties utiles, mais pas encore rassurantes à 100 %

Les promesses sont nettes. Leur maintien à terme l’est beaucoup moins. Selon le papier de The Verge, Meta prévoit bien un mécanisme permettant « to cryptographically and verifiably prevent Meta from accessing data in your VM », mais cette option n’était pas encore disponible au moment décrit dans la source. En attendant, la société peut toujours accéder aux données contenues dans la VM.

Le décalage entre le discours et la pratique est déjà visible. Muse a enregistré 600 000 utilisateurs actifs quotidiens aux États-Unis en quelques semaines, selon Apptopia, mais le service a aussi connu une faille zero-day rapidement corrigée, capable de permettre la prise de contrôle de l’assistant. 404 Media a par ailleurs rapporté qu’un problème plus grave avait frôlé la sortie, avec la possibilité pour des utilisateurs d’accéder à des bases internes de Meta. À ce stade, difficile de parler d’une forteresse ; au mieux, d’un chantier très surveillé.

Les inquiétudes ne viennent pas seulement des failles classiques. Muse active par défaut l’entraînement des modèles sur les contenus saisis, avec une option de désactivation. Le service a aussi été accusé d’avoir consulté des messages privés sans demande explicite, ou d’avoir transmis une adresse à un inconnu via Marketplace. Wired rapporte même que la plateforme peut créer des « detailed profiles of all your friends and family ». Rien de tout cela n’est totalement surprenant pour Meta, mais cela complique sérieusement le récit d’un produit spécialement sobre en collecte.

Pourquoi les agents IA ont tant besoin de données, et pourquoi ça coince

Un agent IA utile doit souvent voir loin dans les comptes, les agendas, les paiements ou les messages. C’est précisément ce qui le rend pratique, et ce qui le rend délicat. Allison Johnson, chez The Verge, dit s’être sentie mal à l’aise en saisissant ses informations bancaires lorsque le bot les demandait pour une tâche pertinente. Muse dispose d’une intégration Stripe pour gérer ce type d’étape, mais cela ne suffit pas à lever le malaise.

Dans ce contexte, les éditeurs misent sur une recette assez claire : rendre l’agent utile, lui donner un vernis plus rassurant, puis promettre des garde-fous. Les promesses de confidentialité servent aussi à se distinguer d’un rival direct. OpenAI attaque Meta sur sa gestion des données, Meta a positionné Muse comme plus sûr qu’OpenClaw, et chacun présente son produit comme la version raisonnable d’un outil qui, par nature, demande beaucoup d’accès. Le marché adore les angles de sécurité ; les utilisateurs, eux, regardent surtout qui voit quoi.

Pour l’instant, Dots semble avoir évité les scandales les plus visibles, mais il est réservé aux abonnements ChatGPT à partir de 100 dollars par mois, ce qui limite mécaniquement l’exposition. Les labos d’IA jouent donc une partie serrée : convaincre qu’un agent doit tout savoir pour bien faire son travail, tout en promettant qu’il ne regardera pas trop. Une équation commode sur le papier. Beaucoup moins une fois les données en main.