WhatsApp teste un filtre IA contre les messages frauduleux

WhatsApp commence à tester Scam Alert, une fonction optionnelle qui s’appuie sur un modèle de machine learning exécuté directement sur le téléphone pour repérer des messages potentiellement frauduleux. Le dispositif est d’abord proposé en bêta limitée, à un moment où les arnaques par messagerie se multiplient et se sophistiquent, y compris avec des lures générées par IA. Meta insiste sur un point central : aucun contenu de message ne quitte l’appareil pour la classification, et rien n’est auto-remonté vers WhatsApp ou Meta sans action de l’utilisateur.

Un filtre local qui ne casse pas le chiffrement

Scam Alert a été conçu pour fonctionner sans remettre en cause le chiffrement de bout en bout, la brique qui empêche WhatsApp de lire le contenu des échanges. Quand l’utilisateur active la fonction, le modèle est téléchargé sur le téléphone, puis analyse les messages reçus de contacts inconnus ou non enregistrés afin d’identifier des schémas typiques d’arnaque. Si un message semble suspect, une alerte apparaît dans la conversation. Elle reste invisible pour l’autre personne, ce qui évite de transformer l’application en panneau d’affichage pour escrocs curieux.

L’utilisateur peut alors bloquer, signaler ou poursuivre l’échange. S’il estime que l’alerte est erronée, il peut déclarer la conversation comme fiable ; dans ce cas, Scam Alert ne la signalera plus. Meta précise aussi que cette mécanique est facultative et désactivable à tout moment.

Pourquoi Meta pousse le traitement sur l’appareil

Le choix du traitement local répond à une contrainte simple : les modèles de détection en ligne ont besoin de voir les messages, ce qui se heurte au chiffrement. En exécutant l’analyse sur le mobile, Meta dit pouvoir détecter des conversations frauduleuses sans exposer le contenu aux serveurs. La société présente aussi Scam Alert comme un modèle suffisamment léger pour tourner sur matériel mobile, sans pénalité notable sur la batterie ou les performances.

Dans la documentation technique publiée par Meta, le modèle se contente d’une classification probabiliste fondée sur la structure de la conversation et des signaux linguistiques. Les messages restent sur l’appareil, et seule une télémétrie agrégée et anonymisée sert à mesurer l’efficacité de la fonction. Cette collecte passe par des environnements d’exécution confidentiels et des mécanismes de confidentialité différentielle, c’est-à-dire des méthodes qui ajoutent du bruit statistique pour empêcher d’identifier un utilisateur précis.

Des garde-fous pensés pour éviter le ciblage

Meta veut aussi empêcher qu’un modèle différent soit servi à un utilisateur précis. Selon le billet technique, chaque version du modèle est publiée sur un registre de transparence public avant déploiement, avec ses empreintes SHA-256, puis distribuée via un CDN. L’application vérifie ensuite la signature et l’intégrité des fichiers avant usage. En clair, le serveur ne peut pas décider en douce qu’un internaute recevra “le modèle de mardi” et un autre “celui de jeudi”, ce qui serait pratique pour l’expérimentation mais un peu moins pour la confiance.

La société ajoute que les mesures de performance sont elles aussi encadrées. Les statistiques remontées se limitent à des comptes agrégés : nombre d’alertes affichées et actions des utilisateurs face à ces alertes. Aucune conversation, aucun identifiant de message et aucun contenu brut ne doit sortir du téléphone pour cette partie du système.

Une réponse à un marché de l’arnaque très rentable

Le contexte explique l’empressement de Meta. WhatsApp compte plus de 3 milliards d’utilisateurs et figure parmi les surfaces les plus exploitées pour les fraudes, des faux investissements aux arnaques dites de pig butchering. Selon la FTC, les victimes ont déclaré avoir perdu 425 millions de dollars via WhatsApp en 2025, sur plus de 2,1 milliards de dollars liés aux escroqueries sur les réseaux sociaux la même année. Ces chiffres donnent un peu de gravité à une fonction qui pourrait autrement passer pour un simple gadget de sécurité.

Meta avait déjà lancé plus tôt cette année une détection des demandes de liaison d’appareil suspectes sur WhatsApp. Scam Alert va plus loin, car il tente d’évaluer le contenu d’un échange et non seulement un signal périphérique. Si l’outil se généralise, il pourrait devenir un standard de sécurité pour les grandes messageries, mais aussi un test concret de compatibilité entre IA embarquée et confidentialité stricte.

Ce que révèle la bêta de WhatsApp

La phase bêta sert aussi de test de robustesse. Meta dit vouloir ouvrir davantage son programme Bug Bounty, publier des éléments techniques supplémentaires et laisser des chercheurs indépendants vérifier le comportement du système. L’entreprise a publié un aperçu technique détaillant le fonctionnement du modèle, les contrôles de transparence et les limites de la collecte. Reste un enjeu classique pour ce type d’outil : trouver le bon équilibre entre détection utile et faux positifs, sans donner l’impression que tout message un peu pressant devient suspect.

À ce stade, Scam Alert reste donc une expérimentation prudente, pensée pour les arnaques d’aujourd’hui et les variantes de demain. Son intérêt dépasse WhatsApp : si l’approche tient à l’échelle, elle pourrait montrer qu’on peut ajouter une couche d’analyse IA à une messagerie chiffrée sans ouvrir la porte aux lectures côté serveur.