Motional et le MIT rendent les voitures autonomes plus explicables

Motional, en collaboration avec le MIT, a présenté CW-Net, un système conçu pour expliquer en temps réel les décisions d’une voiture autonome. Publiée dans Nature, cette approche vise un point sensible du secteur : faire comprendre pourquoi un véhicule freine, s’arrête ou poursuit sa route. À mesure que les modèles gagnent en puissance, la question de la transparence devient décisive pour la sécurité, la régulation et l’acceptation par les villes comme par les passagers.

Quand la “boîte noire” doit rendre des comptes

Les systèmes de conduite autonome reposent de plus en plus sur des réseaux de neurones entraînés sur d’immenses volumes de données de conduite. Ils reconnaissent des scènes, anticipent des trajectoires et prennent des décisions, mais sans toujours exposer leur raisonnement. C’est ce manque de lisibilité que CW-Net veut combler, en traduisant la logique interne du logiciel en concepts compréhensibles, comme “Approaching Stopped Vehicle” ou “Close to Cyclist”.

Le principe n’est pas de générer une explication après coup, un peu comme un copilote qui improvise. Le système relie la décision finale à un concept précis qui l’a déclenchée, ce que Motional décrit comme une explication “causally faithful”. La nuance compte, car une phrase plausible ne garantit pas qu’elle soit exacte.

Ce que le test près de Las Vegas a révélé

Les chercheurs n’ont pas limité leurs essais à une simulation de labo. CW-Net a été testé sur un véhicule autonome avec un opérateur de sécurité à bord, sur une piste privée puis sur des routes publiques autour de Las Vegas. Dans un premier cas, la voiture s’arrêtait à répétition près d’un cône de signalisation. L’opérateur pensait que l’objet déclenchait le comportement, mais le système a montré autre chose : le planificateur “voyait” en fait un véhicule arrêté qui n’existait pas, une hallucination héritée des données d’entraînement.

Autre situation, cette fois avec un cycliste. Le véhicule s’est arrêté correctement, mais CW-Net a révélé que la décision ne venait pas du planificateur expérimental. Après coup, l’analyse a confirmé que le freinage provenait d’un système de secours. Dans les deux cas, l’intérêt est très concret : mieux diagnostiquer ce qui se passe, et plus vite. Le conducteur de sécurité peut aussi réagir avec plus de précision. Pas besoin de lire dans le pare-brise.

Un coût en performance jugé limité

Ajouter des couches d’explicabilité peut ralentir une IA ou réduire ses performances. Motional en a conscience, mais dit avoir mesuré un écart inférieur à 1 % par rapport à des algorithmes de conduite autonome de premier plan. Le compromis paraît donc supportable, au moins dans ce cadre expérimental, surtout si le gain en confiance et en débogage accélère ensuite le développement.

Laura Major, directrice générale de Motional, résume l’enjeu avec une formule assez directe : “The general end-to-end only approach can get to a really good 80-90 percent – maybe even 95 percent – solution, but that’s not good enough to remove a driver or to earn the trust of cities, communities, and customers”. Autrement dit, un système performant ne suffit plus si personne ne peut expliquer ses choix.

Pourquoi ce travail dépasse la seule voiture autonome

Motional voit dans CW-Net un prototype de ce que les régulateurs pourraient attendre à terme des systèmes d’IA critiques. La logique vaut pour les voitures, mais aussi pour les drones autonomes ou la chirurgie robotisée, où comprendre la décision d’une machine peut éviter une erreur coûteuse, voire dramatique. Dans ce contexte, l’explicabilité n’est plus un confort de chercheur ; elle devient un outil d’exploitation et de conformité.

Les constructeurs de véhicules autonomes avancent souvent sur deux fronts à la fois : prouver qu’ils savent conduire, puis prouver qu’ils savent expliquer pourquoi ils conduisent ainsi. CW-Net pousse précisément dans cette seconde direction. Et c’est peut-être là que se jouera une partie du passage à l’échelle.