Le RAG s’impose comme le réflexe des IA qui citent leurs sources

Le Retrieval-Augmented Generation, ou RAG, est devenu une brique centrale des assistants d’IA qui veulent répondre avec des sources à l’appui. Né dans un laboratoire de Meta en 2020 puis publié en 2021, ce mécanisme consiste à interroger des documents externes avant de générer une réponse. À l’heure où les usages vont de la recherche web à la littérature scientifique, l’enjeu est simple : limiter les erreurs sans enfermer le modèle dans sa seule mémoire.

Comment le RAG change la façon de répondre

Le principe tient en trois étapes. D’abord, le système récupère les passages les plus pertinents dans une base de documents, un moteur de recherche ou des fichiers internes. Ensuite, il ajoute ces extraits au contexte de la requête. Enfin, le modèle rédige sa réponse à partir de ce matériau, plutôt que sur ses seuls paramètres internes.

Dit autrement, le RAG donne au modèle de quoi vérifier avant de parler. Un LLM classique reste bloqué par sa date de coupure et par ce qu’il a mémorisé à l’entraînement ; il ignore donc les documents privés, les bases d’entreprise et l’actualité du jour. Avec le RAG, l’IA ne devient pas omnisciente. Elle devient plus pratique, ce qui est déjà pas mal pour un outil qui a tendance à improviser quand on le laisse seul trop longtemps.

Du labo de recherche aux assistants grand public

La technique est d’abord restée dans le champ académique. Puis le grand public l’a vue apparaître dans des produits comme Perplexity AI, lancé fin 2022, dont la promesse repose sur des réponses accompagnées de sources cliquables. Microsoft a ensuite industrialisé l’approche avec Bing Chat, devenu Copilot, en février 2023, en couplant GPT-4 à une recherche web en temps réel.

À partir de là, le RAG est passé du statut de méthode de recherche à celui de standard industriel. Les grands acteurs l’ont adopté pour les moteurs de recherche génératifs, les assistants intégrés aux suites de productivité et les outils destinés aux entreprises. La logique est séduisante : au lieu de demander au modèle de tout savoir, on lui demande d’aller chercher.

Pourquoi les modèles seuls ne suffisent pas

Akari Asai, dans l’entretien publié par AIhub, résume le problème de départ : les modèles de langage « hallucinent facts, rely on outdated knowledge, and their outputs are often difficult to verify ». Sa recherche sur les Retrieval-Augmented Language Models défend l’idée qu’il faut « moving beyond monolithic LMs toward Augmented LMs ». Autrement dit, faire collaborer le modèle avec d’autres composants au lieu de tout faire reposer sur un seul bloc.

Cette approche répond à une limite très concrète. Même des modèles de plusieurs centaines de milliards de paramètres peinent à restituer correctement des faits rares ou de long tail, c’est-à-dire des informations peu fréquentes dans les données d’entraînement. Le RAG aide à réduire les hallucinations en injectant de l’évidence externe au moment de l’inférence, donc au moment où le modèle répond.

Des gains réels, mais pas un filet de sécurité absolu

Le RAG améliore la précision, mais il ne supprime pas les erreurs. Un modèle peut mal lire un document, mélanger deux sources ou en déformer le sens. Surtout, la recherche elle-même peut échouer : si le bon passage n’est pas retrouvé, la réponse part quand même, à partir de ce qui a été transmis. Les chercheurs parlent alors de silent failure, un échec silencieux qui ne se signale pas de lui-même.

Les travaux d’Akari Asai montrent aussi que la manière d’intégrer la recherche compte autant que la recherche elle-même. Avec Self-RAG, le modèle apprend à décider quand récupérer de l’information, quand générer directement et comment s’autoévaluer. Cette logique est plus souple que la simple concaténation de documents dans un prompt, une méthode longtemps dominante mais assez brutale dans sa façon de traiter le contexte.

Le RAG reste utile là où le contexte doit être à jour

Les fenêtres de contexte des modèles ont beaucoup grandi, certains systèmes pouvant absorber des centaines de milliers de mots. Cela réduit une partie de l’intérêt du RAG pour des corpus déjà disponibles dans le prompt. Pour autant, la méthode garde un avantage clair dès qu’il faut aller chercher une information qui change vite, comme l’actualité, la recherche web ou une base documentaire interne qui n’a pas vocation à être recopiée dans le modèle.

C’est aussi ce qui explique son maintien dans les usages métiers et scientifiques. OpenScholar, présenté par Akari Asai comme un système ouvert de synthèse de littérature scientifique, interroge plus de 45 millions d’articles en libre accès et produit des réponses étayées par des citations. Dans les évaluations citées dans l’entretien, des scientifiques ont préféré ses réponses à celles d’experts humains 51 % du temps, tandis que GPT-4o aurait halluciné des citations dans 78 à 90 % des cas [à vérifier].

Le RAG n’a donc pas disparu dans la montée des modèles toujours plus gros. Il a changé de rôle. D’une astuce pour compenser les limites d’un LLM, il est devenu une architecture de base pour faire parler une IA de façon vérifiable, surtout quand la réponse doit tenir avec une source, une date et un contexte précis.