Un modèle de langage général ne connaît pas automatiquement les procédures internes, les contrats à jour ou la documentation technique d’une entreprise. Le RAG, pour Retrieval-Augmented Generation, ajoute une étape de recherche avant la génération de la réponse.
Le fonctionnement en quatre étapes
- Les documents autorisés sont collectés, nettoyés et découpés en passages.
- Ces passages sont indexés afin de pouvoir être retrouvés selon le sens d’une question.
- Lorsqu’un utilisateur pose une question, le système sélectionne les extraits jugés pertinents.
- Le modèle reçoit la question et ces extraits pour formuler une réponse, idéalement accompagnée de références.
Le modèle ne « mémorise » donc pas nécessairement toute la documentation. Il travaille avec un contexte récupéré au moment de la requête.
Les usages les plus adaptés
Le RAG convient aux corpus consultés régulièrement : procédures, modes opératoires, documentation produit, catalogue, questions fréquentes, politiques internes ou comptes rendus structurés. Il peut accélérer la recherche d’une information et proposer une synthèse accessible.
Il est moins adapté lorsque les documents sont contradictoires, mal datés, essentiellement composés d’images ou soumis à des droits complexes que le système ne sait pas reproduire.
Pourquoi la qualité documentaire reste déterminante
Une réponse ne peut pas être plus fiable que les sources retrouvées. Les doublons, anciennes versions et titres imprécis perturbent la recherche. Avant de choisir une base vectorielle, il faut souvent nettoyer les documents, désigner les propriétaires et définir une règle d’archivage.
Les contrôles indispensables
- Sources visibles : chaque réponse importante doit renvoyer au passage d’origine.
- Droits respectés : un utilisateur ne doit pas obtenir par l’assistant un document auquel il n’a normalement pas accès.
- Réponse prudente : le système doit savoir indiquer qu’il ne dispose pas d’éléments suffisants.
- Fraîcheur : l’index doit être mis à jour lorsqu’un document change.
- Évaluation : un jeu de questions réelles permet de mesurer précision, couverture et citations incorrectes.
RAG, recherche classique ou entraînement ?
Une recherche classique est souvent préférable lorsque l’utilisateur veut simplement retrouver un document. Le RAG devient utile lorsqu’il faut rapprocher plusieurs passages ou reformuler l’information. Le fine-tuning sert plutôt à adapter un comportement, un format ou une spécialité du modèle ; ce n’est pas le moyen le plus simple de maintenir une base de connaissances à jour.
Le bon premier pilote
Choisissez un corpus limité, stable et peu sensible. Préparez une cinquantaine de questions réellement posées aux équipes. Comparez les réponses aux sources, mesurez le nombre de questions sans réponse et vérifiez les permissions. Si le système n’affiche pas les références ou invente une réponse lorsque la documentation manque, il n’est pas prêt pour un usage opérationnel.
Le RAG n’est pas une baguette magique ajoutée à un chatbot. C’est d’abord un projet de documentation, de recherche et de contrôle des accès auquel un modèle génératif apporte une interface plus naturelle.
Article informatif. Pour une décision juridique, réglementaire ou de sécurité à fort enjeu, faites valider votre situation par un professionnel compétent.
