Le RAG résout un problème précis : donner au modèle le bon contexte au bon moment
Un modèle général ne connaît pas vos procédures internes, vos contrats, vos comptes rendus ou votre documentation à jour. Le RAG — retrieval augmented generation — ajoute une étape de recherche : le système sélectionne des passages pertinents dans un corpus puis les fournit au modèle pour produire la réponse.
Cette architecture permet de mettre à jour la connaissance sans réentraîner le modèle et, surtout, de restituer les sources utilisées. Mais elle ne garantit rien automatiquement. Si la recherche récupère de mauvais passages, la génération partira d’un mauvais contexte.
La chaîne RAG complète
1. Ingestion
Collecter les documents depuis les bonnes sources : fichiers, GED, SharePoint, Drive, wiki, base métier ou API. Il faut également gérer versions, suppressions et mises à jour.
2. Préparation
Extraire proprement le texte, conserver titres, sections, tableaux et métadonnées utiles. Les documents mal structurés produisent souvent une recherche médiocre, même avec un excellent modèle.
3. Découpage
Créer des unités de recherche cohérentes. Un fragment trop court manque de contexte ; un fragment trop long contient trop d’informations. Le découpage doit suivre la structure métier du corpus.
4. Indexation
Créer les représentations nécessaires à la recherche : embeddings, index lexical, métadonnées ou combinaison hybride. Les droits d’accès doivent faire partie de cette architecture.
5. Recherche
Transformer la question, chercher plusieurs candidats, filtrer selon les droits et métadonnées, puis éventuellement reranker les résultats pour garder les passages les plus utiles.
6. Génération
Construire le contexte envoyé au modèle, préciser la consigne, demander de distinguer ce qui vient des sources et ce qui relève d’une synthèse, puis contrôler le format de sortie.
7. Citations
Une réponse interne doit permettre de remonter au document, au passage et idéalement à la version concernée. La citation améliore la confiance et facilite la vérification.
8. Évaluation
Tester un jeu de questions représentatives : retrouve-t-on la bonne source ? La réponse est-elle correcte ? Cite-t-elle le bon passage ? Refuse-t-elle de répondre lorsque l’information n’existe pas ?
Séparer qualité de recherche et qualité de réponse
Lorsqu’un système répond mal, il faut savoir si le problème vient du retrieval ou de la génération. Une métrique unique masque souvent cette distinction.
- Retrieval : le bon document et le bon passage figurent-ils parmi les résultats remontés ?
- Génération : le modèle utilise-t-il correctement ces passages sans inventer ?
- Citations : les sources affichées soutiennent-elles réellement les affirmations ?
- Abstention : le système sait-il indiquer qu’il ne dispose pas de l’information ?
- Expérience : l’utilisateur obtient-il assez vite une réponse qu’il peut vérifier et exploiter ?
Les erreurs les plus fréquentes
Indexer tout sans hiérarchie
Des doublons, anciennes versions et documents non pertinents dégradent la recherche.
Ignorer les droits
Un moteur documentaire doit appliquer les mêmes principes d’accès que les sources d’origine.
Tester uniquement des questions faciles
Il faut intégrer ambiguïtés, formulations indirectes, absence d’information et sources contradictoires.
Optimiser le prompt avant la recherche
Si les bons passages ne sont pas récupérés, améliorer le prompt ne résout pas le problème principal.
Exemples possibles
Un RAG peut servir à interroger une base de procédures qualité, assister des techniciens sur une documentation de maintenance, retrouver des clauses dans des contrats, aider un support interne, préparer une réponse à partir de politiques RH ou fournir un copilote de recherche sur des dossiers projet. Dans chaque cas, les droits, la fraîcheur des documents et la qualité des citations doivent être adaptés au contexte.
Un RAG utile se juge à ce qu’il permet de vérifier
La promesse n’est pas « poser n’importe quelle question à vos documents ». La vraie valeur est de réduire le temps nécessaire pour trouver une information fiable, replacée dans son contexte et reliée à sa source.