Le RAG, pour que l’IA réponde avec vos documents

Le mécanisme

On cherche d’abord, on répond ensuite.

RAG veut dire retrieval augmented generation, la génération augmentée par la recherche. Le principe tient en deux temps. D’abord la recherche : votre question sert à retrouver, dans vos propres documents, les quelques passages qui parlent du sujet. Ensuite la réponse : ces passages sont donnés au modèle, qui rédige à partir d’eux et indique d’où ils viennent.

L’ordre fait tout. Sans cette recherche préalable, le modèle répond avec ce qu’il a appris pendant son entraînement, où il n’y a rien de votre contrat cadre, de vos procédures ni de vos comptes rendus. Avec elle, il répond sur vos documents à vous, et chaque affirmation peut être remontée à sa source pour être vérifiée. C’est ce qui rend utilisable une IA qui doit parler de vos tarifs, de vos garanties ou de votre matériel.

Ce que le RAG ne fait pas : il ne rend pas le modèle infaillible. Si le bon passage n’est pas retrouvé, ou si deux versions d’une même procédure traînent dans vos dossiers, la réponse s’en ressent. La qualité d’un RAG se joue autant sur le rangement de vos documents que sur le choix du modèle.