Le RAG (Retrieval-Augmented Generation)
Le RAG (Retrieval-Augmented Generation, ou génération augmentée par la recherche) branche un LLM sur vos propres documents. Avant de répondre, le système recherche les passages pertinents et les donne au modèle, qui s'appuie dessus pour rédiger sa réponse.
Pourquoi le RAG
Un LLM ne connaît que ses données d'entraînement : ni vos procédures internes, ni vos contrats, ni ce qui a été publié après son entraînement. Le réentraîner coûte cher et doit être refait à chaque mise à jour. Avec le RAG, les documents restent dans votre base et le modèle les lit au moment de répondre.
Les étapes
En amont, une fois :
- Découpage : les documents sont coupés en passages de quelques paragraphes (chunks).
- Vectorisation : chaque passage est transformé en embedding, un vecteur qui représente son sens.
- Stockage : les vecteurs sont rangés dans une base vectorielle.
À chaque question :
- La question est vectorisée de la même façon.
- On récupère les passages dont le vecteur est le plus proche (similarité cosinus).
- On envoie au LLM la question et ces passages, avec la consigne de répondre à partir d'eux.
Ce que ça apporte en entreprise
- Un assistant qui répond sur la documentation interne, le support client ou une base juridique.
- Des réponses qui citent leurs sources : l'utilisateur peut vérifier.
- Moins d'hallucinations, puisque le modèle s'appuie sur des textes fournis.
Le point faible est la recherche : si les bons passages ne sont pas retrouvés, la réponse sera mauvaise, même avec un excellent modèle. C'est l'objet du RAG avancé.