RAG avancé : recherche hybride et reranking
La recherche hybride et le reranking améliorent l'étape de recherche d'un RAG. La recherche hybride combine recherche par mots-clés et recherche par le sens ; le reranking reclasse ensuite les meilleurs résultats avec un modèle plus précis.
Les limites de la recherche vectorielle seule
Les embeddings capturent bien le sens général : « congés payés » retrouve un passage qui parle de « vacances annuelles ». Mais ils gèrent mal les termes exacts : une référence produit, un numéro d'article de loi, un nom propre, un acronyme interne. Pour ces requêtes, la recherche par mots-clés fait mieux.
La recherche hybride
On lance deux recherches en parallèle :
- une recherche lexicale, par exemple BM25, l'algorithme classique des moteurs de recherche, qui compte les mots en commun en tenant compte de leur rareté ;
- une recherche vectorielle, qui compare le sens.
Les deux listes sont ensuite fusionnées. Une méthode courante, la Reciprocal Rank Fusion, combine des scores calculés à partir du rang de chaque passage dans chaque liste : un passage bien classé par les deux méthodes remonte en tête. Concrètement, chaque passage reçoit la somme de 1/(60 + son rang) dans chaque liste : pas besoin de comparer des scores de nature différente, ni d'entraîner un modèle.
Le reranking
On prend les 20 à 50 premiers passages et on les soumet à un modèle de reranking, souvent un cross-encoder. Les embeddings sont calculés séparément pour la question et pour chaque passage ; le reranker, lui, lit la question et le passage ensemble et note leur pertinence. C'est plus précis, mais trop lent pour toute la base : d'où ce fonctionnement en deux temps.
Le résultat
Le LLM ne reçoit que les quelques passages les mieux notés : moins de bruit dans le contexte, des réponses plus justes et un coût par requête plus faible. Envoyer moins mais mieux compte aussi pour une autre raison, détaillée dans la fiche Lost in the middle.