Contextual retrieval

🇫🇷 Notes d'Étude : Récupération Contextuelle (Contextual Retrieval)

Objectif : Améliorer la précision des pipelines RAG (Retrieval-Augmented Generation).

Problème à résoudre : Le découpage (chunking) d'un document source détruit le contexte global, car chaque morceau (chunk) est isolé.

Méthode de Récupération Contextuelle :

• Principe : Ajouter une étape de pré-traitement avant d'indexer chaque chunk.
• Processus :
• Prendre un chunk individuel et le document source complet.
• Soumettre cette paire à un Modèle de Langage (LLM, ex: Claude) via un prompt.
• Demander à l'LLM de générer un texte supplémentaire pour situer le chunk dans le contexte du document global.
• Résultat : Création d'un "chunk contextualisé" (Contexte généré + Texte original du chunk).
• Ce chunk contextualisé est ensuite inséré dans l'index vectoriel et l'index BM25.

Gestion des Documents Volumineux (Cas où le document source est trop grand) :

• Si le document source ne tient pas dans le prompt de l'LLM, on utilise une stratégie de réduction du contexte :
• Chunks de démarrage : Inclure les premiers chunks du document (souvent pour fournir un résumé ou un aperçu général).
• Chunks précédents : Inclure les chunks situés juste avant le chunk cible (pour fournir le contexte local immédiat).
• Priorité : Le contexte est réduit, mais les chunks de démarrage et précédents sont jugés plus importants que les chunks intermédiaires.

Avantages :

• Augmente la capacité du système à relier les informations entre différentes sections du document.
• Améliore significativement les résultats de récupération, surtout pour les documents complexes.

Takeaways

• La Récupération Contextuelle vise à améliorer la précision des pipelines RAG en palliant la perte de contexte causée par le découpage (chunking) des documents.
• Le processus implique d'utiliser un LLM pour générer un texte supplémentaire qui situe chaque chunk dans le contexte du document source complet.
• Le résultat est un "chunk contextualisé" (Contexte généré + Texte original) qui est ensuite inséré dans l'index vectoriel et l'index BM25.
• Pour les documents trop volumineux, une stratégie de réduction du contexte est utilisée, privilégiant les chunks de démarrage et les chunks précédents.
• Cette méthode augmente la capacité du système à relier les informations entre les différentes sections d'un document complexe.