Contextual retrieval

📝 Notes de Cours : Récupération Contextuelle (Contextual Retrieval)

Objectif : Améliorer la précision du pipeline de Génération Augmentée par la Récupération (RAG).

🧠 Concept Clé

• Problème du Chunking : Lorsque le document source est divisé en morceaux (chunks), chaque morceau individuel perd le contexte global du document original.
• Solution : La Récupération Contextuelle ajoute une étape de prétraitement avant l'indexation pour enrichir chaque morceau.

⚙️ Processus de Contextualisation

• Mécanisme : Utiliser un Grand Modèle de Langage (LLM, ex: Claude) pour générer du contexte pour chaque morceau.
• Entrée du LLM :
• Le morceau de texte individuel.
• Le contenu du document source global (ou une sélection pertinente).
• Sortie du LLM : Un texte supplémentaire décrivant la position ou le rôle du morceau dans le document (ex: "Ceci est une section de rapport plus vaste... ").
• Résultat : Création d'un morceau contextualisé (Contexte généré → Texte original).
• Indexation : Ce morceau contextualisé est ensuite utilisé comme entrée pour les index de vecteurs et BM25.

📏 Gestion des Documents Volumineux

• Contrainte : Si le document source est trop grand pour être inséré dans un seul prompt, il faut adapter la stratégie.
• Stratégie de Réduction : Au lieu d'utiliser le document entier, fournir un mélange de morceaux :
• Morceaux de démarrage (Starter Chunks) : Les premiers morceaux du document (souvent l'abstract ou le résumé) pour donner le contexte général.
• Morceaux locaux : Les morceaux situés juste avant le morceau cible pour fournir un contexte immédiat.
• Objectif : Réduire la quantité de texte envoyée au LLM tout en maximisant la pertinence contextuelle.

Takeaways

• Le découpage (chunking) des documents fait perdre le contexte global, ce que la Récupération Contextuelle vise à corriger.
• Le processus utilise un LLM pour enrichir chaque morceau de texte en générant un contexte descriptif (sa position ou son rôle).
• Le résultat est un morceau contextualisé (Contexte généré → Texte original) qui est ensuite indexé.
• Pour les documents volumineux, la stratégie consiste à combiner des morceaux de démarrage (contexte général) et des morceaux locaux (contexte immédiat).