Text embeddings

Notes de Cours : Recherche Sémantique et Text Embeddings

• Objectif de la Recherche RAG : Après l'extraction des morceaux de texte (text chunks), le système doit trouver les chunks les plus pertinents par rapport à la question de l'utilisateur pour les utiliser comme contexte dans le prompt.
• Problème de Recherche : Ce processus est fondamentalement un problème de recherche.
• Méthode Principale : La manière la plus courante d'implémenter cette recherche est d'utiliser la recherche sémantique.
• Qu'est-ce qu'un Text Embedding ?
• Un text embedding est une représentation numérique de la signification contenue dans un texte.
• Il est généré par un modèle d'embedding (embedding model).
• Le résultat est une longue liste de nombres (le vecteur).
• Interprétation des Nombres :
• Chaque nombre dans l'embedding représente un score pour une certaine qualité ou attribut du texte (ex: sujet, sentiment).
• Note importante : La signification exacte de chaque nombre n'est pas toujours connue ; il faut le considérer comme un score conceptuel.
• Mise en Œuvre (Implémentation) :
• Fournisseur Recommandé : Voyage AI (Anthropic ne fournit pas de génération d'embeddings).
• Configuration : Il faut obtenir une clé API séparée et l'ajouter au fichier . env sous la variable voyage_API_key.
• Processus : La génération des embeddings est un processus rapide et simple. Le défi principal réside dans leur intégration au pipeline RAG.

Takeaways

• L'objectif de la recherche RAG est de trouver les morceaux de texte les plus pertinents pour servir de contexte à la question de l'utilisateur.
• La méthode principale pour résoudre ce problème de recherche est la recherche sémantique.
• Un text embedding est une représentation numérique (un vecteur) de la signification d'un texte, générée par un modèle d'embedding.
• Les nombres dans un embedding représentent des scores conceptuels (ex: sujet, sentiment) et non des valeurs fixes et définies.
• Pour l'implémentation, Voyage AI est un fournisseur recommandé pour la génération d'embeddings.