Text embeddings

Notes de Cours : Recherche Sémantique et Embeddings

**I. Le Processus de Recherche dans le Pipeline RAG**

• Objectif : Après l'extraction des morceaux de texte (chunks), le système doit trouver les chunks les plus pertinents par rapport à la question de l'utilisateur.
• Nature du Problème : Il s'agit d'un problème de recherche.
• Méthode Principale : La recherche sémantique (Semantic Search).

**II. Les Embeddings de Texte (Text Embeddings)**

• Définition : Un embedding est une représentation numérique du sens contenu dans un texte.
• Génération : Ils sont créés par un modèle d'embedding (Embedding Model).
• Format de Sortie : Le modèle produit une longue liste de nombres (l'embedding).
• Plage des Valeurs : Les nombres peuvent varier de moins un à un.
• Interprétation :
• Chaque nombre représente un score pour une certaine qualité ou caractéristique du texte (ex: sujet, sentiment).
• Note Importante : La signification exacte de chaque nombre individuel n'est pas connue ; ces interprétations sont des hypothèses utiles.

**III. Mise en Œuvre Technique**

• Outil : Utilisation du Vertex SDK.
• Modèle Spécifique (Vertex AI) : Le modèle dédié à la génération d'embeddings est text embedding 005.
• Fonction Clé : Une fonction d'aide (helper function) est utilisée pour passer le texte au modèle et retourner l'embedding.

Takeaways

• La recherche sémantique est la méthode principale utilisée pour trouver les morceaux de texte les plus pertinents dans le pipeline RAG.
• Un embedding est une représentation numérique du sens d'un texte, générée par un modèle d'embedding.
• Ces embeddings sont des listes de nombres (vecteurs) dont les valeurs peuvent varier de moins un à un.
• Bien que les nombres représentent des scores pour des caractéristiques du texte (sujet, sentiment), leur signification exacte n'est pas connue.
• L'implémentation technique utilise des outils spécifiques comme le Vertex SDK et le modèle text embedding 005.