Text embeddings

Lernnotizen: Semantische Suche und Text-Embeddings

RAG-Pipeline (Retrieval-Augmented Generation)

• Ziel: Nach der Extraktion von Text-Chunks muss das System auf eine Benutzeranfrage warten.
• Aufgabe: Es muss eine bestimmte Anzahl relevanter Text-Chunks aus dem Dokument finden, um sie als Kontext in den Prompt einzufügen.
• Lösung: Dieser Prozess wird als Suchproblem betrachtet und wird typischerweise durch Semantische Suche (Semantic Search) implementiert.

Text-Embeddings

• Definition: Ein Text-Embedding ist eine numerische Darstellung der Bedeutung eines Textes.
• Erzeugung: Embeddings werden durch ein spezielles Embedding-Modell generiert.
• Ergebnis: Das Modell gibt eine lange Liste von Zahlen aus, welche das Embedding darstellt.
• Wertebereich: Die Zahlen innerhalb eines Embeddings können von minus eins bis plus eins reichen.
• Interpretation: Jede Zahl in einem Embedding repräsentiert einen Score für eine bestimmte Qualität des Eingabetextes (obwohl die genaue Bedeutung dieser Scores nicht bekannt ist).

Technische Umsetzung

• Modell: Es werden dedizierte Modelle zur Erzeugung von Text-Embeddings verwendet (Beispiel: text-embedding-005).
• Werkzeuge: Zur Nutzung dieser Modelle wird das Vertex SDK benötigt.
• Prozess: Der Text wird durch das Embedding-Modell geleitet, um die numerische Repräsentation (das Embedding) zu erhalten.

Takeaways

• Die RAG-Pipeline nutzt die Semantische Suche, um relevante Text-Chunks basierend auf einer Benutzeranfrage zu finden.
• Ein Text-Embedding ist eine numerische Darstellung der Bedeutung eines Textes.
• Ein Embedding-Modell generiert diese Darstellung als lange Liste von Zahlen, deren Wertebereich von minus eins bis plus eins reicht.
• Die technische Umsetzung erfordert dedizierte Embedding-Modelle und das Vertex SDK.