Implementing the RAG flow

RAG Workflow: Belangrijke Concepten

• Doel: Het implementeren van de volledige RAG (Retrieval-Augmented Generation) flow met behulp van een Vector Database.
• Stap 1: Chunking (Opsplitsen)
• De brontekst (bijv. report. md) wordt gelezen en gesplitst in kleinere stukken (chunks), idealiter op basis van secties.
• Stap 2: Embedding Generatie
• Elke chunk wordt omgezet in een numerieke representatie, een zogenaamde embedding.
• Stap 3: Vector Store Creëren (Indexering)
• De vector store wordt geïnitialiseerd.
• Cruciaal: Voor elke chunk en zijn bijbehorende embedding wordt een record in de store geplaatst. Dit record bevat zowel de embedding als de originele tekst van de chunk.
• Reden: De embedding zelf is niet zinvol voor de ontwikkelaar; de bijbehorende tekst is nodig voor de uiteindelijke output.
• Stap 4: Query Embedding
• Wanneer een gebruiker een vraag stelt, wordt deze vraag ook omgezet in een embedding (de 'user embedding').
• Stap 5: Retrieval (Zoeken)
• De vector store wordt geraadpleegd met de user embedding.
• Het doel is om de meest relevante chunks te vinden die het dichtst bij de query-embedding liggen.
• De zoekopdracht kan een limiet hebben (bijv. de top 2 meest relevante chunks).
• Resultaat: De zoekopdracht retourneert de relevante documentinhoud en de afstand (bijv. cosinusafstand) tussen de query en de gevonden chunks.

Takeaways

• De RAG-workflow splitst brontekst op in chunks en zet deze om in numerieke embeddings.
• De Vector Store indexert deze embeddings en slaat de bijbehorende originele tekst op.
• Bij een gebruikersvraag wordt deze ook een embedding, die vervolgens de meest relevante chunks zo zoekt.
• Het doel van de retrieval is het terugvinden van de tekst die het dichtst bij de query-embedding ligt.