Multi-turn conversations

Kernconcept: Contextbeheer in API-conversaties

• Geen Geheugen van de API: De Anthropic API en Cloud slaan geen verzameling van eerdere berichten op. Ze hebben geen ingebouwd 'geheugen' van eerdere interacties.
• Handmatig Context Beheren: Om een meervoudige, contextuele conversatie (chatflow) te creëren, moet de gebruiker de conversiegeschiedenis handmatig in de code bijhouden.
• Het Proces:
• De volledige conversiegeschiedenis (een lijst van alle eerdere gebruikersvragen én alle antwoorden van de assistent) moet bij elke nieuwe aanvraag worden meegegeven.
• Dit zorgt ervoor dat het model de volledige context van het gesprek heeft om een relevant vervolgantwoord te geven.
• Stappen voor een Conversatie:
• Begin met een lege lijst van berichten.
• Voeg de initiële gebruikersvraag toe aan de lijst.
• Stuur de lijst naar de API → Ontvang het antwoord van de assistent.
• Voeg het antwoord van de assistent toe aan de lijst.
• Voeg de volgende gebruikersvraag toe aan de lijst.
• Stuur de volledige, bijgewerkte lijst naar de API → Ontvang het contextuele vervolgantwoord.

Belangrijke Hulpprocessen (Helper Functions):

• add user message: Voegt een nieuwe vraag van de gebruiker toe aan de geschiedenislijst.
• add assistant message: Voegt het antwoord van het model toe aan de geschiedenislijst.
• chat: De functie die de volledige geschiedenislijst naar de API stuurt en het antwoord teruglevert.

Takeaways

• De API heeft geen ingebouwd geheugen; het slaat eerdere interacties niet op.
• Contextbeheer moet handmatig door de gebruiker worden beheerd om een conversatie mogelijk te maken.
• Bij elke nieuwe aanvraag moet de volledige conversiegeschiedenis (alle eerdere gebruikersvragen en assistentantwoorden) naar de API worden gestuurd.
• Het proces verloopt iteratief: de geschiedenislijst wordt bijgewerkt met de nieuwe vraag en het ontvangen antwoord voordat deze opnieuw naar de API wordt gestuurd.
• Hulpprocessen zoals add user message en add assistant message worden gebruikt om de geschiedenislijst bij te houden.