Multi-Turn conversations with tools

Studie-opmerkingen: Conversatie met Tool Use

Probleemstelling

• Eerdere implementaties faalden bij eenvoudige vragen (zonder tool-gebruik) omdat de conversatielus niet correct controleerde of een tool-aanvraag nodig was.

Verbetering van de chat Functie

• De chat functie is aangepast om meer informatie te retourneren.
• De functie retourneert nu een dictionary met:
• parts: De lijst met de ontvangen delen.
• stop_reason: De reden waarom de respons stopte (cruciaal voor de logica).
• text: De samengevoegde tekst uit alle parts (ongeacht of het een tekst- of tool-part is).

Implementatie van run_conversation

• Er is een nieuwe functie (run_conversation) geïntroduceerd om een meer-beurtige conversatie met tool-gebruik te beheren.
• Kernlogica (While Loop):
• Start een oneindige lus (while True).
• Roep chat aan met de huidige berichten en tools.
• Voeg de respons van de assistent (de parts) toe aan de berichtgeschiedenis.
• Controleer de stop_reason:
• Als stop_reason NIET gelijk is aan "tool use" → Breek de lus (de conversatie is afgerond).
• Als stop_reason WEL "tool use" is → Ga door naar de tool-uitvoering.
• Voer de benodigde tools uit (run_tools).
• Voeg het resultaat van de tool toe als een gebruikersbericht aan de geschiedenis.
• Herhaal de lus.

Belangrijkste Concept

• Door de stop_reason te controleren, kan het systeem onderscheid maken tussen een respons die een tool vereist (en dus door de lus moet) en een respons die een definitief antwoord geeft (en de lus moet beëindigen).
• Dit ontwerp ondersteunt zowel vragen die tools vereisen als vragen die direct een antwoord geven.

Takeaways

• De eerdere conversatielus faalde omdat deze niet correct kon controleren of een tool-aanvraag nodig was.
• De chat functie is verbeterd en retourneert nu een stop_reason, wat cruciaal is voor de conversatielogica.
• De functie run_conversation beheert de meer-beurtige conversatie via een oneindige while True lus.
• De kernlogica controleert de stop_reason: als deze "tool use" is, wordt de tool uitgevoerd en de lus wordt herhaald; anders wordt de lus beëindigd.
• Dit ontwerp zorgt ervoor dat het systeem onderscheid maakt tussen een definitief antwoord en een vereiste tool-uitvoering.