Multi-turn conversations

Notes de Cours : Gestion du Contexte Conversationnel (API LLM)

• Absence de Mémoire Côté API : Les API (comme Anthropic) ne stockent pas les messages envoyés ni les réponses reçues. Elles ne conservent aucune mémoire des interactions passées.
• Nécessité de Gestion Manuelle : Pour maintenir un flux de conversation (contexte), l'utilisateur doit gérer l'historique manuellement dans son code.
• Principe de la Conversation Contextuelle : Chaque requête de suivi doit inclure la liste complète de tous les messages échangés jusqu'à présent (messages Utilisateur et Assistant).
• Flux de Conversation (Étapes Clés) :
• Envoyer la requête initiale (Message Utilisateur).
• Recevoir la réponse (Message Assistant).
• Ajouter la réponse de l'Assistant à la liste de messages de l'historique.
• Ajouter la nouvelle requête (Message Utilisateur) à l'historique.
• Envoyer la liste complète et mise à jour à l'API.
• Fonctions Utilitaires (Structure du Code) :
• ajouter message utilisateur : Ajoute le prompt de l'utilisateur à la liste.
• ajouter message assistant : Ajoute la réponse du modèle à la liste.
• chat : Fonction principale qui prend l'historique complet et l'envoie à l'API.

Takeaways

• Les API LLM ne possèdent aucune mémoire intrinsèque des interactions passées.
• La gestion du contexte conversationnel doit être effectuée manuellement par le développeur.
• Chaque requête envoyée à l'API doit inclure l'historique complet de tous les messages échangés (Utilisateur et Assistant).
• Le flux de conversation nécessite d'ajouter à la liste de messages à la fois les réponses de l'Assistant et les nouvelles requêtes de l'Utilisateur avant chaque appel.