Multi-Turn conversations

📝 Notes de Cours : Gestion du Contexte avec l'API Anthropic

Concept Clé : L'API est sans état (Stateless)

• L'API Anthropic et le Cloud ne stockent aucun message envoyé ni aucune réponse reçue.
• Par conséquent, l'API n'a pas de mémoire des conversations passées.

Méthode pour Maintenir le Contexte

• Pour simuler une conversation multi-messages (maintenir un flux ou un contexte), l'utilisateur doit gérer l'historique manuellement dans son code.
• Règle essentielle : Chaque requête de suivi doit inclure la liste complète de tous les messages échangés jusqu'à présent.

Flux de Conversation (Processus)

• Requête Initiale : Envoyer le premier message de l'utilisateur à l'API.
• Réception de la Réponse : L'API renvoie une réponse de l'assistant.
• Mise à Jour de l'Historique : Ajouter la réponse de l'assistant à la liste des messages de la conversation.
• Requête de Suivi : Ajouter le nouveau message de l'utilisateur à la liste, puis envoyer la liste complète (historique + nouveau message) à l'API.
• Itération : Répéter l'étape 3 et 4 pour continuer la conversation.

Outils de Programmation (Fonctions Utilitaires)

• Il est recommandé d'utiliser des fonctions utilitaires pour structurer et maintenir l'historique :
• ajouter message utilisateur : Ajoute un message avec le rôle "user".
• ajouter message assistant : Ajoute une réponse avec le rôle "assistant".
• chat : Fonction principale qui prend la liste complète des messages en entrée et renvoie le contenu de la réponse de l'assistant.

Takeaways

• L'API Anthropic est sans état et ne conserve aucune mémoire des conversations passées.
• L'utilisateur doit gérer manuellement l'historique de la conversation dans son code.
• Règle essentielle : Chaque requête de suivi doit inclure la liste complète de tous les messages échangés jusqu'à présent.
• Le flux de conversation est itératif : Réception de la réponse de l'assistant → Mise à jour de l'historique → Envoi de la liste complète à l'API.
• Il est recommandé d'utiliser des fonctions utilitaires pour structurer l'historique en distinguant les rôles "user" et "assistant".