Multi-Turn conversations

📝 Notes d'étude : Gestion du Contexte dans Bedrock

Concept fondamental :

• Bedrock et le Cloud ne stockent aucune conversation. Les messages envoyés ou reçus ne sont pas conservés par le service.

Méthode pour maintenir une conversation (Multi-turn conversation) :

• Gestion manuelle : Le développeur doit maintenir une liste de tous les messages échangés dans son code.
• Transmission du contexte : Cette liste complète des messages doit être fournie à l'API avec chaque requête de suivi.

Processus de conversation (Workflow) :

• Initialisation : Commencer avec une liste de messages vide.
• Premier tour : Ajouter le message utilisateur initial à la liste.
• Appel API : Envoyer la liste à l'API pour obtenir une réponse de l'assistant.
• Mise à jour : Ajouter la réponse de l'assistant à la liste des messages.
• Tour suivant : Ajouter le nouveau message utilisateur à la liste.
• Répétition : Envoyer la liste mise à jour à l'API pour maintenir le contexte.

Règle cruciale des rôles :

• Les rôles doivent toujours s'alterner dans la liste des messages.
• Structure requise : Utilisateur → Assistant → Utilisateur → Assistant.
• Il est interdit d'avoir deux messages du même rôle consécutivement.

Takeaways

• Bedrock et le Cloud ne stockent aucune conversation ; la gestion de l'historique est manuelle.
• Le développeur doit maintenir une liste complète de tous les messages échangés dans son code.
• Cette liste complète des messages doit être fournie à l'API avec chaque requête de suivi pour maintenir le contexte.
• Les rôles doivent s'alterner strictement dans la liste des messages (Utilisateur → Assistant → Utilisateur → Assistant).