Controlling model output

📝 Notes de Révision : Influencer la Sortie de Claude

💡 Techniques d'Influence sur la Sortie

Il existe deux méthodes principales pour diriger ou influencer la réponse de Claude :

• Pré-remplissage des messages de l'assistant (Pre-filling Assistant Messages)
• Séquences d'arrêt (Stop Sequences)

---

☕ 1. Pré-remplissage des Messages de l'Assistant

Cette technique permet de forcer Claude à adopter une position ou à commencer sa réponse d'une certaine manière.

• Mécanisme : Ajouter un message de type "Assistant" (Assistant Message) à la liste des messages avant la requête utilisateur finale.
• Principe : Claude considère que ce texte a déjà été écrit par l'assistant et continue sa réponse à partir de la fin de ce texte.
• Objectif : Orienter fortement la réponse (ex: forcer Claude à soutenir le café ou le thé).
• Attention : Le texte pré-rempli est souvent incomplet (ex: "Le café est meilleur parce que... ") et doit être intégré/complété par le système.

🛑 2. Séquences d'Arrêt (Stop Sequences)

Cette technique permet de contrôler la longueur de la réponse générée.

• Mécanisme : Fournir une chaîne de caractères spécifique (ou une séquence) comme séquence d'arrêt à l'API.
• Principe : Dès que Claude génère cette chaîne, la génération s'arrête immédiatement.
• Objectif : Limiter la sortie de Claude à un point précis ou couper la génération avant qu'elle ne soit terminée.
• Exemple : Si la séquence d'arrêt est "5", la réponse s'arrêtera dès que le chiffre 5 sera généré.

Takeaways

• Il existe deux méthodes principales pour influencer la sortie de Claude : le pré-remplissage des messages de l'assistant et les séquences d'arrêt.
• Le pré-remplissage consiste à ajouter un message de type "Assistant" avant la requête utilisateur pour forcer Claude à adopter une position ou une direction spécifique.
• Le texte pré-rempli est souvent incomplet et nécessite une intégration ou une complétion par le système.
• Les séquences d'arrêt permettent de contrôler la longueur de la réponse en stoppant immédiatement la génération dès qu'une chaîne de caractères spécifique est produite.