Structured data exercise

Notes d'étude : Utilisation des Séquences d'Arrêt et du Pré-remplissage (Message Prefilling)

• Objectif principal : Contrôler la sortie d'un modèle pour obtenir un format précis (ex. : plusieurs commandes dans un seul bloc) sans commentaires ni explications supplémentaires.
• Outils utilisés :
• Pré-remplissage (Message Prefill) : Fournir une entrée initiale au modèle pour guider sa réponse.
• Séquence d'arrêt (Stop Sequence) : Indiquer au modèle quand il doit s'arrêter de générer du texte.
• Méthode initiale (Bloc de code) :
• Utiliser trois accents graves (`) comme pré-remplissage et comme séquence d'arrêt pour forcer le modèle à générer un bloc de code.
• Problème des identifiants de langage :
• Lorsque le modèle détecte des accents graves (), il peut automatiquement ajouter un identifiant de langage (ex. : bash`) pour le formatage syntaxique.
• Solution : Inclure explicitement l'identifiant de langage dans le pré-remplissage (ex. : bash `) pour éviter que le modèle n'en ajoute un par défaut.
• Amélioration de la fiabilité (Guidage avancé) :
• Le pré-remplissage n'est pas limité aux caractères de formatage. Il peut être utilisé pour donner des instructions complexes.
• Stratégie : Ajouter des instructions claires dans le pré-remplissage (ex. : "Voici les trois commandes dans un seul bloc sans aucun commentaire") pour garantir la structure et le contenu souhaités.
• Résultats attendus :
• Un pré-remplissage bien structuré → une sortie fiable, concise et formatée selon les exigences.

Takeaways

• Le pré-remplissage (Prefill) et la séquence d'arrêt (Stop Sequence) permettent de contrôler précisément le format de sortie d'un modèle.
• Pour éviter que le modèle n'ajoute automatiquement un identifiant de langage, il est nécessaire de l'inclure explicitement dans le pré-remplissage (ex. : bash `).
• Le pré-remplissage ne se limite pas au formatage ; il peut être utilisé pour donner des instructions complexes et structurées au modèle.
• Une structure de pré-remplissage bien définie est essentielle pour obtenir une sortie fiable, concise et conforme aux exigences.