Structured data

**Notes de Cours : Génération de Données Structurées (JSON, etc. )**

• Problème rencontré : Les modèles de langage (LLM) ont tendance à ajouter des commentaires, des en-têtes ou des formats (ex: json `) même lorsque l'on demande uniquement des données structurées.
• Objectif : Obtenir le contenu brut et précis demandé, sans aucun commentaire ou format additionnel.
• Solution Clé : Combiner un Message Assistant Pré-rempli et une Séquence d'Arrêt (Stop Sequence).

Mécanisme de la Technique :

• Message Assistant Pré-rempli : Il initialise la réponse en simulant le début du format souhaité (ex: json `). Le modèle considère que cette partie est déjà écrite.
• Séquence d'Arrêt : Elle est définie pour détecter une séquence spécifique (ex: `). Dès que le modèle génère cette séquence, la génération est immédiatement interrompue.
• Flux de Travail : Le modèle génère le contenu désiré, et lorsqu'il tente naturellement de fermer le bloc de format (en écrivant la séquence d'arrêt), la génération s'arrête instantanément.

Points Importants à Retenir :

• Portée : Cette technique n'est pas limitée au JSON ; elle peut être utilisée pour tout type de contenu structuré ou spécifique où le commentaire est indésirable.
• Post-traitement : Le résultat brut peut contenir des caractères inutiles (comme des sauts de ligne) qui nécessitent un nettoyage (ex: fonction strip ou JSON. loads).

Takeaways

• Le défi est d'obtenir des données structurées brutes des LLM, sans commentaires ou formats additionnels.
• La solution repose sur la combinaison d'un Message Assistant Pré-rempli et d'une Séquence d'Arrêt.
• Le Message Assistant initialise le format souhaité, tandis que la Séquence d'Arrêt interrompt la génération dès qu'elle est détectée.
• Cette technique est applicable à tout contenu structuré, mais le résultat brut nécessite un post-traitement (nettoyage).