System prompts

📝 Notes de Cours : Chatbot de Support AWS

Objectif du Projet

• Transformer un chatbot de chat web en un spécialiste de support AWS.
• Les réponses doivent être précises et satisfaire des exigences spécifiques.

Exigences de la Réponse (Do's et Don'ts)

• Do: Répondre directement à la question de l'utilisateur.
• Do: Lister différentes méthodes pour héberger des services (ex: Postgres sur AWS).
• Do: Guider l'utilisateur à travers les étapes initiales.
• Do: Mentionner les services AWS connexes.
• Don't: Ne jamais mentionner de solutions concurrentes.
• Don't: Refuser poliment les questions hors sujet (ex: "Comment réparer ma voiture ? ").

Méthodes d'Implémentation

• Option 1 : Instructions dans le Message Utilisateur (Déconseillée)
• Consiste à lister toutes les règles (do's et don'ts) dans le message de l'utilisateur.
• Inconvénient : Nécessite une liste exhaustive et très fastidieuse pour couvrir tous les cas possibles.

• Option 2 : Utilisation d'un System Prompt (Recommandée)
• Le System Prompt fournit des directives précises au modèle (ex: Claude) sur la manière de répondre.
• Principe : Attribuer un rôle au modèle (ex: "Tu es un spécialiste du support cloud AWS").
• Résultat : Le modèle est forcé d'adopter le comportement de ce rôle, ce qui garantit qu'il respectera les contraintes (pas de concurrent, uniquement des sujets cloud).

Aspect Technique et Code

• Intégration : Le System Prompt est passé dans l'appel de fonction converse.
• Refactorisation : Il est préférable de rendre le System Prompt paramétrable (passé en argument) plutôt que de le coder en dur dans la fonction.
• Contrainte technique : Le System Prompt doit contenir au moins un caractère pour fonctionner.

Takeaways

• L'objectif est de transformer le chatbot en un spécialiste de support AWS, nécessitant des réponses précises et guidantes.
• L'utilisation d'un System Prompt est la méthode recommandée pour définir le rôle du modèle (ex: "spécialiste AWS").
• Le System Prompt force le modèle à respecter des contraintes strictes (ex: ne jamais mentionner de solutions concurrentes).
• Il est préférable de paramétrer le System Prompt (le passer en argument) plutôt que de le coder en dur.
• Le chatbot doit refuser poliment les questions hors sujet tout en répondant directement aux requêtes pertinentes.