Sampling

📝 Notes de Cours : Le Concept de Sampling

Définition et Objectif

• Sampling : Technique permettant à un serveur (MCP) d'accéder à un modèle de langage (LLM, ex: Claude) en déléguant l'exécution de la requête à un client connecté.
• Principe clé : Déplacer la responsabilité de l'appel au LLM du serveur vers le client.
• Cas d'usage principal : Indispensable pour construire un serveur MCP accessible au public, afin de ne pas exposer de clés API et de contrôler les coûts de jetons.

Architecture de Base

• Composants : Application (ex: Next. js) → Client MCP → Serveur MCP → Outils (ex: Recherche).
• Flux de travail :
• L'utilisateur soumet une requête (ex: "Rechercher l'archéologie").
• Claude décide d'utiliser un outil (ex: Outil de recherche).
• Le Client MCP traduit cette décision en une requête d'appel d'outil et l'envoie au Serveur MCP.
• Le Serveur MCP exécute l'outil (ex: requêtes à Wikipedia).
• Le contenu est ensuite synthétisé pour l'utilisateur.

Comparaison des Méthodes de Synthèse

• Option 1 : Accès direct au LLM par le Serveur MCP
• Le Serveur MCP appelle directement Claude pour résumer les résultats de la recherche.
• Avantages : Fonctionne.
• Inconvénients : Ajoute une complexité importante au Serveur MCP (code pour appeler/extraire le texte) et nécessite une clé API sur le serveur.
• Option 2 : Utilisation du Sampling (Méthode recommandée)
• Le Serveur MCP demande au Client d'exécuter un prompt en son nom.
• Le Client MCP envoie le prompt à Claude et renvoie le résultat au Serveur MCP.
• Avantages :
• Déplace la complexité vers le Client MCP.
• Le Serveur MCP n'a pas besoin d'une clé API pour Claude.
• Sécurité accrue pour les serveurs publics (contrôle des coûts).

Implémentation du Sampling

• Côté Serveur (dans la fonction d'outil) :
• Appeler la fonction create message.
• Passage d'une liste de messages à transférer au Client.
• Côté Client :
• Implémenter un sampling callback.
• Ce callback reçoit les messages du serveur.
• Il est responsable de :
• Appeler le LLM (Claude) pour générer le texte.
• Retourner un résultat de type create message.

Takeaways

• Le Sampling est une technique qui déplace la responsabilité de l'appel au LLM du serveur vers le client connecté.
• Son objectif principal est de permettre la création de serveurs MCP publics en assurant la sécurité (ne pas exposer les clés API) et le contrôle des coûts.
• Contrairement à l'accès direct, le Sampling permet au Serveur MCP de fonctionner sans avoir besoin d'une clé API pour le LLM.
• L'implémentation repose sur un sampling callback côté Client, qui est responsable d'appeler le LLM et de renvoyer le résultat au serveur.