Sampling

Samenvatting: Sampling in MCP Servers

Wat is Sampling?

• Sampling is een techniek waarmee een MCP-server de taak van tekstgeneratie (het aanroepen van een taalmodel zoals Claude) deelt met de verbonden client.
• Het verschuift de verantwoordelijkheid voor het aanroepen van het LLM van de server naar de client.

**Vergelijking: Directe Toegang vs. Sampling**

• Optie 1: Directe Toegang (Server → LLM)
• De MCP-server communiceert direct met Claude.
• Nadeel: Voegt veel complexiteit toe aan de MCP-server (code nodig om API-aanroepen te beheren).
• Vereiste: De MCP-server heeft een API-sleutel nodig voor Claude.
• Optie 2: Sampling (Server → Client → LLM)
• De MCP-server vraagt de client om een prompt namens de server uit te voeren.
• De client roept Claude aan en stuurt het resultaat terug naar de server.
• Voordelen:
• Verplaatst de complexiteit naar de client.
• De MCP-server heeft geen API-sleutel nodig.
• Ideaal voor publiekelijk toegankelijke servers (beheert token-kosten).

Werkingsproces van een Tool Call

• Gebruikersquery: De gebruiker vraagt om een onderzoek (bijv. over archeologie).
• Beslissing: Claude besluit dat het een beschikbaar tool (bijv. 'research tool') moet gebruiken.
• Client Actie: De MCP-client vertaalt dit naar een tool-aanvraag en stuurt deze naar de MCP-server.
• Server Actie: De MCP-server voert de tool uit (bijv. verzamelt data van Wikipedia).
• Synthese: De verzamelde data moet worden samengevoegd tot een eindverslag.

Implementatie van Sampling

• Op de Server (Binnen de Tool Functie):
• Roep de functie create message aan.
• Stuur een lijst van berichten die uiteindelijk naar Claude moeten worden doorgegeven aan de client.
• Op de Client:
• Schrijf een specifieke sampling callback.
• Deze callback ontvangt de berichten van de server.
• De callback roept het LLM (Claude) aan, genereert de tekst en retourneert een create message result.

Takeaways

• Sampling verplaatst de verantwoordelijkheid voor tekstgeneratie (LLM-aanroepen) van de MCP-server naar de client.
• Dit elimineert de noodzaak voor de MCP-server om een API-sleutel voor het LLM te bezitten en vermindert servercomplexiteit.
• De implementatie vereist dat de server de client aanroept via een specifieke sampling callback.
• Bij een Tool Call voert de server de tool uit (data verzamelen), terwijl de client de uiteindelijke synthese en LLM-generatie uitvoert.