Introducing tool use

Notes d'étude : Utilisation des Outils (Tool Use)

• Définition : L'utilisation des outils permet à un modèle (comme Claude) d'accéder à des informations provenant du monde extérieur (exemples : API météo, bases de données en temps réel).
• Limitation des LLM : Par défaut, les modèles ne possèdent que les informations présentes dans leurs données d'entraînement. Ils ne sont pas informés des événements très récents.
• Exemple : Un LLM ne peut pas fournir la météo actuelle de San Francisco.
• Flux Général de l'Utilisation des Outils :
• Requête Initiale : L'utilisateur envoie une question ou une tâche à Claude.
• Identification du Besoin : Claude analyse la requête et détermine s'il a besoin de données externes.
• Demande de Données : Claude renvoie une réponse spécifiant les informations exactes dont il a besoin.
• Exécution du Code (Serveur) : Un code externe (sur le serveur) récupère les données demandées (ex. : via une API tierce).
• Réponse de Suivi : Le serveur renvoie les données collectées à Claude.
• Réponse Finale : Claude génère une réponse finale, enrichie par les données externes.
• Exemple (Météo) :
• L'utilisateur demande la météo.
• Claude identifie la nécessité d'un outil météo.
• Le code appelle l'API météo.
• Les données météo sont renvoyées à Claude.
• Claude fournit la réponse complète à l'utilisateur.
• Note sur l'Implémentation : Le flux conceptuel est souvent différent de la structure du code réel. L'implémentation nécessite de lier plusieurs composants : fonctions d'outils, schémas JSON (JSON schema spec) et gestion des résultats des outils.

Takeaways

• L'utilisation des outils permet aux LLM d'accéder à des informations externes et en temps réel (ex. : API météo).
• Par défaut, les LLM sont limités aux données de leur entraînement et ne sont pas informés des événements très récents.
• Le flux de travail implique que le LLM identifie le besoin, un code externe exécute la requête, et renvoie les données.
• La réponse finale est générée par le LLM après avoir intégré les données collectées par l'outil.