Making a request

📝 Notes de Révision : Requêtes API AWS Bedrock

Objectif Principal

• Effectuer une première requête API vers AWS Bedrock pour générer du texte.

Éléments Nécessaires pour la Requête Pour interagir avec Bedrock, trois éléments sont indispensables :

• Client : Un client configuré via le module Python Boto3.
• Le client doit être initialisé pour se connecter au Bedrock runtime et spécifier une région (ex: US West 2).
• ID de Modèle / Profil d'Inférence : L'identifiant du modèle à exécuter.
• Message Utilisateur : Un objet formaté spécifiquement contenant le texte à soumettre au modèle.

Gestion des Modèles et des Régions

• Problème : Les IDs de modèles sont spécifiques à une région AWS. Tous les modèles ne sont pas disponibles dans toutes les régions (ex: US East 1).
• Solution : Profil d'Inférence (Inference Profile)
• Un profil d'inférence est utilisé pour le routage automatique des requêtes.
• Au lieu d'utiliser l'ID de modèle direct, on utilise l'ID du profil d'inférence.
• AWS redirige automatiquement la requête vers la région où le modèle est garanti d'être hébergé.

Structure du Message Utilisateur

• Le message est un objet (dictionnaire Python) avec une structure stricte.
• Rôle : Doit toujours être défini comme "user".
• Contenu : Contient une propriété content qui est une liste.
• Cette liste contient un dictionnaire imbriqué avec la valeur text (le texte que vous envoyez au modèle).
• Note : La propriété content est une liste pour permettre l'ajout futur de plusieurs types de données (ex: texte + image) dans un seul message.

Exécution de la Requête

• Appel : Utiliser la méthode client. converse().
• Paramètres :
• modelId (ou l'ID du profil d'inférence).
• messages (la liste contenant le message utilisateur).
• Extraction du Texte Généré :
• Le texte de réponse se trouve dans la structure : Response. output. message. content[0]. text.

Types de Messages

• Message Utilisateur (User Message) : Contient le texte d'entrée (Rôle : "user").
• Message Assistant (Assistant Message) : Contient le texte généré par le modèle (Rôle : "assistant").
• Similitude : Les deux types de messages possèdent une propriété content qui est une liste.

Takeaways

• Pour interagir avec Bedrock, il est nécessaire d'utiliser un client Boto3, un ID de modèle ou un Profil d'Inférence, et un message utilisateur structuré.
• Les Profil d'Inférence sont essentiels car ils permettent le routage automatique des requêtes, contournant la dépendance régionale des IDs de modèles.
• Le message utilisateur doit être un objet avec le rôle "user" et le contenu doit être une liste contenant un dictionnaire avec la propriété text.
• L'exécution de la requête est effectuée en utilisant la méthode client. converse().
• Les types de messages principaux sont "user" (entrée) et "assistant" (réponse), tous deux utilisant une structure de contenu basée sur une liste.