Making a request

AWS Bedrock API अनुरोध (API Request) के लिए मुख्य अवधारणाएँ

**I. API अनुरोध के लिए आवश्यक घटक (Required Components):**

• क्लाइंट (Client): Bedrock तक पहुँचने के लिए boto3 Python मॉड्यूल का उपयोग करके क्लाइंट बनाया जाता है।
• मॉडल ID (Model ID) / इन्फरेंस प्रोफाइल ID (Inference Profile ID): वह विशिष्ट मॉडल पहचानकर्ता जिसे आप चलाना चाहते हैं।
• यूज़र मैसेज (User Message): एक विशेष रूप से संरचित ऑब्जेक्ट जो मॉडल को दिया जाने वाला इनपुट टेक्स्ट (पाठ) रखता है।

**II. क्लाइंट और क्षेत्र (Client and Region):**

• क्लाइंट बनाते समय, Bedrock रनटाइम (Bedrock Runtime) को निर्दिष्ट किया जाता है और एक विशिष्ट AWS क्षेत्र (Region) का नाम दिया जाता है (जैसे: US West 2)।

**III. मॉडल ID बनाम इन्फरेंस प्रोफाइल (Model ID vs. Inference Profile):**

• समस्या: हर मॉडल हर AWS क्षेत्र में उपलब्ध नहीं होता है। यदि आप गलत क्षेत्र में अनुरोध भेजते हैं, तो त्रुटि (Error) आ सकती है।
• समाधान (Inference Profile):
• इन्फरेंस प्रोफाइल का उपयोग अनुरोध को स्वचालित रूप से उस क्षेत्र में रूट (Route) करने के लिए किया जाता है जहाँ मॉडल वास्तव में होस्ट किया गया है।
• कार्यप्रणाली: अनुरोध में विशिष्ट मॉडल ID के बजाय इन्फरेंस प्रोफाइल ID प्रदान किया जाता है। AWS स्वचालित रूप से अनुरोध को सही क्षेत्र में भेजता है।

**IV. यूज़र मैसेज की संरचना (Structure of User Message):**

• यूज़र मैसेज एक विशेष रूप से संरचित Python डिक्शनरी होती है।
• मुख्य विशेषताएँ:
• Role: हमेशा 'user' होता है।
• Content: यह एक सूची (List) होती है, जिसके अंदर एक नेस्टेड डिक्शनरी होती है जिसमें वास्तविक टेक्स्ट होता है।
• उदाहरण संरचना: {'role': 'user', 'content': [{'text': 'आपका प्रश्न'}]}

**V. API कॉल और प्रतिक्रिया (API Call and Response):**

• अनुरोध (Request): client. converse() फ़ंक्शन का उपयोग किया जाता है।
• प्रतिक्रिया (Response) से टेक्स्ट निकालना:
• जनरेट किया गया टेक्स्ट इस पथ पर पाया जाता है: Response -> output -> message -> content[0] -> text
• संदेश के प्रकार (Message Types):
• User Message: वह इनपुट टेक्स्ट जो मॉडल को दिया जाता है (Role: 'user')।
• Assistant Message: वह टेक्स्ट जो मॉडल द्वारा उत्पन्न किया जाता है (Role: 'assistant')।
• Content के लिए सूची (List for Content): कंटेंट को सूची के रूप में रखा जाता है ताकि एक ही संदेश में कई भाग (जैसे टेक्स्ट और इमेज) शामिल किए जा सकें।

Takeaways

• Bedrock API अनुरोध के लिए boto3 क्लाइंट, मॉडल ID/इन्फरेंस प्रोफाइल ID और यूज़र मैसेज आवश्यक घटक हैं।
• मॉडल ID के बजाय इन्फरेंस प्रोफाइल ID का उपयोग किया जाता है, जो अनुरोध को स्वचालित रूप से सही AWS क्षेत्र में रूट करता है।
• यूज़र मैसेज एक संरचित डिक्शनरी होती है जिसका 'role' हमेशा 'user' होता है और 'content' एक सूची होती है।
• API कॉल करने के लिए client. converse() फ़ंक्शन का उपयोग किया जाता है।