Multi-Turn conversations with tools

मुख्य अवधारणाएँ (Key Concepts)

• टूल यूज़ (Tool Use) के साथ लंबी बातचीत: टूल का उपयोग करते हुए एक लंबी और सुसंगत बातचीत (long running conversation) को संभालने के लिए एक विशेष प्रक्रिया की आवश्यकता होती है।
• stop_reason का महत्व:
• जब भी मॉडल (जैसे Claude) से प्रतिक्रिया (response) प्राप्त होती है, तो उसमें एक stop_reason शामिल होता है।
• टूल यूज़ की आवश्यकता है या नहीं, यह तय करने के लिए इस stop_reason की जाँच करना महत्वपूर्ण है।
• chat फ़ंक्शन में सुधार (Refactoring chat function):
• chat फ़ंक्शन को अब केवल टेक्स्ट के बजाय एक डिक्शनरी (dictionary) रिटर्न करनी चाहिए।
• रिटर्न वैल्यू में शामिल हैं: parts (संदेश के भाग), stop_reason, और text (संयोजित टेक्स्ट)।
• टेक्स्ट प्रोसेसिंग: अब यह सुनिश्चित किया जाता है कि सभी parts में से केवल टेक्स्ट वाले हिस्सों को स्कैन करके एक साथ जोड़ा जाए, ताकि यह पता चल सके कि मॉडल ने क्या कहा है।
• run_conversation फ़ंक्शन की कार्यप्रणाली:
• यह फ़ंक्शन एक मल्टी-टर्न (multi-turn) बातचीत को मैनेज करता है।
• यह एक while True लूप का उपयोग करता है।
• लूप की मुख्य तर्क (Logic):
• वर्तमान मैसेज लिस्ट के साथ chat को कॉल करें।
• मॉडल के प्रतिक्रिया भागों (parts) को मैसेज हिस्ट्री में जोड़ें।
• जाँच करें: यदि stop_reason 'tool use' के बराबर नहीं है, तो लूप को तोड़ दें (बातचीत समाप्त)।
• टूल निष्पादन: यदि stop_reason 'tool use' है, तो run_tools को कॉल करके टूल का परिणाम प्राप्त करें।
• टूल के परिणाम को एक यूजर मैसेज के रूप में मैसेज हिस्ट्री में जोड़ें।
• लूप को दोहराएं (अगले टर्न के लिए)।
• लाभ: यह दृष्टिकोण उन प्रश्नों को भी आसानी से संभाल सकता है जिन्हें टूल की आवश्यकता नहीं होती (जैसे "एक प्लस एक क्या है? "), जिससे अनावश्यक टूल कॉल से बचा जा सकता है।

Takeaways

• टूल यूज़ की आवश्यकता का निर्धारण मॉडल की प्रतिक्रिया में मौजूद stop_reason के आधार पर किया जाता है।
• chat फ़ंक्शन अब केवल टेक्स्ट के बजाय एक डिक्शनरी रिटर्न करता है, जिसमें parts, stop_reason, और text शामिल होते हैं।
• run_conversation फ़ंक्शन एक while True लूप का उपयोग करके मल्टी-टर्न बातचीत को प्रबंधित करता है।
• लूप की मुख्य तर्क यह है कि यदि stop_reason 'tool use' है, तो टूल निष्पादित होता है और उसका परिणाम मैसेज हिस्ट्री में जोड़ा जाता है।
• यह संरचना अनावश्यक टूल कॉल से बचते हुए गैर-टूल आधारित प्रश्नों को भी कुशलता से संभालती है।