Extended thinking

विस्तारित सोच (Extended Thinking) के मुख्य अध्ययन बिंदु

• परिभाषा: विस्तारित सोच एक उन्नत सुविधा है जो Claude को अंतिम प्रतिक्रिया देने से पहले उपयोगकर्ता के प्रश्न पर विचार (reason) करने का समय देती है।
• लाभ: यह अधिक जटिल कार्यों को बेहतर सटीकता (accuracy) के साथ हल करने में मदद करती है।
• ट्रेड-ऑफ (Trade-offs):
• लागत: सोचने की प्रक्रिया के दौरान उत्पन्न होने वाले टोकन के लिए शुल्क लिया जाता है।
• विलंबता (Latency): इस प्रक्रिया को पूरा होने में समय लगता है, जिससे विलंबता बढ़ जाती है।
• उपयोग का निर्णय: विस्तारित सोच का उपयोग कब करना है, यह पूरी तरह से प्रॉम्प्ट मूल्यांकन (Prompt Evals) पर निर्भर करता है। यदि प्रॉम्प्ट सुधार के बाद भी सटीकता वांछित स्तर पर नहीं है, तो इसे सक्षम करने पर विचार करें।
• प्रतिक्रिया संरचना में बदलाव:
• सामान्य प्रतिक्रिया में केवल पाठ (text) होता है।
• विस्तारित सोच सक्षम होने पर, प्रतिक्रिया में एक नया भाग जुड़ता है: तर्क सामग्री भाग (Reasoning Content Part)।
• इस भाग में वह पाठ होता है जो Claude ने सोचने के दौरान उत्पन्न किया था।
• हस्ताक्षर (Signature):
• तर्क सामग्री भाग के भीतर एक क्रिप्टोग्राफ़िक टोकन होता है जिसे 'हस्ताक्षर' कहा जाता है।
• यह सुनिश्चित करता है कि भविष्य में इस संदेश को बातचीत में वापस भेजने पर, इस पाठ को किसी भी तरह से संशोधित (modify) नहीं किया गया है।
• संपादित सामग्री (Redacted Content):
• यदि Claude द्वारा उत्पन्न विचारशील पाठ (thinking text) आंतरिक सुरक्षा प्रणाली द्वारा फ़्लैग किया जाता है, तो आपको केवल 'संपादित सामग्री' प्राप्त हो सकती है।
• यह वास्तविक विचारशील पाठ का एक एन्क्रिप्टेड रूप होता है, जिसे भविष्य में Claude को वापस भेजने के लिए दिया जाता है।
• तकनीकी कार्यान्वयन:
• थिंकिंग बजट (Thinking Budget): यह वह टोकन संख्या है जो Claude को सोचने के चरण में खर्च करने की अनुमति दी जाती है (उदाहरण: 1024 टोकन)।
• निर्णय का आधार: विस्तारित सोच का उपयोग करना या नहीं, यह पूरी तरह से आपके एप्लिकेशन के लिए प्रॉम्प्ट मूल्यांकन पर निर्भर करता है।

Takeaways

• विस्तारित सोच Claude को अंतिम प्रतिक्रिया देने से पहले विचार करने का समय देती है, जिससे जटिल कार्यों में सटीकता (accuracy) बढ़ती है।
• इसके उपयोग के मुख्य ट्रेड-ऑफ हैं: सोचने की प्रक्रिया के कारण टोकन की लागत और विलंबता (Latency) में वृद्धि।
• विस्तारित सोच सक्षम होने पर प्रतिक्रिया में 'तर्क सामग्री भाग' जुड़ता है, जिसमें Claude द्वारा उत्पन्न सोचने का पाठ होता है।
• इसका उपयोग प्रॉम्प्ट मूल्यांकन (Prompt Evals) पर निर्भर करता है; यदि सटीकता वांछित स्तर पर नहीं है, तो इसे सक्षम किया जा सकता है।