Structured data

अध्ययन नोट्स: संरचित डेटा जनरेशन (Structured Data Generation)

मुख्य अवधारणा:

• जब हम Claude जैसे LLM से संरचित डेटा (Structured Data) जैसे JSON, Python कोड, या बुलेटेड लिस्ट जनरेट करवाते हैं, तो मॉडल अक्सर अनावश्यक टिप्पणी (Commentary), हेडर या फुटर जोड़ देता है।
• लक्ष्य: केवल वह कच्चा (Raw) डेटा प्राप्त करना जो मांगा गया है, बिना किसी अतिरिक्त टेक्स्ट के।

समाधान: स्टॉप सीक्वेंस और प्री-फिल्ड असिस्टेंट मैसेज का संयोजन

• इस समस्या को हल करने के लिए 'स्टॉप सीक्वेंस' (Stop Sequence) और 'प्री-फिल्ड असिस्टेंट मैसेज' (Pre-filled Assistant Message) का उपयोग किया जाता है।
• यह तकनीक विशेष रूप से तब उपयोगी है जब हमें केवल विशिष्ट डेटा चाहिए, न कि मॉडल की व्याख्या।

कार्यप्रणाली (Mechanism):

• यूजर इनपुट: उपयोगकर्ता मॉडल को बताता है कि उसे क्या जनरेट करना है (जैसे: "Generate a JSON rule")।
• प्री-फिल्ड असिस्टेंट मैसेज: हम मॉडल को एक प्रारंभिक संदेश देते हैं जो वांछित फॉर्मेट की शुरुआत करता है (उदाहरण के लिए: json `)। यह मॉडल को यह मानने के लिए मजबूर करता है कि उसने पहले ही फॉर्मेट शुरू कर दिया है।
• स्टॉप सीक्वेंस: हम एक विशिष्ट सीक्वेंस सेट करते हैं (उदाहरण के लिए: `)। जैसे ही मॉडल यह सीक्वेंस जनरेट करता है, जनरेशन तुरंत रुक जाती है।
• परिणाम: मॉडल केवल शुरुआती मार्कर और स्टॉप सीक्वेंस के बीच का कंटेंट (यानी, केवल कच्चा JSON) आउटपुट करता है।

महत्वपूर्ण बिंदु:

• व्यापक उपयोग: यह तकनीक केवल JSON तक सीमित नहीं है। इसका उपयोग किसी भी प्रकार के संरचित डेटा (Structured Data) को बिना किसी अतिरिक्त टिप्पणी के प्राप्त करने के लिए किया जा सकता है।
• पोस्ट-प्रोसेसिंग: आउटपुट में अतिरिक्त नई लाइनें (New Line Characters) हो सकती हैं, जिन्हें JSON पार्सिंग या स्ट्रिप (Strip) फंक्शन का उपयोग करके आसानी से हटाया जा सकता है।

Takeaways

• LLM संरचित डेटा (Structured Data) जनरेट करते समय अक्सर अनावश्यक टिप्पणी या हेडर जोड़ देते हैं; लक्ष्य केवल कच्चा डेटा प्राप्त करना है।
• इस समस्या को हल करने के लिए 'स्टॉप सीक्वेंस' और 'प्री-फिल्ड असिस्टेंट मैसेज' का संयोजन उपयोग किया जाता है।
• प्री-फिल्ड मैसेज वांछित फॉर्मेट की शुरुआत सुनिश्चित करता है, जबकि स्टॉप सीक्वेंस मॉडल को उस सीक्वेंस पर जनरेशन तुरंत रोकने के लिए मजबूर करता है।
• यह तकनीक केवल JSON तक सीमित नहीं है, बल्कि किसी भी प्रकार के संरचित डेटा को बिना अतिरिक्त टेक्स्ट के प्राप्त करने के लिए उपयोगी है।