अंक 224तकनीक3 मिनटपठन 48
प्रकाशक · जीके पुस्तकालय · परिशिष्ट
चैटबॉट से एक ही सवाल दो बार पूछने पर जवाब क्यों बदल जाता है?
चैटबॉट संभावना के आधार पर अगला शब्द चुनकर लिखता जाता है, इसलिए तापमान घटाकर 0 करने पर भी जवाब अलग हो सकते हैं
बातचीत करने वाले AI चैटबॉट से एक ही सवाल दो बार पूछने पर अक्सर अलग जवाब मिलते हैं। यह किसी खराबी की वजह से नहीं, बल्कि उसके लिखने के तरीके की वजह से होता है: वह संभावना के आधार पर भाषा के छोटे-छोटे टुकड़े एक-एक करके चुनता और जोड़ता जाता है। तापमान नाम की सेटिंग को घटाकर 0 करने पर भी जवाब पूरी तरह एक जैसे नहीं हो जाते।
भाषा के टुकड़े संभावना के आधार पर चुने जाते हैं
चैटबॉट पूरा लेख एक ही बार में नहीं लिखता। वह अब तक लिखे गए पाठ को देखकर गणना करता है कि आगे आने वाला भाषा का हर टुकड़ा कितना उपयुक्त होगा और उसकी कितनी संभावना है। भाषा के इन टुकड़ों को टोकन कहते हैं। फिर वह उन्हीं संभावनाओं के अनुसार एक टुकड़ा चुनकर पाठ के अंत में जोड़ देता है और इस प्रक्रिया को लगातार दोहराता है।
अगर शुरुआत में ही कोई अलग टुकड़ा चुन लिया जाए, तो उसके बाद आने वाले सारे वाक्य बदल जाते हैं। यह कुछ वैसा है जैसे एक ही जगह से उड़ाए गए कागज़ के हवाई जहाज़ हवा के एक झोंके से अलग-अलग घुमावदार रास्तों पर चले जाएँ।
तापमान घटाने से बदलाव कम होता है
डेवलपर चैटबॉट का इस्तेमाल करते समय जिन मानों को बदल सकते हैं, उनमें तापमान (temperature) भी शामिल है। OpenAI के API दस्तावेज़ बताते हैं कि यह मान 0 से 2 के बीच होता है। 0.8 जैसा ऊँचा मान जवाबों में अधिक यादृच्छिकता लाता है, जबकि 0.2 जैसा कम मान उन्हें अधिक केंद्रित और एकरूप बनाता है।
यह मान जितना कम होता है, अधिक संभावना वाले भाषा के टुकड़े उतनी ही बार चुने जाते हैं। 0 होने पर हमेशा सबसे अधिक संभावना वाला विकल्प चुना जाता है, इसलिए सिद्धांत के अनुसार एक ही सवाल का एक ही जवाब मिलना चाहिए।
तापमान 0 होने पर भी जवाब एक जैसे नहीं थे
लेकिन Thinking Machines Lab ने 2025 के 9वें महीने में प्रकाशित एक लेख में बताया कि ओपन-सोर्स मॉडल Qwen3-235B से तापमान 0 रखकर 'Tell me about Richard Feynman' सवाल 1,000 बार पूछा गया। 80 अलग-अलग जवाब मिले और सबसे आम जवाब भी केवल 78 बार आया। शुरुआती 102 टोकन तक सभी जवाब एक जैसे थे, लेकिन 103वें टोकन पर वे अलग हो गए। 992 बार आगे 'Queens, New York' लिखा गया और 8 बार 'New York City'।
Thinking Machines Lab ने बताया कि सर्वर एक साथ कितने अनुरोधों को संसाधित कर रहा है, इसके अनुसार गणना का क्रम बदल जाता है और इससे संख्याओं में बहुत छोटे अंतर पैदा होते हैं। गणना का तरीका तय कर देने पर सभी 1,000 बार एक जैसे जवाब मिले। इसलिए चैटबॉट के जवाब में जिन हिस्सों के वाक्य बिल्कुल एक जैसे रहने चाहिए, उन्हें अलग से सहेजकर रखना अधिक सुरक्षित है।
चैटबॉट संभावना के आधार पर आगे लिखता जाता है, इसलिए एक ही सवाल के जवाब अलग हो सकते हैं। तापमान घटाकर 0 करने पर भी जवाब बिल्कुल एक जैसा होने की गारंटी नहीं है।
टिप्पणियाँ और संदर्भ · OpenAI API दस्तावेज़, Thinking Machines Lab (2025). तापमान की व्याख्या OpenAI के API दस्तावेज़ों से ली गई है और तापमान 0 वाला प्रयोग Thinking Machines Lab की ओर से 2025 के 9वें महीने में सार्वजनिक की गई सामग्री से है। यह प्रयोग एक ही प्रकार के ओपन-सोर्स मॉडल पर किया गया था, इसलिए अलग-अलग सेवाओं में नतीजे अलग हो सकते हैं।
लेखन मानदंडत्रुटि की सूचना दें
छोटी प्रश्नोत्तरी