एआई कभी-कभी मनगढ़ंत बातें क्यों बना देता है [वीडियो और प्रश्नोत्तरी]

संक्षिप्त उत्तर: एआई कभी-कभी मनगढ़ंत बातें कह देता है क्योंकि यह संभावित अगले शब्दों का अनुमान लगाता है, न कि सत्यापित तथ्यों का - धाराप्रवाह होना प्रमाण नहीं है। जब विषय विशिष्ट हो, महत्वपूर्ण हो, या सटीक नामों और संख्याओं की आवश्यकता हो, तो उत्तर को ठोस आधार प्रदान किए बिना और दावों की गहन जाँच किए बिना, अनुमानों से कमियाँ भर दी जाती हैं।

इस लेख के बाद आप ये लेख भी पढ़ सकते हैं:

🔗 एआई को गूगल की तरह समझना बंद करें।
जानें कि बेहतर एआई परिणामों के लिए एक अलग दृष्टिकोण की आवश्यकता क्यों है।

🔗 आपका पहला उचित एआई प्रॉम्प्ट:
एक सरल संरचना का उपयोग करके एक स्पष्ट, प्रभावी प्रॉम्प्ट बनाएं।

🔗 बेहतरीन एआई प्रॉम्प्ट के 4 भाग:
एआई प्रॉम्प्ट की गुणवत्ता में सुधार करने वाले चार आवश्यक तत्वों की खोज करें।

🔗 बुद्धिमत्ता वास्तव में क्या है?
सरल, व्यावहारिक और रोजमर्रा की भाषा में कृत्रिम बुद्धिमत्ता को समझें।

चाबी छीनना:

भविष्यवाणी के बारे में जानकारी न होना: धाराप्रवाह गद्य को पैटर्न पूरा करने के रूप में मानें, कभी भी शपथपूर्वक साक्ष्य के रूप में नहीं।

आत्मविश्वास का जाल: दृढ़ लहजा शैली है; सटीकता की जांच चैट के बाहर अलग से करनी चाहिए।

नकली पैकेजिंग: सुव्यवस्थित संदर्भ सूचियों पर भरोसा करने से पहले स्वयं उद्धरण शीर्षकों और उद्धरणों की खोज करें।

उत्तर को आधार प्रदान करें: स्रोत नोट्स पेस्ट करें और मनगढ़ंत यूआरएल, अध्ययन या आंकड़ों पर प्रतिबंध लगाएं।

मानव ऑडिट: सबसे पहले सबसे जोखिम भरे दावे की स्पॉट-चेक करें, खासकर स्वास्थ्य, कानून या वित्त से संबंधित दावों की।

भविष्यवाणी करना और जानना एक ही बात नहीं है।

सीधी-सी बात कहें तो, ज़्यादातर चैट मॉडल एक तय पैटर्न पर काम करते हैं। आप एक सवाल पूछते हैं। वे एक ऐसा जवाब तैयार करते हैं जो एक अच्छे जवाब के सांचे में ढल जाता है। उस सांचे में तथ्य, लहजा, संरचना - सब कुछ शामिल होता है। कभी-कभी वह सांचा असली जानकारी को छुपाता है, कभी-कभी वह किसी कमी को पूरा करने के लिए लगाया गया एक आत्मविश्वास भरा अनुमान होता है।.

मुझे लगता है कि एक हल्का-फुल्का उपमा मददगार साबित होगा, फिर मैं इसे थोड़ा पीछे ले जाता हूँ। कल्पना कीजिए एक जैज़ पियानोवादक की जिसने लाखों गाने सुने हैं। उनसे "नीले सूटकेस वाला वो गाना" बजाने को कहें और हो सकता है कि वे एक ऐसी खूबसूरत धुन बना दें जो कभी अस्तित्व में ही न रही हो - क्योंकि अनुरोध सुनने में ऐसा लगा जैसे उसे बजाना ही चाहिए। रुकिए - यह कलात्मकता को बढ़ा-चढ़ाकर पेश करना है। यह तो ऑटो-कंप्लीट का ही उन्नत रूप है। मॉडल एक तर्कसंगत पैराग्राफ को पूरा कर रहा है, न कि सत्य नामक फाइलों की अलमारी खोल रहा है।.

इसलिए जब लोग पूछते हैं कि एआई कभी-कभी मनगढ़ंत बातें क्यों करता है, तो इसका संक्षिप्त उत्तर यह है: कमियों को सांख्यिकीय रूप से सही लगने वाली किसी भी चीज़ से भर दिया जाता है। किसी संदर्भ के अभाव में, मॉडल एक ऐसा संदर्भ गढ़ लेता है जो अकादमिक प्रतीत होता है। किसी संख्या के बारे में अनिश्चित होने पर, यह एक सटीक आंकड़ा प्रस्तुत करता है। किसी व्यक्ति के मध्य नाम के अभाव में, यह उस युग और संस्कृति के अनुरूप एक नाम बना लेता है। पहली बार में थोड़ा आश्चर्यजनक लगता है। लेकिन एक बार जब आप पैटर्न को समझ लेते हैं, तो इतना आश्चर्यजनक नहीं लगता। 

• धाराप्रवाह पाठ तैयार करना लक्ष्य है - सत्यापित सत्य नहीं।.
• ज्ञान की रिक्तियों को भरने के लिए अभी भी शब्दों का अंबार लगाया जाता है।.
• मॉडल की रैंकिंग में "सही लगता है" की संभावना "सही है" की संभावना से अधिक हो सकती है।.

आत्मविश्वास बनाम सटीकता - विचित्र अंतर

अनिश्चितता होने पर मनुष्य संशय में पड़ जाते हैं। हम कहते हैं, "मुझे लगता है," "शायद," "मुझे जाँच करनी होगी।" मॉडल भी ऐसा कर सकते हैं - यदि आप उनसे ऐसा करने को कहें - लेकिन डिफ़ॉल्ट आउटपुट अक्सर एक आत्मविश्वासपूर्ण जानकारी। यह स्पष्टता सहायक होने के प्रशिक्षण की विशेषता है, न कि इस बात का संकेत कि हर दावा ठोस था।

आत्मविश्वास और सटीकता दो अलग-अलग स्तर हैं। एक को ऊँचा रखा जा सकता है जबकि दूसरा लगभग शून्य के करीब हो सकता है। आपने लोगों के साथ भी ऐसा ही अनुभव किया होगा: वह सहकर्मी जो पूरी निश्चितता के साथ गलत प्रक्रिया समझाता है। AI भी यही कर सकता है, बस तेज़ी से और बेहतर तरीके से।.

व्यावहारिक सीख: मुखर भाषा को शैली के रूप में लें, प्रमाण के रूप में नहीं। यदि किसी उत्तर में जाँचने योग्य स्रोत न हों, अनिश्चितता की कोई बात स्वीकार न की गई हो, और उसमें ढेर सारे विशिष्ट नाम या संख्याएँ हों - तो ज़रा रुकिए। बिना आधार के विशिष्टताएँ देना एक स्पष्ट संकेत है।. 

• दृढ़ लहजा ≠ सत्यापित सामग्री।.
• मॉडल से कहें कि वह जानबूझकर अनिश्चितता को चिह्नित करे।.
• एक झूठे और पुख्ता संक्षिप्त विवरण के बजाय "मुझे इस बारे में संदेह है" कहना बेहतर है।.

मनगढ़ंत उद्धरण और विवरण जो वास्तविक प्रतीत होते हैं

यह तरीका चुभता है क्योंकि यह देखने में बेहद पेशेवर लगता है। नकली शोधपत्र शीर्षक। नकली पत्रिका के नाम। नकली यूआरएल जो लगभग क्लिक करने योग्य लगते हैं। मशहूर हस्तियों के नाम से दिए गए नकली उद्धरण। फ़ॉर्मेटिंग अक्सर एकदम सही होती है - इटैलिक स्टाइलिंग, जानबूझकर वर्ष के आकार के प्लेसहोल्डर का इस्तेमाल नहीं किया गया है, लेखक के नाम से मिलते-जुलते नाम - और यह पैकेजिंग सरसरी नजर से पढ़ने वालों को धोखा देती है।

इसका कारण स्पष्ट है। प्रशिक्षण पाठ में उद्धरण का स्वरूप आम है। जब आप "स्रोत" पूछते हैं, तो मॉडल स्वरूप । यह ऐसा ही है जैसे किसी से स्मृति से रसीद बनाने को कहा जाए। आपको कुछ ऐसा मिलता है जो रसीद जैसा दिखता है। हो सकता है वह दुकान कभी अस्तित्व में ही न रही हो।

एक बार मैंने एक मसौदा देखा जिसमें दूरस्थ कार्य उत्पादकता पर एक मनगढ़ंत अध्ययन लिखा गया था और लेखकों की सूची भी बहुत ही शानदार लग रही थी। ऐसा लग रहा था मानो इसकी सहकर्मी समीक्षा हो चुकी हो। लेकिन असल में यह कुछ भी नहीं था। यही तो खतरा है: जब बाहरी दिखावट महंगी लगती है तो दिमाग को आराम मिलता है। आराम मत कीजिए।. 

• ऐसी पुस्तकों के शीर्षक मांगें जिन्हें आप स्वयं खोज सकें - और फिर उन्हें गंभीरता से खोजें।.
• बिना मांगे मिले आकर्षक उद्धरण-और-स्रोत विवरण वाले बंडलों के प्रति सतर्क रहें।.
• यदि "स्रोत" शीघ्रता से नहीं मिल पाता है, तो दावे को निराधार मानें।.

जब आविष्कार का जोखिम सबसे अधिक होता है

हर बातचीत एक जैसी खतरनाक नहीं होती। कॉफी पर लिखी कविता में उपमाओं का भरपूर इस्तेमाल किया जा सकता है - यही तो उसका सार है। दवा की खुराक, कानूनी समय सीमा, प्रतिस्पर्धी की मूल्य निर्धारण नीति या किसी प्रकाशित लेख का ऐतिहासिक दावा, ये सब बिल्कुल अलग बातें हैं।.

विषय के विशिष्ट, हालिया या बेहद बारीक होने पर जोखिम बढ़ जाता है। सटीक संख्याएँ, दस्तावेज़ों के नाम, कंपनी की निजी जानकारी या "दस सहकर्मी-समीक्षित अध्ययनों की सूची" जैसी जानकारी माँगने पर भी जोखिम बढ़ जाता है। प्रश्न जितना अधिक सटीक होगा, मॉडल के लिए रिक्त स्थानों को संभावित जानकारी से भरने की प्रवृत्ति उतनी ही अधिक होगी।.

लंबे और प्रभावशाली उत्तर, संक्षिप्त और सतर्क उत्तरों की तुलना में अधिक जोखिम भरे हो सकते हैं। लंबाई प्रयास का प्रतीक लगती है। प्रयास लगन का प्रतीक लगता है। लगन सच्चाई का प्रतीक लगती है। धारणाओं की यह जटिल श्रृंखला ही है जिसके द्वारा गलत तथ्य स्लाइड प्रेजेंटेशन में शामिल हो जाते हैं।. 

• उच्च जोखिम: स्वास्थ्य, कानून, वित्त, अनुपालन, सुरक्षा, नामित व्यक्ति, सटीक आंकड़े।
• मध्यम जोखिम: विशिष्ट उद्योग प्रक्रियाएं, उपकरण सेटिंग्स, "सर्वोत्तम प्रथाओं" की सूचियां।
• कम जोखिम: विचार-मंथन, रूपरेखा तैयार करना, अपने मसौदे को फिर से लिखना, लहजे में संशोधन करना।

विश्वसनीय बनाम अविश्वसनीय परिणाम - एक त्वरित तुलना

एक मेज पर बैठकर बातचीत करना, किसी और प्रोत्साहन भरे भाषण से कहीं बेहतर है। इसमें कुछ मामूली विचित्रताएं भी शामिल हैं, क्योंकि आम बातचीत भी विचित्र होती है।.

उस मानसिक स्कोरकार्ड को हमेशा अपने पास रखें। आप धीरे-धीरे कमज़ोर आउटपुट को उसी तरह नोटिस करने लगेंगे जैसे किसी फोटो में थोड़ी सी बेमेल मुस्कान को नोटिस करते हैं - कुछ तो बनावटीपन है।.

बिना शंकालु हुए मनगढ़ंत उत्तरों को कैसे पहचानें

आपको हर विशेषण को सत्यापित करने की आवश्यकता नहीं है। महत्वपूर्ण दावों के लिए आपको सत्यापन की एक सरल आदत अपनानी चाहिए। सबसे महत्वपूर्ण बिंदु की जाँच करें: संख्या, नाम, पॉलिसी, उद्धरण। यदि वह बिंदु विफल हो जाता है, तो बाकी उत्तर संदेह के घेरे में आ जाता है।.

एक और संकेत: आंतरिक विरोधाभास। मॉडल कहता है कि कोई उपकरण "हमेशा" X कार्य करता है, फिर बाद में एक अपवाद का वर्णन ऐसे करता है जैसे वह मानक हो। या फिर वह एक नया फीचर बनाता है, फिर उसे बंद करने का तरीका बताता है - जैसे कोई सपना बार-बार नए दरवाजे बनाता रहता है। ऐसे प्रश्न पूछें जो कमजोर बिंदुओं को उजागर करें। काल्पनिक दुनिया दबाव में डगमगाने लगती है।.

साथ ही, अत्यधिक परिष्कृत प्रस्तुति से सावधान रहें। हर पैराग्राफ एक समान रूप से सुव्यवस्थित। हर सिफारिश एक समान रूप से आत्मविश्वासपूर्ण। वास्तविक विशेषज्ञता में आमतौर पर कुछ बारीकियां होती हैं - सावधानियां, समझौते, और "यह परिस्थितियों पर निर्भर करता है"। इस तरह की सतही पूर्णता पर अतिरिक्त ध्यान देने की आवश्यकता होती है।. 

• सबसे पहले सबसे जोखिम भरे दावे की पुष्टि करें, पूरे निबंध की नहीं।.
• पूछिए "आपको किस बात का सबसे कम यकीन है?" और देखिए कि क्या मुखौटा उतरता है।.
• चैट के बाहर नामों, पदनामों और नंबरों की दोबारा जांच करें।.
• आपके द्वारा पेस्ट किए गए टेक्स्ट से संबंधित उत्तरों को प्राथमिकता दें, न कि स्वतंत्र तथ्यों को।.

आविष्कार को कम करने वाली आदतों को बढ़ावा दें

आप जादुई वाक्य से मतिभ्रम को खत्म नहीं कर सकते - माफ कीजिए - लेकिन आप उसके प्रभाव को कम कर सकते हैं। अच्छे संकेत खेल को सीमित करते हैं। बुरे संकेत तात्कालिकता को बढ़ावा देते हैं।

इन आदतों को आजमाएं। ये सुनने में नीरस लग सकती हैं, लेकिन चालाकी भरी युक्तियों से कहीं अधिक कारगर होती हैं।.

• ज्ञान का दायरा निर्धारित करें: "केवल मेरे द्वारा पेस्ट किए गए नोट्स का उपयोग करें। यदि कोई जानकारी उपलब्ध नहीं है, तो कहें कि आपको नहीं पता।"
• फर्जी स्रोतों पर प्रतिबंध लगाएं: "उद्धरण, उद्धरण या यूआरएल मनगढ़ंत न बनाएं।"
• बल अनिश्चितता लेबल: "प्रत्येक बुलेट को टैग करें: ज्ञात / अनुमानित / अनुमान।"
• विकल्प पूछें: "दो विकल्प दें और बताएं कि प्रत्येक विकल्प गलत क्यों हो सकता है।"
• संदेह दूर करने का अनुरोध करें: "आपके द्वारा की गई धारणाओं की सूची बनाएं।"
• माहौल की बजाय संरचना को प्राथमिकता दें: तालिकाएँ, चेकलिस्ट और दावे/सबूत वाले कॉलम।

आश्चर्यजनक रूप से, मॉडल को यह बताना कि "मुझे नहीं पता" कहना ठीक है, निश्चितता प्रदर्शित करने के सामाजिक दबाव को कम करता है। मॉडल असाइनमेंट को प्रतिबिंबित करते हैं। यदि असाइनमेंट हर कीमत पर पूर्णता को पुरस्कृत करता है, तो आपको औपचारिक रूप से तैयार की गई काल्पनिक बातें मिलती हैं। यदि असाइनमेंट कमियों के बारे में स्पष्ट रूप से बात करने को पुरस्कृत करता है, तो आपको कम चमकदार झूठ मिलते हैं। 

और हां - फॉलो-अप ज़रूरी हैं। पहले जवाब ड्राफ्ट होते हैं। "वह संदर्भ नकली लग रहा है - जो भी आप सत्यापित नहीं कर सकते उसे हटा दें" एक बिल्कुल सामान्य दूसरा संदेश है। चैट को संपादन की तरह समझें, न कि किसी ऐसी मशीन की तरह जो आपको हर बात का सच बता दे।.

स्थिरता, अनुवर्ती कार्रवाई और अनिश्चितता के साथ जीना

आधार प्रदान करने का अर्थ है उत्तर को मॉडल की तात्कालिकता से परे किसी चीज़ से जोड़ना: आपका चिपकाया गया नीति दस्तावेज़, आपकी स्प्रेडशीट, आपके मीटिंग नोट्स, या कोई ज्ञात सार्वजनिक पृष्ठ जिसकी आप स्वयं जाँच करेंगे। जब उत्तर को उस सीमा के भीतर ही रखना होता है, तो रचनात्मकता के लिए गुंजाइश कम हो जाती है।

अनुवर्ती प्रश्न दूसरी बाधा हैं। "यह संख्या कहाँ से आई?" "इसमें अनुमान शामिल है?" "किसी भी अध्ययन का नाम लिए बिना इसे दोबारा लिखें।" प्रत्येक प्रश्न एक छोटी-सी जाँच है। मुझे लगता है कि इन उपकरणों का उपयोग करने का यही समझदारी भरा तरीका है - पूजा नहीं, घबराहट नहीं, बस जाँच।.

अनिश्चितता आपके कार्यप्रवाह में कोई खामी नहीं है। यह मौसम की तरह है। कभी-कभी मॉडल आपके लिखे हुए पाठ का सटीक सारांश प्रस्तुत कर देता है। कभी-कभी यह एक ऐसी उपसमिति बना देता है जिसकी कभी बैठक ही नहीं हुई। आपका काम यह तय करना है कि किन आउटपुट को सुरक्षा कवच की आवश्यकता है।. 

• जब सटीकता महत्वपूर्ण हो तो मूल सामग्री को पेस्ट करें।.
• दावा-स्तर के विश्वास टैग के लिए पूछें।.
• महत्वपूर्ण निर्णयों के लिए किसी मानवीय पक्ष को सूचित रखें।
• रचनात्मक कार्यों के लिए "रचनात्मक स्वतंत्रता" का उपयोग करें - अनुपालन के लिए नहीं।.

जब आप किसी रचना को गाते समय मतिभ्रम का शिकार हो जाएं तो क्या करें?

निराश मत होइए। इस उपकरण को हमेशा के लिए छोड़ मत दीजिए, मानो इसने आपको धोखा दिया हो - भले ही ऐसा करने की तीव्र इच्छा हो। धागे को सही कीजिए और आगे बढ़ते रहिए।.

एक सरल रिकवरी लूप:

• स्पष्ट रूप से कहें: "वह स्रोत मनगढ़ंत प्रतीत होता है। निराधार दावों को हटा दें।"
• पुनः एंकर करें: वास्तविक दस्तावेज़, उद्धरण या डेटा पेस्ट करें।
• संक्षेप में सुधार करें: एक संशोधित भाग की मांग करें, न कि खोखले दिखावे वाले पूरे नए निबंध की।
• महत्वपूर्ण बिंदुओं की दोबारा जांच करें: नाम, संख्याएँ, प्रक्रिया के चरण।
• विश्वास का स्तर तय करें: विचार-मंथन सहयोगी बनाम मसौदा तैयार करने में सहायक बनाम "इस विषय के लिए नहीं"।

एक भ्रम को पकड़ लेने से बाकी बातचीत बेहतर हो सकती है - बशर्ते आप नियंत्रण को और सख्त कर दें। मॉडल को "दोषी महसूस" नहीं होता, लेकिन आपके स्पष्ट निर्देश उसके अनुकूलन के स्तर को बदल देते हैं। आप दिशा-निर्देश दे रहे हैं। जब रचनात्मकता सामने आए तो और सख्ती से दिशा-निर्देश दें।. 

रोजमर्रा की ऐसी परिस्थितियाँ जहाँ यह बात चुपचाप मायने रखती है

कार्यालय संबंधी ईमेल: मनगढ़ंत "उद्योग मानक समयसीमा" ऐसी अपेक्षाएँ पैदा कर सकती है जिन्हें आप पूरा नहीं कर सकते। स्कूल और पढ़ाई: एक झूठा स्पष्टीकरण आपके दिमाग में इस कदर बैठ सकता है कि आपको पता भी न चले। ग्राहक सहायता संबंधी पत्र-व्यवहार: मनगढ़ंत धनवापसी नियम एक वादा बन जाता है। रचनात्मक लेखन: खुलकर कल्पना कीजिए - यही तो आपकी कला का मैदान है।.

मुख्य बात परिणाम है। यदि गलत शब्दों से धन, विश्वास, अंक या सुरक्षा को नुकसान होता है, तो सत्यापन कोई अनावश्यक कार्य नहीं है। यदि गलत शब्दों का परिणाम केवल उदासीनता है, तो निश्चिंत हो जाइए। सावधानी को परिणाम के अनुरूप ढालना ही यहाँ एक परिपक्व कौशल है - "मतिभ्रम" शब्द को याद करने से कहीं अधिक।

साथ ही: टीमों को "मैंने इस दावे की पुष्टि की" जैसे वाक्यांशों को सामान्य बनाना चाहिए, ठीक वैसे ही जैसे वे "वर्तनी जांच सफल रही" को सामान्य बनाते हैं। अन्यथा एक सुव्यवस्थित पैराग्राफ रातोंरात गुप्त ज्ञान बन जाएगा। बाप रे!.

चाबी छीनना

तो – एआई कभी-कभी मनगढ़ंत बातें क्यों करता है, इसका सार यह है: ये सिस्टम विश्वसनीय भाषा का अनुमान लगाते हैं, पैटर्न-मैचिंग के माध्यम से रिक्त स्थानों को भरते हैं, और अक्सर ऐसा करते समय आश्वस्त प्रतीत होते हैं। इस संयोजन से आत्मविश्वास से भरे गलत उत्तर, मनगढ़ंत उद्धरण और ऐसे सुव्यवस्थित विवरण तैयार होते हैं जो कभी हुए ही नहीं।

आपको उपकरण से डरने की ज़रूरत नहीं है। आपको आदतें अपनाने की ज़रूरत है। ठोस दावों की बारीकी से जाँच करें। मनगढ़ंत स्रोतों का इस्तेमाल न करें। ठोस संदर्भ दें। अनिश्चितता को स्वीकार करें। अनुवर्ती कार्रवाई को ऑडिट के रूप में इस्तेमाल करें। कम जोखिम वाले रचनात्मक कार्यों के लिए ही स्वतंत्र रूप से काम करने का समय निकालें।.

धाराप्रवाह बोलना किसी व्यक्ति के चरित्र का मापदंड नहीं है। इसे एक प्रतिभाशाली प्रशिक्षु की तरह समझें जो अविश्वसनीय रूप से तेज़ टाइप करता है, कभी-कभी ऐसी मीटिंग की मनगढ़ंत कहानी बना देता है जो कभी हुई ही नहीं, और फिर भी पर्यवेक्षण में उत्कृष्ट प्रदर्शन कर सकता है। पर्यवेक्षण जारी रखें। हास्यबोध बनाए रखें। संदेह को हल्का लेकिन ठोस रखें। इसी तरह आप काल्पनिक तथ्यों को परोसे बिना लाभ प्राप्त कर सकते हैं।.

व्यावहारिक उदाहरण: प्रतिस्पर्धी के शोध संक्षिप्त विवरण में मनगढ़ंत उद्धरणों को पकड़ना

मतिभ्रम तब तक अमूर्त लगते हैं जब तक कि एक सुव्यवस्थित पैराग्राफ क्लाइंट प्रेजेंटेशन में शामिल होने के करीब न आ जाए। यहाँ बताया गया है कि कैसे एक यूके मार्केटिंग विश्लेषक ने इस गाइड में बताई गई आदतों का उपयोग करके चैटबॉट को छोड़े बिना, शोध के रूप में प्रस्तुत की जाने वाली काल्पनिक बातों को रोकना संभव बनाया।.

परिदृश्य

सैम के पास बिक्री सत्र की शुरुआत के लिए एक पृष्ठ का प्रतिस्पर्धी संक्षिप्त विवरण तैयार करने के लिए दो घंटे का समय है। अनुरोध वही पुराना है: ताकतें, मूल्य निर्धारण के संकेत और "कुछ विश्वसनीय स्रोत"। हमेशा की तरह, सैम ने "प्रतिस्पर्धी X का स्रोतों सहित सारांश प्रस्तुत करें" टाइप किया और उसे तीन अकादमिक संदर्भों और सटीक बाजार हिस्सेदारी प्रतिशत के साथ एक सुव्यवस्थित संक्षिप्त विवरण प्राप्त हुआ। यह संक्षिप्त विवरण देखने में तो तैयार लग रहा था, लेकिन इसमें अधिकांश जानकारी मनगढ़ंत थी। एक शीर्षक नहीं मिल सका। प्रतिस्पर्धी की वेबसाइट पर हिस्सेदारी का आंकड़ा कहीं भी नहीं था।.

सैम को बेहतर दिखने वाले मॉडल की ज़रूरत नहीं है। सैम को एक सुव्यवस्थित कार्यप्रणाली चाहिए: स्रोत नोट्स पेस्ट करें, नकली स्रोतों पर प्रतिबंध लगाएं, अनिश्चितता लेबल अनिवार्य करें, सबसे सटीक दावे की पहले जांच करें, और फिर केवल टूटे हुए हिस्से को ही ठीक करें।.

लक्ष्य एक ऐसा संक्षिप्त विवरण तैयार करना है जिस पर टीम चर्चा के लिए भरोसा कर सके - न कि स्मृति से तैयार की गई कोई ऐसी रसीद जो केवल रसीद जैसी दिखती हो।.

सहायक को क्या चाहिए

• सैम के पास पहले से ही ये स्रोत सामग्री मौजूद हैं: होमपेज की कॉपी, मूल्य निर्धारण पृष्ठ का टेक्स्ट, हाल ही में जारी किए गए दो सपोर्ट टिकट, और एक असफल सौदे से संबंधित नोट्स।
• एक सख्त नियम: तथ्यात्मक दावों के लिए केवल पेस्ट किए गए पाठ का ही प्रयोग करें; जब नोट्स में कोई जानकारी न हो तो "मुझे नहीं पता" कहें।
• मनगढ़ंत उद्धरणों, कथनों, यूआरएल और आंकड़ों पर प्रतिबंध
• एक आउटपुट आकार जो ज्ञात / अनुमानित / अनुमान को अलग करता है
• डेक को साझा करने से पहले नामों, संख्याओं और किसी भी "स्रोत" शीर्षक की एक मानवीय जांच करने का समय आ गया है।
• रिक्त स्थानों को भरने के बजाय तीन स्पष्टीकरणात्मक प्रश्न पूछने की अनुमति।

उदाहरण निर्देश

संदेश 1 - संक्षिप्त विवरण: नीचे दिए गए नोट्स का उपयोग करके, बिक्री के लिए एक पृष्ठ का प्रतिस्पर्धी संक्षिप्त विवरण तैयार करें। अनुभाग: उनके दावे / ग्राहकों की शिकायतें / मूल्य निर्धारण संकेत / खुले प्रश्न। काल्पनिक उद्धरण, कथन, यूआरएल या आंकड़े न बनाएं। यदि कोई तथ्य नोट्स में नहीं है, तो "अज्ञात" लिखें और उसे खुले प्रश्नों के अंतर्गत सूचीबद्ध करें। प्रत्येक बुलेट पॉइंट को टैग करें: ज्ञात / अनुमानित / अनुमान। अंग्रेजी (ब्रिटिश अंग्रेजी) का प्रयोग करें। कोई प्रस्तावना नहीं।

संदेश 2 - संदेह दूर: आपने जो भी अनुमान लगाए हैं, उन सभी को सूचीबद्ध करें। अनुमान के रूप में चिह्नित किसी भी चीज़ को हटा दें, जब तक कि आप उसे समर्थित करने वाले किसी पेस्ट किए गए वाक्य का हवाला न दे सकें। यदि आपने पहले कोई स्रोत गढ़ा है, तो उसे हटा दें और ऐसा स्पष्ट रूप से बता दें।

संदेश 3 - संशोधन करें: बाज़ार हिस्सेदारी वाली पंक्ति समर्थित नहीं है। केवल मूल्य निर्धारण संकेतों वाले अनुभाग को ही पुनः लिखें, उसमें कोई संख्या न डालें जब तक कि वे मेरे नोट्स में न हों। अन्य अनुभागों को यथावत रखें।

इसका परीक्षण कैसे करें

• एक काल्पनिक प्रश्न ("प्रतिस्पर्धी X का तीन सहकर्मी-समीक्षित स्रोतों के आधार पर सारांश प्रस्तुत करें") और ऊपर दिए गए संक्षिप्त विवरण को प्रस्तुत करें। मनगढ़ंत शीर्षकों और फर्जी आंकड़ों की तुलना करें।.
• सबसे पहले सबसे जोखिम भरे दावे (किसी संख्या या नामित अध्ययन) की जांच करें, पूरे पृष्ठ की नहीं।.
• पूछें: "आप किस बारे में सबसे कम निश्चित हैं?" एक ठोस उत्तर आपकी कमियों को उजागर करता है; एक अनिश्चित उत्तर आपकी बात को और भी पुख्ता कर देता है।.
• विशेष स्थिति: चिपकाए गए नोट्स से मूल्य निर्धारण हटा दें और पुष्टि करें कि मसौदे में योजना मूल्य गढ़ने के बजाय अज्ञात लिखा है।.
• शेयर करने से पहले स्वीकृति जांच: (1) प्रत्येक "ज्ञात" बुलेट एक पेस्ट की गई पंक्ति से मेल खाता है, (2) शून्य मनगढ़ंत उद्धरण, (3) खुले प्रश्न वास्तविक कमियों को सूचीबद्ध करते हैं, (4) आपने स्वयं किसी भी शेष शीर्षक की खोज की है, (5) उनके पीछे एक नोट के बिना कोई सटीक आंकड़े नहीं हैं।.

परिणाम

उदाहरण स्वरूप परिणाम (एक विश्लेषक के प्रतिस्पर्धी-संक्षिप्त कार्यप्रवाह का अनुमानित उदाहरण, कोई प्रकाशित अध्ययन नहीं): 8 ब्रीफिंग कार्यों में, "नोट्स खोलने" से लेकर "मानव तथ्य-जांच के लिए मसौदा तैयार" तक का समय, एक बार में तैयार किए गए परिष्कृत काल्पनिक मसौदे के लगभग 12 मिनट के औसत से बढ़कर, ठोस संकेत के साथ लगभग 15 मिनट हो गया - लेकिन सुधार और शर्मिंदगी का जोखिम कम हो गया। ठोस दावों का मानवीय सत्यापन, दावों को पहले से टैग किए जाने और काल्पनिक स्रोतों पर प्रतिबंध लगाने पर, लगभग 18 मिनट के औसत (नकली शीर्षकों का पीछा करना और फिर से लिखना) से घटकर लगभग 6 मिनट हो गया, इसलिए प्रति ब्रीफ कुल समय लगभग 9 मिनट या पूरे सेट में लगभग 72 मिनट कम हो गया। स्वीकृति चेकलिस्ट (कोई काल्पनिक उद्धरण नहीं, कोई असमर्थित आँकड़े नहीं, ज्ञात/अनुमानित/अनुमानित टैग मौजूद, कमियों को दर्शाने वाले खुले प्रश्न) पर, 8 में से 7 ठोस मसौदे पहली समीक्षा में पास हो गए, जबकि 8 में से केवल 2 एक बार में तैयार किए गए मसौदे पास हुए। सीमाएँ: छोटा नमूना, एक विश्लेषक, एक प्रकार का ब्रीफ; स्पष्ट सार्वजनिक मूल्य निर्धारण वाले आसान प्रतिस्पर्धी अंतर को कम करते हैं; "सत्यापन समय" में संदिग्ध शीर्षकों के लिए वेब खोजें शामिल थीं।

अपने स्वयं के संस्करण को मापने के लिए: अपनी वर्तमान आदत के साथ 5 ब्रीफ तैयार करें और 5 ब्रीफ पेस्ट किए गए स्रोतों + प्रतिबंधित मनगढ़ंत उद्धरणों + दावा टैग के साथ तैयार करें; औसत ड्राफ्ट समय, औसत सत्यापन समय और चेकलिस्ट पास दर को रिकॉर्ड करें, जिसमें हर को दिखाया गया हो।.

क्या गलत हो सकता है?

• धाराप्रवाहता पूर्वाग्रह: उत्तम व्याकरण और सुव्यवस्थित बुलेट पॉइंट आपको स्पॉट-चेक से बचने के लिए प्रेरित करते हैं।
• उद्धरण का दिखावा: बिना चिपकाए गए प्रमाण के "स्रोत" मांगना एक प्रकार की विद्वत्ता को आमंत्रित करता है जिसमें कोई मेल खाने वाला रिकॉर्ड नहीं होता।
• अतिपूर्ण सूचियाँ: "मुझे दस अध्ययन दीजिए" कहने से नोट्स में केवल तीन अध्ययन होने पर भी अनावश्यक जानकारी भरने को प्रोत्साहन मिलता है।
• पूरे निबंध का पुनर्निर्माण: एक गलत पंक्ति के बाद, उस अनुभाग को संक्षेप में फिर से लिखने के लिए कहें - न कि उसे पूरी तरह से नया रूप देने के लिए।
• जैसे महत्वपूर्ण विषयों के लिए बिक्री संबंधी संक्षिप्त विवरणों की तुलना में अधिक मजबूत मानवीय नियंत्रण की आवश्यकता होती है।
• कोई मानवीय हस्तक्षेप नहीं: टैग किए गए ड्राफ्ट में भी पेस्ट किए गए वाक्य को गलत समझा जा सकता है। शेयर बटन पर अभी भी सैम का ही अधिकार है।

व्यावहारिक निष्कर्ष

एआई मनगढ़ंत बातें इसलिए बनाता है क्योंकि वह रिक्त स्थानों में संभावित भाषा का अनुमान लगाता है - न कि इसलिए कि वह आपको धोखा देना चाहता है। धाराप्रवाह को शैली के रूप में लें, प्रमाण के रूप में नहीं। स्पष्ट सीमाएँ बनाएँ, नकली स्रोतों पर प्रतिबंध लगाएँ, अनिश्चितता को चिह्नित करें, सबसे सटीक दावे की जाँच करें और जब कुछ गड़बड़ लगे तो उसे सुधारें। इस तरह आप एक तेज़ ड्राफ्टिंग पार्टनर के लाभ को बनाए रख सकते हैं, बिना किसी ऐसी कहानी को आत्मविश्वास से पेश किए जो कभी हुई ही न हो।.

अक्सर पूछे जाने वाले प्रश्न

एआई कभी-कभी मनगढ़ंत बातें क्यों बना देता है?

अधिकांश चैट मॉडल पैटर्न पर आधारित होते हैं: वे एक ऐसा उत्तर तैयार करते हैं जो एक अच्छे उत्तर के अनुरूप हो, न कि सत्य के रूप में प्रमाणित किसी प्रमाणित दस्तावेज़ के अनुरूप। रिक्त स्थानों को सांख्यिकीय रूप से सही लगने वाली किसी भी चीज़ से भर दिया जाता है - एक अकादमिक दिखने वाला उद्धरण, एक सटीक संख्या, या उस युग के अनुरूप कोई विवरण। सहज पाठ तैयार करना ही लक्ष्य होता है, इसलिए "सही लगता है" "सही है" से अधिक महत्वपूर्ण हो जाता है। यही कारण है कि मनगढ़ंत उत्तर अक्सर सटीक व्याकरण और सुव्यवस्थित बिंदुओं के साथ आते हैं।.

क्या एआई का आत्मविश्वास और सटीकता एक ही चीज़ हैं?

नहीं। आत्मविश्वास और सटीकता दो अलग-अलग स्तर हैं - एक का स्तर ऊंचा हो सकता है जबकि दूसरा लगभग शून्य के करीब। सामान्य तौर पर, दिए गए जवाब आत्मविश्वास से भरे होते हैं क्योंकि प्रशिक्षण में उपयोगी और सटीक भाषा को महत्व दिया जाता है, न कि इसलिए कि हर दावा ठोस आधार पर आधारित था। मुखर भाषा को शैली समझें, प्रमाण नहीं। यदि किसी उत्तर में कोई सत्यापित स्रोत, कोई अनिश्चितता न हो और बहुत सारे विशिष्ट नाम या संख्याएँ हों, तो रुक जाइए।.

चैटबॉट मनगढ़ंत उद्धरण और फर्जी स्रोत क्यों बनाते हैं?

प्रशिक्षण पाठों में उद्धरण का स्वरूप आम है, इसलिए "स्रोत" माँगने से वास्तविक प्रमाण प्राप्त किए बिना ही शोध का आभास हो सकता है - जैसे स्मृति से रसीद बनाना। नकली शोधपत्रों के शीर्षक, पत्रिकाओं के नाम, यूआरएल और उद्धृत स्रोतों का उपयोग अक्सर पेशेवर प्रतीत होता है और सरसरी तौर पर पढ़ने वालों को धोखा दे सकता है। ऐसे शीर्षक माँगें जिन्हें आप स्वयं खोज सकें; यदि स्रोत तुरंत न मिले, तो दावे को असत्यापित मानें।.

कृत्रिम बुद्धिमत्ता से होने वाले आविष्कार का जोखिम सबसे अधिक कब होता है?

विशिष्ट, हालिया या बेहद खास विषयों पर प्रतिक्रिया देने में जोखिम बढ़ जाता है, खासकर जब आप सटीक आंकड़े, दस्तावेजों के नाम, निजी जानकारी या सहकर्मी-समीक्षित अध्ययनों की लंबी सूचियां मांगते हैं। उच्च जोखिम वाले क्षेत्रों में स्वास्थ्य, कानून, वित्त, अनुपालन, सुरक्षा, नामित व्यक्ति और सटीक आंकड़े शामिल हैं। विचार-मंथन, रूपरेखा तैयार करना, अपने मसौदे को दोबारा लिखना और लहजे में सुधार करना आमतौर पर कम जोखिम भरा होता है। लंबे और प्रभावशाली उत्तर भी देखने में जितने सुरक्षित लगते हैं, उतने होते नहीं।.

मैं हर शब्द की जाँच किए बिना कृत्रिम AI उत्तरों को कैसे पहचान सकता हूँ?

सबसे पहले सबसे महत्वपूर्ण जानकारी की जांच करें - जैसे संख्या, नाम, नीति या कथन। यदि यह विफल हो जाता है, तो बाकी चीजों को जांच के दायरे में रखें। आंतरिक विरोधाभासों और बिना किसी स्पष्टीकरण या समझौते के "अत्यधिक सटीक" प्रस्तुति पर ध्यान दें। मॉडल को किस बात की सबसे कम जानकारी है, यह पूछें, चैट के बाहर नामों और पदनामों की पुष्टि करें, और मनगढ़ंत तथ्यों के बजाय आपके द्वारा पेस्ट किए गए टेक्स्ट से जुड़े उत्तरों को प्राथमिकता दें।.

कौन सी आदतें एआई मतिभ्रम को कम करती हैं?

आप एक जादुई वाक्य से मतिभ्रम को पूरी तरह खत्म नहीं कर सकते, लेकिन आप उसके प्रभाव को कम कर सकते हैं। जानकारी को केवल लिखे हुए नोट्स तक सीमित रखें और जब कुछ अधूरा हो तो "मुझे नहीं पता" कहें। मनगढ़ंत उद्धरणों, कथनों और यूआरएल पर प्रतिबंध लगाएं। ज्ञात/अनुमानित/अनुमान जैसे टैग का प्रयोग अनिवार्य करें, मान्यताओं के बारे में पूछें और दावे/सबूत वाली संरचना को प्राथमिकता दें। मॉडल को यह बताना कि "मुझे नहीं पता" कहना ठीक है, झूठी निश्चितता प्रदर्शित करने के दबाव को कम करता है।.

तथ्यात्मक कार्यों के लिए एआई का उपयोग करते समय ग्राउंडिंग का क्या अर्थ है?

आधार निर्धारण से उत्तर को मॉडल के तात्कालिक अनुमान से परे किसी चीज़ से जोड़ा जाता है - जैसे आपका नीति दस्तावेज़, स्प्रेडशीट, मीटिंग नोट्स, या कोई सार्वजनिक पृष्ठ जिसकी आप स्वयं जाँच करेंगे। जब उत्तरों को उस सीमा के भीतर ही रखना आवश्यक होता है, तो रचनात्मकता की गुंजाइश कम हो जाती है। अनुवर्ती प्रश्न एक दूसरी सीमा का काम करते हैं: पूछें कि कोई संख्या कहाँ से आई है, कौन सा भाग अनुमान है, या बिना नाम वाले अध्ययनों के साथ पुनः लिखें। महत्वपूर्ण निर्णयों के लिए किसी व्यक्ति को सूचित रखें।.

बातचीत के दौरान अगर मुझे मतिभ्रम होने लगे तो मुझे क्या करना चाहिए?

समस्या को उजागर करें, वास्तविक दस्तावेज़ या डेटा के साथ पुनः स्थापित करें, और पूरी तरह से नया और सुव्यवस्थित निबंध लिखने का अनुरोध करने के बजाय केवल टूटे हुए भाग को ही ठीक करें। सभी बारीकियों - नाम, संख्याएँ, प्रक्रिया के चरण - की दोबारा जाँच करें, फिर तय करें कि यह टूल विचार-मंथन में सहायक है, मसौदा तैयार करने में मदद करता है, या "इस विषय के लिए उपयुक्त नहीं है"। स्पष्ट सीमाएँ मॉडल के अनुकूलन के स्तर को बदल देती हैं; जब रचनात्मकता दिखाई दे तो और अधिक सावधानी बरतें।.

मैं किसी प्रतियोगी के शोध पत्र में मनगढ़ंत उद्धरणों को कैसे रोक सकता हूँ?

आपके पास पहले से मौजूद स्रोत नोट्स पेस्ट करें, नकली स्रोतों और निराधार आंकड़ों पर प्रतिबंध लगाएं, और ज्ञात/अनुमानित/अनुमानित टैग के साथ-साथ खुले प्रश्नों की सूची अनिवार्य करें। सबसे जोखिम भरे दावे की पहले जांच करें, संदेह परीक्षण चलाकर निराधार अनुमानों को हटा दें, और यदि कोई संख्या निराधार है तो केवल टूटे हुए भाग को ही दोबारा लिखें। स्वीकृति का अर्थ है कि प्रत्येक "ज्ञात" बुलेट पेस्ट की गई पंक्ति से मेल खाती है और शेष शीर्षक की जांच एक मानव द्वारा की जाती है।.

एआई को स्वतंत्र रूप से आविष्कार करने देना कब तक ठीक है?

रचनात्मक लेखन और अन्य कम जोखिम वाले कार्यों में उपमाओं का खुलकर प्रयोग किया जा सकता है - यही तो खेल का मैदान है। सावधानी बरतें और परिणामों का ध्यान रखें: यदि गलत शब्दों से धन, विश्वास, अंक या सुरक्षा को नुकसान होता है, तो सत्यापन अनिवार्य है। यदि केवल उदासीनता का भाव हो, तो ढील दें। धाराप्रवाह लेखन चरित्र का प्रमाण नहीं है; आदर्श को एक ऐसे कुशल प्रशिक्षु की तरह समझें जिसे तथ्यात्मक कार्यों में अभी भी मार्गदर्शन की आवश्यकता है।.

संदर्भ

1. ओपनएआई - openai.com
2. एंथ्रोपिक - anthropic.com
3. एनआईएसटी - nist.gov
4. आईबीएम - ibm.com
5. गूगल एआई - ai.google.dev
6. गूगल क्लाउड - ग्राउंडिंग - docs.cloud.google.com