एआई कितनी ऊर्जा का उपयोग करता है?

उत्तर: साधारण टेक्स्ट कार्यों के लिए एआई बहुत कम बिजली का उपयोग कर सकता है, लेकिन जब प्रॉम्प्ट लंबे हों, आउटपुट बहुआयामी हों या सिस्टम बड़े पैमाने पर काम कर रहे हों तो बिजली की खपत कहीं अधिक हो जाती है। प्रशिक्षण आमतौर पर ऊर्जा की सबसे अधिक खपत करता है, जबकि अनुरोधों के बढ़ने के साथ-साथ दैनिक अनुमान प्रक्रिया भी महत्वपूर्ण हो जाती है।

चाबी छीनना:

संदर्भ : ऊर्जा संबंधी कोई भी अनुमान लगाने से पहले कार्य, मॉडल, हार्डवेयर और पैमाने को परिभाषित करें।

प्रशिक्षण : बजट की योजना बनाते समय मॉडल प्रशिक्षण को मुख्य प्रारंभिक ऊर्जा खपत कार्यक्रम के रूप में मानें।

निष्कर्ष : बार-बार किए जाने वाले निष्कर्ष पर बारीकी से नज़र रखें, क्योंकि प्रति अनुरोध की छोटी लागतें बड़े पैमाने पर जल्दी से जुड़ जाती हैं।

अवसंरचना : किसी भी यथार्थवादी अनुमान में शीतलन, भंडारण, नेटवर्क और निष्क्रिय क्षमता को शामिल करें।

दक्षता : ऊर्जा की खपत कम करने के लिए छोटे मॉडल, संक्षिप्त प्रॉम्प्ट, कैशिंग और बैचिंग का उपयोग करें।

इस लेख के बाद आप ये लेख भी पढ़ सकते हैं:

🔗 कृत्रिम बुद्धिमत्ता पर्यावरण को कैसे प्रभावित करती है
यह लेख कृत्रिम बुद्धिमत्ता के कार्बन फुटप्रिंट, ऊर्जा उपयोग और स्थिरता संबंधी परस्पर समझौतों की व्याख्या करता है।.

🔗 क्या कृत्रिम बुद्धिमत्ता पर्यावरण के लिए हानिकारक है?
यह लेख एआई मॉडल और डेटा केंद्रों की छिपी हुई पर्यावरणीय लागतों को उजागर करता है।.

🔗 क्या कृत्रिम बुद्धिमत्ता अच्छी है या बुरी? इसके फायदे और नुकसान क्या हैं?
कृत्रिम बुद्धिमत्ता के लाभों, जोखिमों, नैतिकता और वास्तविक प्रभावों का संतुलित विश्लेषण।.

🔗 एआई क्या है? एक सरल मार्गदर्शिका
एआई की बुनियादी बातें, प्रमुख शब्द और रोजमर्रा के उदाहरण कुछ ही मिनटों में सीखें।.

यह सवाल लोगों की सोच से कहीं ज्यादा महत्वपूर्ण क्यों है 🔍

एआई द्वारा ऊर्जा का उपयोग केवल पर्यावरण संबंधी चर्चा का विषय नहीं है। यह कुछ बहुत ही वास्तविक मुद्दों को छूता है:

• बिजली की लागत - विशेष रूप से उन व्यवसायों के लिए जो बहुत सारे एआई अनुरोध संचालित करते हैं

• कार्बन प्रभाव - सर्वरों के पीछे मौजूद विद्युत स्रोत पर निर्भर करता है

• हार्डवेयर पर दबाव - शक्तिशाली चिप्स भारी मात्रा में बिजली की खपत करती हैं

• निर्णय लेने की प्रक्रिया - एक सस्ता सुझाव लाखों महंगे सुझावों में तब्दील हो सकता है।

• उत्पाद डिजाइन - दक्षता अक्सर लोगों की सोच से कहीं बेहतर विशेषता होती है ( गूगल क्लाउड , ग्रीन एआई )

बहुत से लोग पूछते हैं, "एआई कितनी ऊर्जा का उपयोग करता है?" क्योंकि वे एक चौंकाने वाला आंकड़ा चाहते हैं। कोई बहुत बड़ा आंकड़ा। कोई ऐसी खबर जो सुर्खियां बटोर सके। लेकिन बेहतर सवाल यह है: हम किस प्रकार के एआई उपयोग की बात कर रहे हैं? क्योंकि इससे सब कुछ बदल जाता है। ( आईईए )

एक मात्र ऑटो-कंप्लीट सुझाव? बहुत छोटा।
विशाल क्लस्टरों में एक अत्याधुनिक मॉडल को प्रशिक्षित करना? बहुत बड़ा।
लाखों उपयोगकर्ताओं तक पहुँचने वाला एक निरंतर चलने वाला एंटरप्राइज़ एआई वर्कफ़्लो? हाँ, यह बहुत जल्दी बढ़ता जाता है... जैसे कुछ पैसे किराए के भुगतान में बदल जाते हैं। ( डीओई , गूगल क्लाउड )

एआई कितनी ऊर्जा का उपयोग करता है? संक्षिप्त उत्तर ⚡

यह इसका व्यावहारिक संस्करण है।.

AI) एक हल्के कार्य के लिए एक वाट-घंटे के एक छोटे से अंश से लेकर बड़े पैमाने पर प्रशिक्षण और तैनाती के लिए भारी मात्रा में बिजली का उपयोग कर सकती है। यह सीमा हास्यास्पद रूप से व्यापक लगती है क्योंकि यह वास्तव में व्यापक है। ( गूगल क्लाउड , स्ट्रूबेल एट अल. )

सरल शब्दों में:

• सरल अनुमान लगाने वाले कार्य - अक्सर प्रति उपयोग के आधार पर अपेक्षाकृत मामूली होते हैं

• लंबी बातचीत, बड़े आउटपुट, इमेज जनरेशन, वीडियो जनरेशन - ये सभी काम काफी ऊर्जा खपत करते हैं।

• बड़े मॉडलों को प्रशिक्षित करना - बिजली की खपत का दिग्गज चैंपियन

• दिनभर बड़े पैमाने पर एआई चलाना - जहां "प्रति अनुरोध कम" खर्च "कुल बिल में भारी बढ़ोतरी" में बदल जाता है ( गूगल क्लाउड , डीओई )

एक अच्छा नियम यह है:

• प्रशिक्षण एक बहुत बड़ा प्रारंभिक ऊर्जा संचय है। 🏭

• अनुमान लगाना एक निरंतर चलने वाला उपयोगिता बिल है 💡 ( स्ट्रुबेल एट अल. , गूगल रिसर्च )

इसलिए जब कोई पूछता है, " एआई कितनी ऊर्जा का उपयोग करता है?" , तो सीधा उत्तर है, "कोई निश्चित मात्रा नहीं - बल्कि इतनी ऊर्जा का उपयोग होता है कि दक्षता मायने रखती है, और इतना कि व्यापक उपयोग से पूरी कहानी बदल जाती है।" ( आईईए , ग्रीन एआई )

मुझे पता है कि यह उतना आकर्षक नहीं है जितना लोग चाहते हैं। लेकिन यह सच है।.

एआई द्वारा किए जाने वाले ऊर्जा अनुमान का अच्छा संस्करण कैसा होना चाहिए? 🧠

एक अच्छा अनुमान केवल ग्राफ़ पर दिखाए गए नाटकीय आंकड़े नहीं होते। एक व्यावहारिक अनुमान में संदर्भ शामिल होता है। अन्यथा, यह बाथरूम के तराजू से कोहरे का वजन करने जैसा है। सुनने में प्रभावशाली लगने के लिए काफी सटीक, लेकिन विश्वास करने लायक नहीं। ( IEA , Google Cloud )

एक सटीक एआई ऊर्जा अनुमान में निम्नलिखित शामिल होने चाहिए:

• कार्य का प्रकार - पाठ, छवि, ऑडियो, वीडियो, प्रशिक्षण, परिष्करण

• मॉडल का आकार - बड़े मॉडलों को आमतौर पर अधिक कंप्यूटिंग शक्ति की आवश्यकता होती है।

• उपयोग किए गए हार्डवेयर - सभी चिप्स समान रूप से कुशल नहीं होते हैं।

• सेशन की अवधि - छोटे प्रॉम्प्ट और लंबे मल्टी-स्टेप वर्कफ़्लो बहुत अलग होते हैं।

• उपयोग - निष्क्रिय प्रणालियाँ भी बिजली की खपत करती हैं

• शीतलन और बुनियादी ढांचा - सर्वर ही पूरा खर्च नहीं है

• स्थान और ऊर्जा मिश्रण - बिजली हर जगह समान रूप से स्वच्छ नहीं होती ( गूगल क्लाउड , आईईए )

इसीलिए दो लोग एआई के बिजली उपयोग पर बहस कर सकते हैं और दोनों पूरी तरह से अलग-अलग विषयों पर बात करते हुए भी आत्मविश्वास से भरे लगते हैं। एक व्यक्ति का मतलब चैटबॉट की एक प्रतिक्रिया से होता है। दूसरे का मतलब एक विशाल प्रशिक्षण सत्र से होता है। दोनों "एआई" कहते हैं, और अचानक बातचीत बेकाबू हो जाती है 😅

तुलना तालिका - एआई की ऊर्जा खपत का अनुमान लगाने के सर्वोत्तम तरीके 📊

जो लोग इस प्रश्न का उत्तर देने की कोशिश कर रहे हैं, उनके लिए यहां एक व्यावहारिक तालिका दी गई है, ताकि वे इसे प्रदर्शन कला में परिवर्तित न करें।.

उपकरण या विधि	सर्वश्रेष्ठ दर्शक	कीमत	यह कैसे काम करता है
सरल अनुमान	जिज्ञासु पाठकों, छात्रों	मुक्त	तेज़, आसान, थोड़ा धुंधला - लेकिन मोटे तौर पर तुलना करने के लिए काफी अच्छा।
डिवाइस-साइड वाट मीटर	अकेले निर्माण करने वाले, शौकिया लोग	कम	यह मशीन द्वारा खींची गई वास्तविक मात्रा को मापता है, जो बेहद ठोस है।
जीपीयू टेलीमेट्री डैशबोर्ड	इंजीनियर, एमएल टीमें	मध्यम	कंप्यूटिंग-प्रधान कार्यों का बेहतर विवरण मिलता है, हालांकि इससे सुविधा संबंधी अधिक लागत का पता नहीं चल पाता है।
क्लाउड बिलिंग + उपयोग लॉग	स्टार्टअप, संचालन टीमें	मध्यम से उच्च	यह एआई के उपयोग को वास्तविक खर्च से जोड़ता है - पूरी तरह सही नहीं, फिर भी काफी उपयोगी है।
डेटा सेंटर ऊर्जा रिपोर्टिंग	एंटरप्राइज़ टीमें	उच्च	इससे परिचालन संबंधी व्यापक जानकारी मिलती है, और शीतलन एवं बुनियादी ढांचा यहां दिखने लगता है।
संपूर्ण जीवनचक्र मूल्यांकन	स्थिरता टीमें, बड़े संगठन	थोड़ा तेज़, कभी-कभी दर्दनाक	गंभीर विश्लेषण के लिए यह सबसे अच्छा है क्योंकि यह चिप से परे जाकर विश्लेषण करता है... लेकिन यह धीमा है और थोड़ा जटिल भी है।

कोई भी तरीका एकदम सही नहीं होता। यही बात थोड़ी निराशाजनक है। लेकिन हर चीज का अपना महत्व होता है। और आमतौर पर, कामचलाऊ चीज भी एकदम सही चीज से बेहतर होती है। ( गूगल क्लाउड )

सबसे बड़ा कारक जादू नहीं है - बल्कि कंप्यूटिंग और हार्डवेयर है 🖥️🔥

जब लोग एआई की ऊर्जा खपत की कल्पना करते हैं, तो वे अक्सर मॉडल को ही बिजली खपत करने वाली वस्तु के रूप में देखते हैं। लेकिन मॉडल असल में हार्डवेयर पर चलने वाला सॉफ्टवेयर लॉजिक है। बिजली का बिल हार्डवेयर पर ही आता है। ( स्ट्रुबेल एट अल. , गूगल क्लाउड )

सबसे बड़े परिवर्तनीय कारकों में आमतौर पर निम्नलिखित शामिल होते हैं:

• जीपीयू या एक्सेलेरेटर प्रकार

• कितने चिप्स का उपयोग किया जाता है?

• वे कितने समय तक सक्रिय रहते हैं

• मेमोरी लोड

• बैच का आकार और थ्रूपुट

• चाहे सिस्टम को अच्छी तरह से अनुकूलित किया गया हो या बस हर चीज को जबरदस्ती लागू किया जा रहा हो ( Google क्लाउड , क्वांटाइजेशन, बैचिंग और एलएलएम ऊर्जा उपयोग में सर्विंग रणनीतियाँ )

एक अत्यधिक अनुकूलित प्रणाली कम ऊर्जा में अधिक काम कर सकती है। वहीं, एक अव्यवस्थित प्रणाली बेहिसाब बिजली बर्बाद कर सकती है। आप जानते ही हैं - कुछ प्रणालियाँ रेसिंग कारों की तरह होती हैं, कुछ रॉकेट टेप से चिपकाए गए शॉपिंग कार्ट की तरह 🚀🛒

और हाँ, मॉडल का आकार मायने रखता है। बड़े मॉडल को ज़्यादा मेमोरी और ज़्यादा गणना की आवश्यकता होती है, खासकर जब लंबे आउटपुट तैयार करने हों या जटिल तर्क प्रक्रिया को संभालना हो। लेकिन दक्षता बढ़ाने के उपाय स्थिति को बदल सकते हैं: ( ग्रीन एआई , क्वांटाइजेशन, बैचिंग और एलएलएम ऊर्जा उपयोग में सर्विंग रणनीतियाँ )

• परिमाणीकरण

• बेहतर रूटिंग

• छोटे विशेषज्ञ मॉडल

• कैशिंग

• बैचिंग

• स्मार्टर हार्डवेयर शेड्यूलिंग ( एलएलएम ऊर्जा उपयोग में परिमाणीकरण, बैचिंग और सर्विंग रणनीतियाँ )

इसलिए सवाल सिर्फ यह नहीं है कि "मॉडल कितना बड़ा है?" बल्कि यह भी है कि "इसे कितनी बुद्धिमत्ता से चलाया जा रहा है?"

प्रशिक्षण बनाम अनुमान - ये दो अलग-अलग चीजें हैं 🐘🐇

यह वह विभाजन है जो लगभग सभी को भ्रमित कर देता है।.

प्रशिक्षण

प्रशिक्षण वह प्रक्रिया है जिसमें एक मॉडल विशाल डेटासेट से पैटर्न सीखता है। इसमें कई चिप्स लंबे समय तक चलती रहती हैं और भारी मात्रा में डेटा को प्रोसेस करती हैं। यह चरण ऊर्जा की अत्यधिक खपत करता है। ( स्ट्रुबेल एट अल. )

प्रशिक्षण के लिए आवश्यक ऊर्जा निम्नलिखित पर निर्भर करती है:

• मॉडल का आकार

• डेटासेट आकार

• प्रशिक्षण दौड़ों की संख्या

• असफल प्रयोग

• फाइन-ट्यूनिंग पास

• हार्डवेयर दक्षता

• कूलिंग ओवरहेड ( स्ट्रुबेल एट अल. , गूगल रिसर्च )

और यहाँ वो बात है जिसे लोग अक्सर नज़रअंदाज़ कर देते हैं - आम तौर पर लोग सोचते हैं कि एक बड़ा प्रशिक्षण सत्र एक बार में ही पूरा हो जाता है। व्यवहार में, विकास में बार-बार प्रशिक्षण सत्र चलाना, समायोजन करना, पुनः प्रशिक्षण देना, मूल्यांकन करना और मुख्य प्रक्रिया के इर्द-गिर्द होने वाले सभी सामान्य लेकिन खर्चीले चरण शामिल हो सकते हैं। ( स्ट्रुबेल एट अल. , ग्रीन एआई )

अनुमान

अनुमान लगाना वह प्रक्रिया है जिसमें मॉडल उपयोगकर्ता के वास्तविक अनुरोधों का उत्तर देता है। एक अनुरोध भले ही मामूली लगे, लेकिन अनुमान लगाने की प्रक्रिया बार-बार दोहराई जाती है। लाखों बार। कभी-कभी अरबों बार। ( गूगल रिसर्च , डीओई )

अनुमान ऊर्जा निम्न के साथ बढ़ती है:

• प्रॉम्प्ट लंबाई

• आउटपुट लंबाई

• उपयोगकर्ता की संख्या

• विलंबता आवश्यकताएँ

• मल्टीमॉडल विशेषताएं

• अपटाइम अपेक्षाएँ

• सुरक्षा और पोस्ट-प्रोसेसिंग चरण ( गूगल क्लाउड , क्वांटाइजेशन, बैचिंग और सर्विंग रणनीतियाँ )

तो प्रशिक्षण भूकंप है। अनुमान ज्वार-भाटे की तरह है। एक नाटकीय है, दूसरा निरंतर है, और दोनों ही तटरेखा को थोड़ा-बहुत बदल सकते हैं। यह शायद एक असामान्य उपमा है, लेकिन यह कमोबेश प्रासंगिक है।.

ऊर्जा की वो छिपी हुई लागतें जिन्हें लोग भूल जाते हैं 😬

जब कोई व्यक्ति केवल चिप को देखकर एआई की बिजली खपत का अनुमान लगाता है, तो वह आमतौर पर वास्तविक खपत को कम आंक रहा होता है। यह हमेशा विनाशकारी नहीं होता, लेकिन इतना जरूर होता है कि मायने रखता है। ( गूगल क्लाउड , आईईए )

ये हैं छिपे हुए हिस्से:

शीतलन ❄️

सर्वर गर्मी उत्पन्न करते हैं। शक्तिशाली एआई हार्डवेयर तो और भी अधिक गर्मी उत्पन्न करते हैं। शीतलन अनिवार्य है। गणना में खपत होने वाला प्रत्येक वाट तापमान को नियंत्रित रखने के लिए अधिक ऊर्जा खपत को बढ़ावा देता है। ( IEA , Google क्लाउड )

डेटा का आवागमन 🌐

डेटा को स्टोरेज, मेमोरी और नेटवर्क के बीच स्थानांतरित करने में भी ऊर्जा लगती है। एआई केवल "सोचना" ही नहीं है। यह लगातार सूचनाओं का आदान-प्रदान भी करता रहता है। ( आईईए )

निष्क्रिय क्षमता 💤

अधिकतम मांग के लिए निर्मित प्रणालियाँ हमेशा अधिकतम मांग पर नहीं चलतीं। निष्क्रिय या कम उपयोग की गई अवसंरचना भी बिजली की खपत करती है। ( गूगल क्लाउड )

अतिरेक और विश्वसनीयता 🧱

बैकअप, फेलओवर सिस्टम, डुप्लिकेट क्षेत्र, सुरक्षा परतें - ये सभी महत्वपूर्ण हैं, और ऊर्जा के व्यापक परिदृश्य का हिस्सा हैं। ( आईईए )

भंडारण 📦

प्रशिक्षण डेटा, एम्बेडिंग, लॉग, चेकपॉइंट, जनरेटेड आउटपुट - ये सभी कहीं न कहीं मौजूद होते हैं। बेशक, स्टोरेज कंप्यूटिंग से सस्ता है, लेकिन ऊर्जा के लिहाज से यह मुफ्त नहीं है। ( IEA )

इसीलिए, "एआई कितनी ऊर्जा का उपयोग करता है?" इस सवाल का सही जवाब सिर्फ एक बेंचमार्क चार्ट को देखकर नहीं दिया जा सकता। पूरी प्रक्रिया मायने रखती है। ( गूगल क्लाउड , आईईए )

क्यों एक एआई प्रॉम्प्ट छोटा हो सकता है - और अगला वाला विशालकाय हो सकता है 📝➡️🎬

सभी प्रॉम्प्ट एक जैसे नहीं होते। वाक्य को दोबारा लिखने का छोटा सा अनुरोध, किसी लंबे विश्लेषण, कई चरणों वाले कोडिंग सत्र या उच्च-रिज़ॉल्यूशन वाली छवि बनाने के अनुरोध से तुलनीय नहीं है। ( गूगल क्लाउड )

वे चीजें जो प्रति इंटरैक्शन ऊर्जा के उपयोग को बढ़ाने की प्रवृत्ति रखती हैं:

• लंबे संदर्भ विंडो

• लंबे उत्तर

• उपकरण के उपयोग और पुनर्प्राप्ति के चरण

• तर्क या सत्यापन के लिए कई बार जांच करना

• छवि, ऑडियो या वीडियो निर्माण

• उच्च समवर्तीता

• कम विलंबता लक्ष्य ( गूगल क्लाउड , क्वांटाइजेशन, बैचिंग और एलएलएम ऊर्जा उपयोग में सर्विंग रणनीतियाँ )

एक संक्षिप्त टेक्स्ट उत्तर अपेक्षाकृत सस्ता हो सकता है। लेकिन एक विशाल मल्टीमॉडल वर्कफ़्लो महंगा पड़ सकता है। यह कुछ-कुछ कॉफी ऑर्डर करने और शादी में कैटरिंग करवाने जैसा है। तकनीकी रूप से, दोनों ही "खाद्य सेवा" की श्रेणी में आते हैं। लेकिन दोनों में बहुत अंतर है। ☕🎉

यह बात खासकर प्रोडक्ट टीमों के लिए मायने रखती है। कम इस्तेमाल में हानिरहित लगने वाला फीचर बड़े पैमाने पर इस्तेमाल होने पर महंगा साबित हो सकता है, अगर हर यूजर सेशन लंबा, अधिक विस्तृत और अधिक कंप्यूटिंग क्षमता वाला हो जाए। ( डीओई , गूगल क्लाउड )

उपभोक्ता एआई और उद्यम एआई एक ही चीज़ नहीं हैं 🏢📱

एआई का सामान्य रूप से उपयोग करने वाला व्यक्ति शायद यह मान ले कि कभी-कभार मिलने वाले संकेत ही बड़ी समस्या हैं। लेकिन आमतौर पर ऊर्जा से जुड़ी मुख्य कहानी यहीं नहीं छिपी होती। ( गूगल क्लाउड )

उद्यम स्तर पर उपयोग से स्थिति बदल जाती है:

• हजारों कर्मचारियों

• हमेशा चालू रहने वाले सह-पायलट

• स्वचालित दस्तावेज़ प्रसंस्करण

• कॉल सारांश

• छवि विश्लेषण

• कोड समीक्षा उपकरण

• पृष्ठभूमि में चलने वाले एजेंट लगातार

यहीं से कुल ऊर्जा उपयोग का महत्व बढ़ जाता है। इसलिए नहीं कि प्रत्येक क्रिया विनाशकारी है, बल्कि इसलिए कि बार-बार करने से उसका प्रभाव कई गुना बढ़ जाता है। ( डीओई , आईईए )

मेरे अपने परीक्षण और वर्कफ़्लो समीक्षाओं में, यहीं पर लोग हैरान हो जाते हैं। वे मॉडल के नाम या आकर्षक डेमो पर ध्यान देते हैं और बिक्री की मात्रा को नज़रअंदाज़ कर देते हैं। जबकि असल में बिक्री की मात्रा ही सबसे महत्वपूर्ण कारक होती है - या फिर सफलता का राज, यह इस बात पर निर्भर करता है कि आप ग्राहकों से बिल ले रहे हैं या यूटिलिटी बिल का भुगतान कर रहे हैं 😅

उपभोक्ताओं के लिए, इसका प्रभाव अमूर्त लग सकता है। व्यवसायों के लिए, यह बहुत जल्दी ठोस रूप ले लेता है:

• बड़े बुनियादी ढांचा विधेयक

• अनुकूलन के लिए अधिक दबाव

• जहां संभव हो, छोटे मॉडलों की अधिक आवश्यकता है

• आंतरिक स्थिरता रिपोर्टिंग

• कैशिंग और राउटिंग पर अधिक ध्यान देना ( गूगल क्लाउड , ग्रीन एआई )

एआई का उपयोग बंद किए बिना एआई की ऊर्जा खपत को कैसे कम करें 🌱

यह बात इसलिए महत्वपूर्ण है क्योंकि लक्ष्य "एआई का उपयोग बंद करना" नहीं है। आमतौर पर यह व्यावहारिक नहीं होता, और न ही आवश्यक। बेहतर उपयोग ही अधिक समझदारी भरा रास्ता है।.

ये हैं सबसे महत्वपूर्ण कारक:

1. काम पूरा करने के लिए सबसे छोटे मॉडल का उपयोग करें।

हर काम के लिए भारी-भरकम विकल्प की आवश्यकता नहीं होती। वर्गीकरण या सारांश के लिए एक हल्का मॉडल अनावश्यक संसाधनों को तेजी से कम कर सकता है। ( ग्रीन एआई , गूगल क्लाउड )

2. प्रॉम्प्ट और आउटपुट को छोटा करें

विस्तृत इनपुट, विस्तृत आउटपुट। अतिरिक्त टोकन का मतलब अतिरिक्त गणना है। कभी-कभी प्रॉम्प्ट को छोटा करना ही सबसे आसान उपाय होता है। ( एलएलएम ऊर्जा उपयोग में परिमाणीकरण, बैचिंग और सर्विंग रणनीतियाँ , गूगल क्लाउड )

3. दोहराए गए परिणामों को कैश करें

यदि एक ही क्वेरी बार-बार दिखाई दे रही है, तो उसे हर बार दोबारा जनरेट न करें। यह बात इतनी स्पष्ट है, फिर भी अक्सर लोग इसे नज़रअंदाज़ कर देते हैं। ( गूगल क्लाउड )

4. संभव होने पर बैच जॉब करें

कार्यों को बैचों में चलाने से उपयोगिता में सुधार हो सकता है और अपव्यय कम हो सकता है। ( एलएलएम ऊर्जा उपयोग में परिमाणीकरण, बैचिंग और सर्विंग रणनीतियाँ )

5. कार्यों को बुद्धिमानी से निर्देशित करें

बड़े मॉडलों का उपयोग तभी करें जब विश्वास कम हो जाए या कार्य की जटिलता बढ़ जाए। ( ग्रीन एआई , गूगल क्लाउड )

6. बुनियादी ढांचे को अनुकूलित करें

बेहतर शेड्यूलिंग, बेहतर हार्डवेयर, बेहतर कूलिंग रणनीति - ये सब सामान्य बातें हैं, लेकिन इनका लाभ बहुत बड़ा है। ( गूगल क्लाउड , डीओई )

7. अनुमान लगाने से पहले माप लें

कई टीमें सोचती हैं कि उन्हें पता है कि बिजली कहाँ जा रही है। फिर वे मापते हैं, और तब पता चलता है कि महंगा हिस्सा कहीं और है। ( गूगल क्लाउड )

दक्षता बढ़ाने का काम आकर्षक नहीं होता। इसे शायद ही कभी सराहना मिलती है। लेकिन बड़े पैमाने पर एआई को अधिक किफायती और अधिक सुरक्षित बनाने के लिए यह सबसे बेहतरीन तरीकों में से एक है 👍

कृत्रिम बुद्धिमत्ता द्वारा बिजली के उपयोग से जुड़े आम मिथक 🚫

आइए कुछ भ्रांतियों को दूर कर लेते हैं क्योंकि यह विषय बहुत जल्दी उलझ जाता है।.

मिथक 1 - प्रत्येक एआई क्वेरी अत्यधिक व्यर्थ होती है

जरूरी नहीं। कुछ क्लाउड सामान्य स्तर के होते हैं। पैमाना और कार्य का प्रकार बहुत मायने रखते हैं। ( गूगल क्लाउड )

मिथक 2 - प्रशिक्षण ही एकमात्र महत्वपूर्ण चीज है

नहीं। जब उपयोग बहुत अधिक होता है, तो समय के साथ अनुमान हावी हो सकता है। ( गूगल रिसर्च , डीओई )

मिथक 3 - बड़ा मॉडल हमेशा बेहतर परिणाम की गारंटी नहीं देता।

कभी-कभी हाँ, कभी-कभी बिल्कुल नहीं। कई कार्य छोटे सिस्टमों के साथ भी अच्छे से चल जाते हैं। ( ग्रीन एआई )

मिथक 4 - ऊर्जा का उपयोग कार्बन प्रभाव के बराबर होता है

बिल्कुल नहीं। कार्बन ऊर्जा स्रोत पर भी निर्भर करता है। ( आईईए , स्ट्रुबेल एट अल. )

मिथक 5 - एआई की ऊर्जा खपत के लिए एक सार्वभौमिक संख्या प्राप्त की जा सकती है

आप ऐसा नहीं कर सकते, कम से कम ऐसे रूप में तो बिल्कुल नहीं जो सार्थक बना रहे। या आप कर भी सकते हैं, लेकिन वह इतना सामान्य हो जाएगा कि उसका कोई महत्व नहीं रह जाएगा। ( आईईए )

इसीलिए यह पूछना कि एआई कितनी ऊर्जा का उपयोग करता है? एक समझदारी भरा सवाल है - लेकिन केवल तभी जब आप एक नारे के बजाय एक विस्तृत उत्तर के लिए तैयार हों।

तो... असल में एआई कितनी ऊर्जा का उपयोग करता है? 🤔

यह इसका ठोस निष्कर्ष है।.

एआई के उपयोग:

• कुछ सरल कार्यों के लिए थोड़ा-बहुत।

• भारी मल्टीमॉडल उत्पादन के लिए और भी बहुत कुछ।

• बड़े पैमाने पर मॉडल प्रशिक्षण के लिए बहुत बड़ी मात्रा।

• कुल मिलाकर एक बहुत बड़ी राशि , जब समय के साथ लाखों अनुरोध जमा हो जाते हैं ( गूगल क्लाउड , डीओई )

इसका आकार कुछ ऐसा ही है।.

सबसे महत्वपूर्ण बात यह है कि पूरे मुद्दे को एक डरावने आंकड़े या एक सरसरी प्रतिक्रिया में समेटकर खारिज नहीं किया जाना चाहिए। एआई द्वारा ऊर्जा का उपयोग वास्तविक है। यह मायने रखता है। इसे सुधारा जा सकता है। और इस बारे में बात करने का सबसे अच्छा तरीका नाटकीयता के बजाय संदर्भ के साथ है। ( आईईए , ग्रीन एआई )

आम चर्चा का बड़ा हिस्सा दो चरम सीमाओं के बीच झूलता रहता है - एक तरफ "एआई मूल रूप से मुफ्त है", तो दूसरी तरफ "एआई बिजली का प्रलय है"। वास्तविकता कहीं अधिक सामान्य है, जो इसे अधिक जानकारीपूर्ण बनाती है। यह एक प्रणालीगत समस्या है। हार्डवेयर, सॉफ्टवेयर, उपयोग, पैमाना, शीतलन, डिज़ाइन संबंधी विकल्प। क्या यह सामान्य है? कुछ हद तक। क्या यह महत्वपूर्ण है? अत्यंत। ( IEA , Google क्लाउड )

मुख्य निष्कर्ष ⚡🧾

अगर आप यहां यह पूछने आए हैं कि एआई कितनी ऊर्जा का उपयोग करता है?, तो संक्षेप में यह जान लें:

• इसके लिए कोई एक निश्चित संख्या नहीं है।

• प्रशिक्षण में आमतौर पर सबसे अधिक ऊर्जा शुरुआत में खर्च होती है।

• बड़े पैमाने पर अनुमान लगाना एक प्रमुख कारक बन जाता है।

• मॉडल का आकार, हार्डवेयर, कार्यभार और शीतलन - ये सभी चीजें मायने रखती हैं।

• छोटे-छोटे सुधार भी आश्चर्यजनक रूप से बड़ा फर्क ला सकते हैं।

• सबसे समझदारी भरा सवाल सिर्फ "कितना" नहीं है, बल्कि "किस कार्य के लिए, किस सिस्टम पर, किस पैमाने पर?" भी है। ( आईईए , गूगल क्लाउड )

तो हाँ, कृत्रिम बुद्धिमत्ता (AI) वास्तविक ऊर्जा का उपयोग करती है। इतनी ऊर्जा कि इस पर ध्यान देना आवश्यक है। इतनी ऊर्जा कि बेहतर इंजीनियरिंग को उचित ठहराया जा सके। लेकिन कार्टूननुमा, एकतरफा तरीके से नहीं।.

अक्सर पूछे जाने वाले प्रश्न

एक प्रॉम्प्ट के लिए एआई कितनी ऊर्जा का उपयोग करता है?

किसी एक प्रॉम्प्ट के लिए कोई सार्वभौमिक संख्या नहीं है, क्योंकि ऊर्जा की खपत मॉडल, हार्डवेयर, प्रॉम्प्ट की लंबाई, आउटपुट की लंबाई और इसमें शामिल किसी भी अतिरिक्त उपकरण पर निर्भर करती है। एक संक्षिप्त पाठ प्रतिक्रिया अपेक्षाकृत कम ऊर्जा खपत कर सकती है, जबकि एक लंबा बहुआयामी कार्य उल्लेखनीय रूप से अधिक ऊर्जा खपत कर सकता है। सबसे सार्थक उत्तर कोई एक शीर्षक आंकड़ा नहीं, बल्कि कार्य से संबंधित संदर्भ है।.

एआई की शक्ति उपयोग के अनुमानों में इतना अंतर क्यों होता है?

अनुमान अलग-अलग होते हैं क्योंकि लोग अक्सर एआई के नाम पर बहुत अलग-अलग चीजों की तुलना करते हैं। एक अनुमान किसी साधारण चैटबॉट के जवाब का वर्णन कर सकता है, जबकि दूसरा इमेज जनरेशन, वीडियो या बड़े पैमाने पर मॉडल ट्रेनिंग को कवर कर सकता है। किसी भी अनुमान के सार्थक होने के लिए, उसमें कार्य का प्रकार, मॉडल का आकार, हार्डवेयर, उपयोग, कूलिंग और स्थान जैसी जानकारी का होना आवश्यक है।.

एआई को प्रशिक्षित करना या एआई को दिन-प्रतिदिन चलाना, इनमें से किसमें अधिक ऊर्जा खर्च होती है?

प्रशिक्षण में आमतौर पर सबसे अधिक ऊर्जा लगती है, क्योंकि इसमें कई चिप्स को विशाल डेटासेट पर लंबे समय तक चलाना शामिल होता है। अनुमान लगाने की लागत निरंतर बनी रहती है, जो हर बार उपयोगकर्ताओं द्वारा अनुरोध भेजने पर उत्पन्न होती है, और बड़े पैमाने पर यह लागत भी बहुत अधिक हो सकती है। व्यवहार में, दोनों ही महत्वपूर्ण हैं, हालांकि अलग-अलग तरीकों से।.

कौन सी बात एक एआई अनुरोध को दूसरे की तुलना में कहीं अधिक ऊर्जा खपत करने वाला बनाती है?

लंबे कॉन्टेक्स्ट विंडो, लंबे आउटपुट, बार-बार होने वाले रीजनिंग पास, टूल कॉल, रिट्रीवल स्टेप और मल्टीमॉडल जनरेशन, ये सभी प्रति इंटरैक्शन ऊर्जा खपत को बढ़ाते हैं। लेटेंसी लक्ष्य भी महत्वपूर्ण हैं, क्योंकि तेज़ प्रतिक्रिया की आवश्यकता दक्षता को कम कर सकती है। एक छोटा रीराइट अनुरोध और एक लंबा कोडिंग या इमेज वर्कफ़्लो तुलनीय नहीं हैं।.

जब लोग यह पूछते हैं कि एआई कितनी ऊर्जा का उपयोग करता है, तो वे किन छिपी हुई ऊर्जा लागतों को नजरअंदाज कर देते हैं?

कई लोग केवल चिप पर ही ध्यान केंद्रित करते हैं, लेकिन इससे कूलिंग, डेटा मूवमेंट, स्टोरेज, आइडल कैपेसिटी और बैकअप या फेलओवर रीजन जैसे विश्वसनीयता सिस्टम की अनदेखी हो जाती है। ये सहायक परतें कुल ऊर्जा खपत को काफी हद तक बदल सकती हैं। यही कारण है कि केवल बेंचमार्क से ऊर्जा खपत की पूरी तस्वीर शायद ही कभी सामने आती है।.

क्या बड़ा एआई मॉडल हमेशा अधिक ऊर्जा का उपयोग करता है?

बड़े मॉडल आमतौर पर अधिक कंप्यूटिंग और मेमोरी की मांग करते हैं, खासकर लंबे या जटिल आउटपुट के लिए, इसलिए वे अक्सर अधिक ऊर्जा की खपत करते हैं। लेकिन हर काम के लिए बड़ा होना अपने आप बेहतर नहीं होता, और ऑप्टिमाइज़ेशन से स्थिति में काफी बदलाव आ सकता है। छोटे विशेषज्ञ मॉडल, क्वांटाइजेशन, बैचिंग, कैशिंग और बेहतर रूटिंग से दक्षता में सुधार हो सकता है।.

क्या उपभोक्ता एआई का उपयोग ही ऊर्जा की मुख्य समस्या है, या उद्यम एआई इससे कहीं बड़ा मुद्दा है?

सामान्य उपभोक्ताओं द्वारा किया गया उपयोग ऊर्जा खपत को बढ़ा सकता है, लेकिन ऊर्जा की व्यापक समस्या अक्सर बड़े उद्यमों में ही दिखाई देती है। हमेशा चालू रहने वाले कोपायलट, दस्तावेज़ प्रसंस्करण, कॉल सारांश, कोड समीक्षा और पृष्ठभूमि एजेंट बड़ी संख्या में उपयोगकर्ताओं के बीच बार-बार ऊर्जा की मांग पैदा करते हैं। समस्या आमतौर पर किसी एक बड़े बदलाव से नहीं, बल्कि समय के साथ निरंतर ऊर्जा खपत से जुड़ी होती है।.

डेटा सेंटर और कूलिंग को शामिल करने पर एआई कितनी ऊर्जा का उपयोग करता है?

जब व्यापक प्रणाली को शामिल किया जाता है, तो उत्तर अधिक यथार्थवादी हो जाता है और आमतौर पर केवल चिप-आधारित अनुमानों से कहीं अधिक बड़ा होता है। डेटा केंद्रों को न केवल कंप्यूटिंग के लिए, बल्कि शीतलन, नेटवर्किंग, भंडारण और अतिरिक्त क्षमता बनाए रखने के लिए भी बिजली की आवश्यकता होती है। यही कारण है कि मॉडल डिज़ाइन के साथ-साथ बुनियादी ढांचे का डिज़ाइन और सुविधा दक्षता भी लगभग उतनी ही महत्वपूर्ण हैं।.

किसी वास्तविक कार्यप्रवाह में एआई की ऊर्जा खपत को मापने का सबसे व्यावहारिक तरीका क्या है?

सबसे अच्छा तरीका इस बात पर निर्भर करता है कि माप कौन कर रहा है और किस उद्देश्य से कर रहा है। एक मोटा-मोटा अनुमान त्वरित तुलना में सहायक हो सकता है, जबकि वाट मीटर, जीपीयू टेलीमेट्री, क्लाउड बिलिंग लॉग और डेटा सेंटर रिपोर्टिंग से परिचालन संबंधी अधिक गहन जानकारी मिलती है। गंभीर स्थिरता संबंधी कार्यों के लिए, संपूर्ण जीवनचक्र का व्यापक दृष्टिकोण कहीं अधिक प्रभावी होता है, हालांकि यह धीमा और अधिक मेहनत वाला होता है।.

टीमें उपयोगी एआई सुविधाओं को छोड़े बिना एआई की ऊर्जा खपत को कैसे कम कर सकती हैं?

सबसे ज़्यादा फ़ायदे आमतौर पर सबसे छोटे मॉडल का इस्तेमाल करने से मिलते हैं जो काम को पूरा कर सके, प्रॉम्प्ट और आउटपुट को छोटा करने से, बार-बार आने वाले नतीजों को कैश करने से, काम को बैच में करने से, और केवल कठिन कामों को बड़े मॉडल पर भेजने से। इंफ्रास्ट्रक्चर ऑप्टिमाइज़ेशन भी ज़रूरी है, खासकर शेड्यूलिंग और हार्डवेयर की दक्षता। कई पाइपलाइनों में, पहले माप लेने से टीमों को गलत चीज़ को ऑप्टिमाइज़ करने से रोकने में मदद मिलती है।.

संदर्भ

1. अंतर्राष्ट्रीय ऊर्जा एजेंसी (आईईए) - कृत्रिम बुद्धिमत्ता से ऊर्जा की मांग - iea.org

2. अमेरिकी ऊर्जा विभाग (डीओई) - डीओई ने बिजली की बढ़ती मांग के डेटा केंद्रों का मूल्यांकन करने वाली नई रिपोर्ट जारी की - energy.gov

3. गूगल क्लाउड - एआई अनुमान के पर्यावरणीय प्रभाव का मापन - cloud.google.com

4. गूगल रिसर्च - मशीन लर्निंग ट्रेनिंग के कार्बन फुटप्रिंट के बारे में अच्छी खबर - research.google

5. गूगल रिसर्च - मशीन लर्निंग ट्रेनिंग का कार्बन फुटप्रिंट स्थिर हो जाएगा और फिर कम हो जाएगा - research.google

6. arXiv - ग्रीन एआई - arxiv.org

7. arXiv - स्ट्रुबेल एट अल। - arxiv.org

8. arXiv - एलएलएम ऊर्जा उपयोग में परिमाणीकरण, बैचिंग और सर्विंग रणनीतियाँ - arxiv.org

आधिकारिक एआई असिस्टेंट स्टोर पर नवीनतम एआई खोजें

हमारे बारे में