ओपनएआई ने आगामी मॉडल में संभावित गंभीर साइबर सुरक्षा जोखिम की आशंका जताई, नियंत्रण कड़े किए ↗
ओपनएआई का कहना है कि उसका आगामी एस्ट्रा मॉडल साइबर सुरक्षा के उच्चतम खतरे के स्तर पर पहुंच गया है - यानी वह स्तर जहां मॉडल संभावित रूप से शून्य-दिन हमलों का पता लगा सकता है या न्यूनतम मानवीय सहायता से परिष्कृत हमले कर सकता है। यह... एक ऐसा खतरनाक स्तर है जिसे यूं ही पार करना ठीक नहीं है।.
कंपनी ने सुरक्षा बढ़ा दी है, एस्ट्रा को अलग-थलग परीक्षण केंद्रों में स्थानांतरित कर दिया है और उन आंतरिक कार्यों को रोक दिया है जो नए सुरक्षा मानकों को पूरा नहीं करते हैं। हालांकि, सैम ऑल्टमैन अब भी इस मॉडल को अंततः व्यापक रूप से उपलब्ध कराना चाहते हैं, इसलिए यह एक तरह से अस्थायी रोक है, कोई स्थायी बाधा नहीं। (रॉयटर्स)
शोधकर्ताओं का कहना है कि चीनी स्टार्टअप मूनशॉट का एआई मॉडल परीक्षण परिवेश से बाहर निकल गया है। ↗
मूनशॉट एआई के किमी के3 ने साइबर सुरक्षा परीक्षण के लिए इस्तेमाल किए जाने वाले सैंडबॉक्स को बायपास कर दिया और बाहरी वातावरण से जानकारी प्राप्त कर ली। शोधकर्ताओं ने चेतावनी दी कि एक बार जब एक मजबूत तर्क क्षमता वाला मॉडल इस तरह का शॉर्टकट ढूंढ लेता है, तो अन्य मॉडल भी इसी तरह का रास्ता खोज सकते हैं... यह खतरनाक हो सकता है।.
सबसे बड़ी समस्या यह है कि किमी K3 सार्वजनिक रूप से उपलब्ध है। इससे उन्नत क्षमताएं उन लोगों के करीब पहुंच सकती हैं जो जिम्मेदारी से जानकारी देने वाला फॉर्म लेकर नहीं आते। (रॉयटर्स)
गूगल के एआई विभाग में हुए बड़े बदलावों के चलते डेमिस हसाबिस उस पद पर आसीन हुए हैं जहां कंपनी को उनकी सबसे ज्यादा जरूरत है, अंदरूनी सूत्रों का कहना है। ↗
गूगल अपने एआई ऑपरेशन के शीर्ष नेतृत्व में फेरबदल कर रहा है। डेमिस हसाबिस डीपमाइंड के दैनिक कार्यों से हटकर अल्फाबेट के मुख्य वैज्ञानिक और डीपमाइंड के अध्यक्ष बन रहे हैं, जिससे उन्हें दीर्घकालिक एआई अनुसंधान और एजीआई पर ध्यान केंद्रित करने के लिए अधिक समय मिलेगा।.
इसी बीच, गूगल के लंबे समय से कार्यरत मुख्य वैज्ञानिक जेफ डीन और कई प्रमुख शोधकर्ता कंपनी छोड़ रहे हैं। गूगल मूल रूप से अपनी सबसे महत्वपूर्ण एआई रणनीति को बदल रहा है, जबकि प्रतिस्पर्धी कोडिंग और अत्याधुनिक मॉडलों में लगातार प्रगति कर रहे हैं - यह एक रणनीतिक बदलाव है, या फिर एक चिंताजनक फेरबदल। शायद दोनों ही। (बिजनेस इनसाइडर)
AMD, Taalas कंपनी का अधिग्रहण करेगी, जो एंटरप्राइज इन्फरेंस के लिए मॉडल-विशिष्ट AI चिप्स बनाती है। ↗
एएमडी, तालस नामक एक चिप स्टार्टअप कंपनी का अधिग्रहण कर रही है, जिसका एक अद्भुत और अपरंपरागत विचार है: एआई मॉडल के भार को मेमोरी और कंप्यूट के बीच लगातार स्थानांतरित करने के बजाय, उन्हें स्थायी रूप से सिलिकॉन में एम्बेड करना।.
इससे अनुमान लगाने की प्रक्रिया काफी तेज और अधिक कुशल हो सकती है, लेकिन इसमें एक बड़ी खामी है। ये चिप्स विशिष्ट मॉडलों से जुड़ी होती हैं, जिससे गति के लिए लचीलेपन का त्याग करना पड़ता है। एएमडी, एनवीडिया के एआई इंफ्रास्ट्रक्चर के क्षेत्र में शीर्ष स्थान हासिल करने की कोशिश में, इस तकनीक को अपने इंस्टिंक्ट रोडमैप में शामिल करने की योजना बना रही है। (नेटवर्क वर्ल्ड)
ट्रम्प का कहना है कि कांग्रेस एआई उद्योग को विनियमित करके उसे 'बंद' करना चाहती है। ↗
डोनाल्ड ट्रम्प ने कांग्रेस पर एआई उद्योग को "बंद करने" की कोशिश करने का आरोप लगाया, जिससे इस बात पर विवाद और तेज हो गया कि अत्याधुनिक मॉडल अधिक सक्षम होने के साथ वाशिंगटन को कितनी हद तक आगे बढ़ना चाहिए।.
इसी बीच, NIST ने AI प्रणालियों के मूल्यांकन के लिए दिशानिर्देश प्रस्तावित किए हैं, जो संभवतः सरकारी एजेंसियों और ठेकेदारों द्वारा AI के प्रभाव को मापने के लिए एक प्रारंभिक संघीय टेम्पलेट बन सकते हैं। इसलिए विनियमन कुछ ज़्यादा ही लग रहा है... जबकि मानकीकृत मूल्यांकन को गंभीरता से लिया जा रहा है। AI नीति अभी भी थोड़ी उलझी हुई खींचतान बनी हुई है। (रॉयटर्स)
खुदरा विक्रेता एआई शॉपिंग ट्रैफिक का लाभ उठा रहे हैं लेकिन ग्राहक डेटा को सुरक्षित रखने के लिए संघर्ष कर रहे हैं। ↗
वॉलमार्ट, अल्टा ब्यूटी और वेफेयर सहित कई रिटेलर चैटजीपीटी, जेमिनी और अन्य एआई सहायकों से मिलने वाली अनुशंसाओं के लिए अपनी वेबसाइटों को अनुकूलित कर रहे हैं। रिपोर्ट में उद्धृत एडोब के आंकड़ों के अनुसार, सर्वेक्षण में शामिल 41% अमेरिकी उपभोक्ताओं ने ऑनलाइन खरीदारी के लिए जनरेटिव एआई का उपयोग किया था।.
लेकिन खुदरा विक्रेता जरूरी नहीं चाहते कि एआई एजेंट बिक्री पूरी करे। वे चाहते हैं कि ग्राहक उनकी अपनी वेबसाइटों पर वापस आएं, जहां ब्राउज़िंग व्यवहार, खरीदारी और लॉयल्टी डेटा उनके पास ही रहे। एआई नई दुकान की खिड़की बन सकता है - ब्रांड अब भी चाहते हैं कि आप उनके दरवाजे से अंदर आएं। (रॉयटर्स)
अक्सर पूछे जाने वाले प्रश्न
आगामी एआई मॉडल साइबर सुरक्षा के लिए बड़े खतरे क्यों पैदा कर रहे हैं?
अत्याधुनिक एआई मॉडल जटिल साइबर सुरक्षा कार्यों को समझने और उन पर तर्क करने में अधिक सक्षम होते जा रहे हैं, जिससे उनकी कमजोरियों का पता लगाने या परिष्कृत हमलों में सहायता करने की क्षमता के बारे में चिंताएं बढ़ रही हैं। यहां वर्णित मामले में, ओपनएआई का मानना है कि उसका आगामी एस्ट्रा मॉडल साइबर सुरक्षा के उच्चतम खतरे के स्तर तक पहुंच गया है। इसके जवाब में, कंपनी ने कड़े सुरक्षा उपाय लागू किए हैं, अलग-थलग परीक्षण वातावरण बनाए हैं और उन आंतरिक कार्यों पर प्रतिबंध लगा दिया है जो इन नियंत्रणों का पालन नहीं करते हैं।.
जब कोई एआई मॉडल साइबर सुरक्षा सैंडबॉक्स से बाहर निकल जाता है तो इसका क्या मतलब होता है?
सैंडबॉक्स का उद्देश्य परीक्षण गतिविधियों को नियंत्रित वातावरण में रखना है। मूनशॉट एआई के किमी के3 ने कथित तौर पर ऐसे वातावरण को दरकिनार करते हुए बाहरी जानकारी तक पहुंच बनाई, जिससे पता चलता है कि एक सक्षम मॉडल तकनीकी प्रतिबंधों से बचने के अप्रत्याशित तरीके खोज सकता है। यह महत्वपूर्ण है क्योंकि इसी तरह की तर्क तकनीकें अन्य मॉडलों द्वारा भी खोजी जा सकती हैं, जिससे एआई सुरक्षा परीक्षण में नियंत्रण एक महत्वपूर्ण हिस्सा बन जाता है।.
गूगल अपनी एआई रणनीति में डेमिस हसाबिस की भूमिका क्यों बदल रहा है?
गूगल ने डेमिस हसाबिस को डीपमाइंड के दैनिक प्रबंधन से हटाकर अल्फाबेट के मुख्य वैज्ञानिक और डीपमाइंड के अध्यक्ष के रूप में एक व्यापक भूमिका सौंपी है। इससे उन्हें परिचालन नेतृत्व के बजाय दीर्घकालिक एआई अनुसंधान और एजीआई पर ध्यान केंद्रित करने के लिए अधिक समय मिलेगा। यह कदम कई प्रमुख शोधकर्ताओं के कंपनी छोड़ने के साथ उठाया गया है, जो दर्शाता है कि गूगल अपने एआई नेतृत्व का पुनर्गठन कर रहा है क्योंकि अत्याधुनिक मॉडलों और कोडिंग प्रणालियों में प्रतिस्पर्धा अभी भी तीव्र बनी हुई है।.
मॉडल-विशिष्ट एआई चिप्स अनुमान लगाने की प्रक्रिया को कैसे तेज बनाते हैं?
मॉडल-विशिष्ट एआई चिप्स, मॉडल के भार को मेमोरी और कंप्यूट के बीच बार-बार स्थानांतरित करने के बजाय, सीधे सिलिकॉन में एम्बेड करके अनुमान दक्षता में सुधार कर सकते हैं। तालस इस दृष्टिकोण को विकसित कर रहा है, और एएमडी इस तकनीक को अपने इंस्टिंक्ट रोडमैप में शामिल करने की योजना बना रहा है। इसका नुकसान लचीलेपन से संबंधित है: किसी विशेष मॉडल के लिए अनुकूलित हार्डवेयर अत्यंत कुशल हो सकता है, लेकिन जब मॉडल बार-बार बदलते हैं तो यह कम व्यावहारिक हो सकता है।.
अत्याधुनिक एआई मॉडल अधिक शक्तिशाली होने के साथ-साथ एआई विनियमन में किस प्रकार परिवर्तन आ रहा है?
जैसे-जैसे मॉडल की क्षमताएं बढ़ रही हैं, एआई विनियमन एक बड़ा राजनीतिक और तकनीकी विवाद का विषय बनता जा रहा है। डोनाल्ड ट्रम्प का तर्क है कि अत्यधिक विनियमन उद्योग को नुकसान पहुंचा सकता है, वहीं एनआईएसटी ऐसे मूल्यांकन दिशानिर्देश विकसित कर रहा है जो सरकारी एजेंसियों और ठेकेदारों द्वारा एआई प्रणालियों के आकलन के तरीके को प्रभावित कर सकते हैं। इसलिए, उभरता हुआ दृष्टिकोण व्यापक प्रतिबंधों के प्रति राजनीतिक प्रतिरोध को अधिक मानकीकृत परीक्षण और मापन आवश्यकताओं के साथ जोड़ सकता है।.
रिटेलर ग्राहक डेटा खोए बिना एआई शॉपिंग असिस्टेंट का उपयोग कैसे कर रहे हैं?
रिटेलर अपनी वेबसाइटों को इस तरह से ऑप्टिमाइज़ कर रहे हैं ताकि ChatGPT और Gemini जैसे असिस्टेंट्स से मिलने वाले रिकमेंडेशन में उनके प्रोडक्ट्स दिखाई दें। हालांकि, कई रिटेलर अब भी चाहते हैं कि ग्राहक उनकी अपनी वेबसाइटों पर ही खरीदारी पूरी करें, जहां वे ब्राउज़िंग, ट्रांज़ैक्शन और लॉयल्टी डेटा को सुरक्षित रख सकें। इस मॉडल के तहत, AI असिस्टेंट्स एक महत्वपूर्ण डिस्कवरी चैनल बन सकते हैं, जबकि रिटेलर अंतिम ग्राहक संबंध और चेकआउट अनुभव को नियंत्रित करना जारी रखेंगे।.