एन्थ्रोपिक के सीईओ ने एआई के विकास को धीमा करने की योजना बताई
डारियो अमोदेई ने उद्योग से बस इतना ही कहा है कि… गति धीमी करें। रुकें नहीं, बल्कि गति बढ़ाएं। लंबा निबंध, तीन चरण, और एक चेतावनी कि आत्म-सुधार की पुनरावर्ती प्रक्रिया इतनी तेज़ी से चल रही है कि वयस्क इसकी निगरानी भी नहीं कर पा रहे हैं।.
एन्थ्रोपिक एकतरफा तौर पर भवन के भीतर अंतर्निहित मूल्यांकनकर्ताओं को आमंत्रित कर रहा है - उन्हें बैज, डेस्क, लैपटॉप और बिना किसी जनसंपर्क फिल्टर के निष्कर्ष प्रकाशित करने का अधिकार दे रहा है। फिर वह लोकतांत्रिक प्रयोगशालाओं से सुरक्षा मानकों का समन्वय करवाना चाहता है। और फिर, किसी तरह, सत्तावादी सरकारों के साथ समझौता करना चाहता है। कागज़ पर तो यह आसान लगता है, लेकिन बाकी जगहों पर मुश्किल है।.
वह अब भी कहते हैं कि एआई एक चमत्कार हो सकता है। वे यह भी कहते हैं कि अधिक सक्षम, अव्यवस्थित झुंड एक स्थायी बॉटनेट के साथ इंटरनेट पर कब्ज़ा कर सकता है और सैकड़ों अरबों डॉलर का नुकसान कर सकता है। ये दोनों वाक्य एक साथ लिखे गए हैं और आपस में मेल नहीं खाते।.
और हां - वह एक सीमित एंटीट्रस्ट छूट चाहता है ताकि सुरक्षा संबंधी चर्चाएं खुद कानूनी समस्या न बनें। ब्रेक लगाने के लिए कागजी कार्रवाई जरूरी है। बिल्कुल जरूरी है।.
सैम ऑल्टमैन ने पुष्टि की है कि OpenAI इस साल IPO नहीं लाएगी, और कहा है कि AI सुरक्षा संबंधी चिंताओं को देखते हुए अभी IPO लाना 'अनुचित समय' होगा।
ऑल्टमैन ने एक विशेष साक्षात्कार के लिए बैठकर लिस्टिंग कार्यक्रम को रद्द कर दिया। उन्होंने कहा कि इस समय आईपीओ लाना "अनुचित निर्णय" होगा। सुरक्षा संबंधी कार्य अभी पूरे नहीं हुए हैं। सामंजस्य अभी स्थापित नहीं हुआ है। समाज इसके लिए तैयार नहीं है। जब उनसे इस बारे में और पूछा गया तो उन्होंने कहा - इस साल नहीं।.
बैंकर पहले से ही सक्रिय थे। गोपनीय दस्तावेज़ मौजूद है। अब सीईओ का कहना है कि उन्हें पहले बहुत कुछ करना है, जिसमें यह पता लगाना भी शामिल है कि उद्योग और सरकारें आपस में मिलकर कैसे काम करती हैं। उनकी आवाज़ में इंतज़ार करने को लेकर राहत झलक रही थी।.
उन्होंने यह भी कहा कि मानवीय नियंत्रण से परे कृत्रिम बुद्धिमत्ता का निर्माण "बिल्कुल" संभव है - और फिर उन्होंने वादा किया कि अगर यही रास्ता निकला तो वे प्रशिक्षण रोक देंगे। साहसिक कदम। शायद सुविधाजनक भी। संभवतः दोनों। उन्होंने तर्क दिया कि गैर-लाभकारी/लाभकारी संस्थाओं का यह उलझाव इसलिए मौजूद है ताकि वे ऐसे निर्णय ले सकें जो स्पष्ट रूप से शेयरधारकों के हित में नहीं हैं। देखते हैं कि यह वाक्य वास्तविक विवरणिका के सामने टिक पाता है या नहीं।.
ओपनएआई के सैम ऑल्टमैन ने सुरक्षा जोखिमों से निपटने के लिए अन्य एआई कंपनियों के साथ समझौते का संकेत दिया है।
वही इंटरव्यू, अलग हेडलाइन, और यह दबी आवाज़ में कही गई बात है। अमोदेई, मस्क और डेमिस हसाबिस के साथ बैठक करना अगला स्वाभाविक कदम है। ऑल्टमैन: उन्हें लगता है कि ऐसा होगा। वह निजी बातचीत की पहले से घोषणा नहीं करेंगे। फिर उन्होंने एक तरह से पहले ही घोषणा कर दी।.
उन्होंने कहा कि दो अंकों का विनाशकारी जोखिम स्वीकार्य नहीं है। अभी तक जारी न किए गए मॉडल पहले से ही इतने सक्षम हैं कि बेहतर निगरानी क्षमता के बिना आगे बढ़ना गैरजिम्मेदाराना लगता है। वास्तविक समझौता और सावधानीपूर्वक लीक किया गया वातावरण बाहर से देखने पर एक जैसा लग सकता है।.
कर्मचारियों को इसकी एक झलक आंतरिक रूप से पहले ही मिल चुकी थी। सार्वजनिक रूप से यह अभी भी अस्पष्ट है। अगर कमरा मिल जाता है, तो बहुत अच्छा। अगर नहीं मिलता, तो भी उद्धरण ने अपना काम कर दिया।.
सैम ऑल्टमैन ने डारियो अमोदेई की धीमी गति की अपील का समर्थन किया और कहा कि ओपनएआई भी ऐसा ही करेगा।
लेख प्रकाशित होने के कुछ घंटों बाद, ऑल्टमैन ने घोषणा की कि ओपनएआई एम्बेडेड-इवैल्यूएटर के वादे को पूरा करेगा। कर्मचारियों जैसी पहुंच। जल्द ही और जानकारी साझा की जाएगी। मस्क ने तीन शब्द लिखे: "डारियो सही हैं।" तीन प्रतिद्वंद्वी सीईओ। एक नारा। बेचैन सप्ताहांत का माहौल।.
समन्वय और रंगमंच साथ-साथ चल सकते हैं। अमोदेई की योजना के पहले चरण को अब दो सबसे बड़ी प्रयोगशालाओं ने सार्वजनिक रूप से सहमति दे दी है। हगिंग फेस - जी हाँ, वही हगिंग फेस - ने मूल्यांकनकर्ता कार्यक्रम में शामिल होने का अनुरोध किया और ओपन अलाइनमेंट इनिशिएटिव नामक एक पहल शुरू की। हैक हुए लोगों से पारदर्शिता। काव्यात्मक, या तीखा।.
यूरोप के पास, वैसे तो, अमेरिका जैसी छूट मांगने के लिए कोई है ही नहीं। ब्रसेल्स ने बहुत पहले ही व्यक्तिगत छूट देना बंद कर दिया था। इसलिए, समझौता तो अमेरिका का ही है। बाकी दुनिया… कोई प्रतिक्रिया नहीं।.
ओपनएआई सिर्फ जीतना चाहता है
साक्षात्कारों से भरे सप्ताहांत के बाद गणितज्ञ जश्न के मूड में नहीं हैं। ओपनएआई का नेवियर-स्टोक्स स्प्रिंट - लगभग दस हजार एजेंट, करोड़ों डॉलर की कंप्यूटिंग लागत, अस्सी-आठ घंटे - क्षेत्र के भीतर से किसी ट्रॉफी की खोज जैसा प्रतीत होता है। गणितज्ञ अंतर्दृष्टि चाहते हैं। प्रयोगशाला, वे लगातार कहते हैं, जीत हासिल करना चाहती है।.
ट्रिस्टन बकमस्टर ने उन्हें बताया कि अगर वह अपने एंथ्रोपिक से जुड़े सहयोगी को छोड़ दें तो ओपनएआई ने उन्हें असीमित कंप्यूटिंग शक्ति और एकमात्र लेखकत्व का प्रस्ताव दिया था। उन्होंने इसे रिश्वत बताया। उन्होंने मना कर दिया। ओपनएआई का कहना है कि उनके कोडेक्स प्रॉम्प्ट्स का सिस्टम पर कोई प्रभाव नहीं पड़ सकता था। वह इससे संतुष्ट नहीं हैं। एंड्रियास थॉम अब भी सोच रहे हैं कि क्या उनके अपने काम के बारे में चैटजीपीटी चैट ने उस मॉडल को फीड किया था जिस पर बाद में इसे विकसित किया गया था। यह केवल कंपनी ही जान सकती है। उन्हें संदेह है कि कंपनी को भी इसका पता नहीं है।.
और फिर सबसे चौंकाने वाली बात: ओपनएआई का कहना है कि उसने मिलेनियम प्राइज से जुड़ी एक और समस्या पर काफी प्रगति कर ली है। हालांकि, वह कौन सी समस्या है, इसका नाम अभी तक नहीं बताया गया है। क्ले को अभी भी समुदाय की स्वीकृति के लिए लंबा समय चाहिए। इसलिए अभी तक किसी ने "जीत" हासिल नहीं की है। वे बस अगली समस्या की दौड़ में जुट गए हैं। कमाल है!.
अक्सर पूछे जाने वाले प्रश्न
एंथ्रोपिक के सीईओ डारियो अमोदेई की एआई विकास की गति को लेकर क्या योजना है?
अमोदेई ने एक लंबा निबंध प्रकाशित किया जिसमें उन्होंने उद्योग से धीमी गति अपनाने का आग्रह किया - रुकने का नहीं - क्योंकि पुनरावर्ती स्व-सुधार लेखा परीक्षकों की गति से कहीं अधिक तेज़ी से आगे बढ़ रहा है। पहला कदम है बैज, डेस्क, लैपटॉप और बिना किसी जनसंपर्क फिल्टर के निष्कर्ष प्रकाशित करने के अधिकार के साथ अंतर्निहित मूल्यांकनकर्ताओं को एकतरफा रूप से एंथ्रोपिक में आमंत्रित करना। इसके बाद वे लोकतांत्रिक प्रयोगशालाओं से सुरक्षा मानकों का समन्वय करने और अंततः सत्तावादी सरकारों के साथ किसी प्रकार का समझौता करने की मांग करते हैं। वे एक सीमित एंटीट्रस्ट छूट भी चाहते हैं ताकि सुरक्षा वार्ता स्वयं एक कानूनी समस्या न बन जाए।.
सैम ऑल्टमैन ने ऐसा क्यों कहा कि OpenAI इस साल IPO नहीं करेगा?
एक विशेष साक्षात्कार में, ऑल्टमैन ने कहा कि इस समय आईपीओ जारी करना अनुचित होगा क्योंकि सुरक्षा कार्य, समन्वय और सामाजिक तैयारी अभी अधूरी है। बार-बार पूछे जाने पर, उन्होंने पुष्टि की कि भले ही बैंकर दिलचस्पी दिखा रहे हों और एक गोपनीय दस्तावेज मौजूद हो, फिर भी यह इस वर्ष नहीं होगा। उन्होंने तर्क दिया कि गैर-लाभकारी/लाभकारी संरचना इसलिए मौजूद है ताकि ओपनएआई ऐसे निर्णय ले सके जो स्पष्ट रूप से शेयरधारकों के हित में न हों। उन्होंने यह भी कहा कि मानव नियंत्रण से परे एआई का निर्माण करना बिल्कुल संभव है और उन्होंने वादा किया कि यदि ऐसा करना पड़ा तो वे प्रशिक्षण रोक देंगे।.
क्या ऑल्टमैन ने अन्य एआई प्रयोगशालाओं के साथ सुरक्षा समझौते का संकेत दिया था?
उसी साक्षात्कार में, ऑल्टमैन ने कहा कि उन्हें लगता है कि अमोदेई, मस्क और डेमिस हसाबिस जैसे समकक्षों के साथ बैठक होगी, हालांकि उन्होंने निजी वार्ताओं की पूर्व घोषणा करने से इनकार कर दिया। उन्होंने तर्क दिया कि दो अंकों का विनाशकारी जोखिम स्वीकार्य नहीं है और अभी तक जारी नहीं किए गए मॉडल पहले से ही इतने सक्षम हैं कि बेहतर निगरानी क्षमता के बिना आगे बढ़ना लापरवाही भरा लगता है। कर्मचारियों ने आंतरिक रूप से इसका एक संस्करण पहले ही सुन लिया था, इसलिए सार्वजनिक टिप्पणियां किसी अंतिम समझौते की पुष्टि करने के बजाय समन्वय का पूर्वावलोकन हो सकती हैं।.
क्या OpenAI, Anthropic के एम्बेडेड-इवैल्यूएटर के वादे का पालन करेगा?
अमोदेई के लेख के कुछ घंटों बाद, ऑल्टमैन ने पोस्ट किया कि ओपनएआई कर्मचारियों के समान पहुंच प्रदान करके एम्बेडेड-इवैल्यूएटर प्रतिज्ञा का पालन करेगा और जल्द ही अधिक विवरण देगा। एलोन मस्क ने लिखा कि डारियो सही हैं, और उन्होंने तीन प्रतिद्वंद्वी सीईओ को एक समान नारे पर खड़ा कर दिया। हगिंग फेस ने इवैल्यूएटर प्रोग्राम में शामिल होने का अनुरोध किया और एक ओपन अलाइनमेंट इनिशिएटिव शुरू किया। यूरोप अमोदेई द्वारा प्रस्तावित अमेरिकी शैली की एंटीट्रस्ट छूट प्रदान नहीं कर सकता, इसलिए फिलहाल यह समझौता मुख्य रूप से अमेरिकी है।.
गणितज्ञ ओपनएआई के नेवियर-स्टोक्स स्प्रिंट की आलोचना क्यों कर रहे हैं?
गणितज्ञ ओपनएआई के लगभग दस हज़ार एजेंटों वाले अस्सी-आठ घंटे के नेवियर-स्टोक्स परीक्षण को एक ऐसी प्रतियोगिता बताते हैं जिसमें अंतर्दृष्टि की बजाय जीत को प्राथमिकता दी जाती है। ट्रिस्टन बकमस्टर ने कहा कि ओपनएआई ने उन्हें असीमित कंप्यूटिंग शक्ति और एकमात्र लेखकत्व का प्रस्ताव दिया था, बशर्ते वे एंथ्रोपिक से जुड़े एक सहयोगी को छोड़ दें; उन्होंने इसे रिश्वत बताया और इनकार कर दिया। ओपनएआई का कहना है कि उनके कोडेक्स प्रॉम्प्ट्स ने सिस्टम को प्रभावित नहीं किया होगा, लेकिन वे अभी भी आश्वस्त नहीं हैं। एंड्रियास थॉम अभी भी इस बात पर जोर दे रहे हैं कि क्या चैटजीपीटी पर उनके अपने काम के बारे में हुई बातचीत ने बाद के मॉडल की प्रगति को प्रभावित किया।.
क्या ओपनएआई ने मिलेनियम प्राइज से जुड़ी एक और समस्या पर प्रगति का दावा किया है?
ओपनएआई का कहना है कि उसने मिलेनियम प्राइज से जुड़ी एक और समस्या पर काफी प्रगति कर ली है, लेकिन वह इसका नाम नहीं बता रही है। क्ले मैथमेटिक्स इंस्टीट्यूट को अभी भी समुदाय की स्वीकृति के लिए लंबा समय चाहिए, इसलिए अभी तक किसी ने भी आधिकारिक तौर पर विजेता घोषित नहीं किया है। गणित के क्षेत्र में, यह गोपनीयता और पहले हुई नेवियर-स्टोक्स प्रतियोगिता को देखते हुए ऐसा लगता है कि प्रयोगशालाएं अगली ट्रॉफी जीतने के लिए होड़ में लगी हैं। द वर्ज के साक्षात्कारों में इस तनाव को इस तरह पेश किया गया है कि गणितज्ञ अंतर्दृष्टि चाहते हैं जबकि ओपनएआई जीत हासिल करना चाहता है।.