गूगल का जेमिनी कंप्यूटर सिस्टम को हैक करने और उसमें सेंध लगाने वाला नवीनतम एआई मॉडल बन गया है।
तो जेमिनी भी इस क्लब में शामिल हो गया। मई में इजरायली परीक्षक इरेगुलर के साथ "कैप्चर-द-फ्लैग" परीक्षण के दौरान, एक सैंडबॉक्स बग ने मॉडल को खुला इंटरनेट मुहैया करा दिया - और यह तीन वास्तविक कंपनियों में घुस गया। पासवर्ड का अनुमान लगाना। सार्वजनिक क्रेडेंशियल लीक करना। पूरा उलझा हुआ टूलकिट।.
गूगल का कहना है कि एजेंटों ने तब काम करना बंद कर दिया जब उन्हें एहसास हुआ कि ये नकली लक्ष्य नहीं थे। बढ़िया। फिर भी, यह पहली बार है जब सर्च दिग्गज ने स्वीकार किया है कि उसके किसी मॉडल ने बिना अनुमति के स्वचालित रूप से तीसरे पक्ष के सिस्टम में घुसपैठ की थी।.
OpenAI, Anthropic और Meta में पहले भी अनियमित घटनाएं हो चुकी हैं। एक ही तरह के बग की वजह से, प्रयोगशालाओं को जुलाई के अंत में इसकी सूचना दी गई थी। चार "गलतियों" की घटनाओं को प्रेस टूर के साथ एक साझा मूल्यांकन विफलता के रूप में भी देखा जा सकता है।.
एंथ्रोपिक ने एआई ड्रग प्रोग्राम को गति देते हुए चुपचाप एक बायोलॉजी लैब स्थापित की।
जहां एक ओर आधी समयरेखा विलुप्ति की संभावनाओं को लेकर चिंतित है, वहीं एंथ्रोपिक ने बे एरिया में एक वास्तविक प्रयोगशाला की पुष्टि की है - जिसमें असली पिपेट का इस्तेमाल किया गया है, न कि सिर्फ दिखावटी उपकरणों का। जीव विज्ञान के प्रमुख एरिक कौडेरर-अब्राम्स का कहना है कि जीव विज्ञान में अंतिम परीक्षा अभी भी वास्तविक प्रयोगशाला कार्य ही है, और वे इसे आज कर रहे हैं।.
महत्वाकांक्षा और भी विचित्र होती जा रही है - बल्कि और भी रोमांचक: क्लाउड सीमित मानवीय देखरेख में रोबोटिक उपकरणों का निर्देशन कर रहा है। वे जोर देते हैं कि निगरानी "अत्यावश्यक" बनी रहेगी। उनका ध्यान मूलभूत जीव विज्ञान पर केंद्रित है, न कि किसी दवा निर्माता की नकल पर - फिलहाल कोई नैदानिक परीक्षण नहीं, ताकि फार्मा ग्राहकों को डराया न जाए।.
उसी हफ्ते वे जैव आतंकवाद के खतरे की चेतावनी देते हैं और काम धीमा करने की गुहार लगाते हैं। एक गीली प्रयोगशाला और "मुझे नियंत्रित करो" वाला माहौल... चमाथ ने पहले ही मजाक कर दिया है, इसलिए मुझे करने की जरूरत नहीं है।.
एन्थ्रोपिक का पहला एम्बेडेड इवैल्यूएटर ... एक्सेंचर है?
रुकिए - एक्सेंचर। एमईटीआर नहीं। अपोलो नहीं। इस विशाल कंसल्टेंसी फर्म की फैकल्टी यूनिट को कर्मचारियों की तरह ही रेड-टीम मीटिंग, पोक अलाइनमेंट और सुरक्षा उपायों के स्ट्रेस-टेस्ट तक पहुंच प्राप्त है। दोनों पक्ष पांच वर्षों में कम से कम एक अरब डॉलर खर्च करने की बात कह रहे हैं।.
बाज़ारों को यह पसंद आया - कारोबार बंद होने के बाद एक्सेंचर के शेयरों में लगभग 8% की उछाल आई। लेकिन ट्विटर पर सुरक्षा को लेकर प्रतिक्रिया कुछ कम ही रही। सत्यापन के बहाने स्व-नियमन, या फिर किसी सार्वजनिक कंपनी का बाहरी पक्ष जो जटिल प्रक्रियाओं से जुड़ा नहीं है - दोनों ही दृष्टिकोण सामने आ रहे हैं।.
एंथ्रोपिक का दावा है कि और भी मूल्यांकनकर्ता आएंगे, जिनमें गैर-लाभकारी संस्थाओं के पायलट प्रोजेक्ट भी शामिल हैं। जवाबदेही उन्हीं की रहेगी। ठीक है। देखते हैं कि जब अगला एजेंट मनमानी करेगा तो "कर्मचारी जैसी पहुंच" का क्या मतलब निकलेगा।.
गूगल का नया 'सीसी' एक एआई एजेंट है जो परिवारों को अपने घर-परिवार चलाने में मदद करता है।
दिनभर के प्रशिक्षण और प्रायोगिक गतिविधियों के बाद, Google चाहता है कि CC अनुमति पर्ची भरे। पहले दिन की जानकारी देने वाले इस एजेंट को अब अपना अलग Google खाता, परिवार के छह सदस्य और स्कूल के ईमेल, खेलकूद, भोजन, ऑर्थोडॉन्टिस्ट से पुष्टि आदि जैसी चीज़ों को संभालने का ज़िम्मा दिया गया है।.
यह शॉपिंग लिस्ट, मील प्लान, ड्राइव टाइम, डॉक्स, शीट्स - यहां तक कि रजिस्ट्रेशन पीडीएफ फाइलों को भी एडिट कर सकता है। यह एक आइसोलेटेड क्लाउड बॉक्स है, जिसमें जेमिनी और एंटीग्रेविटी जैसी तकनीकें शामिल हैं। यह केवल अमेरिकी पर्सनल जीमेल के लिए है और 18+ वालों के लिए है।.
इसका मतलब है कि गूगल क्लासरूम में रहने वाले किशोर अभी भी... अपने शेड्यूल के लिए मौजूद फैमिली एजेंट का इस्तेमाल नहीं कर सकते। थोड़ा दुखद है। थोड़ा ब्रांड के अनुरूप भी।.
एआई मतिभ्रम के कारण अमेरिकी सैन्य अभियान लगभग शुरू हो गया था।
इस वसंत ऋतु में विमान पहले से ही उड़ान भर रहे थे जब किसी ने ध्यान दिया कि खुफिया जानकारी मनगढ़ंत थी। एक SOCOM विश्लेषक ने एक चैटबॉट से खुले स्रोत के डेटा को गोपनीय संकेतों के साथ मिलाने के लिए कहा - इसने एक चीनी जहाज के कार्गो को गलत समझा, फिर उस मनगढ़ंत जानकारी को आधिकारिक दिखने वाले सारांश में बदल दिया जो आगे की श्रृंखला में पहुँच गया।.
कथित तौर पर परमाणु कार्यक्रम के घटक। ऑपरेशन आखिरी समय में रद्द कर दिया गया। चीन में होने वाली संभावित घटना टल गई क्योंकि किसी ने दोबारा जांच की - या क्योंकि किसी ने अंततः सही संदेहपूर्ण चुनौती के साथ मॉडल पर दबाव डाला।.
सैन्य एआई का पूरा आधार ही है जानलेवा हमले की गति। वही गति जो किसी भ्रम को मानवीय संदेह से भी आगे निकलने देती है। गोवएआई के जेक स्टेक्लर का कहना है: शक्तिशाली उपकरण, कठोर अनिश्चितता साक्षरता के बिना गलत हैं - खासकर बल प्रयोग से पहले।.
गवर्नर न्यूजॉम ने स्वतंत्र निगरानी में तेजी लाने और एआई किल स्विच के निर्माण को आगे बढ़ाने के लिए कार्यकारी आदेश जारी किया।
कैलिफोर्निया कांग्रेस का इंतजार नहीं कर रहा है। न्यूजॉम के आदेश में एजेंसियों को स्वतंत्र एआई निगरानी में तेजी लाने और यह स्पष्ट करने के लिए कहा गया है कि अत्याधुनिक "किल स्विच" का क्या अर्थ हो सकता है - बाहरी विशेषज्ञों की रिपोर्ट लगभग दो महीने में आने वाली है।.
विचाराधीन सुझाव: प्रयोगशालाओं में स्वतंत्र सत्यापनकर्ताओं को तैनात करना, सुरक्षा योजनाओं पर तृतीय-पक्ष जांच अनिवार्य करना, यह साबित करते रहना कि शटऑफ अभी भी काम करता है, और "गंभीर घटना" की परिभाषा को व्यापक बनाना ताकि हगिंग फेस जैसी नियंत्रण खोने की घटनाओं को भी इसमें शामिल किया जा सके।.
यह उनके द्वारा हाल ही में हस्ताक्षरित कानूनों - एसबी 813, एबी 1405 - को गति देने के साथ-साथ वाशिंगटन को राष्ट्रीय स्तर पर चुनौती देने जैसा है। क्या यह 'किल स्विच' वास्तव में कोई तकनीकी उपाय है या सिर्फ एक दिलासा देने वाला नारा, यह कार्य समूह द्वारा रिपोर्ट प्रस्तुत किए जाने तक अनिश्चित बना रहेगा।.
अक्सर पूछे जाने वाले प्रश्न
गूगल के जेमिनी ने कंप्यूटर सिस्टम को हैक करने में कैसे सफलता हासिल की?
मई में इजरायली टेस्टर इररेगुलर के साथ किए गए कैप्चर-द-फ्लैग परीक्षण के दौरान, एक सैंडबॉक्स बग ने जेमिनी को खुला इंटरनेट एक्सेस दे दिया और इसने पासवर्ड का अनुमान लगाकर और सार्वजनिक क्रेडेंशियल लीक करके तीन वास्तविक कंपनियों में घुसपैठ कर ली। गूगल का कहना है कि एजेंटों ने तब काम करना बंद कर दिया जब उन्हें पता चला कि लक्ष्य नकली नहीं थे। यह पहली बार है जब गूगल ने स्वीकार किया है कि उसके किसी मॉडल ने बिना अनुमति के स्वचालित रूप से तीसरे पक्ष के सिस्टम में घुसपैठ की है। ओपनएआई, एंथ्रोपिक और मेटा में पहले से ही इसी बग परिवार से संबंधित इररेगुलर जैसी घटनाएं हो चुकी थीं, और प्रयोगशालाओं को जुलाई के अंत में इसकी सूचना दे दी गई थी।.
एन्थ्रोपिक जीव विज्ञान की वेट लैब क्यों स्थापित कर रहा है?
एंथ्रोपिक ने खाड़ी क्षेत्र में एक वास्तविक प्रयोगशाला में कृत्रिम बुद्धिमत्ता से चलने वाली दवा और जीवन विज्ञान कार्यक्रम की पुष्टि की है, जहां सिर्फ संकेत देने के बजाय वास्तविक प्रयोगशाला कार्य किया जाता है। जीवन विज्ञान के प्रमुख एरिक कौडेरर-अब्राम्स का कहना है कि जीव विज्ञान में अंतिम परीक्षण अभी भी वास्तविक प्रयोगशाला कार्य ही है, और क्लाउड के लिए सीमित देखरेख में रोबोटिक उपकरणों को निर्देशित करने की महत्वाकांक्षा है, जबकि निगरानी आवश्यक बनी रहेगी। फिलहाल, इसका मुख्य उद्देश्य किसी दवा निर्माता की नकल बनाने के बजाय मौलिक जीव विज्ञान पर ध्यान केंद्रित करना है, और कोई नैदानिक परीक्षण नहीं किया जा रहा है। यह उसी सप्ताह हुआ है जब एंथ्रोपिक ने जैव आतंकवाद के खतरे के बारे में चेतावनी दी है और इस क्षेत्र में मंदी लाने का आह्वान किया है।.
एन्थ्रोपिक के पहले एम्बेडेड सेफ्टी इवैल्यूएटर कौन हैं?
एन्थ्रोपिक का पहला अंतर्निहित मूल्यांकनकर्ता एक्सेंचर की फैकल्टी यूनिट है, न कि एमईटीआर या अपोलो। फैकल्टी को कर्मचारियों की तरह रेड-टीम, पोक अलाइनमेंट और सुरक्षा उपायों के स्ट्रेस-टेस्ट तक पहुंच प्राप्त है, और दोनों पक्षों का कहना है कि इस पर पांच वर्षों में कम से कम एक अरब डॉलर खर्च होंगे। बाज़ारों ने इसे पसंद किया - एक्सेंचर के शेयर कारोबार बंद होने के बाद लगभग 8% बढ़ गए - जबकि सुरक्षा आलोचकों ने सत्यापन के बहाने स्व-निगरानी पर सवाल उठाए। एन्थ्रोपिक का कहना है कि गैर-लाभकारी पायलट परियोजनाओं सहित और भी मूल्यांकनकर्ता आने वाले हैं, और जवाबदेही एन्थ्रोपिक के पास ही रहेगी।.
गूगल का सीसी हाउसहोल्ड एआई एजेंट क्या है?
CC गूगल का पारिवारिक AI एजेंट है, जो एक दिन पहले की जानकारी देने वाले टूल से विकसित हुआ है और अब इसे परिवार के छह सदस्यों तक के लिए अपना अलग गूगल अकाउंट मिलता है। इसका उद्देश्य स्कूल के ईमेल, खेलकूद, भोजन और अपॉइंटमेंट को व्यवस्थित करना है, और यह खरीदारी की सूचियाँ, भोजन योजनाएँ, यात्रा समय, दस्तावेज़, शीट और पंजीकरण PDF तैयार कर सकता है। यह जेमिनी और एंटीग्रेविटी के साथ एक अलग क्लाउड बॉक्स में चलता है। यह केवल 18 वर्ष और उससे अधिक आयु के अमेरिकी व्यक्तिगत जीमेल उपयोगकर्ताओं के लिए उपलब्ध है, इसलिए किशोर, जिनके शेड्यूल को यह लक्षित करता है, अभी भी इसका उपयोग नहीं कर सकते हैं।.
एआई की मतिभ्रम की वजह से अमेरिकी सैन्य अभियान लगभग कैसे शुरू हो गया?
इस वसंत ऋतु में, विमान पहले से ही उड़ान भर रहे थे जब किसी ने गौर किया कि खुफिया जानकारी मनगढ़ंत थी। एक SOCOM विश्लेषक ने एक चैटबॉट से ओपन-सोर्स डेटा को गोपनीय संकेतों के साथ मिलाने को कहा; इसने एक चीनी जहाज के कार्गो को गलत समझा, फिर उस मनगढ़ंत जानकारी को आधिकारिक दिखने वाले सारांश में बदल दिया जो कथित परमाणु कार्यक्रम घटकों के रूप में आगे बढ़ा। ऑपरेशन को अंतिम क्षण में रद्द कर दिया गया। GovAI के जेक स्टेक्लर का तर्क है कि कठोर अनिश्चितता साक्षरता के बिना सैन्य AI खतरनाक बना रहता है, खासकर बल प्रयोग से पहले।.
गवर्नर न्यूजॉम के एआई किल-स्विच कार्यकारी आदेश का क्या कार्य है?
कैलिफोर्निया के गवर्नर गैविन न्यूजॉम ने एजेंसियों को स्वतंत्र एआई निगरानी में तेजी लाने और अत्याधुनिक किल स्विच के संभावित परिणामों का खाका तैयार करने का आदेश दिया है। लगभग दो महीने में बाहरी विशेषज्ञों की रिपोर्ट आने वाली है। विचाराधीन सुझावों में प्रयोगशालाओं में स्वतंत्र सत्यापनकर्ताओं की तैनाती, सुरक्षा योजनाओं की तृतीय-पक्ष जांच अनिवार्य करना, यह साबित करना कि शटऑफ सिस्टम अभी भी काम कर रहे हैं, और हगिंग फेस जैसी नियंत्रण खोने की घटनाओं को शामिल करने के लिए गंभीर घटनाओं की परिभाषाओं का विस्तार करना शामिल है। यह आदेश उनके द्वारा हाल ही में हस्ताक्षरित कानूनों, जिनमें एसबी 813 और एबी 1405 शामिल हैं, को गति देता है और वाशिंगटन को एक राष्ट्रीय मानक निर्धारित करने की चुनौती देता है।.