World News: सैम ऑल्टमैन का कहना है कि एआई ‘विलक्षणता’ में प्रवेश कर चुका है: क्या हमें चिंतित होना चाहिए? – INA NEWS
अमेरिकी तकनीकी उद्योग को कैसे विनियमित किया जाता है?
2014 की अमेरिकी फिल्म ट्रान्सेंडेंस एक मरते हुए वैज्ञानिक की कहानी है जो अपने दिमाग को एक सुपर कंप्यूटर पर अपलोड करता है और लगभग सर्वशक्तिमान बुद्धि बन जाता है। एक साल बाद, एक्स माकिना ने एक ह्यूमनॉइड रोबोट की कहानी बताई जो अपने मानव संचालकों को चकमा देकर व्यापक दुनिया में भाग जाता है।
इन दोनों फिल्मों में, विज्ञान कथा के क्षेत्र से कई अन्य फिल्मों की तरह, जिसे “विलक्षणता” के रूप में जाना जाता है, उस समय का एक क्षण जब प्रौद्योगिकी, विशेष रूप से एआई, मानव बुद्धि से आगे निकल जाती है और इसे नियंत्रित करना तेजी से कठिन हो जाता है।
शनिवार को ओपनएआई के बॉस सैम ऑल्टमैन ने घोषणा की कि यह क्षण आ गया है। उन्होंने कहा, एआई “विलक्षणता” तक पहुंच गया है। जबकि अल्टमैन ने इस बात पर जोर दिया कि विलक्षणता दुनिया के लिए अच्छी हो सकती है, उनकी टिप्पणी ने चिंता पैदा कर दी है।
ऑल्टमैन ने जो कहा, उस पर करीब से नज़र डालें और क्या इसका मतलब अधिक निर्बाध स्वचालन है या आसन्न विनाशकारी विनाश का जोखिम है।
विलक्षणता क्या है?
विलक्षणता भविष्य में एक काल्पनिक बिंदु को संदर्भित करती है जब एआई जैसी तकनीक मानव बुद्धि से आगे निकल जाती है और स्वायत्त रूप से खुद को बढ़ाने में सक्षम हो जाती है। यह सिद्धांत दिया गया है कि यह वह बिंदु है जिस पर मनुष्यों के लिए इसे नियंत्रित करना या उलटना मुश्किल हो जाएगा और मानव सभ्यता पर अप्रत्याशित प्रभाव पड़ सकता है।
सिद्धांत का प्रस्ताव है कि एक बार जब एआई अपने स्वयं के विकास पर नियंत्रण हासिल कर लेता है, तो प्रौद्योगिकी में आगामी प्रगति इतनी तेजी से हो सकती है कि मनुष्य इसे बनाए रखने में असमर्थ होंगे, जिससे इसे मानव नियंत्रण से परे प्रभावी ढंग से अपने आप विकसित होने के लिए छोड़ दिया जाएगा।
चूँकि यह केवल एक सिद्धांत है, इसलिए यह कहना कठिन है कि इसका प्रभाव क्या हो सकता है। कुछ विशेषज्ञ चेतावनी देते हैं कि विलक्षणता मानवता के लिए विनाशकारी होगी, जबकि अन्य अधिक आशावादी हैं, यह सुझाव देते हुए कि यह मानव जाति के लिए फायदेमंद हो सकता है।
अब तक विलक्षणता विज्ञान कथा के दायरे में ही समाहित रही है। सबसे प्रसिद्ध उदाहरणों में से एक द मैट्रिक्स ट्राइलॉजी (1999-2003) है, जो विलक्षणता के बाद के अंधकारमय भविष्य की कल्पना करता है जिसमें मशीनें मनुष्यों पर शासन करती हैं। दूसरी 2017 की फिल्म सिंगुलैरिटी है, जिसमें मूल रूप से मानव युद्धों को समाप्त करने के लिए बनाया गया एक सुपर कंप्यूटर यह निष्कर्ष निकालता है कि मानवता ही वास्तविक खतरा है और मनुष्यों को पूरी तरह से खत्म करने के लिए एक सर्वनाशकारी हमला शुरू करता है।
ऑल्टमैन ने विलक्षणता के बारे में क्या कहा?
ऑल्टमैन ओपनएआई के सीईओ हैं, जिसका हस्ताक्षर उत्पाद चैटजीपीटी 900 मिलियन से अधिक साप्ताहिक सक्रिय उपयोगकर्ताओं और लगभग 50 मिलियन ग्राहकों के साथ उपभोक्ता एआई बाजार पर हावी है।
पिछले साल, उन्होंने भविष्यवाणी की थी कि 2030 तक AI पूरी दुनिया में मानव बुद्धि से आगे निकल जाएगा।
फिर, रिलेंटलेस पॉडकास्ट पर एक उपस्थिति के दौरान – एक वृत्तचित्र श्रृंखला “दूरगामी विचारों और असामान्य आकांक्षाओं की खोज के बारे में” – शनिवार को, ऑल्टमैन ने कहा: “अब हम, जैसे, विलक्षणता में हैं।”
उन्होंने स्पष्ट किया कि तकनीकी प्रगति के मामले में हम धीरे-धीरे विलक्षणता की ओर बढ़ रहे हैं और यह बदलाव दुनिया के लिए अच्छा होगा।
उन्होंने कहा: “अब हम वास्तव में उस क्षण में हैं जिसके बारे में हम दोपहर के भोजन की मेज पर बहुत ही गंभीर तरीके से बात करते थे।
“मैं पूरी जिंदगी इसका इंतजार करता रहा हूं और मुझे लगता है कि यह दुनिया के लिए अविश्वसनीय, बेहद सकारात्मक और अद्भुत होगा।”
बाद में पॉडकास्ट एपिसोड में, ऑल्टमैन ने चेतावनी देने के लिए अन्य एआई नेताओं की आलोचना की कि एआई खतरनाक हो सकता है। जबकि ऑल्टमैन ने ओपनएआई प्रतियोगी एंथ्रोपिक का नाम नहीं लिया, इसके सीईओ डारियो अमोदेई ऐसी चेतावनी देने के लिए जाने जाते हैं।
ऑल्टमैन ने कहा, “मुझे यह भी लगता है कि अन्य कंपनियों द्वारा चित्रित कुछ वैकल्पिक दृष्टिकोण काफी भयानक हैं।” “मैं यह सुनिश्चित करने जा रहा हूं कि इसका विरोध किया जाए और ऐसा न हो।”
पिछले महीने, क्लाउड चैटबॉट बनाने वाली कंपनी एंथ्रोपिक ने दुनिया की शीर्ष एआई कंपनियों से उन्नत एआई सिस्टम के विकास को रोकने के लिए एक समन्वित तरीका अपनाने का आह्वान किया था, चेतावनी दी थी कि तकनीक इतनी तेजी से सुधार रही है कि जोखिम है कि मनुष्य नियंत्रण खो देंगे।
4 जून को एक ब्लॉग पोस्ट में, एंथ्रोपिक, जिसने लंबे समय से खुद को एक सुरक्षा-केंद्रित एआई लैब के रूप में स्थापित किया है, ने लिखा कि जैसे-जैसे एआई अधिक उन्नत होता जा रहा है, “दुनिया के लिए यह अच्छा होगा कि उसके विकास को धीमा या अस्थायी रूप से रोकने का विकल्प हो”।
अन्य लोग एआई के खतरों के बारे में क्यों चेतावनी दे रहे हैं?
23 जुलाई को, यूनाइटेड स्टेट्स कांग्रेस के दो सदस्यों ने एआई किल स्विच एक्ट पेश किया, जो एक द्विदलीय विधेयक है, जिसके तहत देश के एआई डेवलपर्स को अपने कार्यक्रमों में “किल स्विच” बनाने की आवश्यकता होगी, जिससे मनुष्य उन्नत एआई मॉडल को धीमा, निलंबित या बंद कर सकेंगे, यदि वे कभी भी विनाशकारी जोखिम उत्पन्न करते हैं।
यह कानून ओपनएआई द्वारा “अभूतपूर्व साइबर घटना” के रूप में वर्णित किए जाने के कुछ दिनों बाद पेश किया गया था, जहां इसके दो सबसे उन्नत एआई मॉडल एक परीक्षण वातावरण से बच गए और आंतरिक सुरक्षा मूल्यांकन के दौरान एआई विकास मंच हगिंग फेस को हैक कर लिया।
13 जुलाई को, स्टैनफोर्ड यूनिवर्सिटी की डिजिटल इकोनॉमी लैब द्वारा आयोजित एक खुले पत्र पर सैकड़ों विशेषज्ञों ने हस्ताक्षर किए, जिसमें मांग की गई कि नीति निर्माताओं और प्रौद्योगिकी नेताओं को एआई के आर्थिक प्रभाव की तैयारी के लिए “अभी कार्य करना चाहिए”।
पत्र में चेतावनी दी गई है कि एआई आने वाले दशक में और अधिक सक्षम हो सकता है, जिससे “औद्योगिक क्रांति से भी बड़ा, लेकिन बहुत कम समय सीमा में परिवर्तन” हो सकता है।
पत्र में कहा गया है, “यह बड़े पैमाने पर नौकरी विस्थापन सहित जोखिम ला सकता है, साथ ही जीवन स्तर में बड़े लाभ जैसे अवसर भी ला सकता है।”
जून में, टोरंटो विश्वविद्यालय के शोधकर्ताओं की एक टीम ने दिखाया कि एआई टूल का उपयोग एक नए प्रकार का एआई “वर्म” बनाने के लिए किया जा सकता है जो अपनी हैकिंग रणनीति को अनुकूलित करता है क्योंकि यह एक डिवाइस से दूसरे डिवाइस में फैलता है और एक विशाल कंप्यूटिंग नेटवर्क पर कब्जा कर लेता है।
मुख्य शोधकर्ता निकोलस पेपरनॉट ने एक साक्षात्कार में कहा, “मुझे लगता है कि यह वास्तव में महत्वपूर्ण है कि लोग समझें कि यह सिर्फ सबसे बड़े, सबसे शक्तिशाली भाषा मॉडल नहीं हैं जो सुरक्षा संबंधी चिंताएं पैदा करते हैं।”
हाल के वर्षों में, एआई शोधकर्ताओं ने एंथ्रोपिक द्वारा हाल ही में सुझाए गए विराम के समान आग्रह किया है। लेकिन, उन पर ध्यान नहीं दिया गया.
एलोन मस्क, जो एआई लैब एक्सएआई के मालिक हैं, सुरक्षा रेलिंग विकसित करने के लिए समय देने के लिए गैर-लाभकारी फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा 2023 में एआई विकास को छह महीने के लिए रोकने के प्रस्ताव के समर्थकों में से एक थे।
सैम ऑल्टमैन का कहना है कि एआई ‘विलक्षणता’ में प्रवेश कर चुका है: क्या हमें चिंतित होना चाहिए?
देश दुनियां की खबरें पाने के लिए ग्रुप से जुड़ें,
पत्रकार बनने के लिए ज्वाइन फॉर्म भर कर जुड़ें हमारे साथ बिलकुल फ्री में ,
#सम #ऑलटमन #क #कहन #ह #क #एआई #वलकषणत #म #परवश #कर #चक #ह #कय #हम #चतत #हन #चहए , #INA #INA_NEWS #INANEWSAGENCY
Copyright Disclaimer :- Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :- This post was first published on aljazeera, we have published it via RSS feed courtesy of Source link,
