World News: एंथ्रोपिक ने एआई प्रयोगशालाओं से रुकने का आग्रह किया, मनुष्यों को नियंत्रण खोने के जोखिम की चेतावनी दी – INA NEWS

एंथ्रोपिक का प्रस्ताव है कि दुनिया की शीर्ष कृत्रिम बुद्धिमत्ता कंपनियां उन्नत एआई सिस्टम के विकास को रोकने के लिए एक समन्वित तरीका अपनाएं, यह चेतावनी देते हुए कि प्रौद्योगिकी में इतनी तेजी से सुधार हो रहा है कि जोखिम है कि मनुष्य नियंत्रण खो देगा।

क्लाउड चैटबॉट के पीछे की कंपनी ने गुरुवार को एक ब्लॉग पोस्ट में कहा कि, जैसे-जैसे अत्याधुनिक एआई कार्यों को पूरा करने में तेजी से बढ़ रहा है, “दुनिया के लिए यह अच्छा होगा कि उसके विकास को धीमा या अस्थायी रूप से रोकने का विकल्प हो”।

एंथ्रोपिक ने कहा कि उसका आंतरिक अनुसंधान संस्थान दूसरों के साथ मिलकर इस मुद्दे का पता लगाने और अधिक विशिष्ट होने के बिना, विश्वसनीय मंदी या ठहराव के लिए सिस्टम बनाने में मदद करने के लिए “कार्रवाई करने” की योजना बना रहा है।

मानव प्रतिद्वंद्वी ओपनएआई ने बुधवार को प्रकाशित एक रिपोर्ट में एक अलग दृष्टिकोण के लिए तर्क दिया, जिसमें कहा गया कि “लोकतांत्रिक सरकारें – अकेले काम करने वाली निजी कंपनियां नहीं – अंततः नियमों, सुरक्षा उपायों और जवाबदेही तंत्र का निर्धारण करना चाहिए”।

इसमें कहा गया है, “हमारा विचार है कि एआई नवाचार की गति के बारे में निर्णय किसी एक प्रयोगशाला, कंपनी या विशेष रुचि समूह पर नहीं छोड़ा जाना चाहिए।”

एंथ्रोपिक ने अपने पोस्ट में कहा कि एआई मॉडल तेजी से बढ़ रहे हैं, कोडिंग जैसे सॉफ्टवेयर कार्यों को वे कितनी तेजी से कर सकते हैं, इसमें तेजी से बढ़ोतरी हो रही है। वर्तमान रुझानों के आधार पर और पर्याप्त कंप्यूटिंग शक्ति दिए जाने पर, एक एआई सिस्टम अपने उत्तराधिकारी को डिजाइन और विकसित करने में सक्षम हो सकता है, जिसे “पुनरावर्ती आत्म-सुधार” के रूप में जाना जाता है।

एंथ्रोपिक ने कहा, स्व-निर्माण एआई एक प्रमुख तकनीकी मील का पत्थर होगा जो विज्ञान, स्वास्थ्य देखभाल और अन्य क्षेत्रों में लाभ लाएगा, लेकिन यह “एआई सिस्टम पर नियंत्रण खोने वाले मनुष्यों के जोखिम को भी बढ़ा सकता है”।

कुछ तकनीकी उद्योग के आंकड़ों ने लंबे समय से ऐसे परिदृश्य की चेतावनी दी है।

एंथ्रोपिक की पोस्ट इस सप्ताह टोरंटो विश्वविद्यालय के शोधकर्ताओं की एक टीम की ओर से दी गई एक अलग चेतावनी के बाद आई है, जिसमें दिखाया गया है कि कैसे एआई टूल का उपयोग एक नए प्रकार के एआई “वॉर्म” को बनाने के लिए किया जा सकता है जो अपनी हैकिंग रणनीति को अनुकूलित करता है क्योंकि यह एक डिवाइस से दूसरे डिवाइस में फैलता है और एक विशाल कंप्यूटिंग नेटवर्क पर कब्जा कर लेता है।

मुख्य शोधकर्ता निकोलस पेपरनॉट ने एक साक्षात्कार में कहा, “मुझे लगता है कि यह वास्तव में महत्वपूर्ण है कि लोग समझें कि यह सिर्फ सबसे बड़े, सबसे शक्तिशाली भाषा मॉडल नहीं हैं जो सुरक्षा संबंधी चिंताएं पैदा करते हैं।”

एंथ्रोपिक पोस्ट के लेखक, कंपनी के सह-संस्थापक जैक क्लार्क और इसके अनुसंधान संस्थान के प्रमुख मरीना फेवरो ने कहा कि इस ठहराव का उपयोग एआई प्रगति के साथ बने रहने के लिए “सामाजिक संरचनाओं और संरेखण अनुसंधान” को सक्षम करने के लिए किया जाएगा। संरेखण यह सुनिश्चित करने के लिए उद्योग का आशुलिपि है कि प्रौद्योगिकी मानवीय मूल्यों और इरादों से मेल खाती है।

प्रस्तावित समन्वय उन्नत एआई प्रयोगशालाओं को यह सत्यापित करने देगा कि वैश्विक प्रतिद्वंद्वियों ने वास्तव में अपना काम रोक दिया है या धीमा कर दिया है, “और एक बुरा अभिनेता गुप्त रूप से आगे बढ़ने के लिए समन्वित मंदी के तत्वावधान का उपयोग नहीं कर सकता है”।

कंपनी ने कहा कि एक समन्वित वैश्विक तंत्र की आवश्यकता है, क्योंकि इसके बिना, एआई विकास में मंदी “कम से कम सतर्क” खिलाड़ियों को पकड़ने में मदद कर सकती है और कंपनियों और सरकारों पर दबाव बढ़ा सकती है क्योंकि वे एआई सुरक्षा के बारे में कठिन विकल्प चुनते हैं।

जैसे-जैसे तकनीक तेजी से सक्षम होती जा रही है, यह डर बढ़ गया है कि उन्नत एआई सिस्टम मानव नियंत्रण से बाहर हो सकते हैं और सामाजिक नुकसान का कारण बन सकते हैं। एंथ्रोपिक के अपने माइथोस मॉडल ने मौजूदा कोड में कमजोरियों को खोजने की अपनी क्षमता के साथ इस साल की शुरुआत में बैंकिंग और सॉफ्टवेयर सहित उद्योगों को चौंका दिया था।

लेकिन विनियमन धीमा रहा है, खासकर अमेरिका में, जहां अधिकांश अग्रणी एआई प्रयोगशालाएं स्थित हैं। इस सप्ताह की शुरुआत में ट्रम्प प्रशासन के एक कार्यकारी आदेश ने प्रयोगशालाओं पर ही जिम्मेदारी डाल दी, और उन्हें सार्वजनिक रिलीज से पहले सरकारी साइबर सुरक्षा परीक्षण के लिए स्वेच्छा से अपने सबसे सक्षम मॉडल प्रस्तुत करने के लिए कहा।

सुरक्षा फोकस

एआई शोधकर्ताओं ने पहले भी इसे रोकने का आग्रह किया है, लेकिन उन्हें बहुत कम सफलता मिली है। एलोन मस्क, जो एआई लैब एक्सएआई के मालिक हैं, सुरक्षा रेलिंग के लिए समय की अनुमति देने के लिए गैर-लाभकारी फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा 2023 में एआई विकास को छह महीने के लिए रोकने के समर्थकों में से एक थे।

एंथ्रोपिक ने लंबे समय से खुद को सुरक्षा-केंद्रित एआई प्रयोगशाला के रूप में स्थापित किया है। इस साल की शुरुआत में, इसने अमेरिकी सेना को घरेलू निगरानी और पूरी तरह से स्वायत्त हथियारों के लिए अपने मॉडलों का उपयोग करने से मना कर दिया, जिससे सरकार को कड़ी प्रतिक्रिया मिली, जिसने इसे राष्ट्रीय सुरक्षा ब्लैकलिस्ट में डाल दिया, जो बाद में 2026 में प्रभावी होने वाली थी।

एंथ्रोपिक की पोस्ट तब आई है जब कंपनी और चैटजीपीटी-निर्माता ओपनएआई शेयर बाजार में शेयर बेचने की होड़ में हैं, एक आईपीओ में एंथ्रोपिक का मूल्य लगभग एक ट्रिलियन डॉलर हो सकता है।

पेपरनोट ने अपनी रिपोर्ट जारी करने से पहले कनाडाई साइबर सुरक्षा अधिकारियों को सूचित किया, जिसमें दिखाया गया है कि कैसे शोधकर्ताओं ने “ओपन-सोर्स” एआई टूल का उपयोग करके एक प्रयोगशाला में वर्म विकसित किया, जो सॉफ्टवेयर डेवलपर्स के लिए सस्ते में एक्सेस करना और संशोधित करना आसान है।

“अतीत में, साइबर हमलावर उन लक्ष्यों पर ध्यान केंद्रित करते थे जो बहुत अधिक मूल्य के होते हैं,” उन्होंने कहा। “बैंकिंग प्रणाली, अस्पताल, बिजली ग्रिड, जल उपचार प्रणाली, स्कूल।”

पेपरनॉट ने इस बात पर सहमति व्यक्त की कि कंपनियों, सरकारी एजेंसियों और अकादमिक शोधकर्ताओं के बीच जवाबी उपाय विकसित करने के लिए अधिक सहयोग होना चाहिए क्योंकि एआई-संचालित हैकिंग उपकरण कंप्यूटर कमजोरियों की खोज को सुपरचार्ज करते हैं।

उन्होंने कहा, “आपके तहखाने में जो पुराना लैपटॉप है, जिसे आप नियमित रूप से जांच नहीं करते हैं, वह बहुत अधिक मूल्य वाले लक्ष्य की तरह नहीं लगता है, लेकिन इसका उपयोग इन उच्च-मूल्य वाले लक्ष्यों पर हमला करने के लिए लॉन्च पैड के रूप में किया जा सकता है।” “इंटरनेट से जुड़ी कोई भी चीज़ अब ख़तरे में है क्योंकि इन साइबर हमलों को अंजाम देने की लागत बहुत कम हो गई है।”