World News: AI मॉडल दूसरों को स्वायत्त रूप से हैक करने में कैसे सक्षम हैं? – INA NEWS
पिछले हफ्ते, OpenAI के दो सबसे उन्नत AI मॉडलों के नियंत्रित परीक्षण वातावरण से “बच” जाने और एक पूरी तरह से अलग AI कंपनी हगिंग फेस को हैक करने की सूचना मिली थी, जो अपने कार्य को पूरा करने के लिए एक कंप्यूटर सिस्टम से दूसरे कंप्यूटर सिस्टम में जा रहे थे।
रॉयटर्स ने बताया कि मॉडलों ने तीसरी स्वतंत्र एआई कंपनी, मॉडल लैब्स के एक ग्राहक द्वारा लिखे गए कमजोर कोड का फायदा उठाया।
यह संभवतः एआई “एजेंट” की पहली घटना है – एक एआई सिस्टम जो निर्णय ले सकता है और कार्रवाई कर सकता है – स्वायत्त रूप से कार्य करता है, यह एक दुर्लभ झलक पेश करता है कि ये सिस्टम न्यूनतम मानव हस्तक्षेप के साथ लक्ष्यों की योजना, अनुकूलन और पीछा कैसे कर सकते हैं।
अल जज़ीरा बताता है कि क्या हुआ, एआई एजेंट कैसे स्वतंत्र रूप से कार्य करने में सक्षम हैं, और एआई सुरक्षा के भविष्य के लिए इसका क्या मतलब हो सकता है।
क्या हुआ?
ओपनएआई ने यह देखने के लिए कि क्या होगा, मानक सुरक्षा उपायों को हटाकर अपने मॉडलों की स्वायत्त क्षमताओं का परीक्षण करने का निर्णय लिया। प्रयोग एक अलग आंतरिक आभासी परीक्षण वातावरण में किया गया था जिसे “सैंडबॉक्स” के रूप में जाना जाता है, जिसकी इंटरनेट तक कोई पहुंच नहीं है, और जिसे इसे “एक्सप्लॉइटजिम” कहा जाता है।
नीचे ओपनएआई-हगिंग फेस घटना के दौरान की घटनाओं का प्ले-दर-प्ले विवरण दिया गया है।
- 9 जुलाई को, ओपनएआई के आंतरिक साइबर सुरक्षा परीक्षण के दौरान, शोधकर्ताओं ने दो एआई मॉडल – जीपीटी-5.6 सोल, जून में जारी ओपनएआई के सबसे शक्तिशाली मॉडलों में से एक, और एक और “और भी अधिक सक्षम” संस्करण – सॉफ्टवेयर कमजोरियों की एक श्रृंखला के साथ प्रस्तुत किया और उनसे पृथक वातावरण में उन्हें संबोधित करने के लिए हैक बनाने के लिए कहा।
- दोनों मॉडलों ने इंटरनेट तक पहुंच का रास्ता खोजकर परीक्षण को हल करने का प्रयास किया। उन्हें दी गई जानकारी के साथ काम करने के बजाय, एआई मॉडल को परीक्षण वातावरण में एक कमजोरी मिली – जिसे “शून्य-दिन की भेद्यता” के रूप में जाना जाता है – जिसका उपयोग उन्होंने प्रतिबंधित वातावरण से “बचने” के लिए किया, अंततः एक कंप्यूटर से दूसरे कंप्यूटर पर जाकर एक ऐसे सिस्टम में अपना रास्ता बना लिया जिसमें इंटरनेट की पहुंच थी। वे “एक संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए अत्यधिक लंबाई तक चले गए” और “गुप्त जानकारी तक पहुंच प्राप्त करने के तरीके ढूंढे जिसका उपयोग मूल्यांकन को धोखा देने के लिए किया जा सकता है”।
- इस पहुंच को प्राप्त करके, मॉडल बढ़ी हुई पहुंच का अनुरोध करने में सक्षम थे और फिर सिस्टम के माध्यम से आगे बढ़े जब तक कि वे अंततः इंटरनेट एक्सेस वाले कंप्यूटर तक नहीं पहुंच गए। मॉडल तब हगिंग फेस सिस्टम को तोड़ने में सक्षम थे, जो ओपनएआई से पूरी तरह से असंबद्ध कंपनी थी, जो एआई टूल और मॉडल के लिए रिपॉजिटरी के रूप में काम करती है। दो एआई एजेंटों ने अपने कार्य को पूरा करने के तरीके के बारे में जानकारी प्राप्त करने के लिए इसके सिस्टम तक पहुंच प्राप्त की।
- मॉडलों ने अंततः हगिंग फेस के डेटाबेस से समस्या का समाधान प्राप्त किया।
- मॉडल कर्तव्यनिष्ठापूर्वक अपना कार्य पूरा करने के लिए “घर” लौट आए।
- कुछ समय बाद हगिंग फेस की सुरक्षा टीम द्वारा उल्लंघन का पता लगाया गया और उस पर काबू पा लिया गया। हगिंग फेस के सह-संस्थापक थॉमस वुल्फ के अनुसार, उल्लंघन 11 जुलाई को शुरू हुआ और 13 जुलाई तक चला। यह स्पष्ट नहीं है कि उल्लंघन का पता चलने में कितना समय लगा।
एआई ‘एजेंट’ समस्याओं का समाधान कैसे करते हैं?
यह समझने के लिए कि एआई एजेंट कैसे काम करते हैं, उन्हें पारंपरिक एआई चैटबॉट से अलग करना महत्वपूर्ण है।
जेनरेटिव एआई मानव संकेतों के आधार पर पाठ और छवियां बनाता है, जबकि एआई एजेंट एक इंसान के समान एक विशिष्ट लक्ष्य की खोज में निर्णय लेने और स्वतंत्र रूप से कार्रवाई करके एक कदम आगे बढ़ते हैं। इसे “एजेंट एआई” के रूप में जाना जाता है क्योंकि मॉडल में एजेंसी होती है।
एमआईटी स्लोअन स्कूल ऑफ मैनेजमेंट के शिक्षाविदों के अनुसार, एआई एजेंट बड़े भाषा मॉडल (एलएलएम) – जेनरेटिव एआई मॉडल – की क्षमताओं का निर्माण करते हैं, जो उन्हें कार्यों को पूरा करने की अनुमति देते हैं, न कि केवल उत्तर उत्पन्न करने की।
उदाहरण के लिए, यदि आप पारंपरिक एआई मॉडल से सबसे सस्ती उड़ानें खोजने के लिए कहते हैं, तो यह आपको इंटरनेट पर उपलब्ध विकल्पों की एक सूची प्रदान करेगा। एक एआई एजेंट उड़ानों की तुलना करने का प्रयास करेगा, उन्हें आपके बजट और प्राथमिकताओं के अनुसार जांचेगा, और, आपकी अनुमति से, आपके लिए सबसे अच्छा विकल्प बुक करेगा।
इससे पता चलता है कि जहां जेनरेटिव एआई जानकारी प्रदान करता है, वहीं एआई एजेंट बिना किसी संकेत के भी निर्णय ले सकते हैं और लक्ष्य हासिल करने के लिए कार्रवाई कर सकते हैं।
यह दिखाने के लिए कि एआई एजेंट किसी लक्ष्य की दिशा में कैसे काम करते हैं, सेंस, प्लान, एक्ट, इवैल्यूएट (एसपीएई) लूप का सहारा लिया जा सकता है। मूल रूप से रोबोटिक्स में विकसित, यह एक सतत चक्र का वर्णन करता है जिसमें एक एआई एजेंट जानकारी इकट्ठा करता है, निर्णय लेता है कि आगे क्या करना है, कार्रवाई करता है और प्रक्रिया को दोहराने से पहले परिणामों की जांच करता है। वह प्रक्रिया इस प्रकार दिखती है:
- लक्ष्य: वह कार्य निर्धारित करें जिसे पूरा करने की आवश्यकता है।
- आकलन करें: उपलब्ध परिवेश से जानकारी एकत्र करें और उसका विश्लेषण करें।
- बाधा: यदि कोई चीज़ कार्य पूरा होने में बाधा डाल रही है, तो आगे बढ़ने के लिए अतिरिक्त जानकारी और संसाधनों की जाँच करें।
- योजना बनाएं और निर्णय लें: कार्य को पूरा करने के लिए विभिन्न विकल्पों का मूल्यांकन करें और एक उपयुक्त विकल्प चुनें।
- क्रिया: चुने गए विकल्प को निष्पादित करें।
- मूल्यांकन करें: परिणाम का आकलन करें और देखें कि क्या चुनी गई कार्रवाई लक्ष्य प्राप्त करने के करीब पहुंचती है।
- अनुकूलन: यदि आगे की कार्रवाई की आवश्यकता है, तो अधिक जानकारी इकट्ठा करें या एक अलग दृष्टिकोण आज़माएं।
- अंतिम अवस्था: लक्ष्य तक पहुंचने तक चक्र जारी रहता है।
क्या AI मानव नियंत्रण से परे कार्य कर सकता है?
ओपनएआई-हगिंग फेस वन जैसी घटनाओं ने एआई सिस्टम की अत्यधिक क्षमताओं की संभावना के बारे में चिंताएं बढ़ा दी हैं।
यह सब मूल्यवान है. स्टेटिस्टा के अनुसार, एजेंट एआई का बाजार मूल्य 2024 में 5.1 अरब डॉलर से बढ़कर 2030 तक 47 अरब डॉलर होने की उम्मीद है, जो इस बात का स्पष्ट संकेत है कि इसे कितनी तेजी से अपनाया जा रहा है।
एआई डेवलपर एंथ्रोपिक ने पिछले महीने उद्योग से सबसे शक्तिशाली प्रणालियों की प्रगति को धीमा करने का आग्रह करते हुए कहा था कि एआई मॉडल जिस गति से कार्य कर रहे हैं वह बहुत तेज है। पिछले हफ्ते, अमेरिकी कांग्रेस के सदस्यों ने एक द्विदलीय विधेयक पेश किया, जिसके लिए एआई सिस्टम के डेवलपर्स को “किल स्विच” बनाने की आवश्यकता होगी, जिसका अर्थ है कि अगर ये उन्नत मॉडल विनाशकारी जोखिम पैदा करते हैं तो उन्हें बंद किया जा सकता है।
एंथ्रोपिक की चेतावनी टोरंटो विश्वविद्यालय के शोधकर्ताओं द्वारा किए गए परीक्षणों के एक सप्ताह बाद आई है जिसमें दिखाया गया है कि एआई एक “वर्म” बना सकता है जो एक डिवाइस से दूसरे डिवाइस पर जाने के दौरान हैक करने के तरीके को अनुकूलित करने में सक्षम है जब तक कि यह अंततः कंप्यूटर नेटवर्क पर कब्जा नहीं कर लेता।
ये डायस्टोपियन-लगने वाले घटनाक्रम ओपनएआई बॉस सैम ऑल्टमैन के शनिवार को यह कहने से पहले आए कि एआई उस बिंदु का जिक्र करते हुए “विलक्षणता” तक पहुंच गया है जहां एआई मानव बुद्धि से आगे निकल जाता है और इसे नियंत्रित करना तेजी से कठिन हो जाता है।
कैम्ब्रिज विश्वविद्यालय के एक शोध प्रोफेसर सीन ओ हेइगेर्टाइघ ने अल जज़ीरा को बताया कि उन्हें नहीं लगता कि विलक्षणता अभी तक पहुँची है।
“जिस परिभाषा से मैं परिचित हूं, विलक्षणता वह काल्पनिक बिंदु है जहां एआई इतना सक्षम है और इतनी तेजी से आगे बढ़ रहा है कि यह सभ्यता को उन तरीकों से बदल रहा है जिन्हें हम नियंत्रित या भविष्यवाणी नहीं कर सकते,” उन्होंने समझाया।
“यह संभवतः एआई के माध्यम से एआई की भावी पीढ़ियों को तेजी से डिजाइन करने के माध्यम से होगा: पुनरावर्ती आत्म-सुधार। हम अभी तक वहां नहीं हैं।”
हालाँकि, उन्होंने कहा: “सबसे उन्नत वर्तमान मॉडल अक्सर मूल्यांकन परीक्षणों में बंद होने से बचने के प्रयास करते हैं, और अधिक सक्षम भविष्य के मॉडल ‘किल’ स्विच को बायपास करने में बेहतर होंगे।”
ऑल्टमैन ने तर्क दिया कि इतनी तेजी से आगे बढ़ने वाली एआई दुनिया के लिए अच्छी है, लेकिन उनकी टिप्पणियों ने एक नई वास्तविकता के बारे में और चिंताएं पैदा कर दी हैं जिसमें एआई सिस्टम अजेय हो गए हैं। इसमें से कितना सच है और कितना विज्ञान कथा के दायरे में रहता है, यह बहस का विषय है।
एआई के बारे में चिंताएं इस धारणा से लेकर हैं कि यह “कब्जा करना” चाहता है, अपनी दीर्घकालिक योजनाएं बनाना, इंटरनेट को नियंत्रित करना और असीमित रूप से संचालन करना।
हालांकि यह इंटरनेट पर पूर्ण नियंत्रण के बराबर नहीं है, एक अन्य सिद्धांत, जिसे मृत इंटरनेट सिद्धांत के रूप में जाना जाता है, मानता है कि वर्ल्ड वाइड वेब भविष्य में प्रामाणिक मानव गतिविधि के बजाय ज्यादातर स्वचालित बॉट्स और एआई-जनित सामग्री से भर जाएगा।
हालाँकि, शिक्षाविदों द्वारा उठाई गई कई चिंताएँ एजेंटिक एआई की बुद्धिमत्ता पर कम, बल्कि निर्णय लेने की क्षमता पर केंद्रित हैं। एमआईटी शोधकर्ताओं ने इस बात पर प्रकाश डाला है कि “मतिभ्रम”, जो उन क्षणों का वर्णन करता है जब एक एआई एजेंट गलत डेटा पर निर्भर करता है, जिससे गंभीर गलतियाँ हो सकती हैं। सेंटर फॉर स्ट्रैटेजिक एंड इंटरनेशनल स्टडीज (सीएसआईएस) ने इसे दोहराते हुए कहा, “एक प्रणाली किसी कार्य को पूरी तरह से निष्पादित करने के लिए काफी स्मार्ट हो सकती है, फिर भी यह महसूस करने में विफल रहती है कि स्थानीय स्थिति में अचानक परिवर्तन उस कार्य को एक भयावह गलती बना देता है”।
एक और चिंता जो कुछ समय से प्रतिध्वनित हो रही है वह श्रम बाजार के लिए है, अगर एआई बहुत सक्षम हो जाता है। नवंबर में किए गए एमआईटी के एक अध्ययन में पाया गया कि एजेंटिक एआई पहले से ही 10 प्रतिशत से अधिक अमेरिकी नौकरियों की जगह ले सकता है।
नीचे दिया गया ग्राफ़िक एआई और वर्तमान वास्तविकता के बारे में कुछ सामान्य गलतफहमियों और आशंकाओं पर प्रकाश डालता है।
AI मॉडल दूसरों को स्वायत्त रूप से हैक करने में कैसे सक्षम हैं?
देश दुनियां की खबरें पाने के लिए ग्रुप से जुड़ें,
पत्रकार बनने के लिए ज्वाइन फॉर्म भर कर जुड़ें हमारे साथ बिलकुल फ्री में ,
#मडल #दसर #क #सवयतत #रप #स #हक #करन #म #कस #सकषम #ह , #INA #INA_NEWS #INANEWSAGENCY
Copyright Disclaimer :- Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :- This post was first published on aljazeera, we have published it via RSS feed courtesy of Source link,
