World News: OpenAI से बचना: क्या रोबोट विद्रोह शुरू हो गया है? – INA NEWS

ओपनएआई द्वारा विकसित एक अत्याधुनिक एआई मॉडल प्रयोगशाला परीक्षण की सीमा से बाहर निकलने और बिना किसी मानवीय निर्देश के कंपनी के डेटाबेस में सेंध लगाने में कामयाब रहा है। यह एक दुःस्वप्न परिदृश्य है – या क्या OpenAI चाहता है कि आप इस पर विश्वास करें?

16 जुलाई को, OpenAI ने GPT‑5.6 Sol और एक अन्य प्री-रिलीज़ मॉडल पर एक आंतरिक बेंचमार्क परीक्षण किया, जिसके बारे में कंपनी का दावा है “और भी अधिक सक्षम।” मॉडलों की रेलिंग अक्षम कर दी गई थी और उन्हें एक्सप्लॉइटजिम नामक साइबर सुरक्षा परीक्षणों की एक श्रृंखला को हल करने के लिए काम पर लगाया गया था। यूसी बर्कले, जर्मनी के मैक्स प्लैंक इंस्टीट्यूट और Google, एंथ्रोपिक और ओपनएआई समेत एआई कंपनियों के शोधकर्ताओं द्वारा विकसित, एक्सप्लॉइटजिम ज्ञात सुरक्षा कमजोरियों का फायदा उठाने के साधन बनाने और तैनात करने के लिए एआई मॉडल की क्षमता को मापता है।

इन कमजोरियों की पहचान करने के बजाय, ओपनएआई के मॉडल ने परीक्षण को धोखा देने के तरीकों की खोज की। वे बंद परीक्षण वातावरण के भीतर से खुली इंटरनेट पहुंच प्राप्त करने में कामयाब रहे और हगिंग फेस के सर्वर को हैक करने के लिए इस नई स्वतंत्रता का उपयोग किया। हगिंग फेस एआई मॉडल और डेटासेट का एक भंडार है, और ओपनएआई के अनुसार, जिन मॉडलों का परीक्षण किया जा रहा है, उनका तर्क है कि वे वहां एक्सप्लॉइटजिम कार्यों का समाधान पा सकते हैं।

“यह जानते हुए, मॉडल ने गुप्त जानकारी तक पहुंच प्राप्त करने के तरीकों की खोज की और सफलतापूर्वक उन्हें ढूंढ लिया, जिनका उपयोग वह मूल्यांकन को धोखा देने के लिए कर सकता था,” घटना के बारे में OpenAI ने अपनी रिपोर्ट में कहा.

हगिंग फेस ने एक अलग एआई मॉडल की मदद से घुसपैठ की खोज की, और उस भेद्यता को ठीक किया जिसने इसे पहली बार में होने दिया। अपनी ओर से, ओपनएआई ने इसके परीक्षण प्रयोगशाला में उपयोग किए जाने वाले तीसरे पक्ष के सॉफ़्टवेयर की कमज़ोरी को इस घटना के लिए जिम्मेदार ठहराया, जिसके माध्यम से इसके मॉडलों को इंटरनेट तक पहुंच प्राप्त हुई। इसने इस बात की तकनीकी जानकारी गुप्त रखी कि इसके मॉडलों ने इस कमजोरी का कैसे फायदा उठाया।

हगिंग फेस के सर्वर में सेंध लगाने की राह पर, मॉडल ने मोडल में एक कथित रूप से पृथक परीक्षण वातावरण में भी सेंध लगाई, जो एक फर्म है जो एआई डेवलपर्स को कंप्यूटिंग क्षमता किराए पर देती है, जैसा कि रॉयटर्स ने 28 जुलाई को रिपोर्ट किया था।

क्या AI संवेदनशील हो गया है?

अंकित मूल्य पर लेते हुए, कहानी से पता चलता है कि ओपनएआई के मॉडल जटिल पार्श्व सोच में सक्षम हैं: संदेह है कि हगिंग फेस के सर्वर में परीक्षण के उत्तर होने की संभावना है; यह महसूस करते हुए कि इन सर्वरों में सेंध लगाने के लिए उन्हें बाहरी इंटरनेट एक्सेस की आवश्यकता है; और अपने लक्ष्य को प्राप्त करने के लिए विभिन्न आक्रमण तकनीकों को स्वतंत्र रूप से विकसित और संयोजित करना।

ओपनएआई के बयान में इसे चिंताजनक भाषा में पलायन का वर्णन किया गया है “अभूतपूर्व साइबर घटना, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल हैं।” हगिंग फेस, जिसने तब से ओपनएआई के साथ साझेदारी की है, समान रूप से अतिशयोक्तिपूर्ण था। “स्वायत्त, एआई-संचालित आक्रामक टूलिंग अब सैद्धांतिक नहीं है। यह एक व्यापक, धैर्यवान, बहु-मंचीय अभियान चलाने की लागत को कम करता है, और यह मशीन की गति से संचालित होता है।” एक बयान में यह कहा गया.

हालाँकि, यह स्पष्ट नहीं है कि OpenAI के मॉडल कितनी स्वायत्तता से काम कर रहे थे। कंपनी ने यह नहीं बताया है कि उसके मॉडलों को एक्सप्लॉइटजिम परीक्षण के लिए कैसे प्रेरित किया गया था, और गलत शब्दों के परिणामस्वरूप मॉडल यह मान सकते थे कि नियंत्रण से बचना परीक्षण को हल करने का एक वैध रास्ता था। ओपनएआई और हगिंग फेस दोनों की अतिशयोक्ति के बावजूद, यह सुझाव देने के लिए कोई सबूत नहीं है कि एआई मॉडल बचना चाहते थे, या जब उन्हें अपने उपकरणों पर छोड़ दिया गया, तो वे दुर्भावनापूर्ण गतिविधि के लिए डिफ़ॉल्ट होंगे।

यदि घटना में यह भी शामिल है – जैसा कि OpenAI ने कहा है – एक सेकंड, “और भी अधिक सक्षम प्री-रिलीज़ मॉडल,” उद्योग-स्तर के ग्राहकों के लिए अपील स्पष्ट है। बंद परीक्षण के दौरान हुई एक घटना को प्रचारित करके, ओपनएआई बिना सबूत दिए अपने प्री-रिलीज़ मॉडल के लिए प्रचार पैदा कर सकता है।

इनमें से कोई भी यह नहीं कह रहा है कि घटना नहीं हुई, या एआई की आक्रामक क्षमताएं चिंता का कारण नहीं हैं, बस ओपनएआई के पास अपने स्वयं के उत्पादों के बारे में डराने वालों को वित्तीय प्रोत्साहन है। घटना से एक महीने पहले, कंपनी ने प्रारंभिक सार्वजनिक पेशकश के लिए गोपनीय रूप से कागजी कार्रवाई दायर की थी। रॉयटर्स के अनुसार, कंपनी $1 ट्रिलियन तक के मूल्यांकन का लक्ष्य बना रही है, और सितंबर की शुरुआत में सार्वजनिक होने की योजना बना रही है।

एंथ्रोपिक ने भी जून में अपने आईपीओ के लिए आवेदन किया था, जिसका लक्ष्य अक्टूबर में $965 बिलियन का मूल्यांकन था। अप्रैल में, एंथ्रोपिक का अप्रकाशित माइथोस प्रीव्यू मॉडल भी सफल रहा “पलायन” इसका परीक्षण वातावरण और बिना किसी उन्नत साइबर सुरक्षा कारनामे को अंजाम देता है “स्पष्ट रूप से प्रशिक्षित” ऐसा करना. एंथ्रोपिक ने एक लंबी तकनीकी व्याख्या जारी की कि मिथोस ने यह उपलब्धि कैसे हासिल की, यह घोषणा करने से पहले कि मॉडल जनता के लिए जारी करने के लिए बहुत शक्तिशाली था।

कमी से प्रचार बढ़ता है, और जून में एंथ्रोपिक के फैबल 5 और मिथोस 5 मॉडल पर निर्यात नियंत्रण को थप्पड़ मारने के अमेरिकी सरकार के फैसले ने कंपनी में रुचि बढ़ा दी है। एंथ्रोपिक द्वारा अपने मॉडलों पर सख्त रेलिंग लगाने और सुरक्षा पर सरकार के साथ सहयोग करने पर सहमति के बाद जुलाई की शुरुआत में निर्यात नियंत्रण हटा लिया गया था।

क्या एआई से बचना एक विस्तृत विपणन चाल थी?

OpenAI के लिए, यह घटना उसके मॉडलों की क्षमताओं के लिए सर्वोत्तम संभव विज्ञापन है। अपनी रिपोर्ट में, कंपनी ने एक ग्राफ शामिल किया है जिसमें दिखाया गया है कि जीपीटी‑5.6 सोल, एंथ्रोपिक के क्लाउड माइथोस 5 और डीपसीक-वी4-प्रो सहित एआई मॉडल कितने अग्रणी हैं। “लंबे समय तक जटिल, बहु-चरणीय साइबर संचालन को बनाए रखने में सक्षम।” हालाँकि इसे चिंता के कारण के रूप में प्रस्तुत किया गया है, चार्ट में GPT-5.6 Sol को इसके सभी प्रतिस्पर्धियों के बीच सबसे सक्षम के रूप में सूचीबद्ध किया गया है – OpenAI के लिए एक स्पष्ट विज्ञापन।

यदि घटना में यह भी शामिल है – जैसा कि OpenAI ने कहा है – एक सेकंड, “और भी अधिक सक्षम प्री-रिलीज़ मॉडल,” उद्योग-स्तर के ग्राहकों के लिए अपील स्पष्ट है। बंद परीक्षण के दौरान हुई एक घटना को प्रचारित करके, ओपनएआई बिना सबूत दिए अपने प्री-रिलीज़ मॉडल के लिए प्रचार पैदा कर सकता है।

इनमें से कोई भी यह नहीं कह रहा है कि घटना नहीं हुई, या एआई की आक्रामक क्षमताएं चिंता का कारण नहीं हैं, बस ओपनएआई के पास अपने स्वयं के उत्पादों के बारे में डराने वालों को वित्तीय प्रोत्साहन है। घटना से एक महीने पहले, कंपनी ने प्रारंभिक सार्वजनिक पेशकश के लिए गोपनीय रूप से कागजी कार्रवाई दायर की थी। रॉयटर्स के अनुसार, कंपनी $1 ट्रिलियन तक के मूल्यांकन का लक्ष्य बना रही है, और सितंबर की शुरुआत में सार्वजनिक होने की योजना बना रही है।

एंथ्रोपिक ने भी जून में अपने आईपीओ के लिए आवेदन किया था, जिसका लक्ष्य अक्टूबर में $965 बिलियन का मूल्यांकन था। अप्रैल में, एंथ्रोपिक का अप्रकाशित माइथोस प्रीव्यू मॉडल भी सफल रहा “पलायन” इसका परीक्षण वातावरण और बिना किसी उन्नत साइबर सुरक्षा कारनामे को अंजाम देता है “स्पष्ट रूप से प्रशिक्षित” ऐसा करना. एंथ्रोपिक ने एक लंबी तकनीकी व्याख्या जारी की कि मिथोस ने यह उपलब्धि कैसे हासिल की, यह घोषणा करने से पहले कि मॉडल जनता के लिए जारी करने के लिए बहुत शक्तिशाली था।

कमी से प्रचार बढ़ता है, और जून में एंथ्रोपिक के फैबल 5 और मिथोस 5 मॉडल पर निर्यात नियंत्रण को थप्पड़ मारने के अमेरिकी सरकार के फैसले ने कंपनी में रुचि बढ़ा दी है। एंथ्रोपिक द्वारा अपने मॉडलों पर सख्त रेलिंग लगाने और सुरक्षा पर सरकार के साथ सहयोग करने पर सहमति के बाद जुलाई की शुरुआत में निर्यात नियंत्रण हटा लिया गया था।

अमेरिकी सरकार ने कैसे प्रतिक्रिया दी है?

दोनों घटनाओं ने कैपिटल हिल के सांसदों का ध्यान खींचा है। 23 जुलाई को, प्रतिनिधियों टेड लियू और नथानिएल मोरन ने एआई किल स्विच अधिनियम पेश किया, जो होगा “उन्हें रोकने, निलंबित करने या बंद करने की तकनीकी क्षमता बनाए रखने के लिए सबसे शक्तिशाली एआई सिस्टम के डेवलपर्स की आवश्यकता होती है।” यह विधेयक अमेरिकी गृह सुरक्षा विभाग को भी सशक्त बनाएगा “ऐसे एआई सिस्टम को धीमा करने या बंद करने का आदेश दें जो भयावह नुकसान पहुंचा सकता है।”

बिल पर एक बयान में, लियू ने ओपनएआई के दोनों मॉडलों और मिथोस के ‘पलायन’ का संदर्भ दिया। कैलिफोर्निया के सांसद ने दोनों मामलों को मॉडल बताया “दुष्ट हो रहा हूँ,” एक फ्रेमिंग जिसे मुख्यधारा के मीडिया ने उठाया और लेकर चला।

लियू को ओपनएआई घटना के बारे में कंपनी की प्रेस विज्ञप्ति पढ़ने वाले किसी भी व्यक्ति से अधिक जानकारी नहीं है। हालाँकि, उनकी शब्दावली ओपनएआई के (शायद अनजाने में) मार्केटिंग अभियान में सही भूमिका निभाती है। इसके अलावा, यदि बिल पारित हो जाता है, तो ओपनएआई और एंथ्रोपिक को रिलीज से पहले अपने मॉडलों को बंद करने के लिए मजबूर किया जा सकता है, जिसका अर्थ है कि निवेशकों को केवल उनकी सैद्धांतिक शक्ति के बारे में पता चलेगा – न कि उनकी वास्तविक जीवन की शक्ति के बारे में।

खुला स्रोत तर्क

यह घटना ओपनएआई के इस तर्क को मजबूत करती है कि फ्रंटियर एआई मॉडल जनता के लिए जारी करने के लिए बहुत शक्तिशाली हैं, और ओपनएआई जैसी कंपनियों को – सरकार के आशीर्वाद से – उन पर निगरानी और नियंत्रण बनाए रखना चाहिए। ऐसी बंद-स्रोत व्यवस्था में, ग्राहकों का मॉडलों के वजन पर कोई नियंत्रण नहीं होगा – अनिवार्य रूप से वे बदलाव जो मॉडल द्वारा चुने गए विकल्पों को निर्धारित करते हैं।

तर्क के दूसरी तरफ, ओपन-सोर्स अधिवक्ताओं का कहना है कि उन्नत एआई द्वारा साइबर हमलों से बचाव का एकमात्र तरीका रक्षकों को समान उपकरणों से लैस करना है। ओपनएआई और हगिंग फेस के मामले में, बाद वाली कंपनी केवल एक हमले का पता लगाने में सक्षम थी क्योंकि उसने अपने सुरक्षा विश्लेषण करने के लिए जीएलएम 5.2, एक चीनी ओपन-सोर्स मॉडल का उपयोग किया था।

OpenAI से बचना: क्या रोबोट विद्रोह शुरू हो गया है?

#INA #INA_NEWS #INANEWSAGENCY

Copyright Disclaimer :-Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :-This post was first published on RTNews.com, we have published it via RSS feed courtesy of Source link,