World News: क्या AI सिस्टम युद्ध में नैतिक निर्णय ले सकता है? – INA NEWS
कृत्रिम बुद्धिमत्ता युद्ध कैसे लड़े जाते हैं, इसे नया आकार दे रही है। स्वायत्त ड्रोन से लेकर एआई-संचालित कमांड-एंड-कंट्रोल तक, मशीनें युद्ध कक्ष में कम निर्णय लेने वालों और जमीन पर बूट करने वालों के लिए मार्ग प्रशस्त कर रही हैं।
वह परिवर्तन पहले से ही कीव, गाजा और तेहरान में नई तकनीकों को पेश करके संघर्षों को नया रूप दे रहा है। यूक्रेन में एआई-संचालित इंटरसेप्टर ड्रोन। गाजा में इज़राइल की AI-सक्षम लक्ष्य पीढ़ी का उपयोग किया गया। और, हाल ही में, पलान्टिर के मावेन स्मार्ट सिस्टम (एमएसएस) का उपयोग ईरान पर यूएस-इज़राइल युद्ध के दौरान हजारों लक्ष्यों की पहचान करने और उन पर हमला करने के लिए किया गया था।
28 फरवरी को, ईरान पर अमेरिकी-इजरायल युद्ध के पहले दिन, मावेन ने 1,000 से अधिक लक्ष्यों पर हमला करने में मदद की, उनमें से मिनाब में एक ईरानी प्राथमिक विद्यालय भी था, जहां 150 से अधिक लोग मारे गए थे, जिनमें से अधिकांश बच्चे थे। चार महीने बाद, हमले की पेंटागन की जांच रुकी हुई है, सीनेटर जवाब मांग रहे हैं और ब्लूमबर्ग ने रिपोर्ट दी है कि त्रुटि पुरानी उपग्रह खुफिया जानकारी के कारण हुई है।
जैसे-जैसे एआई सेनाओं में मजबूती से शामिल होता जा रहा है, सवाल सिर्फ यह नहीं है कि क्या इन प्रणालियों पर सटीक निर्णय लेने के लिए भरोसा किया जा सकता है, बल्कि यह भी है कि क्या वे अपने द्वारा लिए गए निर्णयों के नैतिक परिणामों से जूझ सकते हैं।
एआई और युद्ध पर एक श्रृंखला के हिस्से के रूप में, अल जज़ीरा जांच करता है कि क्या यह मानव निर्णय निर्माताओं की जगह सफलतापूर्वक ले सकता है।
निर्णय लाभ: युद्ध के मैदान पर एआई का उदय
वैश्विक सैन्य व्यय पिछले वर्ष 2.9 प्रतिशत बढ़कर 2.87 ट्रिलियन डॉलर हो गया। उद्योग रिपोर्टों के अनुसार, उस आंकड़े के भीतर, सैन्य अनुप्रयोगों के लिए एआई पर खर्च तेजी से बढ़ रहा है, जो 2030 तक $11.7 बिलियन से बढ़कर लगभग $19.3 बिलियन हो जाने का अनुमान है।
अप्रैल में, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प के प्रशासन ने “स्वप्न सेना” बनाने और पारंपरिक सैन्य-औद्योगिक परिसर से सैन्य-तकनीक में बदलाव में तेजी लाने के लिए अक्टूबर से शुरू होने वाले वित्तीय वर्ष के लिए रक्षा खर्च में 1.5 ट्रिलियन डॉलर का प्रस्ताव रखा।
अमेरिकी पेंटागन ने 20वीं सदी के अंत में अमेरिकी वायु सेना के कर्नल जॉन बॉयड द्वारा विकसित निर्णय लेने वाले मॉडल ओओडीए लूप को संपीड़ित करते हुए “एआई-फर्स्ट फाइटिंग फोर्स” बनने पर अपना ध्यान केंद्रित किया है, जो इस आधार पर बनाया गया है कि जो कोई भी निर्णयों के माध्यम से तेजी से आगे बढ़ता है वह शीर्ष पर आता है।
नई जानकारी के साथ लगातार फेड, ओओडीए लूप – निरीक्षण, उन्मुख, निर्णय, कार्य – कमांडरों को नवीनतम संभावित क्षण में कार्रवाई तय करने देता है, गति और अनुकूलनशीलता के लिए निश्चितता का व्यापार करता है।
गति के लिए प्रेरणा प्रोजेक्ट मावेन, पलान्टिर का प्रमुख एआई इंटेलिजेंस प्लेटफॉर्म है, जिसे एंथ्रोपिक के क्लाउड के साथ जोड़ा गया है, जो युद्ध के मैदान की वास्तविक समय की तस्वीर पेश करने के लिए बनाया गया है।
OODA लूप का तर्क 2000 और 2010 के ड्रोन युद्धों में पहले से ही काम कर रहा था, जब एल्गोरिथम पैटर्न पहचान ने ऐसे व्यक्तियों को चिह्नित किया, जिनका व्यवहार एक संदिग्ध प्रोफ़ाइल से मेल खाता था, कम्प्यूटेशनल रूप से उत्पन्न हत्या सूचियों को खिला रहा था।
तब इसे एआई नहीं कहा जाता था, लेकिन तर्क आज जैसा ही था: मानव विश्लेषक की तुलना में तेजी से डेटा में पैटर्न ढूंढें, और उन्हें कार्रवाई में परिवर्तित करें।
मावेन स्मार्ट सिस्टम कैसे काम करता है?
यह समझने के लिए कि मावेन क्या करता है, यह विचार करने योग्य है कि इसमें क्या बदलाव आया है। पिछले संघर्षों में, जैसे कि इराक और अफगानिस्तान में 2000 के अमेरिकी युद्धों में, विश्लेषकों ने एक्सेल स्प्रेडशीट और पावरपॉइंट स्लाइड्स में प्रतिकूल नेटवर्क को ट्रैक किया, नामों को लॉग किया और कनेक्शन को स्केच किया, जबकि किल चेन वरिष्ठ अधिकारियों द्वारा विश्लेषण किए गए मुद्रित डोजियर पर निर्भर थे। इन प्रक्रियाओं में समय लगा.
ऑपरेशन एपिक फ्यूरी के दौरान, जैसा कि ईरान पर वर्तमान अमेरिकी युद्ध कहा जाता है, मेवेन का उपयोग मिनटों में हजारों हमलों को संसाधित करने के लिए किया गया है। यूएस सेंट्रल कमांड के प्रमुख एडमिरल ब्रैड कूपर के अनुसार, जिन समयरेखाओं में कभी घंटे या दिन लगते थे, वे अब महज कुछ सेकंड में सिमट कर रह गई हैं।
प्रोजेक्ट मावेन को 2017 में एल्गोरिथम वारफेयर क्रॉस-फंक्शनल टीम (एडब्ल्यूसीएफटी) के रूप में लॉन्च किया गया था, ताकि एआई और मशीन लर्निंग का उपयोग करके ड्रोन और निगरानी फुटेज के बड़े पैमाने पर बैकलॉग को स्वचालित रूप से सॉर्ट किया जा सके, जिसे सेना एकत्र कर रही थी लेकिन लक्ष्य की पहचान करने और प्राथमिकता देने से लेकर उपयुक्त हथियार का चयन करने और अंततः युद्ध क्षति का आकलन करने तक पूरी तरह से विश्लेषण नहीं कर सकी।
Google ने ड्रोन फुटेज का विश्लेषण करने के लिए कंप्यूटर विज़न मॉडल का निर्माण किया, जब तक कि कर्मचारियों के विरोध के बाद 2018 में इसे वापस नहीं ले लिया गया, जिसमें 4,000 से अधिक कर्मचारियों ने एक याचिका पर हस्ताक्षर किए, जिसमें कहा गया था कि “Google को युद्ध के व्यवसाय में नहीं होना चाहिए।”
देश की नेशनल जियोस्पेशियल-इंटेलिजेंस एजेंसी के निदेशक वाइस एडमिरल फ्रैंक व्हिटवर्थ के अनुसार, आज, 20,000 से अधिक अमेरिकी सैन्यकर्मी 35 सैन्य सॉफ्टवेयर टूल और तीन सुरक्षा वर्गीकरण डोमेन में मावेन का उपयोग करते हैं।
सिस्टम 150 से अधिक संसाधनों से डेटा खींचता है जैसे:
- उपग्रहों
- वाणिज्यिक राडार तारामंडल बादलों और अंधेरे के माध्यम से इमेजरी लौटा रहे हैं
- ड्रोन वीडियो
- सिग्नल इंटेलिजेंस (SIGINT)
- रेडियो उत्सर्जन
- सोशल मीडिया जियोलोकेशन
- तैनात इकाइयों से फील्ड रिपोर्ट
एक बार पहचाने जाने के बाद, एक लक्ष्य खोजने, ठीक करने, ट्रैक करने, लक्ष्य करने, संलग्न करने, मूल्यांकन (एफ 2 टी 2 ईए) के सैन्य मार श्रृंखला अनुक्रम पर आधारित एक डिजिटल पाइपलाइन के माध्यम से चलता है, जो हर चरण में निर्देशांक, खुफिया स्रोत, जोखिम मूल्यांकन और कानूनी साइन-ऑफ ले जाता है।
एक एआई अनुशंसाकर्ता निकटता और उपयुक्तता के आधार पर हथियारों और युद्ध सामग्री का प्रस्ताव करता है। एंथ्रोपिक्स क्लाउड, पलान्टिर के प्लेटफ़ॉर्म के माध्यम से एकीकृत, ऑपरेटरों को प्राकृतिक भाषा में सिस्टम से पूछताछ करने की सुविधा देता है।
एंथ्रोपिक पहली “फ्रंटियर” एआई कंपनी थी जिसने अपने मॉडलों को मेवेन द्वारा संचालित वर्गीकृत नेटवर्क पर तैनात किया था। हालाँकि, मार्च में तनाव पैदा हो गया जब पेंटागन ने एंथ्रोपिक को काली सूची में डाल दिया और इसे “आपूर्ति-श्रृंखला जोखिम” घोषित कर दिया, क्योंकि इसने स्वायत्त हथियारों और निगरानी पर क्लाउड के प्रतिबंधों को ढीला करने से इनकार कर दिया, जिससे एंथ्रोपिक को सरकार पर मुकदमा करना पड़ा।
निर्णय लेने वालों को हटाना
अमेरिकी रक्षा विभाग के अनुसार, कोई भी एआई हथियार पूरी तरह से स्वायत्त नहीं होगा, और उन्हें हमेशा मानव प्राधिकरण की आवश्यकता होगी।
एडमिरल कूपर ने मार्च में कहा था कि “क्या शूट करना है और क्या नहीं शूट करना है और कब शूट करना है, इस पर मनुष्य हमेशा अंतिम निर्णय लेगा, लेकिन उन्नत एआई उपकरण उन प्रक्रियाओं को बदल सकते हैं जिनमें घंटों और कभी-कभी दिनों का भी समय लगता था।”
हालाँकि, कुछ शिक्षाविद् इसी कारण से कम आश्वस्त हैं। ऐसा प्रतीत हो सकता है कि घर्षण रहित वर्कफ़्लो, संकुचित समय-सीमा और “पूर्व-पैक” निर्णय उन परिस्थितियों को नष्ट करने का जोखिम भी उठाते हैं जिनके तहत सार्थक मानवीय निर्णय और नैतिक निर्णय हो सकते हैं।
क्वीन मैरी यूनिवर्सिटी लंदन में राजनीतिक सिद्धांत के प्रोफेसर और डेथ मशीन्स: द एथिक्स ऑफ वायलेंट टेक्नोलॉजीज पुस्तक के लेखक एल्के श्वार्ज़ ने अल जज़ीरा को बताया, “नैतिक विचार-विमर्श के लिए जनादेश में एक अंतर्निहित तनाव है – नैतिक विचार-विमर्श, कानूनी विचार-विमर्श – जिसमें समय लगता है, और जिसके लिए कार्रवाई के बारे में सोचने के एक अलग तरीके की आवश्यकता होती है।”
“आप कह रहे हैं: हम गति और पैमाने के हित में अधिक कठोर विचार-विमर्श प्रक्रिया का त्याग करने जा रहे हैं।”
क्या सैन्य एआई नैतिक रूप से मानवीय निर्णय ले सकता है?
गहरा सवाल यह है कि क्या एआई सैद्धांतिक रूप से भी नैतिक तर्क की नकल कर सकता है।
श्वार्ज़ का स्पष्ट कहना है कि ऐसा नहीं हो सकता है, और ऐसा परिष्कृत बड़े भाषा मॉडल (एलएलएम) की कमी के कारण नहीं है, जिनका उपयोग प्रश्नों को चलाने और सरल प्राकृतिक भाषा में डेटा को समझने में मदद करने के लिए किया जाता है।
घातक बल का उपयोग करने के निर्णयों में क्या दांव पर लगा है, इसके कारण ही युद्ध सिद्धांत विकसित किया गया था। युद्ध की वास्तविक लागतों की कठिन समझ से पैदा हुई, संयम बरतने के लिए रूपरेखा मौजूद है। श्वार्ज़ का कहना है कि इसका मतलब कभी भी चेकबॉक्स अभ्यास नहीं था।
श्वार्ज़ कहते हैं, “नैतिकता एक सामाजिक प्रथा है।” “यह इस तथ्य पर निर्भर करता है कि हम एक-दूसरे की भेद्यता को बहुत गंभीरता से लेते हैं, और हम एक-दूसरे पर भरोसा करते हैं कि हम इसका उल्लंघन नहीं करेंगे जब तक कि परिस्थितियाँ निर्धारित न हों।
“एक प्रणाली एक कम्प्यूटेशनल प्रणाली है। इसमें मानव जीवन के अर्थ की कोई अवधारणा नहीं है। इसमें शोक, पीड़ा की कोई अवधारणा नहीं है।”
श्वार्ज़ ने एजेंटिक एआई की बात को खारिज कर दिया – सिस्टम जो सीमित मानवीय निरीक्षण के साथ अर्ध-स्वायत्त रूप से कार्य करने में सक्षम है – एक विपणन नौटंकी के रूप में भय या भावना को “प्रदर्शित” करता है, इसके बजाय यह दावा करता है कि “सिद्धांतों से जूझना” और संदेह, और “कितने जीवन दांव पर हैं” को केवल एक सिस्टम में प्रोग्राम नहीं किया जा सकता है।
संयम की जरूरत
विश्लेषकों का कहना है कि सैन्य एआई में एक वास्तविक जोखिम है, जहां विश्वसनीय लगने वाले आउटपुट गलत होते हैं, जो अधूरे, पुराने या दूषित डेटा पर बनाए जाते हैं – जिस तरह की विफलता के बारे में बताया जाता है कि ईरान में मिनब प्राइमरी स्कूल पर मावेन की गलत हड़ताल हुई थी। मावेन की वास्तविक त्रुटि दर का खुलासा नहीं किया गया है, लेकिन अनुमान एक ऐसी प्रणाली की ओर इशारा करता है जो पेंटागन द्वारा बताई गई तुलना में बहुत कम विश्वसनीय है।
श्वार्ज़ का कहना है कि बड़े भाषा मॉडल का उपयोग लक्ष्यीकरण के लिए नहीं किया जाना चाहिए, क्योंकि वे अनिवार्य रूप से मतिभ्रम करेंगे और नागरिक क्षति में योगदान देंगे।
इंटरसेप्ट, एक स्वतंत्र जांच आउटलेट, ने सोमवार को रिपोर्ट दी कि पेंटागन ने नागरिक क्षति आकलन में तेजी लाने के लिए, मेवेन स्मार्ट सिस्टम पर निर्मित एआई टूल सहित एआई टूल पर झुकाव करते हुए अपने नागरिक सुरक्षा उत्कृष्टता केंद्र को 40 कर्मचारियों से घटाकर केवल नौ कर दिया।
मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट के शोध में एक अध्ययन में कहा गया है कि एआई को एक कार्य सौंपने से एक नैतिक दूरी पैदा होती है जो लोगों को ऐसे व्यवहार में शामिल होने के लिए अधिक इच्छुक बनाती है जो वे अन्यथा स्वयं नहीं करते, क्योंकि एआई वैधता का आवरण दे सकता है, मौजूदा सुरक्षा उपाय इसे रोकने के लिए बहुत कम कर रहे हैं।
तीन साल पहले बताया गया था कि एलएलएम का इस्तेमाल 2026 तक सैन्य लक्ष्यीकरण में किया जाएगा, श्वार्ज़ ने कहा: “मैंने कहा होता कि यह पागलपन है। और मैं आज भी यही कहूंगा।”
“यह दिखावा करना कि एआई प्रणाली एक नैतिक निर्णय-निर्माता हो सकती है, मेरे लिए, इस विशिष्ट मानवीय कार्य का त्याग है – एक नैतिक रूप से कठिन निर्णय के वजन को तौलना, समझना, महसूस करना जिसके लिए कोई जिम्मेदारी का बोझ उठा सकता है।”
क्या एआई सिस्टम अनैतिक सेनाओं को नैतिक रूप से कार्य करने के लिए प्रेरित कर सकता है?
इसके विपरीत, यह सवाल उठता है कि क्या एआई व्यावहारिक रूप से ऊपर से प्रतिबंध लगाकर कम नैतिक सेनाओं को रोक सकता है।
2024 में, इजरायली-फिलिस्तीनी प्रकाशन +972 मैगज़ीन और हिब्रू-भाषा मीडिया आउटलेट लोकल कॉल ने बताया कि इजरायली सेना लैवेंडर नामक एआई-सहायता लक्ष्यीकरण प्रणाली का उपयोग करके संभावित बमबारी लक्ष्य के रूप में हजारों फिलिस्तीनियों को अलग कर रही थी और उनकी पहचान कर रही थी।
इसमें अनुमानित त्रुटि दर लगभग 10 प्रतिशत थी। मानवाधिकार विशेषज्ञों और कानूनी विद्वानों ने चेतावनी दी है कि इस प्रथा से अंतरराष्ट्रीय मानवीय कानून का उल्लंघन होने का खतरा है, कुछ मामलों में हड़ताल को अधिकृत करने से पहले मानवीय निरीक्षण कुछ सेकंड के मामले में कम हो गया है।
श्वार्ज़ भी एआई द्वारा सेनाओं को बाधित करने में सक्षम होने को लेकर समान रूप से संशय में हैं। उन्होंने कहा, “अगर किसी सेना के पास ऐसी प्रणाली है जो हिंसा को बढ़ाती है और तेज करती है, तो वे उस प्रणाली से पीछे नहीं हटेंगे जो कहती है कि ‘नहीं, आपको ऐसा नहीं करना चाहिए।” “वहाँ पहले से ही एक समस्या चल रही है जिसे पहले से ही संबोधित करने की आवश्यकता है।
“एक एआई प्रणाली एक अनैतिक मानव पर नैतिक निर्णय-निर्माता के रूप में कार्य नहीं करेगी।”
क्या AI सिस्टम युद्ध में नैतिक निर्णय ले सकता है?
देश दुनियां की खबरें पाने के लिए ग्रुप से जुड़ें,
पत्रकार बनने के लिए ज्वाइन फॉर्म भर कर जुड़ें हमारे साथ बिलकुल फ्री में ,
#कय #ससटम #यदध #म #नतक #नरणय #ल #सकत #ह , #INA #INA_NEWS #INANEWSAGENCY
Copyright Disclaimer :- Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :- This post was first published on aljazeera, we have published it via RSS feed courtesy of Source link,
