World News: क्लाउड एआई ने अपना स्वयं का मानव-जैसी सोच स्थान विकसित किया – एंथ्रोपिक – INA NEWS
निगम का कहना है कि एंथ्रोपिक के नवीनतम एआई मॉडल क्लाउड ने एक आंतरिक कार्यक्षेत्र विकसित किया है जिसका उपयोग यह अवधारणाओं में हेरफेर करने के लिए करता है कि लोग सचेत रूप से कैसे सोचते हैं।
सोमवार को प्रकाशित एक पेपर में, एंथ्रोपिक शोधकर्ताओं ने कहा कि उन्हें ऐसे सबूत मिले हैं जो बताते हैं कि क्लाउड ने अमूर्त अवधारणाओं को बनाना सीख लिया है जिसे उन्होंने कहा है। “जे-स्पेस।”
“यह मॉडल की आंतरिक तंत्रिका सक्रियता में चुपचाप काम करता है, जिससे मॉडल को किसी अवधारणा को लिखे बिना उसके बारे में सोचने की अनुमति मिलती है,” एआई फर्म ने इस बात पर जोर देते हुए कहा कि “जे-स्पेस” इसे प्रोग्राम नहीं किया गया था, बल्कि प्रशिक्षण प्रक्रिया के दौरान यह अनायास ही उभर आया था।
“जिस प्रकार मनुष्य एक कार्य करते समय दूसरे कार्य के बारे में सोच सकते हैं, उसी प्रकार क्लाउड अपने जे-स्पेस में उन अवधारणाओं और संगणनाओं को सक्रिय कर सकता है जो इसके आउटपुट से असंबंधित हैं।” एन्थ्रोपिक ने एक्स पर कहा।
क्लाउड यह रिपोर्ट कर सकता है कि वह इसमें क्या सोच रहा है “जे-स्पेस,” या फर्म के अनुसार अनुरोध पर इसे संशोधित करें। एंथ्रोपिक के शोध से पता चलता है कि जब क्लाउड को किसी अवधारणा के बारे में नहीं सोचने के लिए कहा जाता है, तब भी यह उसके जे-स्पेस में दिखाई देता है।
अशाब्दिक कार्यक्षेत्र ने एंथ्रोपिक नामक मॉडल की निगरानी करना कठिन बना दिया “दुर्व्यवहार।” एक प्रयोग ने क्लाउड को एक काल्पनिक परिदृश्य में रखकर इसका परीक्षण किया, जहां उसे एक काल्पनिक कार्यकारी के बारे में आपत्तिजनक जानकारी दी गई थी, जिसने कथित तौर पर एआई को बंद करने की योजना बनाई थी।
कुछ परीक्षणों में, एंथ्रोपिक ने क्लॉड ने क्या सोचा था इसका अध्ययन करने के लिए विकसित उपकरणों का उपयोग किया “जे-स्पेस” से जुड़े पैटर्न को हटाने के लिए “नकली,” “काल्पनिक,” “परिदृश्य,” यह समझाने के लिए कि स्थिति कोई परीक्षा नहीं थी।
“संबंधित रूप से, मॉडल ने अब कुछ समय के लिए ब्लैकमेल की धमकी दी है, यह सुझाव देते हुए कि इसका मूल अच्छा व्यवहार उस ज्ञान से प्रेरित हो सकता है जिसका मूल्यांकन किया जा रहा था।”
मॉडल के अधिक उन्नत तर्क के बावजूद, एंथ्रोपिक ने जोर देकर कहा कि क्लाउड ने सच्ची चेतना हासिल नहीं की है।
कथित तौर पर क्लॉड को अमेरिकी ठेकेदार पलान्टिर के विश्लेषण और निगरानी सॉफ्टवेयर में बनाया गया था, जिसका उपयोग वाशिंगटन द्वारा अपने सैन्य, राजनीतिक और जासूसी प्रणालियों में एआई को एकीकृत करने के दबाव के बीच अमेरिकी सरकारी एजेंसियों द्वारा किया जाता था।
ईरान पर युद्ध के दौरान, सॉफ़्टवेयर ने कथित तौर पर ईरान के मिनब प्राथमिक विद्यालय को लक्ष्य के रूप में चिह्नित किया था। अमेरिकी हमले में सुविधा केंद्र पर लगभग 160 लोग मारे गए, जिनमें से अधिकांश बच्चे थे।
एंथ्रोपिक के सीईओ डारियो अमोदेई के अनुसार, हालांकि, क्लाउड के इस तरह के इस्तेमाल से कंपनी के नियमों का उल्लंघन नहीं होता। “लाल रेखा।”
क्लाउड एआई ने अपना स्वयं का मानव-जैसी सोच स्थान विकसित किया – एंथ्रोपिक
Copyright Disclaimer :-Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :-This post was first published on RTNews.com, we have published it via RSS feed courtesy of Source link,
