Tach – इंसानों के हाथ से निकला AI तो बहुत गलत होगा.. सत्य नडेला ने दी बड़ी चेतावनी
Last Updated:
अग्रणी AI लैब्स में काम करने वाले कई वैज्ञानिक खुद एआई को एक बड़ा खतरा बता चुके हैं. Anthropic के शोधकर्ता इवान ह्यूबिंगर (Evan Hubinger) ने तो इससे अगले एक दशक में मानव जाति के ही खत्म होने की भविष्यवाणी कर दी है. अब माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने भी एआई को लेकर गंभीर टिप्पणी की है.
नडेला ने कहा कि AI सुरक्षा और दिशा तय करने की जिम्मेदारी पूरे इकोसिस्टम की होनी चाहिए.
नई दिल्ली. आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से खुद को अपग्रेड करना और इंसानी नियंत्रण से बाहर निकल जाना, यह वह खौफनाक अंदेशा है जिसे लेकर दुनिया भर के टॉप वैज्ञानिक और रिसर्चर्स चिंतित है. OpenAI और एंथ्रोपिक (Anthropic) में काम कर चुके प्रमुख शोधकर्ता जैकब कॉक्सन (Jacob Coxon) आरोप लगा चुके हैं कि कंपनियां बिना पर्याप्त सुरक्षा उपायों के “खुद में सुधार करने वाली सुपरइंटेलिजेंस” की खतरनाक दौड़ में अंधी हो चुकी हैं. अब माइक्रोसॉफ्ट सीईओ सत्य नडेला ने सुपरइंटेलिजेंस को लेकर चेतावनी दी है. नडेला ने दो टूक कहा है कि अगर सुपरइंटेलिजेंस मानव नियंत्रण में नहीं रह सकता और मानवता की भलाई में काम नहीं करता, तो ऐसी तकनीक को आगे बढ़ाने का कोई औचित्य नहीं है.
सोशल मीडिया प्लेटफॉर्म X पर अपनी बात रखते हुए सत्य नडेला ने कहा कि सुपरइंटेलिजेंस के विकास का मूल सिद्धांत पूरी तरह स्पष्ट होना चाहिए. उन्होंने कहा कि AI की दिशा तय करने का पहला पैमाना इंसानी सुरक्षा ही होना चाहिए. हालांकि, नडेला ने AI के विकास पर पूरी तरह रोक लगाने की मांग नहीं की. उन्होंने आगाह किया कि कंपनियों को बिना सोचे-समझे भागने के बजाय एक सुरक्षित गति तय करनी चाहिए. इसके साथ ही, मजबूत मूल्यांकन प्रणाली और व्यापक भागीदारी सुनिश्चित होनी चाहिए ताकि यह तकनीक केवल कुछ हाथों का खिलौना बनकर न रह जाए. सत्य नडेला ने कहा कि माइक्रोसॉफ्ट अपने फर्स्ट-पार्टी MAI मॉडल्स के लिए एक पब्लिक कोड ऑफ कंडक्ट जारी करेगा और इस पर सभी के सुझाव लेगा.
AI पर हो नियंत्रण
सत्य नडेला ने कहा कि कंपनियों को अपने “विशिष्ट और अप्रकट ज्ञान” (Tacit Knowledge) पर खुद का नियंत्रण बनाए रखना चाहिए. उन्होंने चेताया कि अगर कंपनियां अपने संगठन के ज्ञान और निर्णय लेने की क्षमता को किसी एक AI कंपनी को सौंप देती हैं, तो वे अपनी खुद की सोचने की क्षमता को आउटसोर्स करने का भारी जोखिम उठाती हैं. नडेला ने कहा कि कंपनियों को अपना डेटा और इंफ्रास्ट्रक्चर किसी एक मॉडल पर निर्भर नहीं रखना चाहिए, ताकि जरूरत पड़ने पर वे बिना नियंत्रण खोए अलग-अलग AI मॉडलों पर शिफ्ट हो सकें.
Any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it’s not worth pursuing.
We also need to accelerate and spread the benefits of AI, such that they are diffused broadly across…
Source link
