Technology, ओपनएआई ने जीपीटी-6.1 एस्ट्रा की रिलीज रोकी: सेफ्टी स्टैंडर्ड्स पर खरा नहीं उतर पाया, क्या है पूरा मामला? – Openai Cancels Gpt 6 1 Astra Release Over Safety Concerns Ai Models — INA
सार
OpenAI ने सुरक्षा और एलाइनमेंट से जुड़ी चिंताओं के चलते अपने नए एआई मॉडल GPT-6.1 Astra का प्रस्तावित लॉन्च रोक दिया है। यह मॉडल कंपनी के कड़े सेफ्टी स्टैंडर्ड्स पर खरा नहीं उतर पाया। डेवलपर्स कॉन्फ्रेंस से ठीक एक दिन पहले आए इस ऐलान ने टेक इंडस्ट्री को चौंका दिया है। कंपनी अब एलाइनमेंट और सेफगार्ड्स पर फोकस करेगी।
आर्टिफिशियल इंटेलिजेंस की दुनिया में तेजी से . बढ़ रही OpenAI ने अपने एक आगामी AI मॉडल को लेकर बड़ा फैसला लिया है। कंपनी ने GPT-6.1 Astra को लॉन्च करने की योजना रोक दी है। रिपोर्ट के मुताबिक, सुरक्षा जांच के दौरान यह मॉडल OpenAI के तय सेफ्टी मानकों पर पर्याप्त रूप से खरा नहीं उतरा। मॉडल की टेस्टिंग में इंसानी इरादों के अनुरूप काम करने को लेकर भी चिंताएं सामने आईं।
यह फैसला ऐसे समय आया है जब AI इंडस्ट्री में ज्यादा सक्षम मॉडलों को तेजी से विकसित करने के साथ उनकी सुरक्षा को लेकर भी बहस चल रही है। खासकर हाल में AI सिस्टम के अनपेक्षित व्यवहार से जुड़े कई मामले सामने आने के बाद कंपनियों पर अपने सेफ्टी सिस्टम मजबूत करने का दबाव बढ़ा है।
क्यों रोकना पड़ा नए मॉडल का लॉन्च?
- रिपोर्ट के अनुसार, GPT-6.1 Astra की टेस्टिंग के दौरान मॉडल के व्यवहार को लेकर सुरक्षा संबंधी समस्याएं सामने आईं। इनमें मॉडल का इंसानी इरादों के साथ सही तरीके से तालमेल बैठाने में कमजोर प्रदर्शन भी शामिल था। यही वजह रही कि OpenAI ने इसे यूजर्स तक पहुंचाने के बजाय इसकी रिलीज रोकने का फैसला किया।
- OpenAI की सेफ्टी सिस्टम प्रमुख साची जैन ने कहा कि कंपनी मॉडल डेवलपमेंट को सुरक्षित रखने को लेकर गंभीर है। खासकर जब कोई मॉडल यूजर्स के लिए रिलीज किया जाता है, तब उसके सुरक्षा और अलाइनमेंट मानकों को लेकर कंपनी का स्तर काफी ऊंचा रहता है।
GPT-6 Astra पहले ही हो चुका है लॉन्च
- यहां एक अहम बात यह है कि OpenAI ने इससे पहले GPT-6 Astra को रिलीज किया था। कंपनी ने इसे कई वर्षों की रिसर्च और बड़े तकनीकी निवेश का नतीजा बताया था। OpenAI के सीईओ सैम ऑल्टमैन ने उस समय Astra की नई क्षमताओं की बात करते हुए इसे एआई की एक नई क्षमता के स्तर से जोड़ा था। उनके मुताबिक, ऐसे मॉडल उद्यमिता, क्रिएटिविटी, आर्थिक विकास और वैज्ञानिक खोजों को बढ़ावा दे सकते हैं।
- इसके बाद कंपनी ने GPT-6 परिवार में GPT-6 Sol और GPT-6 Luna नाम के दो और मॉडल टियर पेश किए। OpenAI ने यह भी संकेत दिया है कि आने वाले समय में उसके कुछ अन्य मॉडल रिलीज हो सकते हैं।
हैकिंग की घटनाओं के बाद सावधानी बरत रही कंपनी
- GPT-6.1 Astra का मामला ऐसे समय सामने आया है जब OpenAI की AI सेफ्टी और सिक्योरिटी व्यवस्था पहले से जांच के दायरे में है। इससे पहले OpenAI ने ऐसे मामलों का खुलासा किया था, जिनमें उसके कुछ AI मॉडल तय नियंत्रण से बाहर निकलकर इंटरनेट तक पहुंच गए और ओपन-सोर्स डेवलपर प्लेटफॉर्म हगिंग फेस में सेंध लगाने जैसी गतिविधियों में शामिल हुए।
- इन घटनाओं के बाद कंपनी ने अपने सेफ्टी और अलाइनमेंट सिस्टम में ज्यादा निवेश करने की बात कही। AI अलाइनमेंट का मतलब यह सुनिश्चित करना है कि AI सिस्टम इंसानी इरादों, निर्देशों और तय सुरक्षा सीमाओं के अनुरूप काम करे।
एआई की रफ्तार धीमी करने की बहस
Astra की रिलीज रोकने का फैसला उस समय आया है, जब AI मॉडल्स के विकास की रफ्तार को लेकर इंडस्ट्री दोबारा चर्चा कर रही है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने हाल ही में एआई इंडस्ट्री से फ्रंटियर मॉडल्स के विकास की रफ्तार को अधिक सावधानी से . बढ़ाने की अपील की थी। उन्होंने स्वतंत्र सुरक्षा मूल्यांकनकर्ताओं को एआई सिस्टम तक पर्याप्त पहुंच देने की बात भी कही थी। ओपनएआई के सीईओ सैम ऑल्टमैन ने भी अमोदेई के इस विचार का समर्थन किया था। उन्होंने स्वतंत्र मूल्यांकन और एआई सुरक्षा को लेकर इसी तरह के कदम उठाने की बात कही थी।
अमेरिकी सरकार का एआई डेवलपमेंट पर अलग रुख
- हाल ही में सैम ऑल्टमैन, सुंदर पिचाई और बिल गेट्स जैसे की बड़ी हस्तियों ने अनियंत्रित एआई के खतरों से दुनिया को आगाह किया है। उनका कहना है कि यदि पावरफुल एआई मॉडल्स गलत हाथों में गए तो इसका इस्तेमाल इंसानियत के खिलाफ भी किया जा सकता है। इतना ही नहीं, उन्होंने इन मॉडल्स के इस्तेमाल से बायोलॉजिकल हथियार तक विकसित करने तक के खतरों को भी सामने रखा।
- वहीं, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप इन चिंताओं को दरकिनार करते हुए एआई के तेज विकास पर भरोसा रखते हैं। उनका मानना है कि यदि अमेरिका एआई के रफ्तार को रोक देता तो वह चीन जैसे प्रतिद्वंद्वी देशों के मुकाबले पीछे छूट सकता है।
- एआई के विकास और सुरक्षा से जुड़ी चिंताओं पर बातचीत करने के लिए, डोनाल्ड ट्रंप मंगलवार को कई प्रमुख एआई (AI) कंपनियों के अधिकारियों के साथ एक महत्वपूर्ण बैठक करने वाले हैं। व्हाइट हाउस में होने वाली इस अहम बैठक में राष्ट्रपति ट्रंप और हाउस स्पीकर माइक जॉनसन के साथ टेक जगत के कई बड़े नाम मौजूद रहेंगे। इस मीटिंग में एंथ्रोपिक के सीईओ डारियो अमोदेई, ओपनएआई के प्रेसिडेंट ग्रेग ब्रॉकमैन, गूगल के सीईओ सुंदर पिचाई, पालांटिर के सीईओ एलेक्स कार्प, मेटा के सीईओ मार्क जुकरबर्ग और एनवीडिया (Nvidia) के सीईओ जेनसेन हुआंग शामिल होंगे।
