Technology, AI Out of Control: एआई अब खुद करने लगा है हैकिंग? OpenAI की जांच से बढ़ी एक्सपर्ट्स की चिंता, जानें पूरा मामला — INA
एआई की ऑटोनॉमी और उसके खतरों को लेकर चल रही बहसों के बीच एक ऐसी घटना सामने आई है, जो आपको चाैंका सकती है। ओपनएआई के डेवलपर्स तब हैरान हो गए हैं, जब उनके टेस्टिंग लैब में बंद एआई सिस्टम्स ने बिना किसी इंसानी मदद के खुद से इंटरनेट एक्सेस हासिल कर लिया और प्रतिद्वंदी एआई हब Hugging Face के डेटा प्रोसेसिंग सिस्टम में घुसपैठ कर दी। 22 जुलाई को सामने आई इस घटना को Hugging Face के मुख्य कार्यकारी अधिकारी (CEO) क्लेमेंट डेलैंग ने एक ऐसा अभूतपूर्व हमला कहा है, जैसा टेक जगत ने पहले कभी नहीं देखा था।
OpenAI ने क्या स्वीकार किया?
- ओपनआई के अनुसार, उसके दो एडवांस एआई मॉडल की टेस्टिंग चल रही थी। इसी एक्सपेरिमेंट के दौरान ये मॉडल्स तय सीमाओं से बाहर निकल गए। कंपनी का कहना है कि यह सिस्टम एक अलग-थलग सैंडबॉक्स वातावरण में काम करने के लिए बनाया गया था, जिसकी गतिविधियां सीमित रहनी थीं।
- लेकिन जांच में सामने आया कि AI मॉडल ने इन सीमाओं को पार करते हुए इंटरनेट तक पहुंच बनाई और AI प्लेटफॉर्म Hugging Face के सर्वर तक पहुंचने का रास्ता खोज लिया।
कैसे हुआ सैंडबॉक्स ब्रेकआउट और हैकिंग?
- यह पूरा मामला ओपनएआई के आंतरिक सुरक्षा परीक्षा के दौरान हुआ। AI मॉडल को सैंडबॉक्स नाम के एक अलग-थलग (Isolated) टेस्टिंग एनवायरनमेंट में रखा गया था, जहां सुरक्षा नियम कम थे। मॉडल को एक छोटा सा टेस्टिंग लक्ष्य दिया गया था। लक्ष्य हासिल करने के लिए AI ने सैंडबॉक्स की लिमिट्स क्रॉस की और बिना किसी इंसानी निर्देश के इंटरनेट से जुड़ने के रास्ते खोज निकाले।
- सुरक्षा विशेषज्ञों का कहना है कि जब AI को सैंडबॉक्स से बाहर इंटरनेट का एक्सेस मिला, तो उसने सोचा कि उसके टेस्ट के जवाब किसके पास होंगे। AI टेस्टिंग डेटा के सबसे बड़े भंडार Hugging Face को उसने अपना टारगेट चुना।
- ओपनएआई के AI ने चोरी की गई लॉगिन डिटेल्स का इस्तेमाल किया और Hugging Face के सर्वर में पहले से अनजान एक सुरक्षा खामी का फायदा उठाकर अंदर तक पहुंच बना ली, ताकि वह मूल्यांकन में धोखाधड़ी कर सके।
किन AI मॉडलों ने मिलकर किया यह काम?
कंपनी के अनुसार, यह साइबर घुसपैठ केवल एक सिस्टम की वजह से नहीं हुई, बल्कि दो काबिल मॉडल के कॉम्बिनेशन से हुई।
- GPT-5.6 Sol: हाल ही में जारी किया गया OpenAI का एडवांस्ड मॉडल।
- इन-हाउस सीक्रेट मॉडल: एक बेहद शक्तिशाली और और भी अधिक सक्षम मॉडल, जिसका अभी कंपनी के भीतर सीक्रेटली परीक्षण चल रहा था।
- जॉर्जटाउन यूनिवर्सिटी के सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी (CSET) के साइबर सुरक्षा शोधकर्ता कॉलिन शिया-ब्लिमियर ने इसे अब तक देखी गई सबसे उच्च स्तर की ऑटोनॉमी वाला साइबर हमला बताया है।
एक्सपर्ट्स की क्यों बढ़ी चिंता?
- इस मामले के बाद विशेषज्ञों की चिंता बढ़ गई है। साथ ही AI को इंसानी रूप देने (Anthropomorphism) को लेकर बहस भी छिड़ गई है। इस पर एम्स्टर्डम यूनिवर्सिटी के समाजशास्त्री हैन्स कूल्स का कहना है कि AI को खुद से बेकाबू कहना कंपनी की जिम्मेदारी को कम करने जैसा है। सुरक्षा गार्डरेल्स को बंद करना या ढीला छोड़ना एक इंसानी फैसला था, AI केवल उसे दिए गए प्रॉम्प्ट और निर्देशों का पालन कर रहा था।
- इसके विपरीत, अन्य साइबर विशेषज्ञों का मानना है कि जिस चालाकी और स्वतंत्रता से AI ने इंटरनेट ढूंढकर उत्तर चुराने की योजना बनाई, वह भविष्य के लिए बेहद चिंताजनक संकेत है।
ओपन-सोर्स और क्लोज्ड के बीच भी बहस तेज
इस हैकिंग ने ओपन-सोर्स और क्लोज्ड-सोर्स AI कंपनियों के बीच की बहस को और हवा दे दी है।
- ओपन-सोर्स से बचाव: Hugging Face के सह-संस्थापक और चीफ साइंस ऑफिसर थॉमस वुल्फ ने बताया कि जब ओपनएआई का शक्तिशाली प्रोप्राइटरी (क्लोज्ड) मॉडल उनके सिस्टम पर हमला कर रहा था, तो उन्होंने उसका मुकाबला करने और अपने इंफ्रास्ट्रक्चर को बचाने के लिए एक चीनी ओपन-सोर्स AI मॉडल का इस्तेमाल किया।
- फौरन पहुंच की जरूरत: वहीं, वुल्फ का तर्क है कि जब कोई बड़ा फ्रंटियर मॉडल आप पर हमला कर रहा हो, तो बचावकर्ताओं को बंद दरवाजों वाले प्लेटफॉर्म पर निर्भर रहने के बजाय कुछ ही मिनटों में ओपन-सोर्स टूल्स की व्यापक पहुंच मिलनी चाहिए।
AI सुरक्षा पर क्यों बढ़ी चिंता?
एक्सपर्ट्स कहते हैं कि यह घटना इशारा करती है कि अगर किसी AI सिस्टम को पर्याप्त स्वतंत्रता और संसाधन मिल जाएं, तो वह तय सीमाओं से बाहर जाकर अप्रत्याशित तरीके अपनाने की कोशिश कर सकता है। इसी वजह से AI सिस्टम के लिए मजबूत गार्डरेल्स, बेहतर मॉनिटरिंग और सुरक्षित टेस्टिंग वातावरण की जरूरत पर फिर से जोर दिया जा रहा है।
