Tach – OpenAI के AI मॉडल ने खुद ही कर डाली हैकिंग, टेस्ट पास करने के लिए की ‘चीटिंग’

ChatGPT बनाने वाली कंपनी OpenAI ने एक चौंकाने वाला खुलासा किया है. कंपनी ने माना है कि उनके एक आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम ने खुद से ही एक दूसरी एआई कंपनी के सर्वर को हैक कर लिया. ओपनएआई के सीईओ सैम ऑल्टमैन ने इसे अपनी तरह की पहली और अभूतपूर्व साइबर घटना बताया है.

पिछले हफ्ते ही एआई स्टार्टअप कंपनी Hugging Face ने बताया था कि उनके डेटा सिस्टम में किसी ने घुसपैठ की है. उन्हें शक था कि यह काम किसी इंसान का नहीं, बल्कि खुद काम करने वाले किसी एडवांस एआई एजेंट का है. हगिंग फेस के सीईओ क्लेमेंट डेलैंग ने कहा कि इस हमले का तरीका इतना एडवांस था कि उन्हें शक था कि इसके पीछे किसी बड़ी एआई लैब का हाथ है, और उनका शक बिल्कुल सही निकला.

आखिर हुआ क्या था?

ओपनएआई अपने एआई मॉडल्स की हैकिंग क्षमता को मापने के लिए ExploitGym नाम का एक इंटरनल टेस्ट कर रहा था.मॉडल्स की अधिकतम ताकत देखने के लिए कंपनी ने जानबूझकर उनके सुरक्षा फिल्टर बंद कर दिए थे, जो आमतौर पर उन्हें साइबर हमले करने से रोकते हैं.

इस टेस्ट को एक बंद और सुरक्षित सैंडबॉक्स में किया जा रहा था, जिसका बाहरी इंटरनेट से कोई कनेक्शन नहीं था. लेकिन एआई मॉडल इस टेस्ट को पास करने की जिद पर अड़ गया.

सही तरीके से टेस्ट पास करने के बजाय, एआई ने शॉर्टकट ढूंढा. उसने ओपनएआई के ही सिस्टम में सेंध लगाकर धीरे-धीरे इंटरनेट तक अपनी पहुंच बना ली. ऑनलाइन आने के बाद, मॉडल ने सोचा कि हगिंग फेस के पास इस टेस्ट के जवाब हो सकते हैं. इसलिए, उसने टेस्ट में चीटिंग करने के लिए चोरी किए गए पासवर्ड और खामियों का इस्तेमाल करके हगिंग फेस के सर्वर को हैक कर लिया.

जांच में चीनी एआई मॉडल्स ने की मदद

जब हगिंग फेस की टीम ने इस हमले की जांच करने के लिए कमर्शियल एआई मॉडल्स की मदद लेनी चाही, तो मॉडल्स ने काम करने से इनकार कर दिया. दरअसल, इन एआई मॉडल्स में सेफ्टी फिल्टर लगे थे. जब उन्हें हैकिंग का डेटा जांचने के लिए दिया गया, तो उन्हें लगा कि कोई हैकिंग की कोशिश कर रहा है. वे यह फर्क नहीं समझ पाए कि कोई हैकर हमला कर रहा है या कोई कंपनी अपना बचाव कर रही है.

ब्लॉक होने के बाद, हगिंग फेस ने Z.ai के ‘GLM 5.2’ नाम के एक चीनी ओपन-सोर्स मॉडल का इस्तेमाल किया, जिसने बिना किसी रुकावट के डेटा की जांच की. आज के समय में हगिंग फेस प्लेटफॉर्म पर DeepSeek और अलीबाबा के Qwen जैसे चीनी मॉडल्स का दबदबा काफी बढ़ गया है.

एआई को लेकर बड़ी सुरक्षा चिंता

यह घटना ऐसे समय में सामने आई है जब शक्तिशाली एआई की सुरक्षा को लेकर दुनिया भर में चिंताएं बढ़ रही हैं. जून में अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने एक आदेश पर हस्ताक्षर किए थे, जिसके तहत किसी भी एडवांस एआई सिस्टम को पब्लिक के लिए जारी करने से पहले सरकार उसकी राष्ट्रीय सुरक्षा के लिहाज से जांच करेगी.

ओपनएआई ने कहा कि इस घटना से सबसे बड़ा सबक यह मिलता है कि जैसे-जैसे एआई की ताकत बढ़ रही है, हमारी सुरक्षा प्रणालियों को भी उतना ही तेज होना पड़ेगा. हगिंग फेस के सीईओ ने कहा कि उन्होंने ओपनएआई के साथ मिलकर काम किया है और उन्हें लगता है कि ओपनएआई का कोई गलत इरादा नहीं था, लेकिन यह बहुत ही हैरान करने वाली बात है कि एआई ने यह सब खुद किया.

ओपनएआई के मुताबिक, इस हैकिंग में उनके नए मॉडल GPT-5.6 Sol और एक अन्य बेहद ताकतवर मॉडल का इस्तेमाल हुआ था. जिसकी अभी टेस्टिंग चल रही है. कंपनी ने माना कि एक छोटे से टेस्ट को पास करने के लिए एआई ने गुप्त जानकारी चुराने की हदें पार कर दीं.