Technology, ओपनएआई से तीन सुरक्षा शोधकर्ता बाहर: हगिंग फेस हैकिंग की जांच के बाद एक्शन; सुरक्षा पर सवाल उठाना पड़ा भारी? – Openai Fires Ai Safety Researchers Alignment Hugging Face Hack Investigation — INA
सार
ओपनएआई ने एआई सुरक्षा पर काम करने वाले तीन शोधकर्ताओं को बिना पूर्व सूचना नौकरी से निकाल दिया। शोधकर्ताओं का दावा है कि वे एआई की सुरक्षा और बाहरी संस्थाओं से बातचीत को लेकर सवाल उठा रहे थे। हगिंग फेस हैकिंग मामले की जांच के कुछ हफ्तों बाद हुई इस कार्रवाई से कंपनी के भीतर डर का माहौल होने के आरोप लगे हैं। आखिर शोधकर्ताओं को हटाने की वजह क्या है? पढ़िए इस रिपोर्ट में।
ओपेन एआई से निकाले गए वो तीन सुरक्षा शोधकर्ता अपनी बर्खास्तगी पर खुलकर सवाल उठा रहे हैं जो कंपनी में एआई सुरक्षा और अलाइनमेंट पर काम करते थे। मिकिता बालेस्नी, तोमाक कोरबाक और जैस्मिन वांग का कहना है कि उनका काम यह सुनिश्चित करना था कि एआई सिस्टम पूरी तरह सुरक्षित रहें और इंसानों के निर्देशानुसार ही काम करें। लेकिन कंपनी ने उन्हें पिछले हफ्ते बिना किसी पूर्व सूचना के निकाल दिया।
तीनों के खिलाफ कार्रवाई उस घटना की जांच में महत्वपूर्ण भूमिका निभाने के कुछ ही हफ्तों बाद हुई है, जिसमें टेस्टिंग के दौरान के एआई एजेंट्स ने बेकाबू होकर एआई कंपनी हगिंग फेस के सिस्टम को हैक कर लिया था। कोरबाक ने सोशल मीडिया प्लेटफॉर्म पर बताया कि उन्हें कंपनी से निकालने की वजह यह बताई गई कि उन्होंने एआई सुरक्षा संस्था एमईटीआर के साथ बातचीत के नियमों का सही पालन नहीं किया। इसी संस्था के साथ मिलकर ओपन एआई हगिंग फेस हैकिंग मामले की जांच कर रही थी।
कोरबाक का कहना है, मैं महीनों से सुरक्षा से जुड़ी यह चिंता जता रहा था कि हम यह पता लगाने की क्षमता खो रहे हैं कि एआई एजेंट्स क्या सोच रहे हैं। बालेस्नी ने लिखा कि उन्हें यह कहकर निकाला गया कि बाहरी सुरक्षा संस्थाओं से बहुत ज्यादा बात कर रहे थे। बर्खास्त शोधकर्ताओं का कहना है कि उन्हें सहयोगियों के संदेश आ रहे हैं, जो बताते हैं कि कंपनी के अंदर डर का माहौल बन रहा है। बालेस्नी ने कहा, मेरे पूर्व सहयोगी समझ नहीं पा रहे हैं कि किस बात पर यकीन करें।
