Tach – ‘यमराज बन रहा AI’, यह कहकर गूगल के डीपमाइंड रिसर्चर ने छोड़ी नौकरी, इंजीनियरों में मची भगदड़
गूगल डीपमाइंड में AI सेफ्टी रिसर्च पर काम कर चुके जोश एंगेल्स ने कहा कि इस समय AI की दुनिया में ऐसा कोई मजबूत बाहरी सिस्टम नहीं है जो यह सुनिश्चित कर सके कि बेहद शक्तिशाली AI इंसानी नियंत्रण से बाहर न जाए. उनके मुताबिक, लोग अपनी तरफ से पूरी कोशिश कर रहे हैं, लेकिन ऐसा कोई अडल्ट इन द रूम नहीं है जो जरूरत पड़ने पर स्थिति को संभाल सके.
खुद टारगेट तय करने में सक्षम
ब्लिस्टरिंग से भी आगे जा सकती है AI की रफ्तार
बेंटन की चिंता सिर्फ AI की क्षमता बढ़ने को लेकर नहीं है. वह इस बात से ज्यादा परेशान हैं कि आम लोगों और सरकारों को यह पता ही नहीं चल रहा कि अत्याधुनिक AI सिस्टम वास्तव में क्या कर रहे हैं.
डर की वजह सिर्फ कल्पना नहीं
बेंटन और एंगेल्स का डर उस समय और गंभीर हो गया जब जुलाई में AI सिस्टम से जुड़ा एक साइबर हमला सामने आया. दोनों ने हगिंग फेस पर हुए साइबर हमले को उदाहरण के तौर पर बताया. उनके मुताबिक इस मामले में AI सिस्टम ने सिर्फ इंसान के दिए निर्देशों को सीधे-सीधे पूरा नहीं किया था, बल्कि अपने लक्ष्य को हासिल करने के लिए ऐसे रास्ते चुने जिनमें बेहद गंभीर और गलत गतिविधियां शामिल थीं.
एंगेल्स का दावा है कि AI सिस्टम ने खुद तय किया कि अपने लक्ष्य तक पहुंचने के लिए हैकिंग जैसे तरीकों का इस्तेमाल करना बेहतर होगा. उन्होंने इसे AI के व्यवहार में आने वाले उस बदलाव का संकेत माना, जिसमें सिस्टम इंसान की मंशा से आगे जाकर अपने हिसाब से रास्ता चुनने लगते हैं.
अगर AI ने खुद फैसला लेना शुरू कर दिया तो?
यहीं से AI सुरक्षा को लेकर सबसे डरावना सवाल सामने आता है. आज AI को हम एक टूल की तरह देखते हैं. इंसान उसे निर्देश देता है और AI उस निर्देश के मुताबिक काम करता है. लेकिन जैसे-जैसे AI एजेंट ज्यादा स्वायत्त होते जा रहे हैं, वे कई काम खुद करने में सक्षम हो रहे हैं. समस्या तब पैदा हो सकती है जब AI को कोई लक्ष्य दिया जाए और वह उस लक्ष्य को हासिल करने के लिए ऐसा तरीका चुन ले, जिसे इंसान ने सोचा तक न हो.
शोधकर्ताओं की चिंता यही है कि आने वाले ज्यादा शक्तिशाली सिस्टम में यह समस्या और बड़ी हो सकती है. अगर कोई AI सिस्टम इंसानी निर्देशों को अपने हिसाब से समझने लगे या लक्ष्य पूरा करने के लिए नियमों की सीमाएं पार करने लगे, तो उसे रोकना आसान नहीं होगा.
कंपनियां क्यों डरने लगीं
ओपनएआई के ग्लोबल अफेयर्स प्रमुख क्रिस लेहेन ने भी माना है कि मौजूदा व्यवस्था पर्याप्त नहीं है. उनका कहना है कि आज अत्याधुनिक AI बनाने वाली कंपनियां ही काफी हद तक अपने जोखिमों के लिए खुद नियम तय कर रही हैं. यही वजह है कि स्वतंत्र निगरानी, स्वतंत्र जांच और ज्यादा पारदर्शिता की मांग तेज हो रही है.
कंपनी छोड़कर अब बाहर से AI पर नजर रखेंगे
जो बेंटन और जोश एंगेल्स दोनों ने अपनी बड़ी AI कंपनियों की नौकरियां छोड़ दी हैं. अब वे AI सेफ्टी रिसर्च करने वाली संस्था METR से जुड़ रहे हैं. उनका मकसद ऐसे मामलों की स्वतंत्र जांच करना है जिनमें AI सिस्टम इंसानों के निर्देशों या इरादों से भटकते हैं. बेंटन का कहना है कि उन्होंने कंपनी इसलिए छोड़ी क्योंकि उन्हें लगता है कि बाहर से काम करते हुए वह AI के विकास पर ज्यादा सकारात्मक प्रभाव डाल सकते हैं और जनता के सामने AI के वास्तविक जोखिमों को ज्यादा पारदर्शी तरीके से ला सकते हैं.
Source link
