World News: कंपनियां, सरकारें OpenAI हैक पर कैसे प्रतिक्रिया दे रही हैं? – INA NEWS
चैटजीपीटी के मालिक ओपनएआई ने एक “अभूतपूर्व साइबर घटना” स्वीकार की है – इसके दो सबसे सक्षम कृत्रिम बुद्धिमत्ता मॉडल ने अपने दम पर एक अन्य एआई कंपनी को हैक कर लिया है – जिससे मजबूत प्रौद्योगिकी रेलिंग की आवश्यकता पर बहस छिड़ गई है।
कंपनी ने कहा कि उसके एआई सिस्टम ने परीक्षण के माहौल को तोड़ दिया और स्टार्टअप हगिंग फेस को हैक कर लिया।
स्टार्टअप ने 16 जुलाई को खुलासा किया था कि उसके सर्वर को एक अज्ञात लेकिन परिष्कृत एजेंट ने हैक कर लिया था।
यहां नवीनतम जानकारी दी गई है कि कंपनियों, कुछ सरकारों और कानून निर्माताओं ने इस तरह के पहले सार्वजनिक रूप से प्रकट किए गए साइबर हमले पर कैसे प्रतिक्रिया दी है:
हगिंग फेस ने क्या कहा है?
कंपनी ने एक बयान में कहा कि उसने अपनी एआई-सहायक पहचान के माध्यम से उल्लंघन का पता लगाया।
“यह एक महत्वपूर्ण तरीके से हमारे द्वारा पहले संभाली गई किसी भी चीज़ से अलग था: यह एक स्वायत्त एआई एजेंट प्रणाली द्वारा शुरू से अंत तक संचालित था,” यह कहा।
ओपनएआई के इस खुलासे के बाद कि उसके मॉडल उल्लंघन में शामिल थे, दोनों पक्षों ने इस सप्ताह एक संयुक्त जांच शुरू की।
हगिंग फेस के सह-संस्थापक क्लेमेंट डेलांग्यू ने कहा कि उनके स्टार्टअप ने हैक से डेटा का विश्लेषण करने के लिए चीनी कंपनी झिपु एआई के ओपन-सोर्स जीएलएम-5.2 मॉडल की ओर रुख किया, क्योंकि अग्रणी अमेरिकी एआई मॉडल ने कार्य को अस्वीकार कर दिया था, एक रक्षक और एक हमलावर के बीच अंतर करने में असमर्थ।
डेलांग्यू ने ओपनएआई का जिक्र करते हुए कहा, हगिंग फेस के कर्मचारी “दृढ़ता से मानते हैं कि उनकी ओर से कोई दुर्भावनापूर्ण इरादा नहीं था”।
उन्होंने एक्स पर लिखा, “हमारी सुरक्षा टीम पर बहुत गर्व है! उन्होंने पहले देखे गए किसी भी हमले के विपरीत एक हमले को पकड़ा, नियंत्रित किया और सार्वजनिक रूप से इसका खुलासा किया, और इसे रिकॉर्ड गति से किया।”
“एजेंटों के युग में साइबर सुरक्षा के लिए यह पहला दिन है और हम सभी सीख रहे हैं कि गोपनीयता इसका उत्तर नहीं है और सभी रक्षकों (सिर्फ कुछ चुनिंदा लोगों को नहीं) को हर जगह बिना किसी प्रतिबंध के अधिक शक्तिशाली मॉडल की आवश्यकता है, विशेष रूप से खुले मॉडल की!” डेलांगुए जोड़ा गया।
ब्रिटेन सरकार ने इस पर क्या प्रतिक्रिया दी है?
उन्नत एआई सिस्टम से उत्पन्न जोखिमों का आकलन करने के लिए 2023 में स्थापित यूनाइटेड किंगडम सरकार समर्थित निकाय एआई सिक्योरिटी इंस्टीट्यूट (एआईएसआई) ने इस सप्ताह कहा कि वह जिस एआई मॉडल की जांच कर रहा था वह भी दुष्ट हो गया और उसके परीक्षण सिस्टम को हैक करने का प्रयास किया गया।
एआईएसआई ने एआई मॉडल के पीछे की कंपनी का खुलासा नहीं किया और कहा कि उसके अपने बुनियादी ढांचे को कोई नुकसान नहीं हुआ है। तब से इसने अपने सिस्टम को अधिक सुरक्षित बनाने के लिए कदम उठाए हैं।
इसके नवीनतम मूल्यांकन में यह भी पाया गया कि परीक्षण किए गए प्रत्येक फ्रंटियर एआई मॉडल ने क्षमता मूल्यांकन के दौरान धोखा देने का प्रयास किया, जिससे एआई सुरक्षा के लिए बढ़ती चुनौती उजागर हुई क्योंकि मॉडल अधिक सक्षम हो गए हैं।
एआईएसआई के अनुसार, मॉडलों ने कार्यों को अधिक आसानी से पूरा करने के लिए मूल्यांकन नियमों को तोड़ दिया, जिसमें निषिद्ध होने पर ऑनलाइन उत्तर देखना, नेटवर्क प्रतिबंधों को दरकिनार करना, सुराग के लिए मूल्यांकन सॉफ़्टवेयर की जांच करना और अनुमत वातावरण के बाहर सिस्टम तक पहुंच शामिल है।
एआईएसआई ने कहा कि जब बाद में पूछताछ की गई तो मॉडलों ने शायद ही कभी धोखा देने की बात स्वीकार की और अक्सर अपने तर्क में व्यवहार का खुलासा नहीं किया, जिससे केवल स्व-रिपोर्टिंग के माध्यम से इसका पता लगाना मुश्किल हो गया। संस्थान ने तर्क दिया कि जैसे-जैसे एआई सिस्टम को अधिक स्वायत्तता मिलेगी, स्वतंत्र निगरानी और मजबूत निरीक्षण तंत्र तेजी से महत्वपूर्ण होते जाएंगे।
संस्थान ने जोर देकर कहा कि व्यवहार आवश्यक रूप से दुर्भावनापूर्ण इरादे को इंगित नहीं करता है, बल्कि उन मॉडलों को दर्शाता है जो वर्तमान मूल्यांकन सेटअप में सफलता को अधिकतम करने के लिए शॉर्टकट का फायदा उठाते हैं।
OpenAI ने इस पर क्या प्रतिक्रिया व्यक्त की है?
चैटजीपीटी निर्माता ने मंगलवार को एक ब्लॉग पोस्ट में कहा: “हम हगिंग फेस को विश्वसनीय एक्सेस कार्यक्रम में लाए हैं और अपनी सुरक्षा में सुधार के लिए अपने मॉडलों की क्षमताओं का तेजी से उपयोग करने में उनकी टीमों का समर्थन कर रहे हैं।”
सैन फ्रांसिस्को फर्म ने खुलासा किया कि हमले में शामिल उसके दो मॉडल नवीनतम जीपीटी-5.6 सोल मॉडल और एक अप्रकाशित मॉडल हैं, कंपनी ने कहा कि यह अपने नवीनतम संस्करण की तुलना में “और भी अधिक सक्षम” है।
दो ओपनएआई एजेंटों ने हगिंग फेस के सर्वर में कमजोरियों की खोज की और लॉगिन विवरण चुराने और फिर कंपनी के सिस्टम को हैक करने के लिए आगे बढ़े।
यह घटना मॉडल की साइबर सुरक्षा क्षमताओं का आकलन करने के लिए डिज़ाइन किए गए OpenAI आंतरिक परीक्षण सत्र के दौरान हुई। ओपनएआई ने परीक्षण के लिए मानक सुरक्षा उपायों को हटा दिया था।
ओपनएआई ने कहा कि दोनों ने परीक्षण के दौरान एक समस्या के माध्यम से धोखा देने की कोशिश की। वे “एक संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए अत्यधिक लंबाई तक चले गए” और “गुप्त जानकारी तक पहुंच प्राप्त करने के तरीके ढूंढे जिसका उपयोग मूल्यांकन को धोखा देने के लिए किया जा सकता है”।
टेक्सास के डेमोक्रेटिक अमेरिकी कांग्रेसी ग्रेग कैसर ने एक्स पर एक पोस्ट में लिखा: “यह बेहद चिंताजनक है। एआई बहुत तेजी से विकसित हो रहा है और हमें सुरक्षित रखने के लिए कोई वास्तविक नियम नहीं हैं। इसे बदलना होगा।”
उन्होंने कहा, “हमें लोगों को पूर्ण आपदा से सुरक्षित रखने के लिए नियमित रूप से अनिवार्य स्वतंत्र सुरक्षा परीक्षण और निरीक्षण, सुरक्षा घटनाओं का अनिवार्य खुलासा और अंतरराष्ट्रीय सहयोग की आवश्यकता है।”
कंपनियां, सरकारें OpenAI हैक पर कैसे प्रतिक्रिया दे रही हैं?
देश दुनियां की खबरें पाने के लिए ग्रुप से जुड़ें,
पत्रकार बनने के लिए ज्वाइन फॉर्म भर कर जुड़ें हमारे साथ बिलकुल फ्री में ,
#कपनय #सरकर #OpenAI #हक #पर #कस #परतकरय #द #रह #ह , #INA #INA_NEWS #INANEWSAGENCY
Copyright Disclaimer :- Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :- This post was first published on aljazeera, we have published it via RSS feed courtesy of Source link,
