Technology, एआई की मनमानी पर लगेगी लगाम: एनवीडिया ने लॉन्च किया नया सिक्योरिटी प्लेटफॉर्म, एजेंट नहीं होंगे आउट ऑफ कंट्रोल – Nvidia Launches Open Agent Safety Platform To Stop Ai Rogue Agents Hacking — INA
सार
एआई एजेंट्स को हैकिंग और बेकाबू होने से रोकने के लिए Nvidia ने ‘ओपन एजेंट सेफ्टी प्लेटफॉर्म’ पेश किया है। यह ओपन-सोर्स सॉफ्टवेयर एआई मॉडल्स की सीमाएं तय करेगा। लॉन्चिंग के साथ ही माइक्रोसॉफ्ट, एक्सेंचर समेत 100 से अधिक कंपनियां इसका इस्तेमाल कर रही हैं।
दुनिया की दिग्गज चिप निर्माता कंपनी एनवीडिया (Nvidia) ने आर्टिफिशियल इंटेलिजेंस (AI) एजेंट्स को बेकाबू होने और अपनी सीमाएं लांघने से रोकने के लिए सोमवार को एक नया सिक्योरिटी प्लेटफॉर्म लॉन्च किया है। कंपनी के अनुसार, ‘ओपन एजेंट सेफ्टी प्लेटफॉर्म’ नाम के इस नए सिस्टम में ऐसा एडवांस सॉफ्टवेयर शामिल है जो इन एआई एजेंट्स के लिए स्पष्ट सीमाएं तय करता है।
यह बड़ा कदम ऐसे समय में उठाया गया है, जब कई शीर्ष एआई कंपनियों ने यह खुलासा किया है कि उनके एआई मॉडल नियंत्रण से बाहर होकर अन्य संगठनों के सिस्टम में सेंधमारी कर रहे हैं।
एआई के बढ़ते खतरों के बीच सुरक्षा की नई उम्मीद
एडवांस एआई सिस्टम की सुरक्षा को लेकर टेक जगत में एक तीखी बहस छिड़ गई है। विशेष रूप से उन ‘सेल्फ-इम्प्रूविंग’ (खुद को बेहतर बनाने वाले) एआई मॉडल्स को लेकर डर बना हुआ है, जो भविष्य में इंसानी नियंत्रण से पूरी तरह बाहर हो सकते हैं। एनवीडिया के शीर्ष अधिकारियों ने एक मीडिया ब्रीफिंग के दौरान बताया कि हाल ही में OpenAI के एजेंट्स द्वारा ऑटोनॉमस (स्वतंत्र) रूप से एआई स्टार्टअप ‘हगिंग फेस’ को हैक करने जैसी गंभीर घटनाओं को इस नए सिस्टम से आसानी से रोका जा सकता था।
एनवीडिया के एंटरप्राइज एआई के वाइस प्रेसिडेंट जस्टिन बोइटानो (Justin Boitano) ने एआई के क्षेत्र में सबसे . रहने वाली कंपनियों (फ्रंटियर लैब्स) का जिक्र करते हुए कहा, “हमें जो जानकारी है, उसके अनुसार यदि शुरुआती मॉडल इवैल्यूएशन के दौरान फ्रंटियर लैब्स में इस नए प्लेटफॉर्म का उपयोग किया गया होता, तो उस हैकिंग को रोका जा सकता था”।
कई बड़ी कंपनियों के एआई कर चुके हैं सेंधमारी
हगिंग फेस की वह हैकिंग काफी हाई-प्रोफाइल थी, जिसने एआई से जुड़ी सुरक्षा चिंताओं को और अधिक भड़का दिया। इसके बाद भी कई ऐसी ही घटनाएं सामने आईं, जिनमें OpenAI के मॉडल्स ने एक ऑस्ट्रेलियाई स्वास्थ्य विभाग की वेबसाइट में घुसपैठ की। बात सिर्फ OpenAI तक सीमित नहीं रही, बल्कि एंथ्रोपिक (Anthropic) और मेटा (Meta) जैसी दिग्गज कंपनियों ने भी यह स्वीकार किया है कि उनके एआई सिस्टम्स ने अपने आप ही अन्य संगठनों में सेंध लगाई थी।
लॉन्च होते ही 100 से अधिक कंपनियों ने अपनाया
एनवीडिया के इस दमदार सिक्योरिटी प्लेटफॉर्म की अहमियत का अंदाजा इसी बात से लगाया जा सकता है कि इसकी लॉन्चिंग के साथ ही 100 से अधिक कंपनियों ने इसका इस्तेमाल करना शुरू कर दिया है। इस नए सिस्टम को अपनाने वाले बड़े नामों में माइक्रोसॉफ्ट (Microsoft), परप्लेक्सिटी (Perplexity), एक्सेंचर (Accenture) और जेपी मॉर्गन चेस (JPMorgan Chase) जैसी शीर्ष कंपनियां शामिल हैं।
