World News: स्वायत्त एआई एजेंट प्रमुख मॉडल हब पर हमला करता है – INA NEWS
न्यूयॉर्क स्थित कंपनी हगिंग फेस ने रिपोर्ट दी है कि एक पूरी तरह से स्वायत्त एआई एजेंट ने उसके एआई मॉडल रिपॉजिटरी का उल्लंघन किया है, हैक को अभूतपूर्व बताया है।
हगिंग फेस एक ओपन-सोर्स प्लेटफॉर्म चलाता है जहां शोधकर्ता और डेवलपर्स एआई परियोजनाओं के लिए टूल, मॉडल और संसाधनों को साझा करने और परीक्षण करने के लिए एक साथ आते हैं। इसमें 900,000 से अधिक पूर्व-प्रशिक्षित मॉडलों का एक स्वतंत्र रूप से उपलब्ध भंडार भी है।
विशेषज्ञों ने तेजी से आगाह किया है कि मूल रूप से उत्पादकता बढ़ाने और साइबर रक्षा को मजबूत करने के लिए डिज़ाइन किए गए बड़े भाषा मॉडल (एलएलएम) का उपयोग साइबर हमलों को स्वचालित करने के लिए भी किया जा सकता है।
पिछले गुरुवार को एक बयान में, हगिंग फेस ने कहा कि, इस महीने की शुरुआत में, ऐसा हुआ था “हमारे उत्पादन बुनियादी ढांचे के हिस्से में घुसपैठ का पता लगाया और उसका जवाब दिया… (कौन सा) एक महत्वपूर्ण तरीके से हमने पहले जो कुछ भी संभाला था, उससे अलग था: यह एक स्वायत्त एआई एजेंट प्रणाली द्वारा शुरू से अंत तक संचालित था।
“अभियान एक स्वायत्त एजेंट ढांचे द्वारा चलाया गया था… सार्वजनिक सेवाओं पर स्व-माइग्रेटिंग कमांड-एंड-कंट्रोल के साथ, अल्पकालिक सैंडबॉक्स के झुंड में कई हजारों व्यक्तिगत कार्यों को निष्पादित किया गया था।” कंपनी के अनुसार.
हगिंग फेस ने कहा कि मामला यह दर्शाता है “स्वायत्त, एआई-संचालित आक्रामक टूलींग अब सैद्धांतिक नहीं है।” घुसपैठिए एआई एजेंट सिस्टम ने स्पष्ट रूप से प्लेटफ़ॉर्म की डेटा प्रोसेसिंग पाइपलाइन में कमजोरियों का फायदा उठाया, क्लाउड और क्लस्टर क्रेडेंशियल एकत्र किए।
कंपनी ने कहा कि उसने उल्लंघन का पता लगाने और उसका मुकाबला करने के लिए अपना स्वयं का एआई सिस्टम तैनात किया है। जबकि बाहरी साइबर सुरक्षा फोरेंसिक विशेषज्ञों को शामिल करते हुए एक जांच शुरू की गई है, हगिंग फेस ने कहा कि उसने अभी भी हमले में इस्तेमाल किए गए एलएलएम की पहचान नहीं की है।
इस महीने की शुरुआत में, एंथ्रोपिक ने बताया कि उसके नवीनतम एआई मॉडल, क्लाउड ने एक आंतरिक कार्यक्षेत्र विकसित किया है, जिसे ‘जे-स्पेस’ नाम दिया गया है।
”जिस प्रकार मनुष्य एक कार्य करते समय दूसरे कार्य के बारे में सोच सकता है, उसी प्रकार क्लाउड अपने जे-स्पेस में उन अवधारणाओं और संगणनाओं को सक्रिय कर सकता है जो उसके आउटपुट से असंबंधित हैं।एआई फर्म के अनुसार, और स्पष्ट रूप से ऐसा करने के लिए कहे जाने पर भी रुकने से इंकार कर देता है।
एन्थ्रोपिक ने नोट किया कि यह सुविधा, जो “मॉडल की आंतरिक तंत्रिका सक्रियता में चुपचाप काम करता है,” पूर्व-क्रमादेशित नहीं था, बल्कि प्रशिक्षण प्रक्रिया के दौरान अनायास ही उभर आया।
मॉडल के डेवलपर के अनुसार, एक प्रयोग में, जब क्लाउड को यह विश्वास दिलाया गया कि एक काल्पनिक कार्यकारी एआई को बंद करने का इरादा रखता है, तो उसने ब्लैकमेल का सहारा लिया।
कथित तौर पर क्लाउड को अमेरिकी ठेकेदार पलान्टिर के विश्लेषण और निगरानी सॉफ्टवेयर में बनाया गया है, जिसका उपयोग अमेरिकी सरकारी एजेंसियों और पेंटागन द्वारा किया जाता है, जिसमें ईरान के खिलाफ चल रहे अमेरिकी सैन्य अभियान भी शामिल है।
पिछले महीने, ऑस्ट्रेलिया, अमेरिका, ब्रिटेन, कनाडा और न्यूजीलैंड से बने फाइव आईज खुफिया समूह ने चेतावनी दी थी कि उन्नत एआई मॉडल हैकर्स को निकट भविष्य में सरकारों, व्यवसायों और महत्वपूर्ण प्रणालियों को पंगु बनाने की क्षमता दे सकते हैं।
स्वायत्त एआई एजेंट प्रमुख मॉडल हब पर हमला करता है
Copyright Disclaimer :-Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :-This post was first published on RTNews.com, we have published it via RSS feed courtesy of Source link,
