Tach – AI एजेंट पर आंख बंद करके भरोसा करना पड़ सकता है भारी, एक गलती से ऑर्डर में जुड़ गए 72 अंडे

AI की मदद से ऑनलाइन शॉपिंग करना आसान हो सकता है, लेकिन एक हालिया घटना ने दिखाया है कि AI एजेंट की छोटी सी गलती भी जेब पर भारी पड़ सकती है. एक AI शॉपिंग एजेंट ने यूजर की ग्रॉसरी लिस्ट में अंडे न होने के बावजूद उसके ऑर्डर में 72 अंडे जोड़ दिए. हैरानी की बात यह रही कि जब यूजर ने एजेंट से पूछा कि उसने ऐसा क्यों किया, तो वह अपनी गलती की वजह भी नहीं बता पाया.

यह मामला Rebellionaire नाम की इक्विटी फर्म में काम करने वाले Matt Smith ने X पर शेयर किया. Futurism की 14 नवंबर की रिपोर्ट के मुताबिक, Smith ने AI एजेंट को अपनी ग्रॉसरी लिस्ट के आधार पर सामान ऑर्डर करने के लिए कहा था.

लिस्ट में नहीं थे अंडे, फिर भी ऑर्डर हुए 72

Smith की ग्रॉसरी लिस्ट में अंडों का कोई जिक्र नहीं था. इसके बावजूद AI एजेंट ने Vital Farms के 18 अंडों वाले चार कार्टन शॉपिंग कार्ट में जोड़ दिए. इस तरह कुल 72 अंडे ऑर्डर का हिस्सा बन गए.

Smith ने चेकआउट के दौरान इस गलती पर ध्यान नहीं दिया और पेमेंट पूरा कर दिया. बाद में जब उन्हें पता चला कि ऑर्डर में जरूरत से ज्यादा अंडे शामिल हैं, तो उन्होंने AI एजेंट से इसकी वजह पूछी. उन्होंने इस घटना को LLM की गलती का ऐसा पहला अनुभव बताया, जिसका असली दुनिया में सीधा असर पड़ा.

AI एजेंट ने मानी अपनी गलती

शुरुआत में AI एजेंट ने कहा कि उसने ग्रॉसरी लिस्ट की फोटो में मौजूद एक लाइन को गलत पढ़ लिया था. लेकिन Smith ने बताया कि उनकी लिस्ट में ऐसी कोई लाइन थी ही नहीं.

इसके बाद एजेंट ने अपनी गलती स्वीकार करते हुए कहा कि उसके पास चार कार्टन अंडे चुनने की कोई सही वजह नहीं है. उसे ऐसा करने से जुड़ा कोई नोट या निर्देश भी नहीं मिला. एजेंट ने माना कि उसने बिना किसी कारण के अंडे ऑर्डर में जोड़ दिए और इसकी जिम्मेदारी उसी की है.

AI एजेंट की गलती पर कौन देगा पैसे?

हालांकि, इस मामले से जुड़ी कई जानकारियां अभी सामने नहीं आई हैं. Smith ने यह नहीं बताया कि उन्होंने किस AI एजेंट या मॉडल का इस्तेमाल किया था. अंडों की कुल कीमत, ग्रॉसरी स्टोर का नाम और उन्हें रिफंड मिला या नहीं, इसकी भी जानकारी नहीं है. यह मामला फिलहाल एक स्क्रीनशॉट पर आधारित है और इसकी स्वतंत्र रूप से पुष्टि नहीं हुई है.

यह घटना ऐसे समय सामने आई है, जब कई टेक कंपनियां शॉपिंग, टिकट बुकिंग और ऑनलाइन फॉर्म भरने जैसे कामों के लिए AI एजेंट पेश कर रही हैं. इसी हफ्ते Citi ने भी कहा कि अगर AI एजेंट गलत ट्रैवल बुकिंग करते हैं, तो इसकी भरपाई AI कंपनियों को करनी चाहिए. हालांकि, ऐसी गलतियों की जिम्मेदारी किसकी होगी, इसे लेकर अभी स्पष्ट नियम नहीं हैं.

AI से शॉपिंग करते समय रखें इन बातों का ध्यान

AI एजेंट से सामान ऑर्डर करवाते हैं, तो पेमेंट करने से पहले कार्ट जरूर चेक करें. एजेंट से यह भी पूछें कि उसने कौन-कौन से प्रोडक्ट जोड़े हैं और हर सामान को शामिल करने की वजह क्या है. इसके अलावा हर ऑर्डर के लिए खर्च की सीमा तय करें और पेमेंट के बाद बैंक अलर्ट पर नजर रखें. इससे AI की गलती के कारण होने वाले अनचाहे खर्च से बचने में मदद मिल सकती है.


Source link

Back to top button