Technology, चैटजीपीटी के एआई टेक्स्ट में अब लगेगा वॉटरमार्क: ओपनएआई ने शुरू किया Textgrain, क्या है ये और कैसे करेगा काम? – Openai Adds Invisible Watermarks Chatgpt Text In Eu: How Textgrain Works — INA

अगर आप नोट्स बनाने या किसी अन्य काम में चैटजीपीटी से लिखवाया गया टेक्स्ट कॉपी करके इस्तेमाल करते हैं, तो आने वाले समय में उसे पहचानना आसान हो सकता है। ओपनएआई ने एआई से तैयार किए गए टेक्स्ट के लिए textGrain नाम का एक नया अदृश्य वॉटरमार्क सिस्टम तैयार किया है। यह वॉटरमार्क इंसानों को दिखाई नहीं देगा, लेकिन खास डिटेक्शन टूल इसकी मौजूदगी पहचान सकेंगे। फिलहाल ओपनएआई इसे यूरोपीय संघ यानी EU में चैटजीपीटी और कोडक्स के योग्य टेक्स्ट आउटपुट पर लागू कर रही है। आखिर यह वॉटरमार्क कैसे काम करता है, क्या इसे हटाया जा सकता है और क्या इससे चैटजीपीटी के जवाबों की क्वालिटी पर असर पड़ेगा? जानिए सबकुछ विस्तार से…

चैटजीपीटी के टेक्स्ट में लगेगा अदृश्य वॉटरमार्क

• ओपनएआई एआई आने वाले हफ्तो में EU में चैटजीपीटी और कोडक्स से तैयार होने वाले योग्य टेक्स्ट आउटपुट में अदृश्य वॉटरमार्क जोड़ने जा रही है। यह वॉटरमार्क पढ़ने वाले व्यक्ति को दिखाई नहीं देगा। यानी टेक्स्ट सामान्य एआई-जनरेटेड कंटेंट की तरह ही नजर आएगा और उसमें कोई अलग निशान, अतिरिक्त स्पेस या अजीब कैरेक्टर दिखाई नहीं देगा।

• इसका मकसद यह है कि मशीन की मदद से यह पता लगाया जा सके कि किसी टेक्स्ट में ओपनएआई का वॉटरमार्क मौजूद है या नहीं। फिलहाल यह रोलआउट EU तक सीमित है। ओपनएआई ने इसे लॉन्च के समय दुनियाभर के चैटजीपीटी यूजर्स के लिए डिफॉल्ट बनाने की योजना नहीं बताई है। कंपनी पहले ईयम में इसके वास्तविक इस्तेमाल और मिलने वाले फीडबैक को समझना चाहती है।

• ओपनएआई ने इस वॉटरमार्किंग तकनीक का नाम टेक्स्टग्रेन रखा है। यह किसी टेक्स्ट में दिखाई देने वाला निशान लगाने के बजाय एआई मॉडल के शब्द चुनने के तरीके में बहुत छोटे सांख्यिकीय बदलाव करता है। जब एआई कोई वाक्य लिखता है तो उसके सामने अगले शब्द या टोकन के कई संभावित विकल्प होते हैं। टेक्स्टग्रेन इन विकल्पों के चुनाव के पैटर्न में एक खास तरह का सांख्यिकीय सिग्नल तैयार करता है। इंसान सामान्य रूप से इसे पहचान नहीं सकता, लेकिन ओपनएआई का डिटेक्टर टेक्स्ट में इस पैटर्न को खोज सकता है।
• खास बात यह है कि यह सिस्टम टेक्स्ट में कोई छुपे हुए कैरेक्टर, इनविजिबल स्पेस या अलग वॉटरमार्क टोकन नहीं जोड़ता। वॉटरमार्क शब्दों के चुनाव के सांख्यिकीय पैटर्न में रहता है।

कॉपी-पेस्ट करने के बाद भी पहचाना जा सकता है

• टेक्स्टग्रेन की यही खासियत मानी जा रही है कि वॉटरमार्क टेक्स्ट की वर्डिंग में मौजूद सांख्यिकीय पैटर्न से जुड़ा होता है। इसलिए सामान्य तौर पर टेक्स्ट को एक जगह से दूसरी जगह कॉपी-पेस्ट करने से यह सिग्नल अपने आप खत्म नहीं होता।
• हालांकि, इसका मतलब यह नहीं है कि हर एआई-जनरेटेड टेक्स्ट हमेशा पकड़ा जाएगा। ओपनएआई खुद मानती है कि टेक्स्ट की लंबाई, विषय, भाषा और बाद में की गई एडिटिंग जैसी चीजें डिटेक्शन को प्रभावित कर सकती हैं।

नहीं…कंपनी के अनुसार, टेक्स्टग्रेन का डिटेक्टर सिर्फ यह बताने के लिए है कि किसी टेक्स्ट में ओपनएआई का वॉटरमार्क मिला या नहीं। इससे यह पता नहीं चलेगा कि टेक्स्ट किस यूजर ने तैयार किया, कौन सा प्रॉम्प्ट इस्तेमाल किया गया या किस बातचीत से वह टेक्स्ट आया। यह सिस्टम यह भी नहीं बताता कि अंतिम टेक्स्ट में इंसान का कितना योगदान था या टेक्स्ट का मालिक कौन है। यानी वॉटरमार्क को एआई-जनरेटेड कंटेंट का संकेत माना जा सकता है, लेकिन यह अपने आप में लेखक की पहचान या टेक्स्ट के मालिकाना हक का सबूत नहीं है।

200 और 400 टोकन वाले टेक्स्ट में कितना असरदार?

• ओपनएआई ने टेक्स्टग्रेन की सीमाओं को समझने के लिए कई टेस्ट किए हैं। कंपनी के मुताबिक, 1 प्रतिशत फाल्स-पॉजीटिव रेट के लक्ष्य पर करीब 200 टोकन वाले टेक्स्ट में लगभग 80 प्रतिशत मामलों में वॉटरमार्क पहचाना गया।
• वहीं, करीब 400 टोकन वाले टेक्स्ट में यह दर लगभग 95 प्रतिशत रही। ये आंकड़े खास तरह के कंटेंट, जैसे मनोविज्ञान से जुड़े जवाबों पर किए गए मूल्यांकन से आए हैं। इससे साफ है कि टेक्स्ट जितना छोटा या सीमित शब्द विकल्प वाला होगा, उसमें वॉटरमार्क पहचानना उतना मुश्किल हो सकता है।

टेक्स्टग्रेन हर विषय में एक जैसा प्रभावी नहीं है। ओपनएआई के परीक्षणों में गणित जैसे विषयों में डिटेक्शन काफी कमजोर रहा। इसकी एक वजह यह है कि गणित से जुड़े जवाबों में शब्दों को बदलने या अलग-अलग तरीके से लिखने की आजादी सामान्य विषयों की तुलना में कम होती है। ऐसे में एआई के पास शब्दों के चुनाव में वाटरमार्क सिग्नल बनाने की गुंजाइश भी कम हो जाती है।

थोड़ी एडिटिंग से भी कमजोर हो जाता है वॉटरमार्क

• ओपनएआई के परीक्षणों में यह भी सामने आया कि टेक्स्ट को एडिट करने पर वाटरमार्क डिटेक्शन तेजी से कमजोर हो सकता है। करीब 400 टोकन वाले टेक्स्ट में 10 प्रतिशत शब्दों को समान अर्थ वाले दूसरे शब्दों से बदलने पर डिटेक्शन करीब 92 प्रतिशत से घटकर 66 प्रतिशत रह गया।
• वहीं अगर 25 प्रतिशत शब्द बदल दिए जाएं, तो डिटेक्शन करीब 17 प्रतिशत तक गिर गया। इसका मतलब है कि टेक्स्टग्रेन एआई-जनरेटेड टेक्स्ट की पहचान में मदद कर सकता है, लेकिन इसे ऐसा सिस्टम नहीं माना जा सकता जो हर परिस्थिति में एआई कंटेंट को पकड़ ले।

अनुवाद करने पर भी पहचान मुश्किल

अगर एआई से तैयार टेक्स्ट को दूसरी भाषा में ट्रांसलेट किया जाता है, तो वॉटरमार्क को पहचानना भी मुश्किल हो सकता है। इसी तरह बहुत छोटा टेक्स्ट, भारी एडिटिंग, दूसरे एआई मॉडल से तैयार किया गया कंटेंट या वॉटरमार्क लागू होने से पहले बनाया गया टेक्स्ट भी डिटेक्शन से बाहर हो सकता है। कंपनी इसलिए स्पष्ट करती है कि वॉटरमार्क नहीं मिलने का मतलब यह साबित नहीं करता कि टेक्स्ट इंसान ने ही लिखा है।

क्या टेक्स्टग्रेन से चैटजीपीटी के जवाबों की क्वालिटी पर असर पड़ेगा?

• कंपनी ने इसे लेकर भी स्थिति साफ की है। ओपनएआई का कहना है कि वॉटरमार्किंग से मॉडल की परफॉर्मेंस पर कोई महत्वपूर्ण असर नहीं दिखा है। कंपनी ने अपने एस्ट्रा मॉडल के कई बेंचमार्क में वॉटरमार्क के साथ और बिना वॉटरमार्क वाले आउटपुट की तुलना की।
• ओपनएआई के मुताबिक, दोनों स्थितियों में प्रदर्शन में कोई मीनिंगफुल अंतर नहीं दिखा। यानी कंपनी के मौजूदा परीक्षणों के आधार पर textGrain को जोड़ने से AI के जवाबों की गुणवत्ता में कोई खास गिरावट नहीं आई है।

ओपनएआई EU में ही क्यों कर रही है शुरुआत?

• इस कदम के पीछे सबसे बड़ा कारण EU AI Act माना जा रहा है। इसके तहत जनरेटिव एआई कंपनियों को एआई से तैयार किए गए कंटेंट को मशीन-रीडेबल तरीके से पहचानने योग्य बनाने की दिशा में कदम उठाने होंगे। ओपनएआई ने टेक्स्टग्रेन को इसी नियम के तहत अपने व्यापक कंटेंट प्रोवेनेंस प्रयासों का हिस्सा बताया है।
• EU में शुरुआत करने का एक और फायदा ओपनएआई को यह मिलेगा कि कंपनी वास्तविक दुनिया में इस तकनीक के प्रदर्शन और सीमाओं को समझ सकेगी। इसके बाद मिले फीडबैक के आधार पर कंपनी अपने सिस्टम में . बदलाव कर सकती है।
• हालांकि चैटजीपीटी और कोडेक्स के लिए फिलहाल रोलआउट EU तक सीमित है, लेकिन ओपनएआई एपीआई कस्टमर्स दुनियाभर में कुछ चुनिंदा मॉडल्स पर टेक्स्ट वॉटरमार्किंग को ऑप्ट-इन कर सकते हैं। यह एपीआई में डिफॉल्ट रूप से बंद रहेगा। यानी डेवलपर्स और कंपनियां अपनी जरूरत के हिसाब से इसे चालू कर सकेंगी। ओपनएआई आने वाले समय में क्लाउड पार्टनर्स के जरिए भी इस सुविधा को उपलब्ध कराने पर काम कर रही है।

डिटेक्टर अभी हर किसी के लिए उपलब्ध नहीं होगा

ओपनएआई अपने टेक्स्ट वाटरमार्किंग डिटेक्टर को तुरंत सार्वजनिक नहीं कर रही है। कंपनी ने शोधकर्ताओं और विशेषज्ञ संगठनों के लिए इसके एक्सेस के आवेदन शुरू करने की बात कही है। शुरुआत में अप्रूव्ड रिसर्चर और एक्सपर्ट ऑर्गेनाइजेशन को केस-बाय-केस आधार पर एक्सेस दिया जाएगा। इसकी वजह यह है कि वॉटरमार्क डिटेक्शन में फाल्स पॉजीटिव और फाल्स निगेटिव दोनों की संभावना मौजूद है। डिटेक्टर सिर्फ यह बताएगा कि उसे OpenAI watermark मिला या नहीं। यह यूजर की पहचान या उसके प्रॉम्प्ट और बातचीत की जानकारी सामने नहीं करेगा।