Technology, Gemini AI watermark: गूगल ने एआई वॉटरमार्क किया ऑप्शनल, क्या अब फेक फोटो पहचानना होगा मुश्किल? जानें मामला — INA

फिलहाल यह नया फीचर शुरुआती चरण में नैनो बनाना, ओमनी और लीरिया मॉडल्स के लिए उपलब्ध कराया जाएगा। बाद में इस सेटिंग को जेमिनी, गूगल वीडियो एडिटर और गूगल सर्च के लिए भी रोल आउट करने का प्लान है।

 कैसे काम करेगी यह नई सेटिंग?

• रोलआउट होने के बाद यूजर्स एप या टूल के सेटिंग्स में जाकर वहां मीडिया वाटरमार्क विकल्प में जाकर विजिबल वॉटरमार्क को आसानी से ऑफ कर सकेंगे।




• गूगल के जोश वुडवर्ड के अनुसार, कंपनी क्रिएटर्स की क्रिएटिव आजादी और सुरक्षा के बीच संतुलन बनाने की कोशिश कर रही है।




• उन्होनें कहा कि ‘हम यहां क्रिएटिव कंट्रोल और सेफ्टी के बीच संतुलन बना रहे हैं। भले ही विजिबल वॉटरमार्क अब ऑप्शनल हो रहे हैं, लेकिन पारदर्शिता के लिए इनविजिबल SynthID वॉटरमार्क और C2PA मेटाडेटा अभी भी इमेज के अंदर एक्टिव रहेंगे। इसलिए आप अभी भी जेमिनी या सर्च का इस्तेमाल करके यह जांच सकते हैं कि कोई इमेज AI से बनी है या नहीं।’




• इसका मतलब यह है कि फोटो से दिखने वाला लोगो या टेक्स्ट गायब हो सकता है, लेकिन उसके अंदर छुपा हुआ डिजिटल फिंगरप्रिंट  बना रहेगा।

आम यूजर्स के लिए क्या यह सही है?

• इस फैसले के बाद से सोशल मीडिया और टेक एक्सपर्ट्स के बीच एक बड़ी बहस छिड़नी की उम्मीद जताई जा रही है।




• अगर सोशल मीडिया पर कोई एआई-जनरेटेड फोटो बिना किसी विजिबल वॉटरमार्क के वायरल होती है, तो 99 प्रतिशत लोग उसे डाउनलोड करके जेमिनी पर अपलोड करके यह चेक करने की जहमत नहीं उठाएंगे कि यह असली है या एआई से बनी है।

गलत जानकारी और फेक न्यूज का खतरा

वहीं, कुछ लोगों का यह भी कहना है कि यह स्थिति तब बेहद खतरनाक साबित हो सकती है जब बिना विजिबल वॉटरमार्क वाले एआई मीडिया का इस्तेमाल राजनीतिक प्रचार, फर्जी सेलिब्रिटीज की तस्वीरें, फेक क्राइम सीन या गलत जानकारी फैलाने के लिए किया जा सकता है।

गूगल को पता होगा, यूजर रहेगा अनजान

एक्सपर्ट्स यह भी कह रहे हैं कि इससे एक अजीब स्थिति पैदा होगी जहां गूगल का सिस्टम तो जानता होगा कि इमेज एआई-जनरेटेड है, लेकिन सामने देखने वाले इंसान को इसका जरा सा भी अंदाजा नहीं होगा।

SynthID टेस्ट रिपोर्ट: क्या सच में 100% सुरक्षित है इनविजिबल वॉटरमार्क?

• आर्स टेक्नीका की ओर से किए गए हालिया टेस्ट में गूगल की सिंथआईडी तकनीक को लेकर कुछ अहम बातें सामने आई हैं:




• मजबूत पहलू: सामान्य तौर पर SynthID वॉटरमार्क फोटो के कंप्रेशन और छोटे-मोटे बदलावों के बाद भी बना रहता है और डिटेक्ट हो जाता है।




• कमजोरी: टेस्ट में पाया गया कि अगर इमेज को भारी कंप्रेशन के बाद 20 प्रतिशत क्रॉप (Crop) कर दिया जाए, तो सिंथआईडी अंडिटेक्टेबल (गायब) हो गया।




• गूगल का खुद का रिसर्च: गूगल के शोध के मुताबिक भी सिंथआईडी को जानबूझकर किए गए एडवर्सेरियल अटैक्स (तकनीकी हेराफेरी) को झेलने के लिए डिजाइन नहीं किया गया है।