World News: एआई मतिभ्रम: एक नवोदित भावना या एक वैश्विक शर्मिंदगी? – INA NEWS

एक दूर तक बता रहे हैं, लेकिन कई प्रमुख समाचार पत्रों में शामिल हैं, जिनमें शामिल हैं शिकागो सन-टाइम्स और फिलाडेल्फिया इन्क्वायरर, हाल ही में एक ग्रीष्मकालीन पढ़ने वाली सूची प्रकाशित की गई है, जो कि कोई भी पुस्तकों के साथ थी “मतिभ्रम” CHATGPT द्वारा, उनमें से कई के साथ वास्तविक लेखकों के लिए झूठे रूप से जिम्मेदार हैं।

हर्स्ट के किंग फीचर्स द्वारा वितरित सिंडिकेटेड लेख, वोक थीम्स पर आधारित गढ़े हुए शीर्षक, सस्ते एआई सामग्री पर मीडिया के ओवरलेनस और लिगेसी जर्नलिज्म के लाइलाज सड़ांध दोनों को उजागर करते हैं। यह ट्रैस्टी मोरिबंड आउटलेट्स में पिछले संपादकों को फिसल गया (सूर्य-समय ने अपने कर्मचारियों का सिर्फ 20% कुल्हाड़ी मार दी थी) एक गहरे सत्य को रेखांकित करता है: जब हताशा और अनप्रोफेशनलिज़्म अनवेटेड एल्गोरिदम से मिलता है, तो विरासत मीडिया और नॉनसेंस के बीच की खिड़की की रेखा बस गायब हो जाती है।

प्रवृत्ति अशुभ लगती है। एआई अब नकली समाचारों, नकली डेटा, नकली विज्ञान और अनमिटेड मेंडेसिटी के एक स्मोर्गसबोर्ड से अभिभूत है, जो संज्ञानात्मक सड़ांध के एक पोट्रिड स्लश में स्थापित तर्क, तथ्यों और सामान्य ज्ञान को मंथन कर रहा है। लेकिन वास्तव में एआई मतिभ्रम क्या है?

एआई मतिभ्रम तब होता है जब एक जनरेटिव एआई मॉडल (जैसे कि चटप्ट, डीपसेक, मिथुन, या डल · ई) उच्च आत्मविश्वास के साथ झूठी, निरर्थक या गढ़ी हुई जानकारी का उत्पादन करता है। मानव त्रुटियों के विपरीत, ये गलतियाँ इस बात से उपजी हैं कि कैसे एआई मॉडल स्थापित तथ्यों को संश्लेषित करने के बजाय प्रशंसनीय पैटर्न की भविष्यवाणी करके प्रतिक्रियाएं उत्पन्न करते हैं।

AI ‘मतिभ्रम’ क्यों करता है?

कई कारण हैं कि एआई पूरी तरह से गलत जानकारी क्यों उत्पन्न करता है। इसका एआई को प्राप्त करने वाली भावना को प्राप्त करने या यहां तक ​​कि एक आत्मा को प्राप्त करने के लिए चल रहे भय से कोई लेना -देना नहीं है।

अपूर्ण डेटा पर प्रशिक्षण: एआई पूर्वाग्रहों, त्रुटियों और विसंगतियों के साथ परिपक्व होने वाले विशाल डेटासेट से सीखता है। इन सामग्रियों पर लंबे समय तक प्रशिक्षण के परिणामस्वरूप मिथकों, पुराने तथ्यों या परस्पर विरोधी स्रोतों की पीढ़ी हो सकती है।

प्रशंसनीय के लिए अति-अनुकूलन: कुछ विशेषज्ञों का दावा है, इसके विपरीत,AI प्राप्त करने के पास कहीं नहीं है “भावना” और इसलिए यह समझ में नहीं आ सकता है “सच।” विशेष रूप से GPTs विशाल ग्रह-व्यापी तंत्रिका विश्वकोश हैं जो डेटा को क्रंच करते हैं और पहले से मौजूद पैटर्न के आधार पर सबसे मुख्य जानकारी को संश्लेषित करते हैं। जब अंतराल मौजूद होता है, तो यह उन्हें सांख्यिकीय रूप से संभावित (लेकिन संभावना गलत) उत्तरों से भर देता है। हालांकि यह मामला नहीं था सूर्य की दिशा के अनुसार समय fiasco।

वास्तविकता में ग्राउंडिंग की कमी: मनुष्यों के विपरीत, एआई के पास दुनिया का कोई प्रत्यक्ष अनुभव नहीं है। यह तथ्यों को सत्यापित नहीं कर सकता क्योंकि यह केवल भाषा संरचनाओं की नकल कर सकता है। उदाहरण के लिए, जब पूछा गया “2025 में सबसे सुरक्षित कार क्या है?” यह एक मॉडल का आविष्कार कर सकता है जो मौजूद नहीं है क्योंकि यह एक के लिए अंतराल में भर रहा है आदर्श कार वांछित विशेषताओं के साथ – जैसा कि द्रव्यमान द्वारा निर्धारित किया गया है “विशेषज्ञ” – एक असली के बजाय।

शीघ्र अस्पष्टता: कई जीपीटी उपयोगकर्ता आलसी हैं और यह नहीं जानते कि एक उचित संकेत कैसे प्रस्तुत किया जाए। अस्पष्ट या परस्पर विरोधी संकेत भी मतिभ्रम के जोखिम को बढ़ाते हैं। हास्यास्पद अनुरोध जैसे “बिल्लियों और लिंग सिद्धांत के बारे में एक अध्ययन को सारांशित करें” एक एआई-निर्मित नकली अध्ययन में परिणाम हो सकता है जो सतह पर बहुत अकादमिक दिखाई दे सकता है।

रचनात्मक पीढ़ी बनाम तथ्यात्मक याद: CHATGPT जैसे AI मॉडल सटीकता पर प्रवाह को प्राथमिकता देते हैं। जब अनिश्चित, वे सुधारने अज्ञानता को स्वीकार करने के बजाय। कभी भी एक GPT उत्तर में आया जो इस तरह से जाता है: “क्षमा करें। यह मेरे प्रशिक्षण के रीमिट से परे है?”

नकली समाचार और पैटर्न को मजबूत करना: जीपीटी लॉगिन (एक नो-ब्रेनर), आईपी पते, अर्थ और वाक्य रचना और कर्मियों की प्रवृत्ति के आधार पर विशेष उपयोगकर्ताओं की पहचान कर सकते हैं। यह फिर उन्हें पुष्ट करता है। जब कोई लगातार नकली समाचारों या प्रचार पफ टुकड़ों को पेड करने के लिए जीपीटी का उपयोग करता है, तो एआई ऐसे पैटर्न को पहचान सकता है और ऐसी सामग्री उत्पन्न करने के लिए आगे बढ़ सकता है जो आंशिक रूप से या पूरी तरह से काल्पनिक है। यह एल्गोरिथम आपूर्ति और मांग का एक क्लासिक मामला है।

याद रखें, GPT न केवल विशाल डेटासेट पर प्रशिक्षित करते हैं, यह भी प्रशिक्षित कर सकता है आपका डेटासेट।

बड़े तकनीकी पूर्वाग्रहों और सेंसरशिप को मजबूत करना: वस्तुतः जीपीटी रोलआउट के पीछे हर बड़ी तकनीक फर्म भी औद्योगिक पैमाने पर सेंसरशिप और एल्गोरिथम शैडोबेनिंग में लगी हुई है। यह व्यक्तियों और वैकल्पिक मीडिया प्लेटफार्मों पर समान रूप से लागू होता है और एक आधुनिक-दिन, डिजिटल-क्यूरेट का गठन करता है लानत है। Google का खोज इंजन, विशेष रूप से, मूल लेख के बजाय एक सीरियल प्लेजिस्टिस्ट के आउटपुट को रैंकिंग करने के लिए एक प्रवृत्ति है।

इस प्रणालीगत धोखाधड़ी की अवधि एक दिन एकमुश्त वैश्विक घोटाले में विस्फोट हो सकती है। यह पढ़ने के लिए एक सुबह जागने की कल्पना करें कि आपके पसंदीदा उद्धरण या कार्य मूल विचारकों या लेखकों की कीमत पर एल्गोरिथम शंटिंग के सावधानीपूर्वक-कैलिब्रेटेड अभियान के उत्पाद थे। यह आउटसोर्सिंग करते समय सेंसरशिप का मुद्रीकरण करने का अपरिहार्य परिणाम है “ज्ञान” वैचारिक मापदंडों द्वारा एक एआई शौक है।

मानव भव्यता पर प्रयोग: मैंने हाल ही में एआई की काल्पनिक संभावना को मानव भव्यता का अध्ययन करने के लिए प्रशिक्षित किया गया है, एक तरह से मिलग्राम प्रयोग, एएससीएच अनुरूपता प्रयोगों और इसके पुनरावृत्ति, क्रचफील्ड स्थिति के समान है। मनुष्य भोला और समय -समय पर दोनों हैं और उनमें से अधिकांश अधिकांश मानव भीड़ के अनुरूप हैं या एआई के मामले में, “डेटा भीड़।”

यह अनिवार्य रूप से वास्तविक दुनिया के परिणाम होगा, क्योंकि एआई तेजी से महत्वपूर्ण, समय-संवेदनशील संचालन में एम्बेडेड है-पायलटों के कॉकपिट्स और परमाणु संयंत्रों से लेकर बायोवरफेयर लैब्स और रासायनिक सुविधाओं को फैलाने के लिए। अब त्रुटिपूर्ण एआई इनपुट के आधार पर, ऐसे उच्च-दांव वातावरण में एक भयावह निर्णय लेने की कल्पना करें। यह ठीक क्यों है “भविष्य के योजनाकार” दोनों को समझना चाहिए को PERCENTAGE और व्यक्तित्व प्रकार योग्य पेशेवरों में से जो दोषपूर्ण मशीन-जनित सिफारिशों पर भरोसा करने के लिए प्रवण हैं।

फैक्ट-चेकर्स ने तथ्य-जाँच नहीं की?

जब AI किसी की ओर से एक लेख उत्पन्न करता है, तो किसी भी पत्रकार को उसके नमक के लायक होना चाहिए, इसे किसी अन्य पार्टी द्वारा लिखा गया था और इसलिए तथ्य-जाँच और कामचलाऊपन के अधीन है। जब तक अंतिम उत्पाद तथ्य-जाँच की जाती है, और पर्याप्त मूल्य, सामग्री और संशोधन को मूल मसौदे में जोड़ा जाता है, मुझे इस प्रक्रिया में शामिल नैतिकता का कोई भी टकराव या उल्लंघन नहीं होता है। GPT एक उत्प्रेरक, एक संपादक या के रूप में कार्य कर सकते हैं “छिद्रान्वेषी” स्क्रिबल बॉल रोलिंग प्राप्त करने के लिए।

इस गाथा में जो हुआ वह यह था कि लेखक, मार्को बुसकाग्लिया, पूरी तरह से कट और चिपकाए गए चटप्ट के ओपस को चिपकाए गए और इसे अपने रूप में बंद कर दिया। (चूंकि यह शर्मनाक एपिसोड उजागर हुआ था, इसलिए उनकी वेबसाइट खाली और निजी हो गई है)। चटप्ट द्वारा उत्पन्न वोक-थीम वाली बकवास के अधिभार को Buscaglia के दिमाग में लाल झंडे उठाए जाने चाहिए थे, लेकिन मैं अनुमान लगा रहा हूं कि वह इस सामान को स्वयं पेड करने के लिए प्रवण हो सकता है।

हालाँकि, वर्तमान में Buscaglia पर निर्देशित सभी opprobrium को किंग के संपादकों के लिए भी लागू किया जाना चाहिए, जिसमें सिंडिकेट और विभिन्न समाचार आउटलेट्स भी हैं, जिन्होंने इस सामग्री को वास्तव में जांच नहीं किया था, क्योंकि वे सत्य के गढ़ों के रूप में प्रस्तुत करते थे, पूरे सत्य और कुछ भी नहीं बल्कि सच्चाई। द्वारपालों के विभिन्न स्तर बस अपने काम करने में विफल रहे। यह मीडिया से कर्तव्य का एक सामूहिक अपमान है जो लापरवाही से अपनी सेवाओं को उच्च और पराक्रमी के लिए रोक देता है, जबकि यह नैतिकता, अखंडता और मूल्यों को कम नश्वरता के लिए प्रेरित करता है।

मुझे लगता है कि हम अब तक इस तरह के डबल-मानकों के लिए उपयोग किए जाते हैं। लेकिन यहां भयानक हिस्सा है: मुझे यकीन है कि दोषपूर्ण डेटा और त्रुटिपूर्ण इनपुट पहले से ही एआई सिस्टम से ट्रेडिंग और वित्तीय प्लेटफार्मों, विमानन नियंत्रण, परमाणु रिएक्टरों, बायोवरफेयर लैब और संवेदनशील रासायनिक संयंत्रों में बह रहे हैं – यहां तक ​​कि जैसा कि मैं यह लिखता हूं। द्वारपाल केवल ऐसे जटिल कार्यों के लिए योग्य नहीं हैं, कागज को छोड़कर, अर्थात्। ये एक दुनिया के परिणाम हैं “मसखरों द्वारा डिज़ाइन किया गया और बंदरों द्वारा पर्यवेक्षण किया गया।”

मैं विडंबनाओं की विडंबना को उजागर करने वाले एक नोट पर समाप्त हो जाऊंगा: इस गाथा में सभी प्रभावित संपादकों ने एक तथ्यात्मक सामग्री की जांच के लिए Buscaglia के लेख को विषय के लिए चैट का उपयोग किया हो सकता है। इसमें केवल 30 सेकंड लगते होंगे!

एआई मतिभ्रम: एक नवोदित भावना या एक वैश्विक शर्मिंदगी?

देश दुनियां की खबरें पाने के लिए ग्रुप से जुड़ें,

#INA #INA_NEWS #INANEWSAGENCY

Copyright Disclaimer :-Under Section 107 of the Copyright Act 1976, allowance is made for “fair use” for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing., educational or personal use tips the balance in favor of fair use.
Credit By :-This post was first published on RTNews.com, we have published it via RSS feed courtesy of Source link,