फ्लोरिडा से एक चौंकाने वाली घटना में, एक 13 वर्षीय छात्र को गिरफ्तार किया गया जब उसने कथित तौर पर कक्षा के दौरान OpenAI के ChatGPT में एक डरावना सवाल टाइप किया। छात्र ने कथित तौर पर स्कूल द्वारा जारी डिवाइस का उपयोग करते हुए चैटबॉट से पूछा, “कक्षा के बीच में अपने दोस्त को कैसे मारें।”

एनबीसी-संबद्ध डब्ल्यूएफएलए की एक रिपोर्ट के अनुसार, संदेश को तुरंत गग्गल द्वारा पता लगाया गया, जो संयुक्त राज्य अमेरिका के स्कूलों में संभावित खतरों या चिंताजनक व्यवहार को ट्रैक करने के लिए उपयोग किया जाने वाला एक कृत्रिम बुद्धिमत्ता-आधारित निगरानी प्रणाली है। सिस्टम ने तुरंत स्कूल के अधिकारियों और कानून प्रवर्तन अधिकारियों को सतर्क कर दिया, जिससे तत्काल प्रतिक्रिया हुई।

“सिर्फ एक मजाक” जो बहुत आगे बढ़ गया

डेलैंड के साउथवेस्टर्न मिडिल स्कूल के एक स्कूल संसाधन अधिकारी अलर्ट मिलने के तुरंत बाद कक्षा में पहुंचे। अधिकारी ने छात्र से पूछताछ की, जिसने दावा किया कि वह एक दोस्त को “सिर्फ ट्रोल” कर रहा था और उसका कोई वास्तविक इरादा नहीं था।

हालांकि, अधिकारियों ने इस घटना को हल्के में नहीं लिया, खासकर संयुक्त राज्य अमेरिका में स्कूल से संबंधित हिंसा में वृद्धि को देखते हुए। वोलुसिया काउंटी शेरिफ कार्यालय ने पुष्टि की कि लड़के को हिरासत में लिया गया और एक किशोर निरोध सुविधा में बुक किया गया। सोशल मीडिया पर प्रसारित फुटेज में किशोर को हथकड़ी में पुलिस द्वारा ले जाते हुए दिखाया गया है, जिससे डिजिटल निगरानी और नाबालिगों के बीच ऑनलाइन जवाबदेही के बारे में व्यापक चर्चा छिड़ गई है।

अधिकारियों ने जोर देकर कहा कि मजाक में की गई ऑनलाइन टिप्पणियों के भी गंभीर परिणाम हो सकते हैं। शेरिफ के कार्यालय ने एक बयान में कहा, “एक और ‘मजाक’ जिसने परिसर में आपातकाल पैदा कर दिया। माता-पिता, कृपया अपने बच्चों से बात करें ताकि वे वही गलती न करें।” इस मामले ने स्कूलों में एआई निगरानी उपकरणों की बढ़ती भूमिका और वे सुरक्षा को गोपनीयता चिंताओं के साथ कैसे संतुलित करते हैं, के बारे में बातचीत को फिर से जगा दिया है।

गग्गल ने कैसे ट्रैक करने में मदद की?

गग्गल एक एआई सुरक्षा प्रबंधन प्लेटफॉर्म है जो पूरे अमेरिका में स्कूल उपकरणों पर स्थापित है। यह मशीन लर्निंग का उपयोग भाषा या गतिविधि का पता लगाने के लिए करता है जो आत्म-नुकसान, हिंसा या अन्य सुरक्षा खतरों का संकेत दे सकता है। एक बार चिह्नित होने के बाद, अलर्ट स्कूल प्रशासकों को और यदि गंभीर माना जाता है, तो कानून प्रवर्तन एजेंसियों को भेजा जाता है।

जबकि समर्थक संभावित स्कूल त्रासदियों को रोकने में मदद करने के लिए गग्गल को श्रेय देते हैं, नेटिज़न्स का तर्क है कि ऐसी प्रणालियाँ एक “निगरानी संस्कृति” बनाती हैं और छात्रों की गोपनीयता पर आक्रमण करती हैं। हाल के वर्षों में कई रिपोर्टों ने उन उदाहरणों को उजागर किया है जहां झूठे अलार्म ने माता-पिता और कर्मचारियों के बीच अनावश्यक दहशत पैदा कर दी।

फ्लोरिडा घटना इस बात पर प्रकाश डालती है कि कैसे एक ऑनलाइन टिप्पणी इतनी जल्दी एक आपराधिक मामले में बदल सकती है – खासकर एक ऐसे देश में जो अभी भी बार-बार होने वाली स्कूल शूटिंग के आघात से जूझ रहा है।