बोस्टन(अमेरिका) ‘‘आपके हाथ खून से सने हुए हैं।’’ ‘‘मुझे उन सभी चीजों के लिए खेद है जिनसे आप गुजरे हैं।’’ इनमें से पहला वाक्य सीनेटर लिंडसे ग्राहम ने मेटा के मुख्य कार्यकारी अधिकारी (सीईओ) मार्क जुकरबर्ग से कहा था, और दूसरा वाक्य जुकरबर्ग ने ऑनलाइन बाल यौन उत्पीड़न के पीड़ितों के परिजनों को कहा था। 

ये उद्धरण, ऑनलाइन मंचों पर बच्चों की सुरक्षा के बारे में सीनेट न्यायपालिका समिति के समक्ष गवाही के एक असाधारण दिन के मुख्य अंश हैं। लेकिन शायद 31 जनवरी, 2024 की सुनवाई का सबसे प्रभावशाली उद्धरण ‘‘मेटा, टिकटॉक, एक्स, डिस्कोर्ड या स्नैपचैट’’ के सीईओ की ओर से नहीं, बल्कि सीनेटर ग्राहम की ओर से उनके प्रारंभिक वक्तव्य में आया, जिसमें उन्होंने कहा कि सोशल मीडिया मंच ‘‘अपने वर्तमान स्वरूप में और जिस तरह से संचालित होते हैं, वे खतरनाक उत्पाद हैं।’’ 

हम विश्वविद्यालय के शोधार्थी हैं जो यह अध्ययन करते हैं कि कैसे सोशल मीडिया समाचार, सूचना और समुदायों को व्यवस्थित करता है। सोशल मीडिया ऐप ‘‘अनुचित रूप से खतरनाक उत्पाद’’ की कानूनी परिभाषा के दायरे में आते हों या नहीं, लेकिन सोशल मीडिया कंपनियों का बिजनेस मॉडल लाखों किशोर उपयोगकर्ताओं पर निर्भर है। साथ ही, हमारा मानना ​​है कि कंपनियों ने उन उपयोगकर्ताओं की प्रभावी सुरक्षा के लिए पर्याप्त संसाधनों का निवेश नहीं किया है। कोविड-19 महामारी के दौरान बच्चों और किशोरों द्वारा मोबाइल फोन का उपयोग काफी बढ़ गया और यह उच्च स्तर पर बना हुआ है। स्वाभाविक रूप से, किशोर वहीं रहना चाहते हैं जहां उनके दोस्त हों, चाहे वह ‘स्केटिंग स्थल’ हो या फिर सोशल मीडिया मंच। 

हार्वर्ड के चैन स्कूल ऑफ पब्लिक हेल्थ के शोधार्थियों के हालिया अध्ययन के अनुसार, 2022 में, 17 वर्ष एवं इससे कम उम्र के यूट्यूब के 4.98 करोड़ उपयोगकर्ता, टिकटॉक के 1.9 करोड़, स्नैपचैट के 1.8 करोड़, इंस्टाग्राम के 1.67, फेसबुक के 99 लाख और ट्विटर के 70 लाख उपयोगकर्ता रहने के अनुमान हैं। सोशल मीडिया कंपनियों के लिए किशोर एक महत्वपूर्ण राजस्व स्रोत हैं। चैन स्कूल के अध्ययन के अनुसार, 2022 में 17 वर्ष और उससे कम उम्र के सोशल मीडिया उपयोगकर्ताओं से राजस्व 11 अरब अमेरिकी डॉलर था। 

इंस्टाग्राम ने लगभग 5 अरब अमेरिकी डॉलर की कमाई की, जबकि टिकटॉक और यूट्यूब ने 2 अरब अमेरिकी डॉलर से अधिक की कमाई की। सोशल मीडिया किशोरों के लिए कई प्रकार के जोखिम पैदा करता है, जिसमें उन्हें उत्पीड़न, धमकाने और यौन शोषण से लेकर खान-पान संबंधी विकारों और आत्मघाती विचारों को प्रोत्साहित करना आदि शामिल हैं। अमेरिकी संसद (कांग्रेस) द्वारा ऑनलाइन मंच पर बच्चों की सुरक्षा पर सार्थक कार्रवाई करने के लिए हमने तीन मुद्दों की पहचान की है, जिन पर ध्यान देने की आवश्यकता है। इनमें आयु, ‘बिजनेस मॉडल’ और ‘कंटेंट मॉडरेशन’ शामिल हैं। 

आप कितने वर्ष के हैं?
मेटा ने उपयोगकर्ता की उम्र सत्यापित करने के लिए कुछ संभावित रणनीतियों का वर्णन किया है, जैसे कि पहचान या वीडियो सेल्फी की आवश्यकता, और ‘जन्म दिन मुबारक हो’ संदेशों के आधार पर उनकी उम्र का अनुमान लगाने के लिए एआई (कृत्रिम मेधा) का उपयोग करना। मेटा ने कहा है कि नुकसान को रोकने के लिए ऑनलाइन किशोर सुरक्षा कानून की आवश्यकता है। 

उपयोगकर्ताओं की नयी पीढ़ी
सभी सोशल मीडिया मंचों के अपने निरंतर विकास के लिए किशोरों को अपनी ओर आकर्षित करना महत्वपूर्ण है। एक कंपनी के दस्तावेजों की समीक्षा पर आधारित जांच से पता चला है कि इंस्टाग्राम की विकास रणनीति किशोरों द्वारा परिवार के सदस्यों, विशेषकर छोटे भाई-बहनों को मंच पर लाने में मदद करने पर निर्भर करती है। 

कंटेंट मॉडरेशन
सोशल मीडिया कंपनियां सामग्री को नियंत्रित करने और अपने मंच पर सुरक्षा प्रदान करने के लिए एआई के उपयोग का वादा करती हैं, लेकिन मानव व्यवहार के प्रबंधन के लिए एआई कोई अचूक उपाय नहीं है। 

आगे की राह
वर्तमान में, किशोरों की मदद के लिए सोशल मीडिया कंपनियों को मानव ‘कंटेंट मॉडरेशन’ और आयु सत्यापन में निवेश करने की आवश्यकता होगी। लेकिन उससे भी समस्या का समाधान होने की संभावना नहीं है। वहीं, महामारी के बाद बड़ी संख्या में किशोरों के ऑनलाइन होने के साथ, यह संसद पर निर्भर है कि वह ऐसे नियम लागू करे जो अंततः गोपनीयता और सामुदायिक सुरक्षा को सोशल मीडिया डिजाइन के केंद्र में रखे। 

ये भी पढ़ें:- Pakistan Election: पाकिस्तान में आम चुनाव के लिए 26 करोड़ मतपत्रों के मुद्रण का काम पूरा