संपादकीय: डीपफेक पर शिकंजा 

एआई के दौर में डीपफेक लोकतंत्र, निजता और राष्ट्रीय सुरक्षा के लिए गंभीर चुनौती है। आईटी नियमों में हालिया संशोधन, डीपफेक और एआई-जनित सामग्री की नई परिभाषाएं, निर्दिष्ट सामग्री को शीघ्रता से हटाने का अनिवार्य प्रावधान नियामकीय ढांचे को ताकत देंगे। ये इस चुनौती से निबटने का सराहनीय प्रयास है। संशोधित नियमों में ‘एआई-जनित या सिंथेटिक मीडिया’, ‘डीपफेक’, ‘मॉर्फ्ड या मैनिपुलेटेड कंटेंट’ और ‘भ्रामक लेबलिंग’ जैसी स्पष्ट परिभाषाएं शामिल करने के बाद प्लेटफॉर्म का यह तर्क कि सामग्री ‘यूजर-जनरेटेड’ है, इसलिए उनकी जिम्मेदारी सीमित है, कुतर्क में बदल गया है।

अब यदि कोई ऑडियो-वीडियो एआई जनित है और उसे वास्तविक बताकर प्रसारित किया गया, तो साफ बताना होगा। गंभीर मामलों में शिकायत होने के तीन घंटे के भीतर सोशल मीडिया इंटरमीडियरी को इसे हटाना या निष्क्रिय करना होगा। यह प्रावधान महत्वपूर्ण सोशल मीडिया इंटरमीडियरी, मैसेजिंग सेवाओं, वीडियो-शेयरिंग साइट्स और होस्टिंग प्रदाताओं सभी पर लागू होगा। 

आईटी अधिनियम की धारा 79 के तहत प्लेटफॉर्म को ‘सेफ हार्बर’ सुरक्षा मिलती है, यानी यूजर की पोस्ट के लिए वे स्वतः दोषी नहीं माने जाते। अब नए नियमों के तहत यदि प्लेटफॉर्म समयबद्ध तरीके से डीपफेक हटाने, लेबलिंग और शिकायत-निवारण अपनाएंगी, तभी उनकी सेफ हार्बर सुरक्षा बचेगी। इसका अर्थ है कि अब उनकी जिम्मेदारी अधिक है और बचाव की गुंजाइश थोड़ी कम, हालांकि इन संशोधनों के बाद भी यह चुनौती बाकी है कि नियम मुख्यतः शिकायत-आधारित हैं, कंटेंट हटाने की प्रक्रिया तब सक्रिय होती है, जब कोई यूजर शिकायत करे और सरकार उस संबंधित सामग्री को फ्लैग करे। 

डीपफेक का शिकार स्थानीय पुलिस के साइबर सेल में एफआईआर दर्ज करा सकता है, साइबर क्राइम पोर्टल पर ऑनलाइन रिपोर्ट कर सकता है अथवा ग्रिवेंस ऑफिसर को ईमेल के जरिये औपचारिक शिकायत दर्ज करा सकता है। पर सवाल यह है कि हर यूजर दिन रात इसकी बात पर निगरानी नहीं रख सकता कि वह कब कहां और किस प्लेटफॉर्म पर डीपफेक का शिकार हो चुका है। 

इस मामले में आम उपयोगकर्ता विकल्पहीन नजर आता है, इसलिए भले ही एआई टूल्स सुलभ हैं और ‘क्राइम-एज़-ए-सर्विस’ मॉडल ने इसे संगठित अपराध का रूप दे दिया हो, नये नियमों के सख्त लेबलिंग, त्वरित टेकडाउन और ट्रेसबिलिटी से नुकसान को किंचित कम किया जा सके, लेकिन अधिक प्रभावी बनाने के लिए प्लेटफॉर्म को प्रोएक्टिव मॉनिटरिंग, एआई-आधारित डिटेक्शन और जोखिम-आधारित फ्लैगिंग अपनानी ही होगी। 

सर्विस प्रोवाइडर समय सीमा में कार्रवाई नहीं करता, तो सेफ हार्बर तत्काल समाप्त होने, भारी जुर्माने के साथ उसके विरुद्ध आपराधिक मामला बनना चाहिए, लेकिन यहां स्पष्ट आर्थिक दंड और पीड़ित के लिए क्षतिपूर्ति तंत्र का अभाव है, जो नियमों को कमजोर बनाएगा। जब तक अनुपालन न करने पर ठोस दंड, जैसे- राजस्व-आधारित जुर्माना, अस्थायी निलंबन या लाइसेंस शर्तें स्पष्ट न हों, तब तक नियमों की प्रभावशीलता सीमित रहेगी।