सोशल मीडिया पर जब भी कोई वीडियो वायरल होता है, तो लोग कई बार फर्जी वीडियो को भी सच मानकर शेयर करने लगते हैं, और कुछ ही घंटों में फर्जी वीडियो की अफवाह आग की तरह फैल जाती है. बाद में पता चलता है कि वह वीडियो असली नहीं, बल्कि एआई से बना डीपफेक था. अब ऐसे ही मामलों पर केंद्र सरकार ने सख्त रुख अपना लिया है. नया नियम साफ कहता है अगर डीपफेक कंटेंट 3 घंटे में नहीं हटाया गया, तो न सिर्फ यूजर बल्कि प्लेटफॉर्म भी कानूनी मुसीबत में फंस सकता है.

एआई कंटेंट पर नई सख्ती क्यों?

पिछले कुछ समय में डीपफेक वीडियो और एआई से बने फर्जी फोटो तेजी से बढ़े हैं. इनसे चुनाव, समाज और व्यक्तिगत प्रतिष्ठा तक पर असर पड़ा है. इसी खतरे को देखते हुए इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने आईटी नियमों के तहत नए निर्देश जारी किए हैं. जिसका मकसद साफ है कि सोशल मीडिया पर भ्रम फैलाने वाले एआई कंटेंट पर तुरंत लगाम लगाई जाए.

सरकार ने साफ कर दिया है कि किसी भी एआई जनरेटेड फोटो या वीडियो पर स्पष्ट लेबल लगाना अनिवार्य होगा. यानी यूजर को यह बताना पड़ेगा कि कंटेंट असली है या एआई से बनाया गया है.

3 घंटे में हटाना होगा डीपफेक नहीं तो…

सबसे बड़ा बदलाव यह है कि अगर किसी डीपफेक या भ्रामक एआई कंटेंट की शिकायत मिलती है, तो संबंधित सोशल मीडिया प्लेटफॉर्म को 3 घंटे के भीतर उसे हटाना होगा. पहले यह समय 36 घंटे तक माना जाता था. अब देरी की गुंजाइश बेहद कम कर दी गई है.

अगर प्लेटफॉर्म तय समय में कंटेंट नहीं हटाता, तो उस पर जुर्माना और कानूनी कार्रवाई हो सकती है. बार-बार नियम तोड़ने पर प्लेटफॉर्म की सेफ हार्बर सुरक्षा भी खत्म की जा सकती है. सेफ हार्बर का मतलब है कि प्लेटफॉर्म यूजर द्वारा डाले गए कंटेंट के लिए सीधे जिम्मेदार नहीं माना जाता, लेकिन यह सुरक्षा हट गई तो कंपनी खुद मुकदमों में फंस सकती है.

लेबल नहीं तो सीधा अपराध

नए नियमों के तहत बिना लेबल के एआई कंटेंट पोस्ट करना अपराध माना जाएगा. एक बार अगर किसी कंटेंट पर एआई लेबल लग गया, तो प्लेटफॉर्म उसे हटा या छिपा नहीं सकता है. कम से कम 10 प्रतिशत हिस्सा साफ तौर पर वॉटरमार्क या लेबल से चिह्नित होना जरूरी बताया गया है.

यूजर को भी पोस्ट अपलोड करते समय यह घोषणा करनी होगी कि कंटेंट एआई से बना है या नहीं. हर तीन महीने में प्लेटफॉर्म को अपने यूजर्स को नियमों की याद दिलानी होगी और गलत इस्तेमाल पर सजा या जुर्माने की चेतावनी देनी होगी.

जीरो टॉलरेंस वाले मामले

बच्चों से जुड़ा अश्लील कंटेंट, बिना अनुमति निजी फोटो-वीडियो, फर्जी दस्तावेज या हिंसा भड़काने वाला एआई कंटेंट इन मामलों में तुरंत ब्लॉक करने का निर्देश है. ऐसे मामलों में किसी भी तरह की देरी बर्दाश्त नहीं की जाएगी.

शिकायत कहां करें?

अगर किसी यूजर को डीपफेक या भ्रामक एआई कंटेंट दिखता है, तो वह सबसे पहले उसी सोशल मीडिया प्लेटफॉर्म के ग्रिवेंस ऑफिसर या रिपोर्टिंग सिस्टम के जरिए शिकायत दर्ज कर सकता है. हर बड़े प्लेटफॉर्म को भारत में एक ग्रिवेंस अधिकारी नियुक्त करना अनिवार्य है. इसके अलावा, राष्ट्रीय साइबर अपराध पोर्टल cybercrime.gov.in पर भी शिकायत की जा सकती है. गंभीर मामलों में पुलिस या साइबर सेल से भी संपर्क किया जा सकता है.