डीपफेक्स विनियमन: डीपफेक्स वीडियो एक प्रकार का फर्जी वीडियो है जिसे कृत्रिम बुद्धिमत्ता (ए.आई.) का उपयोग करके बनाया जाता है। इस तकनीक का उपयोग किसी व्यक्ति के चेहरे को किसी अन्य व्यक्ति के चेहरे से बदलने के लिए किया जा सकता है।
डीपफेक्स पर सरकार की सलाह: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मंगलवार को कहा है कि, उसने सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया एथिक्स कोड) नियम, 2021 के अनुपालन के लिए सोशल मीडिया कंपनियों को एक और सलाहनामा भेजा है। इस सलाहनामा का उद्देश्य सोशल मीडिया कंपनियों को आर्टिफिशियल इंटेलिजेंस से तैयार किए गए व्यक्तियों के ‘डीपफेक’ क्लिप पर अधिक सख्ती से नकेल कसने के लिए प्रेरित करना था। इसी तरह की सलाहनामा पहले नवंबर की शुरुआत में सोशल मीडिया प्लेटफॉर्म को भेजा गया था।
आईटी मंत्रालय द्वारा किये गए कदम
आईटी मंत्रालय ने एक प्रेस विज्ञप्ति में कहा, “यह सलाहनामा यह अनिवार्य करती है कि मॉडरेटर प्रॉहिबिटेड कंटेंट, विशेष रूप से आईटी नियमों के नियम 3(1)(बी) के तहत निर्दिष्ट सामग्री को उपयोगकर्ताओं को स्पष्ट और सटीक रूप से संप्रेषित करें।”
इस सलाहनामे को एक महीने तक की चर्चा के बाद जारी किया गया है, जिसमें डीपफेक्स को नियमित करने की बात कही गई है। प्रधानमंत्री नरेंद्र मोदी ने भी समर्थकों के साथ दीपावली के दौरान बातचीत के दौरान डीपफेक्स पर एक टिप्पणी की थी।
आईटी मंत्री अश्विनी वैष्णव ने नवंबर में कहा था कि डीपफेक्स को नियमित करने के लिए जल्द ही नियम बनाए जाएंगे। हालांकि, कोई कॉन्ट्रैक्ट सामने नहीं आया है। सरकार ने कहा कि इसके बजाय “यदि और जब आवश्यक हो” तो आईटी नियमों में आगे संशोधन किए जाएंगे। आईटी मंत्रालय ने प्लेटफॉर्म को भेजे गए सलाहकार की पूरी कॉपी साझा नहीं की है।
सरकार की डीपफेक्स पर कार्रवाई अभिनेत्री रश्मिका मंदाना की एक वायरल फेक क्लिप के बाद हुई, जिसने हर तरफ हलचल मचा दी और इस क्लिप के बाहर आने के बाद लोग ये समझ ही नहीं पा रहे थे कि जो महिला वीडियो में दिखाई दे रही है वो कोई और है। ये क्लिप देखने में एकदम असली थी और इस क्लिप के सामने आने के बाद से ही लोगों के मन में इस डीपफेक को लेकर चिंता होने लगी और सरकार ने भी इस मुद्दे को गंभीरता से लिया है।
सोशल मीडिया प्लेटफॉर्म को सलाह
आईटी मंत्रालय की जारी सलाह के मुताबिक डिजिटल प्लेटफॉर्मों को यह सुनिश्चित करना चाहिए कि उपयोगकर्ताओं को भारतीय दंड संहिता (आईपीसी) और आईटी अधिनियम, 2000 जैसे दंडात्मक प्रावधानों के बारे में जानकारी दी जाए। इसके साथ ही ऑनलाइन मंचों के उपयोग की सेवा शर्तों और उपयोगकर्ता समझौतों में स्पष्ट उल्लेख होना चाहिए कि प्रासंगिक भारतीय कानूनों के तहत कानून प्रवर्तन एजेंसियों को कानूनी उल्लंघनों की जानकारी देना मध्यस्थों या मंचों का दायित्व है।
इसके अतिरिक्त, ऑनलाइन मंचों को भी यह जिम्मेदारी होनी चाहिए कि वे उपयोगकर्ताओं को डिजिटल मध्यस्थों पर निषिद्ध सामग्री से संबंधित किसी भी जानकारी को होस्ट करने, प्रदर्शित करने, अपलोड करने, संशोधित करने, प्रकाशित करने, प्रसारित करने, संग्रहीत करने, अपडेट करने या साझा करने से बचने के लिए उचित प्रयास करें।
वास्तव में, एक महीने के भीतर ही केंद्रीय कौशल विकास और उद्यमिता, इलेक्ट्रॉनिक्स और आईटी मंत्री राजीव चंद्रशेखर ने डीपफेक के गंभीर मुद्दों का समाधान करने के लिए उद्योग के प्रमुखों के साथ महत्वपूर्ण बैठकें बुलाईं। इस बैठक के दौरान, उन्होंने सभी प्लेटफॉर्मों और मध्यस्थों के लिए वर्तमान कानूनों और विनियमों का सख्ती से पालन करने की तात्कालिकता पर जोर दिया, इस बारे में बताया कि आईटी नियम डीपफेक के खतरों को बड़े पैम्बर में दूर कर सकते हैं।
उन्होंने कहा कि गलत सूचना इंटरनेट पर उपयोगकर्ताओं की सुरक्षा और विश्वास के लिए एक गहरा खतरा है। डीपफेक, जो ए.आई. द्वारा संचालित गलत सूचना है, हमारे डिजिटल नागरिकों की सुरक्षा और विश्वास के लिए खतरे को बढ़ाता है। 17 नवंबर को प्रधानमंत्री मोदी ने देश को डीपफेक के खतरों के बारे में सचेत किया और इसके बाद, मंत्रालय ने भारतीय इंटरनेट के सभी हितधारकों के साथ दो डिजिटल इंडिया संवाद भी किए, जिससे उन्हें अक्टूबर 2022 में अधिसूचित आईटी नियमों के प्रावधानों और अप्रैल 2023 में संशोधन के बारे में सतर्क किया गया और जानकारी दी गई, जिसमें सभी सोशल मीडिया मध्यस्थों और प्लेटफॉर्मों पर 11 विशिष्ट निषिद्ध सामग्री उपलब्ध की गई थी।
डीपफेक वीडियो क्या होता है
डीपफेक वीडियो एक प्रकार का फर्जी वीडियो है जिसे कृत्रिम बुद्धिमत्ता (ए.आई.) का उपयोग करके बनाया जाता है। इस तकनीक का उपयोग किसी व्यक्ति के चेहरे को किसी अन्य व्यक्ति के चेहरे से बदलने के लिए किया जा सकता है, जिससे यह वास्तविक वीडियो की तरह दिखाई देता है।
इन 11 गतिविधियों में शामिल होना गलत है:
- नेशनल सिक्योरिटी, यूनिटी, डिफेंस ऑफ इंडिया, विदेशी राज्यों में फ्रेंडली रिलेशन, पब्लिक ऑर्डर के लिए खतरा
- बाल अश्लीलता
- अश्लीलता
- दुष्प्रचार या गलत या भ्रामक जानकारी
- लिंग, धर्म, नस्ल आदि के आधार पर अपमान करना
- बिना सहमति निजी जानकारी शेयर करना
- किसी दूसरे की इमेज को नुकसान पहुंचाना
- कमर्शियल फ्रॉड
- ऑनलाइन गेम में धोखा या धोखाधड़ी
- सॉफ्टवेयर वायरस या मैलवेयर
- कोई अन्य गैरकानूनी गतिविधि
आगामी सप्ताह में जांच होगी:
इलेक्ट्रॉनिक्स और आईटी राज्य मंत्री राजीव चंद्रशेखर ने बताया कि आगामी सप्ताह से सरकार द्वारा जारी सलाहनामे के अमल की जांच की जाएगी, और जरूरत पड़ने पर आईटी नियम में भी संशोधन किया जा सकता है। उन्होंने कहा कि गलत सूचना और ए.आई. की मदद से बनाए जाने वाले डीपफेक वीडियो डिजिटल नागरिक की सुरक्षा के लिए खतरनाक है। प्रधानमंत्री नरेंद्र मोदी ने पिछले महीने एक कार्यक्रम के दौरान डीपफेक वीडियो के बारे में चिंता जाहिर की थी।