जैसे जैसे तकनीक प्रगति कर रही है, असली तस्वीरों और डीपफेक में फर्क करना बहुत मुश्किल होता जा रहा है। भारत भी डीपफेक की समस्या से घिरता जा रहा है।
दुनिया के कई दूसरे देशों की ही तरह भारत में भी डीपफेक का इस्तेमाल कर ऐसे लोगों को निशाना बनाया जा रहा है जो सेलिब्रिटी हैं या फिर राजनीति से ताल्लुक रखते हैं। सबसे ताजा मामला भारतीय अभिनेत्री रश्मिका मंदाना का है। रश्मिका मंदाना का डीपफेक वीडियो पिछले महीने में बहुत तेजी से वायरल हुआ था।
उस डीपफेक वीडियो में किसी और महिला के चेहरे पर रश्मिका मंदाना का चेहरा लगा दिया गया था। दरअसल आर्टिफिशियल इंटेलिजेंस की मदद से महिला का चेहरा बदलकर रश्मिका मंदाना जैसा कर दिया गया था। इस वीडियो के वायरल होने के बाद मंदाना ने एक बयान में कहा था, "यह ना केवल उनके लिए बल्कि हर किसी के लिए डराने वाला है।"
उन्होंने कहा था कि तकनीक का ऐसा गलत इस्तेमाल किसी के साथ भी हो सकता है। बॉलीवुड अभिनेत्री के साथ हुई घटना के बाद दिल्ली पुलिस ने भी जांच शुरू की थी और चार लोगों को पकड़ा था। लेकिन पुलिस यह पता नहीं लगा पाई कि इस वीडियो को किसने बनाया है।
डीपफेक के शिकार
डीपफेक का शिकार कोई भी हो सकता है, लेकिन महिलाएं खासकर इसके निशाने पर होती हैं। एक्सपर्ट्स का कहना है कि सोशल मीडिया पर एक्टिव रहने वाले लोग साइबर अपराधियों का ज्यादातर निशाना बनते हैं और डीपफेक बनाने वाले सोशल मीडिया से ही लोगों के वॉयस सैंपल और तस्वीरें निकाल लेते हैं।
डीपफेक (उस ऑडियो, वीडियो, फोटो मीडिया) को कहा जाता है, जिसमें आर्टिफिशियल इंटेलिजेंस के जरिए छेड़छाड़ कर किसी के चेहरे पर दूसरे का चेहरा लगा दिया जाता है। डीपफेक तकनीक में वास्तविक फुटेज के ऑडियो और वीडियो से छेड़छाड़ की जाती है। इसका इस्तेमाल ज्यादातर नेताओं और प्रसिद्ध हस्तियों की छवि को धूमिल करने के लिए किया जाता है।
सरकार की सख्ती
अब केंद्र सरकार ने इस समस्या को लेकर एक एडवाइजरी जारी की है। मंगलवार को केंद्र सरकार ने सभी सोशल मीडिया कंपनियों को सूचना प्रौद्योगिकी नियमों का पालन करने की सलाह दी है। इससे पहले भी इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय एक ए़डवाइजरी जारी कर चुका है।
ताजा एडवाइजरी में मंत्रालय ने कहा है सोशल मीडिया प्लेटफॉर्म्स को यूजर्स को आईटी नियमों के तहत बैन कंटेंट को पब्लिश न करने के बारे में जागरूक करना चाहिए। साथ ही कहा गया है कि यूजर्स को फर्जी वीडियो, मैसेज या कंटेंट डालने से रोकने का काम सोशल मीडिया प्लेटफॉर्म्स का है ताकि इससे अन्य यूजर्स को नुकसान ना हो।
एडवाइजरी के मुताबिक सोशल मीडिया प्लेटफॉर्म्स यूजर्स को यह भी बताएंगे कि आईटी कानून के नियम का पालन नहीं करने पर उनके खिलाफ कानूनी कार्रवाई की जा सकती है।
नवंबर के महीने में भी केंद्र सरकार ने एक आदेश जारी कर डीपफेक वीडियो की पहचान करने और उन्हें हटाने के लिए कहा था। केंद्रीय मंत्री अश्विनी वैष्णव ने कहा था, "डीपफेक एक बड़ा मुद्दा है। यह हम सभी के लिए एक बहुत बड़ी समस्या है।"
इससे पहले दिल्ली में ग्लोबल पार्टनरशिप ऑन आर्टिफिशियल इंटेलिजेंस (जीपीएआई) को संबोधित करते हुए भारतीय प्रधानमंत्री नरेंद्र मोदी ने डीपफेक के बढ़ते मामलों को लेकर चिंता जाहिर की थी।
मोदी ने कहा था कि डीपफेक देश के सामने खड़े बड़े खतरों में से एक है। मोदी के मुताबिक एआई जेनरेटिव वीडियो और तस्वीरों में बढ़ोत्तरी के बीच लोगों को नई तकनीक से सावधान रहने की जरूरत है।
