Deepfakes को PM मोदी ने बताया भारत के लिए बड़ा खतरा, कहा- तेजी से फैला सकती है असंतोष की आग

प्रधानमंत्री नरेंद्र मोदी ने डीपफेक्स (deepfakes) को भारत के लिए बड़ा खतरा बताया है। उन्होंने कहा कि इसके चलते अफरा-तफरी मच सकती है। 

नई दिल्ली। पीएम नरेंद्र मोदी ने कहा है कि भारत जिन बड़े खतरों का सामना कर रहा है उनमें से एक डीपफेक्स (deepfakes) हैं। इससे भारतीय सिस्टम को बड़ा खतरा है। ये समाज में अफरा-तफरी मचा सकते हैं। पीएम ने मीडिया से आग्रह किया कि लोगों को डीपफेक्स को लेकर शिक्षित करें।

पीएम ने कहा कि डीपफेक वीडियो "बड़ी चिंता" की बात हैं। उन्होंने ChatGpt टीम से डीपफेक वीडियो की पहचान करने और ऐसे वीडियो इंटरनेट पर प्रसारित होने पर चेतावनी देने के लिए कहा है। दिल्ली स्थित पार्टी मुख्यालय में भाजपा के दिवाली मिलन कार्यक्रम में पीएम ने ये बातें कहीं।

डीपफेक के कारण आ रहा नया संकट

पीएम ने कहा, "आर्टिफिशियल इंटेलिजेंस और उसमें भी डीपफेक के कारण एक नया संकट आ रहा है। भारत का बहुत बड़ा वर्ग ऐसा है, जिसके पास वेरिफिकेशन या ऑथेंटिकेशन के लिए व्यवस्था नहीं है। भारत में जिस भी चीज से मीडिया शब्द जुड़ता है, उसकी इज्जत है। जैसे कोई भी व्यक्ति हो गेरुए कपड़े हैं तो अपने यहां विरासत से एक स्वभाव है कि उसको इज्जत मिल जाती है। वैसा मीडिया को भी है। एक विरासत का लाभ उसको मिलता है। इसके कारण डीपफेक पर भी वो भरोसा कर लेते हैं। लोग सोचते हैं कि ऐसे थोड़े आया होगा, कुछ तो होगा। यह बहुत बड़े संकट की ओर जाएगा। शायद वह असंतोष की आग भी बहुत तेजी से फैला सकता है।"

उन्होंने कहा, "मान लीजिए कहीं कोई गलत चीज ने कोई नई समस्या पैदा कर दी, अगर सरकार को वहां पहुंचना है तो दूरी भी मायने रखती है, लेकिन आपके लिए दूरी मायने नहीं रखती। लोगों को आप (मीडिया) शिक्षित कर सकते हैं कि आखिर ये है क्या? आर्टिफिशियल इंटेलिजेंस कैसे काम करता है? डीपफेक क्या कर सकता है? कितना बड़ा संकट पैदा कर सकता है?

नरेंद्र मोदी ने कहा, "AI से जो चाहे वो बना सकते हैं। मैंने अभी एक वीडियो देखा कि मैं गरबा कर रहा हूं। मैं खुद भी देख रहा हूं कि क्या बढ़िया बनाया है। जबकि स्कूल की उम्र के बाद कभी गरबा खेलने का मौका नहीं मिला। स्कूल की उम्र में बहुत अच्छा गरबा खेलता था, लेकिन बाद में कभी मौका नहीं मिला। AI की ताकत है कि ऐसा वीडियो बना दिया जैसे आज ही गरबा खेला हो। वो चल रहा है। जो मुझे प्यार करते हैं वो भी इसे फॉलो कर रहे हैं। यह चिंता का विषय है। मैंने ChatGpt के लोगों को कहा था कि जैसे सिगरेट पर आता है कि इससे कैंसर हो सकता है वैसे तुम्हारे वीडियो पर आना चाहिए कि यह डीपफेक है। उन्होंने मुझसे कहा कि हमें भी इसकी चिंता है कि डीपफेक को कैसे रोका जाए।"

सोशल मीडिया पर वायरल हो रहे डीपफेक वीडियो
दरअसल, इन दिनों सोशल मीडिया पर डीपफेक वीडियो तेजी से वायरल हो रहे हैं। बीते दिनों एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो वायरल हुआ था। असली वीडियो किसी और महिला का था। AI की मदद से उस महिला के चेहरे को रश्मिका मंदाना से बदल दिया गया था। एक्ट्रेस काजोल भी डीपफेक वीडियो की शिकार हुईं हैं। उनका एक डीपफेक वीडियो वायरल हुआ है। इसमें काजोल को कैमरा के सामने कपड़े बदलते दिखाया गया है।

केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा था- गलत सूचना रोकना ऑनलाइन प्लेटफार्मों का "कानूनी दायित्व"

रश्मिका मंदाना का डीपफेक वीडियो वायरल होने पर पिछले सप्ताह केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा था कि गलत सूचना प्रसार को रोकना ऑनलाइन प्लेटफार्मों का "कानूनी दायित्व" है। यूजर या सरकारी प्राधिकरण से रिपोर्ट मिलने पर 36 घंटे के भीतर ऐसी सामग्री को हटाना अनिवार्य है। पीड़ित व्यक्तियों को आईपीसी के प्रावधानों के तहत अदालत में जाने का अधिकार है। जो लोग डीपफेक से प्रभावित हुए हैं वे अपने नजदीकी पुलिस स्टेशन में एफआईआर दर्ज कराएं और सूचना प्रौद्योगिकी (आईटी) नियम 2021 के तहत दिए गए उपायों का लाभ उठाएं।

केंद्र ने कहा है कि डीपफेक बनाने और फैलाने पर कड़ी सजा का प्रावधान है। इस मामले में दोषी पाए जाने पर 1 लाख रुपए का जुर्माना और तीन साल की जेल की सजा मिल सकती है।