डीपफेक से निबटेगी कैसे सरकार? मोदी तक आ चुके लपेटे में

Deepfake Video Case: IT अधिनियम की धारा 79 बना सोशल मीडिया प्लेटफॉर्म को ‘सुरक्षा कवच’, डीपफेक से कैसे निपटेगी सरकार?
डीपफेक मामले को लेकर केंद्रीय इलेक्ट्रॉनिक्स और टेक्नोलॉजी राज्य मंत्री राजीव चंद्रशेखर ने चिंता जाहिर की है। डीपफेक से निपटने को सरकार ने 24 नवंबर को गूगल फेसबुक यूट्यूब समेत ऑनलाइन प्लेटफॉर्म बुलाये है। वहीं केंद्रीय मंत्री ने आईटी अधिनियम की धारा 79 की आड़ में सोशल मीडिया प्लेटफॉर्मस के गलत फायदे उठाने का जिक्र किया है।

सोशल मीडिया प्लेटफॉर्म उठा रहे धारा 79 का गलत फायदा।
“आज के समय इंटरनेट प्लेटफॉर्मों मे अच्छे व्यवहार की कमी आ चुकी है: राजीव चंद्रशेखर
आईटी अधिनियम की धारा 79 का गलत फायदा उठा रही सोशल मीडिया कंपनियां
सूचना प्रौद्योगिकी (आईटी) नियम, 2021 के तहत सोशल मीडिया कंपनियां पर कसी जाएगी नकेल

नई दिल्ली 22 नवंबर। आर्टिफिशियल इंटेलिजेंसी की मदद से इंटरनेट पर यूजर्स का काम काफी आसान हो चुका है। एआई (AI) ने यूजर्स की जिंदगी बेहतर बनाई है, लेकिन इसने कई समस्याओं को भी जन्म दिया है।
पिछले कुछ दिनों पहले भारत की पॉपुलर साउथ सेलिब्रिटी रश्मिका मंदाना की डीपफेक वीडियो सोशल मीडिया पर खूब वायरल हुई। इस घटना के बाद डीपफेक टेक्नोलॉजी के खतरे को लेकर काफी चर्चा हो रही है। इंटरनेट पर ऐसे अपराध को अंजाम देने वाले अपराधियों तक पहुंचना काफी मुश्किल है।
इस मामले पर केंद्रीय इलेक्ट्रॉनिक्स और टेक्नोलॉजी राज्य मंत्री राजीव चंद्रशेखर (Rajeev Chandrasekhar) ने चिंता जताई है। डीपफेक से निपटने के लिए सरकार ने 24 नवंबर को गूगल, फेसबुक, यूट्यूब समेत ऑनलाइन प्लेटफॉर्म को बुलाया है। सरकार ने चेतावनी दी है कि डीपफेक पाए जाने के बाद कंटेंट ना हटाए जाने वाले प्लेटफॉर्म के खिलाफ कड़ी कार्रवाई होगी।

सोशल मीडिया प्लेटफॉर्म उठा रहे धारा 79 का गलत फायदा: राजीव चंद्रशेखर

इसी बीच राजीव चंद्रशेखर लगातार आईटी अधिनियम की धारा 79 से सोशल मीडिया प्लेटफॉर्मस के उठाए जा रहे गलत फायदे का जिक्र कर रहे हैं।

उन्होंने आईटी अधिनियम की धारा 79 की बारीकियों को समझाया है। उन्होंने कहा कि 22 साल पहले अटल बिहारी वाजपेयी सरकार में सूचना प्रौद्योगिकी अधिनियम, 2000 लागू किया गया था। साल 2008 में इसमें संशोधन किया गया। इसमें धारा 79 है।

क्या है धारा 79?
यह धारा सोशल मीडिया प्लेटफॉर्मस के लिए एक सुरक्षा कवच बन चुका है। इस धारा में किसी भी इंटरनेट प्लेटफॉर्म पर मौजूद कंटेंट के लिए के लिए इंटरनेट प्लेटफॉर्म कंपनी जिम्मेदार नहीं होगी, यह यूजर्स की जिम्मेदारी है।

अगर सरकार या किसी व्यक्ति को मुकदमा चलाना हो तो वो यूजर्स पर मुकदमा चलाएं, ना कि प्लेटफार्म पर। इस धारा के तहत सोशल मीडिया कंपनी अपनी जिम्मेदारियों से पलड़ा झाड़ने में कामयाब हो जाते हैं।
राजीव चंद्रशेखर ने आगे कहा, मैं उन दिनों आईटी कमेटी का हिस्सा था और मैंने इस धारा का विरोध किया था।

राजीव चंद्रशेखर ने कहा,”आज के समय इंटरनेट प्लेटफॉर्मों मे अच्छे व्यवहार की कमी आ चुकी है, जिसके लिए कहीं न कहीं धारा 79 जिम्मेदार है। हालांकि, अब सूचना प्रौद्योगिकी (आईटी) नियम, 2021 में किसी भी यूजर के गलत सूचना के प्रसार को रोकना ऑनलाइन प्लेटफ़ॉर्म काइकानूनी दायित्व है।”

उन्होंने आगे कहा कि नियम के मुताबिक, यूजर्स या सरकार से रिपोर्ट प्राप्त होने पर 36 घंटे में ऐसे कंटेंट हटाना अनिवार्य है। अगर प्लेटफॉर्म ऐसा नहीं करते तो शिकायतकर्ता कंपनी के खिलाफ कोर्ट में मुकदमा दर्ज करवा सकता है।

प्रधानमंत्री मोदी ने भी जताई चिंता

कुछ दिनों पहले डीपफेक कंटेंट पर चिंता जाहिर करते हुए प्रधानमंत्री नरेंद्र मोदी ने कहा कि सोशल मीडिया प्लेटफॉर्म पर उनकी ढेरों वीडियो वायरल हो रही हैं, जिनमें वो गाना गाते और गरबा खेलते हुए दिखाई दे रहे हैं। उन्होंने कहा कि मीडिया को डीप फेक वीडियो के बारे में लोगों को शिक्षित करना चाहिए।

डीपफ़ेक कैसे बन सकता है लोगों के लिए ख़तरा?

हाल के दिनों में डीपफ़ेक के मामलों में बढ़ोतरी हुई है.

पिछले कुछ दिनों से आप अख़बारों, टीवी न्यूज़ और सोशल मीडिया पर डीपफ़ेक या डीपफ़ेक वीडियो के बारे में बार-बार सुन देख रहे होंगे.

डीपफ़ेक तकनीक के शिकार होने के मामले लगातार सामने आ रहे हैं.

इस तकनीक के ग़लत इस्तेमाल से जहां आम लोग प्रभावित हो रहे हैं, वहीं हाल के दिनों में सेलिब्रिटीज़ के भी कई डीपफ़ेक वीडियो वायरल हुए हैं.

इस कड़ी में फ़िल्म अभिनेत्री रश्मिका मंदाना, काजोल, कटरीना का नाम सामने आया वहीं प्रधानमंत्री नरेंद्र मोदी का गरबा करते हुए वायरल हुए वीडियो ने सब को चौंका भी दिया कि क्या ये सच है?
लेकिन ये डीपफ़ेक के मामले केवल भारत तक सीमित हो ऐसा नहीं है.

अमेरिका के पूर्व राष्ट्रपति बराक ओबामा से लेकर फे़सबुक जो अब मेटा के नाम से जाना जाता है के प्रमुख मार्क ज़करबर्ग भी इससे अछूते नहीं रहे हैं.

ये सभी वीडियो जो आपने देखें हैं ये सभी डीपफ़ेक हैं.
डीपफ़ेक के लिए एआई का इस्तेमाल होता है.

डीपफे़क है क्या?
डीपफे़क दरअसल आर्टिफिशियल इंटेलीजेंस(एआई) का इस्तेमाल करता है जिसके ज़रिए किसी की भी फे़क(फ़र्जी) इमेज या तस्वीर बनाई जाती है.

इसमें किसी भी तस्वीर,ऑडियो या वीडियो को फ़ेक(फ़र्ज़ी) दिखाने के लिए एआई के एक प्रकार डीप लर्निंग का इस्तेमाल होता है और इसलिए इसे डीपफेक़ कहा जाता है.

इसमे से ज़्यादातर पोर्नाग्राफिक या अश्लील होते हैं.

एम्सटर्डम स्थित साइबर सिक्सयोरिटी कंपनी डीपट्रेस के मुताबिक़ 2017 के आख़िर में इसकी शुरुआत के बाद डीपफे़क का तकनीकी स्तर और इसके सामाजिक प्रभाव में तेज़ी से विकास हुआ.

डीपट्रेस की साल 2019 में छपी इस रिपोर्ट के मुताबिक कुल 14,678 डीपफे़क वीडियो ऑनलाइन थे. इनमें से 96 फ़ीसदी वीडियो पोर्नोग्राफिक सामग्री थी और चार फ़ीसदी ऐसे थे जिनमें ये सामग्री नहीं थी.
डीपट्रेस ने जेंडर, राष्ट्रीयता और पेशे के आधार पर जब डीपफेक़ वीडियो का आकलन किया तो पाया कि डीपफ़ेक पोर्नोग्राफी का इस्तेमाल महिलाओं को नुकसान पहुंचाने के लिए किया जाता है.

वहीं डीपफ़ेक पोर्नोग्राफी वैश्विक स्तर पर बढ़ रही है और इन पोर्नोग्राफी वीडियो में मनोरंजन जगत से जुड़ी अभिनेत्रियों और संगीतकारों का इस्तेमाल किया गया था.

वकील पूनीत भसीन कहती हैं कि कुछ साल पहले सुली और बुली बाई के मामले सामने आए थे जिनमें महिलाओं को टारगेट किया गया था.

लेकिन डीपफ़ेक में महिलाओं के साथ साथ पुरुषों की भी टारगेट किया गया है. ये अलग बात है कि ज़्यादातर मामलों में पुरुष ऐसे फ़र्जी सामग्री को दरकिनार कर देते हैं.

मुंबई में रहने वाली पुनीत भसीन साइबर लॉ और डेटा प्रोटेक्शन प्राइवेसी की एक्सपर्ट हैं और वे मानती है कि डीपफ़ेक अब समाज में दीमक की तरह से फ़ैल रहा है.

वे कहती हैं, ”पहले भी लोगों की तस्वीरों को मॉर्फ़ किया जाता था लेकिन वो पता चल जाता था लेकिन एआई से जो डीपफ़ेक किया जा रहा है वो इतना परफेक्ट (सटीक) होता है कि सही या ग़लत में भेद कर पाना मुश्किल होता है. ये किसी के शील का अपमान करने को काफ़ी होता है.”

जानकार बताते हैं कि ये तकनीक इतनी विकसित है कि वीडियो या ऑडियो रियल या वास्तविक नज़र आता है.
डीपफ़ेक इतना परफेक्ट होता है कि सही या ग़लत में भेद कर पाना मुश्किल होता है. ये किसी कि शील का अपमान करने के लिए काफ़ी होता है.
पूनीत भसीन
वकील
लेकिन क्या ये केवल वीडियो तक सीमित हैं?
ये तकनीक केवल वीडियो में ही उपयोग में नहीं लाई जाती बल्कि फ़ोटो को भी फेक दिखलाया जाता है और ये पता लगाना इतना मुश्किल होता है कि असल नहीं बल्कि फ़र्जी है.

वहीं इस तकनीक से ऑडियो का भी डीपफ़ेक किया जाता है. बड़ी हस्तियों की आवाज़ बदलने को वॉयस स्किन या वॉयस क्लोन्स का इस्तेमाल किया जाता है.

साइबर सिक्योरिटी और एआई विशेषज्ञ पवन दुग्गल कहते हैं, ”डीपफे़क- कंप्यूटर, इलेक्ट्रानिक फ़ॉरमेट और एआई का मिश्रण है. इसे बनाने को किसी तरह के प्रशिक्षण की ज़रुरत नहीं होती. इसे मोबाइल फ़ोन से भी बनाया जा सकता है जो एप और टूल के ज़रिए बनाया जा सकते हैं.”

कौन कर रहा है डीपफे़क का उपयोग?
एक सामान्य कंप्यूटर पर अच्छा डीपफ़ेक बनाना मुश्किल है.

डीपफ़ेक एक उच्च-स्तरीय डेस्कटॉप पर बेहतरीन फ़ोटो और ग्राफिक्स कार्ड के ज़रिए बनाया जा सकता है.

पवन दुग्गल बताते हैं कि इसका ज़्यादातर इस्तेमाल साइबर अपराधी कर रहे हैं.

वे बताते हैं, ”ये लोगों के अश्लील वीडियो बनाते हैं और फिर ब्लैक मेल करके फ़िरौती के लिए इसका इस्तेमाल करते हैं. किसी व्यक्ति की छवि को ख़राब करने के लिए सोशल मीडिया पर डाल देते हैं और इसका उपयोग ख़ासकर सेलीब्रिटीज़, राजनीतिज्ञों और बड़ी हस्तियों को नुकसान करने के लिए किया जा रहा है.”

इसका एक और कारण बताते हुए पुनीत भसीन कहती हैं कि लोग ऐसे वीडियो इसलिए भी बनाते हैं क्योंकि ऐसे वीडियो ज़्यादा लोग देखते हैं और उनके व्यू बढ़ते हैं और इससे उनका फ़ायदा होता है.

वहीं पवन दुग्गल ये अशंका जताते हैं कि डीपफ़ेक का इस्तेमाल चुनावों को भी प्रभावित कर सकता है.

उनके अनुसार, ” राजनेताओं के डीपफ़ेक वीडियो बनाए जा सकते हैं, इससे न केवल उनकी छवि को धूमिल किया जा सकता है लेकिन पार्टी की जीत की संभवनाओं पर भी असर पड़ सकता है.”

चुनावों में डीपफ़ेक वीडियो के उपयोग की बात की जाए तो दिल्ली विधानसभा चुनाव से पहले बीजेपी ने एआई का इस्तेमाल करके पार्टी नेता मनोज तिवारी के डीपफ़ेक वीडियो बनाए थे.

इसमें दिखाया गया था कि वो मतदाताओ से दो भाषाओं में बात करके वोट डालने की अपील कर रहे थे.

इस डीपफ़ेक वीडियो में वे हरियाणवी और हिंदी में लोगों से वोट डालने की अपील कर रहे थे.

क़ानून में क्या है प्रावधान?

भारतीय जनता पार्टी के दिवाली समारोह में प्रधानमंत्री ने एआई का इस्तेमाल कर डीपफ़ेक बनाने पर चिंता ज़ाहिर की थी.

उन्होंने कहा था, ”डीपफ़ेक भारत के सामने मौजूद सबसे बड़े ख़तरों में से एक है. इससे अराजकता पैदा हो सकती है.”

केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव कह चुके है कि सरकार जल्द ही डीपफ़ेक पर सोशल मीडिया से चर्चा करेगी और अगर इन मंचों ने उपयुक्त कदम नहीं उठाए तो उन्हें आईटी अधिनियम के सेफ़ हार्बर में इम्यूनिटी या सरंक्षण नहीं मिलेगा.”

उन्होंने ये भी कहा कि डीपफ़ेक के मुद्दे पर कंपनियों को नोटिस भी जारी किया गया था और इस सिलसिले में उनके जवाब भी आए हैं.

डीपफे़क के मामले सामने आने के बाद इस बात पर बहस तेज़ हो गई है कि क्या कड़े क़ानून बनाने की ज़रुरत है?

वकील पुनीत भसीन कहती हैं कि भारत में आईटी एक्ट में सज़ा का प्रावधान हैं.

वहीं पिछले साल इस सिलसिले में इंटरमिडियरी गाइडलाइन्स भी आई थी जिसमें कहा गया था कि ऐसी सामग्री जिसमें नग्नता, अश्लीलता हो और अगर किसी की मान, प्रतिष्ठा को नुकसान हो रहा हो तो ऐसी सामग्री को लेकर किसी भी प्लेटफॉर्म को शिकायत जाती है तो उन्हें तुरंत हटाने के दिशानिर्देश हैं.

वे कहती हैं, ”पहले ये प्लेटफॉर्म कहते थे कि वे अमेरिका या जिस देश में है वहां के स्थानीय क़ानून द्वारा नियमित है. लेकिन अब ये कंपनियां एफ़आईआर दर्ज कराने के लिए कहती है और फिर सामग्री को प्लेटफॉर्म से हटाने के लिए कोर्ट के ऑर्डर की मांग करती हैं.”

वे आईटी मंत्री के कंपनियों को इम्यूनिटी देने के मामले पर कहती हैं, ”आईटी एक्ट के सेक्शन 79 के एक अपवाद के तहत कंपनियों को सरंक्षण मिलता था. अगर किसी प्लेटफॉर्म पर सामग्री किसी तीसरी पार्टी ने अपलोड की है लेकिन प्लेटफॉर्म ने सामग्री को सरकुलेट नहीं किया है तो ऐसे में प्लेटफॉर्म को इम्यूनिटी मिलती थी और माना जाता था कि प्लेटफॉर्म ज़िम्मेदार नहीं है.”

लेकिन इंटरमिडियरी गाइडलाइंस में ये स्पष्ट किया गया कि प्लेटफॉर्म के शिकायत अधिकारी के पास सामग्री को लेकर ऐसी शिकायत आती है तो और कोई कार्रवाई नहीं की जाती है तो सेक्शन 79 के अपवाद के तहत इम्यूनिटी नहीं मिलेगी और इस प्लेटफॉर्म के ख़िलाफ़ भी कार्रवाई होगी.

ऐसे में जिसने सामग्री प्लेटफॉर्म पर डाली है उसके ख़िलाफ़ तो मामला बनेगा ही वहीं जिस प्लेटफॉर्म पर अपलोड किया गया उसके ख़िलाफ़ भी सज़ा होगी।
भारत के आईटी एक्ट 2000 , के सेक्शन 66 ई में डीपफ़ेक से जुड़े आपराधिक मामलों के लिए सज़ा का प्रावधान किया गया है.

इसमें किसी व्यक्ति की तस्वीर को खींचना, प्रकाशित और प्रसारित करना, निजता के उल्लंघन में आता है और अगर कोई व्यक्ति ऐसा करता हुआ पाया जाता है तो इस एक्ट के तहत तीन साल तक की सज़ा या दो लाख तक के ज़ुर्माना का प्रावधान किया गया है.

वहीं आईटी एक्ट के सेक्शन 66 डी में ये प्रावधान किया गया है कि अगर कोई किसी संचार उपकरण या कंप्यूटर का इस्तेमाल किसी दुर्भावना के इरादे जैसे धोख़ा देने या किसी का प्रतिरुपण के लिए करता है तो ऐसे में तीन साल तक की सज़ा या एक लाख रुपए तक के ज़ुर्माने का प्रावधान है.

भारत के आईटी एक्ट 2000 , के सेक्शन 66 ई में डीपफ़ेक से जुड़े आपराधिक मामलों के लिए सज़ा का प्रावधान किया गया है.

कैसे जानें डीपफ़ेक के बारे में?

किसी भी डीपफ़ेक सामग्री को जानने के लिए कुछ बिंदुओं का इस्तेमाल कर सकते हैं.

आंखों को देखकर – अगर कोई वीडियो डीपफ़ेक है तो उसमें लगा चेहरा पलक नहीं झपक पाएगा.

होठों को ध्यान से देखकर -डीपफ़ेक वीडियो में होठों के मूवमेंट और बातचीत में सामंजस्य नहीं दिखाई देगा.

बाल और दांत के ज़रिए -डीपफ़ेक में बाल के स्टाइल से जुड़े बदलाव को दिखाना मुश्किल होता है और दांत को देखकर भी पहचाना जा सकता है कि वीडियो डीपफ़ेक है.

जानकारों का मानना है कि डीपफ़ेक एक बड़ी समस्या है और इस पर लगाम लगाने के लिए कड़े क़ानून बनाए जाने की ज़रुरत है नहीं तो भविष्य में इसके घातक परिणाम हो सकते हैं.