‘’हा माझा नग्न फोटो आहे, पण तो खरा नाहीये. असे डीपफेक फोटो तयार करण्यासाठी मला पाच मिनिटांपेक्षा कमी वेळ लागला’’

न्यूझीलंडच्या संसदेत भर अधिवेशनात खासदार लॉरा मॅकक्लूर यांनी स्वतःचा एक AI-निर्मित नग्न फोटो दाखवला. असे बनावट फोटो तयार करणे किती सोपे आहे आणि ते किती धोकादायक असू शकते हे लोकांना सांगणे हा त्यांचा उद्देश होता. लॉरा यांनी संसदेत सांगितले की, गुगल सर्चमधून सापडलेल्या वेबसाइटचा वापर करून त्यांनी अवघ्या काही मिनिटांत त्यांचा डीपफेक फोटो तयार केला. त्यांनी डीपफेक आणि एआयचे नियमन करण्यासाठी कायदा करण्याची मागणी केली आहे.

खासदार लॉरा मॅकक्लू म्हणाल्या, "समस्या तंत्रज्ञानात नाही, तर लोकांना त्रास देण्यासाठी त्याचा गैरवापर करण्यात आहे. आपल्याला यावर उपाय शोधावा लागेल. डीपफेक फोटो तयार करण्यासाठी, तुम्हाला फक्त एका बॉक्समध्ये टिक करायची आहे आणि तुमचे वय 18 वर्षांपेक्षा जास्त आहे आणि तुमच्याकडे फोटोमधील व्यक्तीची संमती आहे असे म्हणावे लागेल. तथापि, बहुतेक प्रकरणांमध्ये संमती घेतली जात नाही. लॉ असोसिएशनच्या मते, 90 ते 95% ऑनलाइन डीपफेक व्हिडिओ हे संमतीशिवायचे अश्लील कंटेंट असतात. यापैकी सुमारे 90% व्हिडिओ महिलांना नकारात्मक दृष्टिकोनातून दाखवतात.

मॅकक्लूर म्हणाल्या की, डीपफेकशी संबंधित धमक्या किंवा सेक्सटॉर्शनमुळे प्रभावित झालेल्या अनेक लोकांनी त्यांच्याशी संपर्क साधला आहे. त्यांनी सांगितले की याचा गंभीर मानसिक परिणाम झाला आहे, विशेषतः तरुणांवर.

मॅकक्लूर डीपफेक तयार करणे आणि शेअर करणे यावर बंदी घालण्यासाठी कायदा बदलू इच्छितात. लॉरा ज्या विधेयकाचे समर्थन करतायत त्याचे नाव 'डीपफेक डिजिटल हार्म अँड एक्सप्लॉयटेशन बिल' असे आहे. या प्रस्तावित कायद्याचा उद्देश रिव्हेंज पॉर्न, संमतीशिवाय रेकॉर्डिंग आणि डीपफेक कंटेंटला गुन्ह्याच्या श्रेणीत आणणे हा आहे. गुन्हेगारांना शिक्षा करण्यासोबतच, पीडितांना दिलासा देण्याची आणि चुकीची सामग्री काढून टाकण्याची तरतूद देखील या कायद्यात असेल.

याच घटनेच्या पार्श्नभूमीवर आता भारताकडे वळूया… 

"मी तो व्हिडिओ पाहिला. माझ्या चेहऱ्याचा, माझ्या आवाजाचा… पण ती मी नव्हते. तो मी नाही, हे ओरडून सांगितलं, पण समोरच्यांनी ऐकून घेतलं नाही."

ही व्यथा आहे 22 वर्षांच्या महकची (नाव बदललेलं), जी मुंबईत शिक्षण घेत होती. एका अज्ञात टेलिग्राम चॅनेलवर तिच्या नावाने एक डीपफेक अश्लील व्हिडिओ फिरत होता. तो त्वरित काढून टाकण्याऐवजी, प्लॅटफॉर्मवर त्याचे हजारो फॉरवर्ड झाले. महकने पोलिसांत तक्रार केली, पण तिला एका प्रश्नाने अधिक हादरवून टाकलं – “तू आधी कुणाला पाठवलास का हे?”

आणखी एक घटना… 2023 मध्ये पुण्यात एका कॉलेज तरुणीचा चेहरा वापरून AI आधारित अश्लील व्हिडिओ बनवण्यात आला. तिने सायबर पोलिसांत तक्रार केली, पण तक्रार दाखल करणे, प्राथमिक चौकशी, तांत्रिक साक्ष घेणे, सर्च वॉरंट मिळवणे या प्रत्येक टप्प्यावर तिची मानसिक आणि सामाजिक घुसमट वाढत गेली. तिला कायद्याचं संरक्षण मिळालं, पण खूप उशिराने आणि खूप कष्टाने.

डीपफेक म्हणजे काय?

डीपफेक म्हणजे फसवणूक करणाऱ्या कृत्रिम बुद्धिमत्तेच्या (AI) सहाय्याने तयार केलेले असे फोटो, व्हिडिओ किंवा ऑडिओ, जे पूर्णतः बनावट असूनही अगदी खरेसारखे वाटतात. चेहरा, आवाज, हालचाली यामध्ये इतकं अचूक संपादन केलं जातं की माणसाच्या डोळ्यांना त्यातील बनावटपणा कळणं कठीण होतं. पूर्वी याचं मुख्य उपयोग सिनेमांत विशेष दृश्यांसाठी केला जात असे. पण आता तेच तंत्रज्ञान सोशल मीडियावर एखाद्याची बदनामी करण्यासाठी, खोट्या राजकीय प्रचारासाठी, किंवा लैंगिक शोषणासाठी वापरलं जातं.

डीपट्रेसच्या 2019 मधील या अहवालानुसार एकूण 14,678 डीपफेक व्हिडिओ ऑनलाइन होते. त्यापैकी 96 टक्के व्हिडिओ पोर्नोग्राफिक कंटेंट असलेले होते. तर चार टक्के व्हिडिओमध्ये वेगळा कंटेंट होता. डीपट्रेसनं लिंग, राष्ट्रीयत्व आणि व्यवसायाच्या आधारावर डीपफेक व्हिडिओचा अभ्यास केला तेव्हा डीपफेक पोर्नोग्राफीचा वापर महिलांना नुकसान पोहोचवण्यासाठी केला जात असल्याचं त्यांच्या लक्षात आलं.

डीपफेकबाबत कसं जाणून घ्याल?

कोणताही डीपफेक कंटेंट ओळखण्यासाठी प्रामुख्यानं काही गोष्टींचा वापर करता येतो.

डोळे पाहून - एखादा व्हिडिओ डीपफेक असेल तर त्यातील चेहऱ्यात डोळ्याच्या पापण्या बंद होत नाही.

ओठ काळजीपूर्वक पाहा-डीपफेक व्हिडिओमध्ये ओठांची हालचाल आणि चर्चा यात फरक दिसतो.

केस आणि दात-डीपफेकमध्ये केसांच्या स्टाइलशी संबंधित बदल दिसणं कठिण ठरतं आणि दात पाहूनही व्हिडिओ डीपफेक असल्याचं ओळखता येतं.

भारतात कायद्यांचं वास्तव

भारत सरकारकडे सध्या डीपफेकसाठी स्वतंत्र कायदा नाही. कायदेशीर संरक्षण मिळवण्यासाठी पीडितांना विविध अस्तित्वात असलेल्या कायद्यांचा आधार घ्यावा लागतो. भारतीय जनता पार्टीच्या दोन वर्षांपूर्वीच्या दिवाळी स्नेहमिलन कार्यक्रमात पंतप्रधान नरेंद्र मोदी यांनी एआयचा वापर करून डीपफेक तयार करण्याबाबत चिंता जाहीर केली होती. "डीपफेक सध्या भारतासमोर असलेल्या सर्वात मोठ्या धोक्यांपैकी एक आहे. या माध्यमातून अराजकता निर्माण केली जाऊ शकते," असं ते म्हणाले होते.

केंद्रीय माहिती व प्रसारण मंत्री अश्विनी वैष्णव यांनी सरकार लवकरच डीपफेकबाबत सोशल मीडिया प्लॅटफॉर्मबाबत चर्चा करेल आणि त्यांनी योग्य पावलं उचलली नाही, तर आयटी अधिनियमाच्या सेफ हार्बर अंतर्गत इम्युनिटी किंवा संरक्षण मिळणार नाही, असं सांगितलं होतं. पण तुर्तास तरी भारत सरकारकडे सध्या डीपफेकसाठी स्वतंत्र कायदा नाही हेच सत्य आहे. अ शा घटना झाल्यास कोणत्या कायद्याचा आधार घ्यावा लागतो?

1. माहिती तंत्रज्ञान अधिनियम, 2000 (IT Act):

कलम 66E: खाजगी प्रतिमा प्रसारित केल्यास शिक्षा

कलम 67: अश्लील सामग्री प्रसारित केल्यास गुन्हा

कलम 66D: खोटी माहिती वापरून फसवणूक

2. भारतीय दंड संहिता (IPC):

कलम 469: खोट्या गोष्टी वापरून बदनामी

कलम 500: अब्रुनुकसानी

कलम 509: स्त्रीच्या लज्जा भंगास कारणीभूत

3. IT नियम, 2021:

सोशल मीडियाला 24 तासांत अशा पोस्ट हटवण्याची जबाबदारी


हे सर्व कायदे डीपफेकच्या गुन्ह्यांवर “फारकत पद्धतीने” लागू होतात – कुठे बदनामी, कुठे अश्लीलता, कुठे खोटी ओळख. पण डीपफेक स्वतःच गुन्हा आहे हे कुठे स्पष्ट लिहिलेलं नाही.

इतर देश काय करत आहेत?

भारतात जिथे कायद्यांचं अस्तित्वही अस्पष्ट आहे, तिथे अनेक देशांनी ठोस पावलं उचलली आहेत. अमेरिकेतील काही राज्यांमध्ये डीपफेक पॉर्नवर बंदी आहे शिवाय  “DEEPFAKE Accountability Act” प्रस्तावित आहे. युकेमध्ये डीपफेकसाठी “Online Safety Act” हे कलम आहे. ऑस्ट्रेलियामध्येAI-generated intimate imagery हा गुन्हा मानला जातो तर चीनमध्येडीपफेक तयार करणाऱ्यांना परवाना आवश्यक असतो आणि कंटेंटवर स्पष्ट लेबल लावणं बंधनकारक आहे. या देशांत कायद्यांमुळे नुसतं संरक्षणच नाही, तर धोक्याचं आधीपासून प्रतिबंधक पातळीवर नियंत्रण घातलं जातं. 

भारत मात्र अजूनही घटना घडल्यानंतरच हालचाल करतो. भारत AI क्रांतीत वेगाने वाटचाल करत आहे, पण त्या वेगाला कायद्याची सावली मात्र कमी पडते आहे. आज स्त्री, दलित, कार्यकर्ते, पत्रकार यांच्यावर डिजिटल पातळीवर हल्ले सुरू आहेत आणि त्यांचं “डीपफेक रूपांतर” हे नवीन अस्त्र ठरत आहे. कायदे ही केवळ शिक्षा देणारी यंत्रणा न राहता, संरक्षण देणारी कवच बनायला हवेत. डीपफेकविरोधात भारतात स्वतंत्र कायदा, जलद न्यायप्रक्रिया आणि डिजिटल जागरूकता नसेल, तर ‘खोटं खरं वाटतंय’ ही नुसती एक तक्रार न राहता नव्या प्रकारच्या हिंसाचाराची सामान्य कहाणी बनेल.