चिलिंग इफेक्ट : एआई डीपफेक और ‘न्यूडिफाई’ ऐप्स का डर भारतीय महिलाओं को इंटरनेट से दूर धकेल रहा है

कृत्रिम बुद्धिमत्ता (AI) के तेज़ी से बढ़ते उपयोग ने एक ओर जहां नई संभावनाएं खोली हैं, वहीं दूसरी ओर ऑनलाइन महिलाओं को परेशान करने और उनका उत्पीड़न करने के नए तरीके भी जन्म दिए हैं। डिजिटल स्पेस में एआई-संचालित डीपफेक और न्यूडिफाई ऐप्स का बढ़ता ख़तरा अब भारतीय महिलाओं की ऑनलाइन मौजूदगी को सीधे प्रभावित कर रहा है।

मुंबई की 20 वर्षीय युवती उन युवा पेशेवरों में शामिल हैं, जो सोशल मीडिया पर अपना काम और विचार खुलकर साझा करना चाहती हैं, लेकिन एआई डीपफेक के बढ़ते मामलों ने उनके मन में गहरी दहशत पैदा कर दी है।
वे कहती हैं, “हमेशा डर रहता है कि कोई मेरी तस्वीर लेकर उसके साथ कुछ भी कर सकता है। लगता है शायद ऑनलाइन होना सुरक्षित नहीं है।”

मैसूर की डिजिटल नीति शोधकर्ता के मुताबिक वे भी अपनी निजी तस्वीरें ऑनलाइन पोस्ट करने से बचती हैं। वह कहती हैं, “चिलिंग इफेक्ट असली है। एआई के दुरुपयोग की क्षमता इतनी बड़ी है कि महिलाएँ स्वतः ही खुद को सीमित करने लगती हैं।”

भारत—एआई इनोवेशन का बड़ा केंद्र, लेकिन खतरे भी उतने ही बड़े

भारत आज एआई-आधारित टूल्स का सबसे बड़ा उपभोक्ता बाजार बन रहा है। ओपनएआई के लिए यह दुनिया का दूसरा सबसे बड़ा बाज़ार है। लेकिन इसके साथ ही एआई-जनित फेक कंटेंट का दायरा भी तेज़ी से फैल रहा है।

रति फ़ाउंडेशन और टैटल की एक नई रिपोर्ट चेतावनी देती है कि एआई टूल्स का इस्तेमाल अब बड़े पैमाने पर महिलाओं और लैंगिक अल्पसंख्यकों को निशाना बनाने के लिए हो रहा है। रिपोर्ट के अनुसार, हेल्पलाइन पर दर्ज मामलों में से 10% अब एआई-निर्मित छेड़छाड़ वाली तस्वीरों और वीडियो से जुड़े हैं।

एआई के ज़रिए शर्मिंदा करने का नया तरीका

रिपोर्ट बताती है कि एआई-सक्षम टूल्स से महिलाओं की डिजिटल रूप से संपादित तस्वीरें—खासकर न्यूडिफाई जैसी ऐप्स द्वारा कपड़े हटाकर बनाई गई छवियाँ—सोशल मीडिया प्लेटफ़ॉर्म पर आसानी से प्रसारित की जा रही हैं।

भारतीय समाज में सार्वजनिक रूप से स्नेह प्रदर्शित करना या कुछ तरह का पहनावा भी कई जगह कलंक से जुड़ा माना जाता है। ऐसे में इन तस्वीरों का दुरुपयोग महिलाओं के लिए गंभीर सामाजिक परिणाम पैदा करता है।

हाई-प्रोफाइल महिलाएं भी नहीं बचीं

कई जानी-मानी भारतीय महिलाएं भी एआई डीपफेक के हमलों का शिकार बनी हैं:

आशा भोसले की आवाज़ और तस्वीरें एआई द्वारा क्लोन करके यूट्यूब पर इस्तेमाल की गईं। राणा अय्यूब, जो राजनीतिक और पुलिस भ्रष्टाचार पर रिपोर्टिंग के लिए प्रसिद्ध हैं, एक व्यापक डॉक्सिंग अभियान का शिकार हुईं। उनकी डीपफेक यौन छवियाँ सोशल मीडिया पर फैल गईं।

इन घटनाओं ने समाज में चर्चा को जन्म दिया, लेकिन आम महिलाओं को होने वाले मनोवैज्ञानिक प्रभावों पर अभी भी कम बात होती है।

महिलाएं ऑनलाइन क्यों गायब हो रही हैं?

टैटल की सह-संस्थापक तरुणिमा प्रभाकर के अनुसार “ऑनलाइन उत्पीड़न का सबसे बड़ा असर यह है कि महिलाएं खुद को चुप करा लेती हैं। वे कम बोलती हैं, कम पोस्ट करती हैं, डिजिटल स्पेस से दूर होती जाती हैं।”

कुछ महिलाओं ने भी सुरक्षित रहने के लिए-सोशल मीडिया पोस्टिंग लगभग बंद कर दी

इंस्टाग्राम प्राइवेट कर दिया-सार्वजनिक जगहों पर तस्वीरें खिंचवाने से परहेज़ करना शुरू कर दिया।

वह कहती हैं, “दोस्तों के दोस्त ब्लैकमेल हो रहे हैं। इंटरनेट डरावना हो चुका है।”

लक्षणे बताती हैं कि वह कई कार्यक्रमों में अपनी तस्वीरें खिंचवाने से मना कर देती हैं। उन्होंने अपनी प्रोफ़ाइल फोटो भी अपनी तस्वीर से हटा कर एक इलस्ट्रेशन लगा दिया है।

न्यूडिफाई ऐप्स : महिलाओं को ब्लैकमेल करने का नया ज़रिया

रति की रिपोर्ट में कई चौंकाने वाले मामले सामने आए हैं-एक महिला ने लोन आवेदन के साथ अपनी फोटो अपलोड की। जब उसने लोनेदार को ज़्यादा पैसे देने से इनकार किया, तो उस फोटो को न्यूडिफाई ऐप से बदलकर अश्लील तस्वीर बना दिया गया।
तस्वीर के साथ उसका फ़ोन नंबर व्हाट्सएप पर फैलाया गया। परिणाम—अनजान पुरुषों के फ़ोन कॉल, अश्लील संदेशों की बाढ़, सामाजिक शर्मिंदगी, गहरा मानसिक तनाव, कानूनी ढांचा—धीमी प्रक्रिया, अधूरी सुरक्षा।

भारत में एआई डीपफेक पर कोई विशेष कानून नहीं है। पीड़ित महिलाएं केवल ऑनलाइन उत्पीड़न, धमकी या गोपनीयता उल्लंघन जैसे सामान्य कानूनों के तहत शिकायत दर्ज करा सकती हैं।

महिलाओं के मुताबिक “कानूनी प्रक्रिया बहुत लंबी है। न्याय पाने में इतना लालफीताशाही है कि कई लोग शिकायत ही नहीं करते।”

टेक प्लेटफॉर्म—धीमी प्रतिक्रियाएं, अधूरी कार्रवाई

रिपोर्ट में बताया गया है कि भारतीय कानून प्रवर्तन एजेंसियों के अनुसार : YouTube, Meta, Instagram, WhatsApp जैसे प्लेटफ़ॉर्म—“अपारदर्शी और अक्सर अप्रभावी” तरीके से अपमानजनक कंटेंट हटाते हैं।

कुछ मामलों में कार्रवाई होने तक डीपफेक तस्वीरें पहले ही वायरल हो चुकी होती हैं।

एक मामले में इंस्टाग्राम ने लगातार शिकायतों के बाद ही प्रतिक्रिया दी, जो “विलंबित और अपर्याप्त” मानी गई। रति की टीम का कहना है कि एआई दुरुपयोग की सबसे खतरनाक बात है—“सामग्री पुनरावृत्ति” यानी, एक बार हटने के बावजूद वही सामग्री किसी-न-किसी प्लेटफॉर्म पर फिर से उभर आती है।

भारत की महिलाओं के सामने डिजिटल संकट

रति फाउंडेशन का निष्कर्ष साफ़ है : एआई डीपफेक का दुरुपयोग, ऑनलाइन उत्पीड़न, सोशल मीडिया प्लेटफॉर्म की कमजोर प्रतिक्रिया और कानूनी ढांचे की धीमापन, ये चार चीज़ें मिलकर भारतीय महिलाओं को ऑनलाइन स्पेस से पीछे धकेल रही हैं।

महिलाओं की आवाज़ को दबाने का यह नया डिजिटल तरीका एक गंभीर सामाजिक खतरा बन चुका है। एआई के दौर में सुरक्षित डिजिटल स्पेस बनाने की मांग अब और भी ज़्यादा ज़रूरी हो गई है।

About Author

Habib Ki Report

See author's posts