"Anonymity cannot become a weapon to abuse, defame": Vishnu Manchu calls for industry-wide mechanism to address AI deepfakes
हैदराबाद (तेलंगाना)
'चुट्टामल्ले' गाने के एक मॉर्फ्ड वीडियो को लेकर जान्हवी कपूर और जूनियर एनटीआर से जुड़े AI विवाद के बीच, एक्टर विष्णु मांचू और मूवी आर्टिस्ट्स एसोसिएशन (MAA) के प्रेसिडेंट मांचू विष्णु ने AI डीपफेक और ऑनलाइन पहचान की चोरी (इम्पर्सोनेशन) से निपटने के लिए पूरी इंडस्ट्री में एक सिस्टम बनाने की मांग की है। X पर एक डिटेल्ड पोस्ट में मांचू ने लिखा, "AI डीपफेक की परेशान करने वाली घटना, जिसने हमारी इंडस्ट्री को सही मायने में नाराज़ किया है, उसे एक अलग-थलग घटना के तौर पर नहीं देखा जाना चाहिए। यह एक चेतावनी है। राम पोथिनेनी ने एक ज़रूरी बात कही: 'वे बिना चेहरे वाले हैं, इसलिए वे निडर हैं'। ऑनलाइन पहचान के लिए आधार से जुड़ी जवाबदेही का उनका सुझाव गंभीरता से चर्चा के लायक है। अभिव्यक्ति की आज़ादी की हमेशा रक्षा की जानी चाहिए। लेकिन गुमनामी किसी का शोषण करने, बदनाम करने, यौन उत्पीड़न करने या जानबूझकर किसी को बर्बाद करने का हथियार नहीं बन सकती।"
"और यह समस्या सिर्फ़ डीपफेक से शुरू या खत्म नहीं होती। काफी समय से, मैं हमारी अपनी इंडस्ट्री में ही फ़िल्मों, एक्टर्स और फ़िल्ममेकर्स के ख़िलाफ़ सुनियोजित और टारगेटेड नेगेटिविटी को लेकर चिंतित रहा हूँ। कोई फ़िल्म इसलिए सफल या असफल होनी चाहिए क्योंकि दर्शक उसे देखते हैं और फ़ैसला करते हैं। आलोचना, रिव्यू, ट्रोलिंग और असहमति आज सिनेमा का हिस्सा हैं। लेकिन दर्शकों के देखने से पहले ही किसी फ़िल्म को नुकसान पहुँचाने के लिए चलाया गया सुनियोजित अभियान आलोचना नहीं है। यह तोड़-फोड़ (सबोटेज) है। संदीप किशन ने हाल ही में अपनी फ़िल्म के रिलीज़ होने से पहले ही अपने और अपनी फ़िल्म के ख़िलाफ़ टारगेटेड, पेड नेगेटिविटी के बारे में सार्वजनिक रूप से बात की थी।
'द पैराडाइज़' को रिलीज़ से पहले ही अपमानजनक और नुकसानदेह कंटेंट से सुरक्षा पाने के लिए कोर्ट का दरवाज़ा खटखटाना पड़ा था। ये ऐसे मुद्दे नहीं हैं जिन्हें हमें हल्के में लेना चाहिए। हर फ़िल्म के पीछे सालों की मेहनत, सैकड़ों परिवार और प्रोड्यूसर्स का बहुत सारा पैसा दांव पर लगा होता है। फ़िल्म देखें। उसे पसंद करें। उससे नफ़रत करें। अगर आपको सच में ऐसा लगता है तो उसकी कड़ी आलोचना करें। लेकिन पहले, फ़िल्म को रिलीज़ होने दें," उन्होंने आगे कहा।
मांचू विष्णु के अनुसार, दर्शकों को फ़िल्म की आलोचना करने, किसी एक्टर से असहमत होने या फ़िल्म को नकारने का पूरा अधिकार है। हालाँकि, उन्होंने सच्ची आलोचना और रिलीज़ से पहले ही फ़िल्म को नुकसान पहुँचाने के मक़सद से चलाए गए सुनियोजित अभियानों के बीच फ़र्क बताया। "और भी दुख की बात यह है कि इनमें से कुछ हमारे अपने इकोसिस्टम से ही आता है: फैन ग्रुप्स का आपस में लड़ना, न्यूट्रल होने का दिखावा करने वाले गुमनाम पेज, और ऐसे अकाउंट्स जो एक्टर्स की तस्वीरों को अपनी DP के तौर पर इस्तेमाल करते हैं, जबकि उनका व्यवहार ऐसा होता है जिसे वे एक्टर्स शायद कभी सपोर्ट न करें। आखिर हम क्या हासिल कर रहे हैं? अगर एक तेलुगु फिल्म हारती है, तो तेलुगु सिनेमा नहीं जीतता। केक इतना बड़ा है कि हर किसी को उसका एक हिस्सा मिल सकता है।
'मूवी आर्टिस्ट्स एसोसिएशन' (MAA) के प्रेसिडेंट के तौर पर, मैं यह साफ करना चाहता हूं कि MAA उन अकाउंट्स और नेटवर्क्स के बारे में जानकारी इकट्ठा कर रहा है जो बार-बार टारगेटेड गाली-गलौज और गलत इरादे वाले कैंपेन में शामिल होते हैं, जिनमें लोगों को गुमराह करने के लिए एक्टर्स की तस्वीरों और पहचान का गलत इस्तेमाल करने वाले अकाउंट्स भी शामिल हैं। यह आलोचना रोकने के बारे में नहीं है। यह जवाबदेही के बारे में है। डीपफेक की मौजूदा घटना ने इस बड़ी बातचीत को ज़रूरी बना दिया है। और दुख की बात है कि यह आखिरी डीपफेक नहीं होगा। टेक्नोलॉजी इतनी तेज़ी से आगे बढ़ रही है कि हम यह नहीं मान सकते कि एक वीडियो डिलीट करने या एक शिकायत दर्ज करने से समस्या हल हो जाएगी," उनके पोस्ट में लिखा था।
मंचू ने तेलुगु फिल्म चैंबर, प्रोड्यूसर्स काउंसिल, MAA और सभी स्टेकहोल्डर्स से अपील की कि वे "एक साथ बैठें और AI डीपफेक, किसी और की पहचान का गलत इस्तेमाल, सुनियोजित गलत कैंपेन और जानबूझकर ऑनलाइन नुकसान पहुंचाने जैसी चीज़ों से निपटने के लिए इंडस्ट्री-लेवल पर एक स्थायी सिस्टम बनाएं। यह कोई ऐसी मीटिंग नहीं होनी चाहिए जो सिर्फ़ एक तस्वीर के साथ खत्म हो जाए। न ही कोई और फ़ोन कॉल।"
"एक सिस्टम। हम हर शुक्रवार को मुकाबला कर सकते हैं। लेकिन हम बाकी हफ़्ता एक-दूसरे को बर्बाद करने की कोशिश में नहीं बिता सकते। दर्शकों को हमारी फिल्मों का भविष्य तय करने दें। सिनेमा को जीतने दें," उन्होंने आगे कहा।
रविवार को, जाह्नवी कपूर ने 'देवरा: पार्ट 1' के गाने 'चुट्टामल्ले' में उनके AI-बदले हुए वीडियो पर अपनी चुप्पी तोड़ी। जाह्नवी ने इंस्टाग्राम स्टोरी में कहा, "महिलाओं को ऑब्जेक्ट की तरह दिखाने और बिना सहमति के मनगढ़ंत कंटेंट फैलाने के लिए टेक्नोलॉजी का आपराधिक गलत इस्तेमाल बहुत ही अपमानजनक है, और यह यौन उत्पीड़न के बराबर है।" उन्होंने इस बात पर ज़ोर दिया कि फिल्म इंडस्ट्री में लगभग हर महिला ने इस तरह के व्यवहार का सामना किया है।
एक्टर ने इस बात पर ज़ोर दिया कि सहमति, पसंद और महिला के शरीर का सम्मान मानवता के सबसे बुनियादी सिद्धांतों में से एक होना चाहिए। जाह्नवी ने कहा, “महिला की मर्ज़ी, उसकी पसंद और उसके शरीर का सम्मान—ये सब इंसानियत की बुनियादी बातें होनी चाहिए। फिर भी, न जाने क्यों, इन्हें अब भी पेचीदा माना जाता है। असल में ये पेचीदा नहीं हैं। हैरानी की बात है कि कुछ लोगों के लिए यह समझना अब भी मुश्किल है कि अगर कोई महिला लगातार पाँच दिन 'हाँ' कहे और छठे दिन 'ना' कहे, तो उस 'ना' का भी सम्मान किया जाना चाहिए।”