मेटा ने जंतर-मंतर प्रदर्शन से जुड़े उन इंस्टाग्राम और फेसबुक अकाउंट्स और कंटेंट को हटा दिया है, जिन्हें ऑल्ट न्यूज़ ने AI-manipulated विजुअल के रूप में चिन्हित कर मेटा के सामने रखा था. मेटा के एक प्रवक्ता ने ऑल्ट न्यूज़ को बताया कि समीक्षा के बाद उनकी नीतियों का उल्लंघन करने वाले अकाउंट्स और कंटेंट हटा दिए गए हैं. 2 सितंबर को मेटा ने जवाब देते हुए पुष्टि की कि ऑल्ट न्यूज़ द्वारा शेयर किए गए सभी violating accounts/content अब प्लेटफॉर्म से हटा दिए गए हैं.
दरअसल, जंतर-मंतर पर प्रदर्शन कर रही महिलाओं की तस्वीरों और वीडियो के AI-generated और AI-manipulated विजुअल्स सोशल मीडिया पर शेयर किए गए थे. ऑल्ट न्यूज़ ने मेटा को इंस्टाग्राम व फेसबुक के कई अकाउंट्स और पोस्ट के लिंक्स शेयर किये जिनमें महिलाओं की असली तस्वीरों और वीडियोज़ को AI की मदद से बदलकर आपत्तिजनक रूप में पेश किये गए थे.
क्या था मामला?
सोशल मीडिया पर जंतर-मंतर प्रदर्शन की तस्वीरों और वीडियोज़ के नाम पर कई ऐसे विजुअल्स शेयर किए गए, जिनमें कथित महिलाओं को बेहद बोल्ड और अंग प्रदर्शन करते हुए दिखाया गया. कुछ पोस्ट में महिलाओं के कपड़े, शरीर और पोज़ को इस तरह बदला गया है कि वे मूल वीडियो या तस्वीर से बिल्कुल अलग दिखाते हैं.
हालांकि, ऑल्ट न्यूज़ की पड़ताल में सामने आया कि ऐसे कई विजुअल असली नहीं हैं, इनमें से कुछ तस्वीरें पूरी तरह AI-generated थीं, जबकि कुछ मामलों में AI टूल्स की मदद से मूल वीडियो या तस्वीर में मौजूद व्यक्ति के शरीर, कपड़े, चेहरे और पोज़ को बदलकर दूसरे AI-जनरेटेड कैरेक्टर के रूप में पेश किया गया था, इन्हें व्यापक तौर पर AI-manipulated कंटेंट कहा जाता है. कुछ मामलों में फेस स्वैप या बॉडी स्वैप जैसी तकनीकों का इस्तेमाल किया गया है.
CJP प्रदर्शनकारी महिलाओं पर निशाना
दिल्ली के जंतर-मंतर पर कॉकरोच जनता पार्टी (CJP) द्वारा नीट परीक्षा में कथित गड़बड़ियों और केंद्रीय शिक्षा मंत्री धर्मेंद्र प्रधान के इस्तीफे की मांग को लेकर एक महीने से अधिक समय तक विरोध प्रदर्शन चला. इस दौरान देश के अलग-अलग हिस्सों से बड़ी संख्या में प्रदर्शनकारी दिल्ली पहुंचे थे, जहाँ प्रदर्शनकारियों व पुलिस के बीच झड़प की घटनाएं सामने आई थी.
प्रदर्शन के दौरान और धर्मेंद्र प्रधान के इस्तीफे से प्रदर्शन खत्म होने के बाद भी सोशल मीडिया पर महिला प्रदर्शनकारियों को विशेष रूप से निशाना बनाया गया. महिलाओं पर लगातार भाजपा समर्थकों और राइट विंग हैंडल्स द्वारा डॉक्सिंग, रेप की धमकियां और व्यक्तिगत जानकारी को सार्वजनिक करने जैसे कई ऑनलाइन उत्पीड़न व ट्रोलिंग कई दिनों तक जारी रही.
इसी माहौल के बीच ऑल्ट न्यूज़ ने पाया कि कुछ सोशल मीडिया अकाउंट्स ने प्रदर्शन में शामिल महिलाओं के असली वीडियो और तस्वीरों को AI टूल्स की मदद से बदलकर पेश किया और इन AI-manipulated विजुअल को जंतर-मंतर प्रदर्शन का बताकर इंस्टाग्राम, फेसबुक और यूट्यूब समेत अलग-अलग प्लेटफॉर्म पर शेयर किया गया.
पोस्ट में इस्तेमाल किए गए AI कैरेक्टर को कई यूज़र्स वास्तविक महिला समझकर उनकी शक्ल, कपड़ों और चरित्र को लेकर आपत्तिजनक टिप्पणियां कर रहे थे. यानी, AI से तैयार या बदले गए विजुअल को वास्तविक मानकर महिला की पहचान, उनकी शारीरिक बनावट, कपड़ों और चरित्र पर निशाना साधते हुए महिला विरोधी टिप्पणिययां की जा रहीं थी.
ऑल्ट न्यूज़ ने ऐसे कई इंस्टाग्राम अकाउंट्स की पहचान की, जहां इस तरह के कंटेंट शेयर किए गए थे. इनमें @kauronfire, @sirfseerat, @tia_kaurr, @hey.siya_2.0, @kavya_homevibes, @annika0022, @divyankaha और @its_anushkaa69 अकाउंट शामिल हैं.
पहले भी AI तस्वीर को जंतर-मंतर प्रदर्शन का बताया गया
यह पहली बार नहीं था जब जंतर-मंतर प्रदर्शन के नाम पर AI-जनरेटेड कंटेंट वायरल हुए. प्रदर्शन के दौरान RSS समर्थक आचार्य अंकुर आर्य और विक्रम प्रताप सिंह समेत कई राइट-विंग यूज़र्स ने एक AI-जनरेटेड तस्वीर को जंतर-मंतर प्रदर्शन की असली तस्वीर बताकर शेयर किया. कथित तस्वीर में एक युवती को क्रॉप टॉप और जींस में दिखाया गया था. पोस्ट शेयर करने वाले यूज़र्स ने तस्वीर में दिखाई दे रही महिला के पहनावे और चरित्र को लेकर आपत्तिजनक टिप्पणियां भी की थीं.
ऑल्ट न्यूज़ ने अपनी पड़ताल में पाया था कि तस्वीर पूरी तरह AI-जनरेटेड थी.
पढ़ें: फ़ैक्ट चेक: CJP प्रोटेस्ट की बताकर शेयर की गई लड़की की तस्वीर AI-जनरेटेड है
हालांकि, जंतर-मंतर प्रदर्शन के आख़िरी दिनों में सोशल मीडिया पर सामने आए कुछ मामलों में पूरी तस्वीर AI से बनाने के बजाय वास्तविक वीडियो या तस्वीर को AI की मदद से बदला जाने लगा. इससे यह पहचानना और मुश्किल हो गया कि वीडियो में दिखा रही महिला वास्तविक है या नहीं.
नए मामलों में हमें दो तरह के AI-manipulation मिले. कुछ तस्वीरें पूरी तरह AI-generated थीं या मूल तस्वीरों को बदलकर बनाई गई थीं, जबकि कुछ मामलों में असली वीडियो को AI की मदद से manipulate (छेड़छाड़) किया गया था.
सफेद साड़ी वाली महिला की तस्वीर और वीडियो
@divyankaha नामक सोशल मीडिया यूज़र ने अपने इंस्टाग्राम अकाउंट और यूट्यूब चैनल पर क्रमशः तस्वीर और वीडियो शेयर किये. इनमें सफेद साड़ी और नेवी ब्लू ब्लाउज़ पहने एक महिला को जंतर-मंतर प्रदर्शन से जोड़कर दिखाया गया था.(आर्काइव लिंक-1, आर्काइव लिंक-2)
ऑल्ट न्यूज़ को पोस्ट का मूल वीडियो khoji reporter 24 news नामक इंस्टाग्राम पेज पर अपलोडेड मिला.
वायरल पोस्ट और वीडियो की तुलना उसके मूल वीडियो से करने पर हमने पाया कि इसमें दिख रही महिला का शरीर और पहनावा मूल वीडियो से अलग है. मूल वीडियो में मौजूद महिला के चेहरे, शरीर और पहनावे को AI की मदद से बदल दिए गए थे. यानी, वायरल वीडियो का बैकग्राउंड और मूल फुटेज वही था, लेकिन उसमें दिख रही महिला का रूप बदल दिया गया.
ऑल्ट न्यूज़ ने मेटा को इस नकली फोटो और असली फोटो के बारे में सूचित किया. @divyankaha का अकाउंट मेटा ने फिलहाल हटा दिया है.
@divyankaha नामक इस अकाउंट पर हमें ऐसे कई पोस्ट और वीडियो मिले. @divyankaha के अन्य एक पोस्ट पर सफेद साड़ी पहनी एक महिला सड़क पर प्रोटेस्ट वाले पोस्टरों के पास बैठी हुई दिखती है. लेकिन ऑल्ट न्यूज़ को ये तस्वीर भी AI एडिटिंग टूल के मदद से बनाये गए डीपफ़ेक कंटेंट के रूप में मिला. (आर्काइव लिंक)
वायरल पोस्ट के कई अलग-अलग वर्ज़न भी सोशल मीडिया पर वायरल मिले. ये सभी AI की मदद से बनाए गए थे.
हाथों में पोस्टर लेके खड़ी महिला की तस्वीर
ऐसी एक और तस्वीर वायरल हुई जिसमें जंतर-मंतर प्रदर्शन के मंच के पास में “Resign De De Bhai PUNE SE Aai hu.. और Hum jeet gaye” लिखे पोस्टर हाथों में लिए अलग-अलग महिलाओं की तस्वीरें थी. वायरल होती तस्वीर में महिला के साथ-साथ पोस्टर के डिजाइन भी बदल रहे थे. इन तस्वीरों को राइट विंग हैंडल्स और CJP प्रदर्शन के विरोधी लोगों द्वारा आपत्तिजनक कमेंट और कैप्शन के साथ शेयर कर रहे थे. (आर्काइव लिंक-1, लिंक-2, लिंक-3, लिंक-4)
हालांकि, ये तस्वीर भी AI के मदद से छेड़छाड़ कर बनाई गई है. मूल तस्वीर @_nanddhini_ नामक इंस्टाग्राम अकाउंट ने 22 जुलाई को पोस्ट किया था.
मूल तस्वीर और वायरल तस्वीर की तुलना करने पर महिला के चेहरे और शरीर में अंतर स्पष्ट तौर पर दिखता है. पोस्टर का डिजाइन भी अलग-अलग वायरल संस्करणों में बदलता हुआ दिखाई देता है. यानी, मूल तस्वीर में AI एडिटिंग टूल के मदद से फेस और बॉडी स्वैप किया गया है.
इसी तरह @sirfseerat के फेसबुक और इंस्टाग्राम अकाउंट पर भी कई AI-generated और AI-manipulated तस्वीरें और वीडियो शेयर किए गए. इन पोस्ट्स में जंतर-मंतर प्रदर्शन से जुड़े वास्तविक विजुअल को बदलकर या पूरी तरह AI की मदद से नए विजुअल तैयार किए गए थे. इनमें से कुछ पोस्ट बाद में डिलीट कर दिए गए. पोस्ट डिलीट होने से पहले लिए गए कुछ स्क्रीनग्रैब नीचे देखे जा सकते हैं.
अब तक सामने आए उदाहरणों में ज्यादातर तस्वीरों के साथ छेड़छाड़ किया गया था. हालांकि, हमारी पड़ताल में ऐसे वीडियो भी मिले जिनमें वास्तविक फुटेज को AI की मदद से manipulate किया गया था. इन मामलों में मूल वीडियो वही रहा, लेकिन उसमें दिखाई दे रही महिला के चेहरे, शरीर और कपड़ों को बदल दिया गया.
1. पत्रकार से बात करती महिला
@kauronfire नामक इंस्टाग्राम AI-डिजिटल क्रिएटर पेज ने 23 जुलाई को एक वीडियो शेयर किया था जिसमें एक पत्रकार प्रदर्शन में शामिल एक महिला का इंटरव्यू लेते हुई नज़र आ रही है. (आर्काइव)
लेकिन हमारी पड़ताल में हमें मूल वीडियो पत्रकार मुस्कान भगत के इंस्टाग्राम अकाउंट पर पोस्ट किया हुआ मिला. (आर्काइव)
View this post on Instagram
दोनों वीडियो की तुलना करने पर पाया गया कि वायरल वीडियो में AI की मदद से महिला के रूप, कपड़े और शरीर को बदल दिया गया, जबकि मूल वीडियो में प्रदर्शन में शामिल दिख रही महिला चेतना दहिया थी.
मेटा को सूचित किये जाने पर @kauronfire अकाउंट पर भी संज्ञान लिया गया.
2. जंतर-मंतर पर नारे लगाती महिला
@kauronfire ने एक दूसरा वीडियो शेयर किया, जिसमें पीले रंग की क्रॉप-टॉप और शॉर्ट्स पहने एक महिला प्रदर्शनकारी को प्रदर्शन के दौरान नारे लगाते हुए दिखाया गया. (आर्काइव)
ऑल्ट न्यूज़ की पड़ताल में मूल वीडियो मनजीत कुमार के इंस्टाग्राम अकाउंट पर मिला. जिसमें दिल्ली SFI की छात्रा “Sahar” नारे लगाते हुई दिख रही है. (आर्काइव)
View this post on Instagram
मूल और वायरल वीडियो की तुलना करने पर स्पष्ट अंतर दिखाई देता है. AI टूल की मदद से छात्रा के चेहरा, शरीर, कपड़े सब बदल दिए गए. यानी, छात्रा को एक AI महिला कैरेक्टर के रूप में बदला गया है.
3. प्रदर्शन में बैगनी रंग की सलवार-शूट पहने महिला
इसी @kauronfire नामक अकाउंट ने एक और वीडियो शेयर किया, जिसमें बैंगनी रंग की सलवार शूट पहने एक महिला चौराहे पर पानी के बोतल लोगों में बांटती नज़र आ रही है. (आर्काइव)
इसका मूल वीडियो तान्या धमन नाम के इंस्टाग्राम अकाउंट पर अपलोडेड मिला. वायरल वीडियो और मूल वीडियो की तुलना से पता चला कि असली महिला को AI की मदद से बदला गया है. (आर्काइव)
View this post on Instagram
नीचे तस्वीरों में वायरल वीडियो और मूल वीडियो में मौजूद महिलाओं के अंतर को स्पष्ट रूप से देखा जा सकता है.
बाकी वीडियो के समान ही एक अन्य वीडियो में बैंगनी रंग की सलवार शूट पहने एक महिला दिल्ली जनपथ मेट्रो के गेट नंबर 2 पर पानी के बोतल लोगों में बांटती नज़र आ रही हैं. (आर्काइव)
हमें इस वायरल वीडियो का मूल वीडियो सपना नामक इंस्टाग्राम अकाउंट पर मिला, जो कि एक कंटेंट क्रिएटर है. असली वीडियो में सपना खुद लोगों को पानी की बोतल बांटती हुई दिख रही है. यहां भी AI टूल की मदद से मूल वीडियो में छेड़छाड़ कर महिला के रूप-रंग और शरीर की बनावट में बदलाव किया गया. (आर्काइव)
View this post on Instagram
नीचे तस्वीर में वायरल वीडियो और मूल वीडियो के बीच के अंतर को देख सकते हैं.
एक अन्य पोस्ट में बैंगनी रंग की सलवार शूट पहने महिला जंतर-मंतर प्रदर्शन क्षेत्र में फैले कचरें को इकट्ठा करती, साफ-सफाई करती हुई नज़र आ रही है. (आर्काइव)
पड़ताल के दौरान इसका मूल वीडियो Mahira agni के इंस्टाग्राम अकाउंट पर मिला. मूल वीडियो और वायरल वीडियो की तुलना करने पर स्पष्ट हो गया कि AI की मदद से वायरल वीडियो में Mahira agni की जगह एक महिला AI कैरेक्टर को बदला गया है. (आर्काइव)
View this post on Instagram
4. कई अलग-अलग वीडियो को जोड़कर बनाया गया AI वीडियो
एक और पोस्ट में कई अलग-अलग क्लिप को जोड़कर एक वीडियो तैयार किया गया, इसे भी जंतर-मंतर प्रदर्शन से जोड़कर शेयर किया गया. (आर्काइव)
मूल वीडियो माहिरा अग्नि के तीन अलग-अलग वीडियो (वीडियो 1, वीडियो 2, वीडियो 3 सरदार वाले) हैं. जबकि एक अन्य क्लिप पत्रकार दिलनवाज़ पाशा के एक वीडियो से लिया गया है, जिसमें दो महिला और एक व्यक्ति जंतर-मंतर रोड के फुटपाथ की सफाई कर रहे थे. नीचे मूल वीडियो के स्क्रीनग्रैब और AI टूल की मदद से बॉडी स्वैप वीडियो के स्क्रीनग्रैब में अंतर देख सकते हैं. (आर्काइव लिंक-1, लिंक-2, लिंक-3, लिंक-4)
5. इंदौर के वीडियो को जंतर-मंतर का बताया गया
एक अन्य वीडियो में लाल-काले रंग की जिम के कपड़े पहने एक महिला को जंतर-मंतर प्रदर्शन में लोगों को शरबत बांटने के दावे से शेयर किया गया (आर्काइव)
जांच में हमें ओरिजिनल वीडियो कंटेंट क्रिएटर हिमानी चावला के इंस्टाग्राम अकाउंट में मिला. जो कि वीडियो में नीले रंग के शूट पहनी हुई दिख रहीं हैं. ये वीडियो मध्यप्रदेश इंदौर का है जहाँ हिमानी चावला और उनके साथी मिलकर राहगीरों को शरबत पिलाने की सेवा कर रहे थे. यानी, इस वीडियो का दूर-दूर तक दिल्ली जंतर-मंतर प्रदर्शन से कोई संबंध नहीं है. इसके बावजूद इसके साथ छेड़छाड़ कर इसे प्रदर्शन से जोड़कर सोशल मीडिया पर प्रसारित किया गया. (आर्काइव)
View this post on Instagram
नीचे तस्वीर में वायरल वीडियो और मूल वीडियो के बीच के अंतर को देख सकते हैं. इस मामले में कंटेंट का सिर्फ AI manipulation ही नहीं, बल्कि unrelated वीडियो को भी प्रदर्शन से जोड़ने का प्रयास किया गया.
@kauronfire, @sirfseerat, @tia_kaurr, @hey.siya_2.0, @kavya_homevibes, @annika0022, @divyankaha और @its_anushkaa69, ये वो इंस्टाग्राम अकाउंट्स हैं जिन्होंने जंतर-मंतर प्रदर्शन में शामिल महिलाओं के AI कंटेन्ट बनाकर शेयर किये.
इन विजुअल को वास्तविक बताकर शेयर किए जाने के बाद सोशल मीडिया यूज़र्स महिलाओं के कपड़ों, शरीर और चरित्र पर टिप्पणियां कर रहे थे. ये सब हमें यह दिखाता है कि AI का इस्तेमाल केवल गलत जानकारी या सूचना फैलाने का माध्यम नहीं है, बल्कि इसका इस्तेमाल किसी व्यक्ति को या महिलाओं को आपत्तिजनक तरीके से दिखाने और उन्हें ऑनलाइन निशाना बनाने या उनके खिलाफ ऑनलाइन उत्पीड़न को बढ़ाने के लिए भी किया जा सकता है.
ऑल्ट न्यूज़ ने मेटा को किया रिपोर्ट, कंपनी ने कार्रवाई की पुष्टि की
ऑल्ट न्यूज़ ने इन मामलों को लेकर मेटा से संपर्क किया और संबंधित इंस्टाग्राम अकाउंट्स, पोस्ट्स और archived links शेयर किए. मेटा ने शेयर किए गए कंटेंट और अकाउंट्स की समीक्षा की. मेटा के एक प्रवक्ता ने ऑल्ट न्यूज़ को बताया, “We removed the account/ content that was shared with us for violating our policies.”
25 अगस्त को ऑल्ट न्यूज़ ने Meta की ओर से कार्रवाई की पुष्टि मिलने के बाद उन अकाउंट्स और पोस्ट्स की दोबारा जांच की. इस दौरान कुछ ऐसे अकाउंट्स और पोस्ट्स फिर से सोशल मीडिया प्लेटफॉर्म में सक्रिय और उपलब्ध दिखे. हमने मेटा से स्पष्टीकरण मांगा और पूछा कि क्या इन अकाउंट्स या कंटेंट को पहले हटाने के बाद दोबारा उपलब्ध कराया गया और यदि ऐसा है तो इसके पीछे क्या कारण था.
2 सितंबर को Meta ने जवाब देते हुए पुष्टि की कि ऑल्ट न्यूज़ द्वारा शेयर किए गए सभी अकाउंट्स और कंटेंट अब प्लेटफॉर्म से हटा दिए गए हैं. हालांकि, मेटा की ओर से दोबारा सक्रिय और उपलब्ध दिखे अकाउंट्स और कंटेंट के सवालों का जवाब या किसी प्रकार का स्पष्टीकरण नहीं मिला है. नई जानकारी मिलने पर इस आर्टिकल को अपडेट कर दिया जाएगा.
