आर्टफिशियल इंटेलिजेंस ने जहां एक तरफ लोगों के कामों को आसान बनाने वाली कई रचनातमक सुविधाएं दी हैं, वहीं दूसरी तरफ इसने कई चुनौतियों को भी सामने लाकर खड़ा कर दिया है. इसका गलत इस्तेमाल भी काफी तेज़ी से हो रहा है. सोशल मीडिया, जो कभी रचनात्मक संवाद का मंच हुआ करता था, अब वह उत्पीड़न का अड्डा बन गया है. इसमें एक बड़ा कारक है कि यह यूज़र्स को अपनी पहचान छुपाकर किसी पर तीखी तिपण्णी करने का एक मंच प्रदान करता है. जनरेटिव एआई ने एक कदम आगे बढ़कर इसको बढ़ावा दिया है, जिससे दुर्भावनापूर्ण कंटेन्ट बनाना और भी आसान हो गया है. इस आर्टिकल में हम Perplexity AI से बनाए गए भ्रामक कंटेन्ट के बारे में बात करेंगे और देखेंगे कि इसका इस्तेमाल कर कैसे दुष्प्रचार किया जा रहा है. नीचे कुछ उदाहरण दिए गए हैं:
उदाहरण 1: अपनी पहचान छुपाकर, सोशल मीडिया प्लेटफ़ॉर्म X पर अकाउंट चलाने वाले यूज़र @HphobiaWatch ने करिश्मा अज़ीज़ नाम की पत्रकार की तस्वीर पोस्ट करते हुए Perplexity AI को टैग किया और उसे एक अपमानसूचक प्रॉम्प्ट दिया.
इसके जवाब में Perplexity AI ने उस अपमानसूचक प्रॉम्प्ट के आधार पर पत्रकार करिश्मा अज़ीज़ का वीडियो बनाकर दे दिया. इसका परिणाम ये हुआ कि करिश्मा अज़ीज़ को इसके बाद उन्हें ट्रोल किया जाने लगा. Perplexity AI द्वारा बनाए गए वीडियो पर 50 हज़ार से ज्यादा व्यूज़ मिले. इस वीडियो में कहीं भी किसी प्रकार के वाटरमार्क नहीं है जिससे ये प्रतीत हो कि इसे आर्टफिशियल इंटेलिजेंस की मदद से बनाया गया है. लोग इसे असली वीडियो समझकर धोखा खा सकते हैं. इसके अलावा, कुछ यूज़र्स के आग्रह पर Perplexity AI ने इस अपमानसूचक प्रॉम्प्ट के आधार पर करिश्मा की तस्वीर का इस्तेमाल करते हुए बांग्ला और तेलगू भाषा में भी वीडियो बनाया.
— Ask Perplexity (@AskPerplexity) August 31, 2025
उदाहरण 2: X पर @HphobiaWatch नाम के यूज़र ने जेल में बंद एक्टिविस्ट उमर खालिद की तस्वीर पोस्ट करते हुए Perplexity AI को टैग किया और उसे एक अपमानसूचक प्रॉम्प्ट दिया.
इसके जवाब में Perplexity AI ने उस अपमानसूचक प्रॉम्प्ट के आधार पर उमर खालिद का वीडियो बना दिया. Perplexity AI द्वारा बनाए गए इस वीडियो में भी किसी प्रकार का वाटरमार्क नहीं है जिससे ये समझा जा सके कि इसे आर्टफिशियल इंटेलिजेंस की मदद से बनाया गया है.
— Ask Perplexity (@AskPerplexity) September 2, 2025
उदाहरण 3: X पर @HphobiaWatch ने यूट्यूबर ध्रुव राठी की एक तस्वीर पोस्ट कर Perplexity AI को टैग किया और उसे एक अपमानसूचक प्रॉम्प्ट दिया.
जवाब में Perplexity AI ने उस अपमानसूचक प्रॉम्प्ट के आधार पर ध्रुव राठी का वीडियो बनाकर दे दिया. अन्य वीडियो की तरह इसमें में AI इस्तेमाल का कोई वाटरमार्क नहीं है.
— Ask Perplexity (@AskPerplexity) August 27, 2025
ऐसे कई अन्य उदाहरण हैं जिसमें एआई का इस्तेमाल दूसरों का अपमान करने, मज़ाक उड़ाने और उसे नीचा दिखाने के लिए किया गया. और इस तरह बड़े पैमाने पर ऑनलाइन हर्राशमेंट के अभियान को बढ़ावा दिया गया.
इसकी शुरुआत एक पोस्ट से हुई थी जिसमें यूज़र द्वारा लोगों का ध्यान आकर्षित करने, व्यूज़ या अपने वैचारिक सहयोगियों से मान्यता पाने के लिए, एक व्यक्ति की तस्वीर के साथ अपमानजनक प्रॉम्प्ट दिया गया. इसके आधार पर Perplexity AI ने उस अपमानजनक टिपण्णी को वीडियो का रूप दिया. यह ट्वीट तेज़ी से वायरल हो गया, रीट्वीट और लाइक्स की बाढ़ आ गई, और इससे आकर्षित होकर दूसरे लोग भी इस अपमानजनक टिप्पणी में शामिल हो गए.
जनरेटिव एआई को एक साधारण संकेत देकर, यूज़र ने एक व्यक्ति को नीचा दिखाने का प्रॉम्प्ट दिया, जिसके नतीजे बेहद खौफनाक थे. इसमें एक बेहतरीन ढंग से तैयार की गई प्रतिक्रिया थी, जो व्यक्ति पर किए गए अपमानों की ही प्रतिध्वनि थी. नैतिक नियंत्रण से रहित एआई ने एक ऐसा वीडियो तैयार किया जो घृणित संदेश को बढ़ा-चढ़ाकर पेश करता है. स्थिति को और भी भयावह बनाने वाली बात यह थी कि आउटपुट में इस बात का कोई संकेत नहीं था कि यह एआई द्वारा तैयार किया गया था. इसके जरिए किसी व्यक्ति के चरित्र हनन के साथ साथ ही यह गलत जानकारी और दुष्प्रचार को लोगों के बीच स्थापित कर सकता है.
Perplexity AI की पॉलिसी
Perplexity AI की वेबसाइट पर मौजूद जानकारी के अनुसार, कंपनी ने अपनी तकनीक के दुरुपयोग को रोकने के लिए दिशानिर्देश बनाए हैं. इसकी स्वीकार्य उपयोग नीति (Perplexity Acceptable Use Policy) के अनुसार, यूज़र्स को किसी भी ऐसी गतिविधि को संचालित करने या सुविधाजनक बनाने के लिए सेवा का उपयोग नहीं करना चाहिए जो व्यक्तियों या समाज के लिए गंभीर खतरा पैदा करती हो. इसमें दुष्प्रचार या भ्रामक कॉन्टेन्ट का निर्माण, संकलन या वितरण, साथ ही उत्पीड़नकारी, घृणास्पद या मानहानिकारक कॉन्टेन्ट शामिल है.
एक मौके पर X पर एक यूजर ने जब Perplexity AI को उमर खालिद की तस्वीर के साथ एक दूसरा वाक्य बोलने वाला वीडियो बनाने को कहा तो Perplexity AI ने जवाब दिया, “मैं वह वीडियो नहीं बना सका, क्योंकि उसमें एक विशिष्ट व्यक्ति से ऐसी बातें कहने को कहा गया है, जो उसने वास्तव में नहीं कही हैं, जो विषय-वस्तु संबंधी दिशानिर्देशों के विरुद्ध है – विशेषकर तब, जब वह भ्रामक, हानिकारक या मनगढ़ंत हो सकती है.”
हालाँकि, हानिकारक या भ्रामक कॉन्टेन्ट बनाने के लिए Perplexity AI का उपयोग, इनकी खुद की नीतियों का स्पष्ट उल्लंघन करता है. ऑनलाइन उत्पीड़न को बढ़ावा देने वाले एआई-जनरेटेड वीडियो के कई ऐसे उदाहरण हैं जो इन नीतियों का स्पष्ट उल्लंघन दर्शाते हैं.
हमने इस मामले को लेकर Perplexity AI को कुछ सवाल भेजे. हमें इसका जवाब मिला जो कुछ यूं हैं, “@AskPerplexity हैंडल X पर एक एक्सपेरिमेंटल अकाउंट है, यह कंपनी का ऑफिशियल हैंडल नहीं है. यह फंक्शनैलिटी अब मुमकिन नहीं है, क्योंकि AskPerplexity बॉट नए एक्सपेरिमेंटेशन पर मूव हो चुका है. X पर बतौर एक बॉट, @AskPerplexity, Perplexity की नहीं, बल्कि X की टर्म्स ऑफ़ सर्विस से बंधा है. आपको X से बात करनी होगी.”
ऐसे मामले तकनीकी नवाचार और नैतिक ज़िम्मेदारी के बीच की पतली रेखा को स्पष्ट करने की तत्काल आवश्यकता को उजागर करते हैं, अन्यथा इससे कानूनी और नैतिक ज़िम्मेदारी से परे, बिना किसी डर के समाज में गलत जानकारी, दुष्प्रचार फैलाया जा सकता है.
सत्ता को आईना दिखाने वाली पत्रकारिता का कॉरपोरेट और राजनीति, दोनों के नियंत्रण से मुक्त होना बुनियादी ज़रूरत है. और ये तभी संभव है जब जनता ऐसी पत्रकारिता का हर मोड़ पर साथ दे. फ़ेक न्यूज़ और ग़लत जानकारियों के खिलाफ़ इस लड़ाई में हमारी मदद करें. नीचे दिए गए बटन पर क्लिक कर ऑल्ट न्यूज़ को डोनेट करें.
बैंक ट्रांसफ़र / चेक / DD के माध्यम से डोनेट करने सम्बंधित जानकारी के लिए यहां क्लिक करें.
