एक ताज़ा रिपोर्ट के अनुसार, मेटा ने पिछले दस महीनों में भारत सहित कई देशों में सैकड़ों ऐसे विज्ञापन चलाए हैं जो कृत्रिम बुद्धिमत्ता के माध्यम से उत्पन्न बाल यौन शोषण सामग्री को बढ़ावा देते हैं। यह रिपोर्ट अमेरिकी अभियानकर्ताओं द्वारा जारी की गई है। भारतीय सरकार ने दो महीने पहले मेटा को इंस्टाग्राम पर इस तरह की सामग्री वाले सभी विज्ञापनों को हटाने का आदेश दिया था।
मेटा की स्थिति और सरकारी प्रतिक्रिया
बीबीसी के एक जांच के बाद भारतीय सरकार ने यह कदम उठाया था, जिसमें इंस्टाग्राम पर बाल यौन शोषण सामग्री के प्रचारक विज्ञापनों की जानकारी मिली थी। टेक ट्रांसपेरेंसी प्रोजेक्ट (टीटीपी) ने अपनी रिपोर्ट में बताया कि उन्हें फेसबुक और इंस्टाग्राम पर 332 ऐसे विज्ञापन मिले, जिनमें से अधिकांश अगस्त में चलाए गए थे। मेटा ने इस पर जवाब देते हुए कहा कि वे किसी भी प्रकार के बाल शोषण को सहन नहीं करते, चाहे वह वास्तविक हो या AI द्वारा उत्पन्न।
टीटीपी की रिपोर्ट में यह भी बताया गया कि मेटा को इन विज्ञापनों की जानकारी देने के बावजूद, कई विज्ञापन प्लेटफॉर्म पर दिखाई देते रहे। भारत में लगभग 84 विज्ञापन चले, जिनमें से 78 भारतीय सरकार के आदेश के बाद भी जारी रहे।
विज्ञापनों की प्रकृति और टीटीपी की प्रतिक्रिया
टीटीपी ने बताया कि इन विज्ञापनों में वास्तविक बच्चों की तस्वीरों का उपयोग किया गया था, जिन्हें AI के माध्यम से यौन शोषण के रूप में प्रस्तुत किया गया। एक विज्ञापन में एक किशोरी की तस्वीर को इस प्रकार एनिमेट किया गया कि वह एक यौन क्रिया करती दिखती है। इस विज्ञापन को भारत में 50 से अधिक हैंडल द्वारा पोस्ट किया गया था।
टीटीपी ने मेटा के रिपोर्टिंग सिस्टम का उपयोग कर 84 में से 55 विज्ञापनों की रिपोर्ट की। इनमें से केवल 11 विज्ञापनों को हटाया गया, जबकि 43 विज्ञापनों के लिए मेटा ने जवाब दिया कि वे उनके विज्ञापन मानकों का उल्लंघन नहीं करते।
सरकारी और कानूनी कार्यवाही
भारत में बाल अधिकार संरक्षण के लिए कार्यरत संगठनों ने सुप्रीम कोर्ट में याचिका दायर की है, जिसमें सोशल मीडिया प्लेटफॉर्म को अनिवार्य रूप से बाल यौन शोषण सामग्री की रिपोर्टिंग और पहचान करने के निर्देश देने की मांग की गई है।
मेटा ने बीबीसी द्वारा संपर्क किए जाने पर कहा कि उन्होंने कई विज्ञापनों और उनके खातों को निलंबित कर दिया है जो उनकी नीतियों का उल्लंघन कर रहे थे। टीटीपी के अनुसार, अधिकांश विज्ञापन चीनी डेवलपर्स द्वारा बनाए गए AI इमेज या वीडियो जनरेशन ऐप्स को प्रमोट कर रहे थे।
भविष्य की चुनौतियाँ और संभावनाएं
भारत के एक प्रमुख साइबर पुलिस अधिकारी ने कहा कि बाल यौन शोषण सामग्री के प्रसार को रोकने में सबसे बड़ी चुनौती यह है कि उपयोगकर्ता एक प्लेटफॉर्म से दूसरे प्लेटफॉर्म पर आसानी से जा सकते हैं। उन्होंने उम्मीद जताई कि सरकार इस मुद्दे को सोशल मीडिया इंटरमीडिएरीज के साथ अपनी बातचीत में संबोधित करेगी।
मेटा ने कहा कि उनके प्लेटफॉर्म पर कोई भी व्यक्ति उनके विज्ञापनों के खिलाफ रिपोर्ट कर सकता है यदि वे उनकी नीतियों का उल्लंघन करते हों। हालांकि, टीटीपी द्वारा रिपोर्ट किए गए कई विज्ञापन अभी भी प्लेटफॉर्म पर दिखाई दे रहे थे।
