हमारे ऐप्स पर बाल शोषण से निपटने के लिए आक्रामक रूप से काम करनाः मेटा

नई दिल्ली 7 जुलाई ( पीटीआई ) सरकार द्वारा इसे एक नोटिस जारी करने के कुछ ही दिनों बाद मेटा ने मंगलवार को बाल यौन शोषण सामग्री ( सीएसएएम ) से निपटने के अपने प्रयासों को रेखांकित किया, जिसमें एआई - संचालित पहचान और बड़े पैमाने पर प्रवर्तन कार्यों को उजागर किया गया है, क्योंकि सोशल मीडिया दिग्गज ने युवाओं को सुरक्षित रखने और अपनी विज्ञापन समीक्षा प्रक्रियाओं को मजबूत करने के लिए प्रौद्योगिकी और संसाधनों में निवेश जारी रखने का वादा किया है । मंगलवार को प्रकाशित एक ब्लॉग में कंपनी ने बाल शोषण को एक " भयानक अपराध " करार दिया और जोर देकर कहा कि वह अपने मंचों पर और बाहर इस तरह के दुरुपयोग से लड़ने के लिए हर दिन आक्रामक रूप से काम करती है । " यह काम चल रहा है । हमारी टीमें लगातार अपने बचाव में सुधार कर रही हैं - नई तकनीक विकसित कर रही हैं जो लिंक का उल्लंघन करती है और पूरे उद्योग में खुफिया जानकारी साझा कर रही है - लेकिन हम जानते हैं कि और भी बहुत कुछ करना है । हम युवाओं को सुरक्षित रखने के लिए आवश्यक हर संसाधन में निवेश करना जारी रखेंगे । अपनी विज्ञापन समीक्षा प्रक्रियाओं को मजबूत करेंगे और अपराधियों को जवाबदेह ठहराने के लिए कानून प्रवर्तन के साथ काम करेंगे । " मेटा ने कहा । मेटा ने अपने ऐप्स में बाल शोषण से निपटने के लिए कंपनी के चल रहे प्रयासों का विवरण दिया जिसमें एआई - संचालित पहचान और बड़े पैमाने पर प्रवर्तन कार्रवाई पर प्रकाश डाला गया है । " हम भारत में इंस्टाग्राम विज्ञापनों के बारे में हाल की समाचार रिपोर्टों से अवगत हैं जिन्होंने बाल शोषण के खिलाफ हमारी नीतियों का उल्लंघन किया है । और हम स्पष्ट होना चाहते हैंः हम इन चिंताओं को गंभीरता से लेते हैं - हम कभी भी इस सामग्री को अपने प्लेटफार्मों पर नहीं चाहते हैं और हम इसका मुकाबला करने के अपने प्रयासों को बेहतर बनाने के लिए प्रतिबद्ध हैं । मेटा ने कहा कि यह सुझाव देना स्पष्ट रूप से गलत था कि यह अनुचित रुचि के आधार पर जानबूझकर बच्चों को लोगों के लिए दिखाने वाले विज्ञापनों को लक्षित करता है । मेटा ने कहा, " इसके विपरीत हम उन खातों की पहचान करने के लिए प्रौद्योगिकी का उपयोग करते हैं जिन्होंने बच्चों से संबंधित संभावित संदिग्ध गतिविधि दिखाई है और हमने पिछले साल इनमें से चालीस लाख से अधिक खातों को स्वचालित रूप से हटा दिया । " मेटा ने कहा कि इसने 98 प्रतिशत लोगों द्वारा ऑनलाइन बोली जाने वाली भाषाओं को शामिल करने वाली नई प्रणालियों के साथ बाल शोषण के खिलाफ एआई - संचालित प्रवर्तन को मजबूत किया है । पिछले साल इसने विश्व स्तर पर चालीस लाख से अधिक संदिग्ध खातों और 36 मिलियन बाल शोषण सामग्री को हटा दिया । भारत में ए. आई. उपकरणों ने पिछले छह महीनों में शोषणकारी गतिविधि से जुड़े संदिग्ध लिंक पोस्ट करने के लिए 1,60,000 खातों को हटाने में मदद की । इसने आगे कहा कि मामलों को उसके ध्यान में लाने से पहले इसकी प्रवर्तन प्रणालियों ने पहले ही कई उल्लंघन करने वाले विज्ञापनों और उनके पीछे के खातों की पहचान कर ली थी और उन्हें अक्षम कर दिया था । " हमारी बाद की जांच ने अतिरिक्त कार्रवाई की, जिसमें खातों को अक्षम करने वाले विज्ञापनों को हटाना और नीति - हिंसक सामग्री से जुड़े यू. आर. एल. को अवरुद्ध करना शामिल है । मेनलो पार्क कैलिफोर्निया - मुख्यालय वाली तकनीकी दिग्गज कंपनी मेटा के पास लोकप्रिय सोशल मीडिया प्लेटफॉर्म फेसबुक इंस्टाग्राम और वॉट्सऐप हैं । मेटा ने कहा, " हमारे पास यह पहचानने के लिए उन्नत कृत्रिम बुद्धिमत्ता का पता लगाने वाले उपकरण स्थापित किए गए हैं कि कब व्यक्ति बाल शोषण गतिविधि का संकेत देने वाले अन्य संकेतों के साथ समन्वय में संदिग्ध ऑफ - प्लेटफ़ॉर्म लिंक पोस्ट करते हैं । अकेले पिछले छह महीनों में इसके कारण भारत में 1,60,000 खातों को हटा दिया गया है । इस बीच सरकारी सूत्रों ने बताया कि शनिवार के नोटिस पर मेटा की आधिकारिक प्रतिक्रिया का इंतजार है । सरकार का ध्यान कंपनी द्वारा चिंताओं को दूर करने के लिए किए गए सुधारात्मक उपायों और कार्यों पर होगा । पिछले हफ्ते सरकार ने इंस्टाग्राम पर भुगतान किए गए विज्ञापनों में मैटा ऑन चाइल्ड सेक्सुअल एक्सप्लोइटेटिव एंड एब्यूज मैटेरियल ( सी. एस. ई. ए. एम. ) को एक सख्त नोटिस जारी किया । एम. ई. आई. टी. वाई. ( इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ) ने इंस्टाग्राम को सी. ई. ई. एम. तक पहुंच को बढ़ावा देने और सुविधा प्रदान करने वाले सभी विज्ञापनों और सामग्री को अक्षम करने का आदेश दिया और सात दिनों के भीतर एक विस्तृत स्पष्टीकरण की भी मांग की है । यह कार्रवाई तब हुई जब सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने एम. ई. आई. टी. वाई. के अधिकारियों को कथित रूप से बाल यौन शोषण सामग्री को बढ़ावा देने वाले इंस्टाग्राम विज्ञापनों पर मेटा को बुलाने का निर्देश दिया । मंत्रालय से विनियामक जांच बीबीसी की एक रिपोर्ट के बीच आई कि कथित रूप से मेटा की सिफारिश एल्गोरिथ्म बाल यौन शोषण सामग्री वाले वीडियो को बढ़ावा दे रही थी जो सुरक्षा उपायों में गंभीर अंतराल को उजागर करती थी । मेटा की विज्ञापन नीतियों में नग्नता और यौन स्पष्ट सामग्री को स्पष्ट रूप से प्रतिबंधित करने के बावजूद बीबीसी की जांच में कथित तौर पर फेसबुक और इंस्टाग्राम पर इस तरह के विज्ञापन दिखाई दिए थे । इंस्टाग्राम पर आरोप है कि उसने'रेप वीडियो'और'चाइल्ड वीडियो'जैसे शब्दों के साथ भुगतान किए गए विज्ञापन दिखाए थे, जो उपयोगकर्ताओं को टेलिग्राम चैनलों पर निर्देशित करते थे, जहां इस तरह की सामग्री कथित तौर पर बिक्री पर थी । मंगलवार के ब्लॉग पोस्ट में मेटा ने कहा कि इसकी विज्ञापन समीक्षा प्रक्रिया नीति - हिंसक विज्ञापनों का पता लगाने और उन्हें हटाने के लिए मानव समीक्षकों के साथ स्वचालित प्रणालियों को जोड़ती है, जबकि यह स्वीकार करते हुए कि कोई भी प्रणाली प्रत्येक उल्लंघन को नहीं पकड़ सकती है । विज्ञापनों को चलाने से पहले उनकी जांच की जाती है और कंपनी के अनुसार उपयोगकर्ता संदिग्ध उल्लंघनों की रिपोर्ट करने में सक्षम होने के साथ निरंतर समीक्षा और पुनः समीक्षा के अधीन रहते हैं । मेटा ने कहा कि वह व्यक्तिगत विज्ञापनों के अलावा विज्ञापनदाता के व्यवहार की निगरानी करता है और विज्ञापनों को अस्वीकार कर सकता है या विज्ञापनदाता के व्यावसायिक खातों - विज्ञापन खातों के पृष्ठों और उपयोगकर्ता खातों को प्रतिबंधित कर सकता है जो इसकी नीतियों का उल्लंघन करते पाए जाते हैं । सोशल मीडिया फर्म ने बताया कि वह अपने विज्ञापन समीक्षा प्रणालियों और प्रवर्तन को मजबूत करना जारी रखे हुए है ताकि खराब अभिनेताओं को अपने प्लेटफार्मों से दूर रखा जा सके और उपयोगकर्ताओं की बेहतर सुरक्षा की जा सके । " हम बुरे अभिनेताओं को अपने मंचों से दूर रखने के लिए प्रतिबद्ध हैं और उनसे आगे रहने के लिए अपनी प्रणालियों को लगातार विकसित कर रहे हैं । हमारे मंचों का उपयोग करने वाले लोगों की सुरक्षा इस बात के केंद्र में है कि हम अपने विज्ञापन मानकों का निर्माण और उन्हें कैसे लागू करते हैं । इस मुद्दे पर अपने शून्य - सहिष्णुता दृष्टिकोण पर प्रकाश डालते हुए मेटा ने कहा कि इसकी बाल नग्नता के दुरुपयोग और शोषण के खिलाफ विस्तृत और मजबूत नीतियां हैं जिनमें किशोरों के साथ अनुचित बातचीत और नाबालिगों के यौनकरण को साझा करना या बाल शोषण की छवियों का अनुरोध करना शामिल है । " जैसा कि हमारे विज्ञापन मानकों में उल्लेख किया गया है कि सभी विज्ञापनों को बाल यौन शोषण और नग्नता पर हमारे सामुदायिक मानकों का पालन करना चाहिए । विज्ञापनों में ऐसी सामग्री नहीं होनी चाहिए जो बच्चों का यौन शोषण करती हो या उन्हें खतरे में डालती हो । मेटा ने कहा कि वह राष्ट्रीय लापता और शोषित बच्चों के केंद्र ( एन. सी. एम. ई. सी. ) के माध्यम से कानून प्रवर्तन को बाल शोषण के मामलों की रिपोर्ट करता है जो वैश्विक और भारत - विशिष्ट पारदर्शिता रिपोर्ट प्रकाशित करता है और भारत के आई. टी. नियमों के तहत वैधानिक अनुपालन अधिकारियों ( मुख्य अनुपालन अधिकारी शिकायत अधिकारी और नोडल संपर्क व्यक्ति ) को नियुक्त किया है । कंपनी ने कहा कि वह अपने स्वयं के प्लेटफार्मों से परे ऑनलाइन बाल शोषण का मुकाबला करने के लिए उद्योग और कानून प्रवर्तन के साथ काम करती है । इसने उन तरीकों पर प्रकाश डाला जिसमें यह उद्योग - व्यापी प्रयासों का समर्थन करता है और हिंसक खातों पर क्रॉस - प्लेटफ़ॉर्म खुफिया साझा करने के लिए तकनीकी गठबंधन के लालटेन कार्यक्रम की अपनी संस्थापक सदस्यता और अपमानजनक सामग्री होस्ट करने वाली तीसरे पक्ष की वेबसाइटों के लिंक को अवरुद्ध करने के प्रयासों के बारे में बात की ।