आमच्या अॅप्सवर बाल शोषण रोखण्यासाठी आक्रमकपणे काम करणेः मेटा

नवी दिल्ली 7 जुलै ( पीटीआय ) सरकारने नोटीस जारी केल्यानंतर काही दिवसांनी मेटाने मंगळवारी बाल लैंगिक शोषण सामग्रीचा सामना करण्याच्या त्याच्या प्रयत्नांची रूपरेषा दिली ( सी. एस. ए. एम. डब्ल्यू. त्याच्या अॅप्सवर ए. आय. - संचालित शोध आणि मोठ्या प्रमाणात अंमलबजावणीच्या कृतींवर प्रकाश टाकते ) कारण सोशल मीडिया जायंटने तरुणांना सुरक्षित ठेवण्यासाठी आणि त्याच्या जाहिरात पुनरावलोकन प्रक्रिया बळकट करण्यासाठी तंत्रज्ञान आणि संसाधनांमध्ये गुंतवणूक सुरू ठेवण्याचे वचन दिले आहे. मंगळवारी प्रकाशित झालेल्या ब्लॉगमध्ये कंपनीने बाल शोषणाला'घृणास्पद गुन्हा'म्हटले आणि आपल्या मंचांवर आणि बाहेर अशा प्रकारच्या दुरुपयोगाशी लढण्यासाठी दररोज आक्रमकपणे काम करत असल्याचे सांगितले. " हे काम सुरू आहे. आमची पथके सतत आमचे संरक्षण सुधारत आहेत - नवीन तंत्रज्ञान विकसित करत आहेत - दुव्यांचे उल्लंघन करणे रोखणे आणि संपूर्ण उद्योगात गुप्त माहिती सामायिक करणे - परंतु आम्हाला माहित आहे की आणखी बरेच काही करायचे आहे. आम्ही तरुणांना सुरक्षित ठेवण्यासाठी आवश्यक असलेल्या प्रत्येक संसाधनांमध्ये गुंतवणूक करत राहू. आमच्या जाहिरात पुनरावलोकन प्रक्रिया बळकट करू आणि गुन्हेगारांना जबाबदार धरण्यासाठी कायद्याच्या अंमलबजावणीबरोबर काम करू " असे मेटा म्हणाले. ए. आय. - संचालित शोध आणि मोठ्या प्रमाणात अंमलबजावणीच्या कृतीवर प्रकाश टाकणाऱ्या आपल्या अॅप्सवर मुलांच्या शोषणाचा सामना करण्यासाठी कंपनीच्या चालू असलेल्या प्रयत्नांचा तपशील मेटा यांनी दिला. " बाल शोषणाविरूद्धच्या आमच्या धोरणांचे उल्लंघन करणाऱ्या भारतातील इन्स्टाग्राम जाहिरातींविषयीच्या अलीकडील बातम्यांबद्दल आम्हाला माहिती आहे. आणि आम्हाला हे स्पष्ट करायचे आहेः आम्ही या चिंता गांभीर्याने घेतो - आम्हाला आमच्या मंचांवर ही सामग्री कधीही नको आहे आणि आम्ही त्याचा सामना करण्यासाठी आमचे प्रयत्न सुधारण्यासाठी वचनबद्ध आहोत. मेटा म्हणाले की, अयोग्य स्वारस्याच्या आधारे मुलांना लोकांपर्यंत पोहोचवणाऱ्या जाहिरातींना ते जाणूनबुजून लक्ष्य करते असे सुचवणे स्पष्टपणे चुकीचे आहे. याउलट, आम्ही मुलांशी संबंधित संभाव्य संशयास्पद क्रियाकलाप दर्शविणारी खाती ओळखण्यासाठी तंत्रज्ञानाचा वापर करतो आणि आम्ही गेल्या वर्षी यापैकी 40 लाखांहून अधिक खाती आपोआप काढून टाकली. मेटा म्हणाले की त्यांनी बाल शोषणाविरूद्ध ए. आय. - संचालित अंमलबजावणी बळकट केली आहे, ज्यामध्ये 98 टक्के लोक ऑनलाइन बोलणाऱ्या भाषांचा समावेश असलेल्या नवीन प्रणालींचा समावेश आहे. गेल्या वर्षी त्यांनी जागतिक स्तरावर 40 लाखांहून अधिक संशयास्पद खाती आणि बाल शोषण सामग्रीचे 3 कोटी 60 लाख तुकडे काढून टाकले. भारतात ए. आय. साधनांनी शोषणकारी क्रियाकलापांशी संबंधित संशयास्पद दुवे पोस्ट केल्याबद्दल गेल्या सहा महिन्यांत 1 लाख 60 हजार खाती काढून टाकण्यास मदत केली. हे प्रकरण आपल्या निदर्शनास आणण्यापूर्वी त्याच्या अंमलबजावणी प्रणालीने उल्लंघन करणाऱ्या अनेक जाहिराती आणि त्यांच्यामागील खाती आधीच ओळखली आणि अक्षम केली होती, असे त्यात पुढे म्हटले आहे. आमच्या त्यानंतरच्या तपासामुळे पुढील जाहिराती काढून टाकणे, खाती अक्षम करणे आणि धोरण - हिंसक सामग्रीशी संबंधित यू. आर. एल. अवरोधित करणे यासह अतिरिक्त कारवाई करण्यात आली. मेनलो पार्क कॅलिफोर्निया - मुख्यालय असलेली तंत्रज्ञान क्षेत्रातील दिग्गज कंपनी मेटा, फेसबुक इंस्टाग्राम आणि व्हॉटस्अप या लोकप्रिय सोशल मीडिया प्लॅटफॉर्मची मालकी बाळगते. " बाल शोषणात्मक क्रियाकलाप दर्शविणाऱ्या इतर संकेतांच्या समन्वयाने व्यक्ती कधी संशयास्पद ऑफ - प्लॅटफॉर्म दुवे पोस्ट करतात हे ओळखण्यासाठी आमच्याकडे प्रगत ए. आय. शोध साधने स्थापन केली आहेत. केवळ गेल्या सहा महिन्यांत यामुळे भारतातील 1 लाख 60 हजार खाती काढून टाकण्यात आली. दरम्यान, सरकारी सूत्रांनी पीटीआयला सांगितले की शनिवारच्या सूचनेवर मेटाच्या अधिकृत प्रतिसादाची प्रतीक्षा आहे. सरकारचे लक्ष समस्यांचे निराकरण करण्यासाठी कंपनीने केलेल्या सुधारात्मक उपाययोजना आणि कृतींवर असेल असे त्यांनी सांगितले. गेल्या आठवड्यात सरकारने इंस्टाग्रामवरील सशुल्क जाहिरातींमध्ये मेटाला बाल लैंगिक शोषण आणि गैरवापर सामग्रीवर ( सी. एस. ई. ए. एम. ) कडक नोटीस जारी केली. एम. ई. आय. टी. वाय. ( इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालय ) ने इंस्टाग्रामला सी. सी. ई. एम. वर प्रचार करणाऱ्या आणि प्रवेश सुलभ करणाऱ्या सर्व जाहिराती आणि सामग्री अक्षम करण्याचे आदेश दिले आणि सात दिवसांच्या आत तपशीलवार स्पष्टीकरण देखील मागितले आहे. बाल लैंगिक शोषणाच्या सामग्रीचा कथितपणे प्रचार करणाऱ्या इन्स्टाग्राम जाहिरातींबद्दल माहिती तंत्रज्ञान मंत्री अश्विनी वैष्णव यांनी एम. ई. आय. टी. वाय. च्या अधिकाऱ्यांना मेटाला बोलावण्याचे निर्देश दिल्यानंतर ही कारवाई करण्यात आली. मंत्रालयाकडून नियामक छाननी बी. बी. सी. च्या अहवालात आली आहे की कथित मेटाचा शिफारस अल्गोरिदम बाल लैंगिक शोषण सामग्री असलेल्या व्हिडिओंना प्रोत्साहन देत आहे, ज्यामुळे सुरक्षेतील गंभीर त्रुटी उघड होत आहेत. मेटाच्या जाहिरात धोरणांमध्ये नग्नता आणि लैंगिकदृष्ट्या स्पष्ट सामग्रीवर स्पष्टपणे बंदी घालण्यात आली असली तरी फेसबुक आणि इन्स्टाग्रामवर या प्रकारच्या जाहिराती दिसत असल्याचे बी. बी. सी. च्या तपासात आढळून आले होते. इन्स्टाग्रामने'रेप व्हिडिओ'आणि'चाइल्ड व्हिडिओ'यासारख्या शब्दांसह सशुल्क जाहिराती दाखवल्याचा आरोप आहे, ज्याने वापरकर्त्यांना टेलिग्राम वाहिन्यांवर निर्देशित केले जेथे अशी सामग्री विक्रीवर होती. मंगळवारीच्या ब्लॉग पोस्टमध्ये'मेटा'ने म्हटले आहे की, कोणतीही प्रणाली प्रत्येक उल्लंघनाची दखल घेऊ शकत नाही हे मान्य करत, धोरण - हिंसक जाहिराती शोधण्यासाठी आणि काढून टाकण्यासाठी त्याची जाहिरात पुनरावलोकन प्रक्रिया मानवी समीक्षकांसह स्वयंचलित प्रणालींचे संयोजन करते. जाहिराती चालवण्यापूर्वी त्यांची छाननी केली जाते आणि कंपनीच्या म्हणण्यानुसार वापरकर्ते संशयास्पद उल्लंघनांची तक्रार करण्यास सक्षम असल्याने सतत पुनरावलोकन आणि पुन्हा पुनरावलोकनाच्या अधीन राहतात. मेटा म्हणाले की ते वैयक्तिक जाहिरातींव्यतिरिक्त जाहिरातदारांच्या वर्तनावर लक्ष ठेवतात आणि जाहिराती नाकारू शकतात किंवा जाहिरातदारांच्या व्यावसायिक खात्यांची जाहिरात खाती पृष्ठे आणि वापरकर्त्यांच्या खात्यांवर निर्बंध घालू शकतात जे त्यांच्या धोरणांचे उल्लंघन करताना आढळतात. वाईट कलाकारांना त्यांच्या मंचांपासून दूर ठेवण्यासाठी आणि वापरकर्त्यांचे अधिक चांगले संरक्षण करण्यासाठी ते त्यांच्या जाहिरात पुनरावलोकन प्रणाली आणि अंमलबजावणी मजबूत करत असल्याचे सोशल मीडिया कंपनीने निदर्शनास आणून दिले. " आम्ही वाईट कलाकारांना आमच्या व्यासपीठांपासून दूर ठेवण्यासाठी वचनबद्ध आहोत आणि त्यांच्यापुढे राहण्यासाठी आमच्या प्रणाली सतत विकसित करत आहोत. आमचे मंच वापरणाऱ्या लोकांचे संरक्षण करणे हे आम्ही आमची जाहिरात मानके कशी तयार करतो आणि त्यांची अंमलबजावणी करतो याच्या केंद्रस्थानी आहे ", असे त्यात म्हटले आहे. या मुद्द्यावर आपला शून्य सहिष्णुतेचा दृष्टीकोन अधोरेखित करताना'मेटा'ने सांगितले की, बाल नग्न शोषण आणि शोषणाच्या विरोधात त्याची तपशीलवार आणि मजबूत धोरणे आहेत ज्यात बाल शोषण प्रतिमा सामायिक करणे किंवा विनंती करणे, किशोरवयीन मुलांशी अनुचित संवाद साधणे आणि अल्पवयीन मुलांचे लैंगिकीकरण यांचा समावेश आहे. आमच्या जाहिरात मानकांमध्ये नमूद केल्याप्रमाणे सर्व जाहिराती बाल लैंगिक शोषणावरील आमच्या सामुदायिक मानकांचे पालन करणे आवश्यक आहे. जाहिरातींमध्ये मुलांचे लैंगिक शोषण करणारी किंवा धोक्यात आणणारी सामग्री नसावी. मेटाने सांगितले की ते नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉइटेड चिल्ड्रन ( एन. सी. एम. ई. सी. ) च्या माध्यमातून कायद्याच्या अंमलबजावणीला बाल शोषण प्रकरणांचा अहवाल देतात आणि जागतिक आणि भारत - विशिष्ट पारदर्शकता अहवाल प्रकाशित करतात आणि भारताच्या आय. टी. नियमांनुसार वैधानिक अनुपालन अधिकाऱ्यांची ( मुख्य अनुपालन अधिकारी तक्रार अधिकारी आणि नोडल संपर्क व्यक्ती ) नियुक्ती केली आहे. कंपनीने सांगितले की, ते त्यांच्या स्वतःच्या व्यासपीठाच्या पलीकडे ऑनलाइन बाल शोषणाचा सामना करण्यासाठी उद्योग आणि कायद्याची अंमलबजावणी करणाऱ्यांसोबत काम करतात. त्याने उद्योग - व्यापी प्रयत्नांना ज्या प्रकारे पाठिंबा दिला आहे ते अधोरेखित केले आणि हिंसक खात्यांवर क्रॉस - प्लॅटफॉर्म गुप्तचर सामायिकरणासाठी तंत्रज्ञान आघाडीच्या लँटरन कार्यक्रमाच्या त्याच्या संस्थापक सदस्यत्वाबद्दल आणि अपमानास्पद सामग्री होस्ट करणाऱ्या तृतीय - पक्षाच्या संकेतस्थळांचे दुवे अवरोधित करण्याच्या प्रयत्नांबद्दल सांगितले.