અમારી એપ્સ પર બાળ શોષણ સામે લડવા માટે આક્રમક રીતે કામ કરી રહ્યા છીએઃ મેટા

નવી દિલ્હી 7 જુલાઈ ( પી. ટી. આઈ. ) સરકારે તેને નોટિસ જારી કર્યાના થોડા દિવસો પછી મેટાએ મંગળવારે બાળ જાતીય શોષણ સામગ્રી ( સી. એસ. એ. એમ. ) નો સામનો કરવાના તેના પ્રયાસોની રૂપરેખા આપી હતી, જેમાં AI - સંચાલિત શોધ અને મોટા પાયે અમલીકરણ ક્રિયાઓને પ્રકાશિત કરવામાં આવી હતી, કારણ કે સોશિયલ મીડિયા જાયન્ટે યુવાનોને સુરક્ષિત રાખવા અને તેની જાહેરાત સમીક્ષા પ્રક્રિયાઓને મજબૂત કરવા માટે ટેકનોલોજી અને સંસાધનોમાં રોકાણ ચાલુ રાખવાનું વચન આપ્યું હતું. મંગળવારે પ્રકાશિત થયેલા એક બ્લોગમાં કંપનીએ બાળ શોષણને " ભયાનક ગુનો " ગણાવ્યો હતો અને ભારપૂર્વક જણાવ્યું હતું કે તે તેના પ્લેટફોર્મ પર અને તેની બહાર આ પ્રકારના દુરુપયોગ સામે લડવા માટે દરરોજ આક્રમક રીતે કામ કરે છે. " આ કામ ચાલી રહ્યું છે. અમારી ટીમો સતત અમારા સંરક્ષણમાં સુધારો કરી રહી છે - નવી તકનીક વિકસાવી રહી છે - લિંક્સના ઉલ્લંઘનને અવરોધે છે અને સમગ્ર ઉદ્યોગમાં ગુપ્ત માહિતી વહેંચે છે - પરંતુ અમે જાણીએ છીએ કે વધુ કરવાનું છે. અમે યુવાનોને સુરક્ષિત રાખવા માટે જરૂરી દરેક સંસાધનમાં રોકાણ કરવાનું ચાલુ રાખીશું. અમારી જાહેરાત સમીક્ષા પ્રક્રિયાઓને મજબૂત બનાવીશું અને ગુનેગારોને જવાબદાર ઠેરવવા માટે કાયદા અમલીકરણ સાથે કામ કરીશું ". મેટાએ જણાવ્યું હતું. મેટાએ AI - સંચાલિત શોધ અને મોટા પાયે અમલીકરણ કાર્યવાહીને પ્રકાશિત કરતી તેની એપ્લિકેશનોમાં બાળ શોષણ સામે લડવા માટે કંપનીના ચાલુ પ્રયાસોની વિગતવાર માહિતી આપી. " અમે ભારતમાં ઇન્સ્ટાગ્રામ જાહેરાતો વિશેના તાજેતરના સમાચાર અહેવાલોથી વાકેફ છીએ જેણે બાળ શોષણ સામેની અમારી નીતિઓનું ઉલ્લંઘન કર્યું છે. અને અમે સ્પષ્ટ થવા માંગીએ છીએઃ અમે આ ચિંતાઓને ગંભીરતાથી લઈએ છીએ - અમે આ સામગ્રીને અમારા પ્લેટફોર્મ પર ક્યારેય ઇચ્છતા નથી અને અમે તેનો સામનો કરવાના અમારા પ્રયત્નોને સુધારવા માટે પ્રતિબદ્ધ છીએ. મેટાએ જણાવ્યું હતું કે તે સૂચવવું સ્પષ્ટ રીતે અચોક્કસ હતું કે તે અયોગ્ય હિતના આધારે બાળકોથી લોકોને દર્શાવતી જાહેરાતોને ઇરાદાપૂર્વક લક્ષ્ય બનાવે છે. " તેનાથી વિપરીત અમે એવા એકાઉન્ટ્સને ઓળખવા માટે ટેકનોલોજીનો ઉપયોગ કરીએ છીએ કે જેમણે બાળકો સાથે સંબંધિત સંભવિત શંકાસ્પદ પ્રવૃત્તિ દર્શાવી છે અને અમે ગયા વર્ષે આમાંથી 40 લાખથી વધુ એકાઉન્ટ્સને આપમેળે દૂર કરી દીધા હતા " એમ મેટાએ જણાવ્યું હતું. મેટાએ જણાવ્યું હતું કે તેણે 98 ટકા લોકો દ્વારા ઓનલાઇન બોલાતી ભાષાઓને આવરી લેતી નવી પ્રણાલીઓ સાથે બાળ શોષણ સામે AI - સંચાલિત અમલીકરણને મજબૂત બનાવ્યું છે. ગયા વર્ષે તેણે વૈશ્વિક સ્તરે 40 લાખથી વધુ શંકાસ્પદ ખાતાઓ અને 36 મિલિયન બાળ શોષણ સામગ્રીને દૂર કરી હતી. ભારતમાં AI ટૂલ્સે શોષણ પ્રવૃત્તિ સાથે સંકળાયેલી શંકાસ્પદ લિંક્સ પોસ્ટ કરવા બદલ છેલ્લા છ મહિનામાં 1,60,000 ખાતાઓને દૂર કરવામાં મદદ કરી હતી. તેણે વધુમાં જણાવ્યું હતું કે કેસો તેના ધ્યાન પર લાવવામાં આવ્યા તે પહેલાં તેની અમલીકરણ પ્રણાલીઓએ ઉલ્લંઘન કરતી કેટલીક જાહેરાતો અને તેમની પાછળના ખાતાઓને પહેલેથી જ ઓળખી કાઢ્યા હતા અને નિષ્ક્રિય કરી દીધા હતા. " અમારી અનુગામી તપાસ વધુ જાહેરાતોને દૂર કરવા અને નીતિ - હિંસક સામગ્રી સાથે જોડાયેલા યુઆરએલને અવરોધિત કરવા સહિત વધારાની કાર્યવાહી તરફ દોરી ગઈ. મેનલો પાર્ક કેલિફોર્નિયાનું મુખ્ય મથક ધરાવતી ટેક જાયન્ટ મેટા લોકપ્રિય સોશિયલ મીડિયા પ્લેટફોર્મ્સ ફેસબુક ઇન્સ્ટાગ્રામ અને વોટ્સએપની માલિકી ધરાવે છે. " અમારી પાસે અદ્યતન AI ડિટેક્શન ટૂલ્સ સ્થાપિત કરવામાં આવ્યા છે કે જ્યારે વ્યક્તિઓ બાળ શોષણની પ્રવૃત્તિ સૂચવતા અન્ય સંકેતો સાથે સંકલનમાં શંકાસ્પદ ઓફ - પ્લેટફોર્મ લિંક્સ પોસ્ટ કરે છે. માત્ર છેલ્લા છ મહિનામાં આ ભારતમાં 1,60,000 ખાતાઓને દૂર કરવા તરફ દોરી ગયું. દરમિયાન સરકારી સૂત્રોએ પી. ટી. આઈ. ને જણાવ્યું હતું કે શનિવારની નોટિસ પર મેટાના સત્તાવાર જવાબની રાહ જોવામાં આવી રહી છે. સરકારનું ધ્યાન કંપની દ્વારા ચિંતાઓને દૂર કરવા માટે લેવામાં આવેલા સુધારાત્મક પગલાં અને પગલાં પર રહેશે. ગયા અઠવાડિયે સરકારે ઇન્સ્ટાગ્રામ પર પેઇડ જાહેરાતોમાં મેટા ઓન ચાઇલ્ડ સેક્સ્યુઅલ એક્સપ્લોઇટેટિવ એન્ડ એબ્યુઝ મટિરિયલ ( સી. એસ. ઈ. એ. એમ. ) ને કડક નોટિસ જારી કરી હતી. એમ. ઈ. આઈ. ટી. વાય. ( મિનિસ્ટ્રી ઓફ ઇલેક્ટ્રોનિક્સ એન્ડ ઇન્ફોર્મેશન ટેકનોલોજી ) એ ઇન્સ્ટાગ્રામને સી. ઈ. ઈ. એમ. ની ऍક્સેસને પ્રોત્સાહન આપતી અને સુવિધા આપતી તમામ જાહેરાતો અને સામગ્રીને નિષ્ક્રિય કરવાનો આદેશ આપ્યો હતો અને સાત દિવસની અંદર વિગતવાર સમજૂતીની પણ માંગ કરી હતી. આઇટી મંત્રી અશ્વિની વૈષ્ણવે કથિત રીતે બાળ જાતીય શોષણની સામગ્રીને પ્રોત્સાહન આપતી ઇન્સ્ટાગ્રામ જાહેરાતો પર એમ. ઈ. આઈ. ટી. વાય. ના અધિકારીઓને મેટાને બોલાવવાનો નિર્દેશ આપ્યા બાદ આ કાર્યવાહી કરવામાં આવી છે. મંત્રાલય તરફથી નિયમનકારી તપાસ બીબીસીના અહેવાલ વચ્ચે આવી હતી કે કથિત મેટાની ભલામણ અલ્ગોરિધમ બાળ જાતીય શોષણ સામગ્રી ધરાવતા વીડિયોને પ્રોત્સાહન આપી રહી છે જે સલામતીમાં ગંભીર અંતરાયોને ઉજાગર કરે છે. બીબીસીની તપાસમાં કથિત રીતે ફેસબુક અને ઇન્સ્ટાગ્રામ પર આ પ્રકારની જાહેરાતો જોવા મળી હતી, તેમ છતાં મેટાની જાહેરાત નીતિઓ નગ્નતા અને લૈંગિક સ્પષ્ટ સામગ્રી પર સ્પષ્ટપણે પ્રતિબંધ મૂકે છે. ઇન્સ્ટાગ્રામ પર'રેપ વીડિયો'અને'ચાઇલ્ડ વીડિયો'જેવી શરતો સાથેની ચૂકવણી કરેલી જાહેરાતો બતાવવાનો આરોપ છે, જેણે વપરાશકર્તાઓને ટેલિગ્રામ ચેનલો તરફ નિર્દેશ કર્યો હતો જ્યાં આવી સામગ્રી કથિત રીતે વેચાણ પર હતી. મંગળવારની બ્લોગ પોસ્ટમાં મેટાએ જણાવ્યું હતું કે તેની જાહેરાત સમીક્ષા પ્રક્રિયા નીતિ - હિંસક જાહેરાતોને શોધવા અને દૂર કરવા માટે માનવ સમીક્ષકો સાથે સ્વચાલિત પ્રણાલીઓને જોડે છે, જ્યારે સ્વીકારે છે કે કોઈ પણ પ્રણાલી દરેક ઉલ્લંઘનને પકડી શકતી નથી. જાહેરાતો ચલાવવામાં આવે તે પહેલાં સ્ક્રીનીંગ કરવામાં આવે છે અને સતત સમીક્ષા અને ફરીથી સમીક્ષાને આધિન રહે છે, જેમાં વપરાશકર્તાઓ પણ શંકાસ્પદ ઉલ્લંઘનની જાણ કરી શકે છે. મેટાએ જણાવ્યું હતું કે તે વ્યક્તિગત જાહેરાતો ઉપરાંત જાહેરાતકર્તાના વર્તન પર નજર રાખે છે અને જાહેરાતોને નકારી શકે છે અથવા જાહેરાતકર્તાના વ્યવસાયિક ખાતાઓ - જાહેરાત ખાતાઓ - પૃષ્ઠો અને તેની નીતિઓનું ઉલ્લંઘન કરતા વપરાશકર્તા ખાતાઓને પ્રતિબંધિત કરી શકે છે. સોશિયલ મીડિયા પેઢીએ ધ્યાન દોર્યું હતું કે તે ખરાબ અભિનેતાઓને તેના પ્લેટફોર્મથી દૂર રાખવા અને વપરાશકર્તાઓને વધુ સારી રીતે સુરક્ષિત કરવા માટે તેની જાહેરાત સમીક્ષા પ્રણાલીઓ અને અમલીકરણને મજબૂત કરવાનું ચાલુ રાખે છે. " અમે ખરાબ અભિનેતાઓને અમારા પ્લેટફોર્મથી દૂર રાખવા માટે પ્રતિબદ્ધ છીએ અને તેમનાથી આગળ રહેવા માટે અમારી પ્રણાલીઓ સતત વિકસાવી રહ્યા છીએ. અમારા પ્લેટફોર્મનો ઉપયોગ કરતા લોકોની સુરક્ષા અમે અમારા જાહેરાત ધોરણો કેવી રીતે બનાવીએ છીએ અને અમલમાં મૂકીએ છીએ તેના કેન્દ્રમાં રહે છે. આ મુદ્દા પર તેના ઝીરો - ટોલરન્સ અભિગમ પર પ્રકાશ પાડતા મેટાએ જણાવ્યું હતું કે તેની પાસે બાળ નગ્નતા દુરુપયોગ અને શોષણ સામે વિગતવાર અને મજબૂત નીતિઓ છે જેમાં બાળ શોષણની છબીઓ વહેંચવી અથવા વિનંતી કરવી, કિશોરો સાથેની અયોગ્ય ક્રિયાપ્રતિક્રિયાઓ અને સગીરોનું જાતીયકરણ સામેલ છે. અમારા જાહેરાત ધોરણોમાં નોંધ્યું છે તેમ તમામ જાહેરાતો બાળ જાતીય શોષણ અને નગ્નતા પરના અમારા સામુદાયિક ધોરણોનું પાલન કરતી હોવી જોઈએ. જાહેરાતોમાં એવી સામગ્રી હોવી જોઈએ નહીં જે બાળકોનું જાતીય શોષણ કરે અથવા જોખમમાં મૂકે. મેટાએ જણાવ્યું હતું કે તે નેશનલ સેન્ટર ફોર મિસિંગ એન્ડ એક્સપ્લોઇટેડ ચિલ્ડ્રન ( એન. સી. એમ. ઇ. સી. ) દ્વારા કાયદાના અમલીકરણને બાળકોના શોષણના સ્પષ્ટ કેસોની જાણ કરે છે અને વૈશ્વિક અને ભારત - વિશિષ્ટ પારદર્શિતા અહેવાલો પ્રકાશિત કરે છે અને ભારતના આઇટી નિયમો હેઠળ વૈધાનિક પાલન અધિકારીઓ ( ચીફ કમ્પ્લાયન્સ ઓફિસર ગ્રીવન્સ ઓફિસર અને નોડલ કોન્ટેક્ટ પર્સન ) ની નિમણૂક કરી છે. કંપનીએ જણાવ્યું હતું કે તે તેના પોતાના પ્લેટફોર્મની બહાર ઓનલાઇન બાળ શોષણનો સામનો કરવા માટે ઉદ્યોગ અને કાયદા અમલીકરણ સાથે કામ કરે છે. તે ઉદ્યોગ - વ્યાપી પ્રયાસોને જે રીતે ટેકો આપે છે તેના પર પ્રકાશ પાડ્યો હતો અને હિંસક ખાતાઓ પર ક્રોસ - પ્લેટફોર્મ ઇન્ટેલિજન્સ શેરિંગ માટે ટેક ગઠબંધનના લેન્ટર્ન પ્રોગ્રામના તેના સ્થાપક સભ્યપદ અને અપમાનજનક સામગ્રી હોસ્ટ કરતી તૃતીય - પક્ષ વેબસાઇટ્સની લિંક્સને અવરોધિત કરવાના પ્રયાસો વિશે વાત કરી હતી.