ഞങ്ങളുടെ ആപ്ലിക്കേഷനുകളിൽ കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെ നേരിടാൻ അക്രമാസക്തമായി പ്രവർത്തിക്കുന്നുഃ മെറ്റാ

ന്യൂഡൽഹിഃ സർക്കാർ ഒരു നോട്ടീസ് പുറപ്പെടുവിച്ച് ദിവസങ്ങൾക്ക് ശേഷം മെറ്റ ചൊവ്വാഴ്ച കുട്ടികളുടെ ലൈംഗിക ദുരുപയോഗം തടയുന്നതിനുള്ള ശ്രമങ്ങൾ ( സിഎഎസ്എഎം ) അതിന്റെ ആപ്ലിക്കേഷനുകളിലുടനീളം എഐ - പവർഡ് ഡിറ്റക്ഷനും വലിയ തോതിലുള്ള എൻഫോഴ്സ്മെന്റ് പ്രവർത്തനങ്ങളും എടുത്തുകാണിക്കുന്നു, കാരണം സോഷ്യൽ മീഡിയ ഭീമൻ യുവാക്കളെ സുരക്ഷിതമായി നിലനിർത്തുന്നതിനും പരസ്യ അവലോകന പ്രക്രിയകൾ ശക്തിപ്പെടുത്തുന്നതിനുമായി സാങ്കേതികവിദ്യയിലും വിഭവങ്ങളിലും നിക്ഷേപം തുടരുമെന്ന് വാഗ്ദാനം ചെയ്തു. ചൊവ്വാഴ്ച പ്രസിദ്ധീകരിച്ച ഒരു ബ്ലോഗിൽ കമ്പനി കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെ " ഭയാനകമായ കുറ്റകൃത്യം " എന്ന് വിശേഷിപ്പിക്കുകയും തങ്ങളുടെ പ്ലാറ്റ്ഫോമുകളിലും പുറത്തും ഇത്തരത്തിലുള്ള ദുരുപയോഗത്തിനെതിരെ പോരാടുന്നതിന് എല്ലാ ദിവസവും അക്രമാസക്തമായി പ്രവർത്തിക്കുന്നുവെന്ന് അവകാശപ്പെടുകയും ചെയ്തു. " ഈ പ്രവർത്തനം പുരോഗമിക്കുകയാണ്. ഞങ്ങളുടെ ടീമുകൾ ഞങ്ങളുടെ പ്രതിരോധം നിരന്തരം മെച്ചപ്പെടുത്തുകയാണ് - പുതിയ സാങ്കേതികവിദ്യ വികസിപ്പിച്ചുകൊണ്ടിരിക്കുന്നു - ലിങ്കുകൾ ലംഘിക്കുന്നതിനെ തടയുകയും വ്യവസായത്തിലുടനീളം ഇന്റലിജൻസ് പങ്കിടുകയും ചെയ്യുന്നു - എന്നാൽ കൂടുതൽ കാര്യങ്ങൾ ചെയ്യാനുണ്ടെന്ന് ഞങ്ങൾക്കറിയാം. യുവാക്കളെ സുരക്ഷിതമായി നിലനിർത്താൻ ആവശ്യമായ എല്ലാ വിഭവങ്ങളിലും ഞങ്ങൾ നിക്ഷേപം തുടരും. ഞങ്ങളുടെ പരസ്യ അവലോകന പ്രക്രിയകൾ ശക്തിപ്പെടുത്തുകയും കുറ്റവാളികളെ ഉത്തരവാദികളാക്കാൻ നിയമപാലകരുമായി പ്രവർത്തിക്കുകയും ചെയ്യും " മെറ്റ പറഞ്ഞു. എഐ - പവർഡ് ഡിറ്റക്ഷനും വലിയ തോതിലുള്ള എൻഫോഴ്സ്മെന്റ് നടപടികളും എടുത്തുകാണിക്കുന്ന ആപ്ലിക്കേഷനുകളിലുടനീളം കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെ ചെറുക്കുന്നതിനുള്ള കമ്പനിയുടെ തുടർച്ചയായ ശ്രമങ്ങൾ മെറ്റ വിശദീകരിച്ചു. " കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെതിരെ ഞങ്ങളുടെ നയങ്ങൾ ലംഘിച്ച ഇന്ത്യയിലെ ഇൻസ്റ്റാഗ്രാം പരസ്യങ്ങളെക്കുറിച്ചുള്ള സമീപകാല വാർത്താ റിപ്പോർട്ടുകളെക്കുറിച്ച് ഞങ്ങൾക്കറിയാം. ഞങ്ങൾ വ്യക്തമാക്കാൻ ആഗ്രഹിക്കുന്നുഃ ഈ ആശങ്കകൾ ഞങ്ങൾ ഗൌരവമായി എടുക്കുന്നു - ഞങ്ങളുടെ പ്ലാറ്റ്ഫോമുകളിൽ ഈ ഉള്ളടക്കം ഞങ്ങൾ ഒരിക്കലും ആഗ്രഹിക്കുന്നില്ല, അതിനെ ചെറുക്കാനുള്ള ഞങ്ങളുടെ ശ്രമങ്ങൾ മെച്ചപ്പെടുത്താൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ് ". അനുചിതമായ താൽപ്പര്യത്തിന്റെ അടിസ്ഥാനത്തിൽ കുട്ടികൾ ആളുകളെ അവതരിപ്പിക്കുന്ന പരസ്യങ്ങൾ മനപ്പൂർവ്വം ലക്ഷ്യമിടുന്നുവെന്ന് സൂചിപ്പിക്കുന്നത് കൃത്യമല്ലെന്ന് മെറ്റ പറഞ്ഞു. " നേരെമറിച്ച്, കുട്ടികളുമായി ബന്ധപ്പെട്ട സംശയാസ്പദമായ പ്രവർത്തനങ്ങൾ കാണിക്കുന്ന അക്കൌണ്ടുകൾ തിരിച്ചറിയാൻ ഞങ്ങൾ സാങ്കേതികവിദ്യ ഉപയോഗിക്കുന്നു, കഴിഞ്ഞ വർഷം ഈ അക്കൌണ്ടുകളിൽ നാല് ദശലക്ഷത്തിലധികം ഞങ്ങൾ യാന്ത്രികമായി നീക്കം ചെയ്തു " മെറ്റ പറഞ്ഞു. 98 ശതമാനം ആളുകളും ഓൺലൈനിൽ സംസാരിക്കുന്ന ഭാഷകൾ ഉൾക്കൊള്ളുന്ന പുതിയ സംവിധാനങ്ങളിലൂടെ കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെതിരെ AI - പവർഡ് എൻഫോഴ്സ്മെന്റ് ശക്തിപ്പെടുത്തിയതായി മെറ്റ പറഞ്ഞു. കഴിഞ്ഞ വർഷം ഇത് ആഗോളതലത്തിൽ നാല് ദശലക്ഷത്തിലധികം സംശയാസ്പദമായ അക്കൌണ്ടുകളും 36 ദശലക്ഷം കുട്ടികളെ ചൂഷണം ചെയ്യുന്ന ഉള്ളടക്കങ്ങളും നീക്കം ചെയ്തു. ചൂഷണ പ്രവർത്തനങ്ങളുമായി ബന്ധപ്പെട്ട സംശയാസ്പദമായ ലിങ്കുകൾ പോസ്റ്റ് ചെയ്തതിന് കഴിഞ്ഞ ആറ് മാസത്തിനിടെ 1,60,000 അക്കൌണ്ടുകൾ നീക്കം ചെയ്യാൻ AI ടൂളുകൾ സഹായിച്ചു. കേസുകൾ തങ്ങളുടെ ശ്രദ്ധയിൽപ്പെടുത്തുന്നതിനുമുമ്പ് അതിന്റെ എൻഫോഴ്സ്മെന്റ് സിസ്റ്റങ്ങൾ ഇതിനകം തന്നെ ലംഘിക്കുന്ന നിരവധി പരസ്യങ്ങളെയും അവയ്ക്ക് പിന്നിലെ അക്കൌണ്ടുകളെയും തിരിച്ചറിയുകയും അപ്രാപ്തമാക്കുകയും ചെയ്തിട്ടുണ്ടെന്നും അത് പറഞ്ഞു. " ഞങ്ങളുടെ തുടർന്നുള്ള അന്വേഷണം കൂടുതൽ പരസ്യങ്ങൾ നീക്കം ചെയ്യുന്നതും അക്കൌണ്ടുകൾ പ്രവർത്തനരഹിതമാക്കുന്നതും നയ - അക്രമാസക്തമായ ഉള്ളടക്കവുമായി ലിങ്കുചെയ്തിരിക്കുന്ന യു. ആർ. എല്ലുകൾ തടയുന്നതും ഉൾപ്പെടെയുള്ള അധിക നടപടികളിലേക്ക് നയിച്ചു. കാലിഫോർണിയ ആസ്ഥാനമായി പ്രവർത്തിക്കുന്ന മെൻലോ പാർക്ക് ആസ്ഥാനമായുള്ള ടെക് ഭീമൻ മെറ്റയ്ക്ക് ജനപ്രിയ സോഷ്യൽ മീഡിയ പ്ലാറ്റ്ഫോമുകളായ ഫേസ്ബുക്ക്, ഇൻസ്റ്റാഗ്രാം, വാട്ട്സ്ആപ്പ് എന്നിവ സ്വന്തമാണ്. " കുട്ടികളുടെ ചൂഷണ പ്രവർത്തനത്തെ സൂചിപ്പിക്കുന്ന മറ്റ് സിഗ്നലുകളുമായി ഏകോപിപ്പിച്ച് വ്യക്തികൾ എപ്പോൾ സംശയാസ്പദമായ ഓഫ് - പ്ലാറ്റ്ഫോം ലിങ്കുകൾ പോസ്റ്റുചെയ്യുന്നുവെന്ന് തിരിച്ചറിയാൻ ഞങ്ങൾക്ക് നൂതന AI ഡിറ്റക്ഷൻ ടൂളുകൾ സജ്ജീകരിച്ചിട്ടുണ്ട്. കഴിഞ്ഞ ആറ് മാസത്തിനുള്ളിൽ മാത്രം ഇത് ഇന്ത്യയിലെ 1,60,000 അക്കൌണ്ടുകൾ നീക്കം ചെയ്യുന്നതിലേക്ക് നയിച്ചു. അതേസമയം ശനിയാഴ്ചത്തെ നോട്ടീസിനുള്ള മെറ്റയുടെ ഔദ്യോഗിക പ്രതികരണത്തിനായി കാത്തിരിക്കുകയാണെന്ന് സർക്കാർ വൃത്തങ്ങൾ പി. ടി. ഐയോട് പറഞ്ഞു. ആശങ്കകൾ പരിഹരിക്കുന്നതിന് കമ്പനി സ്വീകരിച്ച തിരുത്തൽ നടപടികളിലും നടപടികളിലും സർക്കാരിന്റെ ശ്രദ്ധ കേന്ദ്രീകരിക്കുമെന്ന് അവർ പറഞ്ഞു. ഇൻസ്റ്റാഗ്രാമിലെ പണമടച്ചുള്ള പരസ്യങ്ങളിൽ മെറ്റ ഓൺ ചൈൽഡ് സെക്സുവൽ എക്സ്പ്ലോയിറ്റേറ്റീവ് ആൻഡ് അബ്യൂസ് മെറ്റീരിയലിന് ( സി. എസ്. ഇ. എ. എം. ) കഴിഞ്ഞയാഴ്ച സർക്കാർ കർശന നോട്ടീസ് നൽകിയിരുന്നു. സി. ഇ. ഇ. എമ്മിലേക്ക് പ്രവേശനം പ്രോത്സാഹിപ്പിക്കുന്നതും സുഗമമാക്കുന്നതുമായ എല്ലാ പരസ്യങ്ങളും ഉള്ളടക്കവും പ്രവർത്തനരഹിതമാക്കാൻ എം. ഇ. ഐ. ടി. വൈ ( മിനിസ്ട്രി ഓഫ് ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി ) ഇൻസ്റ്റഗ്രാമിനോട് ഉത്തരവിടുകയും ഏഴ് ദിവസത്തിനുള്ളിൽ വിശദമായ വിശദീകരണവും ആവശ്യപ്പെടുകയും ചെയ്തു. കുട്ടികളുടെ ലൈംഗികാതിക്രമം പ്രോത്സാഹിപ്പിക്കുന്ന ഇൻസ്റ്റാഗ്രാം പരസ്യങ്ങളുടെ പേരിൽ മെറ്റയെ വിളിച്ചുവരുത്താൻ ഐടി മന്ത്രി അശ്വിനി വൈഷ്ണവ് എം. ഇ. ഐ. ടി. വൈ ഉദ്യോഗസ്ഥർക്ക് നിർദ്ദേശം നൽകിയതിനെ തുടർന്നാണ് നടപടി. മെറ്റയുടെ ശുപാർശ അൽഗോരിതം കുട്ടികളുടെ ലൈംഗികാതിക്രമ വസ്തുക്കൾ അടങ്ങിയ വീഡിയോകൾ പ്രോത്സാഹിപ്പിക്കുകയാണെന്ന് ആരോപിക്കപ്പെടുന്ന ബിബിസി റിപ്പോർട്ടിന് ഇടയിലാണ് മന്ത്രാലയത്തിൽ നിന്നുള്ള നിയന്ത്രണ പരിശോധന വന്നത്. മെറ്റയുടെ പരസ്യ നയങ്ങൾ നഗ്നതയും ലൈംഗികമായി വ്യക്തമായ ഉള്ളടക്കവും വ്യക്തമായി നിരോധിക്കുന്നുണ്ടെങ്കിലും ഫേസ്ബുക്കിലും ഇൻസ്റ്റാഗ്രാമിലും ഈ തരത്തിലുള്ള പരസ്യങ്ങൾ പ്രത്യക്ഷപ്പെടുന്നുവെന്ന് ബിബിസി അന്വേഷണത്തിൽ കണ്ടെത്തിയിരുന്നു. ' റേപ്പ് വീഡിയോ ','ചൈൽഡ് വീഡിയോ'തുടങ്ങിയ പദങ്ങളുള്ള പണമടച്ചുള്ള പരസ്യങ്ങൾ ഇൻസ്റ്റാഗ്രാം കാണിച്ചതായി ആരോപിക്കപ്പെടുന്നു, ഇത് അത്തരം ഉള്ളടക്കം വിൽപ്പനയ്ക്കെത്തിയതായി റിപ്പോർട്ട് ചെയ്യപ്പെട്ട ടെലിഗ്രാം ചാനലുകളിലേക്ക് ഉപയോക്താക്കളെ നയിച്ചു. ഒരു സംവിധാനത്തിനും എല്ലാ ലംഘനങ്ങളും പിടിക്കാൻ കഴിയില്ലെന്ന് സമ്മതിച്ചുകൊണ്ട് തങ്ങളുടെ പരസ്യ അവലോകന പ്രക്രിയ മനുഷ്യ നിരൂപകരുമായി ഓട്ടോമേറ്റഡ് സിസ്റ്റങ്ങളെ സംയോജിപ്പിച്ച് നയ - അക്രമാസക്തമായ പരസ്യങ്ങൾ കണ്ടെത്തുകയും നീക്കം ചെയ്യുകയും ചെയ്യുന്നുവെന്ന് ചൊവ്വാഴ്ചത്തെ ബ്ലോഗ് പോസ്റ്റിൽ മെറ്റ പറഞ്ഞു. പരസ്യങ്ങൾ പ്രവർത്തിപ്പിക്കുന്നതിന് മുമ്പ് അവ പരിശോധിക്കുകയും തുടർച്ചയായ അവലോകനത്തിനും വീണ്ടും അവലോകനം ചെയ്യുന്നതിനും വിധേയമാവുകയും ചെയ്യുന്നു, കൂടാതെ ഉപയോക്താക്കൾക്ക് സംശയാസ്പദമായ ലംഘനങ്ങൾ റിപ്പോർട്ട് ചെയ്യാനും കഴിയുമെന്ന് കമ്പനി പറയുന്നു. വ്യക്തിഗത പരസ്യങ്ങൾക്ക് പുറമേ പരസ്യദാതാക്കളുടെ പെരുമാറ്റം നിരീക്ഷിക്കുന്നതായും പരസ്യങ്ങൾ നിരസിക്കുകയോ പരസ്യദാതാക്കളുടെ ബിസിനസ് അക്കൌണ്ടുകളുടെ പരസ്യ അക്കൌണ്ടുകളുടെ പേജുകളും ഉപയോക്തൃ അക്കൌണ്ടുകളും നിയന്ത്രിക്കുകയോ ചെയ്യുമെന്നും മെറ്റ പറഞ്ഞു. മോശം അഭിനേതാക്കളെ അവരുടെ പ്ലാറ്റ്ഫോമുകളിൽ നിന്ന് അകറ്റിനിർത്തുന്നതിനും ഉപയോക്താക്കളെ മികച്ച രീതിയിൽ സംരക്ഷിക്കുന്നതിനുമായി പരസ്യ അവലോകന സംവിധാനങ്ങളും നടപ്പാക്കലും ശക്തിപ്പെടുത്തുന്നത് തുടരുകയാണെന്ന് സോഷ്യൽ മീഡിയ സ്ഥാപനം ചൂണ്ടിക്കാട്ടി. " മോശം അഭിനേതാക്കളെ ഞങ്ങളുടെ പ്ലാറ്റ്ഫോമുകളിൽ നിന്ന് അകറ്റിനിർത്താൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ്, അവരെക്കാൾ മുന്നിൽ നിൽക്കാൻ ഞങ്ങളുടെ സംവിധാനങ്ങൾ നിരന്തരം വികസിപ്പിച്ചുകൊണ്ടിരിക്കുകയാണ്. ഞങ്ങളുടെ പ്ലാറ്റ്ഫോമുകൾ ഉപയോഗിക്കുന്ന ആളുകളെ സംരക്ഷിക്കുന്നത് ഞങ്ങളുടെ പരസ്യ മാനദണ്ഡങ്ങൾ എങ്ങനെ നിർമ്മിക്കുകയും നടപ്പിലാക്കുകയും ചെയ്യുന്നു എന്നതിൻ്റെ കേന്ദ്രത്തിലാണ്. ഈ വിഷയത്തിൽ അതിന്റെ സഹിഷ്ണുതയില്ലാത്ത സമീപനം എടുത്തുകാണിച്ച മെറ്റ, കുട്ടികളുടെ നഗ്നത്വത്തിനും ചൂഷണത്തിനും എതിരെ വിശദമായതും കരുത്തുറ്റതുമായ നയങ്ങളുണ്ടെന്ന് പറഞ്ഞു, അതിൽ കുട്ടികളെ ചൂഷണം ചെയ്യുന്ന ചിത്രങ്ങൾ പങ്കിടുകയോ അഭ്യർത്ഥിക്കുകയോ ചെയ്യുക, കൌമാരക്കാരുമായുള്ള അനുചിതമായ ഇടപെടലുകൾ, പ്രായപൂർത്തിയാകാത്തവരുടെ ലൈംഗികവൽക്കരണം എന്നിവ ഉൾപ്പെടുന്നു. ഞങ്ങളുടെ പരസ്യ മാനദണ്ഡങ്ങളിൽ സൂചിപ്പിച്ചതുപോലെ, എല്ലാ പരസ്യങ്ങളും കുട്ടികളുടെ ലൈംഗിക ചൂഷണത്തെക്കുറിച്ചുള്ള ഞങ്ങളുടെ കമ്മ്യൂണിറ്റി മാനദണ്ഡങ്ങൾക്ക് അനുസൃതമായിരിക്കണം. പരസ്യങ്ങളിൽ കുട്ടികളെ ലൈംഗികമായി ചൂഷണം ചെയ്യുന്നതോ അപകടപ്പെടുത്തുന്നതോ ആയ ഉള്ളടക്കം അടങ്ങിയിരിക്കരുത്. നാഷണൽ സെന്റർ ഫോർ മിസ്സിംഗ് ആൻഡ് എക്സ്പ്ലോയിറ്റഡ് ചിൽഡ്രൻ ( എൻ. സി. എം. ഇ. സി. ) വഴി ആഗോള, ഇന്ത്യ - നിർദ്ദിഷ്ട സുതാര്യത റിപ്പോർട്ടുകൾ പ്രസിദ്ധീകരിക്കുകയും നിയമപരമായ പാലിക്കൽ ഓഫീസർമാരെ ( ചീഫ് കംപ്ലയിൻസ് ഓഫീസർ ഗ്രീവൻസ് ഓഫീസറും നോഡൽ കോൺടാക്റ്റ് പേഴ്സണും ) ഇന്ത്യയുടെ ഐടി നിയമങ്ങൾക്ക് കീഴിൽ നിയമിക്കുകയും ചെയ്തതായി മെറ്റ പറഞ്ഞു. സ്വന്തം പ്ലാറ്റ്ഫോമുകൾക്കപ്പുറം ഓൺലൈൻ കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതിനെ നേരിടാൻ വ്യവസായവുമായും നിയമപാലകരുമായും ചേർന്ന് പ്രവർത്തിക്കുന്നതായി കമ്പനി അറിയിച്ചു. വ്യവസായത്തിലുടനീളമുള്ള ശ്രമങ്ങളെ പിന്തുണയ്ക്കുന്ന വഴികൾ ഇത് എടുത്തുകാണിക്കുകയും കൊള്ളയടിക്കുന്ന അക്കൌണ്ടുകളിൽ ക്രോസ് - പ്ലാറ്റ്ഫോം ഇന്റലിജൻസ് പങ്കിടുന്നതിനുള്ള ടെക് സഖ്യത്തിന്റെ ലാന്റേൺ പ്രോഗ്രാമിന്റെ സ്ഥാപക അംഗത്വത്തെക്കുറിച്ചും അധിക്ഷേപകരമായ ഉള്ളടക്കം ഹോസ്റ്റുചെയ്യുന്ന മൂന്നാം കക്ഷി വെബ്സൈറ്റുകളിലേക്കുള്ള ലിങ്കുകൾ തടയുന്നതിനുള്ള ശ്രമങ്ങളെക്കുറിച്ചും സംസാരിക്കുകയും ചെയ്തു.