python进程池的使用注意

python进程池的使用注意

1、使用注意

(1)使用池时，如果未指定进程数，则默认为CPU核心数。

(2)核心数量对应于计算机的逻辑处理器数量(任务管理器-性能)，而不是核心数量(我的计算机有2个核心和4个逻辑处理器，因此这里默认使用4个进程)

(3)进程数可以是几十万，并不意味着开放进程的数量是4。只要使用池(10)，就可以同时打开10个进程进行爬网。

(4)但是需要注意的是，无论多线程还是多进程，打开过多都会导致切换耗时，降低效率，所以创建过多的多线程和进程是谨慎的。

2、实例

importrequests

frombs4importBeautifulSoup

frommultiprocessingimportPool,current_process

defget_title(i):

print('start',current_process().name)

title_list=[]

url='https://movie.douban.com/top250?start={}&filter='.format(i*25)

r=requests.get(url)

soup=BeautifulSoup(r.content,'html.parser')

lis=soup.find('ol',class_='grid_view').find_all('li')

forliinlis:

title=li.find('span',class_="title").text

#returntitle

title_list.append(title)

print(title)

return(title_list)if__name__=='__main__':

pool=Pool()

foriinrange(10):

pool.apply_async(get_title,(i,))

pool.close()

pool.join()

print('finish')

以上就是python进程池的使用注意，希望能对大家有所帮助。更多Python学习教程请关注IT培训机构:千锋教育。