python 线程池:
为啥用线程池?
对于任务数量不断增加的程序,每有一个任务就会生成一个线程,最终会导致线程数量失控,所以固定线程数量的线程池是必要的。
使用concurrent.futures模块,这个模块是python3中自带的模块,它提供了ThreadPoolExecutor和ProcessPoolExecutor两个类
代码如下:
#coding:utf-8 from concurrent.futures import ThreadPoolExecutor def test(x): print(x) time.sleep(2) def func(): data = [1,2,3,4] start1 = time.time() for i in data: test(i) #普通方式 end1 = time.time() print(end1-start1) start2 = time.time() with ThreadPoolExecutor(4)as excutor: for i in data: excutor.submit(test,i) #线程池submit提交方式 end2 = time.time() print(end2-start2) start3= time.time() with ThreadPoolExecutor(4) as excutor1: excutor1.map(test,data) #线程池map提交方式 end3= time.time() print(end3-end2) func() 输出如下: 1 2 3 4 8.002520084381104 1 2 3 4 2.0023066997528076 1 2 3 4 2.00166916847229注意到一点:
concurrent.futures.ThreadPoolExecutor,在提交任务的时候,有两种方式,一种是submit()函数,另一种是map()函数,两者的主要区别在于:
2.1、map可以保证输出的顺序, submit输出的顺序是乱的
2.2、如果你要提交的任务的函数是一样的,就可以简化成map。但是假如提交的任务函数是不一样的,或者执行的过程之可能出现异常(使用map执行过程中发现问题会直接抛出错误)就要用到submit()
2.3、submit和map的参数是不同的,submit每次都需要提交一个目标函数和对应的参数,map只需要提交一次目标函数,目标函数的参数放在一个迭代器(列表,字典)里就可以。