一卡者、創(chuàng)建多線程
Python提供兩個模塊進(jìn)行多線程的操作蒿囤,分別是thread和threading,
前者是比較低級的模塊崇决,用于更底層的操作材诽,一般應(yīng)用級別的開發(fā)不常用。
方法1:直接使用threading.Thread()
import threading
# 這個函數(shù)名可隨便定義
def run(n):
print("current task:", n)
if __name__ == "__main__":
t1 = threading.Thread(target=run, args=("thread 1",))
t2 = threading.Thread(target=run, args=("thread 2",))
t1.start()
t2.start()
方法2:繼承threading.Thread來自定義線程類恒傻,重寫run方法
import threading
class MyThread(threading.Thread):
def __init__(self, n):
super(MyThread, self).__init__() # 重構(gòu)run函數(shù)必須要寫
self.n = n
def run(self):
print("current task:", n)
if __name__ == "__main__":
t1 = MyThread("thread 1")
t2 = MyThread("thread 2")
t1.start()
t2.start()
二脸侥、創(chuàng)建多進(jìn)程
Python 要進(jìn)行多進(jìn)程操作,需要用到muiltprocessing庫盈厘,其中的Process類跟threading模塊的Thread類很相似睁枕。所以直接看代碼熟悉多進(jìn)程。
方法1:直接使用Process, 代碼如下:
from multiprocessing import Process
def show(name):
print("Process name is " + name)
if __name__ == "__main__":
proc = Process(target=show, args=('subprocess',))
proc.start()
proc.join()
方法2:繼承Process來自定義進(jìn)程類,重寫run方法, 代碼如下:
from multiprocessing import Process
import time
class MyProcess(Process):
def __init__(self, name):
super(MyProcess, self).__init__()
self.name = name
def run(self):
print('process name :' + str(self.name))
time.sleep(1)
if __name__ == '__main__':
for i in range(3):
p = MyProcess(i)
p.start()
for i in range(3):
p.join()
多進(jìn)程通信
進(jìn)程之間不共享數(shù)據(jù)的外遇。如果進(jìn)程之間需要進(jìn)行通信拒逮,則要用到Queue模塊或者Pipi模塊來實(shí)現(xiàn)。
Queue
Queue 是多進(jìn)程安全的隊列臀规,可以實(shí)現(xiàn)多進(jìn)程之間的數(shù)據(jù)傳遞滩援。它主要有兩個函數(shù),put和get。
put() 用以插入數(shù)據(jù)到隊列中塔嬉,put 還有兩個可選參數(shù):blocked 和 timeout玩徊。如果 blocked 為 True(默認(rèn)值),并且 timeout 為正值谨究,該方法會阻塞 timeout 指定的時間恩袱,直到該隊列有剩余的空間。如果超時胶哲,會拋出 Queue.Full 異常畔塔。如果 blocked 為 False,但該 Queue 已滿鸯屿,會立即拋出 Queue.Full 異常澈吨。
get()可以從隊列讀取并且刪除一個元素。同樣寄摆,get 有兩個可選參數(shù):blocked 和 timeout谅辣。如果 blocked 為 True(默認(rèn)值),并且 timeout 為正值婶恼,那么在等待時間內(nèi)沒有取到任何元素桑阶,會拋出 Queue.Empty 異常。如果blocked 為 False勾邦,有兩種情況存在蚣录,如果 Queue 有一個值可用,則立即返回該值眷篇,否則萎河,如果隊列為空,則立即拋出 Queue.Empty 異常铅歼。
具體用法如下:
from multiprocessing import Process, Queue
def put(queue):
queue.put('Queue 用法')
if __name__ == '__main__':
queue = Queue()
pro = Process(target=put, args=(queue,))
pro.start()
print(queue.get())
pro.join()
三公壤、進(jìn)程池
創(chuàng)建多個進(jìn)程,我們不用傻傻地一個個去創(chuàng)建椎椰。我們可以使用Pool模塊來搞定厦幅。
Pool 常用的方法如下:
方法 含義
apply() 同步執(zhí)行(串行)
apply_async() 異步執(zhí)行(并行)
terminate() 立刻關(guān)閉進(jìn)程池
join() 主進(jìn)程等待所有子進(jìn)程執(zhí)行完畢。必須在close或terminate()之后使用
close() 等待所有進(jìn)程結(jié)束后慨飘,才關(guān)閉進(jìn)程池
具體用法見示例代碼:
from multiprocessing import Pool
def show(num):
print('num : ' + str(num))
if __name__=="__main__":
pool = Pool(processes = 3)
for i in xrange(6):
# 維持執(zhí)行的進(jìn)程總數(shù)為processes确憨,當(dāng)一個進(jìn)程執(zhí)行完畢后會添加新的進(jìn)程進(jìn)去
pool.apply_async(show, args=(i, ))
print('====== apply_async ======')
pool.close()
#調(diào)用join之前译荞,先調(diào)用close函數(shù),否則會出錯休弃。執(zhí)行完close后不會有新的進(jìn)程加入到pool,join函數(shù)等待所有子進(jìn)程結(jié)束
pool.join()