python 多線(xiàn)程,線(xiàn)程池的使用仁锯。

背景:近期工作需要耀找,要縮短多個(gè)程序的運(yùn)行時(shí)間。
目標(biāo):做到同時(shí)運(yùn)行多個(gè)函數(shù)业崖,提高效率野芒。
方案:查閱資料后蓄愁,發(fā)現(xiàn)可以使用線(xiàn)程,進(jìn)程狞悲,協(xié)程來(lái)提高效率涝登。(包括線(xiàn)程池,進(jìn)程池)


【一】 多線(xiàn)程

參考原文


【二】 線(xiàn)程池

tips:
#需要處理列表中的所有數(shù)據(jù)
url_list =[url1,ulr2,-----,url100]

工作中需要對(duì)一個(gè)列表中的所有數(shù)據(jù)進(jìn)行處理效诅,直接用多線(xiàn)程的話(huà),一開(kāi)始數(shù)據(jù)數(shù)對(duì)不上趟济,后來(lái)拆分成多個(gè)列表進(jìn)行處理的話(huà)乱投,感覺(jué)很麻煩。所以開(kāi)始使用線(xiàn)程池顷编。
參考原文

1戚炫、下載運(yùn)行包
pip install threadpool 
2、參數(shù)說(shuō)明
pool = ThreadPool(poolsize)

定義了一個(gè)線(xiàn)程池媳纬,表示最多可以創(chuàng)建poolsize這么多線(xiàn)程双肤;

requests = makeRequests(some_callable, list_of_args, callback)

調(diào)用makeRequests創(chuàng)建了要開(kāi)啟多線(xiàn)程的函數(shù),以及函數(shù)相關(guān)參數(shù)和回調(diào)函數(shù)钮惠,其中回調(diào)函數(shù)可以不寫(xiě)茅糜,default是無(wú),也就是說(shuō)makeRequests只需要2個(gè)參數(shù)就可以運(yùn)行素挽;

for req in requests:  
    pool.putRequest(req) 

是將所有要運(yùn)行多線(xiàn)程的請(qǐng)求扔進(jìn)線(xiàn)程池蔑赘;

pool.wait() 

第四行是等待所有的線(xiàn)程完成工作后退出

3、對(duì)比效果
#創(chuàng)建一個(gè)長(zhǎng)度30的列表
a = []
n =1 
while n<=30:
    a.append(n)
    n +=1

#創(chuàng)建一個(gè)存儲(chǔ)位置
c = []

#定義一個(gè)對(duì)單一數(shù)據(jù)處理的函數(shù),將處理后的數(shù)據(jù)存儲(chǔ)在c中
def x(aaa):
    u = (12+aaa)+aaa%2
    c.append(u)
    print ("Hello ",aaa)    
    time.sleep(1)

串行操作:

start_time = time.time()
for i in a:
    x(i)
print(c)
print ('%d second'% (time.time()-start_time))

串行結(jié)果


運(yùn)行時(shí)間

結(jié)果

線(xiàn)程池操作:

start_time = time.time()
#一次跑10個(gè)線(xiàn)程
pool = threadpool.ThreadPool(10) 
#運(yùn)行函數(shù)x,參數(shù)為a
requests = threadpool.makeRequests(x, a) 
[pool.putRequest(req) for req in requests] 
pool.wait() 
print ('%d second'% (time.time()-start_time))

線(xiàn)程池結(jié)果


運(yùn)行時(shí)間

結(jié)果

運(yùn)用線(xiàn)程池可以批量處理數(shù)據(jù)预明,節(jié)省時(shí)間

4缩赛、多個(gè)參數(shù)的設(shè)置。

實(shí)際工作中定義的函數(shù)不止包含一個(gè)參數(shù)撰糠,那么在調(diào)用線(xiàn)程池的時(shí)候需要對(duì)參數(shù)做預(yù)處理酥馍。

if __name__ == '__main__':
     
   # 方法1  --- 存入列表 
    lst_vars_1 = ['1', '2', '3']
    lst_vars_2 = ['4', '5', '6']
    func_var = [(lst_vars_1, None), (lst_vars_2, None)]
    
    # 方法2  --- 存成字典
    dict_vars_1 = {'m':'1', 'n':'2', 'o':'3'}
    dict_vars_2 = {'m':'4', 'n':'5', 'o':'6'}
    func_var = [(None, dict_vars_1), (None, dict_vars_2)]    
     
    pool = threadpool.ThreadPool(2)
    requests = threadpool.makeRequests(hello, func_var)
    [pool.putRequest(req) for req in requests]
    pool.wait()

參數(shù)處理:

list1 = [1,2,3,4,5,6]
list2 = [7,6,5,4,3,2]

def  X(a,b,c=3,d=4,e=5):
    time.sleep(1)
    print(a+b+c+d+e)

#構(gòu)建參數(shù)組
data1 =[ {
        'a':i,
        'b':j,
        'c':3,
        'd':4
         } for i,j in zip(list1,list2) ]

data2 = [(None,i) for i in data1]

#調(diào)用線(xiàn)程池
start_time = time.time()
pool = threadpool.ThreadPool(2)
requests = threadpool.makeRequests(X, data2)
[pool.putRequest(req) for req in requests]
pool.wait()
print ('%d second'% (time.time()-start_time))
5、編寫(xiě)線(xiàn)程池函數(shù)阅酪。

實(shí)際工作中可以將線(xiàn)程池編寫(xiě)如函數(shù)直接進(jìn)行調(diào)用旨袒。
參數(shù)包含(函數(shù),運(yùn)行所需的參數(shù)遮斥,線(xiàn)程數(shù)量)

def Run_threadpool (function,data,number):
    pool = threadpool.ThreadPool(number)
    requests = threadpool.makeRequests(function, data)
    [pool.putRequest(req) for req in requests]
    pool.wait()  
6峦失、異常can’t start new thread

我在跑某個(gè)程序時(shí),創(chuàng)建線(xiàn)程池到一個(gè)方法中术吗,這個(gè)方法會(huì)被循環(huán)調(diào)用尉辑,即使局部變量pool被覆蓋,但是之前創(chuàng)建的線(xiàn)程依然存在较屿,所以線(xiàn)程炸了

pool = threadpool.ThreadPool(10)
把上面的代碼放進(jìn)class的構(gòu)造函數(shù)中隧魄,或者保證它只執(zhí)行一次

python中線(xiàn)程的正確用法是卓练,按需創(chuàng)建線(xiàn)程,重復(fù)使用有限的線(xiàn)程

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末购啄,一起剝皮案震驚了整個(gè)濱河市襟企,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌狮含,老刑警劉巖顽悼,帶你破解...
    沈念sama閱讀 211,290評(píng)論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異几迄,居然都是意外死亡蔚龙,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,107評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門(mén)映胁,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)木羹,“玉大人,你說(shuō)我怎么就攤上這事解孙】犹睿” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,872評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵弛姜,是天一觀的道長(zhǎng)脐瑰。 經(jīng)常有香客問(wèn)我,道長(zhǎng)娱据,這世上最難降的妖魔是什么蚪黑? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,415評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮中剩,結(jié)果婚禮上忌穿,老公的妹妹穿的比我還像新娘。我一直安慰自己结啼,他們只是感情好掠剑,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,453評(píng)論 6 385
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著郊愧,像睡著了一般朴译。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上属铁,一...
    開(kāi)封第一講書(shū)人閱讀 49,784評(píng)論 1 290
  • 那天眠寿,我揣著相機(jī)與錄音,去河邊找鬼焦蘑。 笑死盯拱,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播狡逢,決...
    沈念sama閱讀 38,927評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼宁舰,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了奢浑?” 一聲冷哼從身側(cè)響起蛮艰,我...
    開(kāi)封第一講書(shū)人閱讀 37,691評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎雀彼,沒(méi)想到半個(gè)月后壤蚜,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,137評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡徊哑,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,472評(píng)論 2 326
  • 正文 我和宋清朗相戀三年仍律,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片实柠。...
    茶點(diǎn)故事閱讀 38,622評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖善涨,靈堂內(nèi)的尸體忽然破棺而出窒盐,到底是詐尸還是另有隱情,我是刑警寧澤钢拧,帶...
    沈念sama閱讀 34,289評(píng)論 4 329
  • 正文 年R本政府宣布蟹漓,位于F島的核電站,受9級(jí)特大地震影響源内,放射性物質(zhì)發(fā)生泄漏葡粒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,887評(píng)論 3 312
  • 文/蒙蒙 一膜钓、第九天 我趴在偏房一處隱蔽的房頂上張望嗽交。 院中可真熱鬧,春花似錦颂斜、人聲如沸夫壁。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,741評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)盒让。三九已至,卻和暖如春司蔬,著一層夾襖步出監(jiān)牢的瞬間邑茄,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,977評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工俊啼, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留肺缕,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,316評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像搓谆,于是被迫代替她去往敵國(guó)和親炒辉。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,490評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • Swift1> Swift和OC的區(qū)別1.1> Swift沒(méi)有地址/指針的概念1.2> 泛型1.3> 類(lèi)型嚴(yán)謹(jǐn) 對(duì)...
    cosWriter閱讀 11,092評(píng)論 1 32
  • iOS多線(xiàn)程編程 基本知識(shí) 1. 進(jìn)程(process) 進(jìn)程是指在系統(tǒng)中正在運(yùn)行的一個(gè)應(yīng)用程序泉手,就是一段程序的執(zhí)...
    陵無(wú)山閱讀 6,021評(píng)論 1 14
  • 從哪說(shuō)起呢黔寇? 單純講多線(xiàn)程編程真的不知道從哪下嘴。斩萌。 不如我直接引用一個(gè)最簡(jiǎn)單的問(wèn)題缝裤,以這個(gè)作為切入點(diǎn)好了 在ma...
    Mr_Baymax閱讀 2,739評(píng)論 1 17
  • 一. 操作系統(tǒng)概念 操作系統(tǒng)位于底層硬件與應(yīng)用軟件之間的一層.工作方式: 向下管理硬件,向上提供接口.操作系統(tǒng)進(jìn)行...
    月亮是我踢彎得閱讀 5,959評(píng)論 3 28
  • 第6章介紹了任務(wù)執(zhí)行框架, 它不僅能簡(jiǎn)化任務(wù)與線(xiàn)程的生命周期管理颊郎, 而且還提供一 種簡(jiǎn)單靈活的方式將任務(wù)的提交與任...
    好好學(xué)習(xí)Sun閱讀 1,167評(píng)論 0 2