多線程眯勾、多進(jìn)程、池化

python程序默認(rèn)單核線性執(zhí)行程序婆誓,為更高效利用計(jì)算機(jī)的多核吃环、多線程能力,python搭建了多線程洋幻、多進(jìn)程的機(jī)制郁轻,更高效的完成程序。多線程模塊threading、多進(jìn)程模塊multiprocess好唯、池化模塊concurrent.future

Corey Schafer : Python Threading Tutorial: Run Code Concurrently Using the Threading Module
莫煩Python : Multiprocessing 讓你的多核計(jì)算機(jī)發(fā)揮真正潛力 Python
菜鳥(niǎo)教程 Python3多線程
知乎 :python中multiprocess的參數(shù)共享與傳遞

threading模塊竭沫、多線程,主要針對(duì)I/O更高的任務(wù)(輸入/輸出文件骑篙、圖像等蜕提,上傳/下載任務(wù)等)

import threading
import time

start = time.perf_counter()

def do_something():
    print(f'Sleeping 1 second...')
    time.sleep(1)
    print(f'Done sleeping...')

# 線性執(zhí)行兩個(gè)命令
# do_something()
# do_something()

# 雙線程執(zhí)行
# t1 = threading.Thread(target=do_something)
# t2 = threading.Thread(target=do_something)
# t1.start()
# t2.start()
# t1.join()
# t2.join()

# 更好的多線程操作
threads = []
for _ in range(10):
    t = threading.Thread(target=do_something)
    t.start()
    threads.append(t)

for thread in threads:
    thread.join()

finish = time.perf_counter()
print(f"finish in {round(finish - start,2)} second(s)")

########################################################
#結(jié)果
(base) ?  Corey_Schafer python sp_demo.py
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Sleeping 1 second...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
Done sleeping...
finish in 1.01 second(s)

multiprocess 多進(jìn)程,主要針對(duì)CPU計(jì)算任務(wù)替蛉,比如圖像壓縮贯溅,數(shù)值計(jì)算等

import multiprocessing
import time

start = time.perf_counter()

def do_something(secs):
    print(f'Sleeping {secs} second...\n')
    time.sleep(secs)
    print(f'Done sleeping...{secs}')

# do_something()
# do_something()

# finish = time.perf_counter()
# print(f"finish in {round(finish - start,2)} second(s)")

if __name__ == '__main__':
    processes = []
    for _ in range(4):
        p = multiprocessing.Process(target=do_something,args=[1.5])
        p.start()
        processes.append(p)

    for process in processes:
        process.join()

    finish = time.perf_counter()
    print(f"finish in {round(finish - start,2)} second(s)")
########################################################
(base) ?  Corey_Schafer python sp_demo.py
Sleeping 1.5 second...

Sleeping 1.5 second...

Sleeping 1.5 second...

Sleeping 1.5 second...

Done sleeping...1.5
Done sleeping...1.5
Done sleeping...1.5
Done sleeping...1.5
finish in 1.62 second(s)

concurrent.futures 模塊的池化操作,自動(dòng)利用計(jì)算機(jī)的核躲查,自動(dòng)分配任務(wù)

import concurrent.futures
import time

start = time.perf_counter()

def do_something(secs):
    print(f'Sleeping {secs} second...\n')
    time.sleep(secs)
    return f'Done sleeping...{secs}'

if __name__ == '__main__':
    with concurrent.futures.ProcessPoolExecutor() as executor:
        secs = [4,3,2,1]
        results = executor.map(do_something,secs)

        for result in results:
            print(result)

注意??

執(zhí)行必須在 if name == 'main': 框架下操作它浅,python=3.7版本以下,不需要镣煮;3.8版本之后必須要指定if name == 'main':至于為什么用姐霍,解釋如下:
程序中常見(jiàn)的語(yǔ)句if name =='main': ,這段代碼的含義是當(dāng)該程序做為主程序啟動(dòng)時(shí)典唇,執(zhí)行下面的代碼镊折。對(duì)于multiprocessing的程序來(lái)說(shuō),這段代碼是必不可少的介衔,因?yàn)樗峁┝酥鬟M(jìn)程入口恨胚,并通過(guò)主程序來(lái)啟動(dòng)子程序。如果沒(méi)有這段代碼炎咖,python無(wú)法明確判斷那個(gè)是主進(jìn)程赃泡,這樣就無(wú)法分配子進(jìn)程。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末乘盼,一起剝皮案震驚了整個(gè)濱河市升熊,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌绸栅,老刑警劉巖级野,帶你破解...
    沈念sama閱讀 221,695評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異粹胯,居然都是意外死亡蓖柔,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,569評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)矛双,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)渊抽,“玉大人,你說(shuō)我怎么就攤上這事议忽±撩疲” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,130評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)愤估。 經(jīng)常有香客問(wèn)我帮辟,道長(zhǎng),這世上最難降的妖魔是什么玩焰? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,648評(píng)論 1 297
  • 正文 為了忘掉前任由驹,我火速辦了婚禮,結(jié)果婚禮上昔园,老公的妹妹穿的比我還像新娘蔓榄。我一直安慰自己,他們只是感情好默刚,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,655評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布甥郑。 她就那樣靜靜地躺著,像睡著了一般荤西。 火紅的嫁衣襯著肌膚如雪澜搅。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,268評(píng)論 1 309
  • 那天邪锌,我揣著相機(jī)與錄音勉躺,去河邊找鬼。 笑死觅丰,一個(gè)胖子當(dāng)著我的面吹牛饵溅,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播妇萄,決...
    沈念sama閱讀 40,835評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼概说,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了嚣伐?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,740評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤萍丐,失蹤者是張志新(化名)和其女友劉穎轩端,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體逝变,經(jīng)...
    沈念sama閱讀 46,286評(píng)論 1 318
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡基茵,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,375評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了壳影。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片拱层。...
    茶點(diǎn)故事閱讀 40,505評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖宴咧,靈堂內(nèi)的尸體忽然破棺而出根灯,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 36,185評(píng)論 5 350
  • 正文 年R本政府宣布烙肺,位于F島的核電站纳猪,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏桃笙。R本人自食惡果不足惜氏堤,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,873評(píng)論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望搏明。 院中可真熱鬧鼠锈,春花似錦、人聲如沸星著。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,357評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)强饮。三九已至由桌,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間邮丰,已是汗流浹背行您。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,466評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留剪廉,地道東北人娃循。 一個(gè)月前我還...
    沈念sama閱讀 48,921評(píng)論 3 376
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像斗蒋,于是被迫代替她去往敵國(guó)和親捌斧。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,515評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容