Python 進(jìn)程魁瞪、進(jìn)程通信 進(jìn)程池

一:多進(jìn)程的優(yōu)點(diǎn)、應(yīng)用場(chǎng)景

耗CPU計(jì)算時(shí)多進(jìn)程速度大于多線程惠呼,可以最大化利用CPU計(jì)算导俘。多進(jìn)程有更強(qiáng)的容錯(cuò)性,一個(gè)進(jìn)程出錯(cuò)不會(huì)影響其他進(jìn)程剔蹋。通常不需要考慮鎖和同步資源的問(wèn)題旅薄。

二:進(jìn)程使用方法

  • 實(shí)例化 multiprocessing.Process,調(diào)用Threading的方法去進(jìn)行多線程編程
  • 寫子類繼承 multiprocessing.Process滩租,重寫相應(yīng)的方法
    說(shuō)明:當(dāng)程序簡(jiǎn)單時(shí)可使用實(shí)例化方法赋秀,當(dāng)程序較復(fù)雜的時(shí)候利朵,實(shí)現(xiàn)邏輯較多,第二種方法猎莲。
  • linux 中 os.fork() 拷貝父進(jìn)程全部數(shù)據(jù)資源绍弟,fork之后的代碼父子進(jìn)程都會(huì)繼續(xù)運(yùn)行。
  • concurrent.futures 下的 ProcessPoolExecutor 就像上次的多線程那樣操作著洼,非常類似樟遣。

三: 進(jìn)程間通信

  • 共享全局變量不適用多進(jìn)程,多線程可以用身笤。因?yàn)槎噙M(jìn)程的數(shù)據(jù)資源是隔離開(kāi)的豹悬,相互獨(dú)立無(wú)法共享變量。
  • 需要明確的是多進(jìn)程間的通信和多線程不一樣液荸,不能用 queue.Queue 作為隊(duì)列要用multiprocessing.Queue
  • multiprocessingQueue 不能用于 Pool ( 進(jìn)程池)瞻佛,需要用multiprocessingManagerQueue,需要實(shí)例化:queue = Manager().Queue()
  • multiprocessingPipe:用法 recevid_pipe, send_pipe = Pipe() 只能適用于兩個(gè)指定的進(jìn)程娇钱。性能高于queue

四:進(jìn)程的實(shí)例代碼

#方法一:multiprocessing.Process
import multiprocessing
import requests

def download_html(i):
    url = f'https://www.baidu.com/s?ie=UTF-8&wd={i}'
    response = requests.get(url).text
    print(response)

ids = list(range(100))

# 方法一
for i in range(5):
    p = multiprocessing.Process(target=process, args=(i,))
    p.start()


# 方法二
def multipro_main(ids ):
    pool = multiprocessing.Pool(10)
    pool.map(download_html, ids)
    pool.close()
    pool.join()

# 方法三
from multiprocessing.dummy import   Pool as thpool
def thread_pool(ids ):
    pool = thpool(10)
    pool.map(download_html, ids)
    pool.close()
    pool.join()

# 方法四 (推薦伤柄,和多線程接口類似)
from concurrent.futures import ProcessPoolExecutor
with ProcessPoolExecutor(10) as executor:
    executor.map(download_html, ids)

五:總結(jié)

concurrent.futures 是一個(gè)非常不錯(cuò)的庫(kù),多線程和多進(jìn)程無(wú)縫切換文搂,非常方便适刀。這個(gè)庫(kù)設(shè)計(jì)思路也很好,為后面的寫異步協(xié)程的代碼也打下基礎(chǔ)煤蹭。
代碼位置:github.com/rieuse/learnPython

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末笔喉,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子硝皂,更是在濱河造成了極大的恐慌常挚,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件吧彪,死亡現(xiàn)場(chǎng)離奇詭異待侵,居然都是意外死亡丢早,警方通過(guò)查閱死者的電腦和手機(jī)姨裸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)怨酝,“玉大人傀缩,你說(shuō)我怎么就攤上這事∨┾” “怎么了赡艰?”我有些...
    開(kāi)封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)斤葱。 經(jīng)常有香客問(wèn)我慷垮,道長(zhǎng)揖闸,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任料身,我火速辦了婚禮汤纸,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘芹血。我一直安慰自己贮泞,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布幔烛。 她就那樣靜靜地躺著啃擦,像睡著了一般。 火紅的嫁衣襯著肌膚如雪饿悬。 梳的紋絲不亂的頭發(fā)上令蛉,一...
    開(kāi)封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音狡恬,去河邊找鬼言询。 笑死,一個(gè)胖子當(dāng)著我的面吹牛傲宜,可吹牛的內(nèi)容都是我干的运杭。 我是一名探鬼主播,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼函卒,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼辆憔!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起报嵌,我...
    開(kāi)封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤虱咧,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后锚国,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體腕巡,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年血筑,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了绘沉。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡豺总,死狀恐怖车伞,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情喻喳,我是刑警寧澤另玖,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響谦去,放射性物質(zhì)發(fā)生泄漏慷丽。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一鳄哭、第九天 我趴在偏房一處隱蔽的房頂上張望盈魁。 院中可真熱鬧,春花似錦窃诉、人聲如沸杨耙。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)珊膜。三九已至,卻和暖如春宣脉,著一層夾襖步出監(jiān)牢的瞬間车柠,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工塑猖, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留竹祷,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓羊苟,卻偏偏與公主長(zhǎng)得像塑陵,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子蜡励,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 必備的理論基礎(chǔ) 1.操作系統(tǒng)作用: 隱藏丑陋復(fù)雜的硬件接口令花,提供良好的抽象接口。 管理調(diào)度進(jìn)程凉倚,并將多個(gè)進(jìn)程對(duì)硬件...
    drfung閱讀 3,525評(píng)論 0 5
  • 一. 操作系統(tǒng)概念 操作系統(tǒng)位于底層硬件與應(yīng)用軟件之間的一層.工作方式: 向下管理硬件,向上提供接口.操作系統(tǒng)進(jìn)行...
    月亮是我踢彎得閱讀 5,952評(píng)論 3 28
  • 多進(jìn)程 要讓python程序?qū)崿F(xiàn)多進(jìn)程兼都,我們先了解操作系統(tǒng)的相關(guān)知識(shí)。 Unix稽寒、Linux操作系統(tǒng)提供了一個(gè)fo...
    蓓蓓的萬(wàn)能男友閱讀 591評(píng)論 0 1
  • 1.關(guān)于mount的掛載 注意:在Linux系統(tǒng)中所有的設(shè)備都看作文件扮碧,因此只需要使用掛載命令mount將 Win...
    南方老F閱讀 1,723評(píng)論 0 0
  • 今天上了半天班,就去吃飯了杏糙,和親戚一起慎王,感受到親情的溫暖。下星期的現(xiàn)在我已經(jīng)考完了搔啊,可是如今還有時(shí)間去復(fù)習(xí)柬祠,所以不...
    闌十三閱讀 433評(píng)論 0 11