tornado協(xié)程調(diào)度

環(huán)境配置

win10
pycharm64 5.0.3
python 3.6.7
tornado 5.1.1

示例代碼

參考自tornado協(xié)程(coroutine)原理

from tornado.gen import coroutine

@coroutine
def asyn_sum(a, b):
    print("begin calculate:sum %d+%d"%(a,b))
    result = yield simple_plus(a, b)

    print("after yielded")
    print("the %d+%d=%d" % (a, b, result))

@coroutine
def simple_plus(a, b):
    return a+b

def main():
    asyn_sum(2, 3)
    # tornado.ioloop.IOLoop.instance().start()

if __name__ == "__main__":
    main()

執(zhí)行過程

@coroutine裝飾的方法實際執(zhí)行的函數(shù)是gen.py中的_make_coroutine_wrapper裝飾器返回的方法wrapper(暫且稱之為asyn_sum_wrapper)啦逆,且wrapper中的functypes.coroutine處理后的方法磕诊。

asyn_sum執(zhí)行過程

asyn_sum_wrapper方法的執(zhí)行結(jié)果result = func(*args, **kwargs)實際是一個GeneratorType類型的對象斟湃,實際的執(zhí)行是在yielded = next(result)中同辣。執(zhí)行到result = yield simple_plus(a, b)時懈涛,進入simple_plus被裝飾后的方法wrapper中(暫且稱之為simple_plus_wrapper)了讨。simple_plus_wrapper返回一個Future對象麦射,其result屬性為5,即其實際返回值括勺,隨后跳轉(zhuǎn)到runner = Runner(result, future, yielded)缆八。

Runner的實例化有一段執(zhí)行代碼

if self.handle_yield(first_yielded):
    gen = result_future = first_yielded = None
    self.run()

self.handle_yield會將self.future置為first_yielded,然后各個指向這個future的變量置空疾捍;在self.run()self.future會賦值給局部變量future奈辰,然后被置空;在執(zhí)行value = future.result()后該局部變量也被置空乱豆。future最終只有外層的Runner初始化時候的引用奖恰,Runner返回后yielded=None,等待釋放宛裕。

獲得了simple_plus返回結(jié)果后瑟啃,gen.py使用yielded = self.gen.send(value)回歸到asyn_sum的yield,并將返回值寫入result续滋,此時self.run()被掛起翰守,等asyn_sum執(zhí)行完后恢復(fù)執(zhí)行孵奶。

asyn_sum執(zhí)行完后疲酌,會跳轉(zhuǎn)到異常捕獲邏輯except (StopIteration, Return) as e:e就是asyn_sum的返回值了袁,后續(xù)被future_set_result_unless_cancelled(self.result_future, _value_from_stopiteration(e))將值寫回到result_future中朗恳,即asyn_sum_wrapper調(diào)用初期實例化的future對象。

simple_plus執(zhí)行過程

simple_plus同樣也是在simple_plus_wrapperresult = func(*args, **kwargs)處執(zhí)行载绿,不同的是粥诫,simple_plus方法體不包含yield,所以在types.coroutine.wrapped返回的不再是GeneratorType類型的對象崭庸,而是simple_plus方法的實際執(zhí)行結(jié)果5怀浆,然后在裝飾器內(nèi)會包裝上Future返回給上層調(diào)用者。

future

@coroutine裝飾器的wrapper中怕享,第一步就是定義一個future對象执赡,在asyn_sum_wrapper執(zhí)行過程中,由于內(nèi)部調(diào)用了yield函筋,所以在它的future被使用前沙合,又進入了simple_plus_wrapper。由于后者的result是非GeneratorType類型跌帐,所以跳轉(zhuǎn)到了future_set_result_unless_cancelled(future, result)侧纯。

從gen.py中可以追溯Future的定義位置棘钞,根據(jù)實際單步定位鹏秋,F(xiàn)uture定義在_asyncio.py中,因為future的方法無法跳轉(zhuǎn)滤否。

# gen.py
from tornado.concurrent import (Future, is_future, chain_future, future_set_exc_info,
                                future_add_done_callback, future_set_result_unless_cancelled)
# concurrent.py
if asyncio is not None:
    Future = asyncio.Future  # noqa

if futures is None:
    FUTURES = Future  # type: typing.Union[type, typing.Tuple[type, ...]]
else:
    FUTURES = (futures.Future, Future)

協(xié)程切換

參考自關(guān)于協(xié)程的 send(None)
為方便對yielded = self.gen.send(value)的理解,此處保留代碼示例最仑。

def consumer():
    r = ''
    while True:
        n = yield r
        if not n:
            return
        print('[CONSUMER] Consuming %s...' % n)
        r = '200 OK'

def produce(c):
    c.send(None)
    n = 0
    while n < 5:
        n = n + 1
        print('[PRODUCER] Producing %s...' % n)
        r = c.send(n)
        print('[PRODUCER] Consumer return: %s' % r)
    c.close()

c = consumer()
produce(c)

未了解部分

Runner中的self._deactivate_stack_context()顽聂、future_set_exc_info(self.result_future, sys.exc_info())

小結(jié)

tornado中每一個被coroutine裝飾的方法都會對應(yīng)一個future,根據(jù)調(diào)用的深度盯仪,future的嵌套深度逐漸增加紊搪,直到某一個future set_result(result = func(*args, **kwargs)返回結(jié)果為非生成器類型),然后進行后續(xù)future的嵌套處理全景。

對yield AsyncHTTPClient的調(diào)用耀石,yielded = next(result)會獲取到fetch返回的future對象,與調(diào)用者及其future對象一并生成一個Runner對象爸黄,供IOloop異步回調(diào)滞伟,runner中yielded = self.gen.send(value)會觸發(fā)協(xié)程從斷點繼續(xù)執(zhí)行。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末炕贵,一起剝皮案震驚了整個濱河市梆奈,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌称开,老刑警劉巖亩钟,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異鳖轰,居然都是意外死亡清酥,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進店門蕴侣,熙熙樓的掌柜王于貴愁眉苦臉地迎上來焰轻,“玉大人,你說我怎么就攤上這事昆雀∪柚荆” “怎么了?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵狞膘,是天一觀的道長揩懒。 經(jīng)常有香客問我,道長客冈,這世上最難降的妖魔是什么旭从? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上和悦,老公的妹妹穿的比我還像新娘退疫。我一直安慰自己,他們只是感情好鸽素,可當(dāng)我...
    茶點故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布褒繁。 她就那樣靜靜地躺著,像睡著了一般馍忽。 火紅的嫁衣襯著肌膚如雪棒坏。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天遭笋,我揣著相機與錄音坝冕,去河邊找鬼。 笑死瓦呼,一個胖子當(dāng)著我的面吹牛喂窟,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播央串,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼磨澡,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了质和?” 一聲冷哼從身側(cè)響起稳摄,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎饲宿,沒想到半個月后厦酬,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡褒傅,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年弃锐,在試婚紗的時候發(fā)現(xiàn)自己被綠了袄友。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片殿托。...
    茶點故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖剧蚣,靈堂內(nèi)的尸體忽然破棺而出支竹,到底是詐尸還是另有隱情,我是刑警寧澤鸠按,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布礼搁,位于F島的核電站,受9級特大地震影響目尖,放射性物質(zhì)發(fā)生泄漏馒吴。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望饮戳。 院中可真熱鬧豪治,春花似錦、人聲如沸扯罐。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽歹河。三九已至掩浙,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間秸歧,已是汗流浹背厨姚。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留键菱,地道東北人遣蚀。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像纱耻,于是被迫代替她去往敵國和親芭梯。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內(nèi)容