Celery學習筆記(一)

Tips:在學習Celery過程中连霉,使用的系統(tǒng)為Windows 10、Celery版本為3.1.18①啸罢、中間人使用RabbitMQ履磨。

C:\Users\foolf>celery --version
3.1.18 (Cipater)

什么是任務隊列

任務隊列是一種在線程或者機器之間分發(fā)任務的機制。
消息隊列的輸入是工作的一個單元逗宜,稱為任務雄右,獨立的職程(Worker)進程持續(xù)監(jiān)視隊列中是否有需要處理的新任務。

Celery使用消息通信纺讲,通信一般使用中間人(Broker)在客戶端和職程之間斡旋擂仍。這個過程從客戶端想隊列中添加消息開始,之后中間人將消息派送給職程刻诊。

Celery是Python編寫的防楷,但協(xié)議可以使用任何語言實現(xiàn)。

需要什么

Celery需要一個發(fā)送和接受消息的傳述者则涯。RabbbitMQ和Redis中間人的消息支持所有的特性复局,我們主要是使用RabbitMQ作中間人(關于中間人RabbitMQ的安裝可以網上搜索冲簿,有很多詳細的教程)。

Celery優(yōu)勢

在程序運行過程中亿昏,我們經常會遇到一些耗時耗資源的操作峦剔,為了避免阻塞主程序,我們會采用異步或者多線程來處理任務角钩。比如在主程序中調用一個函數吝沫,并從該函數中獲取函數返回值。如果這個函數不能很快執(zhí)行完成并返回递礼,那么主程序就會阻塞惨险,知直到函數返回。
Celery是一個強大的分布式任務隊列脊髓,它可以讓人物的執(zhí)行完全脫離主程序辫愉,甚至可以被分配到其他的主機上運行。

Celery架構:

架構

從圖上可以看出Celery包含幾個模塊:

  • 任務模塊
    主要包異步任務和定時任務将硝,異步任務通常在業(yè)務邏輯中被觸發(fā)并發(fā)送到任務隊列中恭朗,而定時任務是由Celery Beat進程周期性的將任務發(fā)往任務隊列。
  • 消息中間件Broker
    Broker就是任務調度隊列依疼,接受任務生產者發(fā)送來的消息痰腮,將任務存入隊列,之所以需要中間人的原因是Celrey本身是不提供消息隊列的服務律罢,所以需要第三方組件實現(xiàn)膀值。
  • 任務執(zhí)行單元Worker
    Worker是執(zhí)行任務的單元,它實時監(jiān)控消息隊列弟翘,如果有任務就獲取任務并執(zhí)行它虫腋。
  • 任務存儲Backend
    Backend用于存儲任務只想的結果,存儲可以使用RabbitMQ或者Redis或者數據庫等稀余。

安裝Celery

Celery已經提交到Pypi上,所以我們可是使用Python的工具pip來安裝趋翻。

pip install celery==3.1.18

上面的安裝命令睛琳,如果沒有指定版本,系統(tǒng)會默認安裝最新版本的Celery踏烙,但是這里可能在后面的學習中遇到問題师骗。關于問題放到最后解釋,暫且我們先安裝3.1.18版本的Celery讨惩。

創(chuàng)建Celery實例

如果你已經安裝好了Celery辟癌,那么現(xiàn)在就可以創(chuàng)建Celery實例了:
tasks.py

# coding:utf-8

from celery import Celery

app = Celery('tasks', broker='amqp://guest@localhost//')

@app.task
def add(x, y):
    return x + y

Celery的第一個參數是當前模塊名稱,這個參數是必須的荐捻,第二個參數是中間人關鍵字參數黍少,指定我們所使用的的消息中間人的URL寡夹,這里我們使用的是RabbitMQ。我們定義了一個單一的任務厂置,稱為add,返回兩個數字的和菩掏。

啟動Celery職程服務器(Worker)

 celery -A tasks worker --loglevel=info

參數-A指定了Celery實例的位置,這個實例是在tasks.py文件中昵济,Celery會自動在該文件中查找Celery對象實例智绸。
--loglevel指定日志的級別,默認是warning访忿。
如果啟動正常瞧栗,就會看到下面的輸出。


running

調用任務

現(xiàn)在我們已經開啟了一個Worker了海铆,這樣我們可以在應用程序中使用 delay()或者 apply_async()方法來調用任務迹恐。
在tasks.py文件所在的目錄打開終端。

>>> from tasks import add
>>> add.delay(2, 8)
<AsyncResult: 1b50f449-8fa2-478a-9eea-561a3c29fd43>
>>>

我們先從tasks.py文件中導入add任務對象游添,然后使用delay()方法將任務發(fā)送到消息中間件系草,我們之前開啟的那個Worker會一直監(jiān)控任務隊列,知道有任務到來唆涝,就會執(zhí)行找都。
我們到Worker中可以看到多了幾條日志信息:

[2017-03-09 19:45:35,351: INFO/MainProcess] Received task: tasks.add[1b50f449-8fa2-478a-9eea-561a3c29fd43]
[2017-03-09 19:45:40,920: INFO/MainProcess] Task tasks.add[1b50f449-8fa2-478a-9eea-561a3c29fd43] succeeded in 5.56299996376s: 10

說明我們的任務被調度并執(zhí)行成功了。

獲得結果

剛我們在命令行中調用任務廊酣,很明顯任務執(zhí)行完成能耻,但是我們并不知道任務執(zhí)行后得到的結果是什么。如果我們想獲得執(zhí)行后的結果可以這樣:

>>> result = add.delay(2, 8)
>>> result.ready()  # 查看任務執(zhí)行的狀態(tài)亡驰,此刻任務沒有執(zhí)行完成晓猛,顯示False
False
>>> result.ready()
True  # 表示任務已經執(zhí)行完成
>>> result.get()  # 獲取任務的執(zhí)行結果
10
>>>

注解:

①:之前我是在windows下學習的Celery,安裝的Celery版本是4.0.2凡辱;在運行Worker過程中遇到如下ed錯誤:

I:\Celery\celery-examples>celery -A tasks worker --loglevel=info

 -------------- celery@DESKTOP-N53SFFK v4.0.2 (latentcall)
---- **** -----
--- * ***  * -- Windows-10-10.0.14393 2017-02-28 00:32:22
-- * - **** ---
- ** ---------- [config]
- ** ---------- .> app:         tasks:0x4700908
- ** ---------- .> transport:   amqp://guest:**@localhost:5672//
- ** ---------- .> results:     disabled://
- *** --- * --- .> concurrency: 4 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** -----
 -------------- [queues]
                .> celery           exchange=celery(direct) key=celery


[tasks]
  . tasks.add

[2017-02-28 00:32:22,619: CRITICAL/MainProcess] Unrecoverable error: TypeError('argument 1 must be an integer, not _subprocess_handle',)
Traceback (most recent call last):
  File "c:\python27\lib\site-packages\celery\worker\worker.py", line 203, in start
    self.blueprint.start(self)
  File "c:\python27\lib\site-packages\celery\bootsteps.py", line 119, in start
    step.start(parent)
  File "c:\python27\lib\site-packages\celery\bootsteps.py", line 370, in start
    return self.obj.start()
  File "c:\python27\lib\site-packages\celery\concurrency\base.py", line 131, in start
    self.on_start()
  File "c:\python27\lib\site-packages\celery\concurrency\prefork.py", line 112, in on_start
    **self.options)
  File "c:\python27\lib\site-packages\billiard\pool.py", line 1008, in __init__
    self._create_worker_process(i)
  File "c:\python27\lib\site-packages\billiard\pool.py", line 1117, in _create_worker_process
    w.start()
  File "c:\python27\lib\site-packages\billiard\process.py", line 122, in start
    self._popen = self._Popen(self)
  File "c:\python27\lib\site-packages\billiard\context.py", line 383, in _Popen
    return Popen(process_obj)
  File "c:\python27\lib\site-packages\billiard\popen_spawn_win32.py", line 64, in __init__
    _winapi.CloseHandle(ht)
TypeError: argument 1 must be an integer, not _subprocess_handle

I:\Celery\celery-examples>Traceback (most recent call last):
  File "<string>", line 1, in <module>
  File "c:\python27\lib\site-packages\billiard\spawn.py", line 159, in spawn_main
    new_handle = steal_handle(parent_pid, pipe_handle)
  File "c:\python27\lib\site-packages\billiard\reduction.py", line 121, in steal_handle
    _winapi.PROCESS_DUP_HANDLE, False, source_pid)
WindowsError: [Error 87]

經過搜索發(fā)現(xiàn)是因為winsows是不支持celery4的戒职。參照的回答在這https://github.com/celery/celery/issues/3551
所以我機制的將版本降低到3,運行正常透乾。記錄下來僅僅是避免其他人在學習中不會再這個小問題上浪費時間洪燥。

END

由于學習的還是celery的基礎,所以后面的更復雜的內容等學了再更乳乌。

參考文章:

http://docs.jinkan.org/docs/celery/index.html
http://www.guodongkeji.com/newsshow-24-2135-1.html

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末捧韵,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子汉操,更是在濱河造成了極大的恐慌再来,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件磷瘤,死亡現(xiàn)場離奇詭異芒篷,居然都是意外死亡搜变,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門梭伐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來痹雅,“玉大人,你說我怎么就攤上這事糊识〖ㄉ纾” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵赂苗,是天一觀的道長愉耙。 經常有香客問我,道長拌滋,這世上最難降的妖魔是什么朴沿? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮败砂,結果婚禮上赌渣,老公的妹妹穿的比我還像新娘。我一直安慰自己昌犹,他們只是感情好坚芜,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著斜姥,像睡著了一般鸿竖。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上铸敏,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天缚忧,我揣著相機與錄音,去河邊找鬼杈笔。 笑死闪水,一個胖子當著我的面吹牛,可吹牛的內容都是我干的蒙具。 我是一名探鬼主播敦第,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼店量!你這毒婦竟也來了?” 一聲冷哼從身側響起鞠呈,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤融师,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后蚁吝,有當地人在樹林里發(fā)現(xiàn)了一具尸體旱爆,經...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡舀射,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了怀伦。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片脆烟。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖房待,靈堂內的尸體忽然破棺而出邢羔,到底是詐尸還是另有隱情,我是刑警寧澤桑孩,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布拜鹤,位于F島的核電站,受9級特大地震影響流椒,放射性物質發(fā)生泄漏敏簿。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一宣虾、第九天 我趴在偏房一處隱蔽的房頂上張望惯裕。 院中可真熱鬧,春花似錦绣硝、人聲如沸蜻势。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽咙边。三九已至,卻和暖如春次员,著一層夾襖步出監(jiān)牢的瞬間败许,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工淑蔚, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留市殷,地道東北人。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓刹衫,卻偏偏與公主長得像醋寝,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子带迟,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內容