使用Gearman作為云服務(wù)隊(duì)列處理套件

前言:

產(chǎn)品線(xiàn)中的云服務(wù)這塊是我一人負(fù)責(zé)筏餐,目前正在起步階段,很快便遇到了第一個(gè)性能瓶頸牡拇,便是發(fā)送API請(qǐng)求時(shí)的阻塞問(wèn)題。經(jīng)常導(dǎo)致 腳本執(zhí)行超時(shí)穆律。
截止至發(fā)步時(shí)惠呼,已經(jīng)研究并部署到了實(shí)際生產(chǎn)環(huán)境中,姑且把這篇學(xué)習(xí)過(guò)程中的筆記發(fā)出來(lái)峦耘,算是簡(jiǎn)書(shū)的處女作吧剔蹋。

以下是原文。


無(wú)論是測(cè)試還是正式部署辅髓,下面文檔的應(yīng)用環(huán)境是:

CentOS 6.5 帶桌面環(huán)境泣崩。

LAMP 或 LNMP。

全程使用Root賬戶(hù)登錄


安裝與配置

  • 配置LAMP或者LNMP環(huán)境洛口。

    可參考這里矫付。

    數(shù)據(jù)庫(kù):如果有必要可安裝 phpmyadmin 或者 navicat 作為數(shù)據(jù)庫(kù)管理工具

    注意:如果使用 centos安裝時(shí)自帶的 web 服務(wù)器與 php 服務(wù)會(huì)有許多莫名其妙的問(wèn)題。建議安裝centos時(shí)不要用自帶的軟件包第焰,而是根據(jù)以上的鏈接教程配置 LAMP 或 LNMP 環(huán)境买优。

  • 安裝基本 package

    這步非常重要,可以決定你接下來(lái)的步驟會(huì)不會(huì)出錯(cuò)。

      yum install vim wget gcc gcc-c++ make dos2unix gperf libevent libevent-devel
      zlib-devel bzip2-devel openssl-devel ncurses-devel
      boost boost-devel mysql-devel php-devel libuuid-devel
    
  • 安裝Gearman套件杀赢。

      wget https://launchpad.net/gearmand/1.2/1.1.12/+download/gearmand-1.1.12.tar.gz
      tar -zxvf gearman-1.1.12.tar.gz
      cd gearman-1.1.12
      ./configure
      make
      make install
    
  • 安裝php擴(kuò)展

      wget http://pecl.php.net/get/gearman
      mv gearman gearman.tar.gz
      tar -zxvf gearman.tar.gz
      cd gearman-1.1.2/  //版本號(hào)以下載下來(lái)的為準(zhǔn)
      phpize
      ./configure
      make
      make install
    

    修改/etc/php.ini,增加一行:

      ; Enable gearman extension module
      extension=gearman.so
    

    可使用 php --info | grep "gearman" 來(lái)檢測(cè)該php擴(kuò)展有沒(méi)有安裝烘跺。或者查看打印了 phpinfo() 的頁(yè)面

    如果正確安裝的話(huà)脂崔,會(huì)得到 gearman support => enabled 的信息

  • 啟動(dòng) Gearmand 守護(hù)程序

    直接執(zhí)行

      gearmand -d
    

    可能會(huì)出現(xiàn)如下錯(cuò)誤:

      Could not open log file "/usr/local/var/log/gearmand.log", from "/usr/sbin",
      switching to stderr. (No such file or directory)
    

    解決:

      mkdir -p /usr/local/var/log/
      cd /usr/local/var/log/
      touch gearmand.log
    

    再次嘗試啟動(dòng): gearmand -d滤淳,成功運(yùn)行。

    可用命令 ps -ef | grep gearmand 來(lái)查看相關(guān)服務(wù)啟動(dòng)與否砌左。

使用

  • 原理與名詞

    名詞

    • jobserver : 任務(wù)服務(wù)器脖咐,負(fù)責(zé)接收 任務(wù)注冊(cè)(client),任務(wù)處理的分發(fā)調(diào)度 (worker)
    • client : 一個(gè) client 即一次要并發(fā)處理的任務(wù)绊困。它可以指定所使用的 jobserver 文搂, 決定執(zhí)行任務(wù)的方法是用同步還是用異步的方式。
    • worker : 一個(gè) worker 即一種任務(wù)的解決方案秤朗。 它可以指定所使用的 jobserver煤蹭,跟 client 所指定的 jobserver 是一樣的。多個(gè) client 可以用同一個(gè) worker取视,比如有1000封郵件的任務(wù)硝皂,即1000個(gè) client ,它們都只需要一個(gè) 處理發(fā)送郵件worker.

    基本原理:

    • 安裝和啟動(dòng)一臺(tái)或多臺(tái) jobserver , 即 第一章 安裝與配置里安裝gearmand套件啟動(dòng)gearmand守護(hù)程序 這兩個(gè)步驟。這兩個(gè)步驟確定了一臺(tái) jobserver 的建立與使用 作谭。

      • 可以搞多臺(tái)服務(wù)器做并發(fā)稽物,同樣是這兩個(gè)步驟。這樣可以確保如果其中一臺(tái)jobserver掛掉了折欠,其余的 clientworker 不會(huì)丟失贝或。
      • 記得要配置好防火墻,開(kāi)放4730端口锐秦。
      • 如果這些服務(wù)器單純只是用來(lái)做 jobserver 分發(fā)的話(huà)咪奖,這些服務(wù)器不需要安裝web服務(wù)。
      • 在該文檔中酱床,無(wú)論測(cè)試還是部署暫時(shí)都只是在一臺(tái)服務(wù)器上
    • 注冊(cè)與啟動(dòng)一個(gè)或多個(gè) worker

      • 通過(guò)addServeraddServers方法注冊(cè)到一個(gè)或多個(gè)jobserver,然后等待分發(fā)任務(wù)(通過(guò)循環(huán))羊赵。
      • jobserver 一樣,也可以搞多臺(tái)服務(wù)器做并發(fā)操作扇谣。這些用作worker的服務(wù)器昧捷,如果worker是web服務(wù)的話(huà),需要安裝web服務(wù)罐寨,其余需要配置的與第一章雷同靡挥。
    • 注冊(cè)一個(gè)或多個(gè) client

      • 通過(guò)addServeraddServers方法注冊(cè)到一個(gè)或多個(gè)jobserver,然后根據(jù)指定的工作方式(同步或異步)來(lái)決定反饋。
      • 需要安裝gearman的php擴(kuò)展
  • 簡(jiǎn)單的測(cè)試DEMO

    worker.php

      <?php
    
          $worker = new GearmanWorker();
            $worker->addServer();
            $worker->addFunction("title", "title_function");
            while ($worker->work());
    
            function title_function($job){
              return ucwords(strtolower($job->workload()));
            }
    
      ?>
    

    client.php

      <?php
    
            $client= new GearmanClient();
            $client->addServer();
            print $client->do("title", "AlL THE World's a sTagE");
            print "\n";
    
      ?>
    

    在網(wǎng)站根目錄創(chuàng)建這兩個(gè)文件并鍵入以上代碼衩茸。

    可從命令行或者瀏覽器直接執(zhí)行這兩個(gè)文件芹血。在此例中贮泞,先啟動(dòng) worker.php

    shell: php worker.php

    瀏覽器: 訪(fǎng)問(wèn)localhost/worker.php

    為什么呢幔烛?因?yàn)?client.php 里用的是 do 方法啃擦,是同步等待的操作,是必須等到 worker 有反饋才會(huì)執(zhí)行下一步操作的饿悬。

    因此先啟動(dòng) worker.php 令蛉,其開(kāi)始了一個(gè)循環(huán)不停地等待接收任務(wù)蕴纳。這個(gè)時(shí)候另開(kāi)一個(gè)窗口或者命令行 執(zhí)行 client.php,

    就會(huì)得到一個(gè) worker.phptitle_function() 函數(shù)執(zhí)行后的內(nèi)容了帕涌。

  • 參考來(lái)源

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市虎眨,隨后出現(xiàn)的幾起案子弟劲,更是在濱河造成了極大的恐慌祷安,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,695評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件兔乞,死亡現(xiàn)場(chǎng)離奇詭異汇鞭,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)庸追,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,569評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)霍骄,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人淡溯,你說(shuō)我怎么就攤上這事读整。” “怎么了咱娶?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,130評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵米间,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我膘侮,道長(zhǎng)车伞,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,648評(píng)論 1 297
  • 正文 為了忘掉前任喻喳,我火速辦了婚禮,結(jié)果婚禮上困曙,老公的妹妹穿的比我還像新娘表伦。我一直安慰自己,他們只是感情好慷丽,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,655評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布蹦哼。 她就那樣靜靜地躺著,像睡著了一般要糊。 火紅的嫁衣襯著肌膚如雪纲熏。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,268評(píng)論 1 309
  • 那天,我揣著相機(jī)與錄音局劲,去河邊找鬼勺拣。 笑死,一個(gè)胖子當(dāng)著我的面吹牛鱼填,可吹牛的內(nèi)容都是我干的药有。 我是一名探鬼主播,決...
    沈念sama閱讀 40,835評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼苹丸,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼愤惰!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起赘理,我...
    開(kāi)封第一講書(shū)人閱讀 39,740評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤宦言,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后商模,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體奠旺,經(jīng)...
    沈念sama閱讀 46,286評(píng)論 1 318
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,375評(píng)論 3 340
  • 正文 我和宋清朗相戀三年阻桅,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了凉倚。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,505評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡嫂沉,死狀恐怖稽寒,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情趟章,我是刑警寧澤杏糙,帶...
    沈念sama閱讀 36,185評(píng)論 5 350
  • 正文 年R本政府宣布,位于F島的核電站蚓土,受9級(jí)特大地震影響宏侍,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜蜀漆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,873評(píng)論 3 333
  • 文/蒙蒙 一谅河、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧确丢,春花似錦绷耍、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,357評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至描函,卻和暖如春崎苗,著一層夾襖步出監(jiān)牢的瞬間狐粱,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,466評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工胆数, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留肌蜻,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,921評(píng)論 3 376
  • 正文 我出身青樓幅慌,卻偏偏與公主長(zhǎng)得像宋欺,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子胰伍,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,515評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理齿诞,服務(wù)發(fā)現(xiàn),斷路器骂租,智...
    卡卡羅2017閱讀 134,701評(píng)論 18 139
  • 一祷杈、MemCache簡(jiǎn)介 session MemCache是一個(gè)自由、源碼開(kāi)放渗饮、高性能但汞、分布式的分布式內(nèi)存對(duì)象緩存...
    李偉銘MIng閱讀 3,821評(píng)論 2 13
  • 更改ip和dnsVi /etc/sysconfig/network-scripts/ifcfg-eth0vi /...
    Xwei_閱讀 1,828評(píng)論 0 3
  • 1. Nginx的模塊與工作原理 Nginx由內(nèi)核和模塊組成,其中互站,內(nèi)核的設(shè)計(jì)非常微小和簡(jiǎn)潔私蕾,完成的工作也非常簡(jiǎn)單...
    rosekissyou閱讀 10,221評(píng)論 5 124
  • Page 1:nginx 服務(wù)器安裝及配置文件詳解 CentOS 6.2 x86_64 安裝 nginx 1.1 ...
    xiaojianxu閱讀 8,543評(píng)論 1 41