Storm高級原語(一)--Transactional topology

第一種設(shè)計缺點:一次只處理一個tuple荣恐,對數(shù)據(jù)庫的大量調(diào)用液斜,并且沒有利用到storm的并行計算能力
第二種設(shè)計缺點:雖然使用了batch一次處理多個tuple,但仍舊沒有利用到storm的并行計算能力
第三種設(shè)計很好地解決了這些問題
處理并行的方式是:transaction分為process和commit叠穆,可以有無數(shù)個process同時進行少漆,但每次只能有一個commit在執(zhí)行

MemoryTransactionalSpout spout = new MemoryTransactionalSpout(DATA, new Fields("word"), PARTITION_TAKE_PER_BATCH);
TransactionalTopologyBuilder builder = new TransactionalTopologyBuilder("global-count", "spout", spout, 3);
builder.setBolt("partial-count", new BatchCount(), 5)
        .shuffleGrouping("spout");
builder.setBolt("sum", new UpdateGlobalCount())
        .globalGrouping("partial-count");

TransactionalTopologyBuilder構(gòu)造器中接受如下的參數(shù):

一個transaction topology的id
spout在整個topology里面的id。
一個transactional spout硼被。
一個可選的這個transactional spout的并行度示损。
topology的id是用來在zookeeper里面保存這個topology的當(dāng)前進度狀態(tài)的,所以如果你重啟這個topology嚷硫, 它可以接著前面的進度繼續(xù)執(zhí)行检访。

一個transaction topology里面有一個唯一的TransactionalSpout, 這個spout是通過TransactionalTopologyBuilder的構(gòu)造函數(shù)來指定的。在這個例子里面仔掸,MemoryTransactionalSpout被用來從一個內(nèi)存變量里面讀取數(shù)據(jù)(DATA)脆贵。第二個參數(shù)指定spout發(fā)送的tuple的字段, 第三個參數(shù)指定每個batch的最大tuple數(shù)量起暮。關(guān)于如何自定義TransactionalSpout我們會在后面介紹卖氨。

現(xiàn)在說說 bolts。這個topology并行地計算tuple的總數(shù)量鞋怀。第一個bolt:BatchBolt双泪,隨機地把輸入tuple分給各個task持搜,然后各個task各自統(tǒng)計局部數(shù)量密似。第二個bolt:UpdateGlobalCount, 用全局grouping來匯總這個batch中tuple的數(shù)量,然后再更新到數(shù)據(jù)庫里面的全局?jǐn)?shù)量葫盼。

轉(zhuǎn)自http://www.flyne.org/article/190

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末残腌,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌抛猫,老刑警劉巖蟆盹,帶你破解...
    沈念sama閱讀 222,627評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異闺金,居然都是意外死亡逾滥,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,180評論 3 399
  • 文/潘曉璐 我一進店門败匹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來寨昙,“玉大人,你說我怎么就攤上這事掀亩√蚰模” “怎么了?”我有些...
    開封第一講書人閱讀 169,346評論 0 362
  • 文/不壞的土叔 我叫張陵槽棍,是天一觀的道長捉蚤。 經(jīng)常有香客問我,道長炼七,這世上最難降的妖魔是什么缆巧? 我笑而不...
    開封第一講書人閱讀 60,097評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮豌拙,結(jié)果婚禮上盅蝗,老公的妹妹穿的比我還像新娘。我一直安慰自己姆蘸,他們只是感情好墩莫,可當(dāng)我...
    茶點故事閱讀 69,100評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著逞敷,像睡著了一般狂秦。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上推捐,一...
    開封第一講書人閱讀 52,696評論 1 312
  • 那天裂问,我揣著相機與錄音,去河邊找鬼牛柒。 笑死堪簿,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的皮壁。 我是一名探鬼主播椭更,決...
    沈念sama閱讀 41,165評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼蛾魄!你這毒婦竟也來了虑瀑?” 一聲冷哼從身側(cè)響起湿滓,我...
    開封第一講書人閱讀 40,108評論 0 277
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎舌狗,沒想到半個月后叽奥,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,646評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡痛侍,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,709評論 3 342
  • 正文 我和宋清朗相戀三年朝氓,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片主届。...
    茶點故事閱讀 40,861評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡膀篮,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出岂膳,到底是詐尸還是另有隱情誓竿,我是刑警寧澤,帶...
    沈念sama閱讀 36,527評論 5 351
  • 正文 年R本政府宣布谈截,位于F島的核電站筷屡,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏簸喂。R本人自食惡果不足惜毙死,卻給世界環(huán)境...
    茶點故事閱讀 42,196評論 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望喻鳄。 院中可真熱鬧扼倘,春花似錦、人聲如沸除呵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,698評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽颜曾。三九已至纠拔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間泛豪,已是汗流浹背稠诲。 一陣腳步聲響...
    開封第一講書人閱讀 33,804評論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留诡曙,地道東北人臀叙。 一個月前我還...
    沈念sama閱讀 49,287評論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像价卤,于是被迫代替她去往敵國和親劝萤。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,860評論 2 361

推薦閱讀更多精彩內(nèi)容