Spark 2.X 上累加器(Accumulators)不能用了茧跋?原來(lái)如此

本文基于Spark2.1.0版本

今天整理累加器的知識(shí)點(diǎn)時(shí),發(fā)現(xiàn)實(shí)例化一個(gè)Accumulator對(duì)象卓囚,編譯無(wú)法通過(guò):

Spark 2.x版本使用Accumulator類(lèi)時(shí)編譯出錯(cuò)瘾杭,提示類(lèi)過(guò)時(shí)

查了一下Spark2.x的API,發(fā)現(xiàn)對(duì)Accumulator類(lèi)的定義發(fā)生了變化:

2.0版本前的累加器的類(lèi)定義
2.x版本的累加器類(lèi)定義

新的累加器創(chuàng)建的方法如下:

可以看出哪亿,新版的累加器有了如下的改良:

1粥烁,不用傳初始化值參數(shù),默認(rèn)是從0開(kāi)始蝇棉;

2讨阻,創(chuàng)建累加器時(shí),可以指定累加器的名字银萍,這樣在Driver 4040 Web UI的Task顯示時(shí)变勇,可以看到該名字的累加器在各Task中的實(shí)際的值(如果不指定累加器名字,則不會(huì)在Web UI上顯示)-- ?這點(diǎn)我說(shuō)的不準(zhǔn)確贴唇,舊的累加器類(lèi)也有這個(gè)功能搀绣,只不過(guò)我一直沒(méi)用過(guò),慚愧戳气。链患。。

3瓶您,新增了reset方法麻捻,可以重置該累加器歸零(還有幾個(gè)新的方法纲仍,不一一舉例)

So,按照API的指示贸毕,修改如下:

編譯通過(guò)郑叠,功能正常

在Driver 的4040 Web UI上觀察,發(fā)現(xiàn)Task table增加了 Accumulators 列明棍,能看到每個(gè)Task上的叫做ErrorCnt 的累加器的值(可以同時(shí)定義多個(gè)累加器)


迭代器使用起來(lái)很簡(jiǎn)單乡革,很方便,但在使用過(guò)程中一定要注意(新手容易忽略):

因?yàn)镾park 相同的Task有可能被重復(fù)執(zhí)行多次(容錯(cuò)性導(dǎo)致)摊腋,所以累加器的值很有可能被累加多次沸版,那么得到的結(jié)果就不準(zhǔn)確了,所以一般把累加器放在行動(dòng)操作中來(lái)使用兴蒸,只有這樣视粮,Spark才會(huì)把每個(gè)任務(wù)對(duì)各累加器的修改應(yīng)用一次。

下面舉一個(gè)foreach的行動(dòng)操作的例子:


官網(wǎng)說(shuō)明


java代碼如下:

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末橙凳,一起剝皮案震驚了整個(gè)濱河市蕾殴,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌岛啸,老刑警劉巖区宇,帶你破解...
    沈念sama閱讀 219,366評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異值戳,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)炉爆,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,521評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)堕虹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人芬首,你說(shuō)我怎么就攤上這事赴捞。” “怎么了郁稍?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,689評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵赦政,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我耀怜,道長(zhǎng)恢着,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,925評(píng)論 1 295
  • 正文 為了忘掉前任财破,我火速辦了婚禮掰派,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘左痢。我一直安慰自己靡羡,他們只是感情好系洛,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,942評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著略步,像睡著了一般脱羡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上奸晴,一...
    開(kāi)封第一講書(shū)人閱讀 51,727評(píng)論 1 305
  • 那天魄藕,我揣著相機(jī)與錄音,去河邊找鬼竟趾。 笑死憔购,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的岔帽。 我是一名探鬼主播玫鸟,決...
    沈念sama閱讀 40,447評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼犀勒!你這毒婦竟也來(lái)了屎飘?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,349評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤贾费,失蹤者是張志新(化名)和其女友劉穎钦购,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體褂萧,經(jīng)...
    沈念sama閱讀 45,820評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡押桃,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,990評(píng)論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了导犹。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片唱凯。...
    茶點(diǎn)故事閱讀 40,127評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖谎痢,靈堂內(nèi)的尸體忽然破棺而出磕昼,到底是詐尸還是另有隱情,我是刑警寧澤节猿,帶...
    沈念sama閱讀 35,812評(píng)論 5 346
  • 正文 年R本政府宣布票从,位于F島的核電站,受9級(jí)特大地震影響滨嘱,放射性物質(zhì)發(fā)生泄漏峰鄙。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,471評(píng)論 3 331
  • 文/蒙蒙 一太雨、第九天 我趴在偏房一處隱蔽的房頂上張望先馆。 院中可真熱鬧,春花似錦躺彬、人聲如沸煤墙。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,017評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)仿野。三九已至铣减,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間脚作,已是汗流浹背葫哗。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,142評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留球涛,地道東北人劣针。 一個(gè)月前我還...
    沈念sama閱讀 48,388評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像亿扁,于是被迫代替她去往敵國(guó)和親捺典。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,066評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容