scala> sc.textFile("hdfs://hadoop21:9000/wc/").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_)
res10: org.apache.spark.rdd.RDD[(String, Int)] = ShuffledRDD[29] at reduceByKey at <console>:25
scala> sc.setCheckpointDir("hdfs://hadoop21:9000/ck0001")
scala> val res = sc.textFile("hdfs://hadoop21:9000/wc/").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_)
res: org.apache.spark.rdd.RDD[(String, Int)] = ShuffledRDD[34] at reduceByKey at <console>:24
scala> res.cache()
res12: res.type = ShuffledRDD[34] at reduceByKey at <console>:24
scala> res.checkpoint()
scala> res.collect
res14: Array[(String, Int)] = Array((tom,11), (hello,22), (jerry,6), (kitty,1), (hanmeimei,2), (lilei,2))
checkpoint
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
- 文/潘曉璐 我一進店門液兽,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人掌动,你說我怎么就攤上這事四啰。” “怎么了粗恢?”我有些...
- 正文 為了忘掉前任妖碉,我火速辦了婚禮涌庭,結果婚禮上,老公的妹妹穿的比我還像新娘欧宜。我一直安慰自己脾猛,他們只是感情好河劝,可當我...
- 文/花漫 我一把揭開白布沐飘。 她就那樣靜靜地躺著墓塌,像睡著了一般霞捡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上愉昆,一...
- 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼堪侯!你這毒婦竟也來了嚎尤?” 一聲冷哼從身側響起,我...
- 正文 年R本政府宣布念祭,位于F島的核電站,受9級特大地震影響碍侦,放射性物質發(fā)生泄漏粱坤。R本人自食惡果不足惜,卻給世界環(huán)境...
- 文/蒙蒙 一瓷产、第九天 我趴在偏房一處隱蔽的房頂上張望站玄。 院中可真熱鬧,春花似錦濒旦、人聲如沸株旷。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽晾剖。三九已至锉矢,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間齿尽,已是汗流浹背沽损。 一陣腳步聲響...
推薦閱讀更多精彩內容
- 又窮诵原,又不聰明,他怎么把自己生生活成了一部世界名著挽放? 劉小胖子 又窮绍赛, 又不聰明, 他怎么把自己生生活成了一部傳奇...