GroupingComparator分組案例實操

OrderBean

public class OrderBean implements WritableComparable<OrderBean> {

? ? private int order_id;? //訂單id

? ? private double price;? //價格

? ? public OrderBean() {

? ? ? ? super();

? ? }

? ? public OrderBean(int order_id, double price) {

? ? ? ? super();

? ? ? ? this.order_id = order_id;

? ? ? ? this.price = price;

? ? }

? ? @Override

? ? public int compareTo(OrderBean bean) {

? ? ? ? //先按照id升序排序暴构,如果相同按照價格降序排序

? ? ? ? int result;

? ? ? ? if (order_id > bean.getOrder_id()) {

? ? ? ? ? ? result = 1;

? ? ? ? } else if (order_id < bean.getOrder_id()) {

? ? ? ? ? ? result = -1;

? ? ? ? } else {

? ? ? ? ? ? if (price > bean.getPrice()) {

? ? ? ? ? ? ? ? result = -1;

? ? ? ? ? ? } else if (price < bean.getPrice()) {

? ? ? ? ? ? ? ? result = 1;

? ? ? ? ? ? } else {

? ? ? ? ? ? ? ? result = 0;

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? return result;

? ? }

? ? @Override

? ? public void write(DataOutput out) throws IOException {

? ? ? ? out.writeInt(order_id);

? ? ? ? out.writeDouble(price);

? ? }

? ? @Override

? ? public void readFields(DataInput in) throws IOException {

? ? ? ? order_id = in.readInt();

? ? ? ? price = in.readDouble();

? ? }

? ? public int getOrder_id() {

? ? ? ? return order_id;

? ? }

? ? public void setOrder_id(int order_id) {

? ? ? ? this.order_id = order_id;

? ? }

? ? public double getPrice() {

? ? ? ? return price;

? ? }

? ? public void setPrice(double price) {

? ? ? ? this.price = price;

? ? }

? ? @Override

? ? public String toString() {

? ? ? ? return order_id + "\t" + price;

? ? }

}


OrderMapper

public class OrderMapper extends Mapper<LongWritable, Text, OrderBean, NullWritable>{

? ? OrderBean k = new OrderBean();

? ? @Override

? ? protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

? ? ? ? // 1 獲取一行

? ? ? ? String line = value.toString();

? ? ? ? // 2 切割

? ? ? ? String[] fields = line.split(" ");

? ? ? ? // 3 封裝對象

? ? ? ? k.setOrder_id(Integer.parseInt(fields[0]));

? ? ? ? k.setPrice(Double.parseDouble(fields[2]));

? ? ? ? // 4 寫出

? ? ? ? context.write(k, NullWritable.get());

? ? }

}


OrderReducer

public class OrderReducer extends Reducer<OrderBean, NullWritable, OrderBean, NullWritable>{

? ? @Override

? ? protected void reduce(OrderBean key, Iterable<NullWritable> values, Context context) throws IOException, InterruptedException {

? ? ? ? context.write(key, NullWritable.get());

? ? }

}


OrderDirver

public class OrderDirver {

? ? public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {

? ? ? ? //輸入輸出路徑需要根據(jù)自己電腦上的實際的輸入輸出路徑設(shè)置

? ? ? ? args = new String[]{"e:/input/inputorder", "e:/output1"};

? ? ? ? // 1 獲取配置信息

? ? ? ? Configuration conf = new Configuration();

? ? ? ? Job job = Job.getInstance(conf);

? ? ? ? // 2 設(shè)置jar包加載路徑

? ? ? ? job.setJarByClass(OrderDirver.class);

? ? ? ? // 3 加載map/reduce類

? ? ? ? job.setMapperClass(OrderMapper.class);

? ? ? ? job.setReducerClass(OrderReducer.class);

? ? ? ? // 4 設(shè)置map輸出數(shù)據(jù)kv類型

? ? ? ? job.setMapOutputKeyClass(OrderBean.class);

? ? ? ? job.setMapOutputValueClass(NullWritable.class);

? ? ? ? // 5 設(shè)置最終輸出數(shù)據(jù)的kv類型

? ? ? ? job.setOutputKeyClass(OrderBean.class);

? ? ? ? job.setOutputValueClass(NullWritable.class);

? ? ? ? // 6 設(shè)置輸入數(shù)據(jù)和輸出數(shù)據(jù)路徑

? ? ? ? FileInputFormat.setInputPaths(job, new Path(args[0]));

? ? ? ? FileOutputFormat.setOutputPath(job, new Path(args[1]));

? ? ? ? // 8 設(shè)置reduce端的分組

? ? ? ? job.setGroupingComparatorClass(OrderGroupingComparator.class);

? ? ? ? // 7 提交job

? ? ? ? boolean result = job.waitForCompletion(true);

? ? ? ? System.exit(result ? 0 : 1);

? ? }

}


OrderGroupingComparator

public class OrderGroupingComparator extends WritableComparator {

? ? protected OrderGroupingComparator() {

? ? ? ? super(OrderBean.class, true);

? ? }

? ? @Override

? ? public int compare(WritableComparable a, WritableComparable b) {

? ? ? ? //要求只要id相同跪呈,就認為是相同的key

? ? ? ? OrderBean aBean = (OrderBean) a;

? ? ? ? OrderBean bBean = (OrderBean) b;

? ? ? ? int result;

? ? ? ? if (aBean.getOrder_id() > bBean.getOrder_id()) {

? ? ? ? ? ? result = 1;

? ? ? ? } else if (aBean.getOrder_id() < bBean.getOrder_id()) {

? ? ? ? ? ? result = -1;

? ? ? ? } else {

? ? ? ? ? ? result = 0;

? ? ? ? }

? ? ? ? return result;

? ? }

}


PS:如果要顯示top3可修改Reducer

OrderReducer

public class OrderReducer extends Reducer<OrderBean, NullWritable, OrderBean, NullWritable> {

? ? @Override

? ? protected void reduce(OrderBean key, Iterable<NullWritable> values, Context context) throws IOException, InterruptedException {

? ? ? ? //循環(huán)的時候設(shè)置循環(huán)次數(shù)為3即可

? ? ? ? for (NullWritable nullWritable : values) {

? ? ? ? ? ? context.write(key, NullWritable.get());

? ? ? ? }

? ? }

}

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市取逾,隨后出現(xiàn)的幾起案子耗绿,更是在濱河造成了極大的恐慌,老刑警劉巖砾隅,帶你破解...
    沈念sama閱讀 211,348評論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件缭乘,死亡現(xiàn)場離奇詭異,居然都是意外死亡琉用,警方通過查閱死者的電腦和手機堕绩,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,122評論 2 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來邑时,“玉大人奴紧,你說我怎么就攤上這事【穑” “怎么了黍氮?”我有些...
    開封第一講書人閱讀 156,936評論 0 347
  • 文/不壞的土叔 我叫張陵唐含,是天一觀的道長。 經(jīng)常有香客問我沫浆,道長捷枯,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,427評論 1 283
  • 正文 為了忘掉前任专执,我火速辦了婚禮淮捆,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘本股。我一直安慰自己攀痊,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,467評論 6 385
  • 文/花漫 我一把揭開白布拄显。 她就那樣靜靜地躺著苟径,像睡著了一般。 火紅的嫁衣襯著肌膚如雪躬审。 梳的紋絲不亂的頭發(fā)上棘街,一...
    開封第一講書人閱讀 49,785評論 1 290
  • 那天,我揣著相機與錄音承边,去河邊找鬼蹬碧。 笑死,一個胖子當(dāng)著我的面吹牛炒刁,可吹牛的內(nèi)容都是我干的恩沽。 我是一名探鬼主播,決...
    沈念sama閱讀 38,931評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼翔始,長吁一口氣:“原來是場噩夢啊……” “哼罗心!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起城瞎,我...
    開封第一講書人閱讀 37,696評論 0 266
  • 序言:老撾萬榮一對情侶失蹤渤闷,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后脖镀,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體飒箭,經(jīng)...
    沈念sama閱讀 44,141評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,483評論 2 327
  • 正文 我和宋清朗相戀三年蜒灰,在試婚紗的時候發(fā)現(xiàn)自己被綠了弦蹂。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,625評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡强窖,死狀恐怖凸椿,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情翅溺,我是刑警寧澤脑漫,帶...
    沈念sama閱讀 34,291評論 4 329
  • 正文 年R本政府宣布髓抑,位于F島的核電站,受9級特大地震影響优幸,放射性物質(zhì)發(fā)生泄漏吨拍。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,892評論 3 312
  • 文/蒙蒙 一网杆、第九天 我趴在偏房一處隱蔽的房頂上張望羹饰。 院中可真熱鬧,春花似錦跛璧、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,741評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至燥撞,卻和暖如春座柱,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背物舒。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評論 1 265
  • 我被黑心中介騙來泰國打工色洞, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人冠胯。 一個月前我還...
    沈念sama閱讀 46,324評論 2 360
  • 正文 我出身青樓火诸,卻偏偏與公主長得像,于是被迫代替她去往敵國和親荠察。 傳聞我的和親對象是個殘疾皇子置蜀,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,492評論 2 348

推薦閱讀更多精彩內(nèi)容

  • 現(xiàn)在是凌晨4點半盯荤,我突然一覺醒來,下意識拿起手機焕盟,打開和他的聊天框 秋秤,最后一條消息赫然在目,我說:心都在你身上...
    a利寶閱讀 335評論 0 1
  • 我以前做的swift筆記, 之前都是整理在onenote上, 最近想到整理出博客. 也方便自己查找, 可以當(dāng)做自己...
    sunmumu1222閱讀 173評論 0 0
  • 第四十二章:無語 劉昊看著熟睡中的廉慧縮成一團面色慘白脚翘,摸了摸被窩灼卢,透著一股陰冷。老娘可能真是老了来农,居然忘了提前把...
    行走的大蘑菇閱讀 873評論 22 16