Spark 從零到開發(fā)(六)HiveContext

Spark SQL執(zhí)行引擎的一個實例,它與存儲在Hive中的數(shù)據(jù)集成在一起戳吝。從類路徑上的hive-site.xml讀取Hive的配置。

1. java本地執(zhí)行

1.1 json文件:
{"id":1,"name":"FantJ","age":18}
{"id":2,"name":"FantJ2","age":18}
{"id":3,"name":"FantJ3","age":18}
{"id":4,"name":"FantJ4","age":18}
{"id":5,"name":"FantJ5","age":18}
{"id":6,"name":"FantJ6","age":18}
1.2 DataFormCreate.java
public class DataFormCreate {
    public static void main(String[] args) {
        SparkConf conf = new SparkConf().setAppName("DataFormCreate").setMaster("local");

        JavaSparkContext sc = new JavaSparkContext(conf);

        SQLContext sqlContext = new SQLContext(sc);

        DataFrame df = sqlContext.read().json("C:\\Users\\84407\\Desktop\\spark.json");
        //打印所有數(shù)據(jù)
        df.show();
        //打印元數(shù)據(jù)
        df.printSchema();
        //查詢某列數(shù)據(jù)
        df.select("id").show();
        //查詢多個列兵對列進行計算
        df.select(df.col("name"),df.col("age").plus(1)).show();
        //過濾
        df.filter(String.valueOf(df.col("name").equals("Fantj"))).show();
        //按照組進行統(tǒng)計
        df.groupBy(df.col("age")).count().show();
    }
}
1.3 控制臺輸出:

+---+---+------+
|age| id|  name|
+---+---+------+
| 18|  1| FantJ|
| 18|  2|FantJ2|
| 18|  3|FantJ3|
| 18|  4|FantJ4|
| 18|  5|FantJ5|
| 18|  6|FantJ6|
+---+---+------+

root
 |-- age: long (nullable = true)
 |-- id: long (nullable = true)
 |-- name: string (nullable = true)


+---+
| id|
+---+
|  1|
|  2|
|  3|
|  4|
|  5|
|  6|
+---+


+------+---------+
|  name|(age + 1)|
+------+---------+
| FantJ|       19|
|FantJ2|       19|
|FantJ3|       19|
|FantJ4|       19|
|FantJ5|       19|
|FantJ6|       19|
+------+---------+

+---+---+----+
|age| id|name|
+---+---+----+
+---+---+----+


+---+-----+
|age|count|
+---+-----+
| 18|    6|
+---+-----+

2. 集群腳本執(zhí)行

2.1 寫執(zhí)行腳本:
 1010  vim hiveContext.sh
/home/fantj/spark/bin/spark-submit \
--class com.fantj.bigdata.DataFormCreateCluster \
--num-executors 1 \
--driver-memory 100m \
--executor-memory 100m \
--executor-cores 3 \
--files /home/fantj/hive/conf/hive-site.xml \
--driver-class-path /home/fantj/hive/lib/mysql-connector-java-5.1.17.jar \
/home/fantj/wordcount.jar \
2.2 寫json文件:
 1012  vim spark.json
{"id":1,"name":"FantJ","age":18}
{"id":2,"name":"FantJ2","age":18}
{"id":3,"name":"FantJ3","age":18}
{"id":4,"name":"FantJ4","age":18}
{"id":5,"name":"FantJ5","age":18}
{"id":6,"name":"FantJ6","age":18}
2.3 上傳到HDFS:
 1013  hadoop fs -put spark.json /spark
 1014  hadoop fs -ls -R /spark
drwxr-xr-x   - root supergroup          0 2018-07-31 05:00 /spark/out
-rw-r--r--   3 root supergroup          0 2018-07-31 05:00 /spark/out/_SUCCESS
-rw-r--r--   3 root supergroup       1818 2018-07-31 05:00 /spark/out/part-00000
-rw-r--r--   3 root supergroup        203 2018-07-31 19:34 /spark/spark.json
-rw-r--r--   3 root supergroup       1527 2018-07-30 23:12 /spark/spark.txt
2.4 執(zhí)行腳本:
 1016  chmod +x hiveContext.sh 
 1017  ./hiveContext.sh 
......
18/07/31 19:45:05 INFO scheduler.TaskSchedulerImpl: Removed TaskSet 1.0, whose tasks have all completed, from pool 
18/07/31 19:45:05 INFO scheduler.DAGScheduler: ResultStage 1 (show at DataFormCreateCluster.java:22) finished in 0.059 s
18/07/31 19:45:05 INFO scheduler.DAGScheduler: Job 1 finished: show at DataFormCreateCluster.java:22, took 0.134718 s
+---+---+------+
|age| id|  name|
+---+---+------+
| 18|  1| FantJ|
| 18|  2|FantJ2|
| 18|  3|FantJ3|
| 18|  4|FantJ4|
| 18|  5|FantJ5|
| 18|  6|FantJ6|
+---+---+------+

root
 |-- age: long (nullable = true)
 |-- id: long (nullable = true)
 |-- name: string (nullable = true)

18/07/31 19:45:05 INFO spark.SparkContext: Invoking stop() from shutdown hook
18/07/31 19:45:05 INFO handler.ContextHandler: stopped o.s.j.s.ServletContextHandler{/static/sql,null}
18/07/31 19:45:05 INFO handler.ContextHandler: stopped o.s.j.s.ServletContextHandler{/SQL/execution/json,null}
......
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市逆趋,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌萄涯,老刑警劉巖绪氛,帶你破解...
    沈念sama閱讀 222,729評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異涝影,居然都是意外死亡枣察,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,226評論 3 399
  • 文/潘曉璐 我一進店門燃逻,熙熙樓的掌柜王于貴愁眉苦臉地迎上來序目,“玉大人,你說我怎么就攤上這事伯襟≡痴牵” “怎么了?”我有些...
    開封第一講書人閱讀 169,461評論 0 362
  • 文/不壞的土叔 我叫張陵姆怪,是天一觀的道長叛赚。 經(jīng)常有香客問我,道長片效,這世上最難降的妖魔是什么红伦? 我笑而不...
    開封第一講書人閱讀 60,135評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮淀衣,結(jié)果婚禮上昙读,老公的妹妹穿的比我還像新娘。我一直安慰自己膨桥,他們只是感情好蛮浑,可當我...
    茶點故事閱讀 69,130評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著只嚣,像睡著了一般沮稚。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上册舞,一...
    開封第一講書人閱讀 52,736評論 1 312
  • 那天蕴掏,我揣著相機與錄音,去河邊找鬼调鲸。 笑死盛杰,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的藐石。 我是一名探鬼主播即供,決...
    沈念sama閱讀 41,179評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼于微!你這毒婦竟也來了逗嫡?” 一聲冷哼從身側(cè)響起青自,我...
    開封第一講書人閱讀 40,124評論 0 277
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎驱证,沒想到半個月后延窜,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,657評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡雷滚,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,723評論 3 342
  • 正文 我和宋清朗相戀三年需曾,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片祈远。...
    茶點故事閱讀 40,872評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖商源,靈堂內(nèi)的尸體忽然破棺而出车份,到底是詐尸還是另有隱情,我是刑警寧澤牡彻,帶...
    沈念sama閱讀 36,533評論 5 351
  • 正文 年R本政府宣布扫沼,位于F島的核電站,受9級特大地震影響庄吼,放射性物質(zhì)發(fā)生泄漏缎除。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,213評論 3 336
  • 文/蒙蒙 一总寻、第九天 我趴在偏房一處隱蔽的房頂上張望器罐。 院中可真熱鬧,春花似錦渐行、人聲如沸轰坊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,700評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽肴沫。三九已至,卻和暖如春蕴忆,著一層夾襖步出監(jiān)牢的瞬間颤芬,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,819評論 1 274
  • 我被黑心中介騙來泰國打工套鹅, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留站蝠,地道東北人。 一個月前我還...
    沈念sama閱讀 49,304評論 3 379
  • 正文 我出身青樓芋哭,卻偏偏與公主長得像沉衣,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子减牺,可洞房花燭夜當晚...
    茶點故事閱讀 45,876評論 2 361

推薦閱讀更多精彩內(nèi)容

  • 簡約而不簡單 城廂區(qū)常太學校 蔡秋霞 培訓第四天豌习,饕餮大餐存谎,學習并快樂著!每天都有好課和理論培訓肥隆。...
    蔡秋霞閱讀 299評論 0 0
  • 小的時候既荚,父母牽著我的手,教我學走路栋艳,一起逛公園恰聘,牽手傳遞著父母給予我的愛,讓我平安長大吸占! 上學離家晴叨,媽媽牽著我的...
    自由和人生閱讀 200評論 0 0
  • 雪越下越大,街上像鋪上了一層厚厚的白地毯矾屯〖嫒铮“賣火柴呀,賣火柴呀件蚕!叔叔孙技,阿姨,買一些火柴吧排作!”誰也沒有聽到她的叫賣...
    田薰姑娘閱讀 184評論 0 0
  • 吃完飯牵啦,珊珊提出要去看看爺爺,說爺爺一個人在家妄痪,太孤單了哈雏,想爺爺了,要去看看他拌夏。(她奶奶去照顧老姥爺去了僧著,她爺爺一...
    果果在笑閱讀 199評論 0 0