生態(tài)圈

  • 組件架構(gòu):
    hiveserver2(beeline),hive,metadb

Execution Engine – The component which executes the execution plan created by the compiler. The plan is a DAG of stages. The execution engine manages the dependencies between these different stages of the plan and executes these stages on the appropriate system components.

  • 連接hiveserver2
    GUI CLI JDBC (beeline)

  • 數(shù)據(jù)源
    用kafka挫以,sqoop等獲得data叹哭,放入hdfs喊积,這些數(shù)據(jù)各種結(jié)構(gòu)都有蝗蛙。
    關(guān)系數(shù)據(jù)庫(kù)的表著角,MongoDB 或json數(shù)據(jù)长已,或日志

  • 執(zhí)行hql
    背后運(yùn)行的是mapreduce or Tez jobs(類似于pig latin腳本執(zhí)行pig)
    insert into test values("wangyuq","123");
    查看tracking url

  • stage
    將你的數(shù)據(jù)移到目的位置之前,將會(huì)staing 那兒一段時(shí)間鸣驱。staging文件最終丟棄泛鸟。

  • 比對(duì)
    pig是對(duì)非結(jié)構(gòu)化數(shù)據(jù)處理的好的etl。
    hive不是關(guān)系數(shù)據(jù)庫(kù)踊东,只是維護(hù)存儲(chǔ)在HDFS的數(shù)據(jù)的metadata北滥,使得對(duì)大數(shù)據(jù)操作就像sql操作表一樣,只不過(guò)hql和sql稍有出入闸翅。使我們能用sql來(lái)執(zhí)行mr再芋。可以對(duì)hdfs數(shù)據(jù)進(jìn)行query坚冀。
    hive使用metastore存表济赎。hive默認(rèn)derby但是可自定義更換。


  • hive不能承諾優(yōu)化,只是簡(jiǎn)單司训,因此hive不能支持實(shí)時(shí)构捡,性能差
    index view有限制(partition bucket 彌補(bǔ))
    和sql 的datatype不完全一樣

  • 與hdfs關(guān)系
    hdfs里有hive,data在hdfs上壳猜,schema在metastore里勾徽。
    load語(yǔ)句: 將hdfs搬運(yùn)到hive,hdfs不再有該數(shù)據(jù)蓖谢。只是將真正的data轉(zhuǎn)到了hive目錄下捂蕴。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末譬涡,一起剝皮案震驚了整個(gè)濱河市闪幽,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌涡匀,老刑警劉巖盯腌,帶你破解...
    沈念sama閱讀 217,657評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異陨瘩,居然都是意外死亡腕够,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,889評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門舌劳,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)帚湘,“玉大人,你說(shuō)我怎么就攤上這事甚淡〈笾睿” “怎么了?”我有些...
    開封第一講書人閱讀 164,057評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵贯卦,是天一觀的道長(zhǎng)资柔。 經(jīng)常有香客問(wèn)我,道長(zhǎng)撵割,這世上最難降的妖魔是什么贿堰? 我笑而不...
    開封第一講書人閱讀 58,509評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮啡彬,結(jié)果婚禮上羹与,老公的妹妹穿的比我還像新娘。我一直安慰自己庶灿,他們只是感情好纵搁,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,562評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著跳仿,像睡著了一般诡渴。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,443評(píng)論 1 302
  • 那天妄辩,我揣著相機(jī)與錄音惑灵,去河邊找鬼。 笑死眼耀,一個(gè)胖子當(dāng)著我的面吹牛英支,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播哮伟,決...
    沈念sama閱讀 40,251評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼干花,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了楞黄?” 一聲冷哼從身側(cè)響起池凄,我...
    開封第一講書人閱讀 39,129評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎鬼廓,沒(méi)想到半個(gè)月后肿仑,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,561評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡碎税,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,779評(píng)論 3 335
  • 正文 我和宋清朗相戀三年尤慰,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片雷蹂。...
    茶點(diǎn)故事閱讀 39,902評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡伟端,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出匪煌,到底是詐尸還是另有隱情责蝠,我是刑警寧澤,帶...
    沈念sama閱讀 35,621評(píng)論 5 345
  • 正文 年R本政府宣布虐杯,位于F島的核電站玛歌,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏擎椰。R本人自食惡果不足惜支子,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,220評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望达舒。 院中可真熱鬧值朋,春花似錦、人聲如沸巩搏。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,838評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)贯底。三九已至丰辣,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背笙什。 一陣腳步聲響...
    開封第一講書人閱讀 32,971評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工飘哨, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人琐凭。 一個(gè)月前我還...
    沈念sama閱讀 48,025評(píng)論 2 370
  • 正文 我出身青樓芽隆,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親统屈。 傳聞我的和親對(duì)象是個(gè)殘疾皇子胚吁,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,843評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容