大數(shù)據(jù)學(xué)習(xí)十五:Hive1.1.0編譯及安裝

1、使用CDH版本大數(shù)據(jù)組件可以避免在編程中遇到的jar包沖突等問題,下載地址:

http://archive.cloudera.com/cdh5/cdh/5/

2、Hive官方地址慨默,https://hive.apache.org/

3玫芦、Hive簡介:The Apache Hive是使用sql對分布式大數(shù)據(jù)集進(jìn)行讀寫和管理操作的數(shù)據(jù)倉庫慎王,可以使用JDBC對結(jié)構(gòu)化數(shù)據(jù)(MySQL\Oracle等)進(jìn)行操作蚓土。使用sql語法來代替復(fù)雜的MapReduce獲取結(jié)果數(shù)據(jù)的編碼,且基于MapReduce進(jìn)行底層計算赖淤。

4蜀漆、相關(guān)概念

? ? ?離線數(shù)據(jù)倉庫:對數(shù)據(jù)進(jìn)行定時批量處理計算,數(shù)據(jù)巨大咱旱、確定确丢、保存時間長,可用來計算模型吐限,如Spark SQL鲜侥、HDFS+MapReduce+Hive(Hive存儲最終的計算結(jié)果)。

? ? ?實(shí)時數(shù)據(jù)倉庫:對數(shù)據(jù)進(jìn)行實(shí)時的一條一條的計算處理诸典,如Spark Streaming描函、Flink

? ? ?結(jié)構(gòu)化數(shù)據(jù):如Oracle\MySQL,每行一個實(shí)體,按建表定義每行有固定的順序和屬性狐粱,便于增刪改查舀寓。

? ? 半結(jié)構(gòu)化數(shù)據(jù):有一定的結(jié)構(gòu)和屬性,但是結(jié)構(gòu)順序不一定固定脑奠,屬性也不一定要完整基公,如XML、Json文件宋欺。

? ?非結(jié)構(gòu)化數(shù)據(jù):沒有固定的結(jié)構(gòu)和屬性,如文本文件胰伍、圖片齿诞、視頻等。

5骂租、編譯

$ tar -zxvf?hive-1.1.0-cdh5.7.0-src.tar.gz

$ cd?hive-1.1.0-cdh5.7.0

$ mvn clean package -P sources,hadoop-2 -DskipTests -Dtar ? #-P來源于pom文件中的<profile>中的<Id>屬性


6祷杈、安裝配置

Hive默認(rèn)數(shù)據(jù)庫為Derby,此處使用MySQL渗饮,準(zhǔn)備MySQL5.1.7驅(qū)動包但汞,將驅(qū)動包拷貝到

/home/hadoop/app/hive-1.1.0-cdh5.7.0/lib目錄下。

$ cd?/home/hadoop/app/hive-1.1.0-cdh5.7.0/conf

$ cp hive-env.sh.template hive-env.sh ? ? ? ?#該文件為配置Hive和Hadoop環(huán)境變量的配置文件互站,如果在.bash_profile文件中配置了的話私蕾,可以不配置

$ vi hive-site.xml ? ? ? ?#配置連接Mysql,圖中紅色部分為IP地址

修改windows下hosts文件 :C:\Windows\System32\drivers\etc ?hosts中添加?

192.168.1.x hostname,其次要確保上圖紅線中的IP地址在mysql.user表中與對應(yīng)的用戶存在胡桃,否則hive無權(quán)限連接踩叭。

$ cd $HIVE_HOME

$ ./hive ? ?#出現(xiàn)下圖則連接成功

新建的表ruozedata_basic03在Mysql中,

# su - mysql

$ mysql -uroot -p123456

>show databases;

7、在hive中建表報錯com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key length is 767 bytes

解決辦法:在mysql中容贝,alter database dbname character set latin1;

若庫中已經(jīng)有表自脯,則修改已建表的字符集?alter table tablename convert to character set latin1;

查看mysql字符集 ?show variables?like?'character_set_database';

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市斤富,隨后出現(xiàn)的幾起案子膏潮,更是在濱河造成了極大的恐慌,老刑警劉巖满力,帶你破解...
    沈念sama閱讀 218,525評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件焕参,死亡現(xiàn)場離奇詭異,居然都是意外死亡脚囊,警方通過查閱死者的電腦和手機(jī)龟糕,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,203評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來悔耘,“玉大人讲岁,你說我怎么就攤上這事〕囊裕” “怎么了缓艳?”我有些...
    開封第一講書人閱讀 164,862評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長看峻。 經(jīng)常有香客問我阶淘,道長,這世上最難降的妖魔是什么互妓? 我笑而不...
    開封第一講書人閱讀 58,728評論 1 294
  • 正文 為了忘掉前任溪窒,我火速辦了婚禮,結(jié)果婚禮上冯勉,老公的妹妹穿的比我還像新娘澈蚌。我一直安慰自己,他們只是感情好灼狰,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,743評論 6 392
  • 文/花漫 我一把揭開白布宛瞄。 她就那樣靜靜地躺著,像睡著了一般交胚。 火紅的嫁衣襯著肌膚如雪份汗。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,590評論 1 305
  • 那天蝴簇,我揣著相機(jī)與錄音杯活,去河邊找鬼。 笑死军熏,一個胖子當(dāng)著我的面吹牛轩猩,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 40,330評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼均践,長吁一口氣:“原來是場噩夢啊……” “哼晤锹!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起彤委,我...
    開封第一講書人閱讀 39,244評論 0 276
  • 序言:老撾萬榮一對情侶失蹤鞭铆,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后焦影,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體车遂,經(jīng)...
    沈念sama閱讀 45,693評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,885評論 3 336
  • 正文 我和宋清朗相戀三年斯辰,在試婚紗的時候發(fā)現(xiàn)自己被綠了舶担。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,001評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡彬呻,死狀恐怖衣陶,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情闸氮,我是刑警寧澤剪况,帶...
    沈念sama閱讀 35,723評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站蒲跨,受9級特大地震影響译断,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜或悲,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,343評論 3 330
  • 文/蒙蒙 一孙咪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧巡语,春花似錦该贾、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,919評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽兜材。三九已至理澎,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間曙寡,已是汗流浹背糠爬。 一陣腳步聲響...
    開封第一講書人閱讀 33,042評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留举庶,地道東北人执隧。 一個月前我還...
    沈念sama閱讀 48,191評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親镀琉。 傳聞我的和親對象是個殘疾皇子峦嗤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,955評論 2 355

推薦閱讀更多精彩內(nèi)容