Hive環(huán)境搭建

Hive的安裝需要提前安裝Hadoop和MySQL奕剃,Hadoop的安裝請參考Hadoop環(huán)境搭建,下面是MySQL的安裝。

MySQL安裝

  1. MySQL安裝請點(diǎn)擊

  2. 啟動(dòng)MySQL
    service mysqld restart

  3. 創(chuàng)建hive用戶
    create user 'hive' identified by 'hive';

  4. 創(chuàng)建hive數(shù)據(jù)庫
    create database hive;

  5. 將hive數(shù)據(jù)庫權(quán)限設(shè)置給hive用戶
    grant all privileges on . to hive@'localhost' identified by 'hive';

  6. 刷新
    flush privileges;

Hive的安裝

軟件安裝

  1. 軟件下載官網(wǎng)地址

  2. 解壓安裝
    tar -zxvf apache-hive-2.1.1-bin.tar.gz ../software

環(huán)境配置

  • 新建hive-site.xml(hive的conf的目錄下)
    cp hive-default.xml.template hive-site.xml
  • 修改hive-site.xml
    ```
    在Habase的目錄下新建temp目錄
    替換hive-site.xml中的${system:java.io.tmpdir}為/usr/local/bigdata/software/hive-2.1.1/temp

      <property>
              <name>javax.jdo.option.ConnectionURL</name>
              <value>jdbc:mysql://master:3306/hive?characterEncoding=UTF-8</value>
          </property>
          <property>
              <name>javax.jdo.option.ConnectionDriverName</name>
              <value>com.mysql.jdbc.Driver</value>
          </property>
          <property>
              <name>javax.jdo.option.ConnectionUserName</name>
              <value>hive</value>
          </property>
          <property>
              <name>javax.jdo.option.ConnectionPassword</name>
              <value>hive</value>
          </property>
          <property>
              <name>datanucleus.autoCreateSchema</name>
              <value>true</value>
          </property>
          <property>
              <name>datanucleus.autoCreateTables</name>
              <value>true</value>
          </property>
          <property>
              <name>datanucleus.autoCreateColumns</name>
              <value>true</value>
          </property>
      ```
    
  • 下載MySQL連接jar
    下載mysql-connector-java-5.1.41-bin.jar到hive-2.1.1/lib下

  • 配置環(huán)境變量 /etc/profile

啟動(dòng)Hive

  1. 初始化數(shù)據(jù)庫
schematool -initSchema -dbType mysql
  1. 啟動(dòng)hiveserver2
[root@hadoop1 bin]# hiveserver2

Hive整合Hadoop

  1. 創(chuàng)建本地hive_test文件(字段使用tab分割)

    zhangshan 20
    lisi 21
    wangwu 19

  2. hdfs創(chuàng)建hive_test文件夾

    hdfs dfs -mkdir /hive_test

  3. 將本地文件導(dǎo)入到hdfs中

    hdfs dfs -copyFromLocal hive_test /hive_test

  4. 創(chuàng)建Hive表

    create table hive_test (
    name string,
    age int
    )row format delimited fields terminated by '\t' stored as textfile;

  5. hive關(guān)聯(lián)Hadoop

    load data inpath /hive_test into table hive_test;

  6. 查詢測試

    zhangshan 20
    lisi 21
    wangwu 19

Hive和HBase互通

配置

修改hive-site.xml

   <property>
      <name>hbase.zookeeper.quorum</name>
      <value>master</value>
      <description>zookeeper</description>
    </property>

    <property>
        <name>hbase.zookeeper.property.clientPort</name>
        <value>2181</value>
        <description>port</description>
    </property>

數(shù)據(jù)交互

  1. HBase新建表
create 'student','baseinfo','otherinfo'
  1. 插入數(shù)據(jù)
put 'student','1','baseinfo:name','zhangsan'
put 'student','1','baseinfo:age','21'
put 'student','1','otherinfo:hobby','sleep'
put 'student','2','baseinfo:name','lisi'
  1. 查看數(shù)據(jù)
scan 'student'
  1. Hive中新建基于HBase的表
CREATE EXTERNAL TABLE student (
rowkey string,
name string,
base map<STRING,STRING>,
other map<STRING,STRING>
) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,baseinfo:name,baseinfo:,otherinfo:")
TBLPROPERTIES ("hbase.table.name" = "student");
  1. 查詢HBase表
select * from student;

配置Hive高可用

基于zookeeper

配置hive-site.xml祈搜,新增如下配置

<property>
    <name>hive.server2.support.dynamic.service.discovery</name>
    <value>true</value>
</property>
<property>
    <name>hive.server2.zookeeper.namespace</name>
    <value>hiveserver2_zk</value>
</property>
<property>
    <name>hive.zookeeper.quorum</name>
    <value>master,slave01,slave02</value>
</property>

基于HAProxy

大家請參考鏈接基于HAProxy配置Hive HA

驗(yàn)證配置

  • 在ZooKeeper下查看是否注冊成功
    ls /hiveserver2_zk

  • 使用Hive JDBC來測試
    啟動(dòng)master和slave01的hiveserver2

    執(zhí)行beeline命令
    beeline

    連接數(shù)據(jù)庫
    !connect jdbc:hive2://master:2181,slave01:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2_zk

    //說明連接到master
    [main]: INFO jdbc.HiveConnection: Connected to master:10000
    Connected to: Apache Hive (version 2.1.1)

    kill掉master的 hiveserver2我們繼續(xù)連接數(shù)據(jù)庫,到時(shí)候會(huì)連接到slave01

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末士八,一起剝皮案震驚了整個(gè)濱河市容燕,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌婚度,老刑警劉巖蘸秘,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡醋虏,警方通過查閱死者的電腦和手機(jī)味抖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來灰粮,“玉大人仔涩,你說我怎么就攤上這事≌持郏” “怎么了熔脂?”我有些...
    開封第一講書人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長柑肴。 經(jīng)常有香客問我霞揉,道長,這世上最難降的妖魔是什么晰骑? 我笑而不...
    開封第一講書人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任适秩,我火速辦了婚禮,結(jié)果婚禮上硕舆,老公的妹妹穿的比我還像新娘秽荞。我一直安慰自己,他們只是感情好抚官,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開白布扬跋。 她就那樣靜靜地躺著,像睡著了一般凌节。 火紅的嫁衣襯著肌膚如雪钦听。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,125評(píng)論 1 297
  • 那天倍奢,我揣著相機(jī)與錄音朴上,去河邊找鬼。 笑死卒煞,一個(gè)胖子當(dāng)著我的面吹牛痪宰,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播跷坝,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼酵镜,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了柴钻?” 一聲冷哼從身側(cè)響起淮韭,我...
    開封第一講書人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎贴届,沒想到半個(gè)月后靠粪,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蜡吧,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年占键,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了昔善。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡畔乙,死狀恐怖君仆,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情牲距,我是刑警寧澤返咱,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站牍鞠,受9級(jí)特大地震影響咖摹,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜难述,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一萤晴、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧胁后,春花似錦店读、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽净宵。三九已至敲才,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間择葡,已是汗流浹背紧武。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留敏储,地道東北人阻星。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像已添,于是被迫代替她去往敵國和親妥箕。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容