Centos7 安裝HIve&MySql&配置Hive運行引擎Tez

安裝Hive

1.將 apache-hive-1.2.1-bin.tar.gz 解壓到指定的目錄嗽元,修改其名稱為hive。修改hive配置文件名稱hive-env.sh.template名稱為hive-env.sh掠兄,mv hive-env.sh.template hive-env.sh

2.配置hive-env.sh文件:配置HADOOP_HOME路徑像云,配置HIVE_CONF_DIR路徑

3.啟動Hive前,要確保Hadoop以啟動

4.基本操作:啟動hive?bin/hive蚂夕,查看數(shù)據(jù)庫show databases;?打開默認(rèn)數(shù)據(jù)庫?use default;?顯示default數(shù)據(jù)庫中的表?show tables;?顯示數(shù)據(jù)庫中有幾張表??show tables;?查看表的結(jié)構(gòu)?desc student;?創(chuàng)建一張表?create table student(id int, name string);?向表中插入數(shù)據(jù)??insert into student values(1000,"ss");?查詢表中數(shù)據(jù)?select * from student;?退出hive?quit;

MySql安裝

1. 切換為root賬戶 ,查看mysql是否安裝迅诬,如果安裝了,卸載mysql

2.如果為安裝婿牍,在安裝前要先卸載MariaDB數(shù)據(jù)庫侈贷,安裝mysql,列出所有被安裝的rpm package 等脂,rpm -qa | grep mariadb俏蛮,強(qiáng)制卸載rpm -e --nodeps + 名稱。

3.安裝MySql服務(wù)器?rpm -ivh MySQL-server-5.6.24-1.el6.x86_64.rpm

查看產(chǎn)生的隨機(jī)密碼?cat /root/.mysql_secret ,查看mysql狀態(tài)?service mysql status,啟動mysql?service mysql start

4.安裝MySql客戶端?rpm -ivh MySQL-client-5.6.24-1.el6.x86_64.rpm,鏈接mysql??mysql -uroot -p + 之前產(chǎn)生的隨機(jī)密碼慎菲,修改密碼SET PASSWORD=PASSWORD(‘xxxxxx’)嫁蛇;退出mysql exit

5.MySql中user表中主機(jī)配置锨并,配置只要是root用戶+密碼露该,在任何主機(jī)上都能登錄MySQL數(shù)據(jù)庫。

1.進(jìn)入mysql?mysql -uroot -p 密碼第煮,2.顯示數(shù)據(jù)庫?show databases;?3.使用mysql數(shù)據(jù)庫?use mysql;4.展示mysql數(shù)據(jù)庫中的所有表?show tables; 5.展示user表的結(jié)構(gòu)?desc user; 6.查詢user表?select User, Host, Password from user;7.修改user表解幼,把Host表內(nèi)容修改為%?update user set host='%' where host='localhost';?8.刪除root用戶的其他host?delete from user where Host='';?delete from user where Host='';delete from user where Host='';9.刷新flush privileges;10.退出?quit;

6.Hive元數(shù)據(jù)配置到MySql

解壓驅(qū)動包抑党,將驅(qū)動包拷貝到hive的lib目錄下,將root賬號退出撵摆,修改驅(qū)動包的所有者為用戶

7.配置Metastore到MySql底靠,在conf目錄下,創(chuàng)建vi hive-site.xml特铝,根據(jù)官方文檔配置參數(shù)暑中,拷貝數(shù)據(jù)到hive-site.xml文件中hive-site?官方文檔地址,

內(nèi)容如下:

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>

<property>

??<name>javax.jdo.option.ConnectionURL</name>

??<value>jdbc:mysql://主機(jī)名稱:端口號/metastore?createDatabaseIfNotExist=true</value>

??<description>JDBC connect string for a JDBC metastore</description>

</property>


<property>

??<name>javax.jdo.option.ConnectionDriverName</name>

??<value>com.mysql.jdbc.Driver</value>

??<description>Driver class name for a JDBC metastore</description>

</property>


<property>

??<name>javax.jdo.option.ConnectionUserName</name>

??<value>MySQL賬號</value>

??<description>username to use against metastore database</description>

</property>


<property>

??<name>javax.jdo.option.ConnectionPassword</name>

??<value>MySQL密碼</value>

??<description>password to use against metastore database</description>

</property>

</configuration>

配置完畢后鲫剿,如果啟動hive異常鳄逾,可以重新啟動虛擬機(jī)。(重啟后灵莲,別忘了啟動hadoop集群)

8.查詢后信息顯示配置?在hive-site.xml文件中添加如下配置信息雕凹,就可以實現(xiàn)顯示當(dāng)前數(shù)據(jù)庫,以及查詢表的頭信息配置政冻。<property>

<name>hive.cli.print.header</name>

<value>true</value>

</property>


<property>

<name>hive.cli.print.current.db</name>

<value>true</value>

</property>

修改hive-site.xml?關(guān)閉元數(shù)據(jù)檢查?增加如下配置:

<property>

????<name>hive.metastore.schema.verification</name>

????<value>false</value>

</property>

3.Hive運行引擎Tez


1.解壓縮apache-tez-0.9.1-bin.tar.gz枚抵,修改名稱?mv apache-tez-0.9.1-bin/ tez-0.9.1

2.在Hive中配置Tez, 在hive-env.sh文件中添加tez環(huán)境變量配置和依賴包環(huán)境變量配置

# Set HADOOP_HOME to point to a specific hadoop install directory

export HADOOP_HOME=hadoop 安裝目錄

# Hive Configuration Directory can be controlled by:

export HIVE_CONF_DIR=hive conf目錄

# Folder containing extra libraries required for hive compilation/execution can be controlled by:

export TEZ_HOME= #是你的tez的解壓目錄

export TEZ_JARS=""

for jar in `ls $TEZ_HOME |grep jar`; do

????export TEZ_JARS=$TEZ_JARS:$TEZ_HOME/$jar

done

for jar in `ls $TEZ_HOME/lib`; do

????export TEZ_JARS=$TEZ_JARS:$TEZ_HOME/lib/$jar

done


export HIVE_AUX_JARS_PATH=hadoop目錄common包中的lzojar包 位置$TEZ_JARS

3.在hive-site.xml文件中添加如下配置明场,更改hive計算引擎

<property>

????<name>hive.execution.engine</name>

????<value>tez</value>

</property>

4.配置Tez,在Hive的Conf目錄下汽摹,創(chuàng)建一個tez-site.xml文件,添加如下內(nèi)容

<?xml version="1.0" encoding="UTF-8"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>

<property>

<name>tez.lib.uris</name> ???<value>${fs.defaultFS}/tez/tez-0.9.1,${fs.defaultFS}/tez/tez-0.9.1/lib</value>

</property>

<property>

<name>tez.lib.uris.classpath</name> ??? <value>${fs.defaultFS}/tez/tez-0.9.1,${fs.defaultFS}/tez/tez-0.9.1/lib</value>

</property>

<property>

?????<name>tez.use.cluster.hadoop-libs</name>

?????<value>true</value>

</property>

<property>

?????<name>tez.history.logging.service.class</name> ???????<value>org.apache.tez.dag.history.logging.ats.ATSHistoryLoggingService</value>

</property>

</configuration>

5.上傳Tez集群

6.測試苦锨,啟動Hive竖慧,創(chuàng)建表,向表中插入數(shù)據(jù)逆屡,如果沒有報錯圾旨,就表示成功了,如果報

The NodeManager is killing your container. It sounds like you are trying to use hadoop streaming which is running as a child process of the map-reduce task. The NodeManager monitors the entire process tree of the task and if it eats up more memory than the maximum set in mapreduce.map.memory.mb or mapreduce.reduce.memory.mb respectively, we would expect the Nodemanager to kill the task, otherwise your task is stealing memory belonging to other containers, which you don't want.

解決方法:修改 hadoop - yarn-site.xml?

property>

<name>yarn.nodemanager.vmem-check-enabled</name>

<value>false</value>

</property>

關(guān)掉虛擬內(nèi)存檢查魏蔗。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末砍的,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子莺治,更是在濱河造成了極大的恐慌廓鞠,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件谣旁,死亡現(xiàn)場離奇詭異床佳,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)榄审,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進(jìn)店門砌们,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事浪感∥敉罚” “怎么了?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵影兽,是天一觀的道長揭斧。 經(jīng)常有香客問我,道長峻堰,這世上最難降的妖魔是什么讹开? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮捐名,結(jié)果婚禮上萧吠,老公的妹妹穿的比我還像新娘。我一直安慰自己桐筏,他們只是感情好纸型,可當(dāng)我...
    茶點故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著梅忌,像睡著了一般狰腌。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上牧氮,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天琼腔,我揣著相機(jī)與錄音,去河邊找鬼踱葛。 笑死丹莲,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的尸诽。 我是一名探鬼主播甥材,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼性含!你這毒婦竟也來了洲赵?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤商蕴,失蹤者是張志新(化名)和其女友劉穎叠萍,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體绪商,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡苛谷,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了格郁。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片腹殿。...
    茶點故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡独悴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出赫蛇,到底是詐尸還是另有隱情,我是刑警寧澤雾叭,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布悟耘,位于F島的核電站,受9級特大地震影響织狐,放射性物質(zhì)發(fā)生泄漏暂幼。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一移迫、第九天 我趴在偏房一處隱蔽的房頂上張望旺嬉。 院中可真熱鬧,春花似錦厨埋、人聲如沸邪媳。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽雨效。三九已至,卻和暖如春废赞,著一層夾襖步出監(jiān)牢的瞬間徽龟,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工唉地, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留据悔,地道東北人。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓耘沼,卻偏偏與公主長得像极颓,于是被迫代替她去往敵國和親群嗤。 傳聞我的和親對象是個殘疾皇子讼昆,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,901評論 2 355

推薦閱讀更多精彩內(nèi)容

  • HIVE是一個基于Hadoop的數(shù)據(jù)倉庫,適用于一些高延遲性的應(yīng)用骚烧。如果對延遲性要求比較高浸赫,則可以選擇Hbase。...
    夏無憂陽閱讀 5,043評論 0 12
  • 首先赃绊,要明確spark on hive和hive on spark 的區(qū)別既峡。 --spark on hive:是s...
    鐵蟲_bcde閱讀 1,019評論 0 0
  • 介紹 Hive是運行在Hadoop之上的數(shù)據(jù)倉庫,將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表碧查,提供簡單類SQL查詢語言运敢,...
    syncwt閱讀 4,722評論 0 7
  • 一校仑、Hive簡介 什么是HiveHive是基于Hadoop的一個數(shù)據(jù)倉庫工具,可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)...
    鵝鵝鵝_閱讀 2,250評論 0 4
  • 一传惠、Hive概述 HIve是什么迄沫?為什么要使用hive?對于一個初步接觸hive的初學(xué)者卦方,這些都是迷惑的羊瘩,因此本文...
    不清不慎閱讀 803評論 0 4