hive-hbase-hdfs導數(shù)據(jù)

1.hbase數(shù)據(jù)關聯(lián)hive外部表

create external table hive_hbase_test1(id string,address string,age int,gender string,name string)

stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

with serdeproperties("hbase.columns.mapping"=":key,info:address,info:age,info:gender,info:name")

tblproperties("hbase.table.name"="hbase_table");

2.hive beeline導出到本地文件

beeline -u jdbc:hive2://192.168.21.110:2166 -d org.apache.hive.jdbc.HiveDriver --showHeader=false --outputformat=txt -e "select * from hive_hbase_test1" > f2.txt

showHeader=false 不要頭部碗旅,純凈模式

outputformat=txt 文件格式

f2.txt文件用? |? 隔開

3.本地文件上傳hdfs

hadoop fs -put /home/user/f2.txt /tmp/

4.hdfs導入hive

先創(chuàng)建表(注意指定表的數(shù)據(jù)格式)STORED AS TEXTFILE

create table test_2000(id string,collect_time string,create_time string,status string,value string)

row format delimited fields terminated by '|'

STORED AS INPUTFORMAT 'org.apache.hadoop.mapred.TextInputFormat'

OUTPUTFORMAT? 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'

load命令導入hive

beeline -u jdbc:hive2://192.168.1.110:2066 -e "load data inpath '/home/f2.txt' into table test_2000;"

hive表數(shù)據(jù)格式參考:https://blog.csdn.net/TC_HaoShuai/article/details/84303140

5.hive創(chuàng)建中間表關聯(lián)habse

CREATE TABLE hive_hbase_test_2000(id string,collect_time string,create_time string,status string,value string)

STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:address,info:age,info:gender,info:name")

TBLPROPERTIES ("hbase.table.name" = "test_2000",

"hbase.mapred.output.outputtable" = "test_2000");

6.hive原數(shù)據(jù)往hive中間表導入

insert into table hive_hbase_test_2000 select * from test_2000;

查看hbase表也有了數(shù)據(jù) scan 'test_2000' 蒸健,但是這種情況刪除外部表hbase表也會沒有

7.避免hbase表與hive強關聯(lián)

可以先創(chuàng)建hbase表

create 'test_2000','info'?

然后hive外部關聯(lián)hbase表,

CREATE external TABLE hive_hbase_test_2000(id string,collect_time string,create_time string,status string,value string)

STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:address,info:age,info:gender,info:name")

TBLPROPERTIES ("hbase.table.name" = "test_2000",

"hbase.mapred.output.outputtable" = "test_2000");

再重復步驟6

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市教藻,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌伪煤,老刑警劉巖朵诫,帶你破解...
    沈念sama閱讀 222,183評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異速侈,居然都是意外死亡率寡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,850評論 3 399
  • 文/潘曉璐 我一進店門倚搬,熙熙樓的掌柜王于貴愁眉苦臉地迎上來冶共,“玉大人,你說我怎么就攤上這事每界⊥苯” “怎么了?”我有些...
    開封第一講書人閱讀 168,766評論 0 361
  • 文/不壞的土叔 我叫張陵眨层,是天一觀的道長庙楚。 經(jīng)常有香客問我,道長趴樱,這世上最難降的妖魔是什么馒闷? 我笑而不...
    開封第一講書人閱讀 59,854評論 1 299
  • 正文 為了忘掉前任,我火速辦了婚禮伊佃,結果婚禮上窜司,老公的妹妹穿的比我還像新娘。我一直安慰自己航揉,他們只是感情好塞祈,可當我...
    茶點故事閱讀 68,871評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著帅涂,像睡著了一般议薪。 火紅的嫁衣襯著肌膚如雪尤蛮。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,457評論 1 311
  • 那天斯议,我揣著相機與錄音产捞,去河邊找鬼。 笑死哼御,一個胖子當著我的面吹牛坯临,可吹牛的內容都是我干的。 我是一名探鬼主播恋昼,決...
    沈念sama閱讀 40,999評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼看靠,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了液肌?” 一聲冷哼從身側響起挟炬,我...
    開封第一講書人閱讀 39,914評論 0 277
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎嗦哆,沒想到半個月后谤祖,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,465評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡老速,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,543評論 3 342
  • 正文 我和宋清朗相戀三年粥喜,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片烁峭。...
    茶點故事閱讀 40,675評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡容客,死狀恐怖,靈堂內的尸體忽然破棺而出约郁,到底是詐尸還是另有隱情缩挑,我是刑警寧澤,帶...
    沈念sama閱讀 36,354評論 5 351
  • 正文 年R本政府宣布鬓梅,位于F島的核電站供置,受9級特大地震影響,放射性物質發(fā)生泄漏绽快。R本人自食惡果不足惜芥丧,卻給世界環(huán)境...
    茶點故事閱讀 42,029評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望坊罢。 院中可真熱鬧续担,春花似錦、人聲如沸活孩。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,514評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至询兴,卻和暖如春乃沙,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背诗舰。 一陣腳步聲響...
    開封第一講書人閱讀 33,616評論 1 274
  • 我被黑心中介騙來泰國打工警儒, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人眶根。 一個月前我還...
    沈念sama閱讀 49,091評論 3 378
  • 正文 我出身青樓蜀铲,卻偏偏與公主長得像,于是被迫代替她去往敵國和親汛闸。 傳聞我的和親對象是個殘疾皇子蝙茶,可洞房花燭夜當晚...
    茶點故事閱讀 45,685評論 2 360

推薦閱讀更多精彩內容