mysql數(shù)據(jù)與Hadoop之間導(dǎo)入導(dǎo)出之Sqoop實(shí)例

前面介紹了sqoop1.4.6的如何將mysql數(shù)據(jù)導(dǎo)入Hadoop之Sqoop安裝曼月,下面就介紹兩者間的數(shù)據(jù)互通的簡單使用命令纵势。

顯示mysql數(shù)據(jù)庫的信息幔嫂,一般sqoop安裝測(cè)試用

sqoop list-databases --connect jdbc:mysql://192.168.2.101:3306/ --username root --password root

顯示數(shù)據(jù)庫里所有表:

sqoop list-tables --connectjdbc:mysql://192.168.2.101:3306/FlowDB --username root -password root

mysql導(dǎo)入到hdfs中

sqoopimport--connect jdbc:mysql://192.168.2.101:3306/FlowDB --username root --password root --table WorkTable --fields-terminated-by'\t'-m 1

sqoop ##sqoop命令

import ##表示導(dǎo)入

--connect jdbc:mysql://ip:3306/sqoop ##告訴jdbc纱昧,連接mysql的url

--username root ##連接mysql的用戶名

--password admin ##連接mysql的密碼

--table aa ##從mysql導(dǎo)出的表名稱

--fields-terminated-by '\t' ##指定輸出文件中的行的字段分隔符

--target-dir/user/hadoop/databases/ssa/fin_cashier_order

-m 1 ##復(fù)制過程使用1個(gè)map作業(yè)

若是不寫--target-dir 則默認(rèn)是hdfs上的user/username/tablename 路徑

如果重復(fù)執(zhí)行,會(huì)提示目錄已經(jīng)存在,可以手動(dòng)刪除

該命令執(zhí)行結(jié)束后侣灶,觀察hdfs的目錄/user/{USER_NAME}习霹,下面會(huì)有一個(gè)文件夾是aa,里面有個(gè)文件是part-m-00000炫隶。該文件的內(nèi)容就是數(shù)據(jù)表aa的內(nèi)容淋叶,字段之間是使用制表符分割的。

查看HDFS上的文件

hadoop fs -cat /user/jzyc/WorkTable/part-m-00000

hdfs導(dǎo)出到mysql中

把上一步導(dǎo)入到hdfs的數(shù)據(jù)導(dǎo)出到mysql中伪阶。我們已知使用制表符分隔的煞檩。那么,我們現(xiàn)在數(shù)據(jù)庫FlowDB中創(chuàng)建一個(gè)數(shù)據(jù)表叫做WorkTable_hdfs栅贴,里面有兩個(gè)字段斟湃。然后執(zhí)行下面的命令

sqoop export --connect jdbc:mysql://192.168.2.101:3306/FlowDB --table WorkTable_hdfs --username root --password root --export-dir /user/jzyc/WorkTable/ --input-fields-terminated-by'\t'

sqoop導(dǎo)入視圖到hdfs

sqoopimport--connect jdbc:mysql://192.168.2.101:3306/FlowDB --username root --password root--query'SELECT * FROM view_WorkTable WHERE \$CONDITIONS'-m 1 target-dir /user/jzyc/WorkTable --delete-target-dir --fields-terminated-by","

將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫導(dǎo)入文件到hive表中,--query 語句使用

sqoopimport--append --connect jdbc:mysql://192.168.2.101:3306/FlowDB --username root --password root --query"SELECT ID,Classify,Name,ModelType,CreateDate,CreateUserID,DesignJSON,Status from WorkTable where \$CONDITIONS"-m 1 --target-dir /hive/warehouse/WorkTable --fields-terminated-by","

將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫導(dǎo)入文件到hive表中檐薯,--columns --where 語句使用

sqoopimport--append --connect jdbc:mysql://192.168.2.101:3306/FlowDB --username root --password root --table WorkTable --columns"ID,Classify,Name,ModelType,CreateDate,CreateUserID"--where"Classify = 1"-m 1 --target-dir /hive/warehouse/WorkTable2 --fields-terminated-by","

注意:--target-dir/hive/warehouse/WorkTable2 可以用 --hive-import --hive-table WorkTable2 進(jìn)行替換

從上面的信息可以看到sqoop還是走的hadoop的M/R引擎凝赛。

以上只是一些經(jīng)過驗(yàn)證通過的簡單的示例,更復(fù)雜的有待后續(xù)補(bǔ)充坛缕。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末墓猎,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子赚楚,更是在濱河造成了極大的恐慌毙沾,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,548評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件宠页,死亡現(xiàn)場(chǎng)離奇詭異左胞,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)举户,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門烤宙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人俭嘁,你說我怎么就攤上這事躺枕。” “怎么了兄淫?”我有些...
    開封第一講書人閱讀 167,990評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵屯远,是天一觀的道長蔓姚。 經(jīng)常有香客問我捕虽,道長,這世上最難降的妖魔是什么坡脐? 我笑而不...
    開封第一講書人閱讀 59,618評(píng)論 1 296
  • 正文 為了忘掉前任泄私,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘晌端。我一直安慰自己捅暴,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,618評(píng)論 6 397
  • 文/花漫 我一把揭開白布咧纠。 她就那樣靜靜地躺著蓬痒,像睡著了一般。 火紅的嫁衣襯著肌膚如雪漆羔。 梳的紋絲不亂的頭發(fā)上梧奢,一...
    開封第一講書人閱讀 52,246評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音演痒,去河邊找鬼亲轨。 笑死,一個(gè)胖子當(dāng)著我的面吹牛鸟顺,可吹牛的內(nèi)容都是我干的惦蚊。 我是一名探鬼主播,決...
    沈念sama閱讀 40,819評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼讯嫂,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼蹦锋!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起欧芽,我...
    開封第一講書人閱讀 39,725評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤晕粪,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后渐裸,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體巫湘,經(jīng)...
    沈念sama閱讀 46,268評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,356評(píng)論 3 340
  • 正文 我和宋清朗相戀三年昏鹃,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了尚氛。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,488評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡洞渤,死狀恐怖阅嘶,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情载迄,我是刑警寧澤讯柔,帶...
    沈念sama閱讀 36,181評(píng)論 5 350
  • 正文 年R本政府宣布,位于F島的核電站护昧,受9級(jí)特大地震影響魂迄,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜惋耙,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,862評(píng)論 3 333
  • 文/蒙蒙 一捣炬、第九天 我趴在偏房一處隱蔽的房頂上張望熊昌。 院中可真熱鬧,春花似錦湿酸、人聲如沸婿屹。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽昂利。三九已至,卻和暖如春铁坎,著一層夾襖步出監(jiān)牢的瞬間页眯,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評(píng)論 1 272
  • 我被黑心中介騙來泰國打工厢呵, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留窝撵,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,897評(píng)論 3 376
  • 正文 我出身青樓襟铭,卻偏偏與公主長得像碌奉,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子寒砖,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,500評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容