sqoop的使用筆記

一、將數(shù)據(jù)從mysql導(dǎo)入到hdfs上庸毫。

sqoop import /
--connect jdbc:mysql://10.110.22.238/test_sqoop / # mysql數(shù)據(jù)庫所在得到節(jié)點(diǎn)ip及數(shù)據(jù)庫名
--username root / # 數(shù)據(jù)庫用戶名
--password bigdata / # 數(shù)據(jù)庫密碼
--table books / # 所要導(dǎo)出數(shù)據(jù)的表名
--target-dir /user/root/user_data / # 指定導(dǎo)入到hdfs上的哪個(gè)路徑范舀,sqoop自動(dòng)創(chuàng)建此目錄
--columns "stud_id,stud_name" / # 抽取數(shù)據(jù)表中的指定列
--m 1

命令

  • 結(jié)果出現(xiàn)錯(cuò)誤:
    ERROR tool.ImportTool: Error during import: No primary key could be found for table books. Please specify one with --split-by or perform a sequential import with '-m 1'.
錯(cuò)誤
  • 結(jié)果還是有錯(cuò)誤:
    ERROR tool.ImportTool: Encountered IOException running import job: org.apache.hadoop.security.AccessControlException: Permission denied: user=root, access=WRITE, inode="/user/root/.staging":hdfs:hdfs:drwxr-xr-x

原來是在hdfs下沒有/user/root這個(gè)目錄合是,自己新建目錄,并且必須將此目錄的所屬用戶和用戶組設(shè)為root:root锭环。
hadoop fs -mkdir /user/root
hadoop fs -chown -R root:root /user/root
修改完后在執(zhí)行即可成功聪全。

導(dǎo)入到hdfs上的數(shù)據(jù)
mysql中的數(shù)據(jù)

二、將mysql中的數(shù)據(jù)導(dǎo)入到Hive中

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末辅辩,一起剝皮案震驚了整個(gè)濱河市难礼,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌玫锋,老刑警劉巖蛾茉,帶你破解...
    沈念sama閱讀 217,826評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異撩鹿,居然都是意外死亡谦炬,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,968評論 3 395
  • 文/潘曉璐 我一進(jìn)店門节沦,熙熙樓的掌柜王于貴愁眉苦臉地迎上來吧寺,“玉大人窜管,你說我怎么就攤上這事≈苫” “怎么了幕帆?”我有些...
    開封第一講書人閱讀 164,234評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長赖条。 經(jīng)常有香客問我失乾,道長,這世上最難降的妖魔是什么纬乍? 我笑而不...
    開封第一講書人閱讀 58,562評論 1 293
  • 正文 為了忘掉前任碱茁,我火速辦了婚禮,結(jié)果婚禮上仿贬,老公的妹妹穿的比我還像新娘纽竣。我一直安慰自己,他們只是感情好茧泪,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,611評論 6 392
  • 文/花漫 我一把揭開白布蜓氨。 她就那樣靜靜地躺著,像睡著了一般队伟。 火紅的嫁衣襯著肌膚如雪穴吹。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,482評論 1 302
  • 那天嗜侮,我揣著相機(jī)與錄音港令,去河邊找鬼。 笑死锈颗,一個(gè)胖子當(dāng)著我的面吹牛顷霹,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播击吱,決...
    沈念sama閱讀 40,271評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼淋淀,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了姨拥?” 一聲冷哼從身側(cè)響起绅喉,我...
    開封第一講書人閱讀 39,166評論 0 276
  • 序言:老撾萬榮一對情侶失蹤渠鸽,失蹤者是張志新(化名)和其女友劉穎叫乌,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體徽缚,經(jīng)...
    沈念sama閱讀 45,608評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡憨奸,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,814評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了凿试。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片排宰。...
    茶點(diǎn)故事閱讀 39,926評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡似芝,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出板甘,到底是詐尸還是另有隱情党瓮,我是刑警寧澤,帶...
    沈念sama閱讀 35,644評論 5 346
  • 正文 年R本政府宣布盐类,位于F島的核電站寞奸,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏在跳。R本人自食惡果不足惜枪萄,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,249評論 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望猫妙。 院中可真熱鬧瓷翻,春花似錦、人聲如沸割坠。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,866評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽韭脊。三九已至童谒,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間沪羔,已是汗流浹背饥伊。 一陣腳步聲響...
    開封第一講書人閱讀 32,991評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蔫饰,地道東北人琅豆。 一個(gè)月前我還...
    沈念sama閱讀 48,063評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像篓吁,于是被迫代替她去往敵國和親茫因。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,871評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 1/列出mysql數(shù)據(jù)庫中的所有數(shù)據(jù)庫sqoop list-databases -connect jdbc:mys...
    時(shí)待吾閱讀 2,739評論 1 5
  • 1/列出mysql數(shù)據(jù)庫中的所有數(shù)據(jù)庫sqoop list-databases -connect jdbc:mys...
    時(shí)待吾閱讀 1,350評論 0 0
  • 【MySQL】Linux下MySQL 5.5洛巢、5.6和5.7的RPM、二進(jìn)制和源碼安裝 1.1BLOG文檔結(jié)構(gòu)圖 ...
    小麥苗DB寶閱讀 10,546評論 0 31
  • [TOC] 最近在研究數(shù)據(jù)采集相關(guān)的知識次兆,需要用到Sqoop把關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)導(dǎo)入到Hive里稿茉,這里記錄下自己的...
    納尼2號閱讀 19,053評論 11 23
  • 那年我剛從蘇州回了家,毅然決然的離開本來就不向往的生活。 即將過年漓库,無視父親催促我找工作的耳邊風(fēng)恃慧,那個(gè)月我每天插著...
    小月半子1988閱讀 221評論 0 1