elasticdump實(shí)現(xiàn)es數(shù)據(jù)導(dǎo)入導(dǎo)出

1. elasticdump 安裝

  • npm 安裝
  • docker 安裝
    docker pull taskrabbit/elasticsearch-dump
    

2.elasticdump 使用

elasticdump提供了多種導(dǎo)入導(dǎo)出數(shù)據(jù)的方式,可以 index <-> index 咏删、 index <-> .json 文件游桩,還支持將 index 查詢結(jié)果導(dǎo)出到 .json 文件皆串。執(zhí)行的命令也很簡單针姿,只需指定數(shù)據(jù)來源 input 、數(shù)據(jù)輸出 output 斥滤、數(shù)據(jù)類型 type 即可谍椅。

2.1 支持導(dǎo)入導(dǎo)出的type列表

type 說明
settings 對應(yīng) es 中的 settings
analyzer 對應(yīng) es 中的 analyzer
data es 查詢出來的數(shù)據(jù)
mapping 對應(yīng) es 中的 mapping
alias 對應(yīng) es 中的 alias
template 對應(yīng) es 中的 template

2.2 es數(shù)據(jù)的導(dǎo)入導(dǎo)出

2.2.1 導(dǎo)入導(dǎo)出命令

  • 導(dǎo)出數(shù)據(jù)到 .json 文件:
// 導(dǎo)出 index 的 mapping 到 .json 文件
elasticdump \
  --input=http://production.es.com:9200/my_index \
  --output=/data/my_index_mapping.json \
  --type=mapping
// 導(dǎo)出 index 的所有數(shù)據(jù)到 .json 文件
elasticdump \
  --input=http://production.es.com:9200/my_index \
  --output=/data/my_index.json \
  --type=data
  • 從.json文件導(dǎo)入數(shù)據(jù)
// 從 .json 文件導(dǎo)入 templates 到 ES 
elasticdump \
  --input=./templates.json \
  --output=http://es.com:9200 \
  --type=template

2.2.2 導(dǎo)入導(dǎo)出示例

a.導(dǎo)出 index 數(shù)據(jù)到 .json 文件

  • 導(dǎo)出命令:
docker run --rm -ti -v /Users/root/mnt/elasticsearch/data:/tmp taskrabbit/elasticsearch-dump \
--input=http://your's ip:9200/my_index_log \
--output=/tmp/my_index.json \
--type=data
  • 執(zhí)行結(jié)果:
Thu, 26 Dec 2019 08:32:45 GMT | starting dump
Thu, 26 Dec 2019 08:32:45 GMT | got 1 objects from source elasticsearch (offset: 0)
Thu, 26 Dec 2019 08:32:45 GMT | sent 1 objects to destination file, wrote 1
Thu, 26 Dec 2019 08:32:45 GMT | got 0 objects from source elasticsearch (offset: 1)
Thu, 26 Dec 2019 08:32:45 GMT | Total Writes: 1
Thu, 26 Dec 2019 08:32:45 GMT | dump complete

b.導(dǎo)入 .json 文件中的數(shù)據(jù)到 es

  • 導(dǎo)入命令:
docker run --rm -ti -v /Users/root:/tmp taskrabbit/elasticsearch-dump \
> --input=/tmp/Desktop/my_index.json \
> --output=http://your's ip:9200/my_index_log \
> --type=data
  • 執(zhí)行結(jié)果:
Thu, 26 Dec 2019 08:57:29 GMT | starting dump
Thu, 26 Dec 2019 08:57:34 GMT | got 100 objects from source file (offset: 0)
Thu, 26 Dec 2019 08:57:35 GMT | sent 100 objects to destination elasticsearch, wrote 100
Thu, 26 Dec 2019 08:57:35 GMT | got 2 objects from source file (offset: 100)
Thu, 26 Dec 2019 08:57:35 GMT | sent 2 objects to destination elasticsearch, wrote 2
Thu, 26 Dec 2019 08:57:35 GMT | got 0 objects from source file (offset: 102)
Thu, 26 Dec 2019 08:57:35 GMT | Total Writes: 102
Thu, 26 Dec 2019 08:57:35 GMT | dump complete

在導(dǎo)入數(shù)據(jù)前可以先把測試用的index數(shù)據(jù)清空

  • 清空es index 數(shù)據(jù)
curl -X POST \
  'http://localhost:9200/my_index_log/_delete_by_query?refresh=&slices=100&pretty=true' \
  -H 'Content-Type: application/json' \
  -d '{ "query": { "match_all": {} } }'

3.注意

  • docker 執(zhí)行 elasticdump 導(dǎo)入導(dǎo)出文件的文件共享問題
    在 docker 中執(zhí)行 elasticdump 進(jìn)行數(shù)據(jù)導(dǎo)入導(dǎo)出時(shí),需要考慮宿主機(jī)之間文件共享的問題界赔,在 run elasticdump 用 -v 指定共享文件的位置
  • Error: connect ECONNREFUSED 127.0.0.1:9200
    在docker中執(zhí)行elasticdump丢习,訪問本機(jī) es 注意不能用 127.0.0.1 或 localhost ,要用機(jī)器IP哦淮悼!

參考文檔

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末咐低,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子袜腥,更是在濱河造成了極大的恐慌见擦,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,692評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件羹令,死亡現(xiàn)場離奇詭異鲤屡,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)福侈,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評論 3 392
  • 文/潘曉璐 我一進(jìn)店門酒来,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人癌刽,你說我怎么就攤上這事役首〕⒇ぃ” “怎么了?”我有些...
    開封第一講書人閱讀 162,995評論 0 353
  • 文/不壞的土叔 我叫張陵衡奥,是天一觀的道長爹袁。 經(jīng)常有香客問我,道長矮固,這世上最難降的妖魔是什么失息? 我笑而不...
    開封第一講書人閱讀 58,223評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮档址,結(jié)果婚禮上盹兢,老公的妹妹穿的比我還像新娘。我一直安慰自己守伸,他們只是感情好绎秒,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,245評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著尼摹,像睡著了一般见芹。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上蠢涝,一...
    開封第一講書人閱讀 51,208評論 1 299
  • 那天玄呛,我揣著相機(jī)與錄音,去河邊找鬼和二。 笑死徘铝,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的惯吕。 我是一名探鬼主播惕它,決...
    沈念sama閱讀 40,091評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼混埠!你這毒婦竟也來了怠缸?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,929評論 0 274
  • 序言:老撾萬榮一對情侶失蹤钳宪,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后扳炬,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體吏颖,經(jīng)...
    沈念sama閱讀 45,346評論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,570評論 2 333
  • 正文 我和宋清朗相戀三年恨樟,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了半醉。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,739評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡劝术,死狀恐怖缩多,靈堂內(nèi)的尸體忽然破棺而出呆奕,到底是詐尸還是另有隱情,我是刑警寧澤衬吆,帶...
    沈念sama閱讀 35,437評論 5 344
  • 正文 年R本政府宣布梁钾,位于F島的核電站,受9級特大地震影響逊抡,放射性物質(zhì)發(fā)生泄漏姆泻。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,037評論 3 326
  • 文/蒙蒙 一冒嫡、第九天 我趴在偏房一處隱蔽的房頂上張望拇勃。 院中可真熱鬧,春花似錦孝凌、人聲如沸方咆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽峻呛。三九已至,卻和暖如春辜窑,著一層夾襖步出監(jiān)牢的瞬間钩述,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評論 1 269
  • 我被黑心中介騙來泰國打工穆碎, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留牙勘,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,760評論 2 369
  • 正文 我出身青樓所禀,卻偏偏與公主長得像方面,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子色徘,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,647評論 2 354

推薦閱讀更多精彩內(nèi)容