Elasticsearch數(shù)據(jù)備份與恢復(fù)

簡書 溪渠
轉(zhuǎn)載請注明原創(chuàng)出處闽撤,謝謝!
如果讀完覺得有收獲的話哟旗,歡迎點贊加關(guān)注

1. 安裝elasticsearch-repository-hdfs插件

如果需要使用hdfs作為snapshot的備份地址,需要先安裝elasticsearch-repository-hdfs插件饱亮。

  • 在線安裝
    ./plugin install elasticsearch/elasticsearch-repository-hdfs/2.1.1
  • 離線安裝
    插件鏡像地址下載插件壓縮包,然后執(zhí)行
    ./plugin install file:///elasticsearch-repository-hdfs-2.2.0-rc1-hadoop2.zip

目前2.1.1版本對應(yīng)的插件無法使用近尚,要使用2.2.0-rc1版本场勤,所有節(jié)點都需要安裝該插件歼跟。
在elasticsearch.yml中配置如下保證elasticsearch可以對hdfs進行讀寫格遭。

security.manager.enabled: false

2. 配置倉庫地址

一般我們需要在Elasticsearch集群所有節(jié)點的elasticsearch.yml文件中配置數(shù)據(jù)備份的倉庫地址哈街,如下:

path.repo: ["/opt/es-snapshot-repo"]

3. 注冊倉庫

Elasticsearch支持多種倉庫注冊方式:

  • S3 repository support
  • HDFS repository support in Hadoop environments
  • Azure storage repositories
  • Google Cloud Storage repositories

1. 使用file system注冊

curl -XPUT 'http://localhost:9200/_snapshot/backup' -d 
'{
    "type": "fs",
    "settings": {
        "location": "/opt/es-snapshot-repo",
        "compress": true
    }
}'

2. 使用hdfs注冊

uri指定了HadoopNameNode地址

curl -XPUT 'http://localhost:9200/_snapshot/my_hdfs_repository' -d 
'{
  "type": "hdfs",
  "settings": {
    "uri": "hdfs://namenode:9000/",
    "path": "elasticsearch/respositories/my_hdfs_repository"
  }
}'

4. 創(chuàng)建snapshot

Elasticsearch創(chuàng)建數(shù)據(jù)快照是以index為單位進行的骚秦,可以使用缺省模式默認(rèn)創(chuàng)建所有index的副本璧微,也可以進行指定作箍。
對所有index創(chuàng)建snapshot:

curl -XPUT 'http://localhost:9200/_snapshot/backup/snapshot_1?wait_for_completion=true'

指定index創(chuàng)建snapshot:

curl -XPUT 'http://localhost:9200 /_snapshot/backup/snapshot_2' -d 
{
  "indices": "index_name1,index_name2",
  "ignore_unavailable": true,
  "include_global_state": false
}

快照創(chuàng)建時不會影響搜索查詢胞得,并且快照創(chuàng)建過程啟動后,新的數(shù)據(jù)不會被記錄到快照中阶剑,同一時刻只能有一份快照被創(chuàng)建危号。


5. 刪除snapshot

刪除指定快照

curl -XDELETE 'http://172.24.63.16:9200/_snapshot/backup/snapshot_1?pretty'

刪除整個倉庫

curl -XDELETE 'http://172.24.63.16:9200/_snapshot/backups?pretty'

刪除操作還可以終止一個正在進行的快照備份。


6. 恢復(fù)snapshot

在兩個不同的ES集群中遷移恢復(fù)數(shù)據(jù)時外莲,我們需要保證一些條件。

  • 新集群版本應(yīng)該比創(chuàng)建snapshot的集群版本更高
  • 新集群應(yīng)該有足夠的空間存儲快照中的所有index偷线,當(dāng)然也可以指定部分index恢復(fù)以適應(yīng)小集群
  • 如果舊集群中有index的shard分配到指定的節(jié)點上,那么新集群恢復(fù)時也會遵循此規(guī)則俐填,因此如果新集群不包含指定節(jié)點時,這一部分index將無法恢復(fù)

恢復(fù)指令:

curl -XPOST 'http://localhost:9200/_snapshot/backup/snapshot_1/_restore?pretty'

溪渠
2017 年 03月 13日

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末英融,一起剝皮案震驚了整個濱河市歇式,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌材失,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,816評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件笼呆,死亡現(xiàn)場離奇詭異,居然都是意外死亡诗赌,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,729評論 3 385
  • 文/潘曉璐 我一進店門洪碳,熙熙樓的掌柜王于貴愁眉苦臉地迎上來叼屠,“玉大人瞳腌,你說我怎么就攤上這事镜雨。” “怎么了冷离?”我有些...
    開封第一講書人閱讀 158,300評論 0 348
  • 文/不壞的土叔 我叫張陵纯命,是天一觀的道長。 經(jīng)常有香客問我瞭空,道長,這世上最難降的妖魔是什么咆畏? 我笑而不...
    開封第一講書人閱讀 56,780評論 1 285
  • 正文 為了忘掉前任吴裤,我火速辦了婚禮,結(jié)果婚禮上麦牺,老公的妹妹穿的比我還像新娘。我一直安慰自己剖膳,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,890評論 6 385
  • 文/花漫 我一把揭開白布甸饱。 她就那樣靜靜地躺著,像睡著了一般叹话。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上鹦肿,一...
    開封第一講書人閱讀 50,084評論 1 291
  • 那天辅柴,我揣著相機與錄音箩溃,去河邊找鬼碌嘀。 笑死,一個胖子當(dāng)著我的面吹牛股冗,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播止状,決...
    沈念sama閱讀 39,151評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼怯疤,長吁一口氣:“原來是場噩夢啊……” “哼浆洗!你這毒婦竟也來了集峦?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,912評論 0 268
  • 序言:老撾萬榮一對情侶失蹤摘昌,失蹤者是張志新(化名)和其女友劉穎高蜂,沒想到半個月后聪黎,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體备恤,經(jīng)...
    沈念sama閱讀 44,355評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,666評論 2 327
  • 正文 我和宋清朗相戀三年湘纵,在試婚紗的時候發(fā)現(xiàn)自己被綠了滤淳。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,809評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖汇歹,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情产弹,我是刑警寧澤弯囊,帶...
    沈念sama閱讀 34,504評論 4 334
  • 正文 年R本政府宣布,位于F島的核電站匾嘱,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏霎烙。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 40,150評論 3 317
  • 文/蒙蒙 一游昼、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧烘豌,春花似錦、人聲如沸扇谣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽序矩。三九已至跋破,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間毒返,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,121評論 1 267
  • 我被黑心中介騙來泰國打工劲绪, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人贾富。 一個月前我還...
    沈念sama閱讀 46,628評論 2 362
  • 正文 我出身青樓,卻偏偏與公主長得像颤枪,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子畏纲,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,724評論 2 351

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理盗胀,服務(wù)發(fā)現(xiàn)台囱,斷路器读整,智...
    卡卡羅2017閱讀 134,638評論 18 139
  • 翻譯自官網(wǎng), 水平有限强品,用于自查。轉(zhuǎn)載請注明網(wǎng)址: http://www.reibang.com/p/f53ce0...
    朱柏霖閱讀 1,248評論 0 1
  • 我們的系統(tǒng)中大部分都是時序數(shù)據(jù)的榛,一些數(shù)據(jù)被清洗后逻锐,過期的數(shù)據(jù)意義已經(jīng)不大夫晌,但是保不齊哪天需要重新清洗或者查閱歷史昧诱,...
    RomainXie閱讀 6,653評論 0 1
  • 長期運維elasticsearch時,你可能會遇到一個非常實用的需求:elasticsearch集群的存儲空間有限...
    king_wang閱讀 4,309評論 1 1
  • 楓林詩話-詩與存在 海德格爾說:“人的本質(zhì)是詩意的凶掰,人是詩意地棲息在大地上的”,又說:“人活在自己的語言中懦窘,語言是...
    柳楓林閱讀 215評論 8 7