[Elasticsearch實(shí)戰(zhàn)] snapshot restore 備份還原

長(zhǎng)期運(yùn)維elasticsearch時(shí),你可能會(huì)遇到一個(gè)非常實(shí)用的需求:elasticsearch集群的存儲(chǔ)空間有限混移,而每天都有海量的日志數(shù)據(jù)流入集群中。但是舊數(shù)據(jù)往往使用頻率極低印荔,那么是不是可以定期將過(guò)期數(shù)據(jù)從集群中移除械哟,當(dāng)必須要使用的時(shí)候再移入。

一般使用Elasticsearch的公司都有hadoop集群怜森,那么我們可以這么做:把 Elasticsearch 索引數(shù)據(jù)轉(zhuǎn)移到 HDFS 上速挑,以解決 Elasticsearch 上的磁盤空間;而在我們需要的時(shí)候副硅,又可以從 HDFS 上把索引恢復(fù)回來(lái)繼續(xù)使用姥宝。

我們可以利用snapshot/restore兩個(gè)api做到這一點(diǎn)。注:如果想使用HDFS作為快照的存儲(chǔ)介質(zhì)恐疲,必須事先安裝repository-hdfs插件(官方還提供了S3,HDFS,Azure,GoogleCloudStorage對(duì)應(yīng)插件)

sudo bin/elasticsearch-plugin install repository-hdfs

或者離線安裝
https://artifacts.elastic.co/downloads/elasticsearch-plugins/repository-hdfs/repository-hdfs-5.4.1.zip

創(chuàng)建repository

curl -XPUT 'localhost:9200/_snapshot/hdfs_repository' -d 
'{
  "type": "hdfs",
  "settings": {
    "uri": "hdfs://172.168.1.39:8020/",
    "path": "elasticsearch/122_123_es-test"
  }
}'

如果遇到問(wèn)題你可以看我的文章:[ElasticSearch填坑]創(chuàng)建hdfs repository: Permission Denied

創(chuàng)建snapshot

curl -XPUT 'localhost:9200/_snapshot/hdfs_repository/snapshot_1' -d 
'{
  "indices": "logs-181998",
  "ignore_unavailable": true,
  "include_global_state": false
}'

"ignore_unavailable": true忽略有問(wèn)題的shard腊满,"include_global_state": false快照里不放入集群global信息。

如果遇到問(wèn)題你可以看我的文章:[ElasticSearch填坑]創(chuàng)建Snapshot: SecurityException

還原restore

curl -XPUT 'localhost:9200/_snapshot/hdfs_repository/snapshot_1/_restore' -d 
'{
  "indices": "logs-181998",
  "ignore_unavailable": true,
  "include_global_state": false,
  "rename_pattern": "logs(.+)",
  "rename_replacement": "restored_logs$1"
}'

rename_patternrename_replacement用于重命名index培己,因?yàn)闊o(wú)法將index還原到open的index碳蛋。

如果你想更深入的了解snapshot,可以看我的文章[Elasticsearch實(shí)戰(zhàn)]snapshot 探索

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末省咨,一起剝皮案震驚了整個(gè)濱河市肃弟,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌茸炒,老刑警劉巖愕乎,帶你破解...
    沈念sama閱讀 211,817評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異壁公,居然都是意外死亡感论,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,329評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門紊册,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)比肄,“玉大人快耿,你說(shuō)我怎么就攤上這事》技ǎ” “怎么了掀亥?”我有些...
    開(kāi)封第一講書(shū)人閱讀 157,354評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)妥色。 經(jīng)常有香客問(wèn)我搪花,道長(zhǎng),這世上最難降的妖魔是什么嘹害? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,498評(píng)論 1 284
  • 正文 為了忘掉前任撮竿,我火速辦了婚禮,結(jié)果婚禮上笔呀,老公的妹妹穿的比我還像新娘幢踏。我一直安慰自己,他們只是感情好许师,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,600評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布房蝉。 她就那樣靜靜地躺著,像睡著了一般微渠。 火紅的嫁衣襯著肌膚如雪搭幻。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,829評(píng)論 1 290
  • 那天敛助,我揣著相機(jī)與錄音粗卜,去河邊找鬼。 笑死纳击,一個(gè)胖子當(dāng)著我的面吹牛续扔,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播焕数,決...
    沈念sama閱讀 38,979評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼纱昧,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了堡赔?” 一聲冷哼從身側(cè)響起识脆,我...
    開(kāi)封第一講書(shū)人閱讀 37,722評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎善已,沒(méi)想到半個(gè)月后灼捂,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,189評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡换团,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,519評(píng)論 2 327
  • 正文 我和宋清朗相戀三年悉稠,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片艘包。...
    茶點(diǎn)故事閱讀 38,654評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡的猛,死狀恐怖耀盗,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情卦尊,我是刑警寧澤叛拷,帶...
    沈念sama閱讀 34,329評(píng)論 4 330
  • 正文 年R本政府宣布,位于F島的核電站岂却,受9級(jí)特大地震影響忿薇,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜躏哩,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,940評(píng)論 3 313
  • 文/蒙蒙 一煌恢、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧震庭,春花似錦、人聲如沸你雌。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,762評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)婿崭。三九已至拨拓,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間氓栈,已是汗流浹背渣磷。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,993評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留授瘦,地道東北人醋界。 一個(gè)月前我還...
    沈念sama閱讀 46,382評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像提完,于是被迫代替她去往敵國(guó)和親形纺。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,543評(píng)論 2 349

推薦閱讀更多精彩內(nèi)容

  • 翻譯自官網(wǎng)徒欣, 水平有限逐样,用于自查。轉(zhuǎn)載請(qǐng)注明網(wǎng)址: http://www.reibang.com/p/f53ce0...
    朱柏霖閱讀 1,246評(píng)論 0 1
  • 我們的系統(tǒng)中大部分都是時(shí)序數(shù)據(jù)打肝,一些數(shù)據(jù)被清洗后脂新,過(guò)期的數(shù)據(jù)意義已經(jīng)不大,但是保不齊哪天需要重新清洗或者查閱歷史粗梭,...
    RomainXie閱讀 6,652評(píng)論 0 1
  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理争便,服務(wù)發(fā)現(xiàn),斷路器楼吃,智...
    卡卡羅2017閱讀 134,633評(píng)論 18 139
  • Elasticsearch文檔里對(duì)于snapshot有如下描述:The index snapshot proces...
    king_wang閱讀 4,176評(píng)論 3 1
  • 獨(dú)奏者的Secret閱讀 250評(píng)論 0 1