Redis 遷移至AWS ElasticElastiCache

場(chǎng)景描述

在云之間進(jìn)行遷移掷酗,對(duì)于Ali ECS to AWS EC2胡岔、Ali RDS to AWS RDS/Aurora遷移相對(duì)都比較簡(jiǎn)單摄乒,可以使用自動(dòng)化工具進(jìn)行遷移漓穿;
對(duì)于Redis遷移主要考慮數(shù)據(jù)是否持久化和安全訪(fǎng)問(wèn)的問(wèn)題嗤军,AWS Redis是允許內(nèi)網(wǎng)訪(fǎng)問(wèn),如果需要Office網(wǎng)絡(luò)連接AWS ElastiCache Redis晃危,需要借用SD-WAN或?qū)>€(xiàn)進(jìn)行組網(wǎng)叙赚。

Redis遷移

1.離線(xiàn)遷移(Redis-shake)
2.在線(xiàn)遷移(DTS、Redis-shake)

Redis 離線(xiàn)遷移

源Redis的版本為2.8僚饭、3.0震叮、3.2、4.0或5.0版本鳍鸵。(2.8的版本需先遷移至4.0版本)
目標(biāo)Redis的版本需要滿(mǎn)足一下要求:

  • Reids為社區(qū)辦4.0/5.0版本或企業(yè)版本5.0版本
  • Redis為標(biāo)準(zhǔn)架構(gòu)或集群架構(gòu)

步驟

1.下載redis-shake工具
https://github.com/alibaba/RedisShake/releases
2.修改 redis-shake.conf 文件

# id唯一標(biāo)識(shí)一次同步進(jìn)程
id=redis-shake # source相關(guān)配置
source.rdb.input = >/xxx/dump.rdb
target.type=standalone
target.address=10.xx.xx.xx:6379
target.password_raw={password}
target.auth_type = auth

3.執(zhí)行操作

[root@ip-10-1-0-139 workstation]# ./redis-shake.linux -type=restore -conf=redis-shake.conf


redis-shake.png

4.數(shù)據(jù)校驗(yàn)

r-bp1z3lkccjpxj9woeapd.redis.rds.aliyuncs.com:6379> dbsize
(integer) 277850
可以核對(duì)數(shù)據(jù)的量苇瓣,以達(dá)到數(shù)據(jù)校驗(yàn)的目的

Redis 在線(xiàn)遷移

Redis-shake遷移

步驟

1.修改redis-shake.conf文件

# id唯一標(biāo)識(shí)一次同步進(jìn)程
id=redis-shake # source相關(guān)配置
source.type=standalone
source.address=10.xx.xx.xx:6379
source.password_raw={password}
source.auth_type = auth
target.type=standalone
target.address=10.xx.xx.xx:6379
target.password_raw={password}
target.auth_type = auth
# 在rdb全量同步階段,如果目標(biāo)redis已經(jīng)存在對(duì)應(yīng)的key時(shí)是否覆蓋偿乖,如果為false就拋異常
rewrite = true
# 是否做metric統(tǒng)計(jì)钓简,建議設(shè)置為true,如果設(shè)置為false汹想,/metric中的部分參數(shù)的值就一直是0
metric = true

2.執(zhí)行操作

[root@ip-10-1-0-139 workstation]# ./redis-shake.linux -type=sync -conf=redis-shake.conf


redis-shake-online.png

3.數(shù)據(jù)校驗(yàn)

r-bp1z3lkccjpxj9woeapd.redis.rds.aliyuncs.com:6379>
dbsize(integer) 277850

4.增量同步數(shù)據(jù)過(guò)程

sync-redis.png

一階段:全量數(shù)據(jù)完成
二階段:增量數(shù)據(jù)同步
第一階段完成后外邓,第二階段會(huì)繼續(xù)進(jìn)行增量數(shù)據(jù)的同步。

DTS遷移(目標(biāo)為主從架構(gòu))

適用環(huán)境

1.集群/主從架構(gòu) to AWS ElastiCache Redis主從架構(gòu)

DTS-遷移.png

2.進(jìn)行數(shù)據(jù)校驗(yàn)古掏,查看數(shù)據(jù)大小

DTS遷移(目標(biāo)為集群架構(gòu))

適用環(huán)境

1.集群/主從架構(gòu) to AWS ElastiCache Redis集群架構(gòu)
2.AWS redis只允許內(nèi)網(wǎng)訪(fǎng)問(wèn)损话,需要借助能夠映射外網(wǎng)的NLB/代理服務(wù)器

image.png
步驟

1.安裝部署redis proxy

wget https://github.com/alibaba/RedisShake/releases/download/release-v2.1.1-20210903/release-v2.1.1-20210903.tar.gz
tar zxvf release-v2.1.1-20210903.tar.gz
mv release-v2.1.1-20210903 redis-shake-2.1.1
cd redis-shake-2.1.1/

2.查看對(duì)應(yīng)redis node的ip
直接ping node域名即可獲得

3.配置proxy的信息

sudo ./redis-cluster-proxy --port 7888 --connections-pool-size 20 --connections-pool-min-size 15 --connections-pool-spawn-rate 2 --connections-pool-spawn-every 500 10.0.14.6:6379,10.0.19.240:6379,10.0.3.72:6379,10.0.26.100:6379,10.0.27.86:6379,10.0.9.243:6379,10.0.22.183:6379,10.0.12.162:6379 &

4.利用阿里DTS進(jìn)行遷移配置
源端配置為阿里的Redis信息
目標(biāo)端的IP配置為proxy 主機(jī)的IP,端口好為指定的port

5.如果需要設(shè)置DTS服務(wù)器的白名單槽唾,需要將目標(biāo)端的node信息添加
6.使用DTS進(jìn)行預(yù)檢查
7.使用redis-cli或其他工具連接redis丧枪,查看數(shù)據(jù)的同步情況
8.驗(yàn)證增量數(shù)據(jù)同步,在源端新增key/修改key庞萍,在目標(biāo)端進(jìn)行查看
9.數(shù)據(jù)校驗(yàn)拧烦。可以使用redis-full-check進(jìn)行對(duì)比

主從版/單節(jié)點(diǎn)
./redis-full-check -t 10.101.72.137:30661 -s 10.101.72.137:30551
對(duì)于主從和集群
./redis-full-check -s r-2zee5bo9byhcms8opg.redis.rds.aliyuncs.com:6379 --sourcepassword=Vcg@2021 -t cn-500px-dev-ec-sg-01.sxgti0.0001.cnw1.cache.amazonaws.com.cn:6379 --comparemode=1 --comparetimes=1 --log=redis-full-check.log --sourcedbfilterlist=0 --targetdbfilterlist=0

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末钝计,一起剝皮案震驚了整個(gè)濱河市恋博,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌私恬,老刑警劉巖债沮,帶你破解...
    沈念sama閱讀 222,000評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異本鸣,居然都是意外死亡疫衩,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,745評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)荣德,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)闷煤,“玉大人童芹,你說(shuō)我怎么就攤上這事±鹉茫” “怎么了辐脖?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,561評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)皆愉。 經(jīng)常有香客問(wèn)我嗜价,道長(zhǎng),這世上最難降的妖魔是什么幕庐? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,782評(píng)論 1 298
  • 正文 為了忘掉前任久锥,我火速辦了婚禮,結(jié)果婚禮上异剥,老公的妹妹穿的比我還像新娘瑟由。我一直安慰自己,他們只是感情好冤寿,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,798評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布歹苦。 她就那樣靜靜地躺著,像睡著了一般督怜。 火紅的嫁衣襯著肌膚如雪殴瘦。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,394評(píng)論 1 310
  • 那天号杠,我揣著相機(jī)與錄音蚪腋,去河邊找鬼。 笑死姨蟋,一個(gè)胖子當(dāng)著我的面吹牛屉凯,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播眼溶,決...
    沈念sama閱讀 40,952評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼悠砚,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了堂飞?” 一聲冷哼從身側(cè)響起灌旧,我...
    開(kāi)封第一講書(shū)人閱讀 39,852評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎酝静,沒(méi)想到半個(gè)月后节榜,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,409評(píng)論 1 318
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡别智,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,483評(píng)論 3 341
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了稼稿。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片薄榛。...
    茶點(diǎn)故事閱讀 40,615評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡讳窟,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出敞恋,到底是詐尸還是另有隱情丽啡,我是刑警寧澤,帶...
    沈念sama閱讀 36,303評(píng)論 5 350
  • 正文 年R本政府宣布硬猫,位于F島的核電站补箍,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏啸蜜。R本人自食惡果不足惜坑雅,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,979評(píng)論 3 334
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望衬横。 院中可真熱鬧裹粤,春花似錦、人聲如沸蜂林。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,470評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)噪叙。三九已至矮锈,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間睁蕾,已是汗流浹背愕难。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,571評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留惫霸,地道東北人猫缭。 一個(gè)月前我還...
    沈念sama閱讀 49,041評(píng)論 3 377
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像壹店,于是被迫代替她去往敵國(guó)和親猜丹。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,630評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容

  • 數(shù)據(jù)庫(kù)概念 關(guān)系型數(shù)據(jù)庫(kù) 關(guān)系數(shù)據(jù)庫(kù)提供了一個(gè)通用接口硅卢,使用戶(hù)可以使用使用 編寫(xiě)的命令或查詢(xún)從數(shù)據(jù)庫(kù)讀取和寫(xiě)入數(shù)據(jù)...
    柳隨風(fēng)隨柳閱讀 4,559評(píng)論 0 3
  • # 前言 ### 為什么我要嘗試寫(xiě)作技術(shù)書(shū)籍 - 一個(gè)人年輕時(shí)經(jīng)歷的艱難會(huì)在未來(lái)成為他的財(cái)富 # 第一篇 基礎(chǔ)和應(yīng)...
    zhzosh閱讀 624評(píng)論 0 0
  • 本文是我在 gitchat 上的文章云計(jì)算生產(chǎn)環(huán)境架構(gòu)性能調(diào)優(yōu)和遷移套路總結(jié)(以 AWS 為例)的后半部分射窒,本文對(duì)...
    顧宇閱讀 3,388評(píng)論 1 13
  • 1 redis概述 1.1 什么是redis ??Redis的全稱(chēng)是REmote Dictionary Serve...
    一把君子劍閱讀 434評(píng)論 0 0
  • 本章內(nèi)容 ◆ 虛擬化基礎(chǔ)◆ 虛擬化技術(shù)之KVM◆ kvm實(shí)戰(zhàn)案例 一:虛擬化基礎(chǔ) https://www.vmwa...
    Liang_JC閱讀 671評(píng)論 0 0