如何不停機(jī)遷移大規(guī)模流量-筆記

在ToC業(yè)務(wù)里赴恨,往往需要在不影響客戶體驗(yàn)的情況下進(jìn)行系統(tǒng)遷移(還是國(guó)企好,說(shuō)停機(jī)就停機(jī))伴栓。不停機(jī)遷移分為兩個(gè)階段伦连。第一階段是通過(guò)流量測(cè)試驗(yàn)證新系統(tǒng)的功能正確性、可伸縮性和性能問(wèn)題钳垮,確保新系統(tǒng)的彈性惑淳。第二階段就是逐步將流量遷移到新系統(tǒng),并監(jiān)控各種指標(biāo):包括客戶設(shè)備級(jí)別的體驗(yàn)質(zhì)量(QoE扔枫,Quality-of-Experience)度量汛聚、服務(wù)級(jí)別協(xié)議(SLA,Service-Level-Agreement)和業(yè)務(wù)級(jí)別的關(guān)鍵性能指標(biāo)(KPI短荐,Key-Performance-Indicator)倚舀。

為了沿驗(yàn)證新系統(tǒng)的正確性和性能,要進(jìn)行重放流量測(cè)試(Reply Traffic Testing)——生產(chǎn)流量復(fù)制和分發(fā)一份到新系統(tǒng)運(yùn)行忍宋,并對(duì)比新舊系統(tǒng)返回結(jié)果的一致性痕貌。

重放解決方案
重放流量測(cè)試解決方案有倆組件:

  1. 流量復(fù)制和關(guān)聯(lián): 復(fù)制一份流量給新系統(tǒng)的路徑上,并記錄新老系統(tǒng)的結(jié)果
  2. 對(duì)比分析和報(bào)告: 對(duì)比新老系統(tǒng)的結(jié)果并進(jìn)行分析報(bào)告糠排。

有三種方案去進(jìn)行流量復(fù)制舵稠,
第一種是設(shè)備驅(qū)動(dòng),就是用戶的客戶端去進(jìn)行兩次相同請(qǐng)求給新老系統(tǒng)入宦,缺點(diǎn)是浪費(fèi)客戶端資源哺徊,影響QoE(客戶體驗(yàn)),并且分發(fā)邏輯依賴客戶端代碼乾闰,客戶端迭代周期滿落追,會(huì)影響服務(wù)發(fā)布周期導(dǎo)致遷移瓶頸,此外涯肩,允許設(shè)備執(zhí)行未經(jīng)測(cè)試的服務(wù)端代碼路徑可能會(huì)無(wú)意中暴露潛在攻擊面轿钠。

第二種是服務(wù)端驅(qū)動(dòng),在后端的業(yè)務(wù)邏輯進(jìn)行流量重放病苗,把復(fù)雜度放在了后端疗垛。但是會(huì)要在業(yè)務(wù)邏輯里耦合流量重放測(cè)試功能,重放邏輯中的bug也有可能影響產(chǎn)品代碼和指標(biāo)硫朦,同樣增加了風(fēng)險(xiǎn)贷腕。
第三種是專用服務(wù),加一個(gè)中間層ReplyService,類似插件接口泽裳,重放流量打到ReplyService上芽世,新服務(wù)可以像插件一樣注冊(cè)ReplyService。

重放流量分析
歸一化:要對(duì)結(jié)果進(jìn)行預(yù)處理诡壁,例如無(wú)序的列表济瓢,時(shí)間戳,都要化作可比較的數(shù)據(jù)妹卿。
比較:對(duì)雙方響應(yīng)結(jié)果和關(guān)鍵數(shù)據(jù)進(jìn)行比較旺矾。
追溯:生成響應(yīng)所涉及所有依賴項(xiàng)數(shù)據(jù)版本或校驗(yàn)和的綜合摘要,稱為追溯夺克。例如隨機(jī)數(shù)和依賴數(shù)據(jù)生成的響應(yīng)箕宙。

還要比較實(shí)時(shí)流量、進(jìn)行壓力測(cè)試铺纽。

重放測(cè)試之后柬帕,就要開始正式的遷移了。遷移過(guò)程需要逐步將流量切換到新集群中狡门,就需要一個(gè)流量分發(fā)組件陷寝,能將流量按權(quán)重分給舊系統(tǒng)和新系統(tǒng),這叫灰度發(fā)布也叫金絲雀組其馏。A/B測(cè)試則是把用戶分幾個(gè)組凤跑,控制變量去評(píng)估結(jié)果。

遷移有狀態(tài)服務(wù)
實(shí)際上數(shù)據(jù)庫(kù)也是一個(gè)有狀態(tài)的服務(wù)叛复,所謂無(wú)狀態(tài)服務(wù)仔引,就是可以隨意kill掉然后創(chuàng)建一個(gè)新的。數(shù)據(jù)庫(kù)不能這樣褐奥,所以需要進(jìn)行遷移咖耘。遷移有狀態(tài)比無(wú)狀態(tài)麻煩,可以分為同步初始數(shù)據(jù)撬码、雙活/雙寫進(jìn)行數(shù)據(jù)同時(shí)寫入新舊系統(tǒng)儿倒,然后加大新系統(tǒng)使用,然后實(shí)時(shí)監(jiān)控正確性耍群。

參考資料:
[大廠實(shí)踐] 無(wú)停機(jī)遷移大規(guī)模關(guān)鍵流量 (上)
[大廠實(shí)踐] 無(wú)停機(jī)遷移大規(guī)模關(guān)鍵流量(下)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末义桂,一起剝皮案震驚了整個(gè)濱河市找筝,隨后出現(xiàn)的幾起案子蹈垢,更是在濱河造成了極大的恐慌,老刑警劉巖袖裕,帶你破解...
    沈念sama閱讀 221,548評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件曹抬,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡急鳄,警方通過(guò)查閱死者的電腦和手機(jī)谤民,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門堰酿,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人张足,你說(shuō)我怎么就攤上這事触创。” “怎么了为牍?”我有些...
    開封第一講書人閱讀 167,990評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵哼绑,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我碉咆,道長(zhǎng)抖韩,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,618評(píng)論 1 296
  • 正文 為了忘掉前任疫铜,我火速辦了婚禮茂浮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘壳咕。我一直安慰自己席揽,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,618評(píng)論 6 397
  • 文/花漫 我一把揭開白布谓厘。 她就那樣靜靜地躺著驹尼,像睡著了一般。 火紅的嫁衣襯著肌膚如雪庞呕。 梳的紋絲不亂的頭發(fā)上新翎,一...
    開封第一講書人閱讀 52,246評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音住练,去河邊找鬼地啰。 笑死,一個(gè)胖子當(dāng)著我的面吹牛讲逛,可吹牛的內(nèi)容都是我干的亏吝。 我是一名探鬼主播,決...
    沈念sama閱讀 40,819評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼盏混,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蔚鸥!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起许赃,我...
    開封第一講書人閱讀 39,725評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤止喷,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后混聊,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體弹谁,經(jīng)...
    沈念sama閱讀 46,268評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,356評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了预愤。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片沟于。...
    茶點(diǎn)故事閱讀 40,488評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖植康,靈堂內(nèi)的尸體忽然破棺而出旷太,到底是詐尸還是另有隱情,我是刑警寧澤销睁,帶...
    沈念sama閱讀 36,181評(píng)論 5 350
  • 正文 年R本政府宣布泳秀,位于F島的核電站,受9級(jí)特大地震影響榄攀,放射性物質(zhì)發(fā)生泄漏嗜傅。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,862評(píng)論 3 333
  • 文/蒙蒙 一檩赢、第九天 我趴在偏房一處隱蔽的房頂上張望吕嘀。 院中可真熱鬧,春花似錦贞瞒、人聲如沸偶房。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)棕洋。三九已至,卻和暖如春乒融,著一層夾襖步出監(jiān)牢的瞬間掰盘,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工赞季, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留愧捕,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,897評(píng)論 3 376
  • 正文 我出身青樓申钩,卻偏偏與公主長(zhǎng)得像次绘,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子撒遣,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,500評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容