一致性hash

問題

  • 分布式存儲(chǔ)的系統(tǒng)設(shè)計(jì)中,有一個(gè)問題一直困擾著我:
    方式1. 集群中所有的機(jī)器妨猩,都存儲(chǔ)完整的數(shù)據(jù)潜叛,然后所有的機(jī)器都可以提供完整服務(wù);
    方式2. 集群中的所有機(jī)器,都只存儲(chǔ)數(shù)據(jù)的一部分威兜,然后根據(jù)實(shí)際情況選擇合適的機(jī)器進(jìn)行服務(wù)销斟。

  • 問題1. 方式1中所有的機(jī)器中存儲(chǔ)的數(shù)據(jù)如何保證一致性,意味著一臺(tái)機(jī)器的數(shù)據(jù)被寫入椒舵,其它機(jī)器也需要同步蚂踊;
  • 問題2. 方式2中有什么方式可以保證數(shù)據(jù)的一部分被分配到合適的機(jī)器,同時(shí)新增或者減少機(jī)器的話應(yīng)當(dāng)如何處理笔宿。

回答

  • 今天的思考暫時(shí)回避問題1犁钟,這是一個(gè)龐大的題目。
  • 問題2隱藏有兩個(gè)基本的需求:a. 平衡性:數(shù)據(jù)被均勻地分配到不同的機(jī)器泼橘;b. 單調(diào)性:機(jī)器的增減應(yīng)該對數(shù)據(jù)的分布影響較小涝动。
    首先,均勻分配這個(gè)需求炬灭,很容易聯(lián)想到hash算法取模的方式:
pos = hash(obj) % N

由于hash算法的獨(dú)特性醋粟,保證了取模的隨機(jī)性;
然而又引出另一個(gè)問題重归,如果新增一臺(tái)機(jī)器或者宕機(jī)一臺(tái)米愿,pos已經(jīng)固定的obj,會(huì)因?yàn)镹的變動(dòng)受到影響

pos = hash(obj) % (N + 1)
pos = hash(obj) % (N - 1)

此時(shí)鼻吮,一致性hash粉墨登場育苟。
一致性哈希,使用一致性哈希環(huán)的數(shù)據(jù)結(jié)構(gòu)狈网,將obj于pos都分布在這個(gè)環(huán)上宙搬。
如果obj沒有命中任何一個(gè)pos,則在環(huán)上順時(shí)針尋找最近的一個(gè)pos拓哺。
這樣做的效果勇垛,就會(huì)讓新增或者減少機(jī)器時(shí),只會(huì)影響到一臺(tái)機(jī)器士鸥。
而如果算法中甚至做一些冗余的做法闲孤,會(huì)讓影響降低到更小。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末烤礁,一起剝皮案震驚了整個(gè)濱河市讼积,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌脚仔,老刑警劉巖勤众,帶你破解...
    沈念sama閱讀 216,744評論 6 502
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異鲤脏,居然都是意外死亡们颜,警方通過查閱死者的電腦和手機(jī)吕朵,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,505評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來窥突,“玉大人努溃,你說我怎么就攤上這事∽栉剩” “怎么了梧税?”我有些...
    開封第一講書人閱讀 163,105評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長称近。 經(jīng)常有香客問我第队,道長,這世上最難降的妖魔是什么煌茬? 我笑而不...
    開封第一講書人閱讀 58,242評論 1 292
  • 正文 為了忘掉前任斥铺,我火速辦了婚禮彻桃,結(jié)果婚禮上坛善,老公的妹妹穿的比我還像新娘。我一直安慰自己邻眷,他們只是感情好眠屎,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,269評論 6 389
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著肆饶,像睡著了一般改衩。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上驯镊,一...
    開封第一講書人閱讀 51,215評論 1 299
  • 那天葫督,我揣著相機(jī)與錄音,去河邊找鬼板惑。 笑死橄镜,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的冯乘。 我是一名探鬼主播洽胶,決...
    沈念sama閱讀 40,096評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼裆馒!你這毒婦竟也來了姊氓?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,939評論 0 274
  • 序言:老撾萬榮一對情侶失蹤喷好,失蹤者是張志新(化名)和其女友劉穎翔横,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體梗搅,經(jīng)...
    沈念sama閱讀 45,354評論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡禾唁,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,573評論 2 333
  • 正文 我和宋清朗相戀三年舔亭,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蟀俊。...
    茶點(diǎn)故事閱讀 39,745評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡钦铺,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出肢预,到底是詐尸還是另有隱情矛洞,我是刑警寧澤,帶...
    沈念sama閱讀 35,448評論 5 344
  • 正文 年R本政府宣布烫映,位于F島的核電站沼本,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏锭沟。R本人自食惡果不足惜抽兆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,048評論 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望族淮。 院中可真熱鬧辫红,春花似錦、人聲如沸祝辣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,683評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蝙斜。三九已至名惩,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間孕荠,已是汗流浹背娩鹉。 一陣腳步聲響...
    開封第一講書人閱讀 32,838評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留稚伍,地道東北人弯予。 一個(gè)月前我還...
    沈念sama閱讀 47,776評論 2 369
  • 正文 我出身青樓,卻偏偏與公主長得像槐瑞,于是被迫代替她去往敵國和親熙涤。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,652評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 一致性Hash算法 從上面的圖中,可以看出一個(gè)很重要的問題悼沿,就是對服務(wù)器集群的管理等舔,路由算法至關(guān)重要,就和負(fù)載均衡...
    青晨點(diǎn)支煙閱讀 1,972評論 0 6
  • 01.引入 在業(yè)務(wù)開發(fā)中糟趾,我們常把數(shù)據(jù)持久化到數(shù)據(jù)庫中慌植。如果需要讀取這些數(shù)據(jù)甚牲,除了直接從數(shù)據(jù)庫中讀取外,為了減輕數(shù)...
    Java技術(shù)范閱讀 591評論 0 7
  • 分布式緩存作為緩存水平擴(kuò)充的最佳辦法蝶柿,當(dāng)前很實(shí)用丈钙。假設(shè)一臺(tái)機(jī)器可支撐4GB的數(shù)據(jù)的緩存,如果需要支撐24GB交汤,則需...
    TTTTTriM閱讀 1,656評論 0 2
  • 一雏赦、前言 在解決分布式系統(tǒng)中負(fù)載均衡的問題時(shí)候可以使用Hash算法讓固定的一部分請求落到同一臺(tái)服務(wù)器上,這樣每臺(tái)服...
    宇哥聊AI閱讀 316評論 0 4
  • 一芙扎、前言 在解決分布式系統(tǒng)中負(fù)載均衡的問題時(shí)候可以使用Hash算法讓固定的一部分請求落到同一臺(tái)服務(wù)器上星岗,這樣每臺(tái)服...
    Java高級架構(gòu)獅閱讀 685評論 0 9