一致性hash 算法(轉(zhuǎn)載)

轉(zhuǎn)載地址:http://blog.csdn.net/wuhuan_wp/article/details/7010071

一致性哈希算法是分布式系統(tǒng)中常用的算法茂装。比如少态,一個(gè)分布式的存儲(chǔ)系統(tǒng)彼妻,要將數(shù)據(jù)存儲(chǔ)到具體的節(jié)點(diǎn)上,如果采用普通的hash方法澳骤,將數(shù)據(jù)映射到具體的節(jié)點(diǎn)上为肮,如key%N肤京,key是數(shù)據(jù)的key茅特,N是機(jī)器節(jié)點(diǎn)數(shù)棋枕,如果有一個(gè)機(jī)器加入或退出這個(gè)集群,則所有的數(shù)據(jù)映射都無效了兵睛,如果是持久化存儲(chǔ)則要做數(shù)據(jù)遷移窥浪,如果是分布式緩存漾脂,則其他緩存就失效了。

因此笨鸡,引入了一致性哈希算法:

把數(shù)據(jù)用hash函數(shù)(如MD5)坦冠,映射到一個(gè)很大的空間里,如圖所示趟脂。數(shù)據(jù)的存儲(chǔ)時(shí)昔期,先得到一個(gè)hash值佛玄,對(duì)應(yīng)到這個(gè)環(huán)中的每個(gè)位置,如k1對(duì)應(yīng)到了圖中所示的位置般贼,然后沿順時(shí)針找到一個(gè)機(jī)器節(jié)點(diǎn)B哼蛆,將k1存儲(chǔ)到B這個(gè)節(jié)點(diǎn)中霞赫。

如果B節(jié)點(diǎn)宕機(jī)了,則B上的數(shù)據(jù)就會(huì)落到C節(jié)點(diǎn)上叠洗,如下圖所示:

這樣,只會(huì)影響C節(jié)點(diǎn)十艾,對(duì)其他的節(jié)點(diǎn)A忘嫉,D的數(shù)據(jù)不會(huì)造成影響禀倔。然而,這又會(huì)造成一個(gè)“雪崩”的情況,即C節(jié)點(diǎn)由于承擔(dān)了B節(jié)點(diǎn)的數(shù)據(jù)涎才,所以C節(jié)點(diǎn)的負(fù)載會(huì)變高耍铜,C節(jié)點(diǎn)很容易也宕機(jī),這樣依次下去陡舅,這樣造成整個(gè)集群都掛了。

為此靶衍,引入了“虛擬節(jié)點(diǎn)”的概念:即把想象在這個(gè)環(huán)上有很多“虛擬節(jié)點(diǎn)”颅眶,數(shù)據(jù)的存儲(chǔ)是沿著環(huán)的順時(shí)針方向找一個(gè)虛擬節(jié)點(diǎn)田弥,每個(gè)虛擬節(jié)點(diǎn)都會(huì)關(guān)聯(lián)到一個(gè)真實(shí)節(jié)點(diǎn)偷厦,如下圖所使用:

圖中的A1、A2剖笙、B1辜妓、B2忌怎、C1榴啸、C2鸥印、D1坦报、D2都是虛擬節(jié)點(diǎn)片择,機(jī)器A負(fù)載存儲(chǔ)A1、A2的數(shù)據(jù)字管,機(jī)器B負(fù)載存儲(chǔ)B1啰挪、B2的數(shù)據(jù),機(jī)器C負(fù)載存儲(chǔ)C1嘲叔、C2的數(shù)據(jù)亡呵。由于這些虛擬節(jié)點(diǎn)數(shù)量很多,均勻分布硫戈,因此不會(huì)造成“雪崩”現(xiàn)象锰什。

Java實(shí)現(xiàn):

public class Shard{ // S類封裝了機(jī)器節(jié)點(diǎn)的信息 ,如name丁逝、password养涮、ip蛔趴、port等private TreeMapnodes; // 虛擬節(jié)點(diǎn)private Listshards; // 真實(shí)機(jī)器節(jié)點(diǎn)private final int NODE_NUM = 100; // 每個(gè)機(jī)器節(jié)點(diǎn)關(guān)聯(lián)的虛擬節(jié)點(diǎn)個(gè)數(shù)public Shard(Listshards) {super();this.shards = shards;init();}private void init() { // 初始化一致性hash環(huán)nodes = new TreeMap();for (int i = 0; i != shards.size(); ++i) { // 每個(gè)真實(shí)機(jī)器節(jié)點(diǎn)都需要關(guān)聯(lián)虛擬節(jié)點(diǎn)final S shardInfo = shards.get(i);for (int n = 0; n < NODE_NUM; n++)// 一個(gè)真實(shí)機(jī)器節(jié)點(diǎn)關(guān)聯(lián)NODE_NUM個(gè)虛擬節(jié)點(diǎn)nodes.put(hash("SHARD-" + i + "-NODE-" + n), shardInfo);}}public S getShardInfo(String key) {SortedMaptail = nodes.tailMap(hash(key)); // 沿環(huán)的順時(shí)針找到一個(gè)虛擬節(jié)點(diǎn)

if (tail.size() == 0) {

return nodes.get(nodes.firstKey());

}

return tail.get(tail.firstKey()); // 返回該虛擬節(jié)點(diǎn)對(duì)應(yīng)的真實(shí)機(jī)器節(jié)點(diǎn)的信息

}

/**

*? MurMurHash算法,是非加密HASH算法,性能很高搁凸,

*? 比傳統(tǒng)的CRC32,MD5进陡,SHA-1(這兩個(gè)算法都是加密HASH算法,復(fù)雜度本身就很高千劈,帶來的性能上的損害也不可避免)

*? 等HASH算法要快很多涡驮,而且據(jù)說這個(gè)算法的碰撞率很低.

*? http://murmurhash.googlepages.com/

*/

private Long hash(String key) {

ByteBuffer buf = ByteBuffer.wrap(key.getBytes());

int seed = 0x1234ABCD;

ByteOrder byteOrder = buf.order();

buf.order(ByteOrder.LITTLE_ENDIAN);

long m = 0xc6a4a7935bd1e995L;

int r = 47;

long h = seed ^ (buf.remaining() * m);

long k;

while (buf.remaining() >= 8) {

k = buf.getLong();

k *= m;

k ^= k >>> r;

k *= m;

h ^= k;

h *= m;

}

if (buf.remaining() > 0) {

ByteBuffer finish = ByteBuffer.allocate(8).order(

ByteOrder.LITTLE_ENDIAN);

// for big-endian version, do this first:

// finish.position(8-buf.remaining());

finish.put(buf).rewind();

h ^= finish.getLong();

h *= m;

}

h ^= h >>> r;

h *= m;

h ^= h >>> r;

buf.order(byteOrder);

return h;

}

}

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市无牵,隨后出現(xiàn)的幾起案子忱辅,更是在濱河造成了極大的恐慌,老刑警劉巖垒在,帶你破解...
    沈念sama閱讀 216,470評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件踢关,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡儒搭,警方通過查閱死者的電腦和手機(jī)磺平,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,393評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門俱诸,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事遇伞○椋” “怎么了?”我有些...
    開封第一講書人閱讀 162,577評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵炒考,是天一觀的道長。 經(jīng)常有香客問我描姚,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,176評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上搪柑,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好旬迹,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,189評(píng)論 6 388
  • 文/花漫 我一把揭開白布宴倍。 她就那樣靜靜地躺著俗他,像睡著了一般地沮。 火紅的嫁衣襯著肌膚如雪畏铆。 梳的紋絲不亂的頭發(fā)上楷怒,一...
    開封第一講書人閱讀 51,155評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播呢袱,決...
    沈念sama閱讀 40,041評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼张峰!你這毒婦竟也來了谤祖?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,903評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤额湘,失蹤者是張志新(化名)和其女友劉穎卿吐,沒想到半個(gè)月后嗡官,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體尚骄,經(jīng)...
    沈念sama閱讀 45,319評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,539評(píng)論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了眶根。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片族扰。...
    茶點(diǎn)故事閱讀 39,703評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡录豺,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出矩父,到底是詐尸還是另有隱情锉桑,我是刑警寧澤,帶...
    沈念sama閱讀 35,417評(píng)論 5 343
  • 正文 年R本政府宣布窍株,位于F島的核電站民轴,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏球订。R本人自食惡果不足惜后裸,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,013評(píng)論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望冒滩。 院中可真熱鬧微驶,春花似錦、人聲如沸开睡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,664評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽篇恒。三九已至扶檐,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間胁艰,已是汗流浹背款筑。 一陣腳步聲響...
    開封第一講書人閱讀 32,818評(píng)論 1 269
  • 我被黑心中介騙來泰國打工智蝠, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人奈梳。 一個(gè)月前我還...
    沈念sama閱讀 47,711評(píng)論 2 368
  • 正文 我出身青樓杈湾,卻偏偏與公主長得像,于是被迫代替她去往敵國和親攘须。 傳聞我的和親對(duì)象是個(gè)殘疾皇子漆撞,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,601評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • 第一章 Nginx簡(jiǎn)介 Nginx是什么 沒有聽過Nginx?那么一定聽過它的“同行”Apache吧阻课!Ngi...
    JokerW閱讀 32,670評(píng)論 24 1,002
  • 原文出處:http://www.cnblogs.com/maybe2030/p/4715035.html引文出處:...
    明教de教主閱讀 9,167評(píng)論 0 7
  • 什么是一致性哈希算法(consistent hashing) 一致性哈希算法在1997年由麻省理工學(xué)院提出的一種分...
    驪驊閱讀 1,534評(píng)論 0 10
  • 繼續(xù)交作業(yè)叫挟,還差棒棒糖和帆船,感覺櫻桃畫殘了限煞,立體感感覺沒有抓住要點(diǎn)…
    myselfliya閱讀 265評(píng)論 2 4
  • 下面是我暑假以來的主要行動(dòng)軌跡: 一抹恳、2017年7月10日——7月23日,參加了寧陽縣教育局組織的半個(gè)月的“家庭教...
    趙妍華太陽花閱讀 711評(píng)論 0 2