數(shù)據(jù)庫分庫分表(二)Twitter-Snowflake(64位分布式ID算法)分析與JAVA實現(xiàn)

Snowflake簡介

Twitter-Snowflake算法產(chǎn)生的背景相當簡單细诸,為了滿足Twitter每秒上萬條消息的請求,每條消息都必須分配一條唯一的id莉兰,這些id還需要一些大致的順序(方便客戶端排序),并且在分布式系統(tǒng)中不同機器產(chǎn)生的id必須不同。各種主鍵ID生成策略對比恬涧,見 常見分布式主鍵ID生成策略

Snowflake算法核心

41位的時間前綴10位的節(jié)點標識碴巾,12位的sequence組合在一起溯捆。
  除了最高位bit標記為不可用以外,其余三組bit占位均可浮動厦瓢,看具體的業(yè)務(wù)需求而定提揍。默認情況下41bit的時間戳,1970年算起可以支持該算法使用到2038年煮仇,10bit的工作機器id可以支持1024臺機器劳跃,序列號支持1毫秒產(chǎn)生4096個自增序列id

snowflake-64bit.jpg

Snowflake的JAVA實現(xiàn)

Snowflake是Twitter在2010年用Scala語言寫的一套主鍵生成策略欺抗,用Thrift對外發(fā)布主鍵生成服務(wù)售碳,其中依賴了Twitter內(nèi)部的Infrastructure,后來Twitter用Twitter-server代替了Snowflake绞呈,自2012年起就未更新贸人。見Twitter-Snowflake項目地址(Tags:snowflake-2010)
  之前寫了一個Java的實現(xiàn),改自網(wǎng)上一個版本:Twitter的分布式自增ID算法Snowflake實現(xiàn)分析及其Java佃声、Php和Python版艺智。后來看到當當網(wǎng)的Sharding-JDBC分庫分表中間件已實現(xiàn)了此算法。就直接在其中添加了一些新特性圾亏,已merge十拣。(具體實現(xiàn),說明文檔)
  添加3種IdGenerator實現(xiàn)封拧。

  • ZkIdGenerator:通過zookeeper維護workerId。使用時需要添加zookeeper客戶端curator(curator-framework與curator-recipes)依賴夭问,并設(shè)置zkNodes與appName泽西。(將向zookeeper中/snowflake/appName下注冊并節(jié)點,并通過zookeeper動態(tài)維護workerId缰趋。)
  • IPIdGenerator:獲取機器的二進制表示的后10位捧杉,設(shè)置成workerId。(列如機器的IP為192.168.1.108秘血,設(shè)置workerId為364味抖。)
  • HostNameIdGenerator:根據(jù)機器名最后的數(shù)字編號獲取workerId,如果線上機器命名有統(tǒng)一規(guī)范灰粮,建議使用此種方式(列如機器的HostName為dangdang-db-sharding-dev-12仔涩,會截取最后的編號12作為workerId。)

性能

用筆記本(i7-3632QM 2.2GHz 四核八線程)測試了下粘舟,每秒生成409萬(理論上的峰值)熔脂,CPU占用率18.5%。

參考:

  1. Twitter-Snowflake柑肴,64位自增ID算法詳解
  2. Twitter-Snowflake項目地址(Tags:snowflake-2010)
  3. 常見分布式主鍵ID生成策略
  4. 當當網(wǎng)的Snowflake(Java)實現(xiàn)使用說明

轉(zhuǎn)載注明出處锤悄,我就不和你計較。
by Donney Young
http://www.reibang.com/p/80e68ae9e3a4

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末嘉抒,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子袍暴,更是在濱河造成了極大的恐慌些侍,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,123評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件政模,死亡現(xiàn)場離奇詭異岗宣,居然都是意外死亡,警方通過查閱死者的電腦和手機淋样,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評論 2 384
  • 文/潘曉璐 我一進店門耗式,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人趁猴,你說我怎么就攤上這事刊咳。” “怎么了儡司?”我有些...
    開封第一講書人閱讀 156,723評論 0 345
  • 文/不壞的土叔 我叫張陵娱挨,是天一觀的道長。 經(jīng)常有香客問我捕犬,道長跷坝,這世上最難降的妖魔是什么酵镜? 我笑而不...
    開封第一講書人閱讀 56,357評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮柴钻,結(jié)果婚禮上淮韭,老公的妹妹穿的比我還像新娘。我一直安慰自己贴届,他們只是感情好靠粪,可當我...
    茶點故事閱讀 65,412評論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著粱腻,像睡著了一般庇配。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上绍些,一...
    開封第一講書人閱讀 49,760評論 1 289
  • 那天捞慌,我揣著相機與錄音,去河邊找鬼柬批。 笑死啸澡,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的氮帐。 我是一名探鬼主播嗅虏,決...
    沈念sama閱讀 38,904評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼上沐!你這毒婦竟也來了皮服?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,672評論 0 266
  • 序言:老撾萬榮一對情侶失蹤参咙,失蹤者是張志新(化名)和其女友劉穎龄广,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蕴侧,經(jīng)...
    沈念sama閱讀 44,118評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡择同,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,456評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了净宵。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片敲才。...
    茶點故事閱讀 38,599評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖择葡,靈堂內(nèi)的尸體忽然破棺而出紧武,到底是詐尸還是另有隱情,我是刑警寧澤敏储,帶...
    沈念sama閱讀 34,264評論 4 328
  • 正文 年R本政府宣布脏里,位于F島的核電站,受9級特大地震影響虹曙,放射性物質(zhì)發(fā)生泄漏迫横。R本人自食惡果不足惜番舆,卻給世界環(huán)境...
    茶點故事閱讀 39,857評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望矾踱。 院中可真熱鬧恨狈,春花似錦、人聲如沸呛讲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽贝搁。三九已至吗氏,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間雷逆,已是汗流浹背弦讽。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留膀哲,地道東北人往产。 一個月前我還...
    沈念sama閱讀 46,286評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像某宪,于是被迫代替她去往敵國和親仿村。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 43,465評論 2 348

推薦閱讀更多精彩內(nèi)容