mysql中分表藏否,分庫(kù),分區(qū)充包,和分片

背景

mysql的集群方案副签,可降低并發(fā)時(shí)的讀寫壓力,將讀寫操作按照算法分布到集群中不同機(jī)器上基矮。不管是pxc各個(gè)節(jié)點(diǎn)還是replication的slave和master節(jié)點(diǎn)淆储,他們每個(gè)節(jié)點(diǎn)的數(shù)據(jù)都是相同復(fù)制的。并不是分片存儲(chǔ)的家浇。當(dāng)數(shù)據(jù)庫(kù)節(jié)點(diǎn)數(shù)據(jù)大于2000萬(wàn)條后性能就會(huì)下降本砰,那么問題來(lái)了,當(dāng)有海量數(shù)據(jù)钢悲,幾千萬(wàn)甚至上億時(shí)該怎么辦点额?這時(shí)就需要使用分表舔株、分庫(kù)、分區(qū)还棱、分片操作载慈。

分表

分表方式:

  • 水平分表:將一張表中的數(shù)據(jù)分成多個(gè)表且表結(jié)構(gòu)不變。
  • 垂直分表:將一張表按照字段分成不同的表且表結(jié)構(gòu)發(fā)送改變珍手。

使用場(chǎng)景:

  • 水平分表:一張表有海量數(shù)據(jù)办铡,且通過(guò)索引優(yōu)化后速度依然慢。這時(shí)就需要對(duì)其水平分表琳要。舉個(gè)例子寡具,某表有2000萬(wàn)條數(shù)據(jù),分成20個(gè)表焙蹭,每個(gè)表100萬(wàn)條數(shù)據(jù)晒杈,你說(shuō)在100萬(wàn)表數(shù)據(jù)中查詢快還在在2000萬(wàn)條數(shù)據(jù)中查詢快采呐?水平分表可以解決數(shù)據(jù)量過(guò)大帶來(lái)的查詢效率降低的問題夭谤,即能提高讀的速度君躺。
  • 垂直分表:當(dāng)表中有大字段如text類型的颁湖、或者是表中字段非常多就需要垂直分表灵汪。這里涉及到一個(gè)mysql的\color{blue}{數(shù)據(jù)頁(yè)}概念蹬铺,mysql采用數(shù)據(jù)頁(yè)的形式組織數(shù)據(jù)察纯。你可以把一張數(shù)據(jù)表理解為一本書闸拿,索引為目錄污桦,表中所有數(shù)據(jù)為整本書的內(nèi)容亩歹,而書中內(nèi)容是以每頁(yè)的形式展現(xiàn)給你的,\color{blue}{恰巧你查詢后返回的mysql數(shù)據(jù)也是以每頁(yè)每頁(yè)的形式給你的}凡橱,也就是所說(shuō)的數(shù)據(jù)頁(yè)小作。由于每頁(yè)的字書是固定不變的,也就是說(shuō)如果有大字段的話,它會(huì)占用你每頁(yè)中的更多空間稼钩,接著每頁(yè)查詢的記錄數(shù)就會(huì)變少顾稀,查詢的頁(yè)數(shù)就會(huì)變多。你看書時(shí)一個(gè)內(nèi)容明明一頁(yè)可以看完坝撑,現(xiàn)在要翻倆頁(yè)静秆,簡(jiǎn)單點(diǎn)說(shuō)就是讀的效率降低了,也就是說(shuō)\color{blue}{垂直分表能夠提高讀的速度巡李。}
    注意:如果一張表中有一個(gè)大字段抚笔,那么雖然查詢時(shí)沒有查詢?cè)撟侄危窃诟鶕?jù)id或者其他索引進(jìn)行查詢的時(shí)候也會(huì)把大字段一起查出來(lái)侨拦。就是這個(gè)大字段也占用數(shù)據(jù)頁(yè)的空間殊橙,所以查詢出來(lái)的記錄數(shù)就變少了。總結(jié):mysql底層是通過(guò)數(shù)據(jù)頁(yè)存儲(chǔ)的蛀柴,如果一條記錄占用空間過(guò)大,就可能造成跨頁(yè)查詢的問題螃概,通過(guò)垂直分表可有效解決這個(gè)問題。



注意:在水平分表后鸽疾,我們通常是對(duì)主鍵id取模,然后定位具體表训貌。如果是vachar類型怎么取模制肮?可以對(duì)varchar類型md5然后取模,因?yàn)閙d5是16進(jìn)制的递沪。

分庫(kù)

使用場(chǎng)景:

  • 幾個(gè)業(yè)務(wù)完全不相關(guān)的表可以進(jìn)行分庫(kù)豺鼻,這樣可以降低單個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)的壓力。比如款慨,有1000人在操作A模塊儒飒,有1000人在操作B模塊,這時(shí)mysql就相當(dāng)2000個(gè)并發(fā)壓力檩奠,而分庫(kù)后桩了,每個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)承受1000并發(fā)壓力。如果分庫(kù)后埠戳,倆庫(kù)還有業(yè)務(wù)聯(lián)系井誉,這時(shí)會(huì)涉及到分布式事務(wù)問題,所以要選擇合適的分庫(kù)策略整胃。
  • 分庫(kù)是為了降低節(jié)點(diǎn)數(shù)據(jù)庫(kù)壓力颗圣,提高并發(fā)而提出的策略。既然是為了降低數(shù)據(jù)庫(kù)壓力所以通常數(shù)據(jù)庫(kù)是放到不同的節(jié)點(diǎn)上屁使。
  • 每個(gè)數(shù)據(jù)庫(kù)支持的連接數(shù)是有限的在岂,每一次的數(shù)據(jù)庫(kù)請(qǐng)求都會(huì)產(chǎn)生一條數(shù)據(jù)庫(kù)連接,當(dāng)一個(gè)庫(kù)連接數(shù)超過(guò)max_connection時(shí)就會(huì)報(bào)too many connections的問題蛮寂,也就是無(wú)法支持更多訪問的時(shí)候蔽午,我們會(huì)把原來(lái)的單個(gè)數(shù)據(jù)庫(kù)分成多個(gè),幫助分擔(dān)壓力共郭。說(shuō)白了就是分散數(shù)據(jù)庫(kù)壓力祠丝。
  • 分庫(kù)還有一個(gè)很常用的場(chǎng)景就是冷熱分離,比如訂單表除嘹,用戶經(jīng)常查的是一個(gè)月內(nèi)的訂單写半,我們稱這部分?jǐn)?shù)據(jù)為熱數(shù)據(jù),而一個(gè)月之內(nèi)的訂單很少查但不代表不查尉咕,我們稱這部分?jǐn)?shù)據(jù)為冷數(shù)據(jù)叠蝇。一個(gè)幾千萬(wàn)表數(shù)據(jù)中查詢數(shù)據(jù),可想而至速度很慢年缎,此時(shí)如果把冷數(shù)據(jù)挪到另一個(gè)庫(kù)中悔捶,而生產(chǎn)庫(kù)只保留熱數(shù)據(jù)铃慷,這樣查詢起來(lái)速度是不是很快了呢?冷熱分離即保證了查詢速度又保證了數(shù)據(jù)的完整性蜕该,所以是很值得的犁柜。

分區(qū)

分區(qū)是將一張表的數(shù)據(jù)分成多個(gè)區(qū)塊,存放到不同的位置堂淡,可以在同一磁盤馋缅,數(shù)據(jù)存放的位置方式改變。也可以在不同磁盤绢淀,分區(qū)不存在分表萤悴,分區(qū)后的表還是一張表

分片

分片帶來(lái)的問題

  • 分布式事務(wù)一致性
  • 跨節(jié)點(diǎn)Join的問題

分區(qū)和分表的區(qū)別

分表后磁盤文件

比如對(duì)alluser表進(jìn)行分表皆的,分倆張表user1和user2,在磁盤中文件如下

    alluser.MRG    
    alluser.frm    
    user1.MYD    
    user1.MYI    
    user1.frm    
    user2.MYD    
    user2.MYI    
    user2.frm 

frm文件是表結(jié)構(gòu)文件覆履,MYI是索引文件,MYD是數(shù)據(jù)文件费薄。

可以看出user1和user2都有這3個(gè)文件, alluser表只要一個(gè)frm文件硝全,alluser只是一個(gè)邏輯表。MRG文件是存了一些分表的對(duì)應(yīng)關(guān)系义锥。

分區(qū)后磁盤文件

比如對(duì)aa表進(jìn)行分區(qū)柳沙,為p1和p3分區(qū),磁盤文件如下

aa#P#p1.MYD    
aa#P#p1.MYI    
aa#P#p3.MYD    
aa#P#p3.MYI    
aa.frm    
aa.par 

可以看出只有一個(gè)frm拌倍,而每個(gè)分區(qū)都有單獨(dú)的MYD和MYI文件赂鲤。par文件記錄的是分區(qū)的對(duì)應(yīng)關(guān)系。

分表和分區(qū)后柱恤,一個(gè)大的數(shù)據(jù)文件分成多個(gè)小的數(shù)據(jù)文件数初,這樣查詢性能肯定能大幅提高。也正是由于分成了多個(gè)文件梗顺,磁盤的io性能也可以大幅提高泡孩。
分區(qū)是mysql天然支持的,而分表需要業(yè)務(wù)代碼的支持寺谤,我理解水平分表(不包括垂直分表)和分區(qū)達(dá)到的效果是一致的仑鸥,如果在水平分表和分區(qū)之間選擇,最好選擇分區(qū)吧

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末变屁,一起剝皮案震驚了整個(gè)濱河市眼俊,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌粟关,老刑警劉巖疮胖,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡澎灸,警方通過(guò)查閱死者的電腦和手機(jī)院塞,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)性昭,“玉大人拦止,你說(shuō)我怎么就攤上這事」遥” “怎么了创泄?”我有些...
    開封第一講書人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)括蝠。 經(jīng)常有香客問我,道長(zhǎng)饭聚,這世上最難降的妖魔是什么忌警? 我笑而不...
    開封第一講書人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮秒梳,結(jié)果婚禮上法绵,老公的妹妹穿的比我還像新娘。我一直安慰自己酪碘,他們只是感情好朋譬,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著兴垦,像睡著了一般徙赢。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上探越,一...
    開封第一講書人閱讀 51,125評(píng)論 1 297
  • 那天狡赐,我揣著相機(jī)與錄音,去河邊找鬼钦幔。 笑死枕屉,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的鲤氢。 我是一名探鬼主播搀擂,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼卷玉!你這毒婦竟也來(lái)了哨颂?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤揍庄,失蹤者是張志新(化名)和其女友劉穎咆蒿,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡沃测,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年缭黔,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蒂破。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡馏谨,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出附迷,到底是詐尸還是另有隱情惧互,我是刑警寧澤,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布喇伯,位于F島的核電站喊儡,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏稻据。R本人自食惡果不足惜艾猜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望捻悯。 院中可真熱鬧匆赃,春花似錦、人聲如沸今缚。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)姓言。三九已至瞬项,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間事期,已是汗流浹背滥壕。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留兽泣,地道東北人绎橘。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像唠倦,于是被迫代替她去往敵國(guó)和親称鳞。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • 摘要: 1.限定數(shù)據(jù)的范圍:查詢訂單歷史,控制一個(gè)月范圍候齿。熙暴; 2.讀/寫分離:主庫(kù)寫闺属,從庫(kù)讀; 緩存:使用MySQ...
    hedgehog1112閱讀 1,833評(píng)論 0 30
  • ORA-00001: 違反唯一約束條件 (.) 錯(cuò)誤說(shuō)明:當(dāng)在唯一索引所對(duì)應(yīng)的列上鍵入重復(fù)值時(shí)周霉,會(huì)觸發(fā)此異常掂器。 O...
    我想起個(gè)好名字閱讀 5,307評(píng)論 0 9
  • 原文鏈接 http://blog.csdn.net/kobejayandy/article/details/547...
    lucode閱讀 901評(píng)論 0 0
  • 今天看到一位朋友寫的mysql筆記總結(jié),覺得寫的很詳細(xì)很用心俱箱,這里轉(zhuǎn)載一下国瓮,供大家參考下,也希望大家能關(guān)注他原文地...
    信仰與初衷閱讀 4,730評(píng)論 0 30
  • 文/鴻運(yùn) 我的心靈是一塊明鏡 清清澈澈 如湖水見底 分外透明 我的心靈是一座小城 只容下詩(shī)詞歌賦 字里行間都是童真...
    HONGYUNDANGTOU閱讀 334評(píng)論 14 8