前言
現(xiàn)在的互聯(lián)網(wǎng)公司基本都是分布式,多服務(wù)了已球,所以這給分庫(kù)分表提供了更好的空間臣镣。而且隨著數(shù)據(jù)量的增大,單庫(kù)單表難免滿足不了性能要求智亮。
單庫(kù)單表會(huì)涉及到以下幾個(gè)問(wèn)題:
1.單庫(kù)表太多忆某;單個(gè)數(shù)據(jù)庫(kù)處理能力有限;單庫(kù)所在服務(wù)器上磁盤(pán)空間不足阔蛉;單庫(kù)上操作的IO瓶頸
解決方法:根據(jù)業(yè)務(wù)拆分成更多更小的庫(kù)
2.單表數(shù)據(jù)量大弃舒;CRUD都成問(wèn)題;索引膨脹状原,查詢超時(shí)
解決方法:將單表拆分成數(shù)據(jù)集更少的表
案例:不使用分庫(kù)分表例子
曾經(jīng)看過(guò)這么個(gè)案例博文:將數(shù)據(jù)庫(kù)的寫(xiě)操作和讀操作分離聋呢,主庫(kù)(Master)負(fù)責(zé)寫(xiě),多個(gè)從庫(kù)(Slaver)負(fù)責(zé)讀颠区,從庫(kù)從主庫(kù)同步更新數(shù)據(jù)削锰,保持?jǐn)?shù)據(jù)同步,從庫(kù)可以水平擴(kuò)展毕莱,可應(yīng)付更多請(qǐng)求器贩。
但是當(dāng)用戶數(shù)據(jù)達(dá)到一定數(shù)量級(jí)別后颅夺,寫(xiě)操作越來(lái)越頻繁,加一個(gè)Master是不能解決問(wèn)題的磨澡, 因?yàn)閿?shù)據(jù)要保存一致性碗啄,寫(xiě)操作需要2個(gè)master之間同步,相當(dāng)于是重復(fù)了稳摄,而且更加復(fù)雜僵娃,于是主從同步不適應(yīng)了,需要使用分庫(kù)分表狸吞。
分庫(kù)分表的方式方法:
垂直方式和水平方式
如果是因?yàn)楸矶喽鴮?dǎo)致數(shù)據(jù)多炬灭,可以采用垂直方式,根據(jù)業(yè)務(wù)切分成不同的庫(kù)仗阅;
如果是因?yàn)閱伪頂?shù)據(jù)量太大昌讲,就可以采用水平方式,即把表的數(shù)據(jù)按某種規(guī)則切分成多張表减噪,甚至多個(gè)庫(kù)上的多張表短绸。
分庫(kù)分表的順序應(yīng)該是先垂直分,后水平分筹裕。 因?yàn)榇怪狈指?jiǎn)單醋闭,更符合我們處理現(xiàn)實(shí)世界問(wèn)題的方式。
1.垂直分表: 大表拆小表朝卒,基于字段進(jìn)行证逻,將不常用、數(shù)據(jù)量大的字段拆分到“擴(kuò)展表“抗斤,也可避免數(shù)據(jù)量查詢時(shí)造成的“跨頁(yè)”問(wèn)題囚企。
2.垂直分庫(kù): 按業(yè)務(wù)進(jìn)行劃分庫(kù),比如用戶服務(wù)相關(guān)數(shù)據(jù)劃分在用戶庫(kù)瑞眼,商品服務(wù)相關(guān)數(shù)據(jù)劃分到商品庫(kù)等
3.水平分表: 對(duì)數(shù)據(jù)量巨大的表龙宏,可按照某種規(guī)則(如range,time,hash)切分到多張表里面去。但是這些表還是在同一個(gè)庫(kù)中负拟,所以庫(kù)級(jí)別的數(shù)據(jù)庫(kù)操作還是有IO瓶頸烦衣。不建議采用。
4.水平分庫(kù)分表: 將單張表的數(shù)據(jù)切分到多個(gè)服務(wù)器上去掩浙,每個(gè)服務(wù)器具有相應(yīng)的庫(kù)與表花吟,只是表中數(shù)據(jù)集合不同。 水平分庫(kù)分表可解決單機(jī)單庫(kù)性能瓶頸和壓力厨姚,突破IO衅澈、連接數(shù)等問(wèn)題。
水平分庫(kù)分表規(guī)則:
4.1 range: 比如id在0-10000一個(gè)表谬墙,10000-2000一個(gè)表等
4.2 hash: 根據(jù)hash取模id今布,分配到不同的數(shù)據(jù)庫(kù)上
4.3 地理區(qū)域: 根據(jù)數(shù)據(jù)產(chǎn)生的地理位置劃分经备,比如華南地區(qū)、華北地區(qū)等
4.3 根據(jù)時(shí)間:比如一個(gè)月分一張表
分庫(kù)分表方案產(chǎn)品
1.sharding-jdbc: 該產(chǎn)品是當(dāng)當(dāng)開(kāi)源的實(shí)現(xiàn)透明化數(shù)據(jù)庫(kù)分庫(kù)分表框架部默。
2.mysql-proxy:mysql官方提供的中間件產(chǎn)品可以實(shí)現(xiàn)負(fù)載平衡侵蒙,讀寫(xiě)分離,failover等傅蹂。
3.還有mycat纷闺、Atlas等