MongoDB Sharding Cluster 分片集群

集群基本結(jié)構(gòu)
搭建
分片策略應(yīng)用
balancer管理

一, 圖解與規(guī)劃

1. 圖解

2. 規(guī)劃 10個實例:38017-38026

(1)configserver:
3臺構(gòu)成的復(fù)制集(1主兩從,不支持arbiter)38018-38020(復(fù)制集名字configsvr)

(2)shard節(jié)點:
sh1:38021-23 (1主兩從,其中一個節(jié)點為arbiter,復(fù)制集名字sh1)
sh2:38024-26 (1主兩從议泵,其中一個節(jié)點為arbiter数初,復(fù)制集名字sh2)

二, 配置過程

1. shard復(fù)制集配置:

  1. 目錄創(chuàng)建:

    mkdir -p /mongodb/38021/conf  /mongodb/38021/log  /mongodb/38021/data
    mkdir -p /mongodb/38022/conf  /mongodb/38022/log  /mongodb/38022/data
    mkdir -p /mongodb/38023/conf  /mongodb/38023/log  /mongodb/38023/data
    mkdir -p /mongodb/38024/conf  /mongodb/38024/log  /mongodb/38024/data
    mkdir -p /mongodb/38025/conf  /mongodb/38025/log  /mongodb/38025/data
    mkdir -p /mongodb/38026/conf  /mongodb/38026/log  /mongodb/38026/data
    
    
  2. 修改配置文件:

    sh1:
    
    cat >> /mongodb/38021/conf/mongodb.conf <<EOF
    systemLog:
      destination: file
      path: /mongodb/38021/log/mongodb.log   
      logAppend: true
    storage:
      journal:
        enabled: true
      dbPath: /mongodb/38021/data
      directoryPerDB: true
      #engine: wiredTiger
      wiredTiger:
        engineConfig:
          cacheSizeGB: 1
          directoryForIndexes: true
        collectionConfig:
          blockCompressor: zlib
        indexConfig:
          prefixCompression: true
    net:
      port: 38021
    replication:
      oplogSizeMB: 2048
      replSetName: sh1
    sharding:
      clusterRole: shardsvr
    processManagement: 
      fork: true
    EOF
    
    cp  /mongodb/38021/conf/mongodb.conf  /mongodb/38022/conf/
    cp  /mongodb/38021/conf/mongodb.conf  /mongodb/38023/conf/
    
    sed 's#38021#38022#g' /mongodb/38022/conf/mongodb.conf -i
    sed 's#38021#38023#g' /mongodb/38023/conf/mongodb.conf -i
    
    sh2:
    
    cat >> /mongodb/38024/conf/mongodb.conf << EOF
    systemLog:
      destination: file
      path: /mongodb/38024/log/mongodb.log   
      logAppend: true
    storage:
      journal:
        enabled: true
      dbPath: /mongodb/38024/data
      directoryPerDB: true
      wiredTiger:
        engineConfig:
          cacheSizeGB: 1
          directoryForIndexes: true
        collectionConfig:
          blockCompressor: zlib
        indexConfig:
          prefixCompression: true
    net:
      port: 38024
    replication:
      oplogSizeMB: 2048
      replSetName: sh2
    sharding:
      clusterRole: shardsvr
    processManagement: 
      fork: true
    EOF
    
    cp  /mongodb/38024/conf/mongodb.conf  /mongodb/38025/conf/
    cp  /mongodb/38024/conf/mongodb.conf  /mongodb/38026/conf/
    sed 's#38024#38025#g' /mongodb/38025/conf/mongodb.conf -i
    sed 's#38024#38026#g' /mongodb/38026/conf/mongodb.conf -i
    
    
  3. 啟動所有節(jié)點

    mongod -f  /mongodb/38021/conf/mongodb.conf 
    mongod -f  /mongodb/38022/conf/mongodb.conf 
    mongod -f  /mongodb/38023/conf/mongodb.conf 
    mongod -f  /mongodb/38024/conf/mongodb.conf 
    mongod -f  /mongodb/38025/conf/mongodb.conf 
    mongod -f  /mongodb/38026/conf/mongodb.conf 
    
    
  4. 搭建復(fù)制集:

    mongo --port 38021
    use  admin
    config = {_id: 'sh1', members: [
               {_id: 0, host: '10.0.0.200:38021'},
               {_id: 1, host: '10.0.0.200:38022'},
               {_id: 2, host: '10.0.0.200:38023',"arbiterOnly":true}]
             }
    
    rs.initiate(config)
    
    mongo --port 38024 
    use admin
    config = {_id: 'sh2', members: [
               {_id: 0, host: '10.0.0.200:38024'},
               {_id: 1, host: '10.0.0.200:38025'},
               {_id: 2, host: '10.0.0.200:38026',"arbiterOnly":true}]
               }
    
    rs.initiate(config)
    
    

2. config節(jié)點配置:

  1. 目錄創(chuàng)建:

    mkdir -p /mongodb/38018/conf  /mongodb/38018/log  /mongodb/38018/data
    mkdir -p /mongodb/38019/conf  /mongodb/38019/log  /mongodb/38019/data
    mkdir -p /mongodb/38020/conf  /mongodb/38020/log  /mongodb/38020/data
    
    
  2. 修改配置文件:

    cat >> /mongodb/38018/conf/mongodb.conf << EOF
    systemLog:
      destination: file
      path: /mongodb/38018/log/mongodb.conf
      logAppend: true
    storage:
      journal:
        enabled: true
      dbPath: /mongodb/38018/data
      directoryPerDB: true
      #engine: wiredTiger
      wiredTiger:
        engineConfig:
          cacheSizeGB: 1
          directoryForIndexes: true
        collectionConfig:
          blockCompressor: zlib
        indexConfig:
          prefixCompression: true
    net:
      port: 38018
    replication:
      oplogSizeMB: 2048
      replSetName: configReplSet
    sharding:
      clusterRole: configsvr
    processManagement: 
      fork: true
    EOF
    
    cp /mongodb/38018/conf/mongodb.conf /mongodb/38019/conf/
    cp /mongodb/38018/conf/mongodb.conf /mongodb/38020/conf/
    sed 's#38018#38019#g' /mongodb/38019/conf/mongodb.conf -i
    sed 's#38018#38020#g' /mongodb/38020/conf/mongodb.conf -i
    
    
  3. 啟動節(jié)點谢翎,并配置復(fù)制集

    mongod -f /mongodb/38018/conf/mongodb.conf 
    mongod -f /mongodb/38019/conf/mongodb.conf 
    mongod -f /mongodb/38020/conf/mongodb.conf 
    
    mongo --port 38018
    use  admin
    
    config = {_id: 'configReplSet', members: [
                              {_id: 0, host: '10.0.0.200:38018'},
                              {_id: 1, host: '10.0.0.200:38019'},
                              {_id: 2, host: '10.0.0.200:38020'}]
               }
    rs.initiate(config)
    
    注:configserver 可以是一個節(jié)點唆铐,官方建議復(fù)制集淮菠。
    configserver不能有arbiter遍愿。
    新版本中存淫,要求必須是復(fù)制集。
    注:mongodb 3.4之后错览,雖然要求config server為replica set纫雁,但是不支持arbiter
    
    

3. mongos節(jié)點配置:

  1. 創(chuàng)建目錄:

    mkdir -p /mongodb/38017/conf  /mongodb/38017/log 
    
    
  2. 配置文件:

    cat >> /mongodb/38017/conf/mongos.conf <<EOF
    systemLog:
      destination: file
      path: /mongodb/38017/log/mongos.log
      logAppend: true
    net:
      port: 38017
    sharding:
      configDB: configReplSet/10.0.0.200:38018,10.0.0.200:38019,10.0.0.200:38020
    processManagement: 
      fork: true
    EOF
    
    
  3. 啟動mongos

    mongos -f /mongodb/38017/conf/mongos.conf
    
    

三. 分片集群操作:

連接到其中一個mongos(10.0.0.200),做以下配置

  1. 連接到mongs的admin數(shù)據(jù)庫

    # su - mongod
    $ mongo 10.0.0.200:38017/admin
    
    
  2. 添加分片

    db.runCommand( { addshard : "sh1/10.0.0.200:38021,10.0.0.200:38022,10.0.0.200:38023",name:"shard1"} )
    db.runCommand( { addshard : "sh2/10.0.0.200:38024,10.0.0.200:38025,10.0.0.200:38026",name:"shard2"} )
    
    
  3. 列出分片

    db.runCommand( { listshards : 1 } )
    
    
  4. 整體狀態(tài)查看

    sh.status();
    
    

四. 使用分片集群

1. RANGE分片配置及測試( 用的不多, 主要用hash分片 )

test庫下的vast大表進行手工分片

  1. 激活數(shù)據(jù)庫分片功能
mongo --port 38017 admin

admin>  ( { enablesharding : "數(shù)據(jù)庫名稱" } )

eg:
admin> db.runCommand( { enablesharding : "test" } )

  1. 指定分片建對集合分片
eg:范圍片鍵
--創(chuàng)建索引
use test
> db.vast.ensureIndex( { id: 1 } )

--開啟分片
use admin
> db.runCommand( { shardcollection : "test.vast",key : {id: 1} } )

  1. 集合分片驗證
use test
test> for(i=1;i<500000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }

test> db.vast.stats()

  1. 分片結(jié)果測試
shard1:
mongo --port 38021
db.vast.count();

shard2:
mongo --port 38024
db.vast.count();

2. Hash分片例子:(主要用這種)

對oldguo庫下的vast大表進行hash

創(chuàng)建哈希索引

  1. 對于oldguo開啟分片功能

    mongo --port 38017 admin
    use admin
    admin> db.runCommand( { enablesharding : "oldguo" } )
    
    
  2. 對于oldguo庫下的vast表建立hash索引

    use oldguo
    oldguo> db.vast.ensureIndex( { id: "hashed" } )
    
    
  3. 開啟分片

    use admin
    admin > sh.shardCollection( "oldguo.vast", { id: "hashed" } )
    
    
  4. 錄入10w行數(shù)據(jù)測試

    use oldguo
    for(i=1;i<=100000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }
    
    
  5. hash分片結(jié)果測試

    mongo --port 38021
    use oldguo
    db.vast.count();
    
    mongo --port 38024
    use oldguo
    db.vast.count();
    
    

3. 判斷是否Shard集群

admin> db.runCommand({ isdbgrid : 1})

4. 列出所有分片信息

admin> db.runCommand({ listshards : 1})

5. 列出開啟分片的數(shù)據(jù)庫

use config
config> db.databases.find( { "partitioned": true } )
或者:
config> db.databases.find() //列出所有數(shù)據(jù)庫分片情況

6. 查看分片的片鍵

db.collections.find().pretty()

7. 查看分片的詳細信息

admin> db.printShardingStatus()
或
admin> sh.status()

8. 刪除分片節(jié)點(謹(jǐn)慎)

(1)確認(rèn)blance是否在工作
sh.getBalancerState()

(2)刪除shard2節(jié)點(謹(jǐn)慎)
mongos> db.runCommand( { removeShard: "shard2" } )

注意:刪除操作一定會立即觸發(fā)blancer倾哺。

9. balancer操作

介紹:
mongos的一個重要功能轧邪,自動巡查所有shard節(jié)點上的chunk的情況刽脖,自動做chunk遷移。
什么時候工作忌愚?
1曲管、自動運行,會檢測系統(tǒng)不繁忙的時候做遷移
2硕糊、在做節(jié)點刪除的時候院水,立即開始遷移工作
3、balancer只能在預(yù)設(shè)定的時間窗口內(nèi)運行

有需要時可以關(guān)閉和開啟blancer(備份的時候)
mongos> sh.stopBalancer()
mongos> sh.startBalancer()

10. 自定義 自動平衡進行的時間段

https://docs.mongodb.com/manual/tutorial/manage-sharded-cluster-balancer/#schedule-the-balancing-window
// connect to mongos

use config
sh.setBalancerState( true )

db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "3:00", stop : "5:00" } } }, true )

sh.getBalancerWindow()
sh.status()

五. 關(guān)于集合的balance(了解下)

關(guān)閉某個集合的balance
sh.disableBalancing("students.grades")
打開某個集合的balance
sh.enableBalancing("students.grades")
確定某個集合的balance是開啟或者關(guān)閉
db.getSiblingDB("config").collections.findOne({_id : "students.grades"}).noBalance;

作者:aq_wzj
鏈接:http://www.reibang.com/p/af77d3b45556
來源:簡書
簡書著作權(quán)歸作者所有简十,任何形式的轉(zhuǎn)載都請聯(lián)系作者獲得授權(quán)并注明出處檬某。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市螟蝙,隨后出現(xiàn)的幾起案子恢恼,更是在濱河造成了極大的恐慌,老刑警劉巖胰默,帶你破解...
    沈念sama閱讀 222,590評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件场斑,死亡現(xiàn)場離奇詭異,居然都是意外死亡牵署,警方通過查閱死者的電腦和手機漏隐,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來奴迅,“玉大人青责,你說我怎么就攤上這事∪【撸” “怎么了爽柒?”我有些...
    開封第一講書人閱讀 169,301評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長者填。 經(jīng)常有香客問我,道長做葵,這世上最難降的妖魔是什么占哟? 我笑而不...
    開封第一講書人閱讀 60,078評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮酿矢,結(jié)果婚禮上榨乎,老公的妹妹穿的比我還像新娘。我一直安慰自己瘫筐,他們只是感情好蜜暑,可當(dāng)我...
    茶點故事閱讀 69,082評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著策肝,像睡著了一般肛捍。 火紅的嫁衣襯著肌膚如雪隐绵。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,682評論 1 312
  • 那天拙毫,我揣著相機與錄音依许,去河邊找鬼。 笑死缀蹄,一個胖子當(dāng)著我的面吹牛峭跳,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播缺前,決...
    沈念sama閱讀 41,155評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼蛀醉,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了衅码?” 一聲冷哼從身側(cè)響起拯刁,我...
    開封第一講書人閱讀 40,098評論 0 277
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎肆良,沒想到半個月后筛璧,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,638評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡惹恃,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,701評論 3 342
  • 正文 我和宋清朗相戀三年夭谤,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片巫糙。...
    茶點故事閱讀 40,852評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡朗儒,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出参淹,到底是詐尸還是另有隱情醉锄,我是刑警寧澤,帶...
    沈念sama閱讀 36,520評論 5 351
  • 正文 年R本政府宣布浙值,位于F島的核電站恳不,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏开呐。R本人自食惡果不足惜烟勋,卻給世界環(huán)境...
    茶點故事閱讀 42,181評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望筐付。 院中可真熱鬧卵惦,春花似錦、人聲如沸瓦戚。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽较解。三九已至畜疾,卻和暖如春赴邻,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背庸疾。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評論 1 274
  • 我被黑心中介騙來泰國打工乍楚, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人届慈。 一個月前我還...
    沈念sama閱讀 49,279評論 3 379
  • 正文 我出身青樓徒溪,卻偏偏與公主長得像,于是被迫代替她去往敵國和親金顿。 傳聞我的和親對象是個殘疾皇子臊泌,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,851評論 2 361

推薦閱讀更多精彩內(nèi)容