MongoDB單機分片集群配置

一佩伤、規(guī)劃

服務器IP：172.18.210.1
mongos：20000
config server：21001-21003（1主兩從宵蛀，不支持arbiter，復制集名字configReplSet）
shard節(jié)點：
shard1：22011-22013（1主兩從泄伪，其中一個節(jié)點為arbiter，復制集名字shard1）
shard2：22021-22023（1主兩從，其中一個節(jié)點為arbiter扮碧，復制集名字shard2）

二、配置

1. shard復制集配置：

1.1. 目錄創(chuàng)建：

# mkdir -p /mongodb/22011/conf /mongodb/22011/log /mongodb/22011/data
# mkdir -p /mongodb/22012/conf /mongodb/22012/log /mongodb/22012/data
# mkdir -p /mongodb/22013/conf /mongodb/22013/log /mongodb/22013/data
# mkdir -p /mongodb/22021/conf /mongodb/22021/log /mongodb/22021/data
# mkdir -p /mongodb/22022/conf /mongodb/22022/log /mongodb/22022/data
# mkdir -p /mongodb/22023/conf /mongodb/22023/log /mongodb/22023/data

1.2. 修改配置文件：

shard1：

# cat >> /mongodb/22011/conf/mongodb.conf <<EOF
systemLog:
  destination: file
  path: /mongodb/22011/log/mongodb.log   
  logAppend: true
storage:
  journal:
    enabled: true
  dbPath: /mongodb/22011/data
  directoryPerDB: true
  #engine: wiredTiger
  wiredTiger:
    engineConfig:
      cacheSizeGB: 1
      directoryForIndexes: true
    collectionConfig:
      blockCompressor: zlib
    indexConfig:
      prefixCompression: true
net:
  port: 22011
replication:
  oplogSizeMB: 2048
  replSetName: shard1
sharding:
  clusterRole: shardsvr
processManagement: 
  fork: true
EOF

# cp /mongodb/22011/conf/mongodb.conf /mongodb/22012/conf/
# cp /mongodb/22011/conf/mongodb.conf /mongodb/22013/conf/
# sed 's#22011#22012#g' /mongodb/22012/conf/mongodb.conf -i
# sed 's#22011#22013#g' /mongodb/22013/conf/mongodb.conf -i

shard2：

# cat >> /mongodb/22021/conf/mongodb.conf << EOF
systemLog:
  destination: file
  path: /mongodb/22021/log/mongodb.log   
  logAppend: true
storage:
  journal:
    enabled: true
  dbPath: /mongodb/22021/data
  directoryPerDB: true
  wiredTiger:
    engineConfig:
      cacheSizeGB: 1
      directoryForIndexes: true
    collectionConfig:
      blockCompressor: zlib
    indexConfig:
      prefixCompression: true
net:
  port: 22021
replication:
  oplogSizeMB: 2048
  replSetName: shard2
sharding:
  clusterRole: shardsvr
processManagement: 
  fork: true
EOF

# cp /mongodb/22021/conf/mongodb.conf /mongodb/22022/conf/
# cp /mongodb/22021/conf/mongodb.conf /mongodb/22023/conf/
# sed 's#22021#22022#g' /mongodb/22022/conf/mongodb.conf -i
# sed 's#22021#22023#g' /mongodb/22023/conf/mongodb.conf -i

1.3. 啟動所有節(jié)點：

# mongod -f /mongodb/22011/conf/mongodb.conf 
# mongod -f /mongodb/22012/conf/mongodb.conf 
# mongod -f /mongodb/22013/conf/mongodb.conf 
# mongod -f /mongodb/22021/conf/mongodb.conf 
# mongod -f /mongodb/22022/conf/mongodb.conf 
# mongod -f /mongodb/22023/conf/mongodb.conf

1.4. 搭建復制集：

# mongo --port 22011
use admin
config = {_id: 'shard1', members: [
           {_id: 0, host: '172.18.210.1:22011'},
           {_id: 1, host: '172.18.210.1:22012'},
           {_id: 2, host: '172.18.210.1:22013',"arbiterOnly":true}]
         }
rs.initiate(config)
# mongo --port 22021
use admin
config = {_id: 'shard2', members: [
           {_id: 0, host: '172.18.210.1:22021'},
           {_id: 1, host: '172.18.210.1:22022'},
           {_id: 2, host: '172.18.210.1:22023',"arbiterOnly":true}]
           }
  rs.initiate(config)

2. config節(jié)點配置：

2.1. 目錄創(chuàng)建：

# mkdir -p /mongodb/21001/conf /mongodb/21001/log /mongodb/21001/data
# mkdir -p /mongodb/21002/conf /mongodb/21002/log /mongodb/21002/data
# mkdir -p /mongodb/21003/conf /mongodb/21003/log /mongodb/21003/data

2.2. 修改配置文件：

# cat >> /mongodb/21001/conf/mongodb.conf << EOF
systemLog:
  destination: file
  path: /mongodb/21001/log/mongodb.conf
  logAppend: true
storage:
  journal:
    enabled: true
  dbPath: /mongodb/21001/data
  directoryPerDB: true
  #engine: wiredTiger
  wiredTiger:
    engineConfig:
      cacheSizeGB: 1
      directoryForIndexes: true
    collectionConfig:
      blockCompressor: zlib
    indexConfig:
      prefixCompression: true
net:
  port: 21001
replication:
  oplogSizeMB: 2048
  replSetName: configReplSet
sharding:
  clusterRole: configsvr
processManagement: 
  fork: true
EOF

# cp /mongodb/21001/conf/mongodb.conf /mongodb/21002/conf/
# cp /mongodb/21001/conf/mongodb.conf /mongodb/21003/conf/
# sed 's#21001#21002#g' /mongodb/21002/conf/mongodb.conf -i
# sed 's#21001#21003#g' /mongodb/21003/conf/mongodb.conf -i

2.3. 啟動節(jié)點杏糙，并配置復制集

# mongod -f /mongodb/21001/conf/mongodb.conf 
# mongod -f /mongodb/21002/conf/mongodb.conf 
# mongod -f /mongodb/21003/conf/mongodb.conf 

# mongo --port 21001
use  admin
config = {_id: 'configReplSet', members: [
                          {_id: 0, host: '172.18.210.1:21001'},
                          {_id: 1, host: '172.18.210.1:21002'},
                          {_id: 2, host: '172.18.210.1:21003'}]
           }
rs.initiate(config)

注：configserver 可以是一個節(jié)點慎王，官方建議復制集。configserver不能有arbiter宏侍。新版本中赖淤，要求必須是復制集。
注：mongodb 3.4之后谅河，雖然要求config server為replica set咱旱，但是不支持arbiter

3. mongos節(jié)點配置：

3.1. 創(chuàng)建目錄：

# mkdir -p /mongodb/20000/conf /mongodb/20000/log

3.2. 配置文件：

# cat >> /mongodb/20000/conf/mongos.conf <<EOF
systemLog:
  destination: file
  path: /mongodb/20000/log/mongos.log
  logAppend: true
net:
  port: 20000
sharding:
  configDB: configReplSet/172.18.210.1:21001,172.18.210.1:21002,172.18.210.1:21003
processManagement: 
  fork: true
EOF

3.3. 啟動mongos

# mongos -f /mongodb/20000/conf/mongos.conf

三确丢、分片集群操作：

連接到其中一個mongos（172.18.210.1），做以下配置

1. 連接到mongs的admin數據庫

# su - mongod
$ mongo 172.18.210.1:20000/admin

2. 添加分片

db.runCommand( { addshard : "shard1/172.18.210.1:22011,172.18.210.1:22012,172.18.210.1:22013",name:"shard1"} )
db.runCommand( { addshard : "shard2/172.18.210.1:22021,172.18.210.1:22022,172.18.210.1:22023",name:"shard2"} )

3. 列出分片

db.runCommand( { listshards : 1 } )

4. 整體狀態(tài)查看

sh.status();

四吐限、使用分片集群

1. RANGE分片配置及測試( 用的不多, 主要用hash分片 )

test庫下的vast大表進行手工分片

1.1. 激活數據庫分片功能

# mongo --port 20000 admin
admin> db.runCommand( { enablesharding : "test" } )

1.2. 指定分片鍵對集合分片

--創(chuàng)建索引
use test
> db.vast.ensureIndex( { id: 1 } )
--開啟分片
use admin
> db.runCommand( { shardcollection : "test.vast",key : {id: 1} } )

1.3. 集合分片驗證

use test
test> for(i=1;i<500000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }
test> db.vast.stats()

1.4. 分片結果測試

--shard1:
# mongo --port 22011 test
db.vast.count();
--shard2:
# mongo --port 22021 test
db.vast.count();

2. Hash分片例子：(主要用這種)

對oldguo庫下的vast大表進行hash

2.1. 激活數據庫分片功能

# mongo --port 20000 admin
admin> db.runCommand( { enablesharding : "oldguo" } )

2.2. 指定分片鍵對集合分片

--創(chuàng)建hash索引
use oldguo
oldguo> db.vast.ensureIndex( { id: "hashed" } )
--開啟分片
use admin
admin > sh.shardCollection( "oldguo.vast", { id: "hashed" } )

2.3. 集合分片驗證

use oldguo
for(i=1;i<=100000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }

2.4. 分片結果測試

# mongo --port 22011 oldguo
db.vast.count();

# mongo --port 22021 oldguo
db.vast.count();

3. 判斷是否Shard集群

# mongo --port 20000 admin
admin> db.runCommand({ isdbgrid : 1})

4. 列出所有分片信息

admin> db.runCommand({ listshards : 1})

5. 列出開啟分片的數據庫

use config
config> db.databases.find( { "partitioned": true } )
或者：
config> db.databases.find() //列出所有數據庫分片情況

6. 查看分片的片鍵

db.collections.find().pretty()

7. 查看分片的詳細信息

admin> db.printShardingStatus()
或
admin> sh.status()

8. 刪除分片節(jié)點（謹慎）

--確認blance是否在工作
sh.getBalancerState()
--刪除shard2節(jié)點(謹慎)
mongos> db.runCommand( { removeShard: "shard2" } )

注意：刪除操作一定會立即觸發(fā)blancer鲜侥。

9. balancer操作

介紹：
mongos的一個重要功能，自動巡查所有shard節(jié)點上的chunk的情況诸典，自動做chunk遷移描函。
什么時候工作？
1狐粱、自動運行舀寓，會檢測系統(tǒng)不繁忙的時候做遷移
2、在做節(jié)點刪除的時候脑奠，立即開始遷移工作
3基公、balancer只能在預設定的時間窗口內運行
有需要時可以關閉和開啟blancer（備份的時候）

mongos> sh.stopBalancer()
mongos> sh.startBalancer()

10. 自定義自動平衡進行的時間段

https://docs.mongodb.com/manual/tutorial/manage-sharded-cluster-balancer/#schedule-the-balancing-window

// connect to mongos
use config
sh.setBalancerState( true )
db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "3:00", stop : "5:00" } } }, true )
sh.getBalancerWindow()
sh.status()

五. 關于集合的balance（了解下）

關閉某個集合的balance

sh.disableBalancing("students.grades")

打開某個集合的balance

sh.enableBalancing("students.grades")

確定某個集合的balance是開啟或者關閉

db.getSiblingDB("config").collections.findOne({_id : "students.grades"}).noBalance;