問題以及解決步驟記錄
由于啟動的問題導(dǎo)致了集群狀態(tài)為 yellow
出現(xiàn)分片UNASSIGNED
(應(yīng)該是所謂的出現(xiàn)了腦裂)
關(guān)閉主節(jié)點后笙以,重新選擇了之前的主節(jié)點之后,數(shù)據(jù)沒這么亂,稍微好點
部分分片一直處于INITIALIZING铐尚,并且分片不均衡辜限,節(jié)點1上之前有分片1 、 3 较沪、4,現(xiàn)在變成了分片 2
curl -s "http://node3:9205/_cat/shards"
...
...
downloads 1 p STARTED 641603 24.2gb 192.168.1.92 node-2
downloads 1 r INITIALIZING 192.168.1.93 node-3
downloads 2 r INITIALIZING 192.168.1.92 node-2
downloads 2 p STARTED 641049 26.5gb 192.168.1.93 node-3
downloads 3 r INITIALIZING 192.168.1.91 node-1
downloads 3 p STARTED 639813 26.3gb 192.168.1.93 node-3
downloads 4 r INITIALIZING 192.168.1.91 node-1
downloads 4 p STARTED 642036 26.1gb 192.168.1.93 node-3
downloads 0 r INITIALIZING 192.168.1.92 node-2
downloads 0 p STARTED 640368 25.6gb 192.168.1.93 node-3
...
...
使用下面的命令關(guān)閉分片復(fù)制
curl -XPUT 'node3:9205/downloads/_settings' -d '{
"index": {
"number_of_replicas": "0"
}
}'
返回
{"acknowledged":true}
此時節(jié)點狀態(tài)變成綠色土至,之前節(jié)點上的備份分片被刪除购对,查看數(shù)據(jù)文件
(目錄:/data/dap/es/data/dap_es/nodes/0/indices/downloads)
之前:
[root@node1 downloads]# du -h --max-dept=1
27G ./1
27G ./3
27G ./4
8.0K ./_state
16K ./2
80G .
之后:
可以看到刪除了之前的分片數(shù)據(jù),并重新遷移分片數(shù)據(jù)陶因,數(shù)據(jù)文件慢慢變大
[root@node1 downloads]# du -h --max-dept=1
8.0K ./_state
13G ./0
13G .
此時狀態(tài)為:RELOCATING
curl -s "http://node3:9205/_cat/shards"
...
...
downloads 1 p STARTED 641603 24.2gb 192.168.1.92 node-2
downloads 2 p RELOCATING 641049 26.5gb 192.168.1.93 node-3 -> 192.168.1.92 MNskHyFsQfC0PixAx-3hBQ node-2
downloads 3 p STARTED 639813 26.3gb 192.168.1.93 node-3
downloads 4 p STARTED 642036 26.1gb 192.168.1.93 node-3
downloads 0 p RELOCATING 640368 25.6gb 192.168.1.93 node-3 -> 192.168.1.91 pkjX2YIbTnm3A49re8COPg node-1
...
ES將逐個分片進行遷移
downloads 1 p STARTED 641603 24.2gb 192.168.1.92 node-2
downloads 2 p RELOCATING 641049 26.5gb 192.168.1.93 node-3 -> 192.168.1.92 MNskHyFsQfC0PixAx-3hBQ node-2
downloads 3 p STARTED 639813 26.3gb 192.168.1.93 node-3
downloads 4 p STARTED 642036 26.1gb 192.168.1.93 node-3
downloads 0 p STARTED 640368 25.6gb 192.168.1.91 node-1
可以看到節(jié)點1已經(jīng)遷移完成
等待遷移完成
此時在ES的head插件上可以看到全部變成綠色了骡苞,之前遷移的分片的紫色的
再將復(fù)制分片數(shù)改為1
curl -XPUT 'node3:9205/downloads/_settings' -d '{
"index": {
"number_of_replicas": "1"
}
}'
返回
{"acknowledged":true}
查看狀態(tài)
curl -s "http://node3:9205/_cat/shards"
...
...
downloads 1 p STARTED 641603 24.2gb 192.168.1.92 node-2
downloads 1 r INITIALIZING 192.168.1.91 node-1
downloads 2 p STARTED 641049 26.5gb 192.168.1.92 node-2
downloads 2 r INITIALIZING 192.168.1.93 node-3
downloads 3 r INITIALIZING 192.168.1.92 node-2
downloads 3 p STARTED 639813 26.3gb 192.168.1.93 node-3
downloads 4 r INITIALIZING 192.168.1.91 node-1
downloads 4 p STARTED 642036 26.1gb 192.168.1.93 node-3
downloads 0 p STARTED 640368 25.6gb 192.168.1.91 node-1
downloads 0 r INITIALIZING 192.168.1.93 node-3
...
...
系統(tǒng)將再次變成yellow狀態(tài)
再查看數(shù)據(jù)文件,可以看到備份的數(shù)據(jù)文件再增長
完了之后就變成綠色狀態(tài)了
處理方法2
另外一種處理方式楷扬,當(dāng)出現(xiàn)UNASSIGNED解幽,強行指定
curl -s "http://node3:9205/_cat/shards" | grep UNASSIGNED
curl -XPOST 'node3:9205/_cluster/reroute' -d '{
"commands" : [ {
"allocate" : {
"index" : "downloads",
"shard" : 4,
"node" : "node-1",
"allow_primary" : true
}
}
]
}'
5.0 之后的ES 改成了 allocate_replica
{
"commands": [
{
"allocate_replica": {
"index": "mail_store",
"shard": 1,
"node": "slave2",
}
}
]
}
將未分配的副本分片分配給節(jié)點
注意如果主分片也未分配,則需要先分配主分片
將主分片分配給包含陳舊副本的節(jié)點
{
"commands": [
{
"allocate_stale_primary": {
"index": "mail_store",
"shard": 1,
"node": "slave2",
"accept_data_loss": true
}
}
]
}
使用此命令可能會導(dǎo)致所提供的分片ID發(fā)生數(shù)據(jù)丟失烘苹。如果稍后具有良好數(shù)據(jù)副本的節(jié)點重新加入群集躲株,則該數(shù)據(jù)將被使用此命令強制分配的舊副本數(shù)據(jù)覆蓋。為確保這些影響得到充分理解镣衡,該命令需要accept_data_loss明確設(shè)置專用字段才能true使其工作霜定。
還有一個命令是:allocate_empty_primary
將空主分片分配給節(jié)點。
使用此命令會導(dǎo)致索引到此分片中的所有數(shù)據(jù)(如果它先前已啟動)完全丟失廊鸥。如果稍后具有數(shù)據(jù)副本的節(jié)點重新加入群集望浩,則該數(shù)據(jù)將被刪除!為確保這些影響得到充分理解惰说,該命令需要accept_data_loss明確設(shè)置專用字段才能true使其工作磨德。
其他資料
動態(tài)設(shè)置es索引副本數(shù)量
curl -XPUT 'http://node3:9200/xxindex/_settings' -d '{
"number_of_replicas" : 2
}'
設(shè)置es不自動分配分片
curl -XPUT 'http://node3:9200/xxindex/_settings' -d '{
"cluster.routing.allocation.disable_allocation" : true
}'
需要先關(guān)閉索引
手動移動分片
curl -XPOST "http://node3:9200/_cluster/reroute' -d '{
"commands" : [{
"move" : {
"index" : "xlog",
"shard" : 0,
"from_node" : "es-0",
"to_node" : "es-3"
}
}]
}'
手動分配分片
curl -XPOST "http://node3:9200/_cluster/reroute' -d '{
"commands" : [{
"allocate" : {
"index" : ".kibana",
"shard" : 0,
"node" : "es-2",
}
}]
}'
取消分配
curl -XPOST "http://ESnode:9200/_cluster/reroute" -d '{
"commands" : [ {
"cancel" : {
"index" : "ops",
"shard" : 0,
"node" : "es_node_one"
}
} ]
}'
主分片和啟動狀態(tài)下的分片不能取消