文章結(jié)構(gòu)
一仗阅、 安裝部署
- 準(zhǔn)備集群基礎(chǔ)配置
- ceph-mon配置
- 啟動ceph-mon服務(wù)
當(dāng)前在虛擬機(jī)monosd(192.168.10.42)上
1. 準(zhǔn)備集基礎(chǔ)配置
1-1. 準(zhǔn)備集群的唯一ID
bash> uuidgen //611b25ed-0794-43a5-954c-26e2ba4191a3
1-2. 創(chuàng)建monitor的令牌環(huán)
bash> ceph-authtool --create-keyring /tmp/ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *'
1-3. 創(chuàng)建管理員令牌環(huán)
bash> ceph-authtool --create-keyring /etc/ceph/ceph.client.admin.keyring --gen-key -n client.admin --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow *' --cap mgr 'allow *'
1-4. 創(chuàng)建bootstrap-osd令牌環(huán)
bash> ceph-authtool --create-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring --gen-key -n client.bootstrap-osd --cap mon 'profile bootstrap-osd' --cap mgr 'allow r'
2. ceph-mon配置
2-1. 將創(chuàng)建的1-3褥蚯,1-4創(chuàng)建的令牌環(huán)導(dǎo)入只monitor令牌環(huán)中
bash> ceph-authtool /tmp/ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring
bash> ceph-authtool /tmp/ceph.mon.keyring --import-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
2-2. 更改monitor令牌環(huán)的擁有者
bash> chown ceph:ceph /tmp/ceph.mon.keyring
2-3. 創(chuàng)建monmap
bash> monmaptool --create --add monosd 192.168.10.42 --fsid 611b25ed-0794-43a5-954c-26e2ba4191a3 /tmp/monmap
2-4. 創(chuàng)建monitor數(shù)據(jù)目錄
bash> sudo -u ceph mkdir /var/lib/ceph/mon/ceph-monosd
2-5. 使用monitor的令牌及map配置monitor服務(wù)節(jié)點如該步驟出錯拔创,則先將2.6執(zhí)行完后再來執(zhí)行此步驟
bash> sudo -u ceph ceph-mon --mkfs -i monosd --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring
將以上所有命令整理后如下:
bash> uuidgen //611b25ed-0794-43a5-954c-26e2ba4191a3
bash> ceph-authtool --create-keyring /tmp/ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *'
bash> ceph-authtool --create-keyring /etc/ceph/ceph.client.admin.keyring --gen-key -n client.admin --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow *' --cap mgr 'allow *'
bash> ceph-authtool --create-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring --gen-key -n client.bootstrap-osd --cap mon 'profile bootstrap-osd' --cap mgr 'allow r'
bash> ceph-authtool /tmp/ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring
bash> ceph-authtool /tmp/ceph.mon.keyring --import-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
bash> chown ceph:ceph /tmp/ceph.mon.keyring
bash> monmaptool --create --add monosd 192.168.10.42 --fsid 611b25ed-0794-43a5-954c-26e2ba4191a3 /tmp/monmap
bash> sudo -u ceph mkdir /var/lib/ceph/mon/ceph-monosd
bash> sudo -u ceph ceph-mon --mkfs -i monosd --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring
總共創(chuàng)建文件:
1. /tmp/ceph.mon.keyring //1-2
2. /etc/ceph/ceph.client.admin.keyring //1-3
3. /var/lib/ceph/bootstrap-osd/ceph.keyring //1-4
4. /tmp/monmap //2-3
2-6. 創(chuàng)建配置文件,并根據(jù)信息完善
vim /etc/ceph/ceph.conf
[global]
fsid = 611b25ed-0794-43a5-954c-26e2ba4191a3
mon initial members = monosd
mon host = 192.168.10.42
public network = 192.168.10.0/24
auth cluster required = cephx
auth service required = cephx
auth client required = cephx
osd journal size = 1024
osd pool default size = 3
osd pool default min size = 2
osd pool default pg num = 100
osd pool default pgp num = 100
osd crush chooseleaf type = 1
PG與PGP的計算方法:
PG和PGP數(shù)量一定要根據(jù)OSD的數(shù)量進(jìn)行調(diào)整:
Total PGs = (Total_number_of_OSD * 100) / max_replication_count
PGs = (3*100)/3
3. 啟動ceph-mon服務(wù)
3-1. 啟動ceph-mon服務(wù)
bash> systemctl start ceph-mon@monosd
bash> ceph mon enable-msgr2
bash> systemctl status ceph-mon@monosd
日志文件:/var/log/ceph/ceph.log 、/var/log/ceph/ceph-mon.monosd.log
3-2. 查看ceph集群狀態(tài)
bash> ceph -s
---
cluster:
id: 611b25ed-0794-43a5-954c-26e2ba4191a3
health: HEALTH_OK
services:
mon: 1 daemons, quorum monosd (age 5m)
mgr: no daemons active
osd: 0 osds: 0 up, 0 in
data:
pools: 0 pools, 0 pgs
objects: 0 objects, 0 B
usage: 0 B used, 0 B / 0 B avail
pgs:
啟動無誤以后,添加到開機(jī)啟動:systemctl enable ceph-mon@monosd
Ceph Monitor中包含5大Map意敛,統(tǒng)稱為集群Map:
Monitor Map馅巷。
Monitor Map包括有關(guān)monitor節(jié)點端到端的信息膛虫,其中包括Ceph集群ID草姻,監(jiān)控主機(jī)名和IP地址和端口號,它還存儲了當(dāng)前版本信息以及最新更改信息稍刀,可以通過以下命令查看monitor map撩独。->ceph mon dump
OSD Map。
OSD Map包括一些常用的信息账月,如集群ID综膀,創(chuàng)建OSD Map的版本信息和最后修改信息,以及pool相關(guān)信息局齿,pool的名字剧劝、pool的ID、類型抓歼,副本數(shù)目以及PGP讥此,還包括OSD信息,如數(shù)量谣妻、狀態(tài)萄喳、權(quán)重、最新的清潔間隔和OSD主機(jī)信息蹋半∷蓿可以通過執(zhí)行以下命令查看集群的OSD Map。-> ceph osd dump
PG Map减江。
PG Map包括當(dāng)前PG版本染突、時間戳、最新的OSD Map的版本信息辈灼、空間使用比例份企,以及接近占滿比例信息,同時茵休,也包括每個PG ID薪棒、對象數(shù)目、狀態(tài)榕莺、OSD的狀態(tài)以及深度清理的詳細(xì)信息俐芯,可以通過以下命令來查看PG Map。->ceph pg dump
CRUSH Map钉鸯。
CRUSH Map包括集群存儲設(shè)備信息吧史,故障域?qū)哟谓Y(jié)構(gòu)和存儲數(shù)據(jù)時定義失敗域規(guī)則信息;可以通過以下命令查看CRUSH Map唠雕。->ceph osd crush dump
MDS Map贸营。
MDS Map包括存儲當(dāng)前MDS Map的版本信息吨述、創(chuàng)建當(dāng)前Map的信息、修改時間钞脂、數(shù)據(jù)和元數(shù)據(jù)POOL ID揣云、集群MDS數(shù)目和MDS狀態(tài),可通過以下命令查看集群MDS Map信息冰啃。->ceph mds dump