概述
RC玉罐、Deployment屈嗤、DaemonSet都是面向無狀態(tài)的服務(wù)潘拨,它們所管理的Pod的IP、名字恢共,啟停順序等都是隨機的战秋,而StatefulSet是什么?顧名思義讨韭,有狀態(tài)的集合脂信,管理所有有狀態(tài)的服務(wù),比如MySQL透硝、MongoDB集群等狰闪。
StatefulSet本質(zhì)上是Deployment的一種變體,在v1.9版本中已成為GA版本,它為了解決有狀態(tài)服務(wù)的問題,它所管理的Pod擁有固定的Pod名稱遂蛀,啟停順序,在StatefulSet中丽声,Pod名字稱為網(wǎng)絡(luò)標(biāo)識(hostname),還必須要用到共享存儲觉义。
在Deployment中雁社,與之對應(yīng)的服務(wù)是service,而在StatefulSet中與之對應(yīng)的headless service晒骇,headless service霉撵,即無頭服務(wù),與service的區(qū)別就是它沒有Cluster IP洪囤,解析它的名稱時將返回該Headless Service對應(yīng)的全部Pod的Endpoint列表徒坡。
除此之外,StatefulSet在Headless Service的基礎(chǔ)上又為StatefulSet控制的每個Pod副本創(chuàng)建了一個DNS域名瘤缩,這個域名的格式為:
$(podname).(headless server name)
FQDN: $(podname).(headless server name).namespace.svc.cluster.local
StatefulSet示例
接下來看一些示例喇完,演示下上面所說的特性,以加深理解
apiVersion: v1
kind: Service
metadata:
name: nginx
labels:
app: nginx
spec:
ports:
- port: 80
name: web
clusterIP: None
selector:
app: nginx
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
name: web
spec:
selector:
matchLabels:
app: nginx # has to match .spec.template.metadata.labels
serviceName: "nginx" #聲明它屬于哪個Headless Service.
replicas: 3 # by default is 1
template:
metadata:
labels:
app: nginx # has to match .spec.selector.matchLabels
spec:
terminationGracePeriodSeconds: 10
containers:
- name: nginx
image: nginx:1.20.1
ports:
- containerPort: 80
name: web
volumeMounts:
- name: www
mountPath: /usr/share/nginx/html
volumeClaimTemplates: #可看作pvc的模板
- metadata:
name: www
spec:
accessModes: [ "ReadWriteOnce" ]
storageClassName: "gluster-heketi" #存儲類名剥啤,改為集群中已存在的
resources:
requests:
storage: 1Gi
通過該配置文件何暮,可看出StatefulSet的三個組成部分:
- Headless Service:名為nginx,用來定義Pod網(wǎng)絡(luò)標(biāo)識( DNS domain)铐殃。
- StatefulSet:定義具體應(yīng)用,名為Nginx跨新,有三個Pod副本富腊,并為每個Pod定義了一個域名。
- volumeClaimTemplates: 存儲卷申請模板域帐,創(chuàng)建PVC赘被,指定pvc名稱大小是整,將自動創(chuàng)建pvc,且pvc必須由存儲類供應(yīng)民假。
為什么需要 headless service 無頭服務(wù)浮入?
在用Deployment時,每一個Pod名稱是沒有順序的羊异,是隨機字符串事秀,因此是Pod名稱是無序的,但是在statefulset中要求必須是有序 野舶,每一個pod不能被隨意取代易迹,pod重建后pod名稱還是一樣的。而pod IP是變化的平道,所以是以Pod名稱來識別睹欲。pod名稱是pod唯一性的標(biāo)識符,必須持久穩(wěn)定有效一屋。這時候要用到無頭服務(wù)窘疮,它可以給每個Pod一個唯一的名稱 。
為什么需要volumeClaimTemplate冀墨?
對于有狀態(tài)的副本集都會用到持久存儲闸衫,對于分布式系統(tǒng)來講,它的最大特點是數(shù)據(jù)是不一樣的轧苫,所以各個節(jié)點不能使用同一存儲卷楚堤,每個節(jié)點有自已的專用存儲,但是如果在Deployment中的Pod template里定義的存儲卷含懊,是所有副本集共用一個存儲卷身冬,數(shù)據(jù)是相同的,因為是基于模板來的 岔乔,而statefulset中每個Pod都要自已的專有存儲卷酥筝,所以statefulset的存儲卷就不能再用Pod模板來創(chuàng)建了,于是statefulSet使用volumeClaimTemplate雏门,稱為卷申請模板嘿歌,它會為每個Pod生成不同的pvc,并綁定pv茁影, 從而實現(xiàn)各pod有專用存儲宙帝。這就是為什么要用volumeClaimTemplate的原因。
創(chuàng)建:
$ kubectl create -f nginx.yaml
service "nginx" created
statefulset "web" created
看下這三個Pod創(chuàng)建過程:
#第一個是創(chuàng)建web-0
$ kubectl get pod
web-0 1/1 ContainerCreating 0 51s
#待web-0 running且ready時募闲,創(chuàng)建web-1
$ kubectl get pod
web-0 1/1 Running 0 51s
web-1 0/1 ContainerCreating 0 42s
#待web-1 running且ready時步脓,創(chuàng)建web-2
$ kubectl get pod
web-0 1/1 Running 0 1m
web-1 1/1 Running 0 45s
web-2 1/1 ContainerCreating 0 36s
#最后三個Pod全部running且ready
$ kubectl get pod
NAME READY STATUS RESTARTS AGE
web-0 1/1 Running 0 4m
web-1 1/1 Running 0 3m
web-2 1/1 Running 0 1m
根據(jù)volumeClaimTemplates自動創(chuàng)建的PVC
$ kubectl get pvc
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
www-web-0 Bound pvc-ecf003f3-828d-11e8-8815-000c29774d39 2G RWO gluster-heketi 7m
www-web-1 Bound pvc-0615e33e-828e-11e8-8815-000c29774d39 2G RWO gluster-heketi 6m
www-web-2 Bound pvc-43a97acf-828e-11e8-8815-000c29774d39 2G RWO gluster-heketi 4m
如果集群中沒有StorageClass的動態(tài)供應(yīng)PVC的機制,也可以提前手動創(chuàng)建多個PV、PVC靴患,手動創(chuàng)建的PVC名稱必須符合之后創(chuàng)建的StatefulSet命名規(guī)則:(volumeClaimTemplates.name)-(pod_name)
Statefulset名稱為web 三個Pod副本: web-0仍侥,web-1,web-2,volumeClaimTemplates名稱為:www鸳君,那么自動創(chuàng)建出來的PVC名稱為www-web[0-2]农渊,為每個Pod創(chuàng)建一個PVC。
規(guī)律總結(jié):
匹配Pod name(網(wǎng)絡(luò)標(biāo)識)的模式為:(序號)或颊,比如上面的示例:web-0砸紊,web-1,web-2饭宾。
StatefulSet為每個Pod副本創(chuàng)建了一個DNS域名批糟,這個域名的格式為: $(podname).(headless server name),也就意味著服務(wù)間是通過Pod域名來通信而非Pod IP看铆,因為當(dāng)Pod所在Node發(fā)生故障時徽鼎,Pod會被飄移到其它Node上,Pod IP會發(fā)生變化弹惦,但是Pod域名不會有變化否淤。
StatefulSet使用Headless服務(wù)來控制Pod的域名,這個域名的FQDN為:(namespace).svc.cluster.local棠隐,其中石抡,“cluster.local”指的是集群的域名。
根據(jù)volumeClaimTemplates助泽,為每個Pod創(chuàng)建一個pvc啰扛,pvc的命名規(guī)則匹配模式:(volumeClaimTemplates.name)-(pod_name),比如上面的volumeMounts.name=www嗡贺, Pod name=web-[0-2]隐解,因此創(chuàng)建出來的PVC是www-web-0、www-web-1诫睬、www-web-2煞茫。
刪除Pod不會刪除其pvc,手動刪除pvc將自動釋放pv摄凡。
關(guān)于Cluster Domain续徽、headless service名稱、StatefulSet 名稱如何影響StatefulSet的Pod的DNS域名的示例:
Cluster Domain | Service (ns/name) | StatefulSet (ns/name) | StatefulSet Domain | Pod DNS | Pod Hostname |
---|---|---|---|---|---|
cluster.local | default/nginx | default/web | nginx.default.svc.cluster.local | web-{0..N-1}.nginx.default.svc.cluster.local | web-{0..N-1} |
cluster.local | foo/nginx | foo/web | nginx.foo.svc.cluster.local | web-{0..N-1}.nginx.foo.svc.cluster.local | web-{0..N-1} |
kube.local | foo/nginx | foo/web | nginx.foo.svc.kube.local | web-{0..N-1}.nginx.foo.svc.kube.local | web-{0..N-1} |
Statefulset的啟停順序:
有序部署:部署StatefulSet時亲澡,如果有多個Pod副本钦扭,它們會被順序地創(chuàng)建(從0到N-1)并且,在下一個Pod運行之前所有之前的Pod必須都是Running和Ready狀態(tài)床绪。
有序刪除:當(dāng)Pod被刪除時土全,它們被終止的順序是從N-1到0捎琐。
有序擴展:當(dāng)對Pod執(zhí)行擴展操作時,與部署一樣裹匙,它前面的Pod必須都處于Running和Ready狀態(tài)
Statefulset Pod管理策略:
在v1.7以后,通過允許修改Pod排序策略末秃,同時通過.spec.podManagementPolicy字段確保其身份的唯一性概页。
- OrderedReady:上述的啟停順序,默認(rèn)設(shè)置练慕。
- Parallel:告訴StatefulSet控制器并行啟動或終止所有Pod惰匙,并且在啟動或終止另一個Pod之前不等待前一個Pod變?yōu)镽unning and Ready或完全終止。
StatefulSet使用場景:
穩(wěn)定的持久化存儲铃将,即Pod重新調(diào)度后還是能訪問到相同的持久化數(shù)據(jù)项鬼,基于PVC來實現(xiàn)。
穩(wěn)定的網(wǎng)絡(luò)標(biāo)識符劲阎,即Pod重新調(diào)度后其PodName和HostName不變绘盟。
有序部署,有序擴展悯仙,基于init containers來實現(xiàn)龄毡。
有序收縮。
更新策略
在Kubernetes 1.7及更高版本中锡垄,通過.spec.updateStrategy字段允許配置或禁用Pod沦零、labels、source request/limits货岭、annotations自動滾動更新功能路操。
OnDelete:通過.spec.updateStrategy.type 字段設(shè)置為OnDelete,StatefulSet控制器不會自動更新StatefulSet中的Pod千贯。用戶必須手動刪除Pod屯仗,以使控制器創(chuàng)建新的Pod。
RollingUpdate:通過.spec.updateStrategy.type 字段設(shè)置為RollingUpdate丈牢,實現(xiàn)了Pod的自動滾動更新祭钉,如果.spec.updateStrategy未指定,則此為默認(rèn)策略己沛。
StatefulSet控制器將刪除并重新創(chuàng)建StatefulSet中的每個Pod慌核。它將以Pod終止(從最大序數(shù)到最小序數(shù))的順序進行,一次更新每個Pod申尼。在更新下一個Pod之前垮卓,必須等待這個Pod Running and Ready。
-
Partitions:通過指定 .spec.updateStrategy.rollingUpdate.partition 來對 RollingUpdate 更新策略進行分區(qū)师幕,如果指定了分區(qū)粟按,則當(dāng) StatefulSet 的 .spec.template 更新時诬滩,具有大于或等于分區(qū)序數(shù)的所有 Pod 將被更新。
具有小于分區(qū)的序數(shù)的所有 Pod 將不會被更新灭将,即使刪除它們也將被重新創(chuàng)建疼鸟。如果 StatefulSet 的 .spec.updateStrategy.rollingUpdate.partition 大于其 .spec.replicas,則其 .spec.template 的更新將不會傳播到 Pod庙曙。在大多數(shù)情況下空镜,不需要使用分區(qū)。