【k8s】使用 Reloader 實現(xiàn)熱部署

一. 概述

我們在 k8s 中使用 ConfigMap 作為配置文件的時候會遇到一個問題:修改 ConfigMap 后無法實現(xiàn)熱部署舵揭,也就是更改了 ConfigMap 配置文件后需要手動重啟 Pod 配置才會生效,為了處理這個問題 github 專門有個開源的項目 Reloader 來解決這個問題舟舒,項目地址如下:

Reloader 項目地址:https://github.com/stakater/Reloader

Reloader 可以觀察 ConfigMap 和 Secret 中的變化煤伟,并對 pod 及其關(guān)聯(lián)的 DeploymentConfigs癌佩,DeploymentsDaemonsets便锨,StatefulsetsRollouts進行滾動升級驼卖。

本文主要對 Reloader 的使用進行一個簡單的介紹,詳細(xì)的配置與使用可以查看源碼文檔鸿秆。

二. Reloader 實現(xiàn)滾動升級的原理

當(dāng) Reloader 檢測到 ConfigMap 發(fā)生變化的時候酌畜,會使用 SHA1 計算 ConfigMap 的哈希值(使用 SHA1 是因為它高效且不易發(fā)生沖突),計算完哈希值之后卿叽,Reloader 獲取所有的 Deployments桥胞,Daemonsets恳守,StatefulsetsRollouts 列表,并查找其 anotations 中是否配置了 Reloader 相關(guān)的注解贩虾,比如配置了如下 annotations :

metadata:
  annotations:
    reloader.stakater.com/auto: "true"

接著 Reloader 會查找配置了 Reloader 相關(guān) annotations 的 Deployments催烘,DaemonsetsStatefulsets 中一個特殊的環(huán)境變量缎罢。

如果找到這個環(huán)境變量伊群,則獲取其值并將其與前面計算的新 ConfigMap 哈希值進行比較,如果環(huán)境變量中的舊值與新哈希值不同策精,則 Reloader 會更新環(huán)境變量舰始。

如果環(huán)境變量不存在,那么它會從 ConfigMap 創(chuàng)建一個具有最新哈希值的新環(huán)境變量并更新相關(guān)的deployment咽袜,daemonset或者statefulset丸卷。

k8s 檢測到這個環(huán)境變量發(fā)生變化,則會觸發(fā) pod 關(guān)聯(lián)的 deployment询刹,daemonset或者statefulset 的滾動升級谜嫉。

修改 Secret 實現(xiàn)滾動升級的原理上述相同

環(huán)境變量的名字

這個環(huán)境變量的名字定義如下:

  • 生成 ConfigMap 的環(huán)境變量的名稱為:STAKATER_{configmap_name}_CONFIGMAP ,比如 ConfigMap 的名稱為 foo凹联,則生成的環(huán)境變量的名稱為:STAKATER_FOO_CONFIGMAP沐兰。

  • 生成 Secret 的環(huán)境變量的名稱為:STAKATER_{secret_name}_SECRET ,比如 Secret 的名稱為 foo蔽挠,則生成的環(huán)境變量的名稱為:STAKATER_FOO_SECRET僧鲁。

環(huán)境變量的值

這個環(huán)境變量的值為使用 SHA1 計算的 ConfigMap 或者 Secret 的哈希值。

Reloader 監(jiān)控特定命名空間

默認(rèn)情況下象泵,reloader 部署在默認(rèn)命名空間中并監(jiān)視所有命名空間中的更改寞秃,要監(jiān)視特定命名空間中的更改,請在該命名空間中部署 Reloader偶惠,并將watchGlobally標(biāo)志設(shè)置為false春寿。

三. 在 k8s 中安裝 Reloader

在 Reloader 的源碼文檔中提供了三種安裝方式:

  1. 使用 Manifests 安裝
  2. 使用 kustomize 安裝
  3. 使用 helm 安裝

這里只介紹使用 helm 安裝,個人覺得使用 helm 安裝的優(yōu)點是方便管理忽孽、升級和修改配置绑改,你可以根據(jù)自己的需求選擇其他的安裝方式,詳細(xì)的說明可以查看源碼文檔兄一。

使用下面的命令添加 reloader 倉庫地址:

helm repo add stakater https://stakater.github.io/stakater-charts

使用下面的命令更新倉庫:

helm repo update

使用下面的命令搜索 reloader:

 helm search repo reloader

為了方便修改配置厘线,我們可以使用下面的命令下載 Reloader 的 chart 包:

helm pull stakater/reloader

下載成功后獲取到一個壓縮包 reloader-v0.0.105.tgz,使用下面的命令解壓:

tar -zxvf reloader-v0.0.105.tgz 

解壓后得到 reloader 文件夾出革,其中的內(nèi)容如下:

[root@node01 reloader]# ll
total 20
-rw-r--r-- 1 root root  789 Feb 13 20:16 Chart.yaml
drwxr-xr-x 2 root root 4096 Feb 17 10:26 templates
-rw-r--r-- 1 root root  341 Feb 13 20:16 values.schema.json
-rw-r--r-- 1 root root 4284 Feb 13 20:16 values.yaml

我們根據(jù)需要修改 values.yaml 文件的配置即可造壮。

修改完成后,可以使用下面的命令根據(jù)修改后的配置進行安裝:

helm install -name reloader -n default ./reloader

如果不通過 -n namespace 指定安裝的命名空間,則默認(rèn)安裝在 default 命令空間耳璧,可以根據(jù)自己的需要安裝到特定的命名空間成箫。

使用下面的命令查看 reloader 是否安裝成功:

[root@node01 ~]# kubectl get deploy
NAME                READY   UP-TO-DATE   AVAILABLE   AGE
reloader-reloader   1/1     1            1           15m

四. 使用 Reloader 滾動升級

前面簡單介紹了使用 helm 安裝 reloader,接下來將介紹如何使用 reloader旨枯。

源碼文檔中介紹了三種 reloader 的使用場景:

1. 檢測所有命名空間中的 ConfigMap 或者 Secret 的變化蹬昌,并實現(xiàn)滾動升級

DeploymentConfigsDeployments攀隔,Daemonsets皂贩,StatefulsetsRollouts 中的 annotations 中添加如下內(nèi)容:

metadata:
  annotations:
    reloader.stakater.com/auto: "true"

之后 reloader 會檢測所有命名空間中其相關(guān)聯(lián)的 ConfigMap 或者 Secret 的變化,并實現(xiàn)滾動升級昆汹。

2. 限制只檢測帶有特殊 annotations 的 ConfigMap 或者 Secret 的變化

首先在DeploymentConfigs明刷,DeploymentsDaemonsets筹煮,StatefulsetsRollouts 中的 annotations 中添加如下內(nèi)容:

kind: Deployment
metadata:
  annotations:
    reloader.stakater.com/search: "true"

并且在 ConfigMap 或者 Secret 中的 annotations 中添加如下內(nèi)容:

kind: ConfigMap
metadata:
  annotations:
    reloader.stakater.com/match: "true"

3. 檢測指定的 ConfigMap 或者 Secret 的變化

DeploymentConfigsDeployments居夹,Daemonsets败潦,StatefulsetsRollouts 中的 annotations 中指定多個要檢測的 ConfigMap 的名稱:

kind: Deployment
metadata:
  annotations:
    configmap.reloader.stakater.com/reload: "foo-configmap,bar-configmap,baz-configmap"
spec:
  template: 
    metadata:

DeploymentConfigsDeployments准脂,Daemonsets劫扒,StatefulsetsRollouts 中的 annotations 中指定多個要檢測的 Secret 的名稱:

kind: Deployment
metadata:
  annotations:
    secret.reloader.stakater.com/reload: "foo-secret,bar-secret,baz-secret"
spec:
  template: 
    metadata:

五. 驗證 Reloader 的滾動升級

這里使用 ConfigMap 作為 spring boot 項目的外部配置,它的原理就是將 ConfigMap 中配置的 application.yaml 文件掛載到容器中 spring boot 項目 jar 包所在目錄的 config 文件夾中狸膏,因為 spring boot優(yōu)先讀取 config 目錄中的配置文件并覆蓋內(nèi)部的配置沟饥。

掛載配置文件后,在容器中的目錄內(nèi)容如下:

root@springboot-demo-7ddbc4dfd5-sxnqv:/app# ls -l
total 99
drwxrwxrwx 3 root root   4096 Feb 16 19:28 config
-rw-r--r-- 1 root root 102043 Feb  16 15:48 springboot-demo.jar

其中 config 文件夾中的內(nèi)容如下:

root@springboot-demo-7ddbc4dfd5-sxnqv:/app# ls -l config/
lrwxrwxrwx 1 root root 22 Feb 17 10:28 application.yaml -> ..data/application.yaml

定義一個 springboot-demo 項目湾戳,其 Dockerfile 文件內(nèi)容如下:

FROM openjdk:8u232-jdk
WORKDIR /app
LABEL maintainer="peterwd" app="springboot-demo"
COPY target/springboot-demo.jar springboot-demo.jar
EXPOSE 8080
CMD java -jar springboot-demo.jar

相關(guān)的部署文件如下:

deployment.yaml 文件內(nèi)容如下:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: springboot-demo
  namespace: default
  labels:
    app: springboot-demo
  annotations:
    reloader.stakater.com/auto: "true"
spec:
  replicas: 1
  selector:
    matchLabels:
      app: springboot-demo
  template:
    metadata:
      labels:
        app: springboot-demo
    spec:
      containers:
        - name: springboot-demo
          image: springboot-demo
          imagePullPolicy: Always
          env:
            - name: TZ
              value: Asia/Shanghai
            - name: NAMESPACE
              value:  default             
          ports:
            - containerPort: 8080
          volumeMounts:
            - mountPath: /app/config
              name: config
      volumes:
        - configMap:
            name: springboot-demo
          name: config
      imagePullSecrets:
        - name: docker-secret
---
apiVersion: v1
kind: Service
metadata:
  name: springboot-demo
  namespace: default
spec:
  ports:
    - name: http-port
      port: 80
      protocol: TCP
      targetPort: 8080
  selector:
    app: springboot-demo
  type: ClusterIP

springboot-demo-configmap.yaml 文件的內(nèi)容如下:

apiVersion: v1
kind: ConfigMap
metadata:
  name: springboot-demo
  namespace: default
data:
  application.yaml: |-
    server:
      port: 8080
      servlet:
        context-path: /springboot-demo
    spring:
      application:
        name: demo

當(dāng)我們修改 ConfigMap 中的 application.yaml 配置的 context-path 后贤旷,可以看到相關(guān) pod 完成了自動重啟,并且使用下面的命令查看 deployment 的 yaml 內(nèi)容:

kubectl get deploy -o yaml

可以發(fā)現(xiàn)增加了一個環(huán)境變量:

    spec:
      containers:
        - env:
            - name: TZ
              value: Asia/Shanghai
            - name: NAMESPACE
              value: default
            - name: STAKATER_SPRINGBOOT_DEMO_CONFIGMAP
              value: 7b36c3bd0a7c0a87db028cf1037eb994df4de49e

參考文檔

https://github.com/stakater/Reloader/blob/master/docs/How-it-works.md

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末砾脑,一起剝皮案震驚了整個濱河市幼驶,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌韧衣,老刑警劉巖盅藻,帶你破解...
    沈念sama閱讀 218,755評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異畅铭,居然都是意外死亡氏淑,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評論 3 395
  • 文/潘曉璐 我一進店門硕噩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來假残,“玉大人,你說我怎么就攤上這事炉擅∈匚剩” “怎么了匀归?”我有些...
    開封第一講書人閱讀 165,138評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長耗帕。 經(jīng)常有香客問我穆端,道長,這世上最難降的妖魔是什么仿便? 我笑而不...
    開封第一講書人閱讀 58,791評論 1 295
  • 正文 為了忘掉前任体啰,我火速辦了婚禮,結(jié)果婚禮上嗽仪,老公的妹妹穿的比我還像新娘荒勇。我一直安慰自己,他們只是感情好闻坚,可當(dāng)我...
    茶點故事閱讀 67,794評論 6 392
  • 文/花漫 我一把揭開白布沽翔。 她就那樣靜靜地躺著,像睡著了一般窿凤。 火紅的嫁衣襯著肌膚如雪仅偎。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,631評論 1 305
  • 那天雳殊,我揣著相機與錄音橘沥,去河邊找鬼。 笑死夯秃,一個胖子當(dāng)著我的面吹牛座咆,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播仓洼,決...
    沈念sama閱讀 40,362評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼介陶,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了色建?” 一聲冷哼從身側(cè)響起斤蔓,我...
    開封第一講書人閱讀 39,264評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎镀岛,沒想到半個月后弦牡,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,724評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡漂羊,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年驾锰,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片走越。...
    茶點故事閱讀 40,040評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡椭豫,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情赏酥,我是刑警寧澤喳整,帶...
    沈念sama閱讀 35,742評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站裸扶,受9級特大地震影響框都,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜呵晨,卻給世界環(huán)境...
    茶點故事閱讀 41,364評論 3 330
  • 文/蒙蒙 一魏保、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧摸屠,春花似錦谓罗、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至胯舷,卻和暖如春刻蚯,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背需纳。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評論 1 270
  • 我被黑心中介騙來泰國打工芦倒, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留艺挪,地道東北人不翩。 一個月前我還...
    沈念sama閱讀 48,247評論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像麻裳,于是被迫代替她去往敵國和親口蝠。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,979評論 2 355

推薦閱讀更多精彩內(nèi)容