k8s+log-pilot日志收集

github 地址:https://github.com/AliyunContainerService/log-pilot

介紹

log-pilot是一個(gè)很棒的 docker 日志工具〗拔洌可以從dockerlog-pilot主機(jī)收集日志并將它們發(fā)送到您的集中式日志系統(tǒng)晓勇,例如 elasticsearch掌呜、graylog2添怔、awsog 等歪脏。log-pilot不僅可以收集 docker stdout钞啸,還可以收集 docker 容器內(nèi)的日志文件襟齿。

系統(tǒng)架構(gòu)

image.png

準(zhǔn)備工作

  • 已經(jīng)成功部署了一個(gè)kubernetes集群

部署Elasticsearch

為了方便測(cè)試梯澜,在單機(jī)部署了一個(gè)Elasticsearch+Kibana

# 部署Elasticsearch
docker run -d --name elasticsearch -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" elasticsearch:6.8.23
# 部署Kibana (ELASTICSEARCH_URL請(qǐng)換成自己本地ip)
docker run --name kibana -e ELASTICSEARCH_URL=http://192.168.0.71:9200 -p 5601:5601 -d kibana:6.8.23

成功訪問(wèn)Kibana


image.png

部署log-pilot

注意:ELASTICSEARCH_HOST 寞冯、ELASTICSEARCH_PORT 需要換成剛剛創(chuàng)建Elasticsearch地址
如果是集群,ELASTICSEARCH_HOSTS 變量寫(xiě)多個(gè)地址即可晚伙,中間用逗號(hào)隔開(kāi)


image.png

pilot-elasticsearch-kubernetes.yml

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: log-pilot
  labels:
    k8s-app: log-pilot
spec:
  updateStrategy:
    type: RollingUpdate
  selector:
    matchLabels:
      k8s-app: log-pilot
  template:
    metadata:
      labels:
        k8s-app: log-pilot
    spec:
      tolerations:
      - key: node-role.kubernetes.io/master
        effect: NoSchedule
      containers:
      - name: log-pilot
        image: registry.cn-hangzhou.aliyuncs.com/acs/log-pilot:0.9.5-fluentd
        env:
          - name: "LOGGING_OUTPUT"
            value: "elasticsearch"
          - name: "ELASTICSEARCH_HOST"
            value: "192.168.0.71" #changeme
          - name: "ELASTICSEARCH_PORT"
            value: "9200" #changeme
          - name: "NODE_NAME"
            valueFrom:
              fieldRef:
                fieldPath: spec.nodeName
        volumeMounts:
        - name: sock
          mountPath: /var/run/docker.sock
        - name: root
          mountPath: /host
          readOnly: true
        - name: pos
          mountPath: /pilot/pos
        - name: localtime
          mountPath: /etc/localtime
        securityContext:
          capabilities:
            add:
            - SYS_ADMIN
              #terminationGracePeriodSeconds: 30
      volumes:
      - name: sock
        hostPath:
          path: /var/run/docker.sock
      - name: root
        hostPath:
          path: /
      - name: pos
        emptyDir: {}
      - name: localtime
        hostPath:
          path: /etc/localtime

在k8s集群部署

kubectl apply -f pilot-elasticsearch-kubernetes.yml

部署成功


image.png

部署一個(gè)測(cè)試服務(wù)

tomcat.yml

apiVersion: v1
kind: Pod
metadata:
  name: tomcat
spec:
  tolerations:
  - key: "node-role.kubernetes.io/master"
    effect: "NoSchedule"
  containers:
  - name: tomcat
    image: "tomcat:7.0"
    env:
    - name: aliyun_logs_catalina
      value: "stdout"   # 告訴 log-pilot 這個(gè)容器要收集 stdout 日志吮龄。
    - name: aliyun_logs_access
      value: "/usr/local/tomcat/logs/catalina.*.log"  # 則表示要收集容器內(nèi) /usr/local/tomcat/logs/ 目錄下所有名字匹配 catalina.*.log的文件日志。
    volumeMounts:
      - name: tomcat-log
        mountPath: /usr/local/tomcat/logs
  volumes:
    - name: tomcat-log
      emptyDir: {}

啟動(dòng)服務(wù)后咆疗,會(huì)自動(dòng)按天創(chuàng)建兩個(gè)索引


image.png

接下來(lái)就可以愉快的玩耍了@熘恪!午磁!


image.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末尝抖,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子迅皇,更是在濱河造成了極大的恐慌昧辽,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,639評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件登颓,死亡現(xiàn)場(chǎng)離奇詭異搅荞,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)框咙,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,277評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門咕痛,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人喇嘱,你說(shuō)我怎么就攤上這事暇检。” “怎么了婉称?”我有些...
    開(kāi)封第一講書(shū)人閱讀 157,221評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵块仆,是天一觀的道長(zhǎng)构蹬。 經(jīng)常有香客問(wèn)我,道長(zhǎng)悔据,這世上最難降的妖魔是什么庄敛? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,474評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮科汗,結(jié)果婚禮上藻烤,老公的妹妹穿的比我還像新娘。我一直安慰自己头滔,他們只是感情好怖亭,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,570評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著坤检,像睡著了一般兴猩。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上早歇,一...
    開(kāi)封第一講書(shū)人閱讀 49,816評(píng)論 1 290
  • 那天倾芝,我揣著相機(jī)與錄音,去河邊找鬼箭跳。 笑死晨另,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的谱姓。 我是一名探鬼主播借尿,決...
    沈念sama閱讀 38,957評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼屉来!你這毒婦竟也來(lái)了垛玻?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,718評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤奶躯,失蹤者是張志新(化名)和其女友劉穎帚桩,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體嘹黔,經(jīng)...
    沈念sama閱讀 44,176評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡账嚎,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,511評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了儡蔓。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片郭蕉。...
    茶點(diǎn)故事閱讀 38,646評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖喂江,靈堂內(nèi)的尸體忽然破棺而出召锈,到底是詐尸還是另有隱情,我是刑警寧澤获询,帶...
    沈念sama閱讀 34,322評(píng)論 4 330
  • 正文 年R本政府宣布涨岁,位于F島的核電站拐袜,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏梢薪。R本人自食惡果不足惜蹬铺,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,934評(píng)論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望秉撇。 院中可真熱鬧甜攀,春花似錦、人聲如沸琐馆。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,755評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)瘦麸。三九已至谁撼,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間瞎暑,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,987評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工与帆, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留了赌,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,358評(píng)論 2 360
  • 正文 我出身青樓玄糟,卻偏偏與公主長(zhǎng)得像勿她,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子阵翎,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,514評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容