ELK7.8.0架構(gòu)部署(收集Tomcat和nginx日志)

1、環(huán)境介紹

安裝軟件 主機(jī)名 IP地址 系統(tǒng)版本
Elasticsearch mes-1 10.8.156.35 centos7.4--3G
tomcat/nginx/Logstash es-2 10.8.156.91 centos7.4--2G
head/Kibana es-3 10.8.156.34 centos7.4---2G

2、軟件版本

下載地址https://www.elastic.co/cn/downloads/past-releases#logstash
Elasticsearch: 7.8.0
Logstash: 7.8.0
Kibana: 7.8.0

3、Elasticsearch部署

因?yàn)镋lasticsearch7.8.0內(nèi)置有jdk環(huán)境,所以我們不需要再提供本地jdk環(huán)境

3.1 創(chuàng)建運(yùn)行ES的普通用戶

[root@mes-1 ~]# useradd elsearch
[root@mes-1 ~]# echo "123456" | passwd --stdin "elsearch"

3.2 安裝配置ES

[root@mes-1 ~]# tar xzf elasticsearch-7.8.0.tar.gz -C /usr/local/
[root@mes-1 ~]# cd /usr/local/elasticsearch-7.8.0/config/
[root@mes-1 config]# ls
elasticsearch.yml  log4j2.properties  roles.yml  users_roles
jvm.options        role_mapping.yml   users
[root@mes-1 config]# cp elasticsearch.yml elasticsearch.yml.bak
[root@mes-1 config]# vim elasticsearch.yml    ----找個(gè)地方添加如下內(nèi)容
cluster.name: elk
node.name: elk01
node.master: true
node.data: true
cluster.initial_master_nodes: ["elk01"]
path.data: /data/elasticsearch/data
path.logs: /data/elasticsearch/logs
bootstrap.memory_lock: false
bootstrap.system_call_filter: false
network.host: 0.0.0.0
http.port: 9200
#discovery.zen.ping.unicast.hosts: ["192.168.246.234", "192.168.246.231","192.168.246.235"]
#discovery.zen.minimum_master_nodes: 2
#discovery.zen.ping_timeout: 150s
#discovery.zen.fd.ping_retries: 10
#client.transport.ping_timeout: 60s
http.cors.enabled: true
http.cors.allow-origin: "*"

配置項(xiàng)含義:

cluster.name        集群名稱抖所,各節(jié)點(diǎn)配成相同的集群名稱。
node.name       節(jié)點(diǎn)名稱,各節(jié)點(diǎn)配置不同辽狈。
node.master     指示某個(gè)節(jié)點(diǎn)是否符合成為主節(jié)點(diǎn)的條件。
node.data       指示節(jié)點(diǎn)是否為數(shù)據(jù)節(jié)點(diǎn)呛牲。數(shù)據(jù)節(jié)點(diǎn)包含并管理索引的一部分刮萌。
path.data       數(shù)據(jù)存儲目錄。
path.logs       日志存儲目錄娘扩。
bootstrap.memory_lock       內(nèi)存鎖定着茸,是否禁用交換。
bootstrap.system_call_filter    系統(tǒng)調(diào)用過濾器琐旁。
network.host    綁定節(jié)點(diǎn)IP涮阔。
http.port       端口。
discovery.zen.ping.unicast.hosts    提供其他 Elasticsearch 服務(wù)節(jié)點(diǎn)的單點(diǎn)廣播發(fā)現(xiàn)功能旋膳。
discovery.zen.minimum_master_nodes  集群中可工作的具有Master節(jié)點(diǎn)資格的最小數(shù)量澎语,官方的推薦值是(N/2)+1,其中N是具有master資格的節(jié)點(diǎn)的數(shù)量验懊。
discovery.zen.ping_timeout      節(jié)點(diǎn)在發(fā)現(xiàn)過程中的等待時(shí)間擅羞。
discovery.zen.fd.ping_retries        節(jié)點(diǎn)發(fā)現(xiàn)重試次數(shù)。
http.cors.enabled               是否允許跨源 REST 請求义图,用于允許head插件訪問ES减俏。
http.cors.allow-origin              允許的源地址。

3.3 設(shè)置JVM堆大小

[root@mes-1 config]# vim jvm.options     ----將
-Xms1g    ----修改成 -Xms2g
-Xmx1g    ----修改成 -Xms2g
#一般設(shè)置為虛擬機(jī)內(nèi)存的一半碱工,最少為2G娃承,推薦設(shè)置為4G

注意:確保堆內(nèi)存最小值(Xms)與最大值(Xmx)的大小相同奏夫,防止程序在運(yùn)行時(shí)改變堆內(nèi)存大小。堆內(nèi)存大小不要超過系統(tǒng)內(nèi)存的50%

3.4 創(chuàng)建ES數(shù)據(jù)及日志存儲目錄

[root@mes-1 ~]# mkdir -p /data/elasticsearch/data
[root@mes-1 ~]# mkdir -p /data/elasticsearch/logs 

3.5 修改安裝目錄及存儲目錄權(quán)限

[root@mes-1 ~]# chown -R elsearch:elsearch /data/elasticsearch
[root@mes-1 ~]# chown -R elsearch:elsearch /usr/local/elasticsearch-7.8.0

3.6 系統(tǒng)優(yōu)化

3.6.1 增加最大文件打開數(shù)

永久生效方法echo "* - nofile 65536" >> /etc/security/limits.conf

3.6.2 增加最大進(jìn)程數(shù)
[root@mes-1 ~]# vim /etc/security/limits.conf    ---在文件最后面添加如下內(nèi)容
* soft nofile 65536
* hard nofile 131072
* soft nproc 2048
* hard nproc 4096

解釋:

soft  xxx  : 代表警告的設(shè)定历筝,可以超過這個(gè)設(shè)定值酗昼,但是超過后會有警告。
hard  xxx  : 代表嚴(yán)格的設(shè)定梳猪,不允許超過這個(gè)設(shè)定的值麻削。
nofile : 是每個(gè)進(jìn)程可以打開的文件數(shù)的限制
nproc  : 是操作系統(tǒng)級別對每個(gè)用戶創(chuàng)建的進(jìn)程數(shù)的限制
3.6.3 增加最大內(nèi)存映射數(shù)
#增大用戶使用內(nèi)存的空間(臨時(shí))
[root@mes-1 ~]# sysctl -w vm.max_map_count=262144
#永久
[root@mes-1 ~]# vim /etc/sysctl.conf   ---添加如下
vm.max_map_count=262144
vm.swappiness=0
[root@mes-1 ~]# sysctl -p

3.7 啟動(dòng)ES

[root@mes-1 ~]# su - elsearch
[elsearch@mes-1 ~]$ cd /usr/local/elasticsearch-7.8.0/
[elsearch@mes-1 elasticsearch-7.8.0]$ nohup ./bin/elasticsearch &    #放后臺啟動(dòng)
[1] 11731
[elsearch@mes-1 elasticsearch-7.8.0]$ nohup: ignoring input and appending output to ‘nohup.out’
[elsearch@mes-1 elasticsearch-7.8.0$ tail -f nohup.out   #看一下是否啟動(dòng)

瀏覽器訪問10.8.156.35:9200


image.png

4、安裝配置head監(jiān)控插件(Web前端)

主機(jī):10.8.165.34

4.1 安裝node

[root@es-3 ~]# wget https://npm.taobao.org/mirrors/node/latest-v4.x/node-v4.4.7-linux-x64.tar.gz
[root@es-3 ~]# tar -xzf node-v4.4.7-linux-x64.tar.gz -C /usr/local/
[root@es-3 ~]# vim /etc/profile   #添加如下變量
NODE_HOME=/usr/local/node-v4.4.7-linux-x64
PATH=$NODE_HOME/bin:$PATH
export NODE_HOME PATH
[root@es-3 ~]# source /etc/profile
[root@es-3 ~]# node --version  #檢查node版本號
v4.4.7

4.2 下載head插件

[root@es-3 ~]# wget https://github.com/mobz/elasticsearch-head/archive/master.zip
[root@es-3 ~]# cp master.zip /usr/local/
[root@es-3 ~]# yum -y install unzip
[root@es-3 ~]# cd /usr/local
[root@es-3 ~]# unzip  master.zip

4.3 安裝grunt

[root@es-3 ~]# cd elasticsearch-head-master/
[root@es-3 elasticsearch-head-master]# npm install -g grunt-cli  #時(shí)間會很長
[root@es-3 elasticsearch-head-master]# grunt --version  #檢查grunt版本號
grunt-cli v1.3.2

4.4 修改head源碼

[root@es-3 elasticsearch-head-master]# vim /usr/local/elasticsearch-head-master/Gruntfile.js (95行左右)

image.png

添加hostname春弥,注意在上一行末尾添加逗號,hostname 不需要添加逗號
[root@es-3 elasticsearch-head-master]# vim /usr/local/elasticsearch-head-master/_site/app.js
如果head和ES在一臺機(jī)器上面可以不修改下面的操作呛哟,保持原來的就可以了。
原本是http://localhost:9200 匿沛,如果head和ES不在同一個(gè)節(jié)點(diǎn)扫责,注意修改成ES的IP地址
image.png

4.5 下載head必要的文件

[root@es-3 ~]# wget https://github.com/Medium/phantomjs/releases/download/v2.1.1/phantomjs-2.1.1-linux-x86_64.tar.bz2
[root@es-3 ~]# yum -y install bzip2
[root@es-3 ~]# tar -jxf phantomjs-2.1.1-linux-x86_64.tar.bz2 -C /tmp/  #解壓

4.6 運(yùn)行head

[root@es-3 ~]# cd /usr/local/elasticsearch-head-master/
[root@es-3 elasticsearch-head-master]# npm config set registry https://registry.npm.taobao.org
[root@es-3 elasticsearch-head-master]# npm install
[root@es-3 elasticsearch-head-master]# nohup grunt server &
[root@es-3 elasticsearch-head-master]# tail -f nohup.out 
Running "connect:server" (connect) task
Waiting forever...
Started connect web server on http://localhost:9100

4.7 測試

瀏覽器訪問:http://10.8.156.34:9100/

image.png

5、kibana部署

主機(jī)IP:10.8.156.34

5.1 安裝配置Kibana

[root@es-3 ~]# tar zvxf kibana-7.8.0-linux-x86_64.tar.gz -C /usr/local/
[root@es-3 ~]# cd /usr/local/kibana-7.8.0-linux-x86_64/config/
[root@es-3 config]# vim kibana.yml
server.port: 5601
server.host: "10.8.156.34"     #kibana本機(jī)的地址
elasticsearch.hosts: "http://10.8.156.35:9200"  #ES主節(jié)點(diǎn)地址+端口
kibana.index: ".kibana"

配置項(xiàng)含義:

server.port kibana 服務(wù)端口逃呼,默認(rèn)5601
server.host kibana 主機(jī)IP地址鳖孤,默認(rèn)localhost
elasticsearch.hosts  用來做查詢的ES節(jié)點(diǎn),默認(rèn)http://localhost:9200
kibana.index       kibana在Elasticsearch中使用索引來存儲保存的searches, visualizations和dashboards蜘渣,默認(rèn).kibana

啟動(dòng):

[root@es-3 config]# cd ..
[root@es-3 kibana-7.8.0-linux-x86_64]# nohup ./bin/kibana  --allow-root &
[root@es-3 kibana-7.8.0-linux-x86_64]# tailf nohup.out

5.2 安裝配置Nginx反向代理

5.2.1 安裝nginx

[root@es-3 ~]# yum install -y eprl-release;yum install -y nginx

5.2.2 配置反向代理
[root@es-3 ~]# vim /etc/nginx/nginx.conf     -----如果里面有server模塊要?jiǎng)h掉
[root@es-3 ~]# cd /etc/nginx/conf.d/
[root@es-3 conf.d]# vim nginx.conf
server {
        listen       80;
        server_name  10.8.156.34;

        #charset koi8-r;

       # access_log  /var/log/nginx/host.access.log  main;
       # access_log off;

         location / {  
             proxy_pass http://10.8.156.34:5601;
             proxy_set_header Host $host:5601;  
             proxy_set_header X-Real-IP $remote_addr;  
             proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;  
             proxy_set_header Via "nginx";
                     }
         location /status { 
             stub_status on; #開啟網(wǎng)站監(jiān)控狀態(tài) 
             access_log /var/log/nginx/kibana_status.log; #監(jiān)控日志 
             auth_basic "NginxStatus"; }

         location /head/{
             proxy_pass http://10.8.156.34:9100;
             proxy_set_header Host $host:9100;
             proxy_set_header X-Real-IP $remote_addr;
             proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
             proxy_set_header Via "nginx";
                         }  
}
5.2.3 配置nginx
1.將原來的log_format注釋掉淌铐,添加json格式的配置信息,如下:
[root@es-3-head-kib conf.d]# vim /etc/nginx/nginx.conf
log_format  json '{"@timestamp":"$time_iso8601",'
                           '"@version":"1",'
                           '"client":"$remote_addr",'
                           '"url":"$uri",'
                           '"status":"$status",'
                           '"domain":"$host",'
                           '"host":"$server_addr",'
                           '"size":$body_bytes_sent,'
                           '"responsetime":$request_time,'
                           '"referer": "$http_referer",'
                           '"ua": "$http_user_agent"'
               '}';
2.引用定義的json格式的日志:
access_log  /var/log/nginx/access_json.log  json;
image.png
5.2.4 啟動(dòng)nginx

[root@es-3 ~]# systemctl start nginx
瀏覽器訪問http://10.8.156.34/剛開始沒有任何數(shù)據(jù)蔫缸,會提示你創(chuàng)建新的索引腿准。

image.png

image.png

6、Logstash部署

主機(jī)IP:10.8.156.91

6.1 安裝jdk

[root@es-2 ~]# tar -xvzf jdk-8u211-linux-x64.tar.gz  -C /usr/local/
[root@es-2 ~]# cd /usr/local/
[root@es-2 local]# mv jdk1.8.0_211/ java
[root@es-2 local]# vim /etc/profile
[root@es-2 local]# vim /etc/profile      ----添加
JAVA_HOME=/usr/local/java
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME PATH
[root@es-2 local]# source /etc/profile

6.2 安裝配置nginx

[root@es-2 ~]# yum install -y eprl-release;yum install -y nginx
#將原來的日志格式注釋掉定義成json格式:
[root@es-2-zk-log conf.d]# vim /etc/nginx/nginx.conf
log_format  json '{"@timestamp":"$time_iso8601",'
                           '"@version":"1",'
                           '"client":"$remote_addr",'
                           '"url":"$uri",'
                           '"status":"$status",'
                           '"domain":"$host",'
                           '"host":"$server_addr",'
                           '"size":$body_bytes_sent,'
                           '"responsetime":$request_time,'
                           '"referer": "$http_referer",'
                           '"ua": "$http_user_agent"'
               '}';
#引用定義的json格式的日志:
access_log  /var/log/nginx/access_json.log  json;
#啟動(dòng)nginx
[root@es-2 ~]# systemctl start nginx 
[root@es-2 ~]# systemctl enable nginx

瀏覽器多訪問幾次

6.3 安裝配置logstash

[root@es-2 ~]# tar xvzf logstash-7.8.0.tar.gz -C /usr/local/
#創(chuàng)建目錄拾碌,我們將所有input吐葱、filter、output配置文件全部放到該目錄中校翔。
[root@es-2 ~]# mkdir -p /usr/local/logstash-7.8.0/etc/conf.d
[root@es-2 ~]# cd /usr/local/logstash-7.8.0 /etc/conf.d/       
[root@es-2 conf.d]# vim input.conf       #---在下面添加
input{                        #讓logstash可以讀取特定的事件源弟跑。
    file{                                       #從文件讀取
        path => ["/var/log/nginx/access_json.log"]        #要輸入的文件路徑
#   code => "json"               #定義編碼,用什么格式輸入和輸出防症,由于日志就是json格式孟辑,這里不用再寫
        type => "shopweb"                       #定義一個(gè)類型,通用選項(xiàng). 用于激活過濾器
       }
}
[root@es-2 conf.d]# vim output.conf
output{           #輸出插件蔫敲,將事件發(fā)送到特定目標(biāo)
    elasticsearch {            #輸出到es
    hosts => ["10.8.156.35:9200"]       #指定es服務(wù)的ip加端口
    index => ["%{type}-%{+YYYY.MM.dd}"]     #引用input中的type名稱饲嗽,定義輸出的格式
    }
}
啟動(dòng):
[root@es-2 conf.d]# cd /usr/local/logstash-7.8.0/
[root@es-2 logstash-7.8.0]# nohup bin/logstash -f etc/conf.d/  --config.reload.automatic &
[root@es-2 logstash-7.8.0]# tailf nohup.out

6.4、收集nginx日志

在瀏覽器中訪問本機(jī)的nginx網(wǎng)站奈嘿,然后去head插件頁面查看是否有shopweb索引出現(xiàn)


image.png

發(fā)現(xiàn)之后貌虾,去配置kibanna添加索引


image.png

image.png

image.png

image.png

image.png

7、收集Tomcat日志

配置文件:

[root@es-2 logstash-7.8.0]# cat etc/conf.d/tomcat.conf 
input {
    file {
      path => "/usr/local/tomcat/logs/localhost_access_log*.txt"
      type => "tomcat"
#      start_position => "beginning"
#      stat_interval => "2"
    }
}

output {
    elasticsearch {
      hosts => ["10.8.156.35:9200"]
      index => ["%{type}-%{+YYYY.MM.dd}"]
    }
}

效果如下圖:


image.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末裙犹,一起剝皮案震驚了整個(gè)濱河市尽狠,隨后出現(xiàn)的幾起案子衔憨,更是在濱河造成了極大的恐慌,老刑警劉巖袄膏,帶你破解...
    沈念sama閱讀 216,402評論 6 499
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件践图,死亡現(xiàn)場離奇詭異,居然都是意外死亡哩陕,警方通過查閱死者的電腦和手機(jī)平项,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,377評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來悍及,“玉大人,你說我怎么就攤上這事接癌⌒母希” “怎么了?”我有些...
    開封第一講書人閱讀 162,483評論 0 353
  • 文/不壞的土叔 我叫張陵缺猛,是天一觀的道長缨叫。 經(jīng)常有香客問我,道長荔燎,這世上最難降的妖魔是什么耻姥? 我笑而不...
    開封第一講書人閱讀 58,165評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮有咨,結(jié)果婚禮上琐簇,老公的妹妹穿的比我還像新娘。我一直安慰自己座享,他們只是感情好婉商,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,176評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著渣叛,像睡著了一般丈秩。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上淳衙,一...
    開封第一講書人閱讀 51,146評論 1 297
  • 那天蘑秽,我揣著相機(jī)與錄音,去河邊找鬼箫攀。 笑死肠牲,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的匠童。 我是一名探鬼主播埂材,決...
    沈念sama閱讀 40,032評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼汤求!你這毒婦竟也來了俏险?” 一聲冷哼從身側(cè)響起严拒,我...
    開封第一講書人閱讀 38,896評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎竖独,沒想到半個(gè)月后裤唠,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,311評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡莹痢,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,536評論 2 332
  • 正文 我和宋清朗相戀三年种蘸,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片竞膳。...
    茶點(diǎn)故事閱讀 39,696評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡航瞭,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出坦辟,到底是詐尸還是另有隱情刊侯,我是刑警寧澤,帶...
    沈念sama閱讀 35,413評論 5 343
  • 正文 年R本政府宣布锉走,位于F島的核電站滨彻,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏挪蹭。R本人自食惡果不足惜亭饵,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,008評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望梁厉。 院中可真熱鬧辜羊,春花似錦、人聲如沸懂算。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽计技。三九已至喜德,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間垮媒,已是汗流浹背舍悯。 一陣腳步聲響...
    開封第一講書人閱讀 32,815評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留睡雇,地道東北人萌衬。 一個(gè)月前我還...
    沈念sama閱讀 47,698評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像它抱,于是被迫代替她去往敵國和親秕豫。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,592評論 2 353