linux 下部署裝elasticsearch-7.2.0+elasticsearch-head-master+kibana-7.2.0-linux-x86_64+logstash-7.2.0

因為業(yè)務需要要將線上elasticsearch-2.3升級到最新版本,官方稱7.2.0版本比之前版本運行速度和效率有質(zhì)的飛躍诫给!

我們將安裝elasticsearch-7.2.0配套的環(huán)境

一初狰,首先去各自官網(wǎng)下載相應的文件:

elasticsearch-7.2.0

elasticsearch-head-master

kibana-7.2.0-linux-x86_64

logstash-7.2.0

elasticsearch-analysis-ik-7.2.0

node-v8.16.0-linux-x64.tar

在此我就不貼官網(wǎng)地址了三椿,給大家提供個百度云盤我下載好的鏈接

鏈接:https://pan.baidu.com/s/1qUSDGHaIRHfjjyfyZ7A9Pg
提取碼:e54v

二亏娜,安裝前準備

1铛纬,因為elasticsearch不允許使用root賬戶啟動职辅,所以我們首先創(chuàng)建用戶

useradd elk

2棒呛,更改系統(tǒng)資源限制

vim /etc/security/limits.conf

添加如下參數(shù):

  • soft nofile 65536

  • hard nofile 65536

  • soft nproc 2048

  • hard nproc 4096

vim /etc/sysctl.conf

添加:

vm.max_map_count=655360

使用如下命令使參數(shù)生效

sysctl -p

三,安裝部署

1,安裝elasticsearch

因提供的都是二進制包域携,無需編譯簇秒,可以直接使用

解壓

tar -xvf elasticsearch-7.2.0

將文件放到合適的地方

mv elasticsearch-7.2.0 /home/elk/

將文件所有者更改為elk

chown -R elk.elk /home/elk/elasticsearch-7.2.0

編輯elasticsearch配置文件:

vim elasticsearch.yml

cluster.name: xavito

transport.tcp.compress: true
cluster.initial_master_nodes: ["vito248","vito203"]
discovery.seed_hosts: ["192.168.1.248", "192.168.1.203"]

node.name: vito203

http.port: 9200

bootstrap.memory_lock: false
bootstrap.system_call_filter: false
network.host: 0.0.0.0
http.cors.enabled: true
http.cors.allow-origin: "*"

其中我這是兩個節(jié)點的集群,如果是單節(jié)點cluster參數(shù)就不用配置了秀鞭,如果是集群要主要集群的寫法趋观,有別與之前的版本

寫錯了就會到導致服務起不來扛禽,或者后續(xù)elasticsearch-head-master在網(wǎng)頁上連接不上。

同時也可以指定數(shù)據(jù)文件和日志文件路徑皱坛,默認情況下在當前主文件下

path.data: /path/to/data

path.logs: /path/to/logs

直接用elk用戶啟動即可

su elk

/home/elk/elasticsearch-7.2.0/elasticsearch -d (-d為后臺運行)

啟動后可以用curl或者瀏覽其訪問9200端口:

表示啟動已經(jīng)成功了

2编曼,安裝elasticsearch-head-master.zip

解壓:

unzip elasticsearch-head-master.zip

mv elasticsearch-head-master /home/elk/

chown -R elk.elk /home/elk/elasticsearch-head-maste

安裝:

首先必須有node.js,才可以安裝剩辟,沒有的話安裝下掐场,node只要在環(huán)境變量里配置好就行了

安裝node如下:

將安裝包上傳到指定位置(我習慣放到:/usr/local/application/目錄),并解壓

tar -xvf node-v10.6.0-linux-x64.tar.xz

重命名文件夾

1 mv node-v10.6.0-linux-x64 nodejs

通過建立軟連接變?yōu)槿?/p>

ln -s /usr/local/application/nodejs/bin/npm /usr/local/bin/

ln -s /usr/local/application/nodejs/bin/node /usr/local/bin/

檢查是否安裝成功贩猎,命令:node-v

node -v

v10.6.0

已安裝的上面步驟略過

cd /home/elk/elasticsearch-head-maste

執(zhí)行 npm install

執(zhí)行 npm run start (npm run start &)

netstat -nltp

看到9100端口開啟熊户,表示安裝成功了

可以在瀏覽器登錄

3、安裝kibana-7.2.0-linux-x86_64.tar.gz吭服,在7.2版本中官方直接支持中文嚷堡,在配置文件中即可設置

解壓

tar -xvf kibana-7.2.0-linux-x86_64.tar.gz

mv kibana-7.2.0-linux-x86_64 /home/elk/

chown -R elk.elk /home/elk/kibana-7.2.0-linux-x86_64

vim kibana.yml

在配置文件中添加如下參數(shù):

server.host: "192.168.1.248"
i18n.locale: "zh-CN"

即可支持中文

4,安裝elasticsearch-analysis-ik-7.2.0.zip中文分詞器

unzip elasticsearch-analysis-ik-7.2.0.zip

chown -R elk.elk /home/elk/elasticsearch-analysis-ik-7.2.0

直接加載到elasticsearch的 plugins下

mv elasticsearch-analysis-ik-7.2.0 /home/elk/elasticsearch-7.2.0/plugins/ik

重新啟動elasticsearch即可

5艇棕,安裝logstash-7.2.0.tar.gz

解壓:

tar -xvf logstash-7.2.0.tar.gz

mv logstash-7.2.0 /home/elk/

chown -R elk.elk /home/elk/ logstash-7.2.0

根據(jù)實際需要編輯配置文件:

例如:

vim format.cnf

input {
file {
path => "/mnt/new/tomcat/LOGS/WebLogs/user/.log"
type => "userlog"
start_position => "beginning"
sincedb_path => "/root/logstash-7.2.0/sincedb"
}
file {
path => "/mnt/new/tomcat/LOGS/
/output/.log"
type => "syslog"
codec => multiline {
pattern => "^\d"
negate => true
what => "previous"
}
start_position => "beginning"
sincedb_path => "/root/logstash-7.2.0/sincedb"
}
file {
path => "/mnt/new/tomcat/LOGS/
/pay/.log"
type => "pay"
codec => multiline {
pattern => "^\d"
negate => true
what => "previous"
}
start_position => "beginning"
sincedb_path => "/root/logstash-7.2.0/sincedb"
}
}
filter{
if [type] == "userlog" {
grok {
patterns_dir => "/root/logstash-7.2.0/reg"
match => {
"message" => "%{logdatetime:times} %{MSG_:msg}"
}
}
json {
source => "msg"
target => "msg"
}
if [msg][uri]=="/base/msg/tips/queryMsgTipsByUser.htm"{
drop {}
}
if [msg][ip] !~ "127.|192.168.|172.1[6-9].|172.2[0-9].|172.3[01].|10." {
geoip {
source => "[msg][ip]"
database => "/root/logstash-7.2.0/vendor/bundle/jruby/2.5.0/gems/logstash-filter-geoip-6.0.1-java/vendor/GeoLite2-City.mmdb"
target => "geoip"
fields => ["region_name","city_name","location"]
}
}
useragent {
source => "[msg][ua]"
target => "ua"
}
date {
locale => "cn"
match => ["times", "yyyy-MM-dd HH:mm:ss.SSS","UNIX"]
target => "@timestamp"
}
mutate {
remove_field => "@version"
remove_field => "message"
remove_field => "[msg][ua]"
remove_field => "times"
}
}
if [type] == "syslog" {
grok {
patterns_dir => "/root/logstash-7.2.0/reg"
match=>["message","%{logdatetime:times} .
%{LOGLEVEL:loglevel } {0,4}%{CLASSNAME:classname} {0,4}- {0,4}%{INFOMSG:infomsg}"]
}
if [classname] =~"^com.alibaba.dubbo.config.AbstractConfig" {
drop {}
}
if [classname] =~"^org.springframework.web.servlet.mvc.annotation.DefaultAnnotationHandlerMapping" {
drop {}
}
if [classname] =~"^o.springframework.web.servlet.mvc.method.annotation.RequestMappingHandlerMapping" {
drop {}
}
if [loglevel] == "DEBUG" {
drop {}
}
date {
locale => "cn"
match => ["times", "yyyy-MM-dd HH:mm:ss.SSS","UNIX"]
target => "@timestamp"
}
mutate {
remove_field => "@version"
remove_field => "times"
remove_field => "message"
remove_field => "tags"
}
}
if [type] == "pay" {
grok {
patterns_dir => "/root/logstash-7.2.0/reg"
match=>["message","%{logdatetime:times} .*%{LOGLEVEL:loglevel } {0,4}%{CLASSNAME:classname} {0,4}- {0,4}%{INFOMSG:infomsg}"]
}
date {
locale => "cn"
match => ["times", "yyyy-MM-dd HH:mm:ss.SSS","UNIX"]
target => "@timestamp"
}
mutate {
remove_field => "@version"
remove_field => "times"
remove_field => "message"
remove_field => "tags"
}
}
}
output {
elasticsearch {
hosts => ["192.168.1.248:9200","192.168.1.203:9200"]
codec => "json"
index => "log-%{type}-%{+YYYYMM}"
manage_template => true
template_overwrite => true
template_name => "my_logstash"
template => "/root/logstash-7.2.0/bin/logstash.json"
}
}

啟動:

/home/elk/ logstash-7.2.0/bin/logstash -f /path/format.cnf

到此安裝完成蝌戒!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市欠肾,隨后出現(xiàn)的幾起案子瓶颠,更是在濱河造成了極大的恐慌,老刑警劉巖刺桃,帶你破解...
    沈念sama閱讀 218,858評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異吸祟,居然都是意外死亡瑟慈,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,372評論 3 395
  • 文/潘曉璐 我一進店門屋匕,熙熙樓的掌柜王于貴愁眉苦臉地迎上來葛碧,“玉大人,你說我怎么就攤上這事过吻〗茫” “怎么了?”我有些...
    開封第一講書人閱讀 165,282評論 0 356
  • 文/不壞的土叔 我叫張陵纤虽,是天一觀的道長乳绕。 經(jīng)常有香客問我,道長逼纸,這世上最難降的妖魔是什么洋措? 我笑而不...
    開封第一講書人閱讀 58,842評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮杰刽,結(jié)果婚禮上菠发,老公的妹妹穿的比我還像新娘王滤。我一直安慰自己,他們只是感情好滓鸠,可當我...
    茶點故事閱讀 67,857評論 6 392
  • 文/花漫 我一把揭開白布雁乡。 她就那樣靜靜地躺著,像睡著了一般糜俗。 火紅的嫁衣襯著肌膚如雪踱稍。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,679評論 1 305
  • 那天吩跋,我揣著相機與錄音寞射,去河邊找鬼。 笑死锌钮,一個胖子當著我的面吹牛桥温,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播梁丘,決...
    沈念sama閱讀 40,406評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼侵浸,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了氛谜?” 一聲冷哼從身側(cè)響起掏觉,我...
    開封第一講書人閱讀 39,311評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎值漫,沒想到半個月后澳腹,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,767評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡杨何,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,945評論 3 336
  • 正文 我和宋清朗相戀三年酱塔,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片危虱。...
    茶點故事閱讀 40,090評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡羊娃,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出埃跷,到底是詐尸還是另有隱情蕊玷,我是刑警寧澤,帶...
    沈念sama閱讀 35,785評論 5 346
  • 正文 年R本政府宣布弥雹,位于F島的核電站垃帅,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏缅糟。R本人自食惡果不足惜挺智,卻給世界環(huán)境...
    茶點故事閱讀 41,420評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧赦颇,春花似錦二鳄、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,988評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至扇苞,卻和暖如春欺殿,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背鳖敷。 一陣腳步聲響...
    開封第一講書人閱讀 33,101評論 1 271
  • 我被黑心中介騙來泰國打工脖苏, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人定踱。 一個月前我還...
    沈念sama閱讀 48,298評論 3 372
  • 正文 我出身青樓棍潘,卻偏偏與公主長得像,于是被迫代替她去往敵國和親崖媚。 傳聞我的和親對象是個殘疾皇子亦歉,可洞房花燭夜當晚...
    茶點故事閱讀 45,033評論 2 355

推薦閱讀更多精彩內(nèi)容