ELK 集群搭建

本片文章記錄的大概是18年ELK的搭建過程砂碉,現(xiàn)在找個時間記錄下來。由于當(dāng)時業(yè)務(wù)沒有涉及到Logstash組件的應(yīng)用肾请,下文介紹不包括Logstash的搭建枉阵。
1:JDK1.8

基礎(chǔ)環(huán)境 配置

JDK配置
Java8或更高版本
export JAVA_HOME=/app/bi/public_script/app_data/decrypt_appmsg/java1.8
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
圖1

軟件包

下載es,kibana,head,node相關(guān)安裝包
1?. es下載
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.2.tar.gz
2?. kibana下載
wget https://artifacts.elastic.co/downloads/kibana/kibana-6.2.2-linux-x86_64.tar.gz
3?. node下載
wget https://npm.taobao.org/mirrors/node/latest/node-v10.1.0-linux-x64.tar.gz
4?. head下載
https://github.com/mobz/elasticsearch-head

Elasticsearch配置

1?. elasticsearch.yml
cluster.name: youyu-es-cluster
node.name: es-master
node.master: true
node.data: true
path.data: /home/es/elasticsearch/elasticsearch-data/data/data
path.logs: /home/es/elasticsearch/elasticsearch-data/data/logs
network.host: 192.168.83.90
http.port: 9200
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: Authorization,X-Requested-With,Content- Length,Content-Type
discovery.zen.ping.unicast.hosts: ["192.168.83.90","192.168.83.91","192.168.83.92"]
discovery.zen.minimum_master_nodes: 2
bootstrap.memory_lock: false
bootstrap.system_call_filter: false
2?. jvm.options
修改JVM相關(guān)的配置,內(nèi)存大小等等
vim /home/es/elasticsearch/elasticsearch-6.2.2/config/jvm.options
-Xms4g
-Xmx4g
圖2

node配置

1. node安裝包下載:
wget https://npm.taobao.org/mirrors/node/latest/node-v10.1.0-linux-x64.tar.gz

配置環(huán)境變量(在es用戶下配置的環(huán)境) 如圖1:

2?. node配置
export NODE_HOME=/app/service/elasticsearch/node/node-v10.1.0-linux-x64
export PATH=$NODE_HOME/bin:$PATH
3?. 使node生效
source ~/.bash_profile
4?. 查看node是否安裝成功
node -v
npm -v

head配置

1?. ead安裝包下載:

下載地址

2?. head安裝文檔:

文檔

注意:安裝node需要在root用戶下安裝

3?. node.js 安裝
安裝head 前要安裝node.js技掏,只需要解壓安裝配置環(huán)境變量就OK
node地址:
1> [https://npm.taobao.org/mirrors/node/](https://npm.taobao.org/mirrors/node/)
2>  wget https://npm.taobao.org/mirrors/node/latest/node-v10.1.0-linux-x64.tar.gz
4?. 啟動head需要grunt命令執(zhí)行:
安裝grunt需要進入head目錄下安裝铃将,root用戶下安裝
sudo npm install -g grunt-cli
5?. 在head的目錄下面執(zhí)行,安裝head 需要grunt命令啟動
npm install grunt --save-dev
npm install 
6?. 修改Gruntfile.js文件,增加hostname屬性哑梳,設(shè)置為*

修改 vim _site/app.js 文件:修改head的連接地址

注意:head訪問要加上用戶名和密碼

kibana配置

server.port: 5601
server.host: "0.0.0.0"
elasticsearch.url: "http://192.168.83.90:9200"
注意kibana.yml解決啟動警告的現(xiàn)象
xpack.reporting.encryptionKey: "a_random_string"
xpack.security.encryptionKey: "something_at_least_32_characters"
解決啟動請求es超時的現(xiàn)象
elasticsearch.requestTimeout: 50000
遇到問題相關(guān)文檔問題

相關(guān)文檔1?
相關(guān)文檔2?

解決6.2版本權(quán)限認證問題

相關(guān)文檔

創(chuàng)建用戶
bin/x-pack/users useradd admin -p 123456 -r superuser
elasticsearch忘記用戶名密碼劲阎,重置三步走:
1??創(chuàng)建超級用戶admin 密碼123456
> bin/x-pack/users useradd admin -p 123456 -r superuser

2??用超級用戶給elastic創(chuàng)建密碼
curl -u admin -XPUT 'http://192.168.83.91:9200/_xpack/security/user/elastic/_password?pretty' -H 'Content-Type: application/json' -d' { "password" : "123456" }'

3??驗證
curl -u elastic 'http://192.168.83.92:9200/_xpack/security/_authenticate?pretty'

注意

線上環(huán)境各個節(jié)點的es的用戶名 密碼都是elastic:123456
http://192.168.83.91:9100/?auth_user=elastic&auth_password=123456

破解x-pack證書

參考博客?
將elasticsearch 6.2.2安裝包的/plugins/x-pack/x-pack-core/x-pack-core-6.2.2.jar 這個x-pack-core-6.2.2.jar進行解壓

1?. 重新編譯XPackBuild和LicenseVerifier文件
  • 將博客相應(yīng)內(nèi)容拷貝到下面的文件中
    vim XPackBuild.java
    
  • 編譯XPackBuild.java
    javac -cp "/app/service/elasticsearch/elastic/elasticsearch-6.2.2/lib/elasticsearch-6.2.2.jar:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/lib/lucene-core-7.2.1.jar:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/lib/elasticsearch-core-6.2.2.jar:app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/x-pack-core-6.2.2.jar" XPackBuild.java
    
  • 將博客相應(yīng)內(nèi)容拷貝到下面的文件中
    vim LicenseVerifier.java
    
  • 編譯LicenseVerifier.java
    javac -cp "/app/service/elasticsearch/elastic/elasticsearch-6.2.2/lib/elasticsearch-6.2.2.jar:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/lib/lucene-core-7.2.1.jar:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/x-pack-core-6.2.2.jar" LicenseVerifier.java
    
2?. 創(chuàng)建一個臨時文件夾mytest解壓jar
  • 解壓
    jar -xvf x-pack-core-6.2.2.jar
    
  • 解壓后刪除
    rm -rf x-pack-core-6.2.2.jar
    
  • 將原先包內(nèi)的老.class文件用新的替換掉
    XPackBuild.class路徑:/app/service/elasticsearch/elastic/mytest/org/elasticsearch/xpack/core
    mv XPackBuild.class /app/service/elasticsearch/elastic/mytest/org/elasticsearch/xpack/core/.
    
    LicenseVerifier.class路徑:/app/service/elasticsearch/elastic/mytest/org/elasticsearch/license
    mv LicenseVerifier.class /app/service/elasticsearch/elastic/mytest/org/elasticsearch/license/.
    
3?. 重新打包x-pack-core-6.2.2.jar
jar -cvf x-pack-core-6.2.2.jar ./*
4?. 將新打的x-pack-core-6.2.2.jar包,拷貝到其他節(jié)點的es中相應(yīng)的位置
  • 拷貝到91節(jié)點:
    scp /app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/x-pack-core-6.2.2.jar es@192.168.83.91:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/.
    
  • 拷貝到92節(jié)點:
    scp /app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/x-pack-core-6.2.2.jar es@192.168.83.92:/app/service/elasticsearch/elastic/elasticsearch-6.2.2/plugins/x-pack/x-pack-core/.
    
  • 激活x-pack:
    curl -XPUT -u admin:123456 'http://192.168.83.90:9200/_xpack/license?acknowledge=true' -H "Content-Type: application/json" -d @license.json
    

安全認證

注意:在es和x-pack安裝完成啟動正常的前提下涧衙,需要使用者繼續(xù)按照如下操作進行

第一步:在es集群的每個節(jié)點的配置文件elasticsearch.yml中添加下面配置使得x-pack認證機制生效
xpack.security.audit.enabled: true
第二步:開啟 xpack的 安全機制哪工。 需要在 kibana.yml中同樣加入
xpack.security.enabled: true
xpack.graph.enabled: true
xpack.watcher.enabled: true
xpack.monitoring.enabled: true
第三步:因為我們導(dǎo)入的不是試用版的license 所以如果我們要開啟安全驗證 必須要配置集群內(nèi)部通訊的TLS/SSL,實現(xiàn)過程如下:
1?. 為es集群的每個節(jié)點創(chuàng)建證書頒發(fā)機構(gòu)弧哎,執(zhí)行bin/x-pack/certutil ca 會產(chǎn)生一個文件elastic-stack-ca.p12雁比,默認的名稱是elastic-stack-ca.p12,也可以自己指定撤嫩,執(zhí)行的過程中偎捎,需要的密碼為:es123456
bin/x-pack/certutil ca
2?. 為集群中的每個節(jié)點生成證書和私鑰,執(zhí)行下面命令序攘,會生成一個elastic-certificates.p12茴她,在生成的過程中需要輸入生成的文件名和需要的密碼,密碼為:es123456
  bin/x-pack/certutil cert --ca elastic-stack-ca.p12
3?. 在config目錄下面創(chuàng)建一個文件夾certs程奠,將生成的elastic-certificates.p12拷貝進去,并且要將步驟2??產(chǎn)生的證書要拷貝到其他節(jié)點的相應(yīng)位置上丈牢;
4?. 啟用TLS并指定訪問節(jié)點證書所需的信息,下面的配置在所有節(jié)點的elasticsearch.yml下都要加上
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: certs/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: certs/elastic-certificates.p12
5?. 如果使用密碼保護節(jié)點的證書,將密碼添加到elasticsearch秘鑰庫瞄沙;密碼為:es123456
bin/elasticsearch-keystore add xpack.security.transport.ssl.keystore.secure_password

bin/elasticsearch-keystore add xpack.security.transport.ssl.truststore.secure_password
6?. 最后可以初始化es kibana logstach的密碼己沛,執(zhí)行如下命令:
./bin/x-pack/setup-passwords interactive(6.2版本)

./bin/elasticsearch-setup-passwords interactive(6.3版本)

注意執(zhí)行上面的命令后,數(shù)據(jù)相關(guān)組件的密碼后距境,記住es的密碼和用戶名申尼,因為這個賬號和密碼需要配置到kibana文件中去

安全驗證相關(guān)文章

相關(guān)文章1?
相關(guān)文章2?

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市垫桂,隨后出現(xiàn)的幾起案子师幕,更是在濱河造成了極大的恐慌,老刑警劉巖诬滩,帶你破解...
    沈念sama閱讀 221,695評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件霹粥,死亡現(xiàn)場離奇詭異灭将,居然都是意外死亡,警方通過查閱死者的電腦和手機后控,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,569評論 3 399
  • 文/潘曉璐 我一進店門宗侦,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人忆蚀,你說我怎么就攤上這事」昧眩” “怎么了馋袜?”我有些...
    開封第一講書人閱讀 168,130評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長舶斧。 經(jīng)常有香客問我欣鳖,道長,這世上最難降的妖魔是什么茴厉? 我笑而不...
    開封第一講書人閱讀 59,648評論 1 297
  • 正文 為了忘掉前任泽台,我火速辦了婚禮,結(jié)果婚禮上矾缓,老公的妹妹穿的比我還像新娘怀酷。我一直安慰自己,他們只是感情好嗜闻,可當(dāng)我...
    茶點故事閱讀 68,655評論 6 397
  • 文/花漫 我一把揭開白布蜕依。 她就那樣靜靜地躺著,像睡著了一般琉雳。 火紅的嫁衣襯著肌膚如雪样眠。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,268評論 1 309
  • 那天翠肘,我揣著相機與錄音檐束,去河邊找鬼。 笑死束倍,一個胖子當(dāng)著我的面吹牛被丧,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播肌幽,決...
    沈念sama閱讀 40,835評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼晚碾,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了喂急?” 一聲冷哼從身側(cè)響起格嘁,我...
    開封第一講書人閱讀 39,740評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎廊移,沒想到半個月后糕簿,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體探入,經(jīng)...
    沈念sama閱讀 46,286評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,375評論 3 340
  • 正文 我和宋清朗相戀三年懂诗,在試婚紗的時候發(fā)現(xiàn)自己被綠了蜂嗽。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,505評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡殃恒,死狀恐怖植旧,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情离唐,我是刑警寧澤病附,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站亥鬓,受9級特大地震影響完沪,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜嵌戈,卻給世界環(huán)境...
    茶點故事閱讀 41,873評論 3 333
  • 文/蒙蒙 一覆积、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧熟呛,春花似錦宽档、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,357評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至偿短,卻和暖如春欣孤,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背昔逗。 一陣腳步聲響...
    開封第一講書人閱讀 33,466評論 1 272
  • 我被黑心中介騙來泰國打工降传, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人勾怒。 一個月前我還...
    沈念sama閱讀 48,921評論 3 376
  • 正文 我出身青樓婆排,卻偏偏與公主長得像,于是被迫代替她去往敵國和親笔链。 傳聞我的和親對象是個殘疾皇子段只,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,515評論 2 359

推薦閱讀更多精彩內(nèi)容