EFK日志收集分析系統(tǒng)

https://docs.fluentd.org/v1.0/articles/out_elasticsearch

1.png
cat >> /etc/hosts <<eof   [Node1 Node2]
10.0.0.20 master
10.0.0.22 web1
eof

# yum install java        [Node1 Node2]
# java -version

Node1

# wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.1.rpm
# vim /etc/elasticsearch/elasticsearch.yml
cluster.name: my-application
node.name: node-1
node.master: true
network.host: 10.0.0.20
http.port: 9200

Node2
# vim /etc/elasticsearch/elasticsearch.yml
cluster.name: my-application
node.name: node-2
node.master: false
network.host: 10.0.0.22
http.port: 9200
discovery.zen.ping.unicast.hosts: ["host1", "10.0.0.20”]

# /etc/init.d/elasticsearch start
# /etc/init.d/elasticsearch status
# curl http://10.0.0.20:9200/_cat/health
# curl http://10.0.0.20:9200/_cat/nodes


Fluentd (tdagent)  Node2

# wget http://packages.treasuredata.com.s3.amazonaws.com/3/redhat/7/x86_64/td-agent-3.2.0-0.el7.x86_64.rpm
# rpm -ivh td-agent-3.2.0-0.el7.x86_64.rpm  --force --nodeps
# yum install -y libcurl-devel
# /opt/td-agent/embedded/bin/fluent-gem install fluent-plugin-elasticsearch

# cd /etc/td-agent/
# cat td-agent.conf
<source>
  @type forward
  port 24224
</source>

####################################
<source>
  @type tail
  path /var/log/httpd/access_log
  pos_file /var/log/td-agent/httpd-access.log.pos
  tag apache.access
  <parse>
    @type apache2
  </parse>
</source>
####################################
<match debug.**>
  @type stdout
</match>
####################################

<match *.**>
  @type copy
  <store>
    @type elasticsearch
    host 10.0.0.20
    port 9200
    logstash_format true
    logstash_prefix fluentd-${tag}
    logstash_dateformat %Y%m%d
    include_tag_key true
    type_name access_log
    tag_key @log_name
    flush_interval 1s
  </store>
  <store>
    @type stdout
  </store>
</match>

# /etc/init.d/td-agent restart
# yum -y install httpd
# chmod 777 -R /var/log/httpd/
# tail -f /var/log/td-agent/td-agent.log
# curl http://10.0.0.20:9200/_cat/indices?v


Kibana    [master]

# wget https://artifacts.elastic.co/downloads/kibana/kibana-6.3.1-x86_64.rpm
# rpm -ivh kibana-6.3.1-x86_64.rpm

# vim /etc/kibana/kibana.yml
server.port: 5601
server.host: "10.0.0.20"
elasticsearch.url: "http://10.0.0.20:9200"
kibana.index: ".kibana"

# /etc/init.d/kibana restart
# tail -f /var/log/kibana/kibana.stderr

瀏覽器 http://10.0.0.20:5601/app/kibana#/home?_g=()
2.png
3.png
4.png
5.png
6.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市隔箍,隨后出現(xiàn)的幾起案子杆煞,更是在濱河造成了極大的恐慌翘簇,老刑警劉巖毯辅,帶你破解...
    沈念sama閱讀 218,858評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件梦谜,死亡現(xiàn)場離奇詭異潦牛,居然都是意外死亡异希,警方通過查閱死者的電腦和手機健盒,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,372評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來称簿,“玉大人扣癣,你說我怎么就攤上這事『┙担” “怎么了父虑?”我有些...
    開封第一講書人閱讀 165,282評論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長授药。 經(jīng)常有香客問我士嚎,道長,這世上最難降的妖魔是什么悔叽? 我笑而不...
    開封第一講書人閱讀 58,842評論 1 295
  • 正文 為了忘掉前任莱衩,我火速辦了婚禮,結(jié)果婚禮上娇澎,老公的妹妹穿的比我還像新娘膳殷。我一直安慰自己,他們只是感情好九火,可當(dāng)我...
    茶點故事閱讀 67,857評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著册招,像睡著了一般岔激。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上是掰,一...
    開封第一講書人閱讀 51,679評論 1 305
  • 那天虑鼎,我揣著相機與錄音,去河邊找鬼键痛。 笑死炫彩,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的絮短。 我是一名探鬼主播江兢,決...
    沈念sama閱讀 40,406評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼丁频!你這毒婦竟也來了杉允?” 一聲冷哼從身側(cè)響起邑贴,我...
    開封第一講書人閱讀 39,311評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎叔磷,沒想到半個月后拢驾,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,767評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡改基,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,945評論 3 336
  • 正文 我和宋清朗相戀三年繁疤,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片秕狰。...
    茶點故事閱讀 40,090評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡稠腊,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出封恰,到底是詐尸還是另有隱情麻养,我是刑警寧澤,帶...
    沈念sama閱讀 35,785評論 5 346
  • 正文 年R本政府宣布诺舔,位于F島的核電站鳖昌,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏低飒。R本人自食惡果不足惜许昨,卻給世界環(huán)境...
    茶點故事閱讀 41,420評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望褥赊。 院中可真熱鬧糕档,春花似錦、人聲如沸拌喉。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,988評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽尿背。三九已至端仰,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間田藐,已是汗流浹背荔烧。 一陣腳步聲響...
    開封第一講書人閱讀 33,101評論 1 271
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留汽久,地道東北人鹤竭。 一個月前我還...
    沈念sama閱讀 48,298評論 3 372
  • 正文 我出身青樓,卻偏偏與公主長得像景醇,于是被迫代替她去往敵國和親臀稚。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,033評論 2 355

推薦閱讀更多精彩內(nèi)容