filebeat+kafka+logstash+elasticsearch+kibana 單機(jī)安裝

1. 安裝JDK(tar.gz版本)

官網(wǎng)下載:?http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html?

解壓到指定的目錄(filename替換為你的tar包):

tar -zxvf filename -C /usr/local/java/

修改配置文件:

vim /etc/profile

添加:

export JAVA_HOME=/usr/java/jdk1.8.0_191-amd64

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin

使生效:

source /etc/profile

校驗(yàn):

java -version

若成功本砰,則顯示 java 版本:

java version "1.8.0_191"

Java(TM) SE Runtime Environment (build 1.8.0_191-b12)

Java HotSpot(TM) 64-Bit Server VM (build 25.191-b12, mixed mode)


2. filebeat安裝

curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-6.5.2-linux-x86_64.tar.gz

tar xzvf filebeat-6.5.2-linux-x86_64.tar.gz

修改 filebeat.yml (注釋除kafka以外的輸出源)

#=========================== Filebeat inputs =============================?

filebeat.inputs:

# Each - is an input. Most options can be set at the input level, so

# you can use different inputs for various configurations.

# Below are the input specific configurations.

- type: log

# Change to true to enable this input configuration.

enabled: true

# Paths that should be crawled and fetched. Glob based paths.

paths:

- /*/log/*

fields:

testname: xxxnn

fields_under_root: true

#----------------------------- kafka output --------------------------------

output.kafka:

enabled: true

hosts: ["localhost:9092"]

max_retries: 5

timeout: 300

topic: "filebeat"

配置驗(yàn)證:

./filebeat test config -c filebeat.yml


3. kafka缠局、zookeeper安裝

docker 鏡像拉取

docker pull wurstmeister/zookeeper:latest

docker pull wurstmeister/kafka:latest

連接、啟動(dòng)服務(wù)

sudo docker run -d --name zookeeper -p 2181 -t wurstmeister/zookeeper:latest

sudo docker run -d --name kafka --publish 9092:9092 --link zookeeper --env KAFKA_ZOOKEEPER_CONNECT=zookeeper:2181 --env KAFKA_ADVERTISED_HOST_NAME=127.0.0.1 --env KAFKA_ADVERTISED_PORT=9092 wurstmeister/kafka:latest

進(jìn)入容器查看配置

docker exec -it kafka bash


4. 安裝logstash

下載公共簽名文件:

rpm --import https://artifacts.elastic.co/GPG-KEY-elasticsearch

在 /etc/yum.repos.d/ 路徑下添加你的?.repo 文件驱证,比如?logstash.repo

[logstash-6.x]

name=Elastic repository for 6.x packages

baseurl=https://artifacts.elastic.co/packages/6.x/yum gpgcheck=1

gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch

enabled=1

autorefresh=1

type=rpm-md

添加完依賴以后,你可以使用yum進(jìn)行安裝了

sudo yum install logstash

添加配置文件test.conf

input {

kafka {

bootstrap_servers => "127.0.0.1:9092"

topics => ["filebeat"]

group_id => "test-consumer-group"

codec => "plain"

consumer_threads => 1

decorate_events => true

}

}

output {

elasticsearch {

hosts => ["127.0.0.1:9200"]

index => "test" workers => 1

}

}

測(cè)試配置文件

./logstash -f test.conf --config.test_and_exit


5. elasticsearch 安裝

拉取鏡像

docker pull docker.elastic.co/elasticsearch/elasticsearch-oss:6.3.2


6. 服務(wù)啟動(dòng)

1)elasticsearch?

sudo docker run -d --name es -p 9200:9200 -t docker.elastic.co/elasticsearch/elasticsearch-oss:6.3.2

2)logstash

./logstash -f test.conf --config.reload.automatic

3) kafka

上文已經(jīng)處于啟動(dòng)狀態(tài)

4)filebeat

./filebeat -e -c filebeat.yml -d "publish"


7. 添加 kibana 可視化操作界面

下載kibana

wget https://artifacts.elastic.co/downloads/kibana/kibana-6.3.2-linux-x86_64.tar.gz

tar -zxvf kibana-6.3.2-linux-x86_64.tar.gz

修改配置文件

vim config/kibana.yml

# 放開(kāi)注釋,將默認(rèn)配置改成如下:

server.port: 5601

server.host: "0.0.0.0"

elasticsearch.url: "http://192.168.202.128:9200"

kibana.index: ".kibana"

啟動(dòng)

./kibana


至此單機(jī)版的安裝已經(jīng)全部完成


?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末愿棋,一起剝皮案震驚了整個(gè)濱河市招盲,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌算谈,老刑警劉巖涩禀,帶你破解...
    沈念sama閱讀 222,627評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異然眼,居然都是意外死亡艾船,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,180評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)高每,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)屿岂,“玉大人,你說(shuō)我怎么就攤上這事鲸匿∫常” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,346評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵带欢,是天一觀的道長(zhǎng)运授。 經(jīng)常有香客問(wèn)我,道長(zhǎng)乔煞,這世上最難降的妖魔是什么吁朦? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,097評(píng)論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮渡贾,結(jié)果婚禮上逗宜,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好锦溪,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,100評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布不脯。 她就那樣靜靜地躺著,像睡著了一般刻诊。 火紅的嫁衣襯著肌膚如雪防楷。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,696評(píng)論 1 312
  • 那天则涯,我揣著相機(jī)與錄音复局,去河邊找鬼。 笑死粟判,一個(gè)胖子當(dāng)著我的面吹牛亿昏,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播档礁,決...
    沈念sama閱讀 41,165評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼角钩,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了呻澜?” 一聲冷哼從身側(cè)響起递礼,我...
    開(kāi)封第一講書(shū)人閱讀 40,108評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎羹幸,沒(méi)想到半個(gè)月后脊髓,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,646評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡栅受,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,709評(píng)論 3 342
  • 正文 我和宋清朗相戀三年将硝,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片屏镊。...
    茶點(diǎn)故事閱讀 40,861評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡依疼,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出闸衫,到底是詐尸還是另有隱情涛贯,我是刑警寧澤,帶...
    沈念sama閱讀 36,527評(píng)論 5 351
  • 正文 年R本政府宣布蔚出,位于F島的核電站弟翘,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏骄酗。R本人自食惡果不足惜稀余,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,196評(píng)論 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望趋翻。 院中可真熱鬧睛琳,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,698評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至辟癌,卻和暖如春寒屯,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背黍少。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,804評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工寡夹, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人厂置。 一個(gè)月前我還...
    沈念sama閱讀 49,287評(píng)論 3 379
  • 正文 我出身青樓菩掏,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親昵济。 傳聞我的和親對(duì)象是個(gè)殘疾皇子智绸,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,860評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • 本人陸陸續(xù)續(xù)接觸了ELK的1.4,2.0砸紊,2.4传于,5.0,5.2版本醉顽,可以說(shuō)前面使用當(dāng)中一直沒(méi)有太多感觸,最近使用...
    三杯水Plus閱讀 4,108評(píng)論 0 12
  • 架構(gòu)設(shè)計(jì): 這是來(lái)到新公司后搭建的平挑,目的是滿足日均百G的存儲(chǔ)量游添。之前使用5.X版本時(shí)一般使用redis的list模...
    天夭夭閱讀 1,420評(píng)論 0 7
  • ELK 簡(jiǎn)介 ELK即是Elasticsearch, Logstash, Filebeat, Kibana四者的結(jié)...
    cli1871閱讀 796評(píng)論 1 2
  • 我不是從新年的第一天開(kāi)始做366天攝影計(jì)劃的,在六月份的某一天通熄,我說(shuō)我想做這個(gè)唆涝,就做了。 這些照片被打...
    如常似夢(mèng)閱讀 396評(píng)論 5 10
  • 激發(fā)我在美食這條路上越走越遠(yuǎn)的起因是我的大寶非常挑食唇辨,為了瘦瘦的她健康茁壯成長(zhǎng)廊酣,我便費(fèi)盡心思把一日三餐做的更加可口...
    米西了閱讀 245評(píng)論 0 2