FileBeat配置輸出

1、配置Elasticsearch output
當(dāng)你指定Elasticsearch作為output時粪糙,F(xiàn)ilebeat通過Elasticsearch提供的HTTP API向其發(fā)送數(shù)據(jù)异旧。例如:

output.elasticsearch:
hosts: ["https://localhost:9200"]
index: "filebeat-%{[beat.version]}-%{+yyyy.MM.dd}"
ssl.certificate_authorities: ["/etc/pki/root/ca.pem"]
ssl.certificate: "/etc/pki/client/cert.pem"
ssl.key: "/etc/pki/client/cert.key"
為了啟用SSL沉馆,只需要在hosts下的所有URL添加https即可

output.elasticsearch:
hosts: ["https://localhost:9200"]
username: "filebeat_internal"
password: "YOUR_PASSWORD"
如果Elasticsearch節(jié)點(diǎn)是用IP:PORT的形式定義的汰扭,那么添加protocol:https囤躁。

output.elasticsearch:
hosts: ["localhost"]
protocol: "https"
username: "{beatname_lc}_internal"
password: "{pwd}"
1.1 配置項
enabled

啟用或禁用該輸出冀痕。默認(rèn)true。

hosts

Elasticsearch節(jié)點(diǎn)列表狸演。事件以循環(huán)順序發(fā)送到這些節(jié)點(diǎn)言蛇。如果一個節(jié)點(diǎn)變得不可訪問,那么自動發(fā)送到下一個節(jié)點(diǎn)宵距。每個節(jié)點(diǎn)可以是URL形式腊尚,也可以是IP:PORT形式。如果端口沒有指定满哪,用9200婿斥。

output.elasticsearch:
hosts: ["10.45.3.2:9220", "10.45.3.1:9230"]
protocol: https
path: /elasticsearch
username

用于認(rèn)證的用戶名

password

用戶認(rèn)證的密碼

protocol

可選值是:http 或者 https劝篷。默認(rèn)是http。

path

HTTP API調(diào)用前的HTTP路徑前綴民宿。這對于Elasticsearch監(jiān)聽HTTP反向代理的情況很有用娇妓。

headers

將自定義HTTP頭添加到Elasticsearch輸出的每個請求。

index

索引名字活鹰。(PS:意思是要發(fā)到哪個索引中去)哈恰。默認(rèn)是"filebeat-%{[beat.version]}-%{+yyyy.MM.dd}"(例如,"filebeat-6.3.2-2017.04.26")志群。如果你想改變這個設(shè)置着绷,你需要配置 setup.template.name 和 setup.template.pattern 選項。如果你用內(nèi)置的Kibana dashboards锌云,你也需要設(shè)置setup.dashboards.index選項荠医。

indices

索引選擇器規(guī)則數(shù)組,支持條件桑涎、基于格式字符串的字段訪問和名稱映射彬向。如果索引缺失或沒有匹配規(guī)則,將使用index字段石洗。例如:

output.elasticsearch:
hosts: ["http://localhost:9200"]
index: "logs-%{[beat.version]}-%{+yyyy.MM.dd}"
indices:
- index: "critical-%{[beat.version]}-%{+yyyy.MM.dd}"
when.contains:
message: "CRITICAL"
- index: "error-%{[beat.version]}-%{+yyyy.MM.dd}"
when.contains:
message: "ERR"
timeout

請求超時時間幢泼。默認(rèn)90秒紧显。

1.2 加載Elasticsearch 索引模板
在filebeat.yml配置文件的setup.template區(qū)域指定索引模板讲衫,用來設(shè)置在Elasticsearch中的映射。如果模板加載是啟用的(默認(rèn)的)孵班,F(xiàn)ilebeat在成功連接到Elasticsearch后自動加載索引模板涉兽。

你可以調(diào)整下列設(shè)置或者覆蓋一個已經(jīng)存在的模板。

setup.template.enabled
設(shè)為false表示禁用模板加載

setup.template.name
模板的名字篙程。默認(rèn)是filebeat枷畏。Filebeat的版本總是跟在名字后面,所以最終的名字是 filebeat-%{[beat.version]}

setup.template.pattern
模板的模式虱饿。默認(rèn)模式是filebeat-*拥诡。例如:

setup.template.name: "filebeat"
setup.template.pattern: "filebeat-*"
setup.template.fields
描述字段的YAML文件路徑。默認(rèn)是 fields.yml氮发。

setup.template.overwrite
是否覆蓋存在的模板渴肉。默認(rèn)false。

setup.template.settings._source

setup.template.name: "filebeat"
setup.template.fields: "fields.yml"
setup.template.overwrite: false
setup.template.settings:
_source.enabled: false
2爽冕、配置Logstash output
output.logstash:
hosts: ["127.0.0.1:5044"]
上面是配置Filebeat輸出到Logstash仇祭,那么Logstash本身也有配置,例如:

input {
beats {
port => 5044
}
}

output {
elasticsearch {
hosts => ["http://localhost:9200"]
index => "%{[@metadata][beat]}-%{[@metadata][version]}-%{+YYYY.MM.dd}"
}
}
3颈畸、配置Kafka output

output.kafka:

initial brokers for reading cluster metadata

hosts: ["kafka1:9092", "kafka2:9092", "kafka3:9092"]

message topic selection + partitioning

topic: '%{[fields.log_topic]}'
partition.round_robin:
reachable_only: false

required_acks: 1
compression: gzip
max_message_bytes: 1000000

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末乌奇,一起剝皮案震驚了整個濱河市没讲,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌礁苗,老刑警劉巖爬凑,帶你破解...
    沈念sama閱讀 219,427評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異试伙,居然都是意外死亡贰谣,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,551評論 3 395
  • 文/潘曉璐 我一進(jìn)店門迁霎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來吱抚,“玉大人,你說我怎么就攤上這事考廉∶乇” “怎么了?”我有些...
    開封第一講書人閱讀 165,747評論 0 356
  • 文/不壞的土叔 我叫張陵昌粤,是天一觀的道長既绕。 經(jīng)常有香客問我,道長涮坐,這世上最難降的妖魔是什么凄贩? 我笑而不...
    開封第一講書人閱讀 58,939評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮袱讹,結(jié)果婚禮上疲扎,老公的妹妹穿的比我還像新娘。我一直安慰自己捷雕,他們只是感情好椒丧,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,955評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著救巷,像睡著了一般壶熏。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上浦译,一...
    開封第一講書人閱讀 51,737評論 1 305
  • 那天棒假,我揣著相機(jī)與錄音,去河邊找鬼精盅。 笑死帽哑,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的渤弛。 我是一名探鬼主播祝拯,決...
    沈念sama閱讀 40,448評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了佳头?” 一聲冷哼從身側(cè)響起鹰贵,我...
    開封第一講書人閱讀 39,352評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎康嘉,沒想到半個月后碉输,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,834評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡亭珍,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,992評論 3 338
  • 正文 我和宋清朗相戀三年敷钾,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片肄梨。...
    茶點(diǎn)故事閱讀 40,133評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡阻荒,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出众羡,到底是詐尸還是另有隱情侨赡,我是刑警寧澤,帶...
    沈念sama閱讀 35,815評論 5 346
  • 正文 年R本政府宣布粱侣,位于F島的核電站羊壹,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏齐婴。R本人自食惡果不足惜油猫,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,477評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望柠偶。 院中可真熱鬧情妖,春花似錦、人聲如沸嚣州。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,022評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽该肴。三九已至,卻和暖如春藐不,著一層夾襖步出監(jiān)牢的瞬間匀哄,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,147評論 1 272
  • 我被黑心中介騙來泰國打工雏蛮, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留涎嚼,地道東北人。 一個月前我還...
    沈念sama閱讀 48,398評論 3 373
  • 正文 我出身青樓挑秉,卻偏偏與公主長得像法梯,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,077評論 2 355

推薦閱讀更多精彩內(nèi)容