[Elasticsearch Monitor] 如何監(jiān)控Elasticsearch(二)

上一篇文章如何監(jiān)控Elasticsearch主要描述了對于Es服務(wù)器應(yīng)該監(jiān)控哪些指標(biāo)锨阿。本文旨在介紹es api中的各統(tǒng)計指標(biāo)含義屋讶。

Elasticsearch’s RESTful API + JSON

默認(rèn)情況下朋沮,Elasticsearch在9200端口上提供了restful http服務(wù)菊卷,返回集群轧房,節(jié)點拌阴,索引狀況的JSON結(jié)果。主要有五個HTTP REST API可用于監(jiān)視Elasticsearch:

  • Cluster Health API
  • Cluster Stats API
  • Node Stats API
  • Index Stats API
  • Pending Tasks API

下面的表格總結(jié)了上一篇文章中提到搜索性能奶镶,索引性能迟赃,內(nèi)存性能陪拘,網(wǎng)絡(luò)性能對應(yīng)的ES API。其中有些性能數(shù)據(jù)是從多個維度描述的纤壁,比如搜索性能在節(jié)點維度和索引維度都有提供左刽。

Metric category Availability
Search performance metrics Node Stats API, Index Stats API
Indexing performance metrics Node Stats API, Index Stats API
Memory and garbage collection Node Stats API, Cluster Stats API
Network metrics Node Stats API
Cluster health and node availability Cluster Health API
Resource saturation and errors Node Stats API, Index Stats API, Cluster Stats API, Pending Tasks API

(一)Cluster Health API

Cluster Health API提供了描述集群健康狀態(tài)的JSON對象數(shù)據(jù)。

API接口:

GET _cluster/health

返回結(jié)果JSON:

{
  "cluster_name": "elasticsearch",
  "status": "yellow",
  "timed_out": false,
  "number_of_nodes": 1,
  "number_of_data_nodes": 1,
  "active_primary_shards": 11,
  "active_shards": 11,
  "relocating_shards": 0,
  "initializing_shards": 0,
  "unassigned_shards": 10,
  "delayed_unassigned_shards": 0,
  "number_of_pending_tasks": 0,
  "number_of_in_flight_fetch": 0,
  "task_max_waiting_in_queue_millis": 0,
  "active_shards_percent_as_number": 52.38095238095239
}
  • status一共有3個狀態(tài):green表示所有主分片及備份分片都分配好了酌媒,集群100%健康欠痴。yellow表示所有主分片都分配好了,但至少有一個備份分片未分配秒咨。數(shù)據(jù)沒有丟失喇辽,搜索結(jié)果是完整的。但高可用性會缺失雨席,存在丟失數(shù)據(jù)風(fēng)險菩咨,以黃色表示警告。red表示至少有一個主分片未分配陡厘,并且這個主分片的所有分片都丟失了抽米。數(shù)據(jù)已經(jīng)丟失了,搜索結(jié)果不完整糙置,并且往這個分片索引數(shù)據(jù)會發(fā)生異常云茸。
  • number_of_nodesnumber_of_data_nodes,從名字就可以知道分別是節(jié)點數(shù)和數(shù)據(jù)節(jié)點數(shù)谤饭。
  • active_primary_shards标捺,集群中所有index的主分片數(shù)量的總和。
  • active_shards揉抵,集群中所有index的分片數(shù)量的總和宜岛,包括備份分片。
  • relocating_shards功舀,正在被移動的分片數(shù)量萍倡。通常為0,在集群rebalance的時候會有變化辟汰。

(二)Cluster Stats API

Cluster Stats API提供了集群維度的信息列敲。基本上是Node Stats API的數(shù)據(jù)的總和帖汞。雖然沒有每個節(jié)點的詳細信息戴而,但是可以讓你快速了解掌握整個集群當(dāng)前的運行狀態(tài)。

API接口:

GET _cluster/stats
{
  "_nodes": {
    "total": 1,
    "successful": 1,
    "failed": 0
  },
  "cluster_name": "elasticsearch",
  "timestamp": 1500175210218,
  "status": "yellow",
  "indices": {
    "count": 11,
    "shards": {...},
    "docs": {...},
    "store": {...},
    "fielddata": {...},
    "query_cache": {...},
    "completion": {...},
    "segments": {...}
  },
  "nodes": {
    "count": {...},
    "versions": [...],
    "os": {...},
    "process": {...},
    "jvm": {...},
    "fs": {...},
    "plugins": [...],
    "network_types": {...}
  }
}

對于indices和nodes內(nèi)部屬性的含義會在Node Stats API里介紹

(三)Node Stats API

Node Stats API是一個非常有用的API翩蘸,用于監(jiān)控集群每臺服務(wù)器的狀態(tài)所意。它統(tǒng)計了我們想要監(jiān)控的主要的那些指標(biāo),包括了我們上一篇列舉的大部分指標(biāo)。

API接口:

GET _nodes/stats (或者指定node獲取 _nodes/node1,node2/stats)
{
  "_nodes": {
    "total": 1,
    "successful": 1,
    "failed": 0
  },
  "cluster_name": "elasticsearch",
  "nodes": {
    "SdRLvOO7RKSiaBW_hmwvZg": {
      "name": "node1",
      "indices": {...},
      "os": {...},
      "process": {...},
      "jvm": {...},
      "thread_pool": {...},
      "fs": {...},
      "transport": {...},
      "http": {...}
    }
    ...
  }
}
  • 查詢性能指標(biāo)扶踊,前綴indices.search.*的指標(biāo)
    • indices.search.query_total 查詢總量
    • indices.search.query_time_in_millis 查詢總耗時
    • indices.search.query_current 正在處理的查詢量
    • indices.search.fetch_total 查詢的第二階段fetch總量
    • indices.search.fetch_time_in_millis fetch耗時
    • indices.search.fetch_current 正在處理的fetch數(shù)量
  • 索引性能指標(biāo)泄鹏,前綴indices.indexing.* ,indices.refresh.* 秧耗,indices.flush.* 的指標(biāo)
    • indices.indexing.index_total 索引總量
    • indices.indexing.index_time_in_millis 索引耗時
    • indices.indexing.index_current 正在處理的索引量
    • indices.refresh.total 刷新內(nèi)存總量
    • indices.refresh.total_time_in_millis 刷新內(nèi)存耗時
    • indices.flush.total 同步磁盤總量
    • indices.flush.total_time_in_millis 同步磁盤耗時
  • Cache性能指標(biāo)备籽,前綴indices.query_cache.* ,indices.fielddata.* 分井,indices.request_cache.* 的指標(biāo)车猬。fielddata可能會成為內(nèi)存消耗大戶,需要特別注意
    • indices.query_cache.memory_size_in_bytes 查詢緩存大小
    • indices.query_cache.evictions 查詢緩存剔除大小
    • indices.fielddata.memory_size_in_bytes fielddata緩存大小
    • indices.fielddata.evictions fielddata緩存剔除大小
    • indices.request_cache.memory_size_in_bytes 所有請求緩存大小
    • indices.request_cache.evictions 所有請求緩存剔除大小
  • os指標(biāo)
    • os.cpu.percent 系統(tǒng)CPU使用百分比
    • os.cpu.load_average.1m 系統(tǒng)CPU 1分鐘平均load
    • os.cpu.load_average.5m 系統(tǒng)CPU 5分鐘平均load
    • os.cpu.load_average.15m 系統(tǒng)CPU 15分鐘平均load
    • os.mem.free_percent 系統(tǒng)內(nèi)存可用百分比
    • os.mem.used_percent 系統(tǒng)內(nèi)存已使用百分比
    • os.mem.total_in_bytes 系統(tǒng)內(nèi)存總大小
    • os.mem.free_in_bytes 系統(tǒng)內(nèi)存可用大小
    • os.mem.used_in_bytes 系統(tǒng)內(nèi)存已使用大小
    • os.swap.total_in_bytes 系統(tǒng)swap總大小
    • os.swap.free_in_bytes 系統(tǒng)swap可用大小
    • os.swap.used_in_bytes 系統(tǒng)swap已使用大小
  • process指標(biāo)尺锚,專用與es jvm進程的資源消耗指標(biāo)
    • process.cpu.percent 進程CPU使用百分比
    • process.cpu.total_in_millis 進程CPU使用時間
    • process.mem.total_virtual_in_bytes 進程可用虛擬內(nèi)存大小
    • process.open_file_descriptors 進程打開文件句柄數(shù)
    • process.max_file_descriptors 進程可用句柄數(shù)
  • JVM性能指標(biāo)珠闰,前綴jvm.*的指標(biāo),內(nèi)存使用及GC指標(biāo)
    • jvm.gc.collectors.young.collection_count young gc 大小
    • jvm.gc.collectors.young.collection_time_in_millis young gc 耗時
    • jvm.gc.collectors.old.collection_count old gc 大小
    • jvm.gc.collectors.old.collection_time_in_millis old gc 耗時
    • jvm.mem.heap_used_percent 內(nèi)存使用百分比
    • jvm.mem.heap_used_in_bytes 內(nèi)存使用量
    • jvm.mem.heap_committed_in_bytes 內(nèi)存占用量
  • 線程池性能指標(biāo)瘫辩,前綴thread_pool.*的指標(biāo)
    • thread_pool.bulk.queue thread_pool.index.queue thread_pool.search.queue thread_pool.merge.queue 各隊列長度
    • thread_pool.bulk.rejected thread_pool.index.rejected thread_pool.search.rejected thread_pool.merge.rejected 各隊列溢出量(未執(zhí)行铸磅,被放棄)
  • 文件系統(tǒng)指標(biāo)
    • fs.total.total_in_bytes 數(shù)據(jù)目錄總大小
    • fs.total.free_in_bytes 數(shù)據(jù)目錄剩余大小
    • fs.total.vailable_in_bytes 數(shù)據(jù)目錄可用大小
  • 集群通信指標(biāo)
    • transport.rx_count 集群通信中接收的數(shù)據(jù)包總數(shù)
    • transport.rx_size_in_bytes 集群通信中接收的數(shù)據(jù)的總大小
    • transport.tx_count 集群通信中發(fā)送的數(shù)據(jù)包總數(shù)
    • transport.tx_size_in_bytes 集群通信中發(fā)送的數(shù)據(jù)的總大小
    • transport.server_open 為集群通信打開的連接數(shù)
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市杭朱,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌吹散,老刑警劉巖弧械,帶你破解...
    沈念sama閱讀 217,406評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異空民,居然都是意外死亡刃唐,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,732評論 3 393
  • 文/潘曉璐 我一進店門界轩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來画饥,“玉大人,你說我怎么就攤上這事浊猾《陡剩” “怎么了?”我有些...
    開封第一講書人閱讀 163,711評論 0 353
  • 文/不壞的土叔 我叫張陵葫慎,是天一觀的道長衔彻。 經(jīng)常有香客問我,道長偷办,這世上最難降的妖魔是什么艰额? 我笑而不...
    開封第一講書人閱讀 58,380評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮椒涯,結(jié)果婚禮上柄沮,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好祖搓,可當(dāng)我...
    茶點故事閱讀 67,432評論 6 392
  • 文/花漫 我一把揭開白布狱意。 她就那樣靜靜地躺著,像睡著了一般棕硫。 火紅的嫁衣襯著肌膚如雪髓涯。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,301評論 1 301
  • 那天哈扮,我揣著相機與錄音纬纪,去河邊找鬼。 笑死滑肉,一個胖子當(dāng)著我的面吹牛包各,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播靶庙,決...
    沈念sama閱讀 40,145評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼问畅,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了六荒?” 一聲冷哼從身側(cè)響起护姆,我...
    開封第一講書人閱讀 39,008評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎掏击,沒想到半個月后卵皂,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,443評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡砚亭,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,649評論 3 334
  • 正文 我和宋清朗相戀三年灯变,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片捅膘。...
    茶點故事閱讀 39,795評論 1 347
  • 序言:一個原本活蹦亂跳的男人離奇死亡添祸,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出寻仗,到底是詐尸還是另有隱情刃泌,我是刑警寧澤,帶...
    沈念sama閱讀 35,501評論 5 345
  • 正文 年R本政府宣布署尤,位于F島的核電站蔬咬,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏沐寺。R本人自食惡果不足惜林艘,卻給世界環(huán)境...
    茶點故事閱讀 41,119評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望混坞。 院中可真熱鬧狐援,春花似錦钢坦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,731評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至镶殷,卻和暖如春禾酱,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背绘趋。 一陣腳步聲響...
    開封第一講書人閱讀 32,865評論 1 269
  • 我被黑心中介騙來泰國打工颤陶, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人陷遮。 一個月前我還...
    沈念sama閱讀 47,899評論 2 370
  • 正文 我出身青樓滓走,卻偏偏與公主長得像,于是被迫代替她去往敵國和親帽馋。 傳聞我的和親對象是個殘疾皇子搅方,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,724評論 2 354

推薦閱讀更多精彩內(nèi)容