調(diào)用鏈與分布式追蹤系統(tǒng)

上周的工作內(nèi)容是開(kāi)發(fā)一個(gè)運(yùn)維需求——對(duì)接公有云的分布式追蹤系統(tǒng)嗜愈。服務(wù)上線(xiàn)轉(zhuǎn)商用之前,運(yùn)維能力需要滿(mǎn)足商用要求莽龟,而使用分布式追蹤系統(tǒng)把服務(wù)監(jiān)控起來(lái)蠕嫁,是商用運(yùn)維要求中的必須項(xiàng),因此有了這個(gè)需求毯盈。一周下來(lái)剃毒,代碼已經(jīng)開(kāi)發(fā)得差不多了,還差驗(yàn)證和上線(xiàn)工作搂赋,在這之前赘阀,先梳理回顧一下。

對(duì)接到分布式追蹤系統(tǒng)之所以如此重要脑奠,是因?yàn)槭褂梅植际阶粉櫹到y(tǒng)監(jiān)控服務(wù)有以下好處

  • 通過(guò)在各個(gè)微服務(wù)埋點(diǎn)打印的調(diào)用鏈日志基公,能夠把一個(gè)請(qǐng)求處理的完整鏈路端到端地展示出來(lái)
  • 能夠快速定位到異常環(huán)節(jié),如中間在某個(gè)環(huán)節(jié)響應(yīng)慢或是處理失敗
  • 能夠根據(jù)調(diào)用鏈日志生成服務(wù)依賴(lài)關(guān)系拓?fù)鋱D捺信,直觀(guān)地觀(guān)察到故障點(diǎn)或哪個(gè)微服務(wù)是系統(tǒng)的瓶頸點(diǎn)所在
  • 甚至能夠根據(jù)采集的日志進(jìn)行告警配置

我們的服務(wù)主要使用Python和Go語(yǔ)言進(jìn)行開(kāi)發(fā)酌媒,分別獲取對(duì)應(yīng)的SDK進(jìn)行開(kāi)發(fā)即可,整個(gè)開(kāi)發(fā)對(duì)接上線(xiàn)的流程大致是這樣的:

  1. 聯(lián)系接口人溝通埋點(diǎn)方案
  2. 使用統(tǒng)一的SDK進(jìn)行埋點(diǎn)代碼開(kāi)發(fā)和測(cè)試
  3. 整理服務(wù)—微服務(wù)—節(jié)點(diǎn)—日志路徑信息迄靠,服務(wù)—微服務(wù)—業(yè)務(wù)—URL信息秒咨。公司的分布式追蹤系統(tǒng)的日志采集借用了已有的日志服務(wù)的能力,日志服務(wù)接收到調(diào)用鏈日志時(shí)掌挚,會(huì)直接轉(zhuǎn)發(fā)給分布式追蹤系統(tǒng)雨席,因此信息需要分別反饋給日志采集系統(tǒng)和分布式追蹤系統(tǒng)在服務(wù)節(jié)點(diǎn)上安裝日志采集Agent
  4. 升級(jí)微服務(wù),打開(kāi)打印調(diào)用鏈日志的開(kāi)關(guān)(開(kāi)始打印調(diào)用鏈日志吠式,與此同時(shí)陡厘,節(jié)點(diǎn)上的日志采集Agent把采集的調(diào)用鏈日志信息上報(bào)到日志系統(tǒng))
  5. 類(lèi)生產(chǎn)環(huán)境驗(yàn)證對(duì)接效果:本地正常打印調(diào)用鏈日志,日志采集Agent正常上報(bào)調(diào)用鏈日志特占;分布式追蹤系統(tǒng)能夠檢索到服務(wù)的Trace信息糙置,能夠正常顯示微服務(wù)依賴(lài)關(guān)系拓?fù)鋱D
  6. 上線(xiàn)生產(chǎn)環(huán)境各個(gè)局點(diǎn)

埋點(diǎn)開(kāi)發(fā)

哪些地方需要打印調(diào)用鏈日志呢?

和性能調(diào)優(yōu)類(lèi)似是目,打點(diǎn)的地方可以包括:HTTP請(qǐng)求服務(wù)/客戶(hù)端谤饭、RPC請(qǐng)求服務(wù)/客戶(hù)端、數(shù)據(jù)庫(kù)訪(fǎng)問(wèn)懊纳、中間件調(diào)用揉抵、本地方法調(diào)用。

What points should be tracked by default?
I think that for all projects we should include by default 5 kinds of points:

  • All HTTP calls - helps to get information about: what HTTP requests were done, duration of calls (latency of service), information about projects involved in request.
  • All RPC calls - helps to understand duration of parts of request related to different services in one project. This information is essential to understand which service produce the bottleneck.
  • All DB API calls - in some cases slow DB query can produce bottleneck. So it’s quite useful to track how much time request spend in DB layer.
  • All driver calls - in case of nova, cinder and others we have vendor drivers. Duration
  • ALL SQL requests (turned off by default, because it produce a lot of traffic)

埋點(diǎn)方式

  • 顯示調(diào)用start和stop方法
  • 函數(shù)/類(lèi)裝飾器
  • with代碼塊
  • 某些框架或依賴(lài)庫(kù)有官方的集成支持嗤疯,JAVA和Go的支持非常全冤今,而Python的則缺少一些中間件

聽(tīng)說(shuō)Go還有一種直接替換Go-SDK就能夠完成埋點(diǎn)功能注入的方式...

兩篇重要的論文

  • 《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》讓分布式追蹤系統(tǒng)這個(gè)領(lǐng)域流行起來(lái)
  • 《Uncertainty in Aggregate Estimates from Sampled Distributed Traces》對(duì)采樣進(jìn)行了詳細(xì)分析

標(biāo)準(zhǔn)

Uber發(fā)起的OpenTracing現(xiàn)在已經(jīng)成為云原生計(jì)算基金會(huì)的一個(gè)成員項(xiàng)目,OpenTracing Semantic Specification定義了數(shù)據(jù)采集時(shí)的數(shù)據(jù)模型和一些接口茂缚,應(yīng)該算是分布式追蹤系統(tǒng)的接口標(biāo)準(zhǔn)了戏罢,比較出名的Jaeger和Zipkin都實(shí)現(xiàn)了OpenTracing API。

業(yè)界實(shí)踐

  • 阿里淘寶:EagleEye
  • Twitter:Zipkin
  • Uber:Jaeger
  • AWS:XRays
  • Google:Dapper阱佛,StakeDriver Trace帖汞,OpenCensus
  • Golang:AppDash
  • 螞蟻:云圖
  • 阿里云:諦聽(tīng),盤(pán)古
  • 神馬:STrace
  • OpenStack:osprofiler(原本是用于采集方法調(diào)用耗時(shí)數(shù)據(jù)凑术,上報(bào)到ceilometer監(jiān)控計(jì)量計(jì)費(fèi)系統(tǒng)翩蘸,用于性能調(diào)優(yōu),經(jīng)過(guò)定制修改日志打印格式兼容OpenTracing的話(huà)打印出來(lái)的就是調(diào)用鏈日志了)

參考鏈接

https://blog.csdn.net/yunqiinsight/article/details/80134045
https://yq.aliyun.com/articles/514488
https://www.cnblogs.com/sting2me/p/4393018.html
https://blog.appoptics.com/intro-to-opentracing-and-opencensus-for-distributed-tracing/
https://logz.io/blog/zipkin-vs-jaeger/
https://opentracing.io/

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末淮逊,一起剝皮案震驚了整個(gè)濱河市催首,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌泄鹏,老刑警劉巖郎任,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異备籽,居然都是意外死亡舶治,警方通過(guò)查閱死者的電腦和手機(jī)分井,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)霉猛,“玉大人尺锚,你說(shuō)我怎么就攤上這事∠常” “怎么了瘫辩?”我有些...
    開(kāi)封第一講書(shū)人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀(guān)的道長(zhǎng)坛悉。 經(jīng)常有香客問(wèn)我伐厌,道長(zhǎng),這世上最難降的妖魔是什么裸影? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任挣轨,我火速辦了婚禮,結(jié)果婚禮上轩猩,老公的妹妹穿的比我還像新娘刃唐。我一直安慰自己,他們只是感情好界轩,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布画饥。 她就那樣靜靜地躺著,像睡著了一般浊猾。 火紅的嫁衣襯著肌膚如雪抖甘。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,111評(píng)論 1 285
  • 那天葫慎,我揣著相機(jī)與錄音衔彻,去河邊找鬼。 笑死偷办,一個(gè)胖子當(dāng)著我的面吹牛艰额,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播椒涯,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼柄沮,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了废岂?” 一聲冷哼從身側(cè)響起祖搓,我...
    開(kāi)封第一講書(shū)人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎湖苞,沒(méi)想到半個(gè)月后拯欧,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡财骨,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年镐作,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了藏姐。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡该贾,死狀恐怖包各,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情靶庙,我是刑警寧澤,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布娃属,位于F島的核電站六荒,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏矾端。R本人自食惡果不足惜掏击,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望秩铆。 院中可真熱鬧砚亭,春花似錦、人聲如沸殴玛。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)滚粟。三九已至寻仗,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間凡壤,已是汗流浹背署尤。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留亚侠,地道東北人曹体。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像硝烂,于是被迫代替她去往敵國(guó)和親箕别。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 一滞谢、說(shuō)在前面 微服務(wù)是當(dāng)下最火的詞語(yǔ)究孕,現(xiàn)在很多公司都在推廣微服務(wù),當(dāng)服務(wù)越來(lái)越多的時(shí)候爹凹,我們是否會(huì)糾結(jié)以下幾個(gè)問(wèn)題...
    小程故事多閱讀 5,122評(píng)論 12 29
  • zipkin-demo ZIPKIN分布式系統(tǒng)調(diào)用鏈追蹤 在公司業(yè)務(wù)發(fā)展過(guò)程中厨诸,剛開(kāi)始的時(shí)候,我們可能比較關(guān)注單個(gè)...
    hu1991die閱讀 4,813評(píng)論 2 10
  • 這個(gè)世界上確實(shí)有一個(gè)人绘趋,為了愛(ài),他悲不自勝颗管,肝腸寸斷陷遮!都說(shuō)你是世間最美的情郎,都說(shuō)你是雪域最大的王垦江,都說(shuō)你是...
    獨(dú)孤獨(dú)_b43b閱讀 437評(píng)論 1 5
  • 前些日子帽馋,群里接到給愛(ài)情公寓洗地的活兒,說(shuō)實(shí)話(huà)比吭,接到這活兒的時(shí)候绽族,大家表情都快炸了,這太難了衩藤,《富春山居圖》比這個(gè)...
    秋倏閱讀 893評(píng)論 1 0
  • 今日體驗(yàn)吧慢,今天一天不怎么忙,晚上下班來(lái)了一個(gè)君越做保養(yǎng)赏表,客戶(hù)也著急检诗,在客戶(hù)著急的時(shí)候一定把細(xì)節(jié)做好,思路你能亂
    AA京心達(dá)小任閱讀 99評(píng)論 0 0