現今業(yè)界分布式服務跟蹤的理論基礎主要來自于 Google 的一篇論文《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》涤躲,使用最為廣泛的開源實現是 Twitter 的 Zipkin顽分,為了實現平臺無關蝌戒、廠商無關的分布式服務跟蹤,CNCF 發(fā)布了布式服務跟蹤標準 Open Tracing斜姥。國內妈踊,淘寶的 “鷹眼”雪侥、京東的 “Hydra”、大眾點評的 “CAT”哥童、新浪的 “Watchman”、唯品會的 “Microscope”褒翰、窩窩網的 “Tracing” 都是這樣的系統贮懈。
一個分布式服務跟蹤系統主要由三部分構成:數據收集匀泊、數據存儲、數據展示朵你。根據系統大小不同各聘,每一部分的結構又有一定變化。譬如撬呢,對于大規(guī)模分布式系統伦吠,數據存儲可分為實時數據和全量數據兩部分,實時數據用于故障排查(Trouble Shooting)魂拦,全量數據用于系統優(yōu)化毛仪;數據收集除了支持平臺無關和開發(fā)語言無關系統的數據收集,還包括異步數據收集(需要跟蹤隊列中的消息芯勘,保證調用的連貫性)箱靴,以及確保更小的侵入性;數據展示又涉及到數據挖掘和分析荷愕。雖然每一部分都可能變得很復雜衡怀,但基本原理都類似。
服務追蹤的追蹤單元是從客戶發(fā)起請求(request)抵達被追蹤系統的邊界開始安疗,到被追蹤系統向客戶返回響應(response)為止的過程抛杨,稱為一個 trace。每個 trace 中會調用若干個服務荐类,為了記錄調用了哪些服務怖现,以及每次調用的消耗時間等信息,在每次調用服務時玉罐,埋入一個調用記錄屈嗤,稱為一個 span。這樣吊输,若干個有序的 span 就組成了一個 trace饶号。在系統向外界提供服務的過程中,會不斷地有請求和響應發(fā)生季蚂,也就會不斷生成 trace茫船,把這些帶有 span 的 trace 記錄下來,就可以描繪出一幅系統的服務拓撲圖扭屁。附帶上 span 中的響應時間透硝,以及請求成功與否等信息,就可以在發(fā)生問題的時候疯搅,找到異常的服務濒生;根據歷史數據,還可以從系統整體層面分析出哪里性能差幔欧,定位性能優(yōu)化的目標罪治。
SpringCloud Sleuth 也為我們提供了一套完整的解決方案丽声。Sleuth 為服務之間調用提供鏈路追蹤,通過 Sleuth 可以很清楚的了解到一個服務請求經過了哪些服務觉义,每個服務處理花費了多長雁社。從而讓我們可以很方便的理清各微服務間的調用關系。此外 Sleuth 可以幫助我們:
耗時分析:通過 Sleuth 可以很方便的了解到每個采樣請求的耗時晒骇,從而分析出哪些服務調用比較耗時霉撵;
可視化錯誤:對于程序未捕捉的異常,可以通過集成 Zipkin 服務界面上看到洪囤;
鏈路優(yōu)化:對于調用比較頻繁的服務徒坡,可以針對這些服務實施一些優(yōu)化措施。
Spring Cloud Sleuth 的概念圖瘤缩,圖中畫圈的部分是Sleuth的標記(Annotation,一個標注可以理解成span生命周期中重要時刻的數據快照喇完,比如一個標注中一般包含發(fā)生時刻(timestamp)、事件類型(value)剥啤、端點(endpoint)等信息)信息锦溪,分別表示:
客戶端發(fā)送 client send:客戶端已經發(fā)出請求。此標記biao描繪了跨度的開始府怯。
服務器接收 server received:服務器端得到請求刻诊,將開始進行處理。
服務器發(fā)送 server send:在完成請求處理后(響應發(fā)送回客戶端時)標記牺丙。
客戶端接收 client received:表示跨度的結束则涯,客戶端已成功接收到服務器端的響應。
通過這四個標記赘被,我們可以計算出相應的四個值:
請求延時=sr-cs
響應延時 cr-ss
服務器處理時間:ss-sr
客戶端請求時間:cr-cs = 請求延時+響應延時+服務器處理時間
?SpringCloud Sleuth 入門
<!-- 1. 加入POM依賴 -->
<dependency>
? ? <groupId>org.springframework.cloud</groupId>
? ? <artifactId>spring-cloud-starter-sleuth</artifactId>
</dependency>
<!-- 2. 修改屬性文件是整,打開sleuth日志 -->
logging.level.org.springframework.cloud.sleuth=debug
啟動項目后肖揣,通過consumer去調用provider觀察輸出的日志信息民假,會發(fā)現多出了:[ms-consumer-user,7d0cbb49820bbacd,551bf65184bbc971,false],其中四個參數分別代表[微服務應用名,traceId,spanId,是否持久化]
Sleuth 的持久化Sleuth+zipkin
SpringCloud Sleuth結合 Zipkin龙优,將信息發(fā)送到 Zipkin羊异,利用 Zipkin 的存儲來存儲信息,利用 Zipkin UI 來展示數據彤断。Zipkin是Twitter 的一個開源項目野舶,它基于 Google Dapper 實現,它致力于收集服務的定時數據宰衙,以解決微服務架構中的延遲問題平道,包括數據的收集、存儲供炼、查找和展現一屋。我們可以使用它來收集各個服務器上請求鏈路的跟蹤數據窘疮,并通過它提供的 REST API 接口來輔助我們查詢跟蹤數據以實現對分布式系統的監(jiān)控程序,從而及時地發(fā)現系統中出現的延遲升高問題并找出系統性能瓶頸的根源冀墨。除了面向開發(fā)的 API 接口之外闸衫,它也提供了方便的 UI 組件來幫助我們直觀的搜索跟蹤信息和分析請求鏈路明細,比如:可以查詢某段時間內各用戶請求的處理時間等诽嘉。Zipkin 提供了可插拔數據存儲方式:In-Memory蔚出、MySql、Cassandra 以及 Elasticsearch虫腋,生產推薦 Elasticsearch骄酗。
Zipkin 基礎架構如圖所示,它主要由 4 個核心組件構成:
Collector:收集器組件岔乔,它主要用于處理從外部系統發(fā)送過來的跟蹤信息酥筝,將這些信息轉換為 Zipkin 內部處理的 Span 格式,以支持后續(xù)的存儲雏门、分析嘿歌、展示等功能。
Storage:存儲組件茁影,它主要對處理收集器接收到的跟蹤信息宙帝,默認會將這些信息存儲在內存中,我們也可以修改此存儲策略募闲,通過使用其他存儲組件將跟蹤信息存儲到數據庫中步脓。
RESTful API:API 組件,它主要用來提供外部訪問接口浩螺。比如給客戶端展示跟蹤信息靴患,或是外接系統訪問以實現監(jiān)控等。
Web UI:UI 組件要出,基于 API 組件實現的上層應用鸳君。通過 UI 組件用戶可以方便而有直觀地查詢和分析跟蹤信息。
?Zipkin 入門
Zipkin 分為兩端患蹂,一個是 Zipkin 服務端或颊,一個是 Zipkin 客戶端,客戶端也就是微服務的應用传于〈烟簦客戶端會配置服務端的 URL 地址,一旦發(fā)生服務間的調用的時候沼溜,會被配置在微服務里面的 Sleuth 的監(jiān)聽器監(jiān)聽平挑,并生成相應的 Trace 和 Span 信息發(fā)送給服務端。發(fā)送的方式主要有兩種系草,一種是 HTTP 報文的方式通熄,還有一種是消息總線的方式如 RabbitMQ否淤。
方法一?HTTP 報文的方式:
<!-- 1. 加入POM依賴 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-sleuth</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-zipkin</artifactId>
</dependency>
<!-- 2. 修改屬性文件,打開sleuth日志 -->
#zipkin server的地址
spring.zipkin.base-url=http://localhost:9411/
spring.sleuth.web.client.enabled=true
#采樣比例默認是0.1 為1表示全部上報
spring.sleuth.sampler.probability=1
<!-- 3.啟動一個Zipkin的服務端棠隐,在SpringBoot1.x我們需要手動搭建石抡,在Springboot2.x之后我們只需去官網下載,通過java -jar啟動即可
下載鏈接為https://search.maven.org/remote_content?g=io.zipkin.java&a=zipkin-server&v=LATEST&c=exec -->
啟動后通過http://localhost:9411/zipkin進入界面助泽,消費者向提供者發(fā)送請求后啰扛,zipkinUI會顯示相關的調用鏈信息。
方法二 RabbitMQ的方式:
<!-- 1. 加入POM依賴 -->
<dependency>
? ? <groupId>org.springframework.cloud</groupId>
? ? <artifactId>spring-cloud-stream-binder-rabbit</artifactId>
</dependency>
<!-- 2. 修改屬性文件嗡贺,打開sleuth日志 -->
spring.zipkin.sender.type=rabbit
spring.sleuth.web.client.enabled=true
#采樣比例默認是0.1 為1表示全部上報
spring.sleuth.sampler.probability=1
spring.rabbitmq.host=127.0.0.1
spring.rabbitmq.port=5672
spring.rabbitmq.password=guest
spring.rabbitmq.username=guest
spring.rabbitmq.virtual-host=/
<!-- 3.啟動一個Zipkin的服務端隐解,通過命令指定rabbit -->
java -jar zipkin-server-2.12.9-exec.jar --zipkin.collector.rabbitmq.address=127.0.0.1
?Zipkin+mysql數據持久化
<!-- 1. 創(chuàng)建一個zipkin的數據庫,并執(zhí)行建表語句 -->
CREATE TABLE `zipkin_annotations` (
? `trace_id_high` bigint(20) NOT NULL DEFAULT '0' COMMENT 'If non zero, this means the trace uses 128 bit traceIds instead of 64 bit',
? `trace_id` bigint(20) NOT NULL COMMENT 'coincides with zipkin_spans.trace_id',
? `span_id` bigint(20) NOT NULL COMMENT 'coincides with zipkin_spans.id',
? `a_key` varchar(255) NOT NULL COMMENT 'BinaryAnnotation.key or Annotation.value if type == -1',
? `a_value` blob COMMENT 'BinaryAnnotation.value(), which must be smaller than 64KB',
? `a_type` int(11) NOT NULL COMMENT 'BinaryAnnotation.type() or -1 if Annotation',
? `a_timestamp` bigint(20) DEFAULT NULL COMMENT 'Used to implement TTL; Annotation.timestamp or zipkin_spans.timestamp',
? `endpoint_ipv4` int(11) DEFAULT NULL COMMENT 'Null when Binary/Annotation.endpoint is null',
? `endpoint_ipv6` binary(16) DEFAULT NULL COMMENT 'Null when Binary/Annotation.endpoint is null, or no IPv6 address',
? `endpoint_port` smallint(6) DEFAULT NULL COMMENT 'Null when Binary/Annotation.endpoint is null',
? `endpoint_service_name` varchar(255) DEFAULT NULL COMMENT 'Null when Binary/Annotation.endpoint is null',
? UNIQUE KEY `trace_id_high` (`trace_id_high`,`trace_id`,`span_id`,`a_key`,`a_timestamp`),
? KEY `trace_id_high_2` (`trace_id_high`,`trace_id`,`span_id`),
? KEY `trace_id_high_3` (`trace_id_high`,`trace_id`),
? KEY `endpoint_service_name` (`endpoint_service_name`),
? KEY `a_type` (`a_type`),
? KEY `a_key` (`a_key`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 ROW_FORMAT=COMPRESSED;
<!-- 2.啟動一個Zipkin的服務端诫睬,通過命令指定mysql -->
zipkin server啟動java -jar zipkin-server-2.11.1-exec.jar --STORAGE_TYPE=mysql --MYSQL_DB=zipkin --MYSQL_USER=root --MYSQL_PASS=root --MYSQL_HOST=127.0.0.1 --MYSQL_TCP_PORT=3306