Nginx日志時(shí)間變量

簡(jiǎn)介

在Nginx作為反向代理期間,因?yàn)楹芏嘈阅軉栴}排查都會(huì)涉及到Nginx日志中反應(yīng)服務(wù)器處理時(shí)間响谓。并且在網(wǎng)上看到較詳細(xì)的時(shí)間變量講解的文檔债查,此處記錄一下,便于之后做分析使用(參考文檔放置文末)卵蛉。

本文提到的所有變量颁股,如果需要區(qū)分,則均為ngx_http_upstream_module中的變量傻丝,不再做釋義甘有。如需要使用其他module中的參數(shù),請(qǐng)參考nginx官方文檔

Nginx中時(shí)間定義

$request_time

request processing time in seconds with a milliseconds resolution; time elapsed between the first bytes were read from the client and the log write after the last bytes were sent to the client

直譯:nginx服務(wù)葡缰,從發(fā)起請(qǐng)求的客戶端獲取到第一個(gè)字節(jié)開始亏掀,到返回給客戶端最后一個(gè)字節(jié)后忱反,日志寫入文件所經(jīng)過的時(shí)間。單位為秒滤愕。

官方文檔:Module ngx_http_log_module

$upstream_connect_time

keeps time spent on establishing a connection with the upstream server (1.9.1); the time is kept in seconds with millisecond resolution. In case of SSL, includes time spent on handshake. Times of several connections are separated by commas and colons like addresses in the $upstream_addr variable.

直譯:nginx服務(wù)温算,與上游服務(wù)建立連接所經(jīng)過的時(shí)間。單位為秒间影。在使用SSL的情況下注竿,握手過程所消耗的時(shí)間也會(huì)被記錄下來(lái)。多次請(qǐng)求建立的時(shí)間魂贬,使用逗號(hào)與冒號(hào)分隔巩割,格式可參考$upstream_addr變量。

官方文檔:Module ngx_http_upstream_module

$upstream_header_time

keeps time spent on receiving the response header from the upstream server (1.7.10); the time is kept in seconds with millisecond resolution. Times of several responses are separated by commas and colons like addresses in the $upstream_addr variable.

直譯:nginx服務(wù)随橘,從上游服務(wù)接收響應(yīng)頭所經(jīng)過的時(shí)間喂分。單位為秒。多次請(qǐng)求響應(yīng)的時(shí)間机蔗,使用逗號(hào)與冒號(hào)分隔蒲祈,格式可參考$upstream_addr變量。

$upstream_response_time

keeps time spent on receiving the response from the upstream server; the time is kept in seconds with millisecond resolution. Times of several responses are separated by commas and colons like addresses in the $upstream_addr variable.

直譯:nginx服務(wù)萝嘁,從上游服務(wù)接收響應(yīng)內(nèi)容所經(jīng)過的時(shí)間梆掸。單位為秒。多次請(qǐng)求響應(yīng)的時(shí)間牙言,使用逗號(hào)與冒號(hào)分隔酸钦,格式可參考$upstream_addr變量。

流程說(shuō)明

以上是Nginx官方給出的參數(shù)解讀咱枉,但是看起來(lái)不是很清晰卑硫,但是可以通過下面的時(shí)序圖作為參考

202405141553474.png

在這個(gè)時(shí)序圖中可以看到

程序真正運(yùn)行的時(shí)間 = $upstream_header_time - $upstream_context_time

在$request_time中包含了數(shù)據(jù)返回的時(shí)間以及日志打印的時(shí)間

所以來(lái)說(shuō)整個(gè)請(qǐng)求處理流程蚕断,如下所示

「1用戶請(qǐng)求」「2建立Nginx連接」「3發(fā)送響應(yīng)」「4接收響應(yīng)」「5關(guān)閉Nginx連接」

$request_time = 1 + 2 + 3 + 4 + 5
$upstream_response_time = 2 + 3 + 4 + 5(「關(guān)閉Nginx連接」的操作耗時(shí)可以認(rèn)為是0)

兩者相差的就只有一個(gè)「用戶請(qǐng)求」耗時(shí)欢伏。在正常的請(qǐng)求時(shí)間中,$request_time一般是等于或者大于$upstream_response_time

場(chǎng)景

場(chǎng)景1:Nginx日志出現(xiàn)大量超時(shí)告警亿乳,發(fā)現(xiàn)$upstream_header_time正常硝拧,但是$request_time和$upstream_response_time很大
分析:根據(jù)上圖,這時(shí)候反應(yīng)的是上游程序執(zhí)行較慢葛假,或發(fā)送數(shù)據(jù)量大障陶,需要排查執(zhí)行程序的相關(guān)慢日志;

場(chǎng)景2:Nginx日志出現(xiàn)大量超時(shí)告警聊训,發(fā)現(xiàn)$request_time很大抱究,但是upstream_response_time正常 **分析**:\upstream_response_time正常,說(shuō)明程序執(zhí)行完畢且正常返回带斑,這時(shí)就要驗(yàn)證是數(shù)據(jù)返回過慢還是日志打印出現(xiàn)了阻塞
原因
1媳维、數(shù)據(jù)返回慢可以通過抓包分析酿雪,通常來(lái)說(shuō)是用戶網(wǎng)絡(luò)引起的遏暴;
2侄刽、日志打印出現(xiàn)阻塞,可能是機(jī)器的IO出現(xiàn)問題朋凉,一般可以查看系統(tǒng)監(jiān)控或者手動(dòng)查看IO發(fā)現(xiàn)州丹;
3、也可能是因?yàn)镹ginx配置了相關(guān)的參數(shù)杂彭,導(dǎo)致了延遲關(guān)閉墓毒,這需要根據(jù)問題現(xiàn)象一步步排查;
4亲怠、也可能是返回給客戶端的是https所计,大數(shù)據(jù)加解密耗時(shí);

solution

把你的服務(wù)器放在high-speed network高性能網(wǎng)絡(luò)上团秽,讓client能夠快速訪問
使用緩存CND主胧、Nginx緩存
或者將你的服務(wù)器靠近用戶,多IDC進(jìn)行對(duì)不同區(qū)域用戶服務(wù)习勤。如:中國(guó)IDC踪栋、韓國(guó)IDC
去掉一些低效率算法,參考: Nagle's algorithm
調(diào)整服務(wù)器的TCP堆棧(參考 這篇文章). 然而調(diào)整TCP堆棧不會(huì)有多大作用图毕,因?yàn)閮?nèi)核默認(rèn)配置已經(jīng)做了優(yōu)化調(diào)整了

除以上兩個(gè)場(chǎng)景案例夷都,還可以組合分析。

(1)予颤、upstream_connect_time很大囤官,可能是網(wǎng)絡(luò)出了問題; (2)蛤虐、\upstream_header_time小党饮,$upstream_response_time大,可能是數(shù)據(jù)回寫Nginx出了問題笆焰;
(3)劫谅、$request_time比$upstream_response_time大,考慮用戶網(wǎng)絡(luò)狀態(tài)嚷掠,或者傳遞的數(shù)據(jù)本身就大捏检,當(dāng)使用POST請(qǐng)求傳參時(shí),Nginx會(huì)先把request body緩存起來(lái)不皆,而這些耗時(shí)都是累積到「1用戶請(qǐng)求」贯城,所以$request_time會(huì)比$upstream_response_time大

其他狀況

$upstream_reponse_time比$request_time大,在官網(wǎng)上有個(gè)說(shuō)明:https://forum.nginx.org/read.php?21,284448,284450#msg-284450

$upstream_response_time由clock_gettime(CLOCK_MONOTONIC_COARSE)計(jì)算霹娄,默認(rèn)情況下能犯,它可以過去4毫秒鲫骗,相反,$request_time由gettimeofday()計(jì)算踩晶。 所以最終$upstream_response_time可能比$response_time更大执泰。

測(cè)試案例

除了在日志中添加日志的方法之外,還可以通過CURL命令來(lái)分析請(qǐng)求耗時(shí)的情況

time_namelookup:DNS 域名解析的時(shí)候渡蜻,就是把域名(http)轉(zhuǎn)換成 ip 地址的過程
time_connect:TCP 連接建立的時(shí)間术吝,就是三次握手的時(shí)間
time_appconnect:SSL/SSH 等上層協(xié)議建立連接的時(shí)間,比如 connect/handshake 的時(shí)間
time_redirect:從開始到最后一個(gè)請(qǐng)求事務(wù)的時(shí)間
time_pretransfer:從請(qǐng)求開始到響應(yīng)開始傳輸?shù)臅r(shí)間
time_starttransfer:從請(qǐng)求開始到第一個(gè)字節(jié)將要傳輸?shù)臅r(shí)間
time_total:這次請(qǐng)求花費(fèi)的全部時(shí)間

curl -o /dev/null -s -w speed_download:%{speed_download},"\n"time_namelookup:%{time_namelookup},"\n"time_connect:%{time_connect},"\n"time_pretransfer:%{time_pretransfer},"\n"time_starttransfer:%{time_starttransfer},"\n"time_total:%{time_total},"\n" "http://XXXX"

參考

超好用的Nginx日志時(shí)間變量——助你快速定位問題 - 掘金
Nginx - request_time和upstream_response_time的區(qū)別 - That's_it - 博客園
nginx優(yōu)化之request_time 和upstream_response_time差別 - dongruiha - 博客園
Nginx - request_time和upstream_response_time詳解
使用 curl 命令分析請(qǐng)求的耗時(shí)情況

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末茸苇,一起剝皮案震驚了整個(gè)濱河市排苍,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌学密,老刑警劉巖淘衙,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異腻暮,居然都是意外死亡彤守,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門西壮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)遗增,“玉大人,你說(shuō)我怎么就攤上這事款青∽鲂蓿” “怎么了?”我有些...
    開封第一講書人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵抡草,是天一觀的道長(zhǎng)饰及。 經(jīng)常有香客問我,道長(zhǎng)康震,這世上最難降的妖魔是什么燎含? 我笑而不...
    開封第一講書人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮腿短,結(jié)果婚禮上屏箍,老公的妹妹穿的比我還像新娘。我一直安慰自己橘忱,他們只是感情好赴魁,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著钝诚,像睡著了一般颖御。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上凝颇,一...
    開封第一講書人閱讀 51,365評(píng)論 1 302
  • 那天潘拱,我揣著相機(jī)與錄音疹鳄,去河邊找鬼。 笑死芦岂,一個(gè)胖子當(dāng)著我的面吹牛瘪弓,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播盔腔,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼杠茬,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了弛随?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤宁赤,失蹤者是張志新(化名)和其女友劉穎舀透,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體决左,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡愕够,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了佛猛。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片惑芭。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖继找,靈堂內(nèi)的尸體忽然破棺而出遂跟,到底是詐尸還是另有隱情,我是刑警寧澤婴渡,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布幻锁,位于F島的核電站,受9級(jí)特大地震影響边臼,放射性物質(zhì)發(fā)生泄漏哄尔。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一柠并、第九天 我趴在偏房一處隱蔽的房頂上張望岭接。 院中可真熱鬧,春花似錦臼予、人聲如沸鸣戴。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)葵擎。三九已至,卻和暖如春半哟,著一層夾襖步出監(jiān)牢的瞬間酬滤,已是汗流浹背签餐。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留盯串,地道東北人氯檐。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像体捏,于是被迫代替她去往敵國(guó)和親冠摄。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容