Nginx Log日志統(tǒng)計(jì)分析常用命令

IP相關(guān)統(tǒng)計(jì)

統(tǒng)計(jì)IP訪問量(獨(dú)立ip訪問數(shù)量)
awk '{print $1}' access.log | sort -n | uniq | wc -l
查看某一時間段的IP訪問量(4-5點(diǎn))
grep "07/Apr/2017:0[4-5]" access.log | awk '{print $1}' | sort | uniq -c| sort -nr | wc -l  
查看訪問最頻繁的前100個IP
awk '{print $1}' access.log | sort -n |uniq -c | sort -rn | head -n 100
查看訪問100次以上的IP
awk '{print $1}' access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn
查詢某個IP的詳細(xì)訪問情況,按訪問頻率排序
grep '127.0.01' access.log |awk '{print $7}'|sort |uniq -c |sort -rn |head -n 100

頁面訪問統(tǒng)計(jì)

查看訪問最頻的頁面(TOP100)
awk '{print $7}' access.log | sort |uniq -c | sort -rn | head -n 100
查看訪問最頻的頁面([排除php頁面】(TOP100)
grep -v ".php"  access.log | awk '{print $7}' | sort |uniq -c | sort -rn | head -n 100 
查看頁面訪問次數(shù)超過100次的頁面
cat access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less
查看最近1000條記錄图仓,訪問量最高的頁面
tail -1000 access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less

每秒請求量統(tǒng)計(jì)

統(tǒng)計(jì)每秒的請求數(shù),top100的時間點(diǎn)(精確到秒)
awk '{print $4}' access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 100

每分鐘請求量統(tǒng)計(jì)

統(tǒng)計(jì)每分鐘的請求數(shù),top100的時間點(diǎn)(精確到分鐘)
awk '{print $4}' access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 100

每小時請求量統(tǒng)計(jì)

統(tǒng)計(jì)每小時的請求數(shù),top100的時間點(diǎn)(精確到小時)
awk '{print $4}' access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 100

性能分析

在nginx log中最后一個字段加入$request_time

列出傳輸時間超過 3 秒的頁面闺骚,顯示前20條
cat access.log|awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20
列出php頁面請求時間超過3秒的頁面示括,并統(tǒng)計(jì)其出現(xiàn)的次數(shù),顯示前100條
cat access.log|awk '($NF > 1 &&  $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

蜘蛛抓取統(tǒng)計(jì)

統(tǒng)計(jì)蜘蛛抓取次數(shù)
grep 'Baiduspider' access.log |wc -l
統(tǒng)計(jì)蜘蛛抓取404的次數(shù)
grep 'Baiduspider' access.log |grep '404' | wc -l

TCP連接統(tǒng)計(jì)

查看當(dāng)前TCP連接數(shù)
netstat -tan | grep "ESTABLISHED" | grep ":80" | wc -l
用tcpdump嗅探80端口的訪問看看誰最高
tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市啸箫,隨后出現(xiàn)的幾起案子馆里,更是在濱河造成了極大的恐慌,老刑警劉巖筒扒,帶你破解...
    沈念sama閱讀 222,807評論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件怯邪,死亡現(xiàn)場離奇詭異,居然都是意外死亡花墩,警方通過查閱死者的電腦和手機(jī)悬秉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,284評論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來冰蘑,“玉大人和泌,你說我怎么就攤上這事§舴剩” “怎么了武氓?”我有些...
    開封第一講書人閱讀 169,589評論 0 363
  • 文/不壞的土叔 我叫張陵,是天一觀的道長仇箱。 經(jīng)常有香客問我县恕,道長,這世上最難降的妖魔是什么剂桥? 我笑而不...
    開封第一講書人閱讀 60,188評論 1 300
  • 正文 為了忘掉前任忠烛,我火速辦了婚禮,結(jié)果婚禮上权逗,老公的妹妹穿的比我還像新娘美尸。我一直安慰自己,他們只是感情好斟薇,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,185評論 6 398
  • 文/花漫 我一把揭開白布师坎。 她就那樣靜靜地躺著,像睡著了一般奔垦。 火紅的嫁衣襯著肌膚如雪屹耐。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,785評論 1 314
  • 那天,我揣著相機(jī)與錄音惶岭,去河邊找鬼寿弱。 笑死,一個胖子當(dāng)著我的面吹牛按灶,可吹牛的內(nèi)容都是我干的症革。 我是一名探鬼主播,決...
    沈念sama閱讀 41,220評論 3 423
  • 文/蒼蘭香墨 我猛地睜開眼鸯旁,長吁一口氣:“原來是場噩夢啊……” “哼噪矛!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起铺罢,我...
    開封第一講書人閱讀 40,167評論 0 277
  • 序言:老撾萬榮一對情侶失蹤艇挨,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后韭赘,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體缩滨,經(jīng)...
    沈念sama閱讀 46,698評論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,767評論 3 343
  • 正文 我和宋清朗相戀三年泉瞻,在試婚紗的時候發(fā)現(xiàn)自己被綠了脉漏。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,912評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡袖牙,死狀恐怖侧巨,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情鞭达,我是刑警寧澤司忱,帶...
    沈念sama閱讀 36,572評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站碉怔,受9級特大地震影響烘贴,放射性物質(zhì)發(fā)生泄漏禁添。R本人自食惡果不足惜撮胧,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,254評論 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望老翘。 院中可真熱鬧芹啥,春花似錦、人聲如沸铺峭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,746評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽卫键。三九已至傀履,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間莉炉,已是汗流浹背钓账。 一陣腳步聲響...
    開封第一講書人閱讀 33,859評論 1 274
  • 我被黑心中介騙來泰國打工碴犬, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人梆暮。 一個月前我還...
    沈念sama閱讀 49,359評論 3 379
  • 正文 我出身青樓服协,卻偏偏與公主長得像,于是被迫代替她去往敵國和親啦粹。 傳聞我的和親對象是個殘疾皇子偿荷,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,922評論 2 361