分析nginx日志常用shell語句

IP相關(guān)統(tǒng)計(jì)

統(tǒng)計(jì)IP訪問量(獨(dú)立ip訪問數(shù)量)

awk '{print $1}' access.log | sort -n | uniq | wc -l

查看某一時間段的IP訪問量(4-5點(diǎn))

grep "07/Apr/2017:0[4-5]" access.log | awk '{print $1}' | sort | uniq -c| sort -nr | wc -l  

查看訪問最頻繁的前100個IP

awk '{print $1}' access.log | sort -n |uniq -c | sort -rn | head -n 100

查看訪問100次以上的IP

awk '{print $1}' access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn

查詢某個IP的詳細(xì)訪問情況,按訪問頻率排序

grep '127.0.01' access.log |awk '{print $7}'|sort |uniq -c |sort -rn |head -n 100

頁面訪問統(tǒng)計(jì)

查看訪問最頻的頁面(TOP100)

awk '{print $7}' access.log | sort |uniq -c | sort -rn | head -n 100

查看訪問最頻的頁面([排除php頁面】(TOP100)

grep -v ".php"  access.log | awk '{print $7}' | sort |uniq -c | sort -rn | head -n 100 

查看頁面訪問次數(shù)超過100次的頁面

cat access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less

查看最近1000條記錄,訪問量最高的頁面

tail -1000 access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less

每秒請求量統(tǒng)計(jì)

統(tǒng)計(jì)每秒的請求數(shù),top100的時間點(diǎn)(精確到秒)

awk '{print $4}' access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 100

每分鐘請求量統(tǒng)計(jì)

awk '{print $4}' access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 100

每小時請求量統(tǒng)計(jì)

awk '{print $4}' access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 100

性能分析

在nginx log中最后一個字段加入$request_time
列出傳輸時間超過 3 秒的頁面睦柴,顯示前20條

cat access.log|awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20

列出php頁面請求時間超過3秒的頁面汽抚,并統(tǒng)計(jì)其出現(xiàn)的次數(shù),顯示前100條

cat access.log|awk '($NF > 1 &&  $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

蜘蛛抓取統(tǒng)計(jì)

統(tǒng)計(jì)蜘蛛抓取次數(shù)

grep 'Baiduspider' access.log |wc -l

統(tǒng)計(jì)蜘蛛抓取404的次數(shù)

grep 'Baiduspider' access.log |grep '404' | wc -l

TCP連接統(tǒng)計(jì)

查看當(dāng)前TCP連接數(shù)

netstat -tan | grep "ESTABLISHED" | grep ":80" | wc -l

用tcpdump嗅探80端口的訪問看看誰最高

tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌述暂,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件建炫,死亡現(xiàn)場離奇詭異畦韭,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)踱卵,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進(jìn)店門廊驼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人惋砂,你說我怎么就攤上這事妒挎。” “怎么了西饵?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵酝掩,是天一觀的道長。 經(jīng)常有香客問我眷柔,道長期虾,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任驯嘱,我火速辦了婚禮镶苞,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘鞠评。我一直安慰自己茂蚓,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著聋涨,像睡著了一般晾浴。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上牍白,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天脊凰,我揣著相機(jī)與錄音,去河邊找鬼茂腥。 笑死狸涌,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的础芍。 我是一名探鬼主播杈抢,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼仑性!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起右蹦,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤诊杆,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后何陆,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體晨汹,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年贷盲,在試婚紗的時候發(fā)現(xiàn)自己被綠了淘这。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡巩剖,死狀恐怖铝穷,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情佳魔,我是刑警寧澤曙聂,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站鞠鲜,受9級特大地震影響宁脊,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜贤姆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一足淆、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧香缺,春花似錦愉昆、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽输涕。三九已至,卻和暖如春慨畸,著一層夾襖步出監(jiān)牢的瞬間莱坎,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工寸士, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留檐什,地道東北人。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓弱卡,卻偏偏與公主長得像乃正,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子婶博,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評論 2 354