第三十七節(jié)膜钓、Nginx日志分析/防盜鏈

日志格式

Nginx日志的格式一般在nginx.conf里面配置,常見的格式配置如下(默認注釋掉了需要打開):
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
access_log logs/access.log main;
格式說明:

  • $remote_addr, $http_x_forwarded_for 記錄客戶端IP地址
  • $remote_user 記錄客戶端用戶名稱
  • $request 記錄請求的URL和HTTP協(xié)議
  • $status 記錄請求狀態(tài)
  • $body_bytes_sent 發(fā)送給客戶端的字節(jié)數(shù)卿嘲,不包括響應(yīng)頭的大兴绦薄; 該變量與Apache模塊mod_log_config里的“%B”參數(shù)兼容拾枣。
  • $bytes_sent 發(fā)送給客戶端的總字節(jié)數(shù)沃疮。
  • $connection_requests 當(dāng)前通過一個連接獲得的請求數(shù)量盒让。
  • $http_referer 記錄從哪個頁面鏈接訪問過來的
  • $http_user_agent 記錄客戶端瀏覽器相關(guān)信息
  • $request_length 請求的長度(包括請求行,請求頭和請求正文)司蔬。
  • $request_time 請求處理時間邑茄,單位為秒,精度毫秒俊啼; 從讀入客戶端的第一個字節(jié)開始肺缕,直到把最后一個字符發(fā)送給客戶端后進行日志寫入為止。
日志分析

分析日志不要在nginx服務(wù)器上,將日志文件拷貝到其他服務(wù)器分析

  • 分析訪問量前20的IP
    awk '{print $1}' access_201601662.log|sort|uniq -c|sort -nr|head 20
  • 分析網(wǎng)站9:00-12:00時間段訪問數(shù)量
    sed -n "/2016:09:00/,/2016:12:00"p access_201601662.log|wc -l
  • 找到當(dāng)前日志中502或者404錯誤的頁面并統(tǒng)計
    awk '{print $0}' /usr/local/nginx/logs/access.log|egrep "404|502"|awk '{print $1,$7,$9}'|more
    awk '{print $0}' /usr/local/nginx/logs/access.log|awk '$9==304||$9==503 {print $0}'|more
    awk '{print $0}'作用等價于cat,也是用于查看但是效率更高
日志切割腳本

Nginx 是一個非常輕量的 Web 服務(wù)器授帕,體積小同木、性能高、速度快等諸多優(yōu)點跛十。但不足的是也存在缺點彤路,比如在產(chǎn)生的訪問日志文件一直就是一個,不會自動地進行切割芥映,如果訪問量很大的話洲尊,將會導(dǎo)致日志文件容量非常大,不便于管理屏轰。當(dāng)然了颊郎,我們也不希望看到這么龐大的一個訪問日志文件,那需要手動對這個文件進行切割霎苗。
如果訪問日志非常大姆吭,不便于我們每天查看相關(guān)的網(wǎng)站異常日志。
在 Linux 平臺上 Shell 腳本豐富唁盏,使用 Shell 腳本加 crontab 命令能非常方便地進行切割内狸。
定時切割日志,這里切割的方法我們直接使用mv即可厘擂。
直接上腳本內(nèi)容如下:

#!/bin/bash
#auto mv nginx log shell
#by author wugk
S_LOG=/usr/local/nginx/logs/access.log
D_LOG=/data/backup/`date +%Y%m%d`
echo -e "\033[32mPlease wait start cut shell scripts...\033[1m"
sleep 2
if [ ! -d $D_LOG ];then
        mkdir -p  $D_LOG
fi
mv $S_LOG  $D_LOG
kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
echo "-------------------------------------------"
echo "The Nginx log Cutting Successfully!"
echo "You can access backup nginx log $D_LOG/access.log files."
防盜鏈設(shè)置

防盜鏈的含義:網(wǎng)站內(nèi)容不在自己服務(wù)器上昆淡,而通過技術(shù)手段,繞過別人放廣告有利益的最終頁刽严,直接在自己的有廣告有利益的頁面上向最終用戶提供此內(nèi)容昂灵。 常常是一些名不見經(jīng)傳的小網(wǎng)站來盜取一些有實力的大網(wǎng)站的地址(比如一些音樂、圖片舞萄、軟件的下載地址)然后放置在自己的網(wǎng)站中眨补,通過這種方法盜取大網(wǎng)站的空間和流量。
這樣的話倒脓,我們會看到每天訪問量很大撑螺,占用很多不必要的帶寬,浪費資源崎弃,所以我們需要做一些限制甘晤。
防盜鏈其實就是采用服務(wù)器端編程含潘,通過url過濾技術(shù)實現(xiàn)的防止盜鏈的軟件。

location ~* \.(gif|jpg|png|swf|flv)$
  if ($host !=’*.wugk2.com’) {
     return 403;
    }

其他配置

server {
        listen       80;
        server_name  localhost  www.wugk2.com;
        location / {
            root   html/b;
            index  index.html index.htm;
        }
        location ~* \.(gif|jpg|png|swf|flv)$ {
                valid_referers none blocked  *.wugk2.com;
                root   html/b;
        if ($invalid_referer) {
                #rewrite ^/ http://www.wugk2.com/403.html;
                return 403;
                }
        }
    }
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末线婚,一起剝皮案震驚了整個濱河市遏弱,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌塞弊,老刑警劉巖腾窝,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異居砖,居然都是意外死亡,警方通過查閱死者的電腦和手機驴娃,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門奏候,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人唇敞,你說我怎么就攤上這事蔗草。” “怎么了疆柔?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵咒精,是天一觀的道長。 經(jīng)常有香客問我旷档,道長模叙,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任鞋屈,我火速辦了婚禮范咨,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘厂庇。我一直安慰自己渠啊,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布权旷。 她就那樣靜靜地躺著替蛉,像睡著了一般。 火紅的嫁衣襯著肌膚如雪拄氯。 梳的紋絲不亂的頭發(fā)上躲查,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機與錄音坤邪,去河邊找鬼熙含。 笑死,一個胖子當(dāng)著我的面吹牛艇纺,可吹牛的內(nèi)容都是我干的怎静。 我是一名探鬼主播邮弹,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼蚓聘!你這毒婦竟也來了腌乡?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤夜牡,失蹤者是張志新(化名)和其女友劉穎与纽,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體塘装,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡急迂,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了蹦肴。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片僚碎。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖阴幌,靈堂內(nèi)的尸體忽然破棺而出勺阐,到底是詐尸還是另有隱情,我是刑警寧澤矛双,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布渊抽,位于F島的核電站,受9級特大地震影響议忽,放射性物質(zhì)發(fā)生泄漏懒闷。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一栈幸、第九天 我趴在偏房一處隱蔽的房頂上張望毛雇。 院中可真熱鬧,春花似錦侦镇、人聲如沸灵疮。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽震捣。三九已至,卻和暖如春闹炉,著一層夾襖步出監(jiān)牢的瞬間蒿赢,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工渣触, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留羡棵,地道東北人。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓嗅钻,卻偏偏與公主長得像皂冰,于是被迫代替她去往敵國和親店展。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容