Nginx 限制spider速度

Nginx 限制spider速度

#全局配置
limit_req_zone $anti_spider zone=anti_spider:10m rate=15r/m;
#某個server中
 limit_req zone=anti_spider burst=30 nodelay;
 if ($http_user_agent ~* "xxspider|xxbot") {
 set $anti_spider $http_user_agent;
}

超過設(shè)置的限定頻率费彼,就會給spider一個503茫因。

上述配置詳細(xì)解釋請自行g(shù)oogle下,具體的spider/bot名稱請自定義牍疏。

附:nginx中禁止屏蔽網(wǎng)絡(luò)爬蟲

server {
        listen       80;
        server_name  www.xxx.com;

        #charset koi8-r;

        #access_log  logs/host.access.log  main;

        #location / {
        #    root   html;
        #    index  index.html index.htm;
        #}
    if ($http_user_agent ~* "qihoobot|Baiduspider|Googlebot|Googlebot-Mobile|Googlebot-Image|Mediapartners-Google|Adsbot-Google|Feedfetcher-Google|Yahoo! Slurp|Yahoo! Slurp China|YoudaoBot|Sosospider|Sogou spider|Sogou web spider|MSNBot|ia_archiver|Tomato Bot") {
                return 403;
        }

    location ~ ^/(.*)$ {
                proxy_pass http://localhost:8080;
        proxy_redirect          off;
        proxy_set_header        Host $host;
        proxy_set_header        X-Real-IP $remote_addr;
        proxy_set_header       X-Forwarded-For   $proxy_add_x_forwarded_for;
        client_max_body_size    10m;
        client_body_buffer_size 128k;
        proxy_connect_timeout   90;
        proxy_send_timeout      90;
        proxy_read_timeout      90;
        proxy_buffer_size       4k;
        proxy_buffers           4 32k;
        proxy_busy_buffers_size 64k;
        proxy_temp_file_write_size 64k;
    }
}
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蠢笋,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子鳞陨,更是在濱河造成了極大的恐慌挺尿,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件炊邦,死亡現(xiàn)場離奇詭異编矾,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)馁害,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進(jìn)店門窄俏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人碘菜,你說我怎么就攤上這事凹蜈。” “怎么了忍啸?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵仰坦,是天一觀的道長。 經(jīng)常有香客問我计雌,道長悄晃,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任凿滤,我火速辦了婚禮妈橄,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘翁脆。我一直安慰自己眷蚓,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布反番。 她就那樣靜靜地躺著沙热,像睡著了一般叉钥。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上篙贸,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天沼侣,我揣著相機(jī)與錄音,去河邊找鬼歉秫。 笑死蛾洛,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的雁芙。 我是一名探鬼主播轧膘,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼兔甘!你這毒婦竟也來了谎碍?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤洞焙,失蹤者是張志新(化名)和其女友劉穎蟆淀,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體澡匪,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡熔任,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了唁情。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片疑苔。...
    茶點(diǎn)故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖甸鸟,靈堂內(nèi)的尸體忽然破棺而出惦费,到底是詐尸還是另有隱情,我是刑警寧澤抢韭,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布薪贫,位于F島的核電站,受9級特大地震影響刻恭,放射性物質(zhì)發(fā)生泄漏瞧省。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一吠各、第九天 我趴在偏房一處隱蔽的房頂上張望臀突。 院中可真熱鬧勉抓,春花似錦贾漏、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春伍掀,著一層夾襖步出監(jiān)牢的瞬間掰茶,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工蜜笤, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留濒蒋,地道東北人。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓把兔,卻偏偏與公主長得像沪伙,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子县好,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內(nèi)容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 171,777評論 25 707
  • 如果你的博客或網(wǎng)站是搭建在付費(fèi)主機(jī)上围橡,如果你是博客或網(wǎng)站的站長,如果你連原始訪問日志是什么都不知道翁授,或者對其根本不...
    五米Jared閱讀 2,971評論 0 6
  • 世界上有60億人,每天都在經(jīng)歷著生命的更替晾咪。有的人離開,有的人出生谍倦。奇妙的世界炬守,生生不息。佛教說人有今生前世...
    麥田的守望者G閱讀 483評論 0 1
  • 家書十八 2017年3月19日 任會寬 每到周日减途,我便倍加的思念家。尤其思念我的寶貝曹洽,當(dāng)我起床的一霎那,便迫不及待...
    任會寬閱讀 318評論 0 3
  • 龐老師《混元整體觀》輔導(dǎo)資料 Ⅱ送淆、人體局部與整體的關(guān)系 人的每一個局部都可以反映整體税产。局部服從整體偷崩,是整體的一部分...
    石竹閱讀 477評論 0 2