Linux上使用crontab命令完成定時(shí)爬蟲

本文主要記錄: 1、crontab的用法纤房。
? ? ? ? ? ? ? ? ? ? ? ? ? 2纵隔、crontab與scrapy的結(jié)合炮姨。

一、crontab

  • crontab是什么
    ? ? ? ?Linux crontab是用來定期執(zhí)行程序的命令舒岸。

  • crontab常用命令
    ? ? ? ?1绅作、crontab -l : 列出當(dāng)前的定時(shí)任務(wù)列表
    ? ? ? ?2、crontab -e : 執(zhí)行編輯器來設(shè)定時(shí)任務(wù)

  • 定時(shí)任務(wù)設(shè)置格式
    ? ? ? ?格式:[分] [時(shí)] [日] [月] [周] [執(zhí)行的操作]
    ? ? ? ?例:00 19 * * * python /root/spider/test.py 每天19:00執(zhí)行python /root/spider/test.py 注意一定要是絕對路徑

    圖摘自思否

常用符號:

  • 星號(*):代表所有可能的值棚蓄,如month字段為星號,則表示在滿足其它字段的制約條件后每月都執(zhí)行該命令操作稍算。

  • 逗號(,):可以用逗號隔開的值指定一個(gè)列表范圍,例如钾埂,“1,2,5,7,8,9”

  • 中杠(-):可以用整數(shù)之間的中杠表示一個(gè)整數(shù)范圍,例如“2-6”表示“2,3,4,5,6”

  • 正斜線(/):可以用正斜線指定時(shí)間的間隔頻率,例如“0-23/2”表示每兩小時(shí)執(zhí)行一次髓考。

以下是幾個(gè)例子

? ? ? ?1氨菇、每分鐘執(zhí)行一次: * * * * * command

? ? ? ?2查蓉、每一小時(shí)執(zhí)行一次 :00 * * * * command(精確時(shí)間點(diǎn)) or * */1 * * * command ( / 表示頻率)

? ? ? ?3、每小時(shí)的15和30分各執(zhí)行一次 15,45 * * * * command(, 表示并列)

? ? ? ?4豌研、在每天上午 8- 11時(shí)中間每小時(shí) 15 鹃共,45分各執(zhí)行一次:15,45 8-11 * * * command (- 表示范圍)

? ? ? ?5及汉、每個(gè)星期一的上午8點(diǎn)到11點(diǎn)的第3和第15分鐘執(zhí)行:3,15 8-11 * * 1 command

? ? ? ?6坷随、每隔兩天的上午8點(diǎn)到11點(diǎn)的第3和第15分鐘執(zhí)行:3,15 8-11 */2 * * command

二温眉、crontab與scrapy的結(jié)合

? ? ? ?通常運(yùn)行scrapy需要進(jìn)入到該scrapy項(xiàng)目的文件夾下类溢,所以我們不能直接scrapy crawl ……闯冷。

例如我需要每天19:00運(yùn)行我部署的某天氣網(wǎng)站的scrapy爬蟲蛇耀,名為chinaweather:

? ? ? ?1纺涤、我們需要先 cd 進(jìn)入到該scrapy項(xiàng)目的路徑下

? ? ? ?2、對于scrapy需要使用絕對路徑外永,如果找不到伯顶,可以使用which scrapy找到如:/usr/local/anaconda/bin/scrapy砾淌。

? ? ? ?3汪厨、這個(gè)scrapy運(yùn)行的時(shí)候會打印一些日志,我們用>>可以把它統(tǒng)一追加到一個(gè)文件中织中,方便檢查scrapy是否正常運(yùn)行衷戈。 (需要注意的是>是覆蓋重寫殖妇,>>是追加操作)

? ? ? ?使用crontab -e 編輯后谦趣,即可添加到定時(shí)任務(wù)中:
00 19 * * * cd /root/spider/weather && /usr/local/anaconda/bin/scrapy crawl chinaweather >> /root/spider/weather/weather_history.log

? ? ? ?最后保存退出前鹅,就會顯示任命了新的定時(shí)任務(wù):


?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蹂喻,一起剝皮案震驚了整個(gè)濱河市口四,隨后出現(xiàn)的幾起案子窃祝,更是在濱河造成了極大的恐慌踱侣,老刑警劉巖抡句,帶你破解...
    沈念sama閱讀 211,042評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件逞壁,死亡現(xiàn)場離奇詭異腌闯,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)斤彼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評論 2 384
  • 文/潘曉璐 我一進(jìn)店門嘲玫,熙熙樓的掌柜王于貴愁眉苦臉地迎上來并扇,“玉大人穷蛹,你說我怎么就攤上這事俩莽“绯” “怎么了?”我有些...
    開封第一講書人閱讀 156,674評論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長馁龟。 經(jīng)常有香客問我坷檩,道長,這世上最難降的妖魔是什么阿纤? 我笑而不...
    開封第一講書人閱讀 56,340評論 1 283
  • 正文 為了忘掉前任欠拾,我火速辦了婚禮,結(jié)果婚禮上酬土,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好腹泌,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評論 5 384
  • 文/花漫 我一把揭開白布凉袱。 她就那樣靜靜地躺著专甩,像睡著了一般涤躲。 火紅的嫁衣襯著肌膚如雪种樱。 梳的紋絲不亂的頭發(fā)上嫩挤,一...
    開封第一講書人閱讀 49,749評論 1 289
  • 那天岂昭,我揣著相機(jī)與錄音,去河邊找鬼佣赖。 笑死无宿,一個(gè)胖子當(dāng)著我的面吹牛孽鸡,可吹牛的內(nèi)容都是我干的彬碱。 我是一名探鬼主播奥洼,決...
    沈念sama閱讀 38,902評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼灵奖,長吁一口氣:“原來是場噩夢啊……” “哼瓷患!你這毒婦竟也來了擅编?” 一聲冷哼從身側(cè)響起爱态,我...
    開封第一講書人閱讀 37,662評論 0 266
  • 序言:老撾萬榮一對情侶失蹤锦担,失蹤者是張志新(化名)和其女友劉穎洞渔,沒想到半個(gè)月后痘煤,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體衷快,經(jīng)...
    沈念sama閱讀 44,110評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了张遭。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片地梨。...
    茶點(diǎn)故事閱讀 38,577評論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡宝剖,死狀恐怖万细,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情赖钞,我是刑警寧澤,帶...
    沈念sama閱讀 34,258評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站卓缰,受9級特大地震影響征唬,放射性物質(zhì)發(fā)生泄漏总寒。R本人自食惡果不足惜摄闸,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望炫欺。 院中可真熱鬧熏兄,春花似錦、人聲如沸桥状。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽变汪。三九已至蚁趁,卻和暖如春他嫡,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背徘熔。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評論 1 264
  • 我被黑心中介騙來泰國打工淆党, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留染乌,地道東北人荷憋。 一個(gè)月前我還...
    沈念sama閱讀 46,271評論 2 360
  • 正文 我出身青樓勒庄,卻偏偏與公主長得像,于是被迫代替她去往敵國和親荡碾。 傳聞我的和親對象是個(gè)殘疾皇子局装,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評論 2 348

推薦閱讀更多精彩內(nèi)容