二期python爬蟲作業(yè)No.3 天氣

在程工一邊開心的團(tuán)建的時(shí)候,趕緊趕他布置的作業(yè):
這個(gè)作業(yè)已經(jīng)有好幾個(gè)同學(xué)完成了耕拷,所以我其實(shí)就是拿來抄的...

import requests
from lxml import etree
import random
import json
import csv

Headers = {
            'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.133 Safari/537.36',
             'Referer':'http://www.weather.com.cn/weather40d/101091101.shtml',
          }

天氣網(wǎng)也有反爬种樱,所以請(qǐng)求頭這里要有Referer,“因?yàn)檫@是瀏覽器發(fā)出請(qǐng)求時(shí)腕巡,會(huì)通過Referer告訴服務(wù)器我是從哪個(gè)頁(yè)面鏈接過來的玄坦,有些網(wǎng)站會(huì)對(duì)這個(gè)做驗(yàn)證,主要時(shí)為了防止別人盜鏈的問題绘沉。不是的話就會(huì)403禁止訪問服務(wù)器煎楣。”——引自chaosmind

url= 'http://d1.weather.com.cn/calendar_new/2017/101091101_201706.html'
html= requests.get(url,headers=Headers).content
infos=json.loads(html[11:])

然后就是找包车伞,天氣網(wǎng)也是json包加載的择懂。不過切片是第一次遇到,如果不是大家提醒另玖,這個(gè)[11:]估計(jì)也要坑上一會(huì)兒困曙。
不過人品始終是守恒的,headers=Headers()居然被我昏了頭加個(gè)括號(hào)谦去,報(bào)錯(cuò)“dict”is not
callable慷丽,對(duì)著別人的功課都檢查不出來,折騰了快半小時(shí)...

import os
os.chdir('E:')
csvFile = open("weather.csv",'w+')
try:
    writer = csv.writer(csvFile)
    writer.writerow(['date','max','min','\n'])
    for item in infos:
        date=item['date']
        max=item['max']
        min=item['min']
        writer.writerow([date,max,min])
finally:
    csvFile.close()

寫入csv文件以前有練過哪轿,沒有什么問題盈魁,收工。
天氣網(wǎng)的只有40天包窃诉,遲點(diǎn)加個(gè)循環(huán)杨耙,多爬幾個(gè)月,做個(gè)數(shù)據(jù)分析飘痛。再供大家參考珊膜。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市宣脉,隨后出現(xiàn)的幾起案子车柠,更是在濱河造成了極大的恐慌,老刑警劉巖塑猖,帶你破解...
    沈念sama閱讀 222,378評(píng)論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件竹祷,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡羊苟,警方通過查閱死者的電腦和手機(jī)塑陵,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,970評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來蜡励,“玉大人令花,你說我怎么就攤上這事阻桅。” “怎么了兼都?”我有些...
    開封第一講書人閱讀 168,983評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵嫂沉,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我扮碧,道長(zhǎng)趟章,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,938評(píng)論 1 299
  • 正文 為了忘掉前任芬萍,我火速辦了婚禮尤揣,結(jié)果婚禮上搔啊,老公的妹妹穿的比我還像新娘柬祠。我一直安慰自己,他們只是感情好负芋,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,955評(píng)論 6 398
  • 文/花漫 我一把揭開白布漫蛔。 她就那樣靜靜地躺著,像睡著了一般旧蛾。 火紅的嫁衣襯著肌膚如雪莽龟。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,549評(píng)論 1 312
  • 那天锨天,我揣著相機(jī)與錄音毯盈,去河邊找鬼。 笑死病袄,一個(gè)胖子當(dāng)著我的面吹牛搂赋,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播益缠,決...
    沈念sama閱讀 41,063評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼脑奠,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了幅慌?” 一聲冷哼從身側(cè)響起宋欺,我...
    開封第一講書人閱讀 39,991評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎胰伍,沒想到半個(gè)月后齿诞,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,522評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡骂租,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,604評(píng)論 3 342
  • 正文 我和宋清朗相戀三年祷杈,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片菩咨。...
    茶點(diǎn)故事閱讀 40,742評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡吠式,死狀恐怖陡厘,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情特占,我是刑警寧澤糙置,帶...
    沈念sama閱讀 36,413評(píng)論 5 351
  • 正文 年R本政府宣布,位于F島的核電站是目,受9級(jí)特大地震影響谤饭,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜懊纳,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,094評(píng)論 3 335
  • 文/蒙蒙 一揉抵、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧嗤疯,春花似錦冤今、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,572評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至脚囊,卻和暖如春龟糕,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背悔耘。 一陣腳步聲響...
    開封第一講書人閱讀 33,671評(píng)論 1 274
  • 我被黑心中介騙來泰國(guó)打工讲岁, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人衬以。 一個(gè)月前我還...
    沈念sama閱讀 49,159評(píng)論 3 378
  • 正文 我出身青樓缓艳,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親泄鹏。 傳聞我的和親對(duì)象是個(gè)殘疾皇子郎任,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,747評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn)备籽,斷路器舶治,智...
    卡卡羅2017閱讀 134,714評(píng)論 18 139
  • 聲明:本文講解的實(shí)戰(zhàn)內(nèi)容,均僅用于學(xué)習(xí)交流车猬,請(qǐng)勿用于任何商業(yè)用途霉猛! 一、前言 強(qiáng)烈建議:請(qǐng)?jiān)陔娔X的陪同下珠闰,閱讀本文...
    Bruce_Szh閱讀 12,725評(píng)論 6 28
  • 目錄: Python網(wǎng)絡(luò)爬蟲(一)- 入門基礎(chǔ)Python網(wǎng)絡(luò)爬蟲(二)- urllib爬蟲案例Python網(wǎng)絡(luò)爬...
    一只寫程序的猿閱讀 37,266評(píng)論 3 49
  • Python學(xué)習(xí)網(wǎng)絡(luò)爬蟲主要分3個(gè)大的版塊:抓取惜浅,分析,存儲(chǔ) 另外伏嗜,比較常用的爬蟲框架Scrapy坛悉,這里最后也詳細(xì)...
    楚江數(shù)據(jù)閱讀 1,472評(píng)論 0 6
  • 一伐厌、網(wǎng)絡(luò)爬蟲的定義 網(wǎng)絡(luò)爬蟲,即Web Spider裸影,是一個(gè)很形象的名字挣轨。把互聯(lián)網(wǎng)比喻成一個(gè)蜘蛛網(wǎng),那么Spide...
    隨風(fēng)化作雨閱讀 1,098評(píng)論 0 0