Python 實(shí)戰(zhàn):week1 爬取商品信息

輸出結(jié)果:

每個(gè)商品的信息存入字典韧献,使用列表保存所有商品信息

$ python 1.2.py
[{'star_num': u'65 reviews', 'price': u'$24.99', 'star_level': 5, 'img': 'img/pic_0000_073a9256d9624c92a05dc680fc28865f.jpg', 'title': u'EarPod'}, {'star_num': u'12 reviews', 'price': u'$64.99', 'star_level': 4, 'img': 'img/pic_0005_828148335519990171_c234285520ff.jpg', 'title': u'New Pocket'}, {'star_num': u'31 reviews', 'price': u'$74.99', 'star_level': 4, 'img': 'img/pic_0006_949802399717918904_339a16e02268.jpg', 'title': u'New sunglasses'}, {'star_num': u'6 reviews', 'price': u'$84.99', 'star_level': 3, 'img': 'img/pic_0008_975641865984412951_ade7a767cfc8.jpg', 'title': u'Art Cup'}, {'star_num': u'18 reviews', 'price': u'$94.99', 'star_level': 4, 'img': 'img/pic_0001_160243060888837960_1c3bcd26f5fe.jpg', 'title': u'iphone gamepad'}, {'star_num': u'18 reviews', 'price': u'$214.5', 'star_level': 4, 'img': 'img/pic_0002_556261037783915561_bf22b24b9e4e.jpg', 'title': u'Best Bed'}, {'star_num': u'35 reviews', 'price': u'$500', 'star_level': 4, 'img': 'img/pic_0011_1032030741401174813_4e43d182fce7.jpg', 'title': u'iWatch'}, {'star_num': u'8 reviews', 'price': u'$15.5', 'star_level': 4, 'img': 'img/pic_0010_1027323963916688311_09cc2d7648d9.jpg', 'title': u'Park tickets'}]

作業(yè) github 地址

功能,獲取:

  • 圖片地址
  • 價(jià)格
  • 商品標(biāo)題
  • 評(píng)分量
  • 評(píng)分星級(jí)

小結(jié)

--

安裝第三方庫

系統(tǒng):MAC OS 10.10.5

  • beautifulsoup4

網(wǎng)頁解析工具

pip install beautifulsoup4
  • requests

HTTP 請(qǐng)求工具

pip install requests
  • lxml

HTML 頁面解析器

需要先安裝C語言庫:

 xcode-select --install
pip install lxml

BeautifulSoup

需要被解析的 HTML 文件

可以通過 open 打開本地的 HTML 文件牲证,作為參數(shù)傳遞給 BeautifulSoup

soup = BeautifulSoup(open("index.html"), 'lxml')

也可以先通過web_data = requests.get(url)向一個(gè) url 發(fā)送 HTTP 請(qǐng)求哮针,獲得HTTP 響應(yīng),然后將響應(yīng)中的 HTML 頁面內(nèi)容web_data.text傳遞給 Beautifulsoup

soup = Beautifulsoup(html,'lxml')

'lxml'是解析器坦袍,Beautifulsoup 使用解析器對(duì) HTML 頁面進(jìn)行結(jié)構(gòu)化十厢,用于后續(xù)的處理。

如果在使用 BeautifulSoup 解析時(shí)捂齐,沒有指定解析器蛮放,BeautifulSoup會(huì)自動(dòng)查找并使用當(dāng)前系統(tǒng)中最合適的。

$ python 1.2.py
/lib/python2.7/site-packages/bs4/__init__.py:166: UserWarning: No parser was explicitly specified, so I'm using the best available HTML parser for this system ("lxml"). This usually isn't a problem, but if you run this code on another system, or in a different virtual environment, it may use a different parser and behave differently.

To get rid of this warning, change this:

 BeautifulSoup([your markup])

to this:

 BeautifulSoup([your markup], "lxml")

解析器有五種:lxml奠宜,html.parser包颁,lxml HTML,lxml XML压真,html5lib

幾種解析器的比較

Beautiful Soup 4.2.0 文檔

BeautifulSoup 學(xué)習(xí)筆記

BeautifulSoup 的選擇器得到的是列表

.find_all

抓取星級(jí)的時(shí)候娩嚼,先直接定位到span

stars = soup.select("div.ratings > p > span")
print stars

這樣打印出來的列表,包括了<span class="glyphicon glyphicon-star-empty"></span>(空的星星)和<span class="glyphicon glyphicon-star"></span>(實(shí)的星星)

于是按照作業(yè)提示榴都,使用find_all

find_all( name , attrs , recursive , text , **kwargs )

元素名: "span",屬性: "glyphicon glyphicon-star"竿音,遞歸春瞬,內(nèi)容

篩選出了所有的實(shí)心星星

stars = soup.find_all("span", "glyphicon glyphicon-star")

<span class="glyphicon glyphicon-star"></span>

但是這樣,所有商品的星級(jí)都在一個(gè)列表中随常,為了對(duì)每個(gè)商品的星星單獨(dú)用列表計(jì)算绪氛,先獲取星級(jí)的父級(jí)元素

多對(duì)一的關(guān)系:想獲取一個(gè)層級(jí)的所有元素涝影,應(yīng)該在父級(jí)元素就停下來

parents = soup.select("div.ratings")

使用.find_all獲取一個(gè)父級(jí)標(biāo)簽下所有子標(biāo)簽內(nèi)的文本信息燃逻,是處理多個(gè)文本的高級(jí)的.get_text()

star_level = parent.find_all("span", "glyphicon glyphicon-star")

可以獲取父元素下span元素 屬性為"glyphicon glyphicon-star"的列表

[<span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>]

計(jì)算列表長度即可

len(star_level)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末伯襟,一起剝皮案震驚了整個(gè)濱河市姆怪,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌红伦,老刑警劉巖淀衣,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件膨桥,死亡現(xiàn)場離奇詭異只嚣,居然都是意外死亡艺沼,警方通過查閱死者的電腦和手機(jī)障般,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來即供,“玉大人于微,你說我怎么就攤上這事∏ぃ” “怎么了恋腕?”我有些...
    開封第一講書人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵吗坚,是天一觀的道長商源。 經(jīng)常有香客問我,道長扫沼,這世上最難降的妖魔是什么庄吼? 我笑而不...
    開封第一講書人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任器罐,我火速辦了婚禮渐行,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘肴沫。我一直安慰自己颤芬,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著郁副,像睡著了一般豌习。 火紅的嫁衣襯著肌膚如雪肥隆。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,631評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音吸占,去河邊找鬼矾屯。 笑死件蚕,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的牵啦。 我是一名探鬼主播妄痪,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼僧著,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼障簿!你這毒婦竟也來了站故?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎虱黄,沒想到半個(gè)月后橱乱,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體粱甫,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡危纫,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年种蝶,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片螃征。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡糠赦,死狀恐怖拙泽,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情泼疑,我是刑警寧澤荷荤,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布蕴纳,位于F島的核電站古毛,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏嫂冻。R本人自食惡果不足惜桨仿,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一钱雷、第九天 我趴在偏房一處隱蔽的房頂上張望急波。 院中可真熱鬧,春花似錦澄暮、人聲如沸泣懊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽匈辱。三九已至亡脸,卻和暖如春浅碾,著一層夾襖步出監(jiān)牢的瞬間续语,已是汗流浹背疮茄。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來泰國打工焚虱, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留鹃栽,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像饮亏,于是被迫代替她去往敵國和親路幸。 傳聞我的和親對(duì)象是個(gè)殘疾皇子简肴,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容