輸出結(jié)果:
每個(gè)商品的信息存入字典韧献,使用列表保存所有商品信息
$ python 1.2.py
[{'star_num': u'65 reviews', 'price': u'$24.99', 'star_level': 5, 'img': 'img/pic_0000_073a9256d9624c92a05dc680fc28865f.jpg', 'title': u'EarPod'}, {'star_num': u'12 reviews', 'price': u'$64.99', 'star_level': 4, 'img': 'img/pic_0005_828148335519990171_c234285520ff.jpg', 'title': u'New Pocket'}, {'star_num': u'31 reviews', 'price': u'$74.99', 'star_level': 4, 'img': 'img/pic_0006_949802399717918904_339a16e02268.jpg', 'title': u'New sunglasses'}, {'star_num': u'6 reviews', 'price': u'$84.99', 'star_level': 3, 'img': 'img/pic_0008_975641865984412951_ade7a767cfc8.jpg', 'title': u'Art Cup'}, {'star_num': u'18 reviews', 'price': u'$94.99', 'star_level': 4, 'img': 'img/pic_0001_160243060888837960_1c3bcd26f5fe.jpg', 'title': u'iphone gamepad'}, {'star_num': u'18 reviews', 'price': u'$214.5', 'star_level': 4, 'img': 'img/pic_0002_556261037783915561_bf22b24b9e4e.jpg', 'title': u'Best Bed'}, {'star_num': u'35 reviews', 'price': u'$500', 'star_level': 4, 'img': 'img/pic_0011_1032030741401174813_4e43d182fce7.jpg', 'title': u'iWatch'}, {'star_num': u'8 reviews', 'price': u'$15.5', 'star_level': 4, 'img': 'img/pic_0010_1027323963916688311_09cc2d7648d9.jpg', 'title': u'Park tickets'}]
功能,獲取:
- 圖片地址
- 價(jià)格
- 商品標(biāo)題
- 評(píng)分量
- 評(píng)分星級(jí)
小結(jié)
--
安裝第三方庫
系統(tǒng):MAC OS 10.10.5
- beautifulsoup4
網(wǎng)頁解析工具
pip install beautifulsoup4
- requests
HTTP 請(qǐng)求工具
pip install requests
- lxml
HTML 頁面解析器
需要先安裝C語言庫:
xcode-select --install
pip install lxml
BeautifulSoup
需要被解析的 HTML 文件
可以通過 open 打開本地的 HTML 文件牲证,作為參數(shù)傳遞給 BeautifulSoup
soup = BeautifulSoup(open("index.html"), 'lxml')
也可以先通過web_data = requests.get(url)
向一個(gè) url 發(fā)送 HTTP 請(qǐng)求哮针,獲得HTTP 響應(yīng),然后將響應(yīng)中的 HTML 頁面內(nèi)容web_data.text
傳遞給 Beautifulsoup
soup = Beautifulsoup(html,'lxml')
'lxml'
是解析器坦袍,Beautifulsoup 使用解析器對(duì) HTML 頁面進(jìn)行結(jié)構(gòu)化十厢,用于后續(xù)的處理。
如果在使用 BeautifulSoup 解析時(shí)捂齐,沒有指定解析器蛮放,BeautifulSoup
會(huì)自動(dòng)查找并使用當(dāng)前系統(tǒng)中最合適的。
$ python 1.2.py
/lib/python2.7/site-packages/bs4/__init__.py:166: UserWarning: No parser was explicitly specified, so I'm using the best available HTML parser for this system ("lxml"). This usually isn't a problem, but if you run this code on another system, or in a different virtual environment, it may use a different parser and behave differently.
To get rid of this warning, change this:
BeautifulSoup([your markup])
to this:
BeautifulSoup([your markup], "lxml")
解析器有五種:lxml奠宜,html.parser包颁,lxml HTML,lxml XML压真,html5lib
BeautifulSoup 的選擇器得到的是列表
.find_all
抓取星級(jí)的時(shí)候娩嚼,先直接定位到span
stars = soup.select("div.ratings > p > span")
print stars
這樣打印出來的列表,包括了<span class="glyphicon glyphicon-star-empty"></span>
(空的星星)和<span class="glyphicon glyphicon-star"></span>
(實(shí)的星星)
于是按照作業(yè)提示榴都,使用find_all
:
find_all( name , attrs , recursive , text , **kwargs )
元素名: "span"
,屬性: "glyphicon glyphicon-star"
竿音,遞歸春瞬,內(nèi)容
篩選出了所有的實(shí)心星星
stars = soup.find_all("span", "glyphicon glyphicon-star")
<span class="glyphicon glyphicon-star"></span>
但是這樣,所有商品的星級(jí)都在一個(gè)列表中随常,為了對(duì)每個(gè)商品的星星單獨(dú)用列表計(jì)算绪氛,先獲取星級(jí)的父級(jí)元素
多對(duì)一的關(guān)系:想獲取一個(gè)層級(jí)的所有元素涝影,應(yīng)該在父級(jí)元素就停下來
parents = soup.select("div.ratings")
使用.find_all
獲取一個(gè)父級(jí)標(biāo)簽下所有子標(biāo)簽內(nèi)的文本信息燃逻,是處理多個(gè)文本的高級(jí)的.get_text()
star_level = parent.find_all("span", "glyphicon glyphicon-star")
可以獲取父元素下span
元素 屬性為"glyphicon glyphicon-star"
的列表
[<span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>, <span class="glyphicon glyphicon-star"></span>]
計(jì)算列表長度即可
len(star_level)