Python 爬蟲學(xué)習(xí) 爬取房租——麻瓜編程

編程課程鏈接:https://www.gitbook.com/book/mugglecoding/qa/details

課程名稱:第三節(jié)練習(xí)項(xiàng)目:爬取租房信息
總結(jié):

1袖裕、for循環(huán)冬念,如果是只有一個(gè)變量敷存,不能用zip 不能加括號
例如 for a档址,b in zip(as旷偿,bs): 這個(gè)是可以的
例如 for a in zip(as): 或者 for a in (as): 這個(gè)是不可以的贰拿。
2赐写、中文的逗號,冒號,括號豌注,一律不能過伤塌。。轧铁。
3每聪、初學(xué)者,每一次拷貝出 selector css 路徑后齿风,最好都打印一下看看熊痴。
4、def 用來設(shè)置函數(shù)聂宾,函數(shù)書寫順序要求,在調(diào)用一個(gè)函數(shù)時(shí)诊笤,函數(shù)一定要在該調(diào)用上面系谐。這個(gè)不是特好,那就粘貼來粘貼去好了讨跟。

from bs4 import BeautifulSoup
import requests
def get_loder_sex(class_name):
if class_name==['member_ico']:
return '男'
else:
return '女'

def get_links(url):
web_data = requests.get(url)
soup = BeautifulSoup(web_data.text, 'lxml')
links = soup.select('#page_list > ul > li > a')
for link in links:
href = link.get("href")
get_detail_info(href)

def get_detail_info(url):
web_data = requests.get(url)
soup = BeautifulSoup(web_data.text,'lxml')

titles = soup.select('h4 > em')
addresss = soup.select(' p > span.pr5')
prices = soup.select(' div.day_l > span')
imgs = soup.select('#curBigImage')
owners = soup.select('div.js_box.clearfix > div.member_pic > a > img')
sexs = soup.select(' div.js_box.clearfix > div.member_pic > div')
names = soup.select('#floatRightBox > div.js_box.clearfix > div.w_240 > h6 > a')

for title, address, price, img, owner, name, sex \
        in zip(titles, addresss, prices, imgs, owners, names, sexs):
    
    data = {
        'title': title.get_text(),
        "address": address.get_text(),
        "price": price.get_text(),
        "image": img.get("src"),
        "owners": owner.get("src"),
        "name": name.get_text(),
        "sex": get_loder_sex(sex.get("class"))

    }
    print(data)

urls = ['http://bj.xiaozhu.com/search-duanzufang-p{}-0/'.format(number) for number in range(1,10)]
for single_url in urls:
get_links(single_url)
'''

從標(biāo)簽里面提取內(nèi)容

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末纪他,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子晾匠,更是在濱河造成了極大的恐慌茶袒,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,029評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件凉馆,死亡現(xiàn)場離奇詭異薪寓,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)澜共,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,395評論 3 385
  • 文/潘曉璐 我一進(jìn)店門向叉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人嗦董,你說我怎么就攤上這事母谎。” “怎么了京革?”我有些...
    開封第一講書人閱讀 157,570評論 0 348
  • 文/不壞的土叔 我叫張陵奇唤,是天一觀的道長。 經(jīng)常有香客問我匹摇,道長咬扇,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,535評論 1 284
  • 正文 為了忘掉前任来惧,我火速辦了婚禮冗栗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己隅居,他們只是感情好钠至,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,650評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著胎源,像睡著了一般棉钧。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上涕蚤,一...
    開封第一講書人閱讀 49,850評論 1 290
  • 那天宪卿,我揣著相機(jī)與錄音,去河邊找鬼万栅。 笑死佑钾,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的烦粒。 我是一名探鬼主播休溶,決...
    沈念sama閱讀 39,006評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼扰她!你這毒婦竟也來了兽掰?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,747評論 0 268
  • 序言:老撾萬榮一對情侶失蹤徒役,失蹤者是張志新(化名)和其女友劉穎孽尽,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體忧勿,經(jīng)...
    沈念sama閱讀 44,207評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡杉女,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,536評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了狐蜕。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片宠纯。...
    茶點(diǎn)故事閱讀 38,683評論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖层释,靈堂內(nèi)的尸體忽然破棺而出婆瓜,到底是詐尸還是另有隱情,我是刑警寧澤贡羔,帶...
    沈念sama閱讀 34,342評論 4 330
  • 正文 年R本政府宣布,位于F島的核電站乖寒,受9級特大地震影響楣嘁,放射性物質(zhì)發(fā)生泄漏磅轻。R本人自食惡果不足惜珍逸,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,964評論 3 315
  • 文/蒙蒙 一聋溜、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧撮躁,春花似錦漱病、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,772評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽叙赚。三九已至,卻和暖如春纠俭,著一層夾襖步出監(jiān)牢的瞬間浪慌,已是汗流浹背权纤。 一陣腳步聲響...
    開封第一講書人閱讀 32,004評論 1 266
  • 我被黑心中介騙來泰國打工汹想, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人古掏。 一個(gè)月前我還...
    沈念sama閱讀 46,401評論 2 360
  • 正文 我出身青樓槽唾,卻偏偏與公主長得像,于是被迫代替她去往敵國和親拧烦。 傳聞我的和親對象是個(gè)殘疾皇子钝计,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,566評論 2 349

推薦閱讀更多精彩內(nèi)容