銷(xiāo)售員實(shí)戰(zhàn) (1)--會(huì)刊網(wǎng)站爬蟲(chóng)

銷(xiāo)售最重要的就是數(shù)據(jù) 幅垮,數(shù)據(jù)一般來(lái)源于網(wǎng)站腰池,b2b, 還有一些會(huì)展的會(huì)刊。
這里要學(xué)習(xí)的忙芒,就是beautifulSoup網(wǎng)站示弓, 一段段小小的代碼,5分鐘可以幫你節(jié)約輸入六個(gè)小時(shí)呵萨。
首先看看代碼奏属,

       __author__ = 'lixiang'
      #coding:utf-8
      from bs4 import BeautifulSoup
     import urllib2
     import re
     from openpyxl import Workbook

     urls = ['','','']  #網(wǎng)站保密
    links = []
    for url in urls:

    request = urllib2.Request(url)
    response = urllib2.urlopen(request)
    source = response.read()
    response.close()

    soup = BeautifulSoup(source)
    urlLink = soup.find_all(href=re.compile("custom_exhibitor"))
    number = len(urlLink)
    for numbers in range(number):
    links.append(urlLink[numbers]['href'])
    count = 2
    wb = Workbook()
     ws =wb.active

      for url in links:
            thtext=[]
             tdtext=[]
             text=[]
             text1=[]
              request = urllib2.Request(url)
              response = urllib2.urlopen(request)

               source=response.read()
               response.close()
               soup =BeautifulSoup(source)
               thtext = soup.find_all("th")
              tdtext = soup.find_all("td")
             length = len(thtext)
         for i in range(length):
                a = thtext[i].string
                text.append(a)
         for j in range(length):
              try:
                    b = tdtext[j].string.lstrip()
             except AttributeError:
                   b = tdtext[j].string

           text1.append(b)

         print text1[1]

       if count >1 :
             ws.append([text[i]for i in range(length)])
             count = count -1
       else:
            pass
       ws.append([text1[j]for j in range(length)])
       wb.save('文件名.xlsx')

以上代碼,比較滿意的是甘桑,可以爬數(shù)據(jù)了拍皮,但是有幾個(gè)問(wèn)題歹叮, 如何讓源代碼可讀性,比如是否可以實(shí)現(xiàn)類(lèi)铆帽。 以及多線程加快爬蟲(chóng)速度咆耿。

這是下一次迭代的事情。

感謝互聯(lián)網(wǎng)爹橱,感謝知識(shí)萨螺,這就是效率吧。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末愧驱,一起剝皮案震驚了整個(gè)濱河市慰技,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌组砚,老刑警劉巖吻商,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異糟红,居然都是意外死亡艾帐,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén)盆偿,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)柒爸,“玉大人,你說(shuō)我怎么就攤上這事事扭∩又桑” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵求橄,是天一觀的道長(zhǎng)今野。 經(jīng)常有香客問(wèn)我,道長(zhǎng)谈撒,這世上最難降的妖魔是什么腥泥? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮啃匿,結(jié)果婚禮上蛔外,老公的妹妹穿的比我還像新娘。我一直安慰自己溯乒,他們只是感情好夹厌,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著裆悄,像睡著了一般矛纹。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上光稼,一...
    開(kāi)封第一講書(shū)人閱讀 51,125評(píng)論 1 297
  • 那天或南,我揣著相機(jī)與錄音孩等,去河邊找鬼。 笑死采够,一個(gè)胖子當(dāng)著我的面吹牛肄方,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播蹬癌,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼权她,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了逝薪?” 一聲冷哼從身側(cè)響起隅要,我...
    開(kāi)封第一講書(shū)人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎董济,沒(méi)想到半個(gè)月后步清,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡虏肾,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年尼啡,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片询微。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖狂巢,靈堂內(nèi)的尸體忽然破棺而出撑毛,到底是詐尸還是另有隱情,我是刑警寧澤唧领,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布藻雌,位于F島的核電站,受9級(jí)特大地震影響斩个,放射性物質(zhì)發(fā)生泄漏胯杭。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一受啥、第九天 我趴在偏房一處隱蔽的房頂上張望做个。 院中可真熱鬧,春花似錦滚局、人聲如沸居暖。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)太闺。三九已至,卻和暖如春嘁圈,著一層夾襖步出監(jiān)牢的瞬間省骂,已是汗流浹背蟀淮。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留钞澳,地道東北人怠惶。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像略贮,于是被迫代替她去往敵國(guó)和親甚疟。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容