爬取招聘網(wǎng)站指定信息生成指定樣式表格

背景描述:根據(jù)給定excel中的日企名稱可免,在招聘網(wǎng)站上搜索所有崗位信息,并最終生成excel表格龙优。
使用到的框架:scrapy
數(shù)據(jù)庫(kù):mysql
難點(diǎn):部分信息需要爬取二級(jí)頁(yè)面及分頁(yè)羊异,暫未實(shí)現(xiàn),待更新彤断。
原始表格:


image.png

需要生成的列表項(xiàng):
單位名稱野舶、崗位名稱、學(xué)歷要求宰衙、工作年限要求平道、工作地點(diǎn)、崗位年薪供炼、招聘人數(shù)一屋、到崗時(shí)間窘疮、任職要求
爬取部分代碼實(shí)現(xiàn):

import array
import  time
import scrapy
import json
from qcwy.items import QcwyItem
from openpyxl import load_workbook
from openpyxl import Workbook
from urllib.request import urlopen
from urllib.request import Request
from urllib import parse
from lxml import etree
import sys
from bs4 import BeautifulSoup
from openpyxl import Workbook
import xlwt
import requests
import json
from bs4 import BeautifulSoup
from xlrd import open_workbook
import time
from xlutils.copy import copy

class QcwycrawlerSpider(scrapy.Spider):
    name = 'qcwyCrawler'
    # allowed_domains = ['www.xxx.com']
    start_urls = []  # start_urls列表中的url會(huì)被scrapy自動(dòng)請(qǐng)求
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
        #read Excel
        setSQLData = []
        ws = load_workbook('D:/code/xxx.xlsx')
        Sheet_1 = ws['Sheet1']
        for i in range(1,106):
            B1 = Sheet_1.cell(i,1).value
            if B1 is None:
                continue
            else:
                num = 0
                url = 'https://search.51job.com/list/000000,000000,0000,00,9,99,'+B1+',1,1.html?lang=c&postchannel=0000&workyear=99&cotype=99&degreefrom=99&jobterm=99&companysize=99&ord_field=0&dibiaoid=0&line=&welfare='
                #for i in range(1, 10):
                self.start_urls.append(url)

    def parse(self, response): # 利用xpath和json解析爬取到的數(shù)據(jù)
        json_str = response.xpath('/html/body/script[2]/text()').extract_first()[29:]
        data = json.loads(json_str)
        item = QcwyItem()
        if len(data['engine_search_result'])>0:
            for row in data['engine_search_result']:
                item['company'] = row['company_name']
                item['job_name'] = row['job_name']
                item['salary'] = row['providesalary_text']
                attribute_text = len(row['attribute_text'])
                if attribute_text > 3:
                    item['experience'] = row['attribute_text'][1]
                    item['education'] = row['attribute_text'][2]
                    item['num'] = row['attribute_text'][3]
                if attribute_text == 3:
                    item['experience'] = row['attribute_text'][1]
                    item['num'] = row['attribute_text'][2]
                    item['education'] = '無(wú)要求'
                item['welfare'] = row['jobwelf']
                item['workarea']= row['workarea_text']
                yield item
        else:
            item['company'] = data['searched_condition']
            item['job_name'] = '無(wú)'
            item['salary'] = '無(wú)'
            item['welfare'] = '無(wú)'
            item['workarea']= '無(wú)'
            item['education'] = '無(wú)'
            item['num'] = '0'
            item['experience'] = '無(wú)'
            yield item
       





最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市陆淀,隨后出現(xiàn)的幾起案子考余,更是在濱河造成了極大的恐慌,老刑警劉巖轧苫,帶你破解...
    沈念sama閱讀 206,968評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件楚堤,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡含懊,警方通過(guò)查閱死者的電腦和手機(jī)身冬,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,601評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)岔乔,“玉大人酥筝,你說(shuō)我怎么就攤上這事〕牛” “怎么了嘿歌?”我有些...
    開(kāi)封第一講書(shū)人閱讀 153,220評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)茁影。 經(jīng)常有香客問(wèn)我宙帝,道長(zhǎng),這世上最難降的妖魔是什么募闲? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,416評(píng)論 1 279
  • 正文 為了忘掉前任步脓,我火速辦了婚禮,結(jié)果婚禮上浩螺,老公的妹妹穿的比我還像新娘靴患。我一直安慰自己,他們只是感情好要出,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,425評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布鸳君。 她就那樣靜靜地躺著,像睡著了一般厨幻。 火紅的嫁衣襯著肌膚如雪相嵌。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,144評(píng)論 1 285
  • 那天况脆,我揣著相機(jī)與錄音,去河邊找鬼批糟。 笑死格了,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的徽鼎。 我是一名探鬼主播盛末,決...
    沈念sama閱讀 38,432評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼弹惦,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了悄但?” 一聲冷哼從身側(cè)響起棠隐,我...
    開(kāi)封第一講書(shū)人閱讀 37,088評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎檐嚣,沒(méi)想到半個(gè)月后助泽,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,586評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡嚎京,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,028評(píng)論 2 325
  • 正文 我和宋清朗相戀三年嗡贺,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鞍帝。...
    茶點(diǎn)故事閱讀 38,137評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡诫睬,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出帕涌,到底是詐尸還是另有隱情摄凡,我是刑警寧澤,帶...
    沈念sama閱讀 33,783評(píng)論 4 324
  • 正文 年R本政府宣布蚓曼,位于F島的核電站亲澡,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏辟躏。R本人自食惡果不足惜谷扣,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,343評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望捎琐。 院中可真熱鬧会涎,春花似錦、人聲如沸瑞凑。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,333評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)籽御。三九已至练慕,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間技掏,已是汗流浹背铃将。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,559評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留哑梳,地道東北人劲阎。 一個(gè)月前我還...
    沈念sama閱讀 45,595評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像鸠真,于是被迫代替她去往敵國(guó)和親悯仙。 傳聞我的和親對(duì)象是個(gè)殘疾皇子龄毡,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,901評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容