Python控制瀏覽器骇钦,自動(dòng)獲取網(wǎng)頁數(shù)據(jù)

【新手任務(wù)】

老板:我們做海外市場的,搞定投資商很重要竞漾。你去把境外投資企業(yè)(機(jī)構(gòu))全部給我復(fù)制下來眯搭。


任務(wù).png

總共2606頁,點(diǎn)下一頁业岁,然后再ctrl+C鳞仙,然后Ctrl+V,準(zhǔn)備著復(fù)制到天亮吧笔时。掃視一圈棍好,新來的實(shí)習(xí)生都回學(xué)校做畢業(yè)論文了。

【解決方案】

知識(shí)點(diǎn):Python 3 基本語法允耿,splinter庫和xpath基本知識(shí)
Case 1:
python利用splinter庫借笙,控制chrome瀏覽器,打開網(wǎng)頁较锡,獲取數(shù)據(jù)业稼。抓取境外投資企業(yè)(機(jī)構(gòu))名錄。
分析思路:

Step 1: 安裝splinter

百度 splinter 安裝蚂蕴,建議安裝anaconda(python常用庫就基本有了)低散,再安裝splinter

Step 2: 利用splinter打開chrome,訪問鏈接

from splinter import Browser
browser = Browser('chrome') #打開谷歌瀏覽器
browser.visit('http://femhzs.mofcom.gov.cn/fecpmvc/pages/fem/CorpJWList.html') #訪問鏈接
打開谷歌瀏覽器骡楼,訪問鏈接.png

Step 3: 獲取信息

  • 在網(wǎng)頁空白處熔号,點(diǎn)擊右鍵,選擇“檢查”鸟整。然后跨嘉,在出現(xiàn)的功能框中,用鼠標(biāo)點(diǎn)擊選擇元素
    檢查.png
  • 點(diǎn)擊了選擇元素之后吃嘿,按鈕變?yōu)樗{(lán)色(我是色盲祠乃,也是許是藍(lán)色吧)。然后兑燥,所鼠標(biāo)移動(dòng)到網(wǎng)頁上亮瓷,你要獲取獲取的信息上,然后單擊降瞳。


    選擇要復(fù)制的數(shù)據(jù).png
  • 然后嘱支,將鼠標(biāo)移動(dòng)到功能框中蚓胸,你需要獲取的信息上,然后點(diǎn)擊右鍵-復(fù)制-XPath除师。這樣就獲得了該元素在網(wǎng)頁中的地址沛膳。


    復(fù)制XPath.png
  • 代碼如下:
# 通過谷歌瀏覽器的檢查功能,可以很迅速地獲取所需元素的地址汛聚。
# find_by_xpath(XPath地址) 返回值是儲(chǔ)存在列表中的
# 這里是只有一個(gè)元素的列表锹安,所以要選擇列表第一個(gè)元素的值
r1c1=browser.find_by_xpath('//*[@id="foreach"]/td[1]').first.value # 取得1行1列的值
r1c2=browser.find_by_xpath('//*[@id="foreach"]/td[2]').first.value # 取得1行2列的值
r1c3=browser.find_by_xpath('//*[@id="foreach"]/td[3]').first.value# 取得1行3列的值
browser.find_by_xpath('//*[@id="pageNoLink_0"]').first.click() # 點(diǎn)擊下一頁
# 打印數(shù)據(jù),并退出瀏覽器
print(r1c1,r1c2,r1c3)
browser.quit()

【結(jié)語】

本文簡單地講述了如何利用python splinter庫倚舀,操作谷歌瀏覽器叹哭,然后定位到所需的元素,然后獲取元素的值痕貌。獲取完畢后风罩,將數(shù)據(jù)打印,并退出瀏覽器。關(guān)于數(shù)據(jù)的儲(chǔ)存舵稠,請參考插上翅膀超升,讓Excel飛起來——xlwings(一)。完整幾百頁數(shù)據(jù)的獲取哺徊,就只是在代碼上加一個(gè)循環(huán)廓俭,如有需要下次再細(xì)講。完整代碼如下:

from splinter import Browser
browser = Browser('chrome')
browser.visit('http://femhzs.mofcom.gov.cn/fecpmvc/pages/fem/CorpJWList.html')
r1c1=browser.find_by_xpath('//*[@id="foreach"]/td[1]').first.value
r1c2=browser.find_by_xpath('//*[@id="foreach"]/td[2]').first.value
r1c3=browser.find_by_xpath('//*[@id="foreach"]/td[3]').first.value
browser.find_by_xpath('//*[@id="pageNoLink_0"]').first.click() 
# 打印數(shù)據(jù)唉工,并退出瀏覽器
print(r1c1,r1c2,r1c3)
browser.quit()

參考資料
Xpath實(shí)例
splinter官方文檔

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末预皇,一起剝皮案震驚了整個(gè)濱河市痊土,隨后出現(xiàn)的幾起案子挽封,更是在濱河造成了極大的恐慌父能,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,324評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件谣膳,死亡現(xiàn)場離奇詭異竿报,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)继谚,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,356評論 3 392
  • 文/潘曉璐 我一進(jìn)店門烈菌,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人花履,你說我怎么就攤上這事芽世。” “怎么了诡壁?”我有些...
    開封第一講書人閱讀 162,328評論 0 353
  • 文/不壞的土叔 我叫張陵济瓢,是天一觀的道長。 經(jīng)常有香客問我妹卿,道長旺矾,這世上最難降的妖魔是什么蔑鹦? 我笑而不...
    開封第一講書人閱讀 58,147評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮箕宙,結(jié)果婚禮上嚎朽,老公的妹妹穿的比我還像新娘。我一直安慰自己柬帕,他們只是感情好哟忍,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,160評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著雕崩,像睡著了一般。 火紅的嫁衣襯著肌膚如雪融撞。 梳的紋絲不亂的頭發(fā)上盼铁,一...
    開封第一講書人閱讀 51,115評論 1 296
  • 那天,我揣著相機(jī)與錄音尝偎,去河邊找鬼饶火。 笑死,一個(gè)胖子當(dāng)著我的面吹牛致扯,可吹牛的內(nèi)容都是我干的肤寝。 我是一名探鬼主播,決...
    沈念sama閱讀 40,025評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼抖僵,長吁一口氣:“原來是場噩夢啊……” “哼鲤看!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起耍群,我...
    開封第一講書人閱讀 38,867評論 0 274
  • 序言:老撾萬榮一對情侶失蹤义桂,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后蹈垢,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體慷吊,經(jīng)...
    沈念sama閱讀 45,307評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,528評論 2 332
  • 正文 我和宋清朗相戀三年曹抬,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了溉瓶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,688評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡谤民,死狀恐怖堰酿,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情张足,我是刑警寧澤胞锰,帶...
    沈念sama閱讀 35,409評論 5 343
  • 正文 年R本政府宣布,位于F島的核電站兢榨,受9級特大地震影響嗅榕,放射性物質(zhì)發(fā)生泄漏顺饮。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,001評論 3 325
  • 文/蒙蒙 一凌那、第九天 我趴在偏房一處隱蔽的房頂上張望兼雄。 院中可真熱鬧,春花似錦帽蝶、人聲如沸赦肋。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,657評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽佃乘。三九已至,卻和暖如春驹尼,著一層夾襖步出監(jiān)牢的瞬間趣避,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,811評論 1 268
  • 我被黑心中介騙來泰國打工新翎, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留程帕,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,685評論 2 368
  • 正文 我出身青樓地啰,卻偏偏與公主長得像愁拭,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子亏吝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,573評論 2 353

推薦閱讀更多精彩內(nèi)容