爬蟲(chóng)

1婚瓜、爬取網(wǎng)頁(yè)如果不是utf8編碼宝鼓,通過(guò)mahonia包來(lái)解決。
2巴刻、爬取數(shù)據(jù)通過(guò)goquery包愚铡。
3、通過(guò)chrome的檢查功能定位到具體html標(biāo)簽上胡陪,右鍵copy-->copy selector沥寥,獲取到想爬取數(shù)據(jù)的選擇器路徑。
4柠座、重點(diǎn)用法:
dec := mahonia.NewDecoder("GB2312")
rd := dec.NewReader(resp.Body)
doc, _ := goquery.NewDocumentFromReader(rd)
doc.Find("tr.trclass").Each(func(i int, s *goquery.Selection) {
...
}
5邑雅、有的網(wǎng)頁(yè)查看源代碼會(huì)發(fā)現(xiàn)所需數(shù)據(jù)是通過(guò)ajax請(qǐng)求或js生成的,這種情況可以通過(guò)network的xhr功能妈经,查看網(wǎng)頁(yè)請(qǐng)求接口淮野,直接模擬請(qǐng)求接口獲取所需的json數(shù)據(jù)即可。
6吹泡、參考blog:http://blog.csdn.net/hotqin888/article/details/52194839

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末骤星,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子荞胡,更是在濱河造成了極大的恐慌妈踊,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,451評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件泪漂,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡歪泳,警方通過(guò)查閱死者的電腦和手機(jī)萝勤,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,172評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)呐伞,“玉大人敌卓,你說(shuō)我怎么就攤上這事×媲猓” “怎么了趟径?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,782評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)癣防。 經(jīng)常有香客問(wèn)我蜗巧,道長(zhǎng),這世上最難降的妖魔是什么蕾盯? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,709評(píng)論 1 294
  • 正文 為了忘掉前任幕屹,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘望拖。我一直安慰自己渺尘,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,733評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布说敏。 她就那樣靜靜地躺著鸥跟,像睡著了一般。 火紅的嫁衣襯著肌膚如雪盔沫。 梳的紋絲不亂的頭發(fā)上锌雀,一...
    開(kāi)封第一講書(shū)人閱讀 51,578評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音迅诬,去河邊找鬼腋逆。 笑死,一個(gè)胖子當(dāng)著我的面吹牛侈贷,可吹牛的內(nèi)容都是我干的惩歉。 我是一名探鬼主播,決...
    沈念sama閱讀 40,320評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼俏蛮,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼撑蚌!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起搏屑,我...
    開(kāi)封第一講書(shū)人閱讀 39,241評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤争涌,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后辣恋,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體亮垫,經(jīng)...
    沈念sama閱讀 45,686評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,878評(píng)論 3 336
  • 正文 我和宋清朗相戀三年伟骨,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了饮潦。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,992評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡携狭,死狀恐怖继蜡,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情逛腿,我是刑警寧澤稀并,帶...
    沈念sama閱讀 35,715評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站单默,受9級(jí)特大地震影響碘举,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜雕凹,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,336評(píng)論 3 330
  • 文/蒙蒙 一殴俱、第九天 我趴在偏房一處隱蔽的房頂上張望政冻。 院中可真熱鬧,春花似錦线欲、人聲如沸明场。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,912評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)苦锨。三九已至,卻和暖如春趴泌,著一層夾襖步出監(jiān)牢的瞬間舟舒,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,040評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工嗜憔, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留秃励,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,173評(píng)論 3 370
  • 正文 我出身青樓吉捶,卻偏偏與公主長(zhǎng)得像夺鲜,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子呐舔,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,947評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 你爬了嗎币励? 要玩大數(shù)據(jù),沒(méi)有數(shù)據(jù)怎么玩珊拼?這里推薦一些33款開(kāi)源爬蟲(chóng)軟件給大家食呻。 爬蟲(chóng),即網(wǎng)絡(luò)爬蟲(chóng)澎现,是一種自動(dòng)獲取網(wǎng)...
    Albert新榮閱讀 2,228評(píng)論 0 8
  • 33款可用來(lái)抓數(shù)據(jù)的開(kāi)源爬蟲(chóng)軟件工具 要玩大數(shù)據(jù)仅胞,沒(méi)有數(shù)據(jù)怎么玩?這里推薦一些33款開(kāi)源爬蟲(chóng)軟件給大家昔头。 爬蟲(chóng)饼问,即...
    visiontry閱讀 7,325評(píng)論 1 99
  • 要玩大數(shù)據(jù),沒(méi)有數(shù)據(jù)怎么玩峻堰?這里推薦一些33款開(kāi)源爬蟲(chóng)軟件給大家讹开。 爬蟲(chóng),即網(wǎng)絡(luò)爬蟲(chóng)捐名,是一種自動(dòng)獲取網(wǎng)頁(yè)內(nèi)容的程序...
    評(píng)評(píng)分分閱讀 7,994評(píng)論 2 121
  • 1 前言 作為一名合格的數(shù)據(jù)分析師旦万,其完整的技術(shù)知識(shí)體系必須貫穿數(shù)據(jù)獲取、數(shù)據(jù)存儲(chǔ)镶蹋、數(shù)據(jù)提取成艘、數(shù)據(jù)分析赏半、數(shù)據(jù)挖掘、...
    whenif閱讀 18,073評(píng)論 45 523
  • 擅長(zhǎng)把壞事變成好事是種能力淆两,心態(tài)很重要断箫。這就是修習(xí)帶來(lái)的力量。
    烏金燈閱讀 447評(píng)論 0 0