VBA與網(wǎng)抓

信息時代已經(jīng)到來伺糠,該如何好好利用網(wǎng)絡資源蒙谓?

爬蟲的話首選Python,無奈训桶,對于我這樣半道出家非專業(yè)編程的工程人來說累驮,學習成本確實是個問題。好在VB是當年微軟的主推舵揭,支持的庫不是最新最先進谤专,但起碼還有的用用。拋開效率不講琉朽,VB當之無愧的是工程人員的首選毒租。

首先關于網(wǎng)抓應該先了解兩樣工具:

一個是瀏覽器的F12調出來的開發(fā)人員工具。
另一個是大名鼎鼎的Fiddler箱叁。
這兩個工具用來分析網(wǎng)頁墅垮。

當然,對于HTML的知識也是不能少的啦耕漱。

可以參考:http://www.w3school.com.cn/html/index.asp

VBA網(wǎng)抓常用的方法有:

1算色、xmlhttp/winhttp法:
用xmlhttp/winhttp模擬向服務器發(fā)送請求,接收服務器返回的數(shù)據(jù)螟够。
優(yōu)點:效率高灾梦,基本無兼容性問題。
缺點:需要借助如fiddler的工具來模擬http請求妓笙。
2若河、IE/webbrowser法:
創(chuàng)建IE控件或webbrowser控件,結合htmlfile對象的方法和屬性寞宫,模擬瀏覽器操作萧福,獲取瀏覽器頁面的數(shù)據(jù)。
優(yōu)點:這個方法可以模擬大部分的瀏覽器操作辈赋。所見即所得鲫忍,瀏覽器能看到的數(shù)據(jù)就能用代碼獲取。
缺點:各種彈窗相當煩人钥屈,兼容性也確實是個很傷腦筋的問題悟民。上傳文件在IE里根本無法實現(xiàn)。
3篷就、QueryTables法:
因為它是excel自帶射亏,所以勉強也算是一種方法。其實此法和xmlhttp類似,也是GET或POST方式發(fā)送請求鸦泳,然后得到服務器的response返回到單元格內(nèi)银锻。
優(yōu)點:excel自帶,可以通過錄制宏得到代碼做鹰,處理table很方便
击纬。代碼簡短,適合快速獲取一些存在于源代碼的table里的數(shù)據(jù)钾麸。
缺點:無法模擬referer等發(fā)包頭
引自:http://club.excelhome.net/thread-1159783-1-1.html

直接上代碼:

對于xmlhttp法

Public Function XmlHttpData(LinkString As String) As String

Dim xmlHttp As Object
Set xmlHttp = CreateObject("MSXML2.XMLHTTP")
xmlHttp.Open "GET", LinkString, False
xmlHttp.send

Do While xmlHttp.readystate <> 4
    DoEvents
Loop

XmlHttpData = xmlHttp.ResponseText
End Function

亂碼的處理:

XmlHttpData = StrConv(xmlHttp.ResponseText, vbUnicode)

最后是分析返回的數(shù)據(jù)

處理table:
可以使用split以及replace分析
或者通過正則表達式分析更振。
還有:
html法
將table數(shù)據(jù)寫入htmldocument對象,然后循環(huán)取出表格的各個元素饭尝。

Sub Main()
Dim strText As String
Dim arrData(1 To 1000, 1 To 3)
Dim i As Long, j As Long
Dim TR As Object, TD As Object

With CreateObject("MSXML2.XMLHTTP")
    .Open "POST", "http://www.pinble.com/Template/WebService1.asmx/Present3DList", False
    .setRequestHeader "Content-Type", "application/json"
    .Send "{pageindex:'1',lottory:'TC7XCData_jiangS',pl3:'',name:'江蘇七星彩',isgp: '0'}"
    strText = Split(JSEval(.responsetext), "<script")(0) '本例的script運行會提示錯誤肯腕,所以去除這部分script代碼
End With

With CreateObject("htmlfile")
    .write strText
    i = 0
    For Each TR In .all.tags("table")(2).Rows
        i = i + 1
        j = 0
        For Each TD In TR.Cells
            j = j + 1
            arrData(i, j) = TD.innerText
        Next
    Next
End With

Set TR = Nothing
Set TD = Nothing
Cells.Clear
Range("C:C").NumberFormat = "@"  
Range("a1").Resize(i, 3).Value = arrData
End Sub

Function JSEval(s As String) As String
With CreateObject("MSScriptControl.ScriptControl")
    .Language = "javascript"
    JSEval = .Eval(s)
End With
End Function

QueryTable法

    Sub Main()
    Cells.Delete
    With ActiveSheet.QueryTables.Add("url;http://data.bank.hexun.com/lccp/jrxp.aspx", Range("a1"))
        .WebFormatting = xlWebFormattingNone '不包含格式'
        .WebSelectionType = xlSpecifiedTables '指定table模式'
        .WebTables = "2" '第2張table'
        .Refresh False
    End With
    End Sub

復制粘貼法:
table部分的文字可以直接復制到單元格內(nèi),且保留數(shù)據(jù)原格式钥平。

Sub Main()
Dim strText As String
With CreateObject("MSXML2.XMLHTTP")
    .Open "GET", "http://data.bank.hexun.com/lccp/jrxp.aspx", False
    .Send
    strText = .responsetext
End With
strText = "<table" & Split(Split(strText, "<table")(2), "</table>")(0) & "</table>"
CopyToClipbox strText
Cells.Clear
Range("a1").Select
ActiveSheet.Paste
End Sub

Sub CopyToClipbox(strText As String)
'文本拷貝到剪貼板'
With CreateObject("new:{1C3B4210-F441-11CE-B9EA-00AA006B1A69}")
    .SetText strText
    .PutInClipboard
End With
End Sub

未完待續(xù)

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末实撒,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子涉瘾,更是在濱河造成了極大的恐慌知态,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,599評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件立叛,死亡現(xiàn)場離奇詭異负敏,居然都是意外死亡,警方通過查閱死者的電腦和手機秘蛇,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,629評論 3 385
  • 文/潘曉璐 我一進店門其做,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人赁还,你說我怎么就攤上這事妖泄。” “怎么了艘策?”我有些...
    開封第一講書人閱讀 158,084評論 0 348
  • 文/不壞的土叔 我叫張陵蹈胡,是天一觀的道長。 經(jīng)常有香客問我柬焕,道長,這世上最難降的妖魔是什么梭域? 我笑而不...
    開封第一講書人閱讀 56,708評論 1 284
  • 正文 為了忘掉前任斑举,我火速辦了婚禮,結果婚禮上病涨,老公的妹妹穿的比我還像新娘富玷。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 65,813評論 6 386
  • 文/花漫 我一把揭開白布赎懦。 她就那樣靜靜地躺著雀鹃,像睡著了一般。 火紅的嫁衣襯著肌膚如雪励两。 梳的紋絲不亂的頭發(fā)上黎茎,一...
    開封第一講書人閱讀 50,021評論 1 291
  • 那天,我揣著相機與錄音当悔,去河邊找鬼傅瞻。 笑死,一個胖子當著我的面吹牛盲憎,可吹牛的內(nèi)容都是我干的嗅骄。 我是一名探鬼主播,決...
    沈念sama閱讀 39,120評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼饼疙,長吁一口氣:“原來是場噩夢啊……” “哼溺森!你這毒婦竟也來了?” 一聲冷哼從身側響起窑眯,我...
    開封第一講書人閱讀 37,866評論 0 268
  • 序言:老撾萬榮一對情侶失蹤屏积,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后伸但,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體肾请,經(jīng)...
    沈念sama閱讀 44,308評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,633評論 2 327
  • 正文 我和宋清朗相戀三年更胖,在試婚紗的時候發(fā)現(xiàn)自己被綠了铛铁。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,768評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡却妨,死狀恐怖饵逐,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情彪标,我是刑警寧澤倍权,帶...
    沈念sama閱讀 34,461評論 4 333
  • 正文 年R本政府宣布,位于F島的核電站捞烟,受9級特大地震影響薄声,放射性物質發(fā)生泄漏。R本人自食惡果不足惜题画,卻給世界環(huán)境...
    茶點故事閱讀 40,094評論 3 317
  • 文/蒙蒙 一默辨、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧苍息,春花似錦缩幸、人聲如沸壹置。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,850評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽钞护。三九已至,卻和暖如春爆办,著一層夾襖步出監(jiān)牢的瞬間难咕,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,082評論 1 267
  • 我被黑心中介騙來泰國打工押逼, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留步藕,地道東北人。 一個月前我還...
    沈念sama閱讀 46,571評論 2 362
  • 正文 我出身青樓挑格,卻偏偏與公主長得像咙冗,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子漂彤,可洞房花燭夜當晚...
    茶點故事閱讀 43,666評論 2 350

推薦閱讀更多精彩內(nèi)容

  • 問答題47 /72 常見瀏覽器兼容性問題與解決方案雾消? 參考答案 (1)瀏覽器兼容問題一:不同瀏覽器的標簽默認的外補...
    _Yfling閱讀 13,737評論 1 92
  • 她的眼睛立润,有神而平和。 那是初次見到她媳板,我的英語老師桑腮。 九月的風里,她悄悄地蛉幸,在午休時間破讨,走進我們的教室。她的到來...
    蒹葭cxx閱讀 646評論 0 2
  • 北方下了很大的雪奕纫,朋友說提陶,“下雪了,可是你不在匹层∠栋剩” 南方艷陽高照,卻處處濕冷升筏。我沒說撑柔,其實,我也想看雪了您访。 我想铅忿,...
    三日初醒閱讀 380評論 6 8
  • 一個偶然的機會,妹妹看到了我發(fā)布在QQ空間里的文章洋只,說她在微信朋友圈中看到和某人的文風很像辆沦,推薦我加關注。 關注之...
    曾曾曾經(jīng)閱讀 174評論 0 0