爬取東方財(cái)富網(wǎng)數(shù)據(jù)的網(wǎng)頁分析

自學(xué)Python已有3個(gè)月之多,瀏覽無數(shù)大神的佳作,收獲頗豐妓盲。當(dāng)初自學(xué)python就是為了學(xué)習(xí)爬蟲,爬取網(wǎng)站上好看妹子的圖片……[流口水][流口水]

言歸正傳酷勺,近期學(xué)習(xí)量化交易知識本橙,發(fā)現(xiàn)東方財(cái)富網(wǎng)(eastmoney.com)提供的特色數(shù)據(jù)相當(dāng)不錯(cuò),在投資組合頁面脆诉,看看周冠軍甚亭,月冠軍等排行榜上那誘人的紅色數(shù)字,那要是我的操作該有多好啊击胜。


東方財(cái)富網(wǎng)投資組合首頁

后來一想亏狰,我可以把每周的排行榜爬取下來偶摔,選出比較厲害的人暇唾,跟蹤學(xué)習(xí)別人的操作,那我是不是也可以在A股中分一杯羹呢辰斋?想想就誘人……


月度高手排行榜

說干就干策州,先分析下網(wǎng)頁,點(diǎn)開月度高手頁面宫仗,來到投資組合排行榜够挂。在chorme瀏覽器中打開網(wǎng)頁調(diào)試工具(按F12即可),重新加載頁面藕夫,看到如下圖所示


月度高手排行榜分析頁面

在調(diào)試工具中孽糖,選擇JS枯冈,可以看到網(wǎng)頁加載過程中的各種數(shù)據(jù)。每個(gè)頁面點(diǎn)開办悟,也沒發(fā)現(xiàn)什么有價(jià)值的信息尘奏。最后在Private_Rank_Sort.js的頁面中發(fā)現(xiàn)url信息的蛛絲馬跡,如上圖紅方框和紅色箭頭所指部分病蛉。這個(gè)url是不是我要找的排行榜的頁面呢炫加?于是保存Private_Rank_Sort.js頁面,查看JS代碼铡恕。


URL信息的組合

查看js代碼琢感,發(fā)現(xiàn)GetDat函數(shù)中的這個(gè)URL是由幾部分組成,中間有兩個(gè)變量type和callbackName探熔。分析上下文可以看出callbackName是由字符串“CallBack”+type+8位隨機(jī)數(shù)組成驹针。那type變量的結(jié)構(gòu)就是關(guān)鍵了,找到了type诀艰,整個(gè)URL的信息就能拼湊出來柬甥。繼續(xù)在該文件中查找,在尾部發(fā)現(xiàn)這么一句:

var type=$(this).attr("sortvalue")

再后面是調(diào)用GetDat(type)函數(shù)


JS代碼分析type

總算是找到type的出處了其垄,那他的具體賦值呢苛蒲。于是又開始搜索網(wǎng)頁,最后再網(wǎng)頁源碼中找到了“sortvalue”屬性的數(shù)據(jù)绿满。如下圖


網(wǎng)頁源碼

原來type=8101臂外、8102、8104喇颁、8105漏健、8106、8107分別代表不同的意思(怎么沒有8103呢橘霎,我也不知道蔫浆,不管它了,繼續(xù)正題……)

取type一個(gè)值 8102 日收益吧姐叁,把URL拼湊出來


URL完整信息

把拼湊號的url地址復(fù)制到瀏覽器地址欄瓦盛,回車。見證奇跡的時(shí)刻到了……


網(wǎng)站返回結(jié)果

一個(gè)Json結(jié)構(gòu)的數(shù)據(jù)外潜,拿來和網(wǎng)頁對比一下原环,很容易猜出字典中Key的含義。

至此萬里長征的第一步總算走完了处窥,后面就可以用python中requests模塊Get數(shù)據(jù)了嘱吗。

總結(jié):

1、分析網(wǎng)頁最重要的是要先找到url地址碧库。之后再去弄懂各個(gè)參數(shù)的具體含義柜与,擴(kuò)展獲取更多的數(shù)據(jù)。

2嵌灰、分析過程中要細(xì)心弄匕,有耐心,多用 查找 功能沽瞭。找不到了再到網(wǎng)頁源碼中看看迁匠,說不定會有意想不到的收獲。

3驹溃、異步加載數(shù)據(jù)的網(wǎng)頁城丧,一般在JS或XHR中取找url

4、善用web瀏覽器中的工具插件豌鹤,我用的chrome瀏覽器亡哄,它的網(wǎng)頁調(diào)試工具很好用,還有很多擴(kuò)展插件布疙,比如JSON-handle把json數(shù)據(jù)理清層次結(jié)構(gòu)队魏,CrapApi方便GET切威、POST各種帶參數(shù)的url地址,即時(shí)查看返回?cái)?shù)據(jù),分析參數(shù)的作用

最后再說一下涌哲,我把爬取下來的排行榜數(shù)據(jù)進(jìn)行篩選,選出幾個(gè)活躍度高桥嗤,周月年收益較高的咨堤,實(shí)時(shí)跟蹤其調(diào)倉動(dòng)作,跟買跟賣顿涣,收益還可以的波闹,不得不佩服高手就是高手。哈哈

上張運(yùn)行界面圖


跟蹤程序運(yùn)行界面
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末园骆,一起剝皮案震驚了整個(gè)濱河市舔痪,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌锌唾,老刑警劉巖锄码,帶你破解...
    沈念sama閱讀 216,496評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異晌涕,居然都是意外死亡滋捶,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評論 3 392
  • 文/潘曉璐 我一進(jìn)店門余黎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來重窟,“玉大人,你說我怎么就攤上這事惧财⊙采龋” “怎么了扭仁?”我有些...
    開封第一講書人閱讀 162,632評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長厅翔。 經(jīng)常有香客問我乖坠,道長,這世上最難降的妖魔是什么刀闷? 我笑而不...
    開封第一講書人閱讀 58,180評論 1 292
  • 正文 為了忘掉前任熊泵,我火速辦了婚禮,結(jié)果婚禮上甸昏,老公的妹妹穿的比我還像新娘顽分。我一直安慰自己,他們只是感情好施蜜,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,198評論 6 388
  • 文/花漫 我一把揭開白布卒蘸。 她就那樣靜靜地躺著,像睡著了一般翻默。 火紅的嫁衣襯著肌膚如雪悬秉。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,165評論 1 299
  • 那天冰蘑,我揣著相機(jī)與錄音和泌,去河邊找鬼。 笑死祠肥,一個(gè)胖子當(dāng)著我的面吹牛武氓,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播仇箱,決...
    沈念sama閱讀 40,052評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼县恕,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了剂桥?” 一聲冷哼從身側(cè)響起忠烛,我...
    開封第一講書人閱讀 38,910評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎权逗,沒想到半個(gè)月后美尸,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,324評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡斟薇,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,542評論 2 332
  • 正文 我和宋清朗相戀三年师坎,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片堪滨。...
    茶點(diǎn)故事閱讀 39,711評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡胯陋,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情遏乔,我是刑警寧澤义矛,帶...
    沈念sama閱讀 35,424評論 5 343
  • 正文 年R本政府宣布,位于F島的核電站盟萨,受9級特大地震影響症革,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜鸯旁,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,017評論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望量蕊。 院中可真熱鬧铺罢,春花似錦、人聲如沸残炮。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,668評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽势就。三九已至泉瞻,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間苞冯,已是汗流浹背袖牙。 一陣腳步聲響...
    開封第一講書人閱讀 32,823評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留舅锄,地道東北人鞭达。 一個(gè)月前我還...
    沈念sama閱讀 47,722評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像皇忿,于是被迫代替她去往敵國和親畴蹭。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,611評論 2 353

推薦閱讀更多精彩內(nèi)容