App的抓取

前文介紹的都是爬取web網(wǎng)頁(yè)的內(nèi)容葫哗,隨著移動(dòng)互聯(lián)網(wǎng)的發(fā)展括享,有很多企業(yè)并沒(méi)有提web網(wǎng)頁(yè)端的服務(wù)扣汪,而是開(kāi)發(fā)了app來(lái)提供服務(wù)河闰,很多信息都是通過(guò)app來(lái)展示的侧到。那么針對(duì)app我們可以抓取嗎?當(dāng)然可以淤击。

做這個(gè)項(xiàng)目之前匠抗,先聲明點(diǎn)問(wèn)題。有的同學(xué)會(huì)問(wèn)污抬,app抓取是不是很難啊汞贸,需要咋突破?其實(shí)app抓取相對(duì)于web端抓取來(lái)說(shuō)印机,更加容易矢腻,反爬蟲能力沒(méi)有那么強(qiáng),而且數(shù)據(jù)都是以json格式傳輸?shù)纳淙馕龈雍?jiǎn)單多柑。在web端我們可以根據(jù)谷歌瀏覽器的開(kāi)發(fā)者工具監(jiān)聽(tīng)到各個(gè)網(wǎng)絡(luò)請(qǐng)求和相應(yīng)過(guò)程¢乖穑可是在app端竣灌,如果我們需要獲取這些信息,那么我們就需要借助抓包工具了秆麸。常用的抓包軟件有WireShark初嘹、Fiddler、Charles沮趣、mitmproxy屯烦、AnyProxy等,他們的原理基本是相同的房铭。我們可以通過(guò)設(shè)置代理的方式將手機(jī)處于抓包工具的監(jiān)聽(tīng)之下驻龟。這樣便可以在App運(yùn)行的時(shí)候獲取到所有的請(qǐng)求和響應(yīng)了,相當(dāng)于分析ajax一樣缸匪。如果這些請(qǐng)求的URL翁狐、參數(shù)等都是有規(guī)律的,那么總結(jié)出規(guī)律直接用程序模擬抓取即可豪嗽,如果他們沒(méi)有規(guī)律谴蔑,那么我們可以利用一個(gè)工具mitmdump對(duì)接Python腳本直接處理response豌骏。另外app的爬取肯定不能由人來(lái)完成。也需要做到自動(dòng)化隐锭,所以我們還要對(duì)app進(jìn)行自動(dòng)化控制窃躲,這里用到的庫(kù)是Appium。
本章先介紹抓包庫(kù)的基本用法钦睡。掌握了這些內(nèi)容蒂窒,我們可以完成絕大多數(shù)App數(shù)據(jù)的爬取。

1.Charles的使用

簡(jiǎn)介:Charles是一個(gè)網(wǎng)絡(luò)抓包工具荞怒,我們可以用它來(lái)做app的抓包分析洒琢,得到app運(yùn)行中的所有請(qǐng)求和網(wǎng)絡(luò)響應(yīng)。這就和web端瀏覽器中的開(kāi)發(fā)者工具中的network部分看到的結(jié)果一樣褐桌。
優(yōu)點(diǎn):相對(duì)于Fiddler來(lái)說(shuō)衰抑,Charles的功能更加強(qiáng)大,而且跨平臺(tái)效率更高荧嵌。我們可以選用Charles作為主要的移動(dòng)端抓包工具呛踊,用于分析移動(dòng)app的數(shù)據(jù)包,輔助完成app數(shù)據(jù)抓取工作啦撮。

2.本節(jié)目標(biāo)

本節(jié)我們以抓取JD app為例谭网,通過(guò)Charles用于分析數(shù)據(jù)包,實(shí)現(xiàn)app運(yùn)行后獲取客戶端和服務(wù)端發(fā)送的Request赃春、Response數(shù)據(jù)愉择,以此來(lái)了解Charles的基本用法。

3.準(zhǔn)備工作

請(qǐng)確保已經(jīng)安裝好了Charles并開(kāi)啟了代理服務(wù)织中,手機(jī)和Charles處于同一個(gè)局域網(wǎng)下锥涕,Charles的CA證書和代理設(shè)置好,另外需要開(kāi)啟SSL監(jiān)聽(tīng)抠璃,具體配置如下:
進(jìn)入官網(wǎng)下載地址:http://www.charlesproxy.com/站楚,點(diǎn)擊鏈接下載30天免費(fèi)試用版本。

image.png

將 Charles 設(shè)置成系統(tǒng)代理

之前提到搏嗡,Charles 是通過(guò)將自己設(shè)置成代理服務(wù)器來(lái)完成封包截取的,所以使用 Charles 的第一步是將其設(shè)置成系統(tǒng)的代理服務(wù)器拉一。

啟動(dòng) Charles 后采盒,第一次 Charles 會(huì)請(qǐng)求你給它設(shè)置系統(tǒng)代理的權(quán)限。你可以輸入登錄密碼授予 Charles 該權(quán)限蔚润。你也可以忽略該請(qǐng)求磅氨,然后在需要將 Charles 設(shè)置成系統(tǒng)代理時(shí),選擇菜單中的 “Proxy” –> “Mac OS X Proxy” 來(lái)將 Charles 設(shè)置成系統(tǒng)代理嫡纠。如下所示:

image

之后烦租,你就可以看到源源不斷的網(wǎng)絡(luò)請(qǐng)求出現(xiàn)在 Charles 的界面中延赌。

需要注意的是,Chrome 和 Firefox 瀏覽器默認(rèn)并不使用系統(tǒng)的代理服務(wù)器設(shè)置叉橱,而 Charles 是通過(guò)將自己設(shè)置成代理服務(wù)器來(lái)完成封包截取的挫以,所以在默認(rèn)情況下無(wú)法截取 Chrome 和 Firefox 瀏覽器的網(wǎng)絡(luò)通訊內(nèi)容。如果你需要截取的話窃祝,在 Chrome 中設(shè)置成使用系統(tǒng)的代理服務(wù)器設(shè)置即可掐松,或者直接將代理服務(wù)器設(shè)置成 127.0.0.1:8888 也可達(dá)到相同效果。

Charles 主界面介紹

image

Charles 主要提供兩種查看封包的視圖粪小,分別名為 “Structure” 和 “Sequence”大磺。

  1. Structure 視圖將網(wǎng)絡(luò)請(qǐng)求按訪問(wèn)的域名分類。
  2. Sequence 視圖將網(wǎng)絡(luò)請(qǐng)求按訪問(wèn)的時(shí)間排序探膊。

大家可以根據(jù)具體的需要在這兩種視圖之前來(lái)回切換杠愧。請(qǐng)求多了有些時(shí)候會(huì)看不過(guò)來(lái),Charles 提供了一個(gè)簡(jiǎn)單的 Filter 功能逞壁,可以輸入關(guān)鍵字來(lái)快速篩選出 URL 中帶指定關(guān)鍵字的網(wǎng)絡(luò)請(qǐng)求殴蹄。

對(duì)于某一個(gè)具體的網(wǎng)絡(luò)請(qǐng)求,你可以查看其詳細(xì)的請(qǐng)求內(nèi)容和響應(yīng)內(nèi)容猾担。如果請(qǐng)求內(nèi)容是 POST 的表單袭灯,Charles 會(huì)自動(dòng)幫你將表單進(jìn)行分項(xiàng)顯示。如果響應(yīng)內(nèi)容是 JSON 格式的绑嘹,那么 Charles 可以自動(dòng)幫你將 JSON 內(nèi)容格式化稽荧,方便你查看。如果響應(yīng)內(nèi)容是圖片工腋,那么 Charles 可以顯示出圖片的預(yù)覽姨丈。

過(guò)濾網(wǎng)絡(luò)請(qǐng)求

通常情況下,我們需要對(duì)網(wǎng)絡(luò)請(qǐng)求進(jìn)行過(guò)濾擅腰,只監(jiān)控向指定目錄服務(wù)器上發(fā)送的請(qǐng)求蟋恬。對(duì)于這種需求,以下幾種辦法:

方法一:在主界面的中部的 Filter 欄中填入需要過(guò)濾出來(lái)的關(guān)鍵字趁冈。例如我們的服務(wù)器的地址是:http://yuantiku.com , 那么只需要在 Filter 欄中填入 yuantiku 即可歼争。

方法二:在 Charles 的菜單欄選擇 “Proxy”–>“Recording Settings”,然后選擇 Include 欄渗勘,選擇添加一個(gè)項(xiàng)目沐绒,然后填入需要監(jiān)控的協(xié)議,主機(jī)地址旺坠,端口號(hào)乔遮。這樣就可以只截取目標(biāo)網(wǎng)站的封包了。如下圖所示:

image

通常情況下取刃,我們使用方法一做一些臨時(shí)性的封包過(guò)濾蹋肮,使用方法二做一些經(jīng)常性的封包過(guò)濾出刷。

方法三:在想過(guò)濾的網(wǎng)絡(luò)請(qǐng)求上右擊,選擇 “Focus”坯辩,之后在 Filter 一欄勾選上 Focussed 一項(xiàng)馁龟,如下圖所示:

image

這種方式可以臨時(shí)性的,快速地過(guò)濾出一些沒(méi)有通過(guò)關(guān)鍵字的一類網(wǎng)絡(luò)請(qǐng)求濒翻。

截取 iPhone 上的網(wǎng)絡(luò)封包

Charles 通常用來(lái)截取本地上的網(wǎng)絡(luò)封包屁柏,但是當(dāng)我們需要時(shí),我們也可以用來(lái)截取其它設(shè)備上的網(wǎng)絡(luò)請(qǐng)求有送。下面我就以 iPhone 為例淌喻,講解如何進(jìn)行相應(yīng)操作。

Charles 上的設(shè)置

要截取 iPhone 上的網(wǎng)絡(luò)請(qǐng)求雀摘,我們首先需要將 Charles 的代理功能打開(kāi)裸删。在 Charles 的菜單欄上選擇 “Proxy”–>“Proxy Settings”,填入代理端口 8888阵赠,并且勾上 “Enable transparent HTTP proxying” 就完成了在 Charles 上的設(shè)置涯塔。如下圖所示:

image

iPhone 上的設(shè)置

首先我們需要獲取 Charles 運(yùn)行所在電腦的 IP 地址,Charles 的頂部菜單的 “Help”–>“Local IP Address”清蚀,即可在彈出的對(duì)話框中看到 IP 地址匕荸,如下圖所示:

image

在 iPhone 的 “ 設(shè)置 ”–>“ 無(wú)線局域網(wǎng) ” 中,可以看到當(dāng)前連接的 wifi 名枷邪,通過(guò)點(diǎn)擊右邊的詳情鍵榛搔,可以看到當(dāng)前連接上的 wifi 的詳細(xì)信息,包括 IP 地址东揣,子網(wǎng)掩碼等信息践惑。在其最底部有「HTTP 代理」一項(xiàng),我們將其切換成手動(dòng)嘶卧,然后填上 Charles 運(yùn)行所在的電腦的 IP尔觉,以及端口號(hào) 8888,如下圖所示:

image

設(shè)置好之后芥吟,我們打開(kāi) iPhone 上的任意需要網(wǎng)絡(luò)通訊的程序侦铜,就可以看到 Charles 彈出 iPhone 請(qǐng)求連接的確認(rèn)菜單(如下圖所示),點(diǎn)擊 “Allow” 即可完成設(shè)置运沦。

image

截取 Https 通訊信息

安裝證書

如果你需要截取分析 Https 協(xié)議相關(guān)的內(nèi)容泵额。那么需要安裝 Charles 的 CA 證書。具體步驟如下携添。

首先我們需要在 Mac 電腦上安裝證書。點(diǎn)擊 Charles 的頂部菜單篓叶,選擇 “Help” –> “SSL Proxying” –> “Install Charles Root Certificate”烈掠,然后輸入系統(tǒng)的帳號(hào)密碼羞秤,即可在 KeyChain 看到添加好的證書。如下圖所示:

image

需要注意的是左敌,即使是安裝完證書之后瘾蛋,Charles 默認(rèn)也并不截取 Https 網(wǎng)絡(luò)通訊的信息,如果你想對(duì)截取某個(gè)網(wǎng)站上的所有 Https 網(wǎng)絡(luò)請(qǐng)求矫限,可以在該請(qǐng)求上右擊哺哼,選擇 SSL proxy,如下圖所示:

image

這樣叼风,對(duì)于該 Host 的所有 SSL 請(qǐng)求可以被截取到了取董。

截取移動(dòng)設(shè)備中的 Https 通訊信息

如果我們需要在 iOSAndroid 機(jī)器上截取 Https 協(xié)議的通訊內(nèi)容,還需要在手機(jī)上安裝相應(yīng)的證書无宿。點(diǎn)擊 Charles 的頂部菜單茵汰,選擇 “Help” –> “SSL Proxying” –> “Install Charles Root Certificate on a Mobile Device or Remote Browser”,然后就可以看到 Charles 彈出的簡(jiǎn)單的安裝教程孽鸡。如下圖所示:

image

按照我們之前說(shuō)的教程蹂午,在設(shè)備上設(shè)置好 Charles 為代理后,在手機(jī)瀏覽器中訪問(wèn)地址:http://charlesproxy.com/getssl彬碱,即可打開(kāi)證書安裝的界面豆胸,安裝完證書后,就可以截取手機(jī)上的 Https 通訊內(nèi)容了巷疼。不過(guò)同樣需要注意晚胡,默認(rèn)情況下 Charles 并不做截取,你還需要在要截取的網(wǎng)絡(luò)請(qǐng)求上右擊皮迟,選擇 SSL proxy 菜單項(xiàng)搬泥。

模擬慢速網(wǎng)絡(luò)

在做移動(dòng)開(kāi)發(fā)的時(shí)候,我們常常需要模擬慢速網(wǎng)絡(luò)或者高延遲的網(wǎng)絡(luò)伏尼,以測(cè)試在移動(dòng)網(wǎng)絡(luò)下忿檩,應(yīng)用的表現(xiàn)是否正常。Charles 對(duì)此需求提供了很好的支持爆阶。

在 Charles 的菜單上燥透,選擇 “Proxy”–>“Throttle Setting” 項(xiàng),在之后彈出的對(duì)話框中辨图,我們可以勾選上 “Enable Throttling”班套,并且可以設(shè)置 Throttle Preset 的類型。如下圖所示:

image

如果我們只想模擬指定網(wǎng)站的慢速網(wǎng)絡(luò)故河,可以再勾選上圖中的 “Only for selected hosts” 項(xiàng)吱韭,然后在對(duì)話框的下半部分設(shè)置中增加指定的 hosts 項(xiàng)即可。

修改網(wǎng)絡(luò)請(qǐng)求內(nèi)容

有些時(shí)候?yàn)榱苏{(diào)試服務(wù)器的接口鱼的,我們需要反復(fù)嘗試不同參數(shù)的網(wǎng)絡(luò)請(qǐng)求理盆。Charles 可以方便地提供網(wǎng)絡(luò)請(qǐng)求的修改和重發(fā)功能痘煤。只需要在以往的網(wǎng)絡(luò)請(qǐng)求上點(diǎn)擊右鍵,選擇 “Edit”猿规,即可創(chuàng)建一個(gè)可編輯的網(wǎng)絡(luò)請(qǐng)求衷快。如下所示:

image

我們可以修改該請(qǐng)求的任何信息,包括 URL 地址姨俩、端口蘸拔、參數(shù)等,之后點(diǎn)擊 “Execute” 即可發(fā)送該修改后的網(wǎng)絡(luò)請(qǐng)求(如下圖所示)环葵。Charles 支持我們多次修改和發(fā)送該請(qǐng)求调窍,這對(duì)于我們和服務(wù)器端調(diào)試接口非常方便,如下圖所示:

image

給服務(wù)器做壓力測(cè)試

我們可以使用 Charles 的 Repeat 功能來(lái)簡(jiǎn)單地測(cè)試服務(wù)器的并發(fā)處理能力积担,方法如下陨晶。

我們?cè)谙氪驂旱木W(wǎng)絡(luò)請(qǐng)求上(POST 或 GET 請(qǐng)求均可)右擊,然后選擇 「Repeat Advanced」菜單項(xiàng)帝璧,如下所示:

image

接著我們就可以在彈出的對(duì)話框中先誉,選擇打壓的并發(fā)線程數(shù)以及打壓次數(shù),確定之后的烁,即可開(kāi)始打壓褐耳。

image

悄悄說(shuō)一句,一些寫得很弱的投票網(wǎng)站渴庆,也可以用這個(gè)辦法來(lái)快速投票铃芦。當(dāng)然,我也拿 Charles 的 Repeat 功能給一些詐騙的釣魚網(wǎng)站喂了不少垃圾數(shù)據(jù)襟雷,上次不小心還把一個(gè)釣魚網(wǎng)站的數(shù)據(jù)庫(kù)打掛了刃滓,嗯,請(qǐng)叫我雷鋒耸弄。

修改服務(wù)器返回內(nèi)容

有些時(shí)候我們想讓服務(wù)器返回一些指定的內(nèi)容咧虎,方便我們調(diào)試一些特殊情況。例如列表頁(yè)面為空的情況计呈,數(shù)據(jù)異常的情況砰诵,部分耗時(shí)的網(wǎng)絡(luò)請(qǐng)求超時(shí)的情況等。如果沒(méi)有 Charles捌显,要服務(wù)器配合構(gòu)造相應(yīng)的數(shù)據(jù)顯得會(huì)比較麻煩茁彭。這個(gè)時(shí)候,使用 Charles 相關(guān)的功能就可以滿足我們的需求扶歪。

根據(jù)具體的需求理肺,Charles 提供了 Map 功能、 Rewrite 功能以及 Breakpoints 功能,都可以達(dá)到修改服務(wù)器返回內(nèi)容的目的哲嘲。這三者在功能上的差異是:

  1. Map 功能適合長(zhǎng)期地將某一些請(qǐng)求重定向到另一個(gè)網(wǎng)絡(luò)地址或本地文件贪薪。
  2. Rewrite 功能適合對(duì)網(wǎng)絡(luò)請(qǐng)求進(jìn)行一些正則替換媳禁。
  3. Breakpoints 功能適合做一些臨時(shí)性的修改眠副。

Map 功能

Charles 的 Map 功能分 Map Remote 和 Map Local 兩種,顧名思義竣稽,Map Remote 是將指定的網(wǎng)絡(luò)請(qǐng)求重定向到另一個(gè)網(wǎng)址請(qǐng)求地址囱怕,Map Local 是將指定的網(wǎng)絡(luò)請(qǐng)求重定向到本地文件。

在 Charles 的菜單中毫别,選擇 “Tools”–>“Map Remote” 或 “Map Local” 即可進(jìn)入到相應(yīng)功能的設(shè)置頁(yè)面娃弓。

image

對(duì)于 Map Remote 功能,我們需要分別填寫網(wǎng)絡(luò)重定向的源地址和目的地址岛宦,對(duì)于不需要限制的條件台丛,可以留空。下圖是一個(gè)示例砾肺,我將所有 ytk1.yuanku.ws(測(cè)試服務(wù)器)的請(qǐng)求重定向到了 www.yuantiku.com(線上服務(wù)器)挽霉。

image

對(duì)于 Map Local 功能,我們需要填寫的重定向的源地址和本地的目標(biāo)文件变汪。對(duì)于有一些復(fù)雜的網(wǎng)絡(luò)請(qǐng)求結(jié)果侠坎,我們可以先使用 Charles 提供的 “Save Response…” 功能,將請(qǐng)求結(jié)果保存到本地(如下圖所示)裙盾,然后稍加修改实胸,成為我們的目標(biāo)映射文件。

image
image
image
image
image

4.抓包**

初始狀態(tài)下Charles的運(yùn)行界面如下圖所示番官。

image.png

Charles會(huì)一直監(jiān)聽(tīng)PC和手機(jī)發(fā)生的網(wǎng)絡(luò)數(shù)據(jù)包庐完,捕獲到的數(shù)據(jù)包就會(huì)顯示在左側(cè),隨著時(shí)間的推移徘熔,捕獲的數(shù)據(jù)包越來(lái)越多门躯,左側(cè)列表的內(nèi)容也會(huì)越來(lái)越多。

可以看到近顷,圖中左側(cè)顯示了Charles抓取到的請(qǐng)求站點(diǎn)生音,我們點(diǎn)擊任意一個(gè)條目便可以查看對(duì)應(yīng)請(qǐng)求的詳細(xì)信息,其中包括Request窒升、Response等內(nèi)容缀遍。

接下來(lái)清空Charles的抓取結(jié)果,點(diǎn)擊左側(cè)的掃帚按鈕即可清空當(dāng)前捕獲到的所有請(qǐng)求饱须。然后點(diǎn)擊第二個(gè)監(jiān)聽(tīng)按鈕域醇,確保監(jiān)聽(tīng)按鈕是打開(kāi)的,這表示Charles正在監(jiān)聽(tīng)App的網(wǎng)絡(luò)數(shù)據(jù)流,如下圖所示譬挚。

image.png

這時(shí)打開(kāi)手機(jī)京東锅铅,注意一定要提前設(shè)置好Charles的代理并配置好CA證書,否則沒(méi)有效果减宣。

打開(kāi)任意一個(gè)商品盐须,如iPhone,然后打開(kāi)它的商品評(píng)論頁(yè)面漆腌,如下圖示贼邓。

image.png

不斷上拉加載評(píng)論,可以看到Charles捕獲到這個(gè)過(guò)程中京東App內(nèi)發(fā)生的所有網(wǎng)絡(luò)請(qǐng)求闷尿,如下圖所示塑径。

image.png

左側(cè)列表中會(huì)出現(xiàn)一個(gè)api.m.jd.com鏈接,而且它在不停閃動(dòng)填具,很可能就是當(dāng)前App發(fā)出的獲取評(píng)論數(shù)據(jù)的請(qǐng)求被Charles捕獲到了统舀。我們點(diǎn)擊將其展開(kāi),繼續(xù)上拉刷新評(píng)論劳景。隨著上拉的進(jìn)行誉简,此處又會(huì)出現(xiàn)一個(gè)個(gè)網(wǎng)絡(luò)請(qǐng)求記錄,這時(shí)新出現(xiàn)的數(shù)據(jù)包請(qǐng)求確定就是獲取評(píng)論的請(qǐng)求枢泰。

為了驗(yàn)證其正確性描融,我們點(diǎn)擊查看其中一個(gè)條目的詳情信息。切換到Contents選項(xiàng)卡衡蚂,這時(shí)我們發(fā)現(xiàn)一些JSON數(shù)據(jù)窿克,核對(duì)一下結(jié)果,結(jié)果有commentData字段毛甲,其內(nèi)容和我們?cè)贏pp中看到的評(píng)論內(nèi)容一致年叮,如下圖所示。

image.png

這時(shí)可以確定玻募,此請(qǐng)求對(duì)應(yīng)的接口就是獲取商品評(píng)論的接口只损。這樣我們就成功捕獲到了在上拉刷新的過(guò)程中發(fā)生的請(qǐng)求和響應(yīng)內(nèi)容。

五七咧、分析

現(xiàn)在分析一下這個(gè)請(qǐng)求和響應(yīng)的詳細(xì)信息跃惫。首先可以回到Overview選項(xiàng)卡,上方顯示了請(qǐng)求的接口URL艾栋,接著是響應(yīng)狀態(tài)Status Code爆存、請(qǐng)求方式Method等,如下圖所示蝗砾。

image.png

這個(gè)結(jié)果和原本在Web端用瀏覽器開(kāi)發(fā)者工具內(nèi)捕獲到的結(jié)果形式是類似的先较。

接下來(lái)點(diǎn)擊Contents選項(xiàng)卡携冤,查看該請(qǐng)求和響應(yīng)的詳情信息。

上半部分顯示的是Request的信息闲勺,下半部分顯示的是Response的信息曾棕。比如針對(duì)Reqeust,我們切換到Headers選項(xiàng)卡即可看到該Request的Headers信息菜循,針對(duì)Response翘地,我們切換到JSON TEXT選項(xiàng)卡即可看到該Response的Body信息,并且該內(nèi)容已經(jīng)被格式化债朵,如下圖所示子眶。

image.png

由于這個(gè)請(qǐng)求是POST請(qǐng)求,我們還需要關(guān)心POST的表單信息序芦,切換到Form選項(xiàng)卡即可查看,如下圖所示粤咪。

image.png

這樣我們就成功抓取App中的評(píng)論接口的請(qǐng)求和響應(yīng)谚中,并且可以查看Response返回的JSON數(shù)據(jù)。

至于其他App寥枝,我們同樣可以使用這樣的方式來(lái)分析宪塔。如果我們可以直接分析得到請(qǐng)求的URL和參數(shù)的規(guī)律,直接用程序模擬即可批量抓取囊拜。

六某筐、重發(fā)

Charles還有一個(gè)強(qiáng)大功能,它可以將捕獲到的請(qǐng)求加以修改并發(fā)送修改后的請(qǐng)求冠跷。點(diǎn)擊上方的修改按鈕南誊,左側(cè)列表就多了一個(gè)以編輯圖標(biāo)為開(kāi)頭的鏈接,這就代表此鏈接對(duì)應(yīng)的請(qǐng)求正在被我們修改蜜托,如下圖所示抄囚。

image.png

我們可以將Form中的某個(gè)字段移除,比如這里將partner字段移除橄务,然后點(diǎn)擊Remove幔托。這時(shí)我們已經(jīng)對(duì)原來(lái)請(qǐng)求攜帶的Form Data做了修改,然后點(diǎn)擊下方的Execute按鈕即可執(zhí)行修改后的請(qǐng)求蜂挪,如下圖所示重挑。

image.png

可以發(fā)現(xiàn)左側(cè)列表再次出現(xiàn)了接口的請(qǐng)求結(jié)果,內(nèi)容仍然不變棠涮,如下圖所示谬哀。

image.png

刪除Form表單中的partner字段并沒(méi)有帶來(lái)什么影響,所以這個(gè)字段是無(wú)關(guān)緊要的故爵。

有了這個(gè)功能玻粪,我們就可以方便地使用Charles來(lái)做調(diào)試隅津,可以通過(guò)修改參數(shù)、接口等來(lái)測(cè)試不同請(qǐng)求的響應(yīng)狀態(tài)劲室,就可以知道哪些參數(shù)是必要的哪些是不必要的伦仍,以及參數(shù)分別有什么規(guī)律,最后得到一個(gè)最簡(jiǎn)單的接口和參數(shù)形式以供程序模擬調(diào)用使用很洋。

七充蓝、結(jié)語(yǔ)

以上內(nèi)容便是通過(guò)Charles抓包分析App請(qǐng)求的過(guò)程。通過(guò)Charles喉磁,我們成功抓取App中流經(jīng)的網(wǎng)絡(luò)數(shù)據(jù)包谓苟,捕獲原始的數(shù)據(jù),還可以修改原始請(qǐng)求和重新發(fā)起修改后的請(qǐng)求進(jìn)行接口測(cè)試协怒。

知道了請(qǐng)求和響應(yīng)的具體信息涝焙,如果我們可以分析得到請(qǐng)求的URL和參數(shù)的規(guī)律,直接用程序模擬即可批量抓仍邢尽仑撞!

但是隨著技術(shù)的發(fā)展,app接口往往會(huì)帶有秘鑰妖滔,我們并不能直接找到這些規(guī)律隧哮,那么咋辦呢?接下來(lái)座舍,我們將了解Charles和mitmdump直接對(duì)接Python實(shí)時(shí)處理抓取到的Response的過(guò)程沮翔。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市曲秉,隨后出現(xiàn)的幾起案子采蚀,更是在濱河造成了極大的恐慌,老刑警劉巖岸浑,帶你破解...
    沈念sama閱讀 216,651評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件搏存,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡矢洲,警方通過(guò)查閱死者的電腦和手機(jī)璧眠,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)读虏,“玉大人责静,你說(shuō)我怎么就攤上這事「乔牛” “怎么了灾螃?”我有些...
    開(kāi)封第一講書人閱讀 162,931評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我酬荞,道長(zhǎng),這世上最難降的妖魔是什么忽妒? 我笑而不...
    開(kāi)封第一講書人閱讀 58,218評(píng)論 1 292
  • 正文 為了忘掉前任熄赡,我火速辦了婚禮姜挺,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘彼硫。我一直安慰自己炊豪,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,234評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布拧篮。 她就那樣靜靜地躺著词渤,像睡著了一般。 火紅的嫁衣襯著肌膚如雪串绩。 梳的紋絲不亂的頭發(fā)上缺虐,一...
    開(kāi)封第一講書人閱讀 51,198評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音赏参,去河邊找鬼志笼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛把篓,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播腰涧,決...
    沈念sama閱讀 40,084評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼韧掩,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了窖铡?” 一聲冷哼從身側(cè)響起疗锐,我...
    開(kāi)封第一講書人閱讀 38,926評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎费彼,沒(méi)想到半個(gè)月后滑臊,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,341評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡箍铲,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,563評(píng)論 2 333
  • 正文 我和宋清朗相戀三年雇卷,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片颠猴。...
    茶點(diǎn)故事閱讀 39,731評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡关划,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出翘瓮,到底是詐尸還是另有隱情贮折,我是刑警寧澤,帶...
    沈念sama閱讀 35,430評(píng)論 5 343
  • 正文 年R本政府宣布资盅,位于F島的核電站调榄,受9級(jí)特大地震影響踊赠,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜每庆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,036評(píng)論 3 326
  • 文/蒙蒙 一筐带、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧扣孟,春花似錦烫堤、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,676評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至利诺,卻和暖如春富蓄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背慢逾。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 32,829評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工立倍, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人侣滩。 一個(gè)月前我還...
    沈念sama閱讀 47,743評(píng)論 2 368
  • 正文 我出身青樓口注,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親君珠。 傳聞我的和親對(duì)象是個(gè)殘疾皇子寝志,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,629評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • Android 自定義View的各種姿勢(shì)1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,081評(píng)論 25 707
  • 用兩張圖告訴你,為什么你的 App 會(huì)卡頓? - Android - 掘金 Cover 有什么料策添? 從這篇文章中你...
    hw1212閱讀 12,714評(píng)論 2 59
  • 1材部、通過(guò)CocoaPods安裝項(xiàng)目名稱項(xiàng)目信息 AFNetworking網(wǎng)絡(luò)請(qǐng)求組件 FMDB本地?cái)?shù)據(jù)庫(kù)組件 SD...
    陽(yáng)明先生_X自主閱讀 15,979評(píng)論 3 119
  • 猛一抬頭看天 一滴雨落在眉間 我驚地想要罵人 這鬼天 抱著頭逃竄 撞到了誰(shuí) 我囁嚅著頭也不抬 小聲地道歉 ...
    逆風(fēng)仰望閱讀 251評(píng)論 0 3
  • 1 隨著圣誕節(jié)的到來(lái),孩子們也迎來(lái)了三周的假期唯竹。 我?guī)е⒆觽內(nèi)サ习堇值迹肟匆豢催@個(gè)大名鼎鼎的城市,到底是怎樣一番面...
    安然于行閱讀 345評(píng)論 0 3