(三)爬蟲-入門

心理學專業(yè)的人學習爬蟲有很多困難杀餐,但是還是一點點艱難地學習干发,記錄下自己的學習成果。


學習爬蟲的目的:

(1)????獲得相應的資料史翘,可以方便爬取文章枉长、書籍、圖片琼讽、量表必峰,由于研究的原因經常去一些論壇,也可以批量獲取論壇的文字钻蹬、圖片吼蚁、視頻信息。

(2)????熟悉python的語法问欠。

(3)????熟悉后端的一些結構桂敛。


相關工具以及版本:

(1)?python 3.6.3 Anaconda

(2)????requests庫。發(fā)送http請求

(3)????BeautifulSoup 4.4溅潜。解析代碼,能夠得到一個BeautifulSoup?的對象,并能按照標準的縮進格式的結構輸出术唬。

(4)????操作系統(tǒng):macOS 10.14


例子:爬取https://ibaotu.com/ui/15-91803-0-0-0-1.html的ui設計圖片。


截圖


結果

注:

1.????類似該例子的方法適合爬取html的內容滚澜,并且是在網頁上直接呈現(xiàn)的內容粗仓。

2.????不能獲取還沒有下拉加載的內容。

3.?Requests的get請求使用了headers參數(shù)设捐,這個是用來模擬瀏覽器的借浊。Chrome瀏覽器,按F12萝招,刷新蚂斤,network-request hearders-user agent。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末槐沼,一起剝皮案震驚了整個濱河市曙蒸,隨后出現(xiàn)的幾起案子捌治,更是在濱河造成了極大的恐慌,老刑警劉巖纽窟,帶你破解...
    沈念sama閱讀 222,252評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肖油,死亡現(xiàn)場離奇詭異,居然都是意外死亡臂港,警方通過查閱死者的電腦和手機森枪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,886評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來审孽,“玉大人县袱,你說我怎么就攤上這事∮恿Γ” “怎么了式散?”我有些...
    開封第一講書人閱讀 168,814評論 0 361
  • 文/不壞的土叔 我叫張陵,是天一觀的道長搓萧。 經常有香客問我杂数,道長,這世上最難降的妖魔是什么瘸洛? 我笑而不...
    開封第一講書人閱讀 59,869評論 1 299
  • 正文 為了忘掉前任揍移,我火速辦了婚禮,結果婚禮上反肋,老公的妹妹穿的比我還像新娘那伐。我一直安慰自己,他們只是感情好石蔗,可當我...
    茶點故事閱讀 68,888評論 6 398
  • 文/花漫 我一把揭開白布罕邀。 她就那樣靜靜地躺著,像睡著了一般养距。 火紅的嫁衣襯著肌膚如雪诉探。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,475評論 1 312
  • 那天棍厌,我揣著相機與錄音肾胯,去河邊找鬼。 笑死耘纱,一個胖子當著我的面吹牛敬肚,可吹牛的內容都是我干的。 我是一名探鬼主播束析,決...
    沈念sama閱讀 41,010評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼艳馒,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了员寇?” 一聲冷哼從身側響起弄慰,我...
    開封第一講書人閱讀 39,924評論 0 277
  • 序言:老撾萬榮一對情侶失蹤第美,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后曹动,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體斋日,經...
    沈念sama閱讀 46,469評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡牲览,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,552評論 3 342
  • 正文 我和宋清朗相戀三年墓陈,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片第献。...
    茶點故事閱讀 40,680評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡贡必,死狀恐怖,靈堂內的尸體忽然破棺而出庸毫,到底是詐尸還是另有隱情仔拟,我是刑警寧澤,帶...
    沈念sama閱讀 36,362評論 5 351
  • 正文 年R本政府宣布飒赃,位于F島的核電站利花,受9級特大地震影響,放射性物質發(fā)生泄漏载佳。R本人自食惡果不足惜炒事,卻給世界環(huán)境...
    茶點故事閱讀 42,037評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望蔫慧。 院中可真熱鬧挠乳,春花似錦、人聲如沸姑躲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,519評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽黍析。三九已至卖怜,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間阐枣,已是汗流浹背马靠。 一陣腳步聲響...
    開封第一講書人閱讀 33,621評論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留侮繁,地道東北人虑粥。 一個月前我還...
    沈念sama閱讀 49,099評論 3 378
  • 正文 我出身青樓,卻偏偏與公主長得像宪哩,于是被迫代替她去往敵國和親娩贷。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,691評論 2 361