python?爬蟲抓取了百萬知乎潦蝇,并做了分析

姓名:張萌? ? ? ? ? 學(xué)號17021211113

轉(zhuǎn)載自:http://mp.weixin.qq.com/s/-R461U-ojnmWmfOLmkH1Yw

【嵌牛導(dǎo)讀】:最近用 python 爬蟲抓取了知乎用戶個人資料(公開信息)涉枫,去重之后有300+萬條記錄梧田,做了這個分析

【嵌牛鼻子】:知乎萌业,爬蟲

【嵌牛提問】:python爬蟲如何爬到這些數(shù)據(jù)蔚袍?

【嵌牛正文】:最近用 python 爬蟲抓取了知乎用戶個人資料(公開信息)乡范,去重之后有300+萬條記錄,為了得到這些數(shù)據(jù)啤咽,還不小心跑崩了一臺服務(wù)器…… 當(dāng)然主要是配置太低晋辆。

手頭有了數(shù)據(jù)也不能閑著,于是就有了這篇分析報告宇整,這篇報告做了一些淺顯的數(shù)據(jù)分析瓶佳,主要目的是練練手,大家看個熱鬧鳞青,高手勿笑霸饲。

數(shù)據(jù)量:3,289,329 人为朋。

數(shù)據(jù)采集工具:分布式 python 爬蟲

分析工具:ElasticSearch + Kibana

分析角度包括:地理位置、男女比例厚脉、各類排名习寸、所在高校、活躍程度等傻工。

注意:

以下所有分析結(jié)果都基于我抓取到的這300萬用戶的個人信息霞溪,非權(quán)威分析,僅供參考中捆。

數(shù)據(jù)抓取時間為2017年7月份鸯匹,用戶數(shù)據(jù)會隨著時間推移而變化,所以該報告具有一定時效性泄伪。

知乎的用戶個人資料很大程度上是不完整的殴蓬,因為用戶有權(quán)只填寫部分信息,所以后面分析的時候會篩掉對應(yīng)指標(biāo)為空的用戶蟋滴。

下面讓我們看看知乎用戶分布中有哪些有趣的現(xiàn)象科雳。

知乎的男女比例?

首先來看看知乎用戶的男女比例脓杉,以當(dāng)前樣本數(shù)據(jù)統(tǒng)計的結(jié)果接近 1:1糟秘,其中男生略多一些。(其實還有很大一部分性別不明的用戶球散,被我略掉了 ╮(╯╰)╭)

藍(lán)色為男生尿赚,紅色為女生。具體數(shù)據(jù)為:

圖片發(fā)自簡書App

男生:1,202,234 人蕉堰,占 51.55%凌净。

女生:1,129,874 人,占 48.45%屋讶。

知乎用戶都是哪里人冰寻?

再來看看全國(全球?)都有哪些地方的人在玩知乎:

圖片發(fā)自簡書App


由上圖可以看到皿渗,知乎用戶中一線城市用戶占較大的比重斩芭,北上廣深皆在詞云的中心位置(文字越大,比重越大)乐疆。我們再來看看具體的排名(前十名):

圖片發(fā)自簡書App
知乎用戶居住地前十名依次是:北京划乖、上海、杭州挤土、成都琴庵、南京、武漢、廣州迷殿、深圳儿礼、西安、重慶庆寺。

你可能發(fā)現(xiàn)了Y坐標(biāo)里每座城市的用戶數(shù)并不多蚊夫,這是因為有大概260萬的知乎沒有填寫“居住地”這一欄~ 以下分析也有可能出現(xiàn)用戶沒有填寫某一欄信息的情況,我會把這些用戶忽略掉止邮,以保證展示圖表的準(zhǔn)確性这橙。

知乎的職業(yè)分布奏窑?

以下顯示知乎主流職業(yè)导披,同樣根據(jù)知乎用戶個人信息里填寫的職業(yè)為準(zhǔn):

圖片發(fā)自簡書App

由上圖可以看到,知乎用戶中學(xué)生用戶占據(jù)多數(shù)埃唯,其它的比如產(chǎn)品經(jīng)理撩匕、程序員、運營墨叛、HR數(shù)量也不少止毕。我們看一下具體的排名(前十名):

圖片發(fā)自簡書App

由上圖可以看到,知乎用戶中“學(xué)生”的比重獨占鰲頭漠趁,我們把“學(xué)生”去掉扁凛,來看看正經(jīng)些的知乎職業(yè)排名:

圖片發(fā)自簡書App

去除學(xué)生后,知乎主流職業(yè)比重從大到小依次是(前十名):產(chǎn)品經(jīng)理闯传、自由職業(yè)谨朝、程序員、工程師甥绿、設(shè)計師字币、騰訊、教師共缕、人力資源(HR)洗出、運營、律師图谷◆婊睿可以看到,除了一些互聯(lián)網(wǎng)公司的常見職位外便贵,教師和律師用戶在知乎中也占據(jù)不小的比重隅茎。

下面我們結(jié)合 性別 和 居住地 來分析一下知乎的主流職業(yè)。

知乎主流職業(yè)的性別分布:

圖片發(fā)自簡書App

上面這張餅圖的內(nèi)圈表示各主流職業(yè)在前十名中所占的比重嫉沽,外圈表示該職業(yè)從業(yè)者中的男女比例辟犀,藍(lán)色為男性,紅色為女性。我們再用一張直方圖來表示:

圖片發(fā)自簡書App

同樣藍(lán)色代表男性堂竟,紅色代表女性魂毁,從左到右的職業(yè)在知乎中的數(shù)量依次下降〕鲟冢可以看到席楚,知乎大部分主流職業(yè)中主要為男性占主導(dǎo)。前 10 名的主流職業(yè)中有 8 個職業(yè)的男性從業(yè)者比女性多税稼,其中以 程序員 的男女比例差距最為懸殊(-_-|||)烦秩,以 設(shè)計師 男女比例差距最小,看來設(shè)計師從業(yè)人員男女比例較為均衡郎仆。其它的只祠,比如產(chǎn)品經(jīng)理、自由職業(yè)者扰肌、律師中抛寝,均為男性從業(yè)者多于女性。而前 10 名剩下的 2 個職業(yè)——教師曙旭、人力資源(HR)——女性從業(yè)者要多于男性盗舰,其中以 人力資源(HR) 男女比例差距最為懸殊,教師的男女比例雖不那么夸張桂躏,但女性也遠(yuǎn)遠(yuǎn)多于男性(也許是因為男性教師不怎么上知乎钻趋?)。

看完了知乎各職業(yè)的性別分布剂习,我們再用一張熱力圖來觀察知乎主流職業(yè)(前五名)在各個地區(qū)的分布情況蛮位,顏色越深,代表該職業(yè)在該地區(qū)的人數(shù)越多:

圖片發(fā)自簡書App

這里我為了展示方便进倍,去掉了產(chǎn)品經(jīng)理土至,你只需要知道產(chǎn)品經(jīng)理在各地人數(shù)都是最多的…… 不明白知乎上怎么這么多產(chǎn)品經(jīng)理,可能是為了方便宣傳他們的產(chǎn)品猾昆?

從上圖可以看出陶因,知乎各主流職業(yè)大部分集中在北京和上海兩地,更準(zhǔn)確地說垂蜗,大部分都集中在北京楷扬,但是人力資源(HR)是個例外,他們更多集中在上海贴见。我們再來看看其他職業(yè)烘苹,程序員分布最多的城市依次是:北京、上海片部、廣州镣衡、杭州、廈門。北京占得比重最大廊鸥,簡直綠的發(fā)黑望浩,看來北京是程序員的天堂?其中深圳沒有上榜惰说,讓我很奇怪磨德。設(shè)計師分布最多的城市依次是:北京、上海吆视、杭州典挑、深圳、武漢啦吧。設(shè)計師的地區(qū)分布比較平均您觉,各個城市都有一定數(shù)量。

知乎的高校用戶

知乎中學(xué)生用戶占很大的比重丰滑,我們來看看他們都來自哪些學(xué)校顾犹!詞云中字體越大倒庵,表示所占比重越大褒墨。

圖片發(fā)自簡書App

我們再列出詳細(xì)的比重排名:

圖片發(fā)自簡書App

以上展示的結(jié)果不一定準(zhǔn)確,可能有很大一部分學(xué)生用戶沒有填寫自己的學(xué)校擎宝。僅從上圖可以看出郁妈,知乎活躍高校用戶從大到小依次是:浙江大學(xué)、武漢大學(xué)绍申、華中科技大學(xué)噩咪、中山大學(xué)、北京大學(xué)极阅、上海交通大學(xué)胃碾、復(fù)旦大學(xué)、南京大學(xué)筋搏、四川大學(xué)仆百、清華大學(xué)。

既然分析到學(xué)校了奔脐,我們順便看看各高校的男女比例俄周,嘿嘿。

圖片發(fā)自簡書App

發(fā)現(xiàn)一個有意思的現(xiàn)象髓迎,各高校大部分都是男生在玩知乎……

再看一下哪些高校在知乎獲得的贊數(shù)最多:

第一是同濟大學(xué)峦朗,土木工程,恩排龄,這是哪位大佬撐起來的波势;第二是華南理工大學(xué),軟件工程,這個我知道尺铣,輪子哥是皇家理工的嘛闭翩;第三,重慶第一工程尸培訓(xùn)基地迄埃,恩疗韵??侄非?這是什么鬼(黑人問號)蕉汪;繼續(xù)往后看,恩……逞怨?者疤?家里蹲大學(xué)?叠赦?>月怼!還有一個蘭州大學(xué)除秀,牛肉面工藝專業(yè)糯累??册踩?WHAT泳姐??T菁胖秒!

知乎大佬都這么調(diào)皮嗎…

我們再來看看各地區(qū)有哪些高校是知乎重度用戶,顏色越深代表該學(xué)校的知乎用戶越多:

圖片發(fā)自簡書App

北京玩知乎最多的高校依次是:北京大學(xué)慕的、北京郵電大學(xué)阎肝、中國傳媒大學(xué)、中國人民大學(xué)肮街、清華大學(xué)风题。

上海玩知乎最多的高校依次是:上海交通大學(xué)、復(fù)旦大學(xué)低散、同濟大學(xué)俯邓、上海大學(xué)、上海財經(jīng)大學(xué)熔号。

杭州玩知乎最多的高校依次是:浙江大學(xué)稽鞭、浙江工業(yè)大學(xué)、杭州電子科技大學(xué)引镊、浙江大學(xué),計算機科學(xué)朦蕴、浙江大學(xué),軟件工程篮条。浙江大學(xué)是重度用戶啊……

成都玩知乎最多的高校依次是:電子科技大學(xué)、四川大學(xué)吩抓、西南交通大學(xué)涉茧、電子科技大學(xué),軟件工程、四川師范大學(xué)疹娶。

廣州玩知乎最多的高校依次是:中山大學(xué)(SYSU)伴栓、華南理工大學(xué)(SCUT)、華南農(nóng)業(yè)大學(xué)(SCAU)雨饺、廣東外語外貿(mào)大學(xué)钳垮、廣東工業(yè)大學(xué)。

我們再來看一下知乎各高校用戶的活躍程度额港,按每個學(xué)校用戶回答問題的總數(shù)排名:

排名依次是:武漢大學(xué)饺窿、浙江大學(xué)、中山大學(xué)移斩、華南理工大學(xué)肚医、北京大學(xué)、華中科技大學(xué)向瓷、復(fù)旦大學(xué)肠套、上海交通大學(xué)、西北農(nóng)林科技大學(xué)风罩。

知乎贊數(shù)最多的100位大V

下圖中詞云的字越大糠排,表示收到的贊數(shù)越多:

圖片發(fā)自簡書App


張佳瑋大大無可爭議的獲得第一名舵稠,360+萬贊超升,恐怖。其次是馬前卒哺徊、唐缺室琢、vczh、肥肥貓落追、朱炫盈滴、Seasee Youl、ze ran轿钠、鬼木知巢钓、豆子。知乎獲贊總數(shù)前五名有兩位都是作家(張佳瑋和唐缺)疗垛,看來作家在知乎回答問題獲贊方面還是很吃香症汹,果然表達(dá)能力是觀點獲得認(rèn)可的一個重要支撐 。

知乎關(guān)注者最多的100位大V

下圖詞云的字越大贷腕,表示關(guān)注者越多背镇,看看有沒有你熟悉的大V 呢咬展?:

知乎關(guān)注人數(shù)最多的前10位大V依次是:張佳瑋、李開復(fù)瞒斩、黃繼新破婆、周源、張亮胸囱、張小北祷舀、李淼、朱炫烹笔、葛巾蔑鹦、田吉順。這些是知乎真正的大V箕宙,關(guān)注者數(shù)量極多嚎朽。關(guān)注者最多的張佳瑋有137萬粉絲(抓取時),他的粉絲還在不斷上漲柬帕,到現(xiàn)在已經(jīng)有138萬粉絲哟忍。關(guān)注者最少田吉順也有57萬粉絲,輪子哥(vczh)稍微少一些陷寝,排在第11位锅很。

知乎回答問題最多的100位大V

這些大V在知乎很活躍…… 下圖詞云文字越大,表示回答問題數(shù)量越多凤跑。

圖片發(fā)自簡書App


具體的排名為:

知乎回答問題數(shù)最多的10位大V從大到小依次為:vczh爆安、李東、趙鋼仔引、另一只襪子扔仓、四海之內(nèi)、M3小蘑菇咖耘、kun yu翘簇、白貓轉(zhuǎn)轉(zhuǎn)風(fēng)、yskin儿倒、肛里拉出個電鋸版保。微軟的工作貌似很閑,看輪子哥(vczh)整天刷知乎……

我們再來加上這幾位用戶在知乎的獲得的贊數(shù)夫否,看看“回答問題的數(shù)量”和“獲得的贊數(shù)”之間有沒有什么聯(lián)系:

由上圖我們可以粗略的得出結(jié)論彻犁,回答問題的數(shù)量和獲得贊數(shù)的關(guān)系沒有很大。上圖中只有 kun yu 和 vczh 回答問題的數(shù)量和獲贊數(shù)基本持平凰慈,榜單前十名的其它用戶獲得贊數(shù)雖然也不少汞幢,但和他們回答問題數(shù)量的排名比起來,還不在一個量級上溉瓶。這從側(cè)面也說明了一個問題急鳄,回答問題的質(zhì)量更加重要谤民,某些高質(zhì)量的會更容易吸引用戶點贊。

知乎參加live最多的100位大V

我們再來看一個有意思的統(tǒng)計疾宏,知乎參加 live 最多的100位用戶张足,以及他們最多參加過多少場 live。(live 是知乎推出的一種類似于直播的問答形式坎藐,大V開一場 live为牍,分享他所在領(lǐng)域的知識,用戶買門票參與 live岩馍,是一種知識變現(xiàn)的方式)

圖片發(fā)自簡書App

再來看看他們最多參加過多少場 live:

圖片發(fā)自簡書App

最多的那個大V竟然參加過 1600+ 場 live碉咆,真的很有精力和金錢,哈哈

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蛀恩,一起剝皮案震驚了整個濱河市疫铜,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌双谆,老刑警劉巖壳咕,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異顽馋,居然都是意外死亡谓厘,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進(jìn)店門寸谜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來竟稳,“玉大人,你說我怎么就攤上這事熊痴∷郑” “怎么了?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵愁拭,是天一觀的道長讲逛。 經(jīng)常有香客問我,道長岭埠,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任蔚鸥,我火速辦了婚禮惜论,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘止喷。我一直安慰自己馆类,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布弹谁。 她就那樣靜靜地躺著乾巧,像睡著了一般句喜。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上沟于,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天咳胃,我揣著相機與錄音,去河邊找鬼旷太。 笑死展懈,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的供璧。 我是一名探鬼主播存崖,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼睡毒!你這毒婦竟也來了来惧?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤演顾,失蹤者是張志新(化名)和其女友劉穎违寞,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體偶房,經(jīng)...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡趁曼,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了棕洋。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片挡闰。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖掰盘,靈堂內(nèi)的尸體忽然破棺而出摄悯,到底是詐尸還是另有隱情,我是刑警寧澤愧捕,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布奢驯,位于F島的核電站,受9級特大地震影響次绘,放射性物質(zhì)發(fā)生泄漏瘪阁。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一邮偎、第九天 我趴在偏房一處隱蔽的房頂上張望管跺。 院中可真熱鬧,春花似錦禾进、人聲如沸豁跑。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽艇拍。三九已至狐蜕,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間卸夕,已是汗流浹背层释。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留娇哆,地道東北人湃累。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓,卻偏偏與公主長得像碍讨,于是被迫代替她去往敵國和親治力。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內(nèi)容