文/泰閣志
1. 緣起
為了幫助大家和自己更好地學(xué)習(xí)數(shù)據(jù)分析,斗膽撰寫《人人都能用數(shù)據(jù)》系列穷绵,會(huì)同步在本人的微信公眾號(hào)/知乎專欄/頭條號(hào)/簡(jiǎn)書(名稱都是泰閣志)轿塔。這是第一篇,打算從統(tǒng)計(jì)學(xué)講起。
之所以開始選擇統(tǒng)計(jì)學(xué)勾缭,原因如下:
市面良莠不齊揍障,有“術(shù)”無(wú)“法”:
目前不少數(shù)據(jù)分析教程講的都是和數(shù)據(jù)相關(guān)的程序開發(fā)或所謂的數(shù)據(jù)驅(qū)動(dòng),然而俩由,這些大都屬于“術(shù)”的層面毒嫡。首先,術(shù)業(yè)有專攻幻梯,每個(gè)領(lǐng)域的業(yè)務(wù)不盡相同兜畸,不同業(yè)務(wù)之間的分析流程差異較大;其次碘梢,不同的數(shù)據(jù)技能咬摇,其通用性難以保證,各有專長(zhǎng)煞躬,而入門者一開始就在某項(xiàng)技能上深入肛鹏,很難培養(yǎng)數(shù)據(jù)分析的大局觀。正所謂一葉障目不見泰山恩沛。統(tǒng)計(jì)學(xué)是重中之重的方法論:
它和數(shù)據(jù)密不可分在扰,卻要高于數(shù)據(jù)本身±卓停可以說芒珠,在大數(shù)據(jù)時(shí)代,統(tǒng)計(jì)學(xué)提綱挈領(lǐng)搅裙,引領(lǐng)著數(shù)據(jù)分析的方法論皱卓,屬于“法”的層面。缺乏足夠統(tǒng)計(jì)學(xué)訓(xùn)練的入門者部逮,難以真正掌握數(shù)據(jù)分析的精髓好爬。統(tǒng)計(jì)學(xué)是絕佳的邏輯思考武器:
比特幣大神和著名投資人李笑來(lái)曾在新生大學(xué)社群說過:“在這個(gè)時(shí)代,不懂一點(diǎn)統(tǒng)計(jì)和概率論甥啄,簡(jiǎn)直就是文盲”。此言不虛炬搭,在這個(gè)數(shù)據(jù)爆炸的時(shí)代蜈漓,我們的眼耳鼻舌身接收到的幾乎都是量化的信息,不懂統(tǒng)計(jì)宫盔,你就少了一樣看清世界真相的重要武器融虽。
2. 統(tǒng)計(jì)學(xué)和數(shù)據(jù)分析的關(guān)系
說到統(tǒng)計(jì)學(xué),我們先來(lái)看看它的維基百科定義:
統(tǒng)計(jì)學(xué)是在數(shù)據(jù)分析的基礎(chǔ)上灼芭,自17世紀(jì)中葉產(chǎn)生并逐步發(fā)展起來(lái)的一門學(xué)科有额。
它是研究如何測(cè)定、收集、整理巍佑、歸納和分析反映數(shù)據(jù)茴迁,以便給出正確消息的科學(xué)。統(tǒng)計(jì)廣泛地應(yīng)用在各門學(xué)科萤衰,從自然科學(xué)堕义、社會(huì)科學(xué)到人文學(xué)科,甚至被用來(lái)工商業(yè)及政府的情報(bào)決策之上脆栋。
隨著大數(shù)據(jù)(Big Data)時(shí)代來(lái)臨倦卖,統(tǒng)計(jì)的面貌也逐漸改變,與信息椿争、計(jì)算等領(lǐng)域密切結(jié)合怕膛,是數(shù)據(jù)科學(xué)(Data Science)中的重要主軸之一。
好了秦踪,統(tǒng)計(jì)學(xué)和數(shù)據(jù)分析的關(guān)系一目了然:
統(tǒng)計(jì)研究數(shù)據(jù)的特征褐捻,并從中抽取規(guī)律來(lái)做決策。
那么洋侨,統(tǒng)計(jì)學(xué)是如何從大量貌似雜亂無(wú)序的數(shù)據(jù)中尋找特征的呢舍扰?簡(jiǎn)單來(lái)說有兩點(diǎn):
用圖形化呈現(xiàn)特征(可視化)
以某個(gè)數(shù)字來(lái)代表特征(該數(shù)即統(tǒng)計(jì)量)
從圖形化出發(fā),我們先學(xué)習(xí)一個(gè)常見且重要的統(tǒng)計(jì)圖形:直方圖希坚。
3. 直方圖(Histogram)
直方圖边苹,可以理解為由一系列高度不等的縱向條柱來(lái)表示數(shù)據(jù)分布特征的統(tǒng)計(jì)報(bào)告圖,它是對(duì)原始數(shù)據(jù)進(jìn)行壓縮的結(jié)果裁僧。
它的生成步驟如下:
- 找出原始數(shù)據(jù)集的最大值和最小值
- 根據(jù)最大值和最小值將原始數(shù)據(jù)大致劃分成若干組
- 確定各組的代表值个束,稱為組值
- 確定每組值的數(shù)據(jù)個(gè)數(shù),稱為頻數(shù)
- 計(jì)算每組頻數(shù)的累計(jì)值聊疲,稱為累計(jì)頻數(shù)
- 在橫軸上等間距放置組值
- 在縱軸上做出柱狀圖茬底,高度為該組值對(duì)應(yīng)分組的頻數(shù)
以上步驟看起來(lái)可能比較抽象,我們大致了解即可获洲。真正制作直方圖時(shí)阱表,不需要我們親力親為以上步驟,一般的程序和工具包都可以直接繪制直方圖贡珊。
下面以常用語(yǔ)言Python和R為例來(lái)演示如何用程序生成直方圖最爬,當(dāng)然,這也是數(shù)據(jù)可視化的入門范例门岔。
以下為Python產(chǎn)生直方圖的樣例代碼爱致,運(yùn)行環(huán)境為Mac終端的IPython:
以上Python代碼生成的直方圖效果如下:
以下為用R產(chǎn)生直方圖的樣例代碼,運(yùn)行環(huán)境為Mac版的RStudio:
以上R代碼生成的直方圖效果如下:
注:上圖標(biāo)題“breaks = 40”表示原始數(shù)據(jù)被分成40個(gè)數(shù)據(jù)組寒随,該R代碼來(lái)自謝益輝的《現(xiàn)代統(tǒng)計(jì)圖形》
直方圖對(duì)理解統(tǒng)計(jì)學(xué)至關(guān)重要糠悯,請(qǐng)大家仔細(xì)體會(huì)和通過代碼學(xué)習(xí)帮坚。
題圖作者:William Bout
圖片授權(quán)基于:CC0協(xié)議