程序員學(xué)統(tǒng)計(jì)(一):統(tǒng)計(jì)學(xué)框架

統(tǒng)計(jì)學(xué)綱.png

“不要輕視簡單,簡單意味著堅(jiān)固憨琳,整個(gè)數(shù)學(xué)大廈都是建立在這種簡單到不能再簡單诫钓,但在邏輯上堅(jiān)如磐石的公理基礎(chǔ)上「菝” ——《三體》

作為一個(gè)正在向數(shù)據(jù)科學(xué)進(jìn)軍的軟件工程師菌湃,基礎(chǔ)決定了我能走多遠(yuǎn)。而數(shù)學(xué)毫無疑問是基礎(chǔ)中的基礎(chǔ)遍略,核心中的核心惧所。據(jù)我所知骤坐,數(shù)據(jù)科學(xué)領(lǐng)域用的最多的數(shù)學(xué)就是:高等數(shù)學(xué),線性代數(shù)纯路,概率論與數(shù)理統(tǒng)計(jì)或油,以及凸優(yōu)化。其中統(tǒng)計(jì)思維最重要驰唬。于是我決定邊學(xué)邊寫顶岸,將學(xué)習(xí)統(tǒng)計(jì)思維過程中的點(diǎn)點(diǎn)滴滴記錄下來,利用“思維導(dǎo)圖”將所有的知識(shí)點(diǎn)穿成線叫编,然后使用“費(fèi)曼技巧”將學(xué)會(huì)的東西寫成文章講給別人聽辖佣,慢慢地將其內(nèi)化到自己的靈魂中。像數(shù)學(xué)這樣的內(nèi)功修煉絕對(duì)不是一朝一夕之功搓逾,所以越早開始越好卷谈,每天進(jìn)步一點(diǎn)點(diǎn),這樣日積月累霞篡,水滴石穿世蔗,有朝一日定能發(fā)揮大的作用。

對(duì)于這個(gè)系列的文章朗兵,我的定位是“知行合一”污淋,我會(huì)不斷地迭代每篇文章中的內(nèi)容,以臻完善余掖。一開始只有一些理論知識(shí)的總結(jié)寸爆,但隨著學(xué)習(xí)的深入后續(xù)會(huì)慢慢加入一些實(shí)踐的內(nèi)容,比如Python/R的示例代碼盐欺,用于演示統(tǒng)計(jì)規(guī)律在實(shí)際工作中的具體應(yīng)用赁豆。

這篇文章主要介紹了什么是統(tǒng)計(jì)學(xué),以及構(gòu)成統(tǒng)計(jì)學(xué)的基本框架冗美,是統(tǒng)計(jì)學(xué)這門學(xué)科的基本面貌魔种。

一. 什么是統(tǒng)計(jì)學(xué)

《行為科學(xué)統(tǒng)計(jì)精要》一書對(duì)統(tǒng)計(jì)學(xué)的定義是:

“統(tǒng)計(jì)學(xué)是一套組織、總結(jié)和解釋信息的數(shù)學(xué)過程墩衙∥竦眨”

這句話實(shí)際上已經(jīng)回答了“什么是統(tǒng)計(jì)學(xué)”這個(gè)問題,其中“組織”漆改、“總結(jié)”和“解釋”是關(guān)鍵詞心铃。作為一套數(shù)學(xué)工具,統(tǒng)計(jì)學(xué)可以拆分為兩個(gè)部分挫剑,一個(gè)用于“整理總結(jié)數(shù)據(jù)”去扣,另一個(gè)用于“解釋信息”。

用于“整理總結(jié)數(shù)據(jù)”的統(tǒng)計(jì)方法被稱為“描述統(tǒng)計(jì)學(xué)”,比如對(duì)于學(xué)生的數(shù)學(xué)期末考試成績愉棱,我們可以通過計(jì)算平均分唆铐,用一個(gè)單一的數(shù)據(jù)就能了解這次考試的平均情況;通過計(jì)算標(biāo)準(zhǔn)差奔滑,我們可以了解學(xué)生考試成績的集中趨勢(shì)等等艾岂。

用于“解釋信息”的統(tǒng)計(jì)方法被稱為“推論統(tǒng)計(jì)學(xué)”,同樣是數(shù)學(xué)期末考試的例子朋其,假如為了提高教學(xué)質(zhì)量王浴,從全校某一年級(jí)學(xué)生中選出60個(gè)學(xué)生,分成兩組梅猿,其中實(shí)驗(yàn)組A使用新的教學(xué)方法氓辣,控制組B使用原來的教學(xué)方法,一段時(shí)間后再次組織考試袱蚓,然后我們得到兩組學(xué)生的數(shù)學(xué)考試成績钞啸,發(fā)現(xiàn)實(shí)驗(yàn)組學(xué)生的平均分比控制組的高,那么這種情況是偶然發(fā)生的喇潘?還是新的教學(xué)方法的確有效果体斩?這個(gè)時(shí)候就需要使用推論統(tǒng)計(jì)學(xué)來進(jìn)行評(píng)估了。

上面這個(gè)關(guān)于教學(xué)方法的實(shí)驗(yàn)颖低,引出了統(tǒng)計(jì)學(xué)中的一個(gè)基礎(chǔ)概念:總體和樣本硕勿。

二. 總體和樣本

總體表示的特定研究中所關(guān)注的所有個(gè)體的集合。對(duì)于有些研究來說枫甲,測量總體中所有的個(gè)體顯然是不現(xiàn)實(shí)的。因此我們必須在研究中抽取出一定的樣本來進(jìn)行研究扼褪,這些樣本被用來代表總體想幻,我們需要從樣本得出結(jié)論然后推廣到總體。對(duì)樣本特征的描述被稱為統(tǒng)計(jì)量话浇,比如樣本平均分脏毯,而對(duì)總體特征的描述被稱為參數(shù),比如總體平均分幔崖,它們是一一對(duì)應(yīng)的食店,然而樣本統(tǒng)計(jì)量與總體參數(shù)是不可能完全相等的,總會(huì)出現(xiàn)差異赏寇,這個(gè)差異被稱為“抽樣誤差”吉嫩。所以推論統(tǒng)計(jì)學(xué)就是用來回答“實(shí)驗(yàn)中觀察到的差異,到底是抽樣誤差引起的嗅定,還是實(shí)驗(yàn)方法的確有顯著效果”這一問題的數(shù)學(xué)工具自娩。

不同個(gè)體會(huì)變化或者有不同值的特征就叫做“變量”。

三. 變量

變量有兩類渠退,一類是個(gè)體的某個(gè)具體特征忙迁,比如身高脐彩,體重和血型;另一類是會(huì)影響個(gè)體的外部因素姊扔,比如溫度惠奸,濕度和天氣情況。當(dāng)然恰梢,也可以將變量分為離散變量和連續(xù)變量佛南。進(jìn)行實(shí)驗(yàn)就是對(duì)這些變量進(jìn)行測量和觀察,并得到數(shù)據(jù)集删豺。有一些變量是可以直接測量和觀察的共虑,比如上面列舉的這些,然而另外一些變量是抽象的呀页,無法直接測量妈拌,比如智商,是否感到開心快樂蓬蝶,記憶力等尘分,被稱為“假設(shè)構(gòu)建”(Constructs)。

我們可以通過觀察和測量一些代表構(gòu)建的外部行為來完成對(duì)假設(shè)構(gòu)建的測量丸氛。這樣的外部行為被稱為“操作定義”(Operational definitions)培愁。比如通過智力測量分?jǐn)?shù)來衡量智商,通過記憶和識(shí)別人臉的正確率來衡量記憶力等等缓窜。這些操作定義一方面描述了如何測量構(gòu)建的操作定续,另一方面根據(jù)測得的結(jié)果定義構(gòu)建。

那么對(duì)于變量的測量實(shí)際上就是分類或者獲得數(shù)值禾锤。測量分類有兩種尺度:稱名量表和順序量表私股。稱名量表用于標(biāo)注和分類,但沒有數(shù)量上的含義恩掷,比如可以將大學(xué)生按專業(yè)分為化學(xué)倡鲸,生物,藝術(shù)和計(jì)算機(jī)等等黄娘,但“化學(xué)”和“藝術(shù)”之間不存在“多”或“少”的關(guān)系峭状;順序量表在稱名量表基礎(chǔ)上多了一層“順序”的含義,比如“上等”逼争,“中等”和“下等”优床。測量數(shù)值也有兩種尺度:等距量表和等比量表。等距量表具有相對(duì)零點(diǎn)誓焦,比如測量一組男性身高羔巢,以平均身高為零點(diǎn),高于平均身高1厘米的記為+1,低于平均身高1厘米的記為-1竿秆,然而這個(gè)時(shí)候作為零點(diǎn)的平均身高其測量值的量并不是0启摄;等比量表具有絕對(duì)零點(diǎn),比如測量一組男性身高幽钢,僅以厘米為單位歉备,這個(gè)時(shí)候零點(diǎn)就代表沒有高度(絕對(duì)零點(diǎn))。

系統(tǒng)地測量變量的過程匪燕,就稱為“統(tǒng)計(jì)方法”蕾羊。

四. 統(tǒng)計(jì)方法

如果我們需要測量每個(gè)個(gè)體兩個(gè)非數(shù)值型變量之間的關(guān)系,我們可以用卡方檢驗(yàn)帽驯。而如果是數(shù)值型變量之間的關(guān)系龟再,那么我們可以使用“相關(guān)法”對(duì)其進(jìn)行研究,最常見的就是繪制散點(diǎn)圖來觀察變化趨勢(shì)尼变。比如圖4-1用散點(diǎn)圖和線性回歸擬合了白葡萄酒殘?zhí)橇颗c密度之間的關(guān)系利凑。但相關(guān)法的主要局限在于我們只能說明變量之間存在關(guān)聯(lián)關(guān)系,但不能說明存在因果關(guān)系嫌术。其他數(shù)值型統(tǒng)計(jì)方法還包括假設(shè)檢驗(yàn)哀澈,t檢驗(yàn)和方差分析。要想說明因果關(guān)系度气,需要使用“實(shí)驗(yàn)法”割按。

圖4-1 白葡萄酒殘?zhí)橇颗c密度散點(diǎn)圖

如果我們想比較的是兩組或多組的成績,就要使用“實(shí)驗(yàn)法”和“非實(shí)驗(yàn)研究”磷籍。實(shí)驗(yàn)法可以建立兩個(gè)變量之間的因果關(guān)系适荣,它的特點(diǎn)在于“操縱和控制”,即操縱被試變量院领,并控制其他環(huán)境變量束凑,降低其影響。比如將抑郁癥病人隨機(jī)分為兩組栅盲,其中實(shí)驗(yàn)組的病人服用新藥物,控制組的病人服用安慰劑废恋,一段時(shí)間后觀察病癥改善狀況谈秫,這個(gè)時(shí)候“服用新藥物”還是“服用安慰劑”就是自變量,“癥狀改善的病人數(shù)量”就是因變量鱼鼓。

非實(shí)驗(yàn)研究與實(shí)驗(yàn)法的主要區(qū)別在于它僅僅觀察拟烫,而不“操縱和控制”,常見的有非等效組研究和前后測研究迄本。非等效組研究的一個(gè)例子比如以性別作為被試變量進(jìn)行分組硕淑,因?yàn)樾詣e是天生固有的性質(zhì),研究者并不是通過將實(shí)驗(yàn)對(duì)象分為兩組,然后一組定義為女性置媳,一組定義為男性來實(shí)現(xiàn)的于樟,并沒有“操縱和控制”,所以它不是實(shí)驗(yàn)研究拇囊;前后測研究常常與時(shí)間有關(guān)迂曲,比如對(duì)同一組病人測量治療前后的康復(fù)情況,也屬于非實(shí)驗(yàn)研究寥袭,理由同上路捧。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市传黄,隨后出現(xiàn)的幾起案子杰扫,更是在濱河造成了極大的恐慌,老刑警劉巖膘掰,帶你破解...
    沈念sama閱讀 211,123評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件章姓,死亡現(xiàn)場離奇詭異,居然都是意外死亡炭序,警方通過查閱死者的電腦和手機(jī)啤覆,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來惭聂,“玉大人窗声,你說我怎么就攤上這事」几伲” “怎么了笨觅?”我有些...
    開封第一講書人閱讀 156,723評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長耕腾。 經(jīng)常有香客問我见剩,道長,這世上最難降的妖魔是什么扫俺? 我笑而不...
    開封第一講書人閱讀 56,357評(píng)論 1 283
  • 正文 為了忘掉前任苍苞,我火速辦了婚禮,結(jié)果婚禮上狼纬,老公的妹妹穿的比我還像新娘羹呵。我一直安慰自己,他們只是感情好疗琉,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,412評(píng)論 5 384
  • 文/花漫 我一把揭開白布冈欢。 她就那樣靜靜地躺著,像睡著了一般盈简。 火紅的嫁衣襯著肌膚如雪凑耻。 梳的紋絲不亂的頭發(fā)上太示,一...
    開封第一講書人閱讀 49,760評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音香浩,去河邊找鬼类缤。 笑死,一個(gè)胖子當(dāng)著我的面吹牛弃衍,可吹牛的內(nèi)容都是我干的呀非。 我是一名探鬼主播,決...
    沈念sama閱讀 38,904評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼镜盯,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼岸裙!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起速缆,我...
    開封第一講書人閱讀 37,672評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤降允,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后艺糜,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體剧董,經(jīng)...
    沈念sama閱讀 44,118評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,456評(píng)論 2 325
  • 正文 我和宋清朗相戀三年破停,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了翅楼。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,599評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡真慢,死狀恐怖毅臊,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情黑界,我是刑警寧澤管嬉,帶...
    沈念sama閱讀 34,264評(píng)論 4 328
  • 正文 年R本政府宣布,位于F島的核電站朗鸠,受9級(jí)特大地震影響蚯撩,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜烛占,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,857評(píng)論 3 312
  • 文/蒙蒙 一胎挎、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧忆家,春花似錦犹菇、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽浦辨。三九已至蹬竖,卻和暖如春沼沈,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背币厕。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評(píng)論 1 264
  • 我被黑心中介騙來泰國打工列另, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人旦装。 一個(gè)月前我還...
    沈念sama閱讀 46,286評(píng)論 2 360
  • 正文 我出身青樓页衙,卻偏偏與公主長得像,于是被迫代替她去往敵國和親阴绢。 傳聞我的和親對(duì)象是個(gè)殘疾皇子店乐,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,465評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容