Chapter 7 Goodness of Fit
本篇是第七章,內(nèi)容是擬合優(yōu)度檢驗(yàn)。
1.多項(xiàng)分布
擬合優(yōu)度檢驗(yàn)的第一個(gè)應(yīng)用是關(guān)于多項(xiàng)總體。那么多項(xiàng)總體(或者多項(xiàng)分布)是什么呢懒闷?
- 多項(xiàng)分布是二項(xiàng)分布的推廣。
- 總體被分為幾個(gè)互不相交的類別。
- 多項(xiàng)分布假設(shè):每次試驗(yàn)有且僅有一個(gè)結(jié)果發(fā)生愤估;每次試驗(yàn)獨(dú)立帮辟;每次試驗(yàn)概率不變。
擬合優(yōu)度檢驗(yàn)-多項(xiàng)總體步驟
- 將所觀測(cè)到的數(shù)據(jù)與理論上的期望值進(jìn)行比較玩焰。
- 步驟:
擬合優(yōu)度檢驗(yàn)用于多項(xiàng)總體檢驗(yàn)沒有直接的函數(shù)由驹,這里用R語(yǔ)言的自編函數(shù)實(shí)現(xiàn),體會(huì)下具體的算法(當(dāng)然感覺自己寫的略復(fù)雜)昔园。代碼依舊是后面放出蔓榄,函數(shù)具體使用說(shuō)明也會(huì)附上。
2.獨(dú)立性
依舊是從問題出發(fā)——性別與購(gòu)物頻率是否有關(guān)系
獨(dú)立性檢驗(yàn)——該統(tǒng)計(jì)方法常用于檢驗(yàn)兩個(gè)分類變量是否有關(guān)系默刚。那么首先要提到兩個(gè)概念——獨(dú)立事件和非獨(dú)立事件(independent and dependent events)甥郑。
- 獨(dú)立事件——一個(gè)事物發(fā)生不會(huì)對(duì)其他事物發(fā)生概率造成影響。
- 非獨(dú)立事件——一個(gè)事物發(fā)生會(huì)影響其他事物發(fā)生概率荤西。
接著統(tǒng)計(jì)學(xué)構(gòu)建出了一個(gè)表來(lái)進(jìn)行獨(dú)立性檢驗(yàn)澜搅。這就是聯(lián)立表(Contingency Tables)。
- 解決多總體比例問題邪锌。
- 之前通常用兩個(gè)或兩個(gè)以上特征來(lái)對(duì)樣本觀測(cè)值分類勉躺。
- 也被稱為交叉表。
一般在R中秃流,使用Table函數(shù)即可生成兩個(gè)特征(分類變量)的聯(lián)立表赂蕴,xtabs則是根據(jù)公式創(chuàng)立聯(lián)立表柳弄,prop.table則可以直接計(jì)算出比例舶胀。
聯(lián)立表如何做獨(dú)立性檢驗(yàn)?zāi)兀渴紫忍岢黾僭O(shè)(這里不詳述碧注,相信大家應(yīng)該懂怎么建立了)嚣伐,接著計(jì)算期望的聯(lián)立表每個(gè)單元格的期望頻次。
接著就可以對(duì)比實(shí)際頻次和期望頻次萍丐,然后我們用卡方(chi-square)統(tǒng)計(jì)量進(jìn)行檢驗(yàn)轩端。
當(dāng)然這個(gè)方法也可以用來(lái)檢驗(yàn)順序變量和分類變量。方法類似逝变,這里不贅述基茵。
3.概率分布
擬合優(yōu)度檢驗(yàn)的最重要的應(yīng)用其實(shí)是探測(cè)一個(gè)數(shù)據(jù)具體的概率分布。
當(dāng)然探測(cè)數(shù)據(jù)分布的第一方式——是可見即可得的可視化壳影。主要包括前面提到過(guò)的直方圖和QQ圖拱层。
QQ圖——Quantile-Quantile Plots(分位數(shù)圖):
- 適用于小數(shù)據(jù)集。
- 猜測(cè)分布的基礎(chǔ)方法宴咧。
- 用來(lái)繪制QQ圖的數(shù)據(jù)必須落在該分布內(nèi)根灯。
- 如果散點(diǎn)圖接近直線,說(shuō)明數(shù)據(jù)分布接近正態(tài)分布。
這里給出繪制QQ圖的原理:
- 對(duì)樣本容量為N的樣本數(shù)據(jù)按照升序排序烙肺。
- 計(jì)算從1到N排序的百分比纳猪。
- 從百分位數(shù)得分的關(guān)系找到中心分?jǐn)?shù)。
- 找到對(duì)應(yīng)于中心分?jǐn)?shù)的z值(標(biāo)準(zhǔn)正態(tài)分布)桃笙。
- 繪制對(duì)應(yīng)z值的觀測(cè)點(diǎn)數(shù)據(jù)氏堤。
接著用R語(yǔ)言實(shí)現(xiàn)
#QQ plot
#generation of random number that fall in normal distribution
a<-rnorm(200,0,1)
#plot
jpeg("plot1.jpg",width = 5000,height = 4000,units = "px",res = 1000)
qqnorm(a)
qqline(a,col="red")
dev.off()
除了QQ圖之外,另外一類方法就是通過(guò)統(tǒng)計(jì)方法——擬合優(yōu)度檢驗(yàn)來(lái)探測(cè)數(shù)據(jù)是否正態(tài)分布怎栽。
以正態(tài)分布為例丽猬。
過(guò)程:
- 獲取樣本數(shù)據(jù)。
- 將樣本結(jié)果分組(單元格)熏瞄。
- 比較實(shí)際與預(yù)期值脚祟。
統(tǒng)計(jì)量如下:
R語(yǔ)言中可以用chisp.test函數(shù)進(jìn)行正態(tài)分布測(cè)驗(yàn)。
此外對(duì)于有某種特定分布的非正態(tài)數(shù)據(jù)可以通過(guò)數(shù)學(xué)變換轉(zhuǎn)變?yōu)檎龖B(tài)分布數(shù)據(jù)强饮。
常用的一般包括:
- 對(duì)數(shù)變換由桌。
- 開方變換。
- 指數(shù)或平方變換邮丰。
這里的數(shù)學(xué)變換需要根據(jù)大家實(shí)際研究需求決定行您。