三大抽樣分布的定義归露、期望和方差:卡方分布膀钠、t分布芍锦、F分布

一竹勉、卡方分布

1.?卡方分布的定義

設(shè)隨機(jī)變量?X_1, \dots , X_n, iid, ~ N(0,1),則隨機(jī)變量?Y = \sum_{i=1}^n X_i^2 ~ \chi_n^2娄琉,且 Y?的概率密度函數(shù)為:

?k_n(y) = \Gamma( \frac{n}{2} )^{-1} 2^{ -\frac{n}{2} } y^{ \frac{n}{2} - 1 } e^{ -\frac{y}{2} }, y >= 0

證明:

?F_Y(y) = P( \sum_{i=1}^n X_i^2 \leq y)

?= (2 \pi)^{- \frac{n}{2}} \int_B \dots \int e^{ - \frac{ \sum_{i=1}^n x_i^2 }{2} } dx_1 \dots dx_n

積分區(qū)域?B?是一個球形區(qū)域次乓,切換到球坐標(biāo)下,可得:

?F_Y(y) = C_n \int_0^{\sqrt{y}} e^{- \frac{r^2}{2}} r^{n-1} dr车胡,C_n?是一個與?y?無關(guān)的常數(shù)

根據(jù)歸一化檬输,F_Y(\infty) = C_n \int_0^{\infty} e^{-\frac{r^2}{2}} r^{n-1} dr = 1

?\implies C_n = \Gamma(\frac{n}{2})^{-1}  2^{1 - \frac{n}{2}}

?\implies F_Y(y) = \Gamma( \frac{n}{2} )^{-1}  2^{1 - \frac{n}{2}}  \int_0^{\sqrt{y}} e^{- \frac{r^2}{2}} r^{n-1} dr

?\implies f_Y(y) = \frac{dF_Y(y)}{dy} = \Gamma  ( \frac{n}{2} )^{-1}  2^{ -\frac{n}{2} } y^{ \frac{n}{2} - 1 } e^{ -\frac{y}{2} }

這就證明了卡方分布的概率密度函數(shù)。


2. 卡方分布的可加性

設(shè)獨(dú)立的隨機(jī)變量?X_1  ~   \chi_n^2, X_2  ~   \chi_m^2匈棘,則?X_1 + X_2  ~   \chi_{n+m}^2

證明:

?f_{X_1+X_2}(y) = \int_0^y k_n(x) k_m(y - x) dx

?= \Gamma( \frac{n}{2} )^{-1} \Gamma( \frac{m}{2} )^{-1} 2^{-\frac{n + m}{2}} e^{-\frac{y}{2}} \int_0^y x^{\frac{n}{2} - 1} (y-x)^{\frac{m}{2} - 1} dx

?= \Gamma( \frac{n}{2} )^{-1} \Gamma( \frac{m}{2} )^{-1} 2^{-\frac{n + m}{2}} e^{-\frac{y}{2}} y^{\frac{n+m}{2} - 1} B(\frac{n}{2} , \frac{m}{2})

?= \Gamma( \frac{n + m}{2} )^{-1} 2^{ -\frac{n + m}{2} } y^{ \frac{n + m}{2} - 1 } e^{ -\frac{y}{2} }

這就證明了?X_1 + X_2?符合自由度為?n + m?的卡方分布丧慈。這可以推廣到多個隨機(jī)變量的情況:

若相互獨(dú)立的隨機(jī)變量?X_i ~ \chi_{n_i}^2, i = 1, 2, \dots , n,則?\sum_{i=1}^n X_i ~ \chi_{ \sum_{j=1}^n n_j }^2


3. 卡方分布的數(shù)字特征

設(shè)隨機(jī)變量?X  ~   \chi_n^2主卫,則?X?的矩母函數(shù)為?M_X(s) = (1 - 2s)^{-\frac{n}{2}}, s < \frac{1}{2}

證明:

?M_X(s) = \int_0^{\infty} e^{sx} k_n(x)dx

?=  \Gamma( \frac{n}{2} )^{-1} 2^{ -\frac{n}{2} } \int_0^{\infty} x^{ \frac{n}{2} - 1 } e^{ -(\frac{1}{2} - s)x } dx

?=  \Gamma( \frac{n}{2} )^{-1} 2^{ -\frac{n}{2} } (\frac{1}{2} - s)^{-\frac{n}{2}} \int_0^{\infty} t^{\frac{n}{2} - 1} e^{-t} dt

?= (1 - 2s)^{-\frac{n}{2}}

由卡方分布的矩母函數(shù)逃默,可得出?X?的?k?階矩:

?\frac{d M_X(s)^k}{ds^k} = \Pi_{i=0}^{k-1} (n + 2i) (1-2s)^{-(\frac{n}{2} + k)}

?\implies E(X^k) = \Pi_{i=0}^{k-1} (n + 2i)

由此可得卡方分布得期望為?n,方差為?2n


設(shè)隨機(jī)變量?X  ~   \chi_n^2簇搅,則?\frac{1}{X}?的期望為?E(\frac{1}{X}) = \frac{1}{n-2}, n > 2

證明:

?E(\frac{1}{X}) = \int_0^{\infty} x^{-1} k_n(x) dx

?= \Gamma(\frac{n}{2})^{-1} 2^{- \frac{n}{2}} \int_0^{\infty} x^{\frac{n}{2} - 2} e^{- \frac{x}{2}} dx完域,做變量替換?x = 2t

?= \Gamma(\frac{n}{2})^{-1} 2^{-1} \int_0^{\infty} t^{\frac{n}{2} - 2} e^{-t} dt

?= \Gamma(\frac{n}{2})^{-1} 2^{-1} \Gamma(\frac{n}{2} - 1),此式當(dāng)?n > 2?時成立

?= \frac{1}{n-2}

同理瘩将,可以證明?E(\frac{1}{X^2}) = \frac{1}{(n-2)(n-4)}吟税,當(dāng)?n > 4?時成立。


4. 卡方分布的分解

正態(tài)隨機(jī)變量:設(shè)隨機(jī)變量?X_1, \dots , X_n, iid,  ~ N(0,1)姿现,則?\sum_{i=1}^n X_i^2 ~ \chi_n^2

證明:

由于?X_i^2?的概率密度函數(shù)為:

f_{X_i^2}(y) = (2 \pi)^{-\frac{1}{2}} y{-\frac{1}{2}} e^{-\frac{y}{2}}

即隨機(jī)變量?X_i^2 ~ \chi_1^2肠仪,根據(jù)卡方分布的可加性可得?\sum_{i=1}^n X_i^2 ~ \chi_n^2

這就說明了自由度為?n?的卡方分布可以分解為?n?個獨(dú)立的標(biāo)準(zhǔn)正態(tài)分布隨機(jī)變量的平方和,這也是卡方分布的定義备典。


指數(shù)隨機(jī)變量:設(shè)隨機(jī)變量?X_i, iid,  ~ e( \lambda )异旧,則?2 \lambda \sum_{i=1}^n X_i ~ \chi_{2n}^2

證明:

由于?2 \lambda X_i?的概率密度函數(shù)為:

f_{2 \lambda X_i} (y) = 2 ^ {-1} e^{- \frac{y}{2}}

即隨機(jī)變量?2 \lambda X_i ~ \chi_2^2,根據(jù)卡方分布的可加性可得?2 \lambda \sum_{i=1}^n X_i ~ \chi_{2n}^2

這就說明了?n?個獨(dú)立的指數(shù)分布隨機(jī)變量的和的 2 \lambda?倍符合自由度為 n?的卡方分布提佣。


5. 正態(tài)分布的樣本方差

設(shè)隨機(jī)變量?X_1, \dots , X_n, iid, ~ N(\mu, \sigma^2)吮蛹,樣本均值?\bar{X}   = \frac{ \sum_{i=1}^n X_i }{n}    荤崇,樣本方差?S^2 = \frac{ \sum_{i=1}^n (X_i - \bar{X}    ) ^ 2 }{n - 1},則有:

?\frac{ (n - 1) S^2 }{\sigma^2} ~ \chi_{n-1}^2潮针,且?\bar{X}     ?與?S^2?獨(dú)立术荤。

證明:

可以找到一個?n?階正交矩陣?A_nA_n?中第一行的元素都是?\frac{1}{\sqrt{n}}然低,對隨機(jī)向量?X = (X_1, \dots, X_n)^T進(jìn)行正交變換:

隨機(jī)向量?Y = A_n X喜每,則有逆變換?X = A_n^{-1} Y = A_n^T Y,此正交變換具有以下3個性質(zhì):

1. 向量的模不變雳攘,即:?\sum_{i=1}^n X_i^2 = \sum_{i=1}^n Y_i^2带兜;

2. 逆變換的雅可比行列式為?1,即:?\frac{\partial X}{\partial Y} = |A_n^T| = 1吨灭;

3.?Y_1 = \frac{\sum_{i=1}^n X_i}{ \sqrt{n} } = \sqrt{n} \bar{X}刚照;


隨機(jī)向量?Y的聯(lián)合分布密度函數(shù)為:

?f_Y(Y_1, \dots, Y_n) = (2 \pi \sigma^2)^{- \frac{n}{2} } e^{ - \frac{ \sum_{i=1}^n (X_i - \mu)^2 }{2 \sigma^2} }

?=  (2 \pi \sigma^2)^{- \frac{n}{2} } e^{ - \frac{ \sum_{i=1}^n X_i^2  - 2n \mu \bar{X}   + n \mu^2 }{2 \sigma^2} }

?=  (2 \pi \sigma^2)^{- \frac{n}{2} } e^{ - \frac{ \sum_{i=1}^n Y_i^2  - 2 \sqrt{n} \mu Y_1 + n \mu^2 }{2 \sigma^2} }

?= (2 \pi \sigma^2)^{- \frac{1}{2} } e^{- \frac{ (Y_1 - \sqrt{n} \sigma)^2 }{2 \sigma^2} } * \Pi_{i=2}^n (2 \pi \sigma^2)^{- \frac{1}{2} } e^{- \frac{ Y_i^2 }{2 \sigma^2} }

從隨機(jī)向量?Y?的聯(lián)合分布密度函數(shù)可以得出以下結(jié)論:

1.?Y_1 ~ N( \sqrt{n} \mu, \sigma^2)

2.?Y_2, \dots, Y_n ~ N(0, \sigma^2)喧兄;

3. Y_1, \dots, Y_n?相互獨(dú)立无畔;


下面對命題中的結(jié)論進(jìn)行證明:

?\bar{X} = \frac{Y_1}{ \sqrt{n} }

?\frac{ (n - 1) S^2 } { \sigma^2 } = \frac{ \sum_{i=1}^n ( X_i - \bar{X}     ) ^ 2 }{ \sigma^2 }

?= \frac{ \sum_{i=1}^n Y_i^2 - Y_1^2 }{ \sigma^2 } = \sum_{i=2}^n ( \frac{ Y_i }{ \sigma } )^2

可以看到:

1. \bar{X}     ?是?Y_1?的函數(shù),\frac{ (n - 1) S^2 }{\sigma^2} ?是?Y_2, \dots, Y_n?的函數(shù)吠冤,所以?\bar{X}     ?與?\frac{ (n - 1) S^2 }{\sigma^2} ?相互獨(dú)立浑彰;

2.?\frac{ (n - 1) S^2 }{\sigma^2} ?是?n - 1?個標(biāo)準(zhǔn)正態(tài)隨機(jī)變量的平方和,所以服從自由度為?n - 1?的卡方分布拯辙;



二郭变、t分布

1. t 分布的定義

設(shè)隨機(jī)變量?X ~ N(0,1), Y ~ \chi_n^2X,Y?相互獨(dú)立涯保,則隨機(jī)變量?Z = \frac{X}{\sqrt{Y/n}} ~ t_n诉濒,且?Z?的概率密度函數(shù)為:

?t_n(z) = (n\pi)^{- \frac{1}{2}} \Gamma(\frac{n}{2})^{-1} \Gamma(\frac{n+1}{2}) (1 + \frac{z^2}{n})^{-\frac{n+1}{2}},其中?n?為 t 分布的自由度夕春。

證明:

設(shè)?\phi(x)?為標(biāo)準(zhǔn)正態(tài)分布的概率密度函數(shù)未荒,?k_n(x)?為卡方分布的概率密度函數(shù),那么隨機(jī)變量?\sqrt{Y/n}?的概率密度函數(shù)為:

?f_{\sqrt{Y/n}}(y) = 2nyk_n(ny^2)

由隨機(jī)變量商的概率密度函數(shù)公式及志,可得隨機(jī)變量?Z?的概率密度函數(shù)為:

?f_Z(z) = \int_{-\infty}^{\infty} 2ny^2 k_n(ny^2) \phi(zy) dy

?= (2\pi)^{- \frac{1}{2}} \Gamma(\frac{n}{2})^{-1} 2^{-\frac{n}{2} + 1} n^{\frac{n}{2}} \int_0^{\infty} y^n e^{-\frac{(n + z^2) y^2}{2}} dy

?做變量替換?\frac{(n + z^2) y^2}{2} = t片排,則有:

?= \pi^{-\frac{1}{2}} \Gamma(\frac{n}{2})^{-1} n^{\frac{n}{2}} (n+z^2)^{-\frac{n+1}{2}} \int_0^{\infty} t^{\frac{n-1}{2}} e^{-t} dt

?= (n\pi)^{- \frac{1}{2}} \Gamma (\frac{n}{2})^{-1} \Gamma (\frac{n+1}{2}) (1 + \frac{z^2}{n})^{-\frac{n+1}{2}}


2. t 分布的數(shù)字特征

由于 t 分布的概率密度函數(shù)是關(guān)于原點(diǎn)對稱的偶函數(shù),那么它的期望為 0速侈, 但僅限于自由度大于1的情況划纽。

設(shè)隨機(jī)變量 X ~ t_1,那么下面的絕對值積分為:

?\int_{-\infty}^{\infty} |x| t_1(x) dx = \pi^{-1}  \int_0^{\infty} \frac{2x}{1+x^2} dx = \infty

由于此積分發(fā)散锌畸,所以當(dāng)?t?分布的自由度為 1 時期望不存在。


根據(jù) t 分布的定義以及卡方分布的倒數(shù)的期望靖避,可得 t 分布的方差就是它的二階矩潭枣,有:

?Var(Z) = E(Z^2) = E(\frac{X^2}{Y/n})

?= n * E(X^2) * E(\frac{1}{Y}) = \frac{n}{n-2}, n> 2

即自由度為?n?的?t 分布的方差為?\frac{n}{n-2}比默,僅當(dāng)?n > 2?時成立。


三盆犁、F 分布

1. F 分布的定義

設(shè)隨機(jī)變量?X ~ \chi_n^2, Y ~ \chi_m^2命咐,X,Y相互獨(dú)立,則隨機(jī)變量?Z = \frac{Y/m}{X/n} ~ F_{m,n}谐岁,且?Z?的概率密度函數(shù)為:

?f_{m,n}(z) = m^{\frac{m}{2}} n^{\frac{n}{2}} \Gamma (\frac{n}{2})^{-1} \Gamma (\frac{m}{2})^{-1} \Gamma (\frac{m+n}{2}) z^{\frac{m}{2} - 1} (n+mz)^{-\frac{m+n}{2}}醋奠,其中?m,n?為 F 分布的自由度。

證明:

設(shè)?k_n(x), k_m(x)?分別為自由度為?n,m?的?t?分布的概率密度函數(shù)伊佃,則隨機(jī)變量 X/n, Y/m?的概率密度函數(shù)分別為:

?f_{X/n}(x) = n k_n(nx)

?f_{Y/m}(y) = m k_m(my)

由隨機(jī)變量商的概率密度函數(shù)公式窜司,可得隨機(jī)變量?Z 的概率密度函數(shù)為:

?f_Z(z) = \int_{-\infty}^{\infty} |x| f_{X/n}(x) f_{Y/m}(zx) dx

?= m^{\frac{m}{2}} n^{\frac{n}{2}} \Gamma(\frac{n}{2})^{-1} \Gamma(\frac{m}{2})^{-1} 2^{-\frac{m+n}{2}} z^{\frac{m}{2} - 1} \int_0^{\infty} x^{\frac{m+n}{2} - 1} e^{- \frac{(n + mz)x}{2}} dx

做變量替換?\frac{(n + mz)x}{2} = t,則有:

?= m^{\frac{m}{2}} n^{\frac{n}{2}} \Gamma(\frac{n}{2})^{-1} \Gamma(\frac{m}{2})^{-1} z^{\frac{m}{2} - 1} (n+mz)^{-\frac{m+n}{2}} \int_0^{\infty} t^{\frac{m+n}{2}-1} e^{-t} dt

?= m^{\frac{m}{2}} n^{\frac{n}{2}} \Gamma(\frac{n}{2})^{-1} \Gamma(\frac{m}{2})^{-1} \Gamma(\frac{m+n}{2}) z^{\frac{m}{2} - 1} (n+mz)^{-\frac{m+n}{2}}


2. F 分布的數(shù)字特征

根據(jù) F 分布的定義以及卡方分布的倒數(shù)的期望航揉,可以直接計算 F 分布的期望為:

?E(Z) = E(\frac{Y/m}{X/n}) = \frac{n}{m} E(Y) E(\frac{1}{X})

?= \frac{n}{m} \times m \times \frac{1}{n - 2} = \frac{n}{n-2}

此結(jié)果僅在分母的自由度?n > 2?時成立塞祈,當(dāng)?n = 1, 2?時,F(xiàn) 分布的期望不存在帅涂。(如何證明呢议薪?)


根據(jù) F 分布的定義以及卡方分布的倒數(shù)的平方的期望,可以得到 F 分布的二階矩為:

?E(Z^2) = \frac{n^2}{m^2} * E(Y^2) * E(\frac{1}{X^2})

?= \frac{n^2 (m+2)} {m(n-2)(n-4)}, n > 4

那么 F 分布的方差為:

?Var(Z) = E(Z^2) - E(Z)^2 = \frac{2 n^2 (m+n-2)}{m(n-2)(n-4)}

此結(jié)果僅在分母的自由度?n > 4?時成立媳友。


設(shè)?F_{m,n}(\alpha)?為自由度為?m,n?的 F 分布的 0 < \alpha < 1上分位點(diǎn)斯议,則有:

?F_{m,n}(\alpha) = F_{n,m}(1-\alpha)^{-1}

證明:

根據(jù) F 分布的定義,有:

?P(\frac{Y/m}{X/n} > F_{m,n}(\alpha)) = P( \frac{X/n}{Y/m} </p><p>?<img class=

醇锚。哼御。。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末搂抒,一起剝皮案震驚了整個濱河市艇搀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌求晶,老刑警劉巖焰雕,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異芳杏,居然都是意外死亡矩屁,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進(jìn)店門爵赵,熙熙樓的掌柜王于貴愁眉苦臉地迎上來吝秕,“玉大人,你說我怎么就攤上這事空幻∷盖停” “怎么了?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長约郁。 經(jīng)常有香客問我缩挑,道長,這世上最難降的妖魔是什么鬓梅? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任供置,我火速辦了婚禮,結(jié)果婚禮上绽快,老公的妹妹穿的比我還像新娘芥丧。我一直安慰自己,他們只是感情好坊罢,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布续担。 她就那樣靜靜地躺著,像睡著了一般艘绍。 火紅的嫁衣襯著肌膚如雪赤拒。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天诱鞠,我揣著相機(jī)與錄音挎挖,去河邊找鬼。 笑死航夺,一個胖子當(dāng)著我的面吹牛蕉朵,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播阳掐,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼始衅,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了缭保?” 一聲冷哼從身側(cè)響起汛闸,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎艺骂,沒想到半個月后诸老,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡钳恕,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年别伏,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片忧额。...
    茶點(diǎn)故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡厘肮,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出睦番,到底是詐尸還是另有隱情类茂,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站大咱,受9級特大地震影響恬涧,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜碴巾,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望丑搔。 院中可真熱鬧厦瓢,春花似錦、人聲如沸啤月。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽谎仲。三九已至浙垫,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間郑诺,已是汗流浹背夹姥。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留辙诞,地道東北人辙售。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像飞涂,于是被迫代替她去往敵國和親旦部。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容