高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 6:小樣本OLS(下:
檢驗(yàn))
此文內(nèi)容為《高級(jí)計(jì)量經(jīng)濟(jì)學(xué)及STATA應(yīng)用》的筆記,陳強(qiáng)老師著盐固,高等教育出版社出版。
我只將個(gè)人會(huì)用到的知識(shí)作了筆記,并對(duì)教材較難理解的部分做了進(jìn)一步闡述燥筷。為了更易于理解,我還對(duì)教材上的一些部分(包括代碼和正文)做了修改院崇。
僅供學(xué)習(xí)參考肆氓,請(qǐng)勿轉(zhuǎn)載,侵刪底瓣!
本文目錄:
- 3 小樣本OLS
-
3.6 對(duì)單個(gè)系數(shù)的
檢驗(yàn)
- 3.6.1 假設(shè)
- 3.6.2 假設(shè)檢驗(yàn)的基本思想
- 3.6.3 計(jì)量的第一大類檢驗(yàn):沃爾德檢驗(yàn)(Wald test)
- 3.6.4 定義
統(tǒng)計(jì)量
- 3.6.5
檢驗(yàn)和
值
- 3.6.6 犯第幾類錯(cuò)誤谢揪?
- 3.6.1 假設(shè)
-
3.6 對(duì)單個(gè)系數(shù)的
3 小樣本OLS
3.6 對(duì)單個(gè)系數(shù)的
檢驗(yàn)
3.6.1 假設(shè)
在第3.1節(jié)我們已經(jīng)知道,小樣本OLS有4個(gè)基本假定捐凭,即:
- 線性假定
- 嚴(yán)格外生性:
- 不存在多重共線性
- 球形擾動(dòng)項(xiàng):
為了統(tǒng)計(jì)推斷拨扶,在這里我們給出一個(gè)新的假定。
假定:在給定 的情況下茁肠,
的條件分布為正態(tài)分布患民,即:
由于正態(tài)分布有較好的性質(zhì):
- 密度函數(shù)完全由均值和協(xié)方差矩陣決定
- 兩個(gè)隨機(jī)變量不相關(guān)就是相互獨(dú)立
- 正態(tài)分布的線性函數(shù)依然是正態(tài)分布
所以我們作此假設(shè)(這個(gè)假設(shè)的理論基礎(chǔ)是中心極限定理)。
注意:此前已經(jīng)的假設(shè)已經(jīng)保證
的期望是
垦梆、方差是
酒奶。這個(gè)新的假設(shè)只是讓
滿足正態(tài)分布而已
3.6.2 假設(shè)檢驗(yàn)的基本思想
需要檢驗(yàn)的假設(shè)稱為“原假設(shè)
”或“零假設(shè)
”,在這里我們的零假設(shè)為 奶赔,通常
惋嚎。這個(gè)時(shí)候我們實(shí)際上檢驗(yàn)的是回歸系數(shù)是否
顯著地
不為零。
假設(shè)檢驗(yàn)是一種概率意義上的反證法站刑,即首先假設(shè)原假設(shè)
成立的前提下另伍,是否導(dǎo)致不太可能發(fā)生的小概率事件在一次抽樣中發(fā)生。如果小概率事件居然在一次抽樣實(shí)驗(yàn)中被觀測(cè)到绞旅,則說(shuō)明原假設(shè)不太可信摆尝,應(yīng)該拒絕原假設(shè),轉(zhuǎn)而接受 因悲。
3.6.3 計(jì)量的第一大類檢驗(yàn):沃爾德檢驗(yàn)(Wald test)
直觀來(lái)說(shuō)堕汞,如果未知參數(shù) 的估計(jì)值
離
較遠(yuǎn),則更應(yīng)該傾向于拒絕原假設(shè)晃琳。此類檢驗(yàn)稱為
沃爾德檢驗(yàn)
讯检。
在衡量距離時(shí)琐鲁,由于絕對(duì)距離依賴于變量的量綱,所以需要對(duì)距離進(jìn)行標(biāo)準(zhǔn)化人灼。前面已經(jīng)提到围段,在計(jì)量中,標(biāo)準(zhǔn)化的方法一般是除以標(biāo)準(zhǔn)差投放。
由于我們假設(shè) 奈泪,而前面已經(jīng)推導(dǎo)
,所以
也服從正態(tài)分布(正態(tài)分布的線性組合也是正態(tài)分布)灸芳。而且我們知道:
證明:說(shuō)實(shí)話這個(gè)前面已經(jīng)證明過(guò)的涝桅,這里復(fù)習(xí)一下好了
由于
,由期望算子的線性性烙样,必須有:
由于冯遂,由夾心估計(jì)量公式,有:
代入误阻,馬上有:
證畢。
所以晴埂,在原假設(shè) 成立的情況下究反,
的第
個(gè)分量
滿足:
其中 是
的方差。
回顧多維正態(tài)分布的協(xié)方差矩陣
的對(duì)角線元素為方差儒洛,非對(duì)角線元素為協(xié)方差
那么根據(jù)標(biāo)準(zhǔn)化公式 我們可以如法炮制:
這就是假設(shè)檢驗(yàn)的基礎(chǔ)精耐。如果我們知道總體擾動(dòng)項(xiàng)的方差,那么就可以用正態(tài)分布進(jìn)行假設(shè)檢驗(yàn)琅锻。
3.6.4 定義
統(tǒng)計(jì)量
可是我們不知道 柏酝!!
一個(gè)合格的檢驗(yàn)統(tǒng)計(jì)量應(yīng)該滿足:
- 可以通過(guò)樣本計(jì)算出來(lái)的
- 概率分布是知道的
所以我們除了估計(jì) 以外务蝠,還需要估計(jì)
碉京。這是一個(gè)俄羅斯套娃膜蛔。
不過(guò),前面我們已經(jīng)證明小樣本OLS的一個(gè)性質(zhì)是 小槐,那我們就可以用
來(lái)估計(jì)
了,你說(shuō)巧不巧荷辕。
定理:在小樣本OLS的5個(gè)基本假設(shè)下凿跳,如果 ,那么
證明:在前面我們已經(jīng)提到疮方,
分布的兩個(gè)條件分別是:
- 分子分母要獨(dú)立
我們分別證明控嗜。
由于我們知道
,所以這暗示我們要搞一個(gè)
在分母骡显,于是:
然后我們需要證明就可以了:
由于疆栏,那么
曾掂。前面已經(jīng)提到
滿足
,即
是一個(gè)
冪等矩陣
承边。那么根據(jù)以下的引理:如果
是一個(gè)冪等矩陣遭殉,而且
,那么二次型
特別地博助,如果
险污,引理就變?yōu)?
,這是顯然的
你可以理解為富岳,
是不滿秩的類單位陣
應(yīng)用上面的引理蛔糯,就有:
接下來(lái)證明和
相互獨(dú)立:我們知道,在
已經(jīng)給定的條件下窖式,
是
的函數(shù)蚁飒,而
是
的函數(shù)。所以我們只需要證明
和
相互獨(dú)立即可萝喘。
我們?cè)谇懊嬉呀?jīng)假設(shè)了
淮逻,
,故只需要證明
就可以證明它們相互獨(dú)立(正態(tài)分布的不相關(guān)就是獨(dú)立):
根據(jù)方差的方便公式(向量)阁簸,我們可以推廣到協(xié)方差的計(jì)算為(證明略):
于是:
注意到:(使用嚴(yán)格外生性假設(shè))
于是:
證畢爬早。
更一般地,如果我們要對(duì)某個(gè)所估計(jì)的參數(shù)進(jìn)行沃爾德檢驗(yàn)启妹,那么有以下的通用公式:
其實(shí)這就是沃爾德檢驗(yàn)的思想:估計(jì)量和假想值不應(yīng)該太遠(yuǎn)筛严。實(shí)際上,計(jì)量經(jīng)濟(jì)學(xué)有三大類檢驗(yàn):
- 沃爾德檢驗(yàn)
- 似然比檢驗(yàn)
- 拉格朗日乘子檢驗(yàn)
他們的用處各有不同饶米,后面會(huì)慢慢學(xué)到桨啃。
3.6.5
檢驗(yàn)和
值
計(jì)算了 統(tǒng)計(jì)量后,如果
很大檬输,則原假設(shè)
不可信照瘾。使用絕對(duì)值是因?yàn)槟愕墓烙?jì)量可以比假想值小很多,也可以比它大很多丧慈,這都不妨礙推翻原假設(shè)网杆。只要估計(jì)比離假想值足夠遠(yuǎn)就可以了。
它的基本思想是:你觀測(cè)到的估計(jì)量
偏離你的假想值
太多了伊滋,以至于它出現(xiàn)的概率很小碳却。而這么小概率的事情居然出現(xiàn)了,說(shuō)明原假設(shè) 不可信笑旺。
那這個(gè)所謂的“它出現(xiàn)的概率”是多少呢昼浦?就是 值。由于我們所計(jì)算的統(tǒng)計(jì)量(
)服從
分布筒主,所以我們也叫它
檢驗(yàn)关噪。如何從
值計(jì)算
值呢鸟蟹,它是這樣計(jì)算的:
在這里, 分布的自由度是
使兔。之所以要寫(xiě)的這么詳細(xì)建钥,是因?yàn)樵谝恍┯?jì)算機(jī)語(yǔ)言中,它給出了
分布的累積分布函數(shù)虐沥。比方說(shuō)這個(gè)函數(shù)是
def T(t, freedom):
'''
t: 要計(jì)算的t統(tǒng)計(jì)量
freedom: 自由度
'''
return T分布在t處的累積分布函數(shù)
那么你就可以通過(guò)這樣計(jì)算 值:
t = 你計(jì)算的t統(tǒng)計(jì)量
p = (1 - ( T(t, n-K) - T(-t, n-K)))*2
不過(guò)說(shuō)實(shí)話很多計(jì)算機(jī)的統(tǒng)計(jì)包都會(huì)在返回回歸結(jié)果時(shí)自動(dòng)匯報(bào)統(tǒng)計(jì)量熊经。搞這么細(xì)主要是用于開(kāi)發(fā)自己的計(jì)量工具用的。
3.6.6 犯第幾類錯(cuò)誤欲险?
統(tǒng)計(jì)學(xué)中有第I類錯(cuò)誤
和第II類錯(cuò)誤
的概念镐依。
- 第I類錯(cuò)誤:
- 第II類錯(cuò)誤:
原理上,這兩類錯(cuò)誤不可能同時(shí)減少天试。我們?cè)谶M(jìn)行假設(shè)檢驗(yàn)時(shí)槐壳,通常知道第一類錯(cuò)誤發(fā)生的概率,這也是 值的類別喜每。你只需要記孜裉啤:如果拒絕
我們可以理直氣壯,但我們并沒(méi)有把握接受
的带兜。