高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 10:大樣本OLS(下)
此文內(nèi)容為《高級(jí)計(jì)量經(jīng)濟(jì)學(xué)及STATA應(yīng)用》的筆記麻捻,陳強(qiáng)老師著篮愉,高等教育出版社出版浮创。
我只將個(gè)人會(huì)用到的知識(shí)作了筆記诊沪,并對(duì)教材較難理解的部分做了進(jìn)一步闡述养筒。為了更易于理解,我還對(duì)教材上的一些部分(包括代碼和正文)做了修改端姚。
僅供學(xué)習(xí)參考晕粪,請(qǐng)勿轉(zhuǎn)載,侵刪渐裸!
目錄
-
5 大樣本OLS
-
5.7 大樣本OLS的假定
- 5.7.1 線性假定
- 5.7.2 漸近獨(dú)立的平穩(wěn)過(guò)程
- 5.7.3 前定解釋變量
- 5.7.4 秩條件
- 5.7.5 鞅差分序列
- 5.7.6 解釋變量四階矩存在
-
5.8 OLS的大樣本性質(zhì)
- 5.8.1 為一致估計(jì)量
- 5.8.2 位漸近正態(tài)
- 5.8.3 的一致估計(jì)
-
5.9 線性假設(shè)的大樣本檢驗(yàn)
- 5.9.1 單個(gè)系數(shù)的檢驗(yàn)
- 5.9.2 線性假設(shè)的檢驗(yàn)
-
5.7 大樣本OLS的假定
5 大樣本OLS
5.7 大樣本OLS的假定
5.7.1 線性假定
5.7.2 漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程(ergodic stationarity)
維隨機(jī)過(guò)程 是漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程
5.7.3 前定解釋變量(predetermined regressors)
所有解釋變量均前定
(predetermined)巫湘,這就意味著他們與同期的擾動(dòng)項(xiàng)正交,即 昏鹃, 尚氛。由于方程通常都有常數(shù)項(xiàng),所以總可以假設(shè) 洞渤,故:
這個(gè) 的假設(shè)跟嚴(yán)格外生性 是不一樣的阅嘶,后者可以推出前者
這意味著 與同期的擾動(dòng)項(xiàng) 不相關(guān),就好像 產(chǎn)生以前载迄, 就已經(jīng)被確定了一樣讯柔,故名前定解釋變量。如果定義:
那么我們就有:
這一點(diǎn)比小樣本的嚴(yán)格外生性的要求更低护昧,因?yàn)楹笳咭? 與過(guò)去魂迄、現(xiàn)在、未來(lái)的所有 都不相關(guān)捏卓;而現(xiàn)在只要求 與現(xiàn)在的 不相關(guān)即可极祸!
5.7.4 秩條件
階矩陣 為非退化矩陣,從而 存在怠晴,這保證了 存在
5.7.5 鞅差分序列
要求 是一個(gè)鞅差分序列遥金,而且其協(xié)方差矩陣
是一個(gè)非退化矩陣。
這個(gè)假設(shè)比 5.7.3 的假設(shè)更強(qiáng)蒜田。前定解釋變量保證了 是一致估計(jì)量稿械,而鞅差分序列則進(jìn)一步地保證了其漸進(jìn)正態(tài)
5.7.6 解釋變量的四階矩存在
這是一個(gè)數(shù)學(xué)技巧的假定,不用太在意冲粤。即 美莫, 存在且有限
我們發(fā)現(xiàn)页眯,在上面的假定中,我們相比于小樣本OLS厢呵,放松了:
- 嚴(yán)格外生性 -> 前定解釋變量
- 正態(tài)隨機(jī)擾動(dòng)項(xiàng) -> 獨(dú)立平穩(wěn)窝撵、鞅差分序列
這比小樣本OLS的條件放寬了太多
5.8 OLS的大樣本性質(zhì)
為了便于使用漸近理論,我們需把估計(jì)量 寫(xiě)成 的函數(shù)襟铭。由于:
于是我們把 劃為一組碌奉, 劃為另外一組,并定義:
其中寒砖,由于數(shù)據(jù)矩陣 的結(jié)構(gòu)是:
所以 就是:
同理 就是:
5.8.1 為一致估計(jì)量
在假設(shè) 5.7.1 到 5.7.4 (不包括 是鞅差分序列的情況下)下赐劣,有:
證明:抽樣誤差可以寫(xiě)為
其中, 是 的“均值”哩都。我們的目標(biāo)是證明 魁兼,所以證明的思路是分別求 和 分別依概率收斂到什么。假定 5.7.2 意味著隨機(jī)序列 也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列漠嵌,所以根據(jù)漸進(jìn)獨(dú)立定理:
如果 漸進(jìn)獨(dú)立且平穩(wěn)咐汞,那么樣本矩依概率收斂到總體矩
假定 5.7.4 意味著 存在,所以:
另外献雅,由于 是 和 的函數(shù)碉考。而 是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列,從而 也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列挺身,于是假定 5.7.3 意味著:
所以我們發(fā)現(xiàn):
于是:
證畢。
5.8.2 為漸近正態(tài)
如果把 假定5.7.3()強(qiáng)化為 假定5.7.5()锌仅,那么 是漸近正態(tài)分布:
其中 是 的漸近方差:
其中 是 的協(xié)方差矩陣:
證明:由于我們知道:
所以
根據(jù) 假定5.7.5 章钾, 是鞅差分序列,于是根據(jù)鞅差分序列的中心極限定理热芹,我們有:漸近獨(dú)立的平穩(wěn)的鞅差分序列 的樣本均值以 的速度依分布收斂為均值為 協(xié)方差矩陣為 的正態(tài)分布
由于 是 的線性組合贱傀,所以它也會(huì)以 的速度依分布收斂為正態(tài)分布:
根據(jù)漸近正態(tài)的定義,那么 是漸近正態(tài)的伊脓。接下來(lái)我們計(jì)算 :由于 府寒,因此:
使用夾心估計(jì)量,
那么在 時(shí)报腔, 和 分別收斂:
由于 是對(duì)稱陣,所以 纯蛾,于是:
證畢纤房。
我們發(fā)現(xiàn),在這里不需要假設(shè)擾動(dòng)項(xiàng)服從正態(tài)分布翻诉。這里的思路是:
- 我們假設(shè) 是漸近獨(dú)立的平穩(wěn)的鞅差分序列(假定5.7.5)
- 那么 依分布收斂到正態(tài)分布(鞅差分序列的中心極限定理)(這里是正態(tài)分布的來(lái)源)
- 建立起 與的 線性關(guān)系炮姨,那么 也依分布收斂到正態(tài)分布(正態(tài)分布的線性組合也是正態(tài)分布)(把要證明的目標(biāo)綁到一個(gè)正態(tài)分布上)
- 也依分布收斂到正態(tài)分布本身就是 漸近正態(tài)的定義
- 下一步要計(jì)算 的方差
- 使用夾心估計(jì)量捌刮,并在 分別收斂
- 得證
5.8.3 的一致估計(jì)
如果存在 是 的一致估計(jì)量,那么 是 的一致估計(jì)舒岸,即:
證明:如果存在 绅作,已知 ,那么很自然地就有:
證畢蛾派。
為了求解 的一致估計(jì)量俄认,我們要運(yùn)用 假定5.7.6 ,從而可以證明(這個(gè)證明比較難碍脏,略):
即 是 的一致估計(jì)量梭依,其中 為最小二乘法的殘差〉湮玻可以進(jìn)一步證明 是 的一致估計(jì)役拴。
性質(zhì): 是無(wú)條件方差 的一致估計(jì)量
證明:由有關(guān)消滅矩陣的知識(shí)(見(jiàn)《高級(jí)計(jì)量5》3.3):
繼續(xù)計(jì)算下去:
由于我們知道:
其中,第二個(gè)等式運(yùn)用了 是漸近獨(dú)立的平穩(wěn)列钾埂。 對(duì) 求 就有:
即 是 的一致估計(jì)量河闰。證畢。
5.9 線性假設(shè)的大樣本檢驗(yàn)
5.9.1 單個(gè)系數(shù)的檢驗(yàn)
在原假設(shè) 成立的條件下褥紫,我們有:
其中姜性, 是 的第 個(gè)元素,而 是協(xié)方差矩陣 的第 個(gè)元素髓考。由于 我們是未知的部念,所以考慮用它的一致估計(jì) 來(lái)替代它。那么我們可以定義 統(tǒng)計(jì)量為:
注意氨菇,雖然叫 統(tǒng)計(jì)量儡炼,實(shí)際上服從的是漸近正態(tài)!
這里的思想是簡(jiǎn)單的查蓉,回憶對(duì)任意 乌询,都有 ,其實(shí)兩者的結(jié)構(gòu)是一樣的豌研。
當(dāng)然妹田,為了便于描述,我們可以對(duì) 做進(jìn)一步變形:
那么我們就定義:
為異方差穩(wěn)健的標(biāo)準(zhǔn)誤
(heteroskedasticiry-consistent standard erros)鹃共,簡(jiǎn)稱穩(wěn)健的標(biāo)準(zhǔn)誤(robust standard errors)鬼佣。之所以這么稱呼,是因?yàn)橥茖?dǎo)的過(guò)程中沒(méi)有用到條件同方差的假定及汉,所以在條件異方差下也能用沮趣。
性質(zhì):可以證明,在條件同方差的假設(shè)下坷随,穩(wěn)健的標(biāo)準(zhǔn)誤退化為普通標(biāo)準(zhǔn)誤
證明:如果假設(shè) (條件同方差)房铭,那么使用迭代期望定律:
我們發(fā)現(xiàn) 驻龟, ,所以:
于是:
寫(xiě)這么多 一方面是為了裝逼
但更重要的是讓你看明白這個(gè)代換是怎么來(lái)的??
一定一定不要錯(cuò)過(guò) 的細(xì)節(jié)缸匪!
于是:
所以:
這就是普通的標(biāo)準(zhǔn)誤了證畢翁狐。
5.9.2 線性假設(shè)的檢驗(yàn)
思路與小樣本OLS是類似的,對(duì)零假設(shè) 凌蔬,我們實(shí)際上要衡量 與 的距離露懒。可以證明砂心,統(tǒng)計(jì)量 滿足:
證明:令 懈词,令 ,那么現(xiàn)在
如果 成立辩诞,那么
由于我們知道 坎弯,而 是 的線性組合,所以 也是依分布收斂于正態(tài)分布的译暂。而且:
設(shè) 驯绎,從而在 時(shí):
定義 健爬,由于 抑党,所以于是:
證畢匙铡。