高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 10:大樣本OLS(下)
此文內(nèi)容為《高級(jí)計(jì)量經(jīng)濟(jì)學(xué)及STATA應(yīng)用》的筆記麻捻,陳強(qiáng)老師著篮愉,高等教育出版社出版浮创。
我只將個(gè)人會(huì)用到的知識(shí)作了筆記诊沪,并對(duì)教材較難理解的部分做了進(jìn)一步闡述养筒。為了更易于理解,我還對(duì)教材上的一些部分(包括代碼和正文)做了修改端姚。
僅供學(xué)習(xí)參考晕粪,請(qǐng)勿轉(zhuǎn)載,侵刪渐裸!
目錄
-
5 大樣本OLS
-
5.7 大樣本OLS的假定
- 5.7.1 線性假定
- 5.7.2 漸近獨(dú)立的平穩(wěn)過(guò)程
- 5.7.3 前定解釋變量
- 5.7.4 秩條件
- 5.7.5 鞅差分序列
- 5.7.6 解釋變量四階矩存在
-
5.8 OLS的大樣本性質(zhì)
- 5.8.1
為一致估計(jì)量
- 5.8.2
位漸近正態(tài)
- 5.8.3
的一致估計(jì)
- 5.8.1
-
5.9 線性假設(shè)的大樣本檢驗(yàn)
- 5.9.1 單個(gè)系數(shù)的檢驗(yàn)
- 5.9.2 線性假設(shè)的檢驗(yàn)
-
5.7 大樣本OLS的假定
5 大樣本OLS
5.7 大樣本OLS的假定
5.7.1 線性假定
5.7.2 漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程(ergodic stationarity)
維隨機(jī)過(guò)程
是漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程
5.7.3 前定解釋變量(predetermined regressors)
所有解釋變量均前定
(predetermined)巫湘,這就意味著他們與同期的擾動(dòng)項(xiàng)正交,即 昏鹃,
尚氛。由于方程通常都有常數(shù)項(xiàng),所以總可以假設(shè)
洞渤,故:
這個(gè)
的假設(shè)跟嚴(yán)格外生性
是不一樣的阅嘶,后者可以推出前者
這意味著 與同期的擾動(dòng)項(xiàng)
不相關(guān),就好像
產(chǎn)生以前载迄,
就已經(jīng)被確定了一樣讯柔,故名前定解釋變量。如果定義:
那么我們就有:
這一點(diǎn)比小樣本的嚴(yán)格外生性的要求更低护昧,因?yàn)楹笳咭? 與過(guò)去魂迄、現(xiàn)在、未來(lái)的所有
都不相關(guān)捏卓;而現(xiàn)在只要求
與現(xiàn)在的
不相關(guān)即可极祸!
5.7.4 秩條件
階矩陣
為非退化矩陣,從而
存在怠晴,這保證了
存在
5.7.5 鞅差分序列
要求 是一個(gè)鞅差分序列遥金,而且其協(xié)方差矩陣
是一個(gè)非退化矩陣。
這個(gè)假設(shè)比 5.7.3 的假設(shè)更強(qiáng)蒜田。前定解釋變量保證了 是一致估計(jì)量稿械,而鞅差分序列則進(jìn)一步地保證了其漸進(jìn)正態(tài)
5.7.6 解釋變量的四階矩存在
這是一個(gè)數(shù)學(xué)技巧的假定,不用太在意冲粤。即 美莫,
存在且有限
我們發(fā)現(xiàn)页眯,在上面的假定中,我們相比于小樣本OLS厢呵,放松了:
- 嚴(yán)格外生性 -> 前定解釋變量
- 正態(tài)隨機(jī)擾動(dòng)項(xiàng) -> 獨(dú)立平穩(wěn)窝撵、鞅差分序列
這比小樣本OLS的條件放寬了太多
5.8 OLS的大樣本性質(zhì)
為了便于使用漸近理論,我們需把估計(jì)量 寫(xiě)成
的函數(shù)襟铭。由于:
于是我們把 劃為一組碌奉,
劃為另外一組,并定義:
其中寒砖,由于數(shù)據(jù)矩陣 的結(jié)構(gòu)是:
所以 就是:
同理 就是:
5.8.1
為一致估計(jì)量
在假設(shè) 5.7.1 到 5.7.4 (不包括 是鞅差分序列的情況下)下赐劣,有:
證明:抽樣誤差可以寫(xiě)為
其中,是
的“均值”哩都。我們的目標(biāo)是證明
魁兼,所以證明的思路是分別求
和
分別依概率收斂到什么。
假定 5.7.2 意味著隨機(jī)序列
也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列漠嵌,所以根據(jù)漸進(jìn)獨(dú)立定理:
如果
漸進(jìn)獨(dú)立且平穩(wěn)咐汞,那么樣本矩依概率收斂到總體矩
假定 5.7.4 意味著
存在,所以:
另外献雅,由于是
和
的函數(shù)碉考。而
是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列,從而
也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列挺身,于是假定 5.7.3 意味著:
所以我們發(fā)現(xiàn):
于是:
證畢。
5.8.2
為漸近正態(tài)
如果把 假定5.7.3()強(qiáng)化為 假定5.7.5(
)锌仅,那么
是漸近正態(tài)分布:
其中 是
的漸近方差:
其中 是
的協(xié)方差矩陣:
證明:由于我們知道:
所以
根據(jù) 假定5.7.5 章钾,是鞅差分序列,于是根據(jù)鞅差分序列的中心極限定理热芹,我們有:
漸近獨(dú)立的平穩(wěn)的鞅差分序列
的樣本均值以
的速度依分布收斂為均值為
協(xié)方差矩陣為
的正態(tài)分布
由于
是
的線性組合贱傀,所以它也會(huì)以
的速度依分布收斂為正態(tài)分布:
根據(jù)漸近正態(tài)的定義,那么是漸近正態(tài)的伊脓。接下來(lái)我們計(jì)算
:
由于
府寒,因此:
使用夾心估計(jì)量,
那么在時(shí)报腔,
和
分別收斂:
由于是對(duì)稱陣,所以
纯蛾,于是:
證畢纤房。
我們發(fā)現(xiàn),在這里不需要假設(shè)擾動(dòng)項(xiàng)服從正態(tài)分布翻诉。這里的思路是:
- 我們假設(shè)
是漸近獨(dú)立的平穩(wěn)的鞅差分序列(假定5.7.5)
- 那么
依分布收斂到正態(tài)分布(鞅差分序列的中心極限定理)(這里是正態(tài)分布的來(lái)源)
- 建立起
與的
線性關(guān)系炮姨,那么
也依分布收斂到正態(tài)分布(正態(tài)分布的線性組合也是正態(tài)分布)(把要證明的目標(biāo)綁到一個(gè)正態(tài)分布上)
-
也依分布收斂到正態(tài)分布本身就是
漸近正態(tài)的定義
- 下一步要計(jì)算
的方差
- 使用夾心估計(jì)量捌刮,并在
分別收斂
- 得證
5.8.3
的一致估計(jì)
如果存在 是
的一致估計(jì)量,那么
是
的一致估計(jì)舒岸,即:
證明:如果存在
绅作,已知
,那么很自然地就有:
證畢蛾派。
為了求解 的一致估計(jì)量俄认,我們要運(yùn)用 假定5.7.6 ,從而可以證明(這個(gè)證明比較難碍脏,略):
即 是
的一致估計(jì)量梭依,其中
為最小二乘法的殘差〉湮玻可以進(jìn)一步證明
是
的一致估計(jì)役拴。
性質(zhì): 是無(wú)條件方差
的一致估計(jì)量
證明:由有關(guān)消滅矩陣的知識(shí)(見(jiàn)《高級(jí)計(jì)量5》3.3):
繼續(xù)計(jì)算下去:
由于我們知道:
其中,第二個(gè)等式運(yùn)用了是漸近獨(dú)立的平穩(wěn)列钾埂。 對(duì)
求
就有:
即是
的一致估計(jì)量河闰。
證畢。
5.9 線性假設(shè)的大樣本檢驗(yàn)
5.9.1 單個(gè)系數(shù)的檢驗(yàn)
在原假設(shè) 成立的條件下褥紫,我們有:
其中姜性, 是
的第
個(gè)元素,而
是協(xié)方差矩陣
的第
個(gè)元素髓考。由于
我們是未知的部念,所以考慮用它的一致估計(jì)
來(lái)替代它。那么我們可以定義
統(tǒng)計(jì)量為:
注意氨菇,雖然叫
統(tǒng)計(jì)量儡炼,實(shí)際上服從的是漸近正態(tài)!
這里的思想是簡(jiǎn)單的查蓉,回憶對(duì)任意 乌询,都有
,其實(shí)兩者的結(jié)構(gòu)是一樣的豌研。
當(dāng)然妹田,為了便于描述,我們可以對(duì) 做進(jìn)一步變形:
那么我們就定義:
為異方差穩(wěn)健的標(biāo)準(zhǔn)誤
(heteroskedasticiry-consistent standard erros)鹃共,簡(jiǎn)稱穩(wěn)健的標(biāo)準(zhǔn)誤(robust standard errors)鬼佣。之所以這么稱呼,是因?yàn)橥茖?dǎo)的過(guò)程中沒(méi)有用到條件同方差的假定及汉,所以在條件異方差下也能用沮趣。
性質(zhì):可以證明,在條件同方差的假設(shè)下坷随,穩(wěn)健的標(biāo)準(zhǔn)誤退化為普通標(biāo)準(zhǔn)誤
證明:如果假設(shè)
(條件同方差)房铭,那么使用迭代期望定律:
我們發(fā)現(xiàn)驻龟,
,所以:
于是:
寫(xiě)這么多
一方面是為了裝逼
但更重要的是讓你看明白這個(gè)代換是怎么來(lái)的??
一定一定不要錯(cuò)過(guò)
的細(xì)節(jié)缸匪!
于是:
所以:
這就是普通的標(biāo)準(zhǔn)誤了證畢翁狐。
5.9.2 線性假設(shè)的檢驗(yàn)
思路與小樣本OLS是類似的,對(duì)零假設(shè) 凌蔬,我們實(shí)際上要衡量
與
的距離露懒。可以證明砂心,統(tǒng)計(jì)量
滿足:
證明:令
懈词,令
,那么現(xiàn)在
如果
成立辩诞,那么
由于我們知道坎弯,而
是
的線性組合,所以
也是依分布收斂于正態(tài)分布的译暂。而且:
設(shè)驯绎,從而在
時(shí):
定義健爬,由于
抑党,所以
于是:
證畢匙铡。