高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 10:大樣本OLS(下)

高級(jí)計(jì)量經(jīng)濟(jì)學(xué) 10:大樣本OLS(下)

此文內(nèi)容為《高級(jí)計(jì)量經(jīng)濟(jì)學(xué)及STATA應(yīng)用》的筆記麻捻,陳強(qiáng)老師著篮愉,高等教育出版社出版浮创。

我只將個(gè)人會(huì)用到的知識(shí)作了筆記诊沪,并對(duì)教材較難理解的部分做了進(jìn)一步闡述养筒。為了更易于理解,我還對(duì)教材上的一些部分(包括代碼和正文)做了修改端姚。

僅供學(xué)習(xí)參考晕粪,請(qǐng)勿轉(zhuǎn)載,侵刪渐裸!


目錄

  • 5 大樣本OLS
    • 5.7 大樣本OLS的假定
      • 5.7.1 線性假定
      • 5.7.2 漸近獨(dú)立的平穩(wěn)過(guò)程
      • 5.7.3 前定解釋變量
      • 5.7.4 秩條件
      • 5.7.5 鞅差分序列
      • 5.7.6 解釋變量四階矩存在
    • 5.8 OLS的大樣本性質(zhì)
      • 5.8.1 \pmb b 為一致估計(jì)量
      • 5.8.2 \pmb b 位漸近正態(tài)
      • 5.8.3 {\rm Avar}(\pmb b) 的一致估計(jì)
    • 5.9 線性假設(shè)的大樣本檢驗(yàn)
      • 5.9.1 單個(gè)系數(shù)的檢驗(yàn)
      • 5.9.2 線性假設(shè)的檢驗(yàn)

\S \text{ 第 5 章 } \S

\text{大樣本OLS}


5 大樣本OLS

5.7 大樣本OLS的假定

5.7.1 線性假定

y_i = \pmb x_i^\prime \pmb \beta + \varepsilon_i

5.7.2 漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程(ergodic stationarity)

(K+1) 維隨機(jī)過(guò)程 \{y_i,\pmb x_i\} 是漸進(jìn)獨(dú)立的平穩(wěn)過(guò)程

5.7.3 前定解釋變量(predetermined regressors)

所有解釋變量均前定(predetermined)巫湘,這就意味著他們與同期的擾動(dòng)項(xiàng)正交,即 {\rm E}(x_{ik}\varepsilon_i)=0昏鹃,\forall i,k 尚氛。由于方程通常都有常數(shù)項(xiàng),所以總可以假設(shè) {\rm E}(\varepsilon_i)=0 洞渤,故:
{\rm Cov}(x_{ik}\varepsilon_i) = {\rm E}(x_{ik}\varepsilon_i) - {\rm E}(x_{ik})\underbrace{{\rm E}(\varepsilon_i)}_{=0} = 0 - 0 = 0

這個(gè) {\rm E}(\varepsilon_i)=0 的假設(shè)跟嚴(yán)格外生性 {\rm E}(\varepsilon_i|{\bf X})=0 是不一樣的阅嘶,后者可以推出前者

這意味著 x_{ik} 與同期的擾動(dòng)項(xiàng) \varepsilon_i 不相關(guān),就好像 \varepsilon_i 產(chǎn)生以前载迄, x_{ik} 就已經(jīng)被確定了一樣讯柔,故名前定解釋變量。如果定義:
\pmb g_i \equiv \pmb x_i \varepsilon_i = \left( \begin{array}{c} x_{i1} \\ \vdots\\x_{iK} \end{array} \right) \varepsilon_i
那么我們就有:
{\rm E}(\pmb g_i) \equiv {\rm E}(\pmb x_i \varepsilon_i)= \pmb 0
這一點(diǎn)比小樣本的嚴(yán)格外生性的要求更低护昧,因?yàn)楹笳咭?\varepsilon_i 與過(guò)去魂迄、現(xiàn)在、未來(lái)的所有 \pmb x_j,\forall j = 1,\cdots,n 都不相關(guān)捏卓;而現(xiàn)在只要求 \varepsilon_i 與現(xiàn)在的 \pmb x_i 不相關(guān)即可极祸!

5.7.4 秩條件

K \times K 階矩陣 {\rm E}(\pmb x_i \pmb x_i^\prime) 為非退化矩陣,從而 \left[{\rm E}(\pmb x_i \pmb x_i^\prime)\right]^{-1} 存在怠晴,這保證了 \pmb S_{XX}^{-1} 存在

5.7.5 鞅差分序列

要求 \pmb g_i 是一個(gè)鞅差分序列遥金,而且其協(xié)方差矩陣
\pmb S \equiv {\rm Cov}(\pmb g_i) \equiv{\rm E}(\pmb g_i \pmb g_i^\prime)-\underbrace{{\rm E}(\pmb g_i){\rm E}(\pmb g_i^\prime)}_{=\pmb 0} = {\rm E}(\varepsilon^2_i\pmb x_i \pmb x_i^\prime)
是一個(gè)非退化矩陣。

這個(gè)假設(shè)比 5.7.3 的假設(shè)更強(qiáng)蒜田。前定解釋變量保證了 \pmb b 是一致估計(jì)量稿械,而鞅差分序列則進(jìn)一步地保證了其漸進(jìn)正態(tài)

5.7.6 解釋變量的四階矩存在

這是一個(gè)數(shù)學(xué)技巧的假定,不用太在意冲粤。即\forall i,j,k 美莫, {\rm E}[x_{ik}x_{ij}] 存在且有限

我們發(fā)現(xiàn)页眯,在上面的假定中,我們相比于小樣本OLS厢呵,放松了:

  • 嚴(yán)格外生性 -> 前定解釋變量
  • 正態(tài)隨機(jī)擾動(dòng)項(xiàng) -> 獨(dú)立平穩(wěn)窝撵、鞅差分序列

這比小樣本OLS的條件放寬了太多


5.8 OLS的大樣本性質(zhì)

為了便于使用漸近理論,我們需把估計(jì)量 \pmb b 寫(xiě)成 \{y_i, \pmb x_i\} 的函數(shù)襟铭。由于:
\pmb b = ({\bf X'X})^{-1}{\bf X'}\pmb y
于是我們把 {\bf X'X} 劃為一組碌奉,{\bf X}'\pmb y 劃為另外一組,并定義:
\pmb b = \left(\frac{{\bf X'X}}{n}\right)^{-1} \frac{{\bf X'}\pmb y}{n} = \pmb S_{XX}^{-1} S_{Xy}
其中寒砖,由于數(shù)據(jù)矩陣 \bf X 的結(jié)構(gòu)是:
{\bf X} \equiv \left( \begin{array}{c} \pmb x_1^\prime \\ \pmb x_2^\prime \\ \vdots\\\pmb x_n^\prime \end{array} \right)
所以 \pmb S_{XX} 就是:
\pmb S_{XX} \equiv \frac{1}{n} {\bf X'X} = \frac{1}{n} (\pmb x_1 \cdots \pmb x_n) \cdot \left( \begin{array}{c} \pmb x_1^\prime \\ \vdots\\\pmb x_n^\prime \end{array} \right) = \frac{1}{n} \sum_{i=1}^n \pmb x_i \pmb x_i^\prime
同理 \pmb S_{Xy} 就是:
\pmb S_{Xy} \equiv \frac{1}{n} {\bf X}^\prime \pmb y =\frac{1}{n} (\pmb x_1 \cdots \pmb x_n) \cdot \left( \begin{array}{c} y_1 \\ \vdots\\ y_n \end{array} \right) =\frac{1}{n} \sum_{i=1}^n \pmb x_i y_i

5.8.1 \pmb b 為一致估計(jì)量

在假設(shè) 5.7.1 到 5.7.4 (不包括 \pmb g_i 是鞅差分序列的情況下)下赐劣,有:
\mathop{\rm plim}\limits_{n \to \infty} \pmb b = \pmb \beta

證明:抽樣誤差可以寫(xiě)為
\pmb b - \pmb \beta = A \pmb \varepsilon = ({\bf X'X})^{-1}{\bf X'}\pmb \varepsilon = \left(\frac{\sum\limits_{i=1}^n \pmb x_i \pmb x_i^\prime}{n}\right)^{-1} \frac{{\bf X'}\pmb \varepsilon}{n} = \pmb S_{XX}^{-1} \bar{\pmb g}
其中, \bar{\pmb g} = \frac{{\bf X'}\pmb \varepsilon}{n}\pmb g = (\pmb g_1 \cdots \pmb g_n) 的“均值”哩都。我們的目標(biāo)是證明 \pmb S_{XX}^{-1} \bar{\pmb g} \stackrel{p}\longrightarrow \pmb 0 魁兼,所以證明的思路是分別求 \pmb S_{XX}^{-1}\bar{\pmb g} 分別依概率收斂到什么

假定 5.7.2 意味著隨機(jī)序列 \{\pmb x_i \pmb x_i^\prime\} 也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列漠嵌,所以根據(jù)漸進(jìn)獨(dú)立定理:

如果 \{x_i\}_{i=1}^\infty 漸進(jìn)獨(dú)立且平穩(wěn)咐汞,那么樣本矩依概率收斂到總體矩

\pmb S_{XX} \equiv \frac{1}{n} \sum_{i=1}^n \pmb x_i \pmb x_i^\prime \stackrel{p}\longrightarrow {\rm E}(\pmb x_i \pmb x_i^\prime )

假定 5.7.4 意味著 \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1} 存在,所以:
\pmb S_{XX}^{-1} \stackrel{p}\longrightarrow \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1}
另外献雅,由于 \pmb g_i \equiv \pmb x_i\varepsilon_i = \pmb x_i - (y_i - \pmb x_i \pmb \beta)\pmb x_iy_i 的函數(shù)碉考。而 \{y_i, \pmb x_i\} 是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列,從而 \{\pmb g_i\}_{i=1}^\infty 也是一個(gè)漸進(jìn)獨(dú)立的平穩(wěn)序列挺身,于是假定 5.7.3 意味著:
\bar{\pmb g} \equiv \frac{1}{n}\sum_{i=1}^n \pmb g_i \stackrel{p}\longrightarrow {\rm E}(\pmb g_i) \equiv {\rm E}(\pmb x_i \varepsilon_i)= \pmb 0
所以我們發(fā)現(xiàn):
\pmb b - \pmb \beta = \pmb S_{XX}^{-1} \bar{\pmb g} \stackrel{p}\longrightarrow \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1} \cdot \pmb 0 = \pmb 0
于是:
\mathop{\rm plim}\limits_{n \to \infty} (\pmb b -\pmb \beta) = \pmb 0 \Rightarrow \mathop{\rm plim}\limits_{n \to \infty} \pmb b =\pmb \beta
證畢

5.8.2 \pmb b 為漸近正態(tài)

如果把 假定5.7.3{\rm E}(\pmb g_i) = 0)強(qiáng)化為 假定5.7.5\{\pmb g_i\}是\rm MDS)锌仅,那么 \pmb b 是漸近正態(tài)分布:
\sqrt{n}(\pmb b - \pmb \beta) \stackreltrzzptt\longrightarrow N(0,{\rm Avar}(\pmb b))
其中 {\rm Avar}(\pmb b)\pmb b 的漸近方差:
{\rm Avar}(\pmb b) = \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1} \pmb S \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1}
其中 \pmb S\pmb g_i 的協(xié)方差矩陣:
\pmb S \equiv {\rm Cov}(\pmb g_i) \equiv{\rm E}(\pmb g_i \pmb g_i^\prime)-\underbrace{{\rm E}(\pmb g_i){\rm E}(\pmb g_i^\prime)}_{=\pmb 0} = {\rm E}(\varepsilon^2_i\pmb x_i \pmb x_i^\prime)

證明:由于我們知道:
\pmb{b-\beta} = \pmb S_{XX}^{-1} \bar{\pmb g}
所以
\sqrt{n}(\pmb{b-\beta}) = \pmb S_{XX}^{-1}(\sqrt{n} \bar{\pmb g})
根據(jù) 假定5.7.5 章钾,\pmb g_i 是鞅差分序列,于是根據(jù)鞅差分序列的中心極限定理热芹,我們有:

漸近獨(dú)立平穩(wěn)鞅差分序列 \{\pmb g_i\}_{i=1}^\infty樣本均值\sqrt{n} 的速度依分布收斂為均值為 \pmb 0 協(xié)方差矩陣為 {\rm Cov}(\pmb g_i) 的正態(tài)分布

\bar{\pmb g} = \frac{1}{n}\sum_{i=1}^n \pmb g_i \Rightarrow \sqrt{n} \bar{\pmb g} \stackrel11trfdp\longrightarrow N(\pmb 0,\pmb S)

由于 \sqrt{n}(\pmb{b-\beta}) = \pmb S_{XX}^{-1}(\sqrt{n} \bar{\pmb g})\sqrt{n} \bar{\pmb g} 的線性組合贱傀,所以它也會(huì)以 \sqrt{n} 的速度依分布收斂為正態(tài)分布:
\sqrt{n}(\pmb{b-\beta}) = \pmb S_{XX}^{-1}(\sqrt{n} \bar{\pmb g}) \stackrel9t5bfhr\longrightarrow N(\pmb0,{\rm Avar}(\pmb b))
根據(jù)漸近正態(tài)的定義,那么 \sqrt{n}(\pmb{b-\beta}) 是漸近正態(tài)的伊脓。接下來(lái)我們計(jì)算 {\rm Avar}(\pmb b)

由于 \sqrt{n}(\pmb{b-\beta}) = \pmb S_{XX} (\sqrt{n}\bar{\pmb g}) 府寒,因此:
{\rm Avar}(\pmb b) = {\rm Var}\left[\sqrt{n}(\pmb{b-\beta})\right] = {\rm Var}\left[(\pmb S_{XX}(\sqrt{n}\bar{\pmb g})\right]
使用夾心估計(jì)量,
{\rm Var}\left[(\pmb S_{XX}(\sqrt{n}\bar{\pmb g})\right]) = \pmb S_{XX} {\rm Var}(\sqrt{n}\bar{\pmb g}) \pmb S_{XX}^\prime
那么在 n\to \infty 時(shí)报腔,\pmb S_{XX}{\rm Var}(\sqrt{n}\bar{\pmb g}) 分別收斂:
{\rm Avar}(\pmb株搔) = {\rm E}(\pmb x_i \pmb x_i^\prime ) S [{\rm E}(\pmb x_i \pmb x_i^\prime )]^\prime
由于 {\rm E}(\pmb x_i \pmb x_i^\prime ) 是對(duì)稱陣,所以 [{\rm E}(\pmb x_i \pmb x_i^\prime )]^\prime = {\rm E}(\pmb x_i \pmb x_i^\prime ) 纯蛾,于是:
\sqrt{n}(\pmb b - \pmb \beta) \stackrel1l7fd1n\longrightarrow N(0,{\rm E}(\pmb x_i \pmb x_i^\prime ) \cdot\pmb S \cdot {\rm E}(\pmb x_i \pmb x_i^\prime ))
證畢纤房。

我們發(fā)現(xiàn),在這里不需要假設(shè)擾動(dòng)項(xiàng)服從正態(tài)分布翻诉。這里的思路是:

  • 我們假設(shè) \pmb g_i = \pmb x_i \varepsilon_i 是漸近獨(dú)立的平穩(wěn)的鞅差分序列(假定5.7.5
  • 那么 \sqrt{n}\bar{\pmb g} 依分布收斂到正態(tài)分布(鞅差分序列的中心極限定理)(這里是正態(tài)分布的來(lái)源)
  • 建立起 \sqrt{n}\pmb(b-\beta) 與的 \sqrt{n}\bar{\pmb g} 線性關(guān)系炮姨,那么 \sqrt{n}\pmb(b-\beta) 也依分布收斂到正態(tài)分布(正態(tài)分布的線性組合也是正態(tài)分布)(把要證明的目標(biāo)綁到一個(gè)正態(tài)分布上)
  • \sqrt{n}\pmb(b-\beta) 也依分布收斂到正態(tài)分布本身就是 \pmb b 漸近正態(tài)的定義
  • 下一步要計(jì)算 \sqrt{n}\pmb(b-\beta) 的方差
  • 使用夾心估計(jì)量捌刮,并在 n\to \infty 分別收斂
  • 得證

5.8.3 {\rm Avar}(\pmb b) 的一致估計(jì)

如果存在 \hat{\pmb S}\pmb S 的一致估計(jì)量,那么 \pmb S_{XX}^{-1} \hat{\pmb S} \pmb S_{XX}^{-1}{\rm Avar}(\pmb b) 的一致估計(jì)舒岸,即:
\mathop{\rm plim}\limits_{n \to \infty} \widehat{{\rm Avar}}(\pmb b) = \mathop{\rm plim}\limits_{n \to \infty} \pmb S_{XX}^{-1} \hat{\pmb S} \pmb S_{XX}^{-1} = {\rm Avar}(\pmb b)

證明:如果存在 \hat{\pmb S} \stackrel{p}\longrightarrow \pmb S 绅作,已知 \pmb S_{XX}^{-1} \equiv \frac{1}{n} \sum_{i=1}^n \pmb x_i \pmb x_i^\prime \stackrel{p}\longrightarrow \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1} ,那么很自然地就有:
\pmb S_{XX}^{-1} \hat{\pmb S} \pmb S_{XX}^{-1} \stackrel{p}\longrightarrow \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1} \pmb S \left[{\rm E}(\pmb x_i \pmb x_i^\prime )\right]^{-1}
證畢蛾派。

為了求解 \pmb S 的一致估計(jì)量俄认,我們要運(yùn)用 假定5.7.6 ,從而可以證明(這個(gè)證明比較難碍脏,略):
\mathop{\rm plim}\limits_{n \to \infty}\hat{\pmb S} = \mathop{\rm plim}\limits_{n \to \infty}\frac{1}{n}\sum_{i=1}^n e_i^2\pmb x_i \pmb x_i^\prime = {\rm E}(\varepsilon^2_i\pmb x_i \pmb x_i^\prime)=\pmb S
\hat{\pmb S}\pmb S 的一致估計(jì)量梭依,其中 \{e_i\}_{i=1}^n 為最小二乘法的殘差〉湮玻可以進(jìn)一步證明 s^2\sigma^2 的一致估計(jì)役拴。

性質(zhì)s^2 是無(wú)條件方差 {\rm E}(\varepsilon^2_i)=\sigma^2 的一致估計(jì)量

證明:由有關(guān)消滅矩陣的知識(shí)(見(jiàn)《高級(jí)計(jì)量5》3.3):
s^2 \equiv \frac{\pmb{e'e}}{n-K} = \frac{\pmb{\varepsilon'M\varepsilon}}{n-K} = \frac{\pmb{\varepsilon}^\prime \left[{\bf I}_n - {\bf X(X'X)^{-1}X'}\right] \pmb{\varepsilon}}{n-K}
繼續(xù)計(jì)算下去:
\begin{split} 原式 &= \frac{1}{n-K} \left[\pmb{\varepsilon}^\prime \pmb{\varepsilon} - \pmb{\varepsilon}^\prime {\bf X(X'X)^{-1}X'}\pmb{\varepsilon} \right]\\ 提一個(gè)n出來(lái)&=\frac{n}{n-K} \left[\frac{\pmb{\varepsilon}^\prime \pmb{\varepsilon}}{n} - \frac{\pmb{\varepsilon}^\prime {\bf X}}{n} \left(\frac{\bf X'X}{n}\right)^{-1} \frac{{\bf X'}\pmb{\varepsilon}}{n} \right]\\ 用定義&=\frac{n}{n-K}\left[ \frac{1}{n} \sum_{i=1}^n \varepsilon^2 - \bar{\pmb g}^\prime \pmb S_{XX}^{-1} \bar{\pmb g}\right] \quad (\star) \end{split}
由于我們知道:
\mathop{\rm plim}\limits_{n \to \infty} \frac{n}{n-K} = 1 ,\quad \mathop{\rm plim}\limits_{n \to \infty} \frac{1}{n} \sum_{i=1}^n \varepsilon_i^2 = {\rm E}(\sigma^2), \quad \mathop{\rm plim}\limits_{n \to \infty} \bar{\pmb g}^\prime \pmb S_{XX}^{-1} \bar{\pmb g} = \pmb 0 \cdot {\rm E}(\pmb x_i \pmb x_i^\prime ) \cdot \pmb 0 = 0
其中,第二個(gè)等式運(yùn)用了 \{\varepsilon_i\}_{i=1}^n 是漸近獨(dú)立的平穩(wěn)列钾埂。 對(duì) (\star)n \to \infty 就有:
\mathop{\rm plim}\limits_{n \to \infty} s^2 = \mathop{\rm plim}\limits_{n \to \infty} \frac{n}{n-K}\left[ \frac{1}{n} \sum_{i=1}^n \varepsilon^2 - \bar{\pmb g}^\prime \pmb S_{XX}^{-1} \bar{\pmb g}\right] = 1 \cdot \left[ \sigma^2 - 0 \right] = \sigma^2
s^2\sigma^2 的一致估計(jì)量河闰。

證畢


5.9 線性假設(shè)的大樣本檢驗(yàn)

5.9.1 單個(gè)系數(shù)的檢驗(yàn)

在原假設(shè) H_0:\beta_k = \bar{\beta}_k 成立的條件下褥紫,我們有:
\sqrt{n}(b_k - \bar\beta)k \stackrelpb9x9pb\longrightarrow N(0,{\rm Avar}(b_k))
其中姜性,b_k\pmb b 的第 k 個(gè)元素,而 {\rm Avar}(b_k) 是協(xié)方差矩陣 {\rm Avar}(\pmb b) 的第 (k,k) 個(gè)元素髓考。由于 {\rm Avar}(\pmb b) 我們是未知的部念,所以考慮用它的一致估計(jì) \widehat{\rm Avar}(\pmb b) \stackrel{p}\longrightarrow {\rm Avar}(\pmb b) 來(lái)替代它。那么我們可以定義 t 統(tǒng)計(jì)量為:

注意氨菇,雖然叫 t 統(tǒng)計(jì)量儡炼,實(shí)際上服從的是漸近正態(tài)

t_k \equiv \frac{\sqrt{n}(b_k-\bar{\beta}_k)}{\sqrt{\widehat{\rm Avar}(b_k)}} \stackrelhjb3xjl\longrightarrow N(0,1)

這里的思想是簡(jiǎn)單的查蓉,回憶對(duì)任意 X\sim(\mu,\sigma^2) 乌询,都有 \frac{X-\mu}{\sigma}\sim N(0,1) ,其實(shí)兩者的結(jié)構(gòu)是一樣的豌研。

當(dāng)然妹田,為了便于描述,我們可以對(duì) t_k 做進(jìn)一步變形:
t_k \equiv \frac{\sqrt{n}(b_k-\bar{\beta}_k)}{\sqrt{\widehat{\rm Avar}(b_k)}} = \frac{(b_k-\bar{\beta}_k)}{\sqrt{\frac{1}{n}\widehat{\rm Avar}(b_k)}} = \frac{b_k-\bar{\beta}_k}{{\rm SE}^\star(b_k)}\stackrel3ddtbpn \longrightarrow N(0,1)
那么我們就定義:
{\rm SE}^\star(b_k)\equiv \sqrt{\frac{1}{n}\widehat{{\rm Avar}}(b_k)} = \sqrt{\frac{1}{n}\left(\pmb S_{XX}^{-1} \pmb{\hat S}\pmb S_{XX}^{-1} \right)_{kk}}
異方差穩(wěn)健的標(biāo)準(zhǔn)誤(heteroskedasticiry-consistent standard erros)鹃共,簡(jiǎn)稱穩(wěn)健的標(biāo)準(zhǔn)誤(robust standard errors)鬼佣。之所以這么稱呼,是因?yàn)橥茖?dǎo)的過(guò)程中沒(méi)有用到條件同方差的假定及汉,所以在條件異方差下也能用沮趣。

性質(zhì):可以證明,在條件同方差的假設(shè)下坷随,穩(wěn)健的標(biāo)準(zhǔn)誤退化為普通標(biāo)準(zhǔn)誤

證明:如果假設(shè) {\rm E}(\varepsilon_i^2|\pmb x_i)=\sigma^2>0 (條件同方差)房铭,那么使用迭代期望定律:
\pmb S \equiv {\rm E}(\pmb x_i^\prime \pmb x_i \varepsilon^2) = {\rm E}_{\pmb x_i} {\rm E}(\pmb x_i^\prime \pmb x_i \varepsilon^2|\pmb x_i)= {\rm E}_{\pmb x_i}[\pmb x_i^\prime \pmb x_i {\rm E}( \varepsilon^2|\pmb x_i)] = {\rm E}_{\pmb x_i}(\sigma^2 \pmb x_i^\prime \pmb x_i) = \sigma^2 {\rm E}(\pmb x_i^\prime \pmb x_i)
我們發(fā)現(xiàn) s^2 \stackrel{p}\longrightarrow \sigma^2 驻龟,\pmb S_{XX} \stackrel{p}\longrightarrow {\rm E}(\pmb x_i \pmb x_i^\prime) ,所以:
\mathop{\rm plim}\limits_{n \to \infty} \hat{\pmb S} =\pmb S=\sigma^2 {\rm E}(\pmb x_i^\prime \pmb x_i)=\mathop{\rm plim}\limits_{n \to \infty} s^2\pmb S_{XX}
于是:
\begin{split} \mathop{\rm plim}\limits_{n \to \infty} \widehat{\rm Avar}(\pmb b) &= \mathop{\rm plim}\limits_{n \to \infty} \pmb S_{XX}^{-1} \cdot \mathop{\rm plim}\limits_{n \to \infty} \pmb{\hat S}\cdot \mathop{\rm plim}\limits_{n \to \infty}\pmb S_{XX}^{-1} \\ &= \mathop{\rm plim}\limits_{n \to \infty} \pmb S_{XX}^{-1}\cdot \mathop{\rm plim}\limits_{n \to \infty}(s^2\pmb S_{XX})\cdot\mathop{\rm plim}\limits_{n \to \infty} \pmb S_{XX}^{-1}\\ &= \mathop{\rm plim}\limits_{n \to \infty} \pmb S_{XX}^{-1}\cdot (s^2\pmb S_{XX})\cdot\pmb S_{XX}^{-1}\\ &=\mathop{\rm plim}\limits_{n \to \infty} ns^2({\bf X'X})^{-1} \end{split}

寫(xiě)這么多 \mathop{\rm plim}\limits_{n \to \infty} 一方面是為了裝逼

但更重要的是讓你看明白這個(gè)代換是怎么來(lái)的??

一定一定不要錯(cuò)過(guò) \mathop{\rm plim}\limits_{n \to \infty} 的細(xì)節(jié)缸匪!

于是:
\widehat{\rm Avar}(\pmb b) = ns^2({\bf X'X})^{-1}
所以:
{\rm SE}^\star(b_k)\equiv \sqrt{\frac{1}{n}\widehat{{\rm Avar}}(b_k)} = \sqrt{\frac{1}{n}ns^2({\bf X'X})^{-1}} = \sqrt{s^2({\bf X'X})^{-1}}
這就是普通的標(biāo)準(zhǔn)誤了

證畢翁狐。

5.9.2 線性假設(shè)的檢驗(yàn)

思路與小樣本OLS是類似的,對(duì)零假設(shè) H_0: \pmb{R\beta=r} 凌蔬,我們實(shí)際上要衡量 \pmb{Rb-r}\pmb 0 的距離露懒。可以證明砂心,統(tǒng)計(jì)量 W 滿足:
W = \left[\sqrt{n}(\pmb{Rb-r}) \right]^\prime \left[\pmb R \widehat{\rm Avar}(\pmb b) \pmb R^\prime \right]^{-1} \left[\sqrt{n}(\pmb{Rb-r}) \right] \stackrel3fxnpbj\longrightarrow \chi^2(m)

證明:令 \pmb c_n \equiv \sqrt{n}(\pmb{Rb-r}) 懈词,令 \pmb Q_n \equiv \pmb R \widehat{\rm Avar}(\pmb b) \pmb R^\prime ,那么現(xiàn)在 W = \pmb{ c_n^\prime Q_n^{-1}c_n}

如果 H_0: \pmb{R\beta=r} 成立辩诞,那么
\pmb c_n \equiv \sqrt{n}(\pmb{Rb-r}) = \sqrt{n}(\pmb{Rb-R\beta}) = \sqrt{n}\pmb R(\pmb{b-\beta}) = \pmb R[\sqrt{n}(\pmb{b-\beta})]
由于我們知道 \sqrt{n}(\pmb b - \pmb \beta) \stackreltffvvvv\longrightarrow N(0,{\rm Avar}(\pmb b)) 坎弯,而 \pmb c_n\sqrt{n}(\pmb b - \pmb \beta) 的線性組合,所以 \pmb c_n 也是依分布收斂于正態(tài)分布的译暂。而且:
{\rm Var}(\pmb c_n) = {\rm Var}( \pmb R[\sqrt{n}(\pmb{b-\beta})] ) = \pmb R'{\rm Var}( \sqrt{n}(\pmb{b-\beta}) )\pmb R
設(shè) \pmb c_n \stackrelvtpb9j1\longrightarrow \pmb c 驯绎,從而在 n \to \infty 時(shí):
\pmb c \sim N(\pmb 0, \pmb R'{\rm Avar}( \pmb b) \pmb R)
定義 \pmb Q \equiv \pmb R {\rm Avar}(\pmb b) \pmb R^\prime 健爬,由于 \widehat{{\rm Avar}}(\pmb b) \stackrel{p}\longrightarrow {\rm Avar}(\pmb b) 抑党,所以 \pmb Q_n \stackrel{p}\longrightarrow \pmb Q

于是:
W = \pmb{ c_n^\prime Q_n^{-1}c_n} \stackrelflxx19r\longrightarrow \pmb{c'Q^{-1}c}=\pmb{c'}[{\rm Var}(\pmb c)]^{-1} \pmb c \sim \chi^2(m)
證畢匙铡。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市伯顶,隨后出現(xiàn)的幾起案子囚灼,更是在濱河造成了極大的恐慌,老刑警劉巖祭衩,帶你破解...
    沈念sama閱讀 216,591評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件啦撮,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡汪厨,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,448評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門愉择,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)劫乱,“玉大人,你說(shuō)我怎么就攤上這事锥涕≈愿辏” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,823評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵层坠,是天一觀的道長(zhǎng)殖妇。 經(jīng)常有香客問(wèn)我,道長(zhǎng)破花,這世上最難降的妖魔是什么谦趣? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,204評(píng)論 1 292
  • 正文 為了忘掉前任疲吸,我火速辦了婚禮,結(jié)果婚禮上前鹅,老公的妹妹穿的比我還像新娘摘悴。我一直安慰自己,他們只是感情好舰绘,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,228評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布蹂喻。 她就那樣靜靜地躺著,像睡著了一般捂寿。 火紅的嫁衣襯著肌膚如雪口四。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,190評(píng)論 1 299
  • 那天秦陋,我揣著相機(jī)與錄音蔓彩,去河邊找鬼。 笑死踱侣,一個(gè)胖子當(dāng)著我的面吹牛粪小,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播抡句,決...
    沈念sama閱讀 40,078評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼探膊,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了待榔?” 一聲冷哼從身側(cè)響起逞壁,我...
    開(kāi)封第一講書(shū)人閱讀 38,923評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎锐锣,沒(méi)想到半個(gè)月后腌闯,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,334評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡雕憔,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,550評(píng)論 2 333
  • 正文 我和宋清朗相戀三年姿骏,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片斤彼。...
    茶點(diǎn)故事閱讀 39,727評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡分瘦,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出琉苇,到底是詐尸還是另有隱情嘲玫,我是刑警寧澤,帶...
    沈念sama閱讀 35,428評(píng)論 5 343
  • 正文 年R本政府宣布并扇,位于F島的核電站去团,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜土陪,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,022評(píng)論 3 326
  • 文/蒙蒙 一昼汗、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧旺坠,春花似錦乔遮、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,672評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至璧疗,卻和暖如春坯辩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背崩侠。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,826評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工漆魔, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人却音。 一個(gè)月前我還...
    沈念sama閱讀 47,734評(píng)論 2 368
  • 正文 我出身青樓改抡,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親系瓢。 傳聞我的和親對(duì)象是個(gè)殘疾皇子阿纤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,619評(píng)論 2 354