普通最小二乘估計(jì)方法( Ordinary Least Square 豁生，簡(jiǎn)記為OLS) 碧囊，是單一方程線性回歸模型最常用帚桩、最基本的估計(jì)方法特漩。
1.小樣本的普通最小二乘法分析
OLS 的基本思想就是通過(guò)讓殘差e 的平方和最小吧雹，從而使得模型的估計(jì)成為可能。
#打開(kāi)數(shù)據(jù)文件涂身、觀測(cè)數(shù)據(jù)特征
sysuse usaauto,clear
edit #關(guān)注一下原始數(shù)據(jù)及其統(tǒng)計(jì)特征
describe #數(shù)據(jù)的統(tǒng)計(jì)特征
regres s price mpg weight foreign #price 作為因變量雄卷， mpg、weigbt 蛤售、foreign 作為自變量建立線性回歸模型丁鹉，運(yùn)用OLS 方法進(jìn)行回歸分析。
#基本回歸分析之后悴能，還要對(duì)模型的整體和系數(shù)進(jìn)行檢驗(yàn)揣钦，以求證其是否符合經(jīng)濟(jì)理論或現(xiàn)實(shí)情況的要求。
#（1）線性檢驗(yàn)
# （2）非線性檢驗(yàn)
test weight foreign# (也可以輸入test (weight=0)(foreign=0)
#模型的預(yù)測(cè)
predict yhat , xb #線性預(yù)測(cè)擬合值搜骡，生成的變量名稱為yhat
predi ct e , residual #殘差序列的預(yù)測(cè)值拂盯，生成的變量名稱為e。
list #顯示记靡，每個(gè)觀測(cè)值信息的最后出現(xiàn)了新變量yhat.
2.大樣本的普通最小二乘分析
1.模型建立
#2.使用小樣本理論進(jìn)行回歸
regress lntc lnq lnpl lnpk lnpr
3.使用大樣本理論進(jìn)行回歸
大樣本OLS 經(jīng)常采用穩(wěn)健標(biāo)準(zhǔn)差估計(jì)（robust ) 。穩(wěn)健標(biāo)準(zhǔn)差是指其標(biāo)準(zhǔn)差對(duì)于模型中可能存在的異方差或自相關(guān)問(wèn)題不敏感摸吠，基于穩(wěn)健標(biāo)準(zhǔn)差計(jì)算的穩(wěn)健t 統(tǒng)計(jì)量仍然漸近服從t 分布空凸。在Stata 中利用robust 選項(xiàng)可以得到異方差穩(wěn)健估計(jì)量。
regress lntc lnq lnpl lnpk lnpr , robust
4.結(jié)果對(duì)比
從這兩個(gè)結(jié)果可以看到:穩(wěn)健標(biāo)準(zhǔn)差與普通標(biāo)準(zhǔn)差估計(jì)的系數(shù)相同寸痢，但標(biāo)準(zhǔn)差和t 值存在一定的差別呀洲。
在現(xiàn)實(shí)社會(huì)的各種數(shù)據(jù)中，很少有數(shù)據(jù)能夠滿足小樣本理論的嚴(yán)格假設(shè)，所以當(dāng)樣本數(shù)據(jù)足夠大時(shí)道逗，我們最好采用穩(wěn)健標(biāo)準(zhǔn)差進(jìn)行估計(jì)和檢驗(yàn)兵罢，這樣得到的結(jié)果將會(huì)更加準(zhǔn)確。
3. 約束回歸
1.約束的定義滓窍、列出和取消
若要?jiǎng)h掉某個(gè)或幾個(gè)己定義的約束卖词，則可使用以下語(yǔ)句:
constraint drop [numlistl_all]
cnsreg mpg price weight d~spl gear ratio foreign length, c(1-5)
#mpg 是被解釋變量的名稱， price weight displ gear ratio foreign length 為各個(gè)解釋變量的名稱吏夯， c(1-5)表示在1-5 個(gè)約束之下進(jìn)行回歸此蜈。
非線性最小二乘
如果將自變量與因變量的關(guān)系設(shè)為線性關(guān)系加一個(gè)誤差項(xiàng)，那么我們就設(shè)定了一個(gè)線性模型噪生。同樣地裆赵，如果將自變量與因變量的關(guān)系設(shè)定為非線性關(guān)系加上一個(gè)誤差工頁(yè)，我們就得到了非線性模型跺嗽。這里介紹的是沒(méi)有辦法轉(zhuǎn)化為線性回歸的回歸模型战授。
對(duì)于非線性模型，可以通過(guò)非線性最小二乘CNonlinear Least Square, NLS) 來(lái)求出模型估計(jì)量抛蚁。與普通最小二乘法類似陈醒，非線性最小二乘法也是要選擇估計(jì)量盲，使得殘差平方和最小瞧甩。通常情況下钉跷，非線性最小二乘沒(méi)有解析解，故一般使用數(shù)值方法求解肚逸。
