-幾種不同模型概括
????? * 線性模型(Classical Linear Model):結(jié)局變量為連續(xù)變量撩鹿,服從正態(tài)分布(殘差~)浪读,滿足獨(dú)立性流译、等方差性(方差為常量)封字。自變量也為連續(xù)變量黔州。即線性回歸。
?????* 一般線性模型(General Linear Model):線性模型的擴(kuò)展阔籽。在其基礎(chǔ)上流妻,自變量可以是連續(xù)變量,也可以是分類變量笆制。比如線性回歸绅这、方差分析、協(xié)方差分析等在辆。對(duì)應(yīng)SAS中的Proc GLM過程证薇。
?????* 線性混合效應(yīng)模型(Linear Mixed Model ):一般線性模型的擴(kuò)展度苔。允許數(shù)據(jù)不滿足獨(dú)立性和等方差性,但是結(jié)局變量仍為連續(xù)變量浑度,仍需符合線性假設(shè)寇窑。可以同時(shí)包含固定效應(yīng)和隨機(jī)效應(yīng)箩张。對(duì)應(yīng)SAS中的Proc MIXED過程甩骏。
????? * 廣義線性模型(Generalized Linear Model ):一般線性模型的擴(kuò)展。模型左側(cè)結(jié)局變量為指數(shù)分布族中的一種伏钠,不要求服從正態(tài)分布横漏,可以是連續(xù)變量,也可以是分類變量熟掂。模型右側(cè)仍為線性組合缎浇,通過連接函數(shù)進(jìn)行連接。對(duì)應(yīng)SAS中的Proc GENMOD過程赴肚。
?????* 廣義線性混合效應(yīng)模型(Generalized Linear Mixed Model):相當(dāng)于廣義線性模型和線性混合效應(yīng)模型的綜合素跺。對(duì)應(yīng)SAS中的Proc GLIMMIX過程。
- 廣義線性模型(Generalized linear model)
?????廣義線性模型的因變量需要為指數(shù)分布族中的一種誉券。正態(tài)分布指厌、二項(xiàng)分布、泊松分布等都可以轉(zhuǎn)換成指數(shù)分布族的形式踊跟。
?????均值和方差都可以通過b(θ)進(jìn)行計(jì)算:
幾個(gè)參數(shù)的含義如下,分布族中的其他分布對(duì)應(yīng)參數(shù)的不同形式商玫。
大概看一下幫助理解箕憾。
?????Φ:dispersion parameter/scale parameter。常量拳昌,已知或待估計(jì)袭异。
?????θ:Canonical form of the location parameter【嫣伲可以表示均值μ的函數(shù)
?????b(θ):θ的函數(shù)御铃。
?????y:已知的因變量。
e.g. 正態(tài)分布
Applying Generalized Linear Models
?
SAS Help
????? ????? ?????SAS中的沈矿,
e.g.伽馬分布
Applying Generalized Linear Models
模型的3個(gè)要素:
- 因變量(Random component),服從指數(shù)分布族羹膳。e.g. 正態(tài)分布谷羞、泊松分布。
- 線性預(yù)測(cè)組合(Systematic component)。由協(xié)變量
組成的線性預(yù)測(cè)
湃缎。β待估計(jì)犀填。
- 連接函數(shù)(Link Function):連接因變量均值和線性預(yù)測(cè)組合之間的單調(diào)可微函數(shù)g(.),使因變量符合線性組合的范圍嗓违。
。
一般線性模型中(1)為正態(tài)分布蹂季,(3)的連接函數(shù)為恒等函數(shù)(identity function)冕广。
廣義線性模型允許(1)為非正態(tài)分布,(3)可以是任何單調(diào)可微的函數(shù)偿洁。
**
模型中涉及到canonical link function的概念撒汉。SAS中描述為:
The canonical link function is that function which transforms the mean to a canonical location parameter of the exponential dispersion family member。
一個(gè)模型對(duì)應(yīng)的Link function可能有多個(gè)涕滋,如二項(xiàng)分布對(duì)應(yīng)的link function可以是probit或者logit睬辐,都可以將(0,1)范圍內(nèi)的概率轉(zhuǎn)換至線性組合的范圍,使g(μ)∈(-∞,+∞)宾肺。 但只有連接均值μ和Canonical parameter-θ的函數(shù)g被稱之為Canonical Link function溯饵。即g(μ)=θ。
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=%CE%BC%3Db'(%CE%B8)" alt="μ=b'(θ)" mathimg="1">锨用,則 丰刊,
。
二項(xiàng)分布的例子:
對(duì)應(yīng), 即Canonical link function為
增拥,即為logit變換啄巧。
掌栅,
參考了以下的視頻和書秩仆,幫助理解:
B站的視頻:https://b23.tv/igMu8hr
書:Applying Generalized Linear Models