在線性回歸的基礎(chǔ)上洞斯,如果因變量不是連續(xù)變量毡庆,而是0-1變量,怎么辦呢烙如?
這里我們需要一個(gè)閾值函數(shù)么抗,將因變量的取值做一下劃分,映射成0-1變量亚铁。
回歸算法就加了一個(gè)sigmoid函數(shù)乖坠,實(shí)現(xiàn)這個(gè)映射。
其中參數(shù)θ常用極大似然估計(jì)刀闷。
敲黑板熊泵,劃重點(diǎn)
邏輯回歸123:
- 邏輯回歸廣泛用于分類(lèi),尤其是二分類(lèi)問(wèn)題(畢竟0-1映射不是白做的)甸昏;當(dāng)然也可以用于回歸顽分。
- 邏輯回歸不要求自變量和因變量存在線性關(guān)系(太有愛(ài)了有木有,畢竟哪里有那么多的線性關(guān)系呢)施蜜,原因是在求參數(shù)的時(shí)候使用了一個(gè)非線性的log轉(zhuǎn)換卒蘸。
- 邏輯回歸要求較大的樣本量,如果樣本量較少翻默,參數(shù)估計(jì)的時(shí)候考慮用最小二乘法缸沃。
- 邏輯回歸要求自變量之間應(yīng)該互不相關(guān)。
- 因變量是定序變量的情況下我們稱(chēng)該回歸為定序邏輯回歸
參考文章:
http://blog.csdn.net/programmer_wei/article/details/52072939