1. 線性回歸(linearregression)
連續(xù)值
回歸問題
Cost function：均方誤差（最小化）
基于均方誤差最小化來進行模型求解的方法叫做“最小二乘法”（LeastSquare Method）禽拔。在線性回歸中刘离，最小二乘法就是試圖找到一條直線，使所有樣本到直線上的歐式距離之和最小睹栖。
2. 邏輯回歸（Logistic
regression）
離散值
分類問題
將線性回歸模型產(chǎn)生的預測值轉(zhuǎn)換為0/1值硫惕。使用的是Sigmoid函數(shù)（對數(shù)幾率函數(shù)）
通過極大似然法來估計w和b。
優(yōu)化算法：梯度下降法野来，牛頓法
