代價函數(shù)
預(yù)測函數(shù)：hθ(x) = θ0 + θ1x
實際的值為：y1择吊，y2侮腹，y3 ... ym
預(yù)測值和實際值之間的誤差評估问顷，即用標(biāo)準(zhǔn)方差表示：
其中2m一般情況下用m菠镇，2m是方便以后計算冗荸，無實質(zhì)性影響。
代價函數(shù)的最簡單示例
給定數(shù)據(jù)集：x = 1利耍，y = 1蚌本； x = 2，y = 2隘梨；x =3程癌， y =3
預(yù)測函數(shù)簡化為：hθ(x) = θx
代價函數(shù)：
當(dāng)θ = 0時：預(yù)測函數(shù)是 hθ(x) = 0，就是x軸出嘹，代價函數(shù)值為：
J(0) = ((0 - 1)2 + (0 - 2)2 + (0 - 3)2 )/(2 x 3) = (1 + 4 + 9) / 6 = 14/6
當(dāng)θ = 1時：預(yù)測函數(shù)是 hθ(x) = x席楚，就是45度斜線，代價函數(shù)值為：
J(1) = ((1 - 1)2 + (2 - 2)2 + (3 - 3)2 )/(2 x 3) = (0 + 0 + 0) / 6 = 0
當(dāng)θ = 2時：預(yù)測函數(shù)是 hθ(x) = 2x税稼，代價函數(shù)值為：
J(2) = ((2 - 1)2 + (4 - 2)2 + (6 - 3)2 )/(2 x 3) = (1 + 4 + 9) / 6 = 14/6
把θ上所有x的值算出來烦秩，就是一條開口向上的拋物線，當(dāng)x = 1時J(θ) = 0郎仆，值最小只祠。
多變量的代價函數(shù)
預(yù)測函數(shù)：hθ(x) = θ0 + θ1x
其中θ0 不簡化為0時，扰肌，就有兩個變量θ0和 θ1
代價函數(shù)的計算仍然同簡化的一樣抛寝，但圖形就不再是一個二維平面的拋物線，而是一個三維的值了，其中θ0和 θ1的值就組成了等高線盗舰。
