Normalizing inputs
訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)向叉,有一種加速訓(xùn)練過(guò)程的方法又跛,那就是對(duì)輸入進(jìn)行歸一化鞭光。
一個(gè)有兩個(gè)輸入特征的訓(xùn)練集吏廉,即是輸入特征x是二維的,然后這里輸入的是散點(diǎn)圖惰许,對(duì)輸入進(jìn)行歸一化包含兩個(gè)步驟席覆,第一步是減去均值,或者說(shuō)將均值歸零汹买,所以令為所有Xi的和佩伤,其中i是由1到m,得到向量后晦毙,再將訓(xùn)練集中每個(gè)樣本x都賦值為生巡,意思就是將訓(xùn)練集進(jìn)行平移,直到它的均值變?yōu)?见妒。
第二步就是將方差歸一化孤荣。