一直對神經(jīng)網(wǎng)絡模型輸入中增加一個輸入為1的偏置量表示疑惑国裳，這兩天查了資料終于弄明白了煮甥，現(xiàn)記錄下來盗温，有需要的拿去不謝。
考慮一個簡單的單輸入單輸出模型成肘，如圖1所示卖局。x為輸入，w為權重双霍，活化函數(shù)取sigmoid函數(shù)砚偶，那么輸出為y=sig(wx)。其中洒闸，權重w就是我們需要訓練的模型參數(shù)染坯。
圖1：單輸入單輸出神經(jīng)網(wǎng)絡模型
通過程序模擬，不同的w丘逸，輸出曲線都相交于一點(0,0.5)单鹿。輸出曲線只能改變形狀，不能挪動位置深纲，網(wǎng)絡分類的表現(xiàn)力大大受限仲锄。
圖2：不帶偏置量神經(jīng)網(wǎng)絡輸出曲線
現(xiàn)在我們加入偏置量劲妙，網(wǎng)絡結(jié)構變成圖3這個樣子。輸出為y=sig(wx+b)昼窗。
圖3：帶偏置量神經(jīng)網(wǎng)絡模型
同樣模擬得出曲線如圖4。輸出曲線變形涛舍，位移都可以澄惊，隨心所欲。
圖4：帶偏移量神經(jīng)網(wǎng)絡輸出曲線
總結(jié)：偏置量的作用是給網(wǎng)絡分類增加平移的能力富雅。
