網(wǎng)絡(luò)結(jié)構(gòu)：第一件要做的事是選擇網(wǎng)絡(luò)結(jié)構(gòu)，即決定選擇多少層以及決定每層分別有多少個(gè)單元落萎。
第一層的單元數(shù)即我們訓(xùn)練集的特征數(shù)量棒搜。
最后一層的單元數(shù)是我們訓(xùn)練集的結(jié)果的類(lèi)的數(shù)量。
如果隱藏層數(shù)大于1磺平，確保每個(gè)隱藏層的單元個(gè)數(shù)相同，通常情況下隱藏層單元的個(gè)數(shù)越多越好怔檩。
我們真正要決定的是隱藏層的層數(shù)和每個(gè)中間層的單元數(shù)。
訓(xùn)練神經(jīng)網(wǎng)絡(luò)：
參數(shù)的隨機(jī)初始化
利用正向傳播方法計(jì)算所有的
image.png
編寫(xiě)計(jì)算代價(jià)函數(shù)J的代碼
利用反向傳播方法計(jì)算所有偏導(dǎo)數(shù)
image.png
image.png
利用數(shù)值檢驗(yàn)方法檢驗(yàn)這些偏導(dǎo)數(shù)
使用優(yōu)化算法來(lái)最小化代價(jià)函數(shù)
