人工神經(jīng)網(wǎng)絡(luò)是一種監(jiān)督學(xué)習(xí)熟妓。他使用的是反向傳播算法。首先用隨機(jī)值初始化權(quán)重栏尚，沒(méi)過(guò)一個(gè)訓(xùn)練樣本起愈，會(huì)計(jì)算出網(wǎng)絡(luò)偏差，根據(jù)網(wǎng)絡(luò)總偏差译仗，反向遍歷各層抬虽，計(jì)算出各層內(nèi)部之間的偏差。根據(jù)各層的誤差來(lái)調(diào)整權(quán)重纵菌。
調(diào)整權(quán)重使用的方法有梯度下降法阐污，和隨機(jī)梯度下降法兩種。Gradient Descent 簡(jiǎn)稱GD咱圆。 stochastic Gradient Descent 簡(jiǎn)稱SGD笛辟。兩者的差異在于效率和收斂速度。
