《深度學(xué)習(xí)的數(shù)學(xué)》讀書筆記
作者:[日]涌井良幸碗殷,[日]涌井貞美
譯者:楊瑞龍
出版社:人民郵電出版社
出版時間:2019-04
一湿硝、神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)單元是神經(jīng)元的模型化。
- 模仿大腦唆樊,由神經(jīng)單元組成的網(wǎng)絡(luò)產(chǎn)生了“智能”霜运。
- 將神經(jīng)單元連接為網(wǎng)絡(luò)狀脾歇,就形成了神經(jīng)網(wǎng)絡(luò)。
將神經(jīng)單元的多個輸入x1,x2,…,xn整理為加權(quán)輸入z淘捡。
神經(jīng)單元通過激活函數(shù)a(z)藕各,根據(jù)加權(quán)輸入z輸出y。
二焦除、神經(jīng)網(wǎng)絡(luò)的分層及職責(zé)
??階層型神經(jīng)網(wǎng)絡(luò)分為:
- 輸入層激况、
負(fù)責(zé)讀取給予神經(jīng)網(wǎng)絡(luò)的信息。屬于這個層的神經(jīng)單元沒有輸入箭頭,它們是簡單的神經(jīng)單元乌逐,只是將從數(shù)據(jù)得到的值原樣輸出竭讳。 - 隱藏層、(也被稱為中間層)
執(zhí)行加權(quán)輸入處理 式子(1)浙踢,激活函數(shù)輸出式子(2)等數(shù)據(jù)處理绢慢。在神經(jīng)網(wǎng)絡(luò)中,這是實(shí)際處理信息的部分洛波。 -
輸出層
和隱藏層一樣執(zhí)行信息處理操作胰舆,并顯示神經(jīng)網(wǎng)絡(luò)計算出的結(jié)果,也就是整個神經(jīng)網(wǎng)絡(luò)的輸出蹬挤。