機(jī)器學(xué)習(xí)（六）神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如下圖所示：

$a_1^{(2)} = g\left(\Theta_{10}^{(1)}x_0+\Theta_{11}^{(1)}x_1+\Theta_{12}^{(1)}x_2+\Theta_{13}^{(1)}x_3\right)$

$a_2^{(2)} = g\left(\Theta_{20}^{(1)}x_0+\Theta_{21}^{(1)}x_1+\Theta_{22}^{(1)}x_2+\Theta_{23}^{(1)}x_3\right)$

$a_3^{(2)} = g\left(\Theta_{30}^{(1)}x_0+\Theta_{31}^{(1)}x_1+\Theta_{32}^{(1)}x_2+\Theta_{33}^{(1)}x_3\right)$

$h_\Theta(x)=a_1^{(3)}= g\left(\Theta_{10}^{(2)}a_0^{(2)}+\Theta_{11}^{(2)}a_1^{(2)}+\Theta_{12}^{(2)}a_2^{(2)}+\Theta_{13}^{(2)}a_3^{(2)}\right)$

其中， $a_i^{(j)}$ 代表第 $j$ 層的 $i$ 個激活單元易阳， $\Theta ^{(j)}$ 代表了從第 $j$ 層映射到第 $j+1$ 層的控制函數(shù)的權(quán)重矩陣附较。

如果神經(jīng)網(wǎng)絡(luò)在第 $j$ 層有 $Sj$ 個單元，在 $j+1$ 層有 $S_{j+1}$ 個單元潦俺，則 $\Theta ^{(j)}$ 為一個 $s_{j+1}\times (s_j+1)$ 大小的矩陣拒课。

令 $z^{(2)}=\Theta^{(1)}a^{(1)}=\Theta^{(1)}x$ ，

則 $a^{(2)}=g(z^{(2)})$

添加 $a_0^{(2)}=1$ 事示，

$z^{(3)}=\Theta^{(2)}a^{(2)}$

$h_\Theta(x)=a^{(3)}=g(z^{(3)})$

計算 $h_\Theta(x)$ 的過程也稱作向前傳播

神經(jīng)網(wǎng)絡(luò)代價函數(shù)

神經(jīng)網(wǎng)絡(luò)的代價函數(shù)可看做邏輯回歸的代價函數(shù)的一般形式早像，

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者

人面猴
序言：七十年代末，一起剝皮案震驚了整個濱河市肖爵，隨后出現(xiàn)的幾起案子卢鹦，更是在濱河造成了極大的恐慌，老刑警劉巖劝堪，帶你破解...
沈念sama閱讀 216,544評論 6贊 501
死咒
序言：濱河連續(xù)發(fā)生了三起死亡事件冀自，死亡現(xiàn)場離奇詭異，居然都是意外死亡秒啦，警方通過查閱死者的電腦和手機(jī)熬粗，發(fā)現(xiàn)死者居然都...
沈念sama閱讀 92,430評論 3贊 392
救了他兩次的神仙讓他今天三更去死
文/潘曉璐我一進(jìn)店門，熙熙樓的掌柜王于貴愁眉苦臉地迎上來余境，“玉大人驻呐，你說我怎么就攤上這事灌诅。” “怎么了含末？”我有些...
開封第一講書人閱讀 162,764評論 0贊 353
道士緝兇錄：失蹤的賣姜人
文/不壞的土叔我叫張陵延塑，是天一觀的道長。經(jīng)常有香客問我答渔，道長关带，這世上最難降的妖魔是什么？我笑而不...
開封第一講書人閱讀 58,193評論 1贊 292
?港島之戀（遺憾婚禮）
正文為了忘掉前任沼撕，我火速辦了婚禮宋雏，結(jié)果婚禮上磨总，老公的妹妹穿的比我還像新娘。我一直安慰自己蚪燕，他們只是感情好馆纳，可當(dāng)我...
茶點故事閱讀 67,216評論 6贊 388
惡毒庶女頂嫁案：這布局不是一般人想出來的
文/花漫我一把揭開白布鲁驶。她就那樣靜靜地躺著舞骆，像睡著了一般。火紅的嫁衣襯著肌膚如雪脆霎。梳的紋絲不亂的頭發(fā)上狈惫，一...
開封第一講書人閱讀 51,182評論 1贊 299
城市分裂傳說
那天，我揣著相機(jī)與錄音玖院，去河邊找鬼第岖。笑死蔑滓，一個胖子當(dāng)著我的面吹牛，可吹牛的內(nèi)容都是我干的燎窘。我是一名探鬼主播蹄咖，決...
沈念sama閱讀 40,063評論 3贊 418
雙鴛鴦連環(huán)套：你想象不到人心有多黑
文/蒼蘭香墨我猛地睜開眼澜汤，長吁一口氣：“原來是場噩夢啊……” “哼！你這毒婦竟也來了谁不？” 一聲冷哼從身側(cè)響起徽诲，我...
開封第一講書人閱讀 38,917評論 0贊 274
萬榮殺人案實錄
序言：老撾萬榮一對情侶失蹤谎替，失蹤者是張志新（化名）和其女友劉穎，沒想到半個月后亡蓉，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體喷舀，經(jīng)...
沈念sama閱讀 45,329評論 1贊 310
?護(hù)林員之死
正文獨(dú)居荒郊野嶺守林人離奇死亡硫麻，尸身上長有42處帶血的膿包…… 初始之章·張勛以下內(nèi)容為張勛視角年9月15日...
茶點故事閱讀 37,543評論 2贊 332
?白月光啟示錄
正文我和宋清朗相戀三年，在試婚紗的時候發(fā)現(xiàn)自己被綠了杠河。大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片浇辜。...
茶點故事閱讀 39,722評論 1贊 348
活死人
序言：一個原本活蹦亂跳的男人離奇死亡，死狀恐怖待诅，靈堂內(nèi)的尸體忽然破棺而出熊镣，到底是詐尸還是另有隱情募书，我是刑警寧澤测蹲，帶...
沈念sama閱讀 35,425評論 5贊 343
?日本核電站爆炸內(nèi)幕
正文年R本政府宣布扣甲，位于F島的核電站，受9級特大地震影響琉挖，放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜种远，卻給世界環(huán)境...
茶點故事閱讀 41,019評論 3贊 326
男人毒藥：我在死后第九天來索命
文/蒙蒙一坠敷、第九天我趴在偏房一處隱蔽的房頂上張望射富。院中可真熱鬧膝迎，春花似錦限次、人聲如沸柴灯。這莊子的主人今日做“春日...
開封第一講書人閱讀 31,671評論 0贊 22
一樁弒父案，背后竟有這般陰謀
文/蒼蘭香墨我抬頭看了看天上的太陽查描。三九已至，卻和暖如春冬三，著一層夾襖步出監(jiān)牢的瞬間，已是汗流浹背敌蚜。一陣腳步聲響...
開封第一講書人閱讀 32,825評論 1贊 269
情欲美人皮
我被黑心中介騙來泰國打工钝侠，沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留该园，地道東北人帅韧。一個月前我還...
沈念sama閱讀 47,729評論 2贊 368
代替公主和親
正文我出身青樓忽舟，卻偏偏與公主長得像叮阅，于是被迫代替她去往敵國和親。傳聞我的和親對象是個殘疾皇子浩姥，可洞房花燭夜當(dāng)晚...
茶點故事閱讀 44,614評論 2贊 353

機(jī)器學(xué)習(xí)（六）神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)代價函數(shù)

推薦閱讀更多精彩內(nèi)容