《deeplearning.ai》 課程一第四周 | Deep neural networks

deeplearning.ai 是機(jī)器學(xué)習(xí)領(lǐng)域大牛Andrew Ng在Coursera上公布的新的深度學(xué)習(xí)的課程,相比之前機(jī)器學(xué)習(xí)的課程财著,本課程更偏重于深度學(xué)習(xí)的領(lǐng)域胎食。

本文是課程一《Neural Networks and Deep Learning》的第四周筆記逗宜,上周給大家介紹了Shallow Neural Networks庆尘,本周我們將為大家介紹Deep Neural Networks剃诅。

注:如果沒(méi)有任何機(jī)器學(xué)習(xí)基礎(chǔ),直接學(xué)習(xí)本課程可能會(huì)有些費(fèi)力驶忌,建議大家先去學(xué)習(xí)Andrew Ng機(jī)器學(xué)習(xí)課程矛辕,傳送門(mén)在此 Coursera Machine Learning

一、基本概念

深層神經(jīng)網(wǎng)絡(luò)付魔,顧名思義聊品,就是有很多隱藏層的神經(jīng)網(wǎng)絡(luò),所以其符號(hào)表示與神經(jīng)網(wǎng)絡(luò)是一樣的几苍,即使用中括號(hào)的上角標(biāo)來(lái)表示第幾層翻屈,比如a[0]表示第0層,即輸入層妻坝;a[2]則表示第二層隱藏層伸眶。

下圖即邏輯回歸、淺層神經(jīng)網(wǎng)絡(luò)與深層神經(jīng)網(wǎng)絡(luò)的對(duì)比惠勒。


image.png

由于其符號(hào)表示、前向傳播爬坑、反向傳播纠屋、參數(shù)及向量化已在前一章介紹過(guò)了,這里就不再贅述了盾计,不清楚的可以回顧下上一周的筆記售担。


image.png

這里只是多了層數(shù)而已赁遗,完全套用前一章神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播即可。


image.png
image.png
image.png

二族铆、直觀解釋

下圖為深層神經(jīng)網(wǎng)絡(luò)的直觀解釋?zhuān)e了圖像識(shí)別岩四、語(yǔ)音識(shí)別等例子,詳細(xì)講解可以去看下視頻哥攘。 為什么使用深層表示.

image.png

三剖煌、參數(shù)與超參數(shù)

在神經(jīng)網(wǎng)絡(luò)中的參數(shù)指的是W,b,它們是在一次次梯度下降算法的迭代中不斷優(yōu)化的逝淹。
超參數(shù)指的是學(xué)習(xí)率耕姊、迭代數(shù)、隱藏層的層數(shù)和隱藏神經(jīng)元的個(gè)數(shù)(神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu))及激活函數(shù)的選擇等栅葡,超參數(shù)是需要我們?cè)谟?xùn)練前手動(dòng)設(shè)定的茉兰。


image.png

超參數(shù)的選擇會(huì)決定了最終的參數(shù)W,b,還會(huì)影響模型的訓(xùn)練速度等欣簇,所以超參數(shù)的選擇非常重要规脸,在下一章中我們會(huì)講解如何選擇超參數(shù)。

四熊咽、本周內(nèi)容回顧

通過(guò)本周學(xué)習(xí)莫鸭,我們學(xué)習(xí)到了:

  • 深層神經(jīng)網(wǎng)絡(luò)的基本概念
  • 深層神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播
  • 參數(shù)與超參數(shù)的解釋

最后貼出網(wǎng)易云課堂的鏈接,有興趣的可以關(guān)注下我的知乎或博客网棍,鏈接在最下方黔龟,可以交流下學(xué)習(xí)經(jīng)驗(yàn)哈

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市滥玷,隨后出現(xiàn)的幾起案子氏身,更是在濱河造成了極大的恐慌,老刑警劉巖惑畴,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蛋欣,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡如贷,警方通過(guò)查閱死者的電腦和手機(jī)陷虎,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)杠袱,“玉大人尚猿,你說(shuō)我怎么就攤上這事¢垢唬” “怎么了凿掂?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我庄萎,道長(zhǎng)踪少,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任糠涛,我火速辦了婚禮援奢,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘忍捡。我一直安慰自己集漾,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布锉罐。 她就那樣靜靜地躺著帆竹,像睡著了一般。 火紅的嫁衣襯著肌膚如雪脓规。 梳的紋絲不亂的頭發(fā)上栽连,一...
    開(kāi)封第一講書(shū)人閱讀 51,365評(píng)論 1 302
  • 那天,我揣著相機(jī)與錄音侨舆,去河邊找鬼秒紧。 笑死,一個(gè)胖子當(dāng)著我的面吹牛挨下,可吹牛的內(nèi)容都是我干的熔恢。 我是一名探鬼主播,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼臭笆,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼叙淌!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起愁铺,我...
    開(kāi)封第一講書(shū)人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤鹰霍,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后茵乱,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體茂洒,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年瓶竭,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了督勺。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡斤贰,死狀恐怖智哀,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情荧恍,我是刑警寧澤瓷叫,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響赞辩,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜授艰,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一辨嗽、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧淮腾,春花似錦糟需、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至圆凰,卻和暖如春杈帐,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背专钉。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工挑童, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人跃须。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓站叼,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親菇民。 傳聞我的和親對(duì)象是個(gè)殘疾皇子尽楔,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容