[CNN基礎(chǔ)]吳恩達(dá)深度學(xué)習(xí)course4week1思考小結(jié)


預(yù)告:

>> 1.機(jī)器視覺(jué)的研究對(duì)象

>> 2.卷積操作和邊界檢測(cè)

>> 3.padding ,stride

>> 4.三維卷積操作 和一個(gè)卷積層

>> 5. pooling 層

>> 6.一個(gè)卷積神經(jīng)網(wǎng)絡(luò)的實(shí)例


1.Computer vision機(jī)器視覺(jué)的研究對(duì)象

computer vision的相關(guān)問(wèn)題主要有image classification, object detection,style transfer.


Screen Shot 2017-11-28 at 7.46.08 AM.png

卷積操作實(shí)際上是對(duì)普通神經(jīng)網(wǎng)絡(luò)無(wú)法一次將圖片所有像素作為feature的一種改進(jìn)佳晶。普通神經(jīng)網(wǎng)絡(luò)也是對(duì)所有feature進(jìn)行不斷加權(quán),(w1x1 + w2x2 ....+b.)

而圖片由于像素?cái)?shù)量過(guò)多讼载,所以分批次加權(quán)(掃過(guò)的一個(gè)窗口宵晚,視為一個(gè)批次)。其實(shí)內(nèi)在的本質(zhì)是一樣的维雇。
Screen Shot 2017-11-28 at 7.48.50 AM.png

2.卷積操作和 Edge detection 邊界檢測(cè)

卷積操作:


Screen Shot 2017-11-28 at 8.04.12 AM.png

特定的kernel,這里叫filter能檢測(cè)特定的圖案淤刃,比如邊界:


Screen Shot 2017-11-28 at 8.07.50 AM.png
用不同的filter可以檢測(cè)各種不同的圖案(45度edge,等等)吱型,甚至這些filter有自己的名字(現(xiàn)在更能理解為什么叫filter更準(zhǔn)確):
Screen Shot 2017-11-28 at 8.12.52 AM.png

在CNN的較淺層逸贾,一個(gè)filter一次掃過(guò)的原圖的像素?cái)?shù)量占整張圖的比例小,所以只能檢測(cè)到比較微觀的特定圖案津滞,越到深層铝侵,越能檢測(cè)到宏觀圖案,像下圖這樣:
Screen Shot 2017-11-28 at 8.03.22 AM.png

3.padding, stride

valid是沒(méi)有padding的卷積触徐,same是卷積后的所得不改變高寬


Screen Shot 2017-11-28 at 8.16.17 AM.png

Screen Shot 2017-11-28 at 8.17.09 AM.png

4.三維的卷積操作 & 一個(gè)卷積layer:

channel數(shù)必須一致
Screen Shot 2017-11-28 at 8.18.49 AM.png

Screen Shot 2017-11-28 at 8.20.25 AM.png

多個(gè)filter時(shí)
Screen Shot 2017-11-28 at 8.22.12 AM.png

卷積神經(jīng)網(wǎng)絡(luò)的一個(gè)卷積層:
Screen Shot 2017-11-28 at 8.32.10 AM.png
從a[0]到a[1]的過(guò)程咪鲜。注意一個(gè)filter有一個(gè)b:
一個(gè)filter對(duì)應(yīng)一個(gè)激活,相當(dāng)于普通神經(jīng)網(wǎng)絡(luò)中的一個(gè)節(jié)點(diǎn)撞鹉,只是所得的激活點(diǎn)不再是并列疟丙,而是在depth維度上疊成了一個(gè)立方體
Screen Shot 2017-11-28 at 8.32.55 AM.png
Screen Shot 2017-11-28 at 8.33.26 AM.png

該層的filter的chanel數(shù)與上一層激活輸出的chanel必須一致颖侄。這一層的filter數(shù),決定這一層的激活的channel數(shù)享郊。A[l]是一個(gè)四維tensor(張量)览祖。
Screen Shot 2017-11-28 at 8.34.51 AM.png

激活以后的一切,都屬于下一layer: padding[l],f[l]
一個(gè)實(shí)例:
Screen Shot 2017-11-28 at 8.52.53 AM.png

5.pooling層長(zhǎng)什么樣:

Screen Shot 2017-11-28 at 8.55.07 AM.png

沒(méi)有padding炊琉,沒(méi)有需要學(xué)習(xí)的parameters展蒂,只是挑選代表像素,起到壓縮數(shù)據(jù)的作用
Screen Shot 2017-11-28 at 8.56.38 AM.png

6.最后一個(gè)完整的卷積神經(jīng)網(wǎng)絡(luò)的例子
Screen Shot 2017-11-28 at 9.01.17 AM.png

大量的參數(shù)出現(xiàn)在FC層苔咪,激活size應(yīng)該逐步減小
Screen Shot 2017-11-28 at 9.02.32 AM.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末锰悼,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子团赏,更是在濱河造成了極大的恐慌松捉,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,406評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件馆里,死亡現(xiàn)場(chǎng)離奇詭異隘世,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)鸠踪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,732評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門丙者,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事∫缮唬” “怎么了勋眯?”我有些...
    開(kāi)封第一講書人閱讀 163,711評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵梧躺,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么主儡? 我笑而不...
    開(kāi)封第一講書人閱讀 58,380評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮惨缆,結(jié)果婚禮上糜值,老公的妹妹穿的比我還像新娘。我一直安慰自己坯墨,他們只是感情好寂汇,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,432評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著捣染,像睡著了一般骄瓣。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上耍攘,一...
    開(kāi)封第一講書人閱讀 51,301評(píng)論 1 301
  • 那天榕栏,我揣著相機(jī)與錄音畔勤,去河邊找鬼。 笑死臼膏,一個(gè)胖子當(dāng)著我的面吹牛硼被,可吹牛的內(nèi)容都是我干的示损。 我是一名探鬼主播渗磅,決...
    沈念sama閱讀 40,145評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼检访!你這毒婦竟也來(lái)了始鱼?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 39,008評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤脆贵,失蹤者是張志新(化名)和其女友劉穎医清,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體卖氨,經(jīng)...
    沈念sama閱讀 45,443評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡会烙,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,649評(píng)論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了筒捺。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片柏腻。...
    茶點(diǎn)故事閱讀 39,795評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖系吭,靈堂內(nèi)的尸體忽然破棺而出五嫂,到底是詐尸還是另有隱情,我是刑警寧澤肯尺,帶...
    沈念sama閱讀 35,501評(píng)論 5 345
  • 正文 年R本政府宣布沃缘,位于F島的核電站,受9級(jí)特大地震影響则吟,放射性物質(zhì)發(fā)生泄漏槐臀。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,119評(píng)論 3 328
  • 文/蒙蒙 一氓仲、第九天 我趴在偏房一處隱蔽的房頂上張望峰档。 院中可真熱鬧,春花似錦寨昙、人聲如沸讥巡。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,731評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)欢顷。三九已至,卻和暖如春捉蚤,著一層夾襖步出監(jiān)牢的瞬間抬驴,已是汗流浹背炼七。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 32,865評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留布持,地道東北人豌拙。 一個(gè)月前我還...
    沈念sama閱讀 47,899評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像题暖,于是被迫代替她去往敵國(guó)和親按傅。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,724評(píng)論 2 354