LeNet模型解讀

LeNet-5

draw_net.py生成的LeNet

第一層:輸入層32x32(28x28)大小的圖像贱田。明顯特征能夠出現(xiàn)在最高層特征監(jiān)測(cè)子感受野的中心威根。(筆畫斷續(xù)凤巨、角點(diǎn))
第二層:C1,卷積層洛搀。原始信號(hào)特征增強(qiáng)敢茁,降低噪音,不同的卷積核能夠提取到不同的圖像特征留美。

feature map個(gè)數(shù):6個(gè) 3232
conv kernel大姓妹省:5 * 5
神經(jīng)元個(gè)數(shù):(32 - 5 + 1) * (32 - 5 + 1) = 28 * 28
訓(xùn)練參數(shù)個(gè)數(shù): (5 * 5 + 1) * 6 = 156
連接數(shù): (5 * 5 + 1)
(28 * 28) * 6 = 122304

第三層:S2,下采樣層谎砾。降低網(wǎng)絡(luò)訓(xùn)練參數(shù)和模型的過(guò)擬合程度逢倍。兩種方法:均值、最大值景图。

feature map個(gè)數(shù):6個(gè)14 * 14瓶堕,與C1中的2 * 2的區(qū)域相連。
神經(jīng)元計(jì)算:sigmoid (2 * 2 的輸入相加 * 一個(gè)訓(xùn)練參數(shù) + 該feature map的bias)
神經(jīng)元個(gè)數(shù):14 * 14
訓(xùn)練參數(shù)個(gè)數(shù): 2 * 6 = 12
連接數(shù):(2 * 2 + 1) * (14 * 14) * 6 = 5880

第四層:C3症歇,卷積層郎笆。

conv kernel大小:5 * 5
feature map個(gè)數(shù):16個(gè)14 * 14
神經(jīng)元個(gè)數(shù): (14 - 5 + 1) * (14 - 5 + 1) = 10 * 10
該層feature map是由上一層的各feature map的不同組合而成的忘晤,所以訓(xùn)練參數(shù)為:
(5 * 5 * 3 + 1) * 6 + (5 * 5 * 4 + 1) * 9 + (5 * 5 * 6 + 1) * 1 = 1516
連接數(shù):1516 * 10 * 10 = 151600

第五層:S4宛蚓,下采樣層。

feature map個(gè)數(shù):16個(gè)5 * 5设塔, 與C3中對(duì)應(yīng)的feature map的2 * 2大小的區(qū)域相連凄吏。
訓(xùn)練參數(shù)個(gè)數(shù): 2 * 16 = 32
連接數(shù): (2 * 2 + 1) * (5 * 5) * 16 = 2000

第六層:C5,卷積層。

feature map個(gè)數(shù):120個(gè)5 * 5
conv kernel: 5 * 5
神經(jīng)元個(gè)數(shù):(5 - 5 + 1) * (5 - 5 + 1) = 1
訓(xùn)練參數(shù)個(gè)數(shù):(5 * 5 * 16 + 1) * 120 = 48120
連接數(shù): 48120 * 1 = 48120

第七層:F6痕钢,全連接層图柏。

feature map個(gè)數(shù):84
神經(jīng)元:每個(gè)feature map只有一個(gè)神經(jīng)元與C5層全連接,故
連接數(shù)與參數(shù)個(gè)數(shù):(1 * 1 * 120 + 1)* 84 = 10164
計(jì)算輸入向量和權(quán)重向量之間的點(diǎn)積和偏置任连,之后將其傳遞給sigmoid函數(shù)來(lái)計(jì)算神經(jīng)元蚤吹。

第八層:輸出層。10個(gè)節(jié)點(diǎn)随抠。

84 * 10個(gè)設(shè)定參數(shù)和連接裁着。
如果節(jié)點(diǎn) i 的值為0,則識(shí)別的內(nèi)容為 i 拱她。
采用RBF二驰。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市秉沼,隨后出現(xiàn)的幾起案子桶雀,更是在濱河造成了極大的恐慌,老刑警劉巖唬复,帶你破解...
    沈念sama閱讀 216,402評(píng)論 6 499
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件背犯,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡盅抚,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,377評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門倔矾,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)妄均,“玉大人,你說(shuō)我怎么就攤上這事哪自》岚” “怎么了?”我有些...
    開(kāi)封第一講書人閱讀 162,483評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵壤巷,是天一觀的道長(zhǎng)邑彪。 經(jīng)常有香客問(wèn)我,道長(zhǎng)胧华,這世上最難降的妖魔是什么寄症? 我笑而不...
    開(kāi)封第一講書人閱讀 58,165評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮矩动,結(jié)果婚禮上有巧,老公的妹妹穿的比我還像新娘。我一直安慰自己悲没,他們只是感情好篮迎,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,176評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著,像睡著了一般甜橱。 火紅的嫁衣襯著肌膚如雪逊笆。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書人閱讀 51,146評(píng)論 1 297
  • 那天岂傲,我揣著相機(jī)與錄音难裆,去河邊找鬼。 笑死譬胎,一個(gè)胖子當(dāng)著我的面吹牛差牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播堰乔,決...
    沈念sama閱讀 40,032評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼偏化,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了镐侯?” 一聲冷哼從身側(cè)響起侦讨,我...
    開(kāi)封第一講書人閱讀 38,896評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎苟翻,沒(méi)想到半個(gè)月后韵卤,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,311評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡崇猫,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,536評(píng)論 2 332
  • 正文 我和宋清朗相戀三年沈条,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片诅炉。...
    茶點(diǎn)故事閱讀 39,696評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡蜡歹,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出涕烧,到底是詐尸還是另有隱情月而,我是刑警寧澤,帶...
    沈念sama閱讀 35,413評(píng)論 5 343
  • 正文 年R本政府宣布议纯,位于F島的核電站父款,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏瞻凤。R本人自食惡果不足惜憨攒,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,008評(píng)論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望阀参。 院中可真熱鬧浓恶,春花似錦、人聲如沸结笨。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至伐憾,卻和暖如春勉痴,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背树肃。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 32,815評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工蒸矛, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人胸嘴。 一個(gè)月前我還...
    沈念sama閱讀 47,698評(píng)論 2 368
  • 正文 我出身青樓雏掠,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親劣像。 傳聞我的和親對(duì)象是個(gè)殘疾皇子乡话,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,592評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • 五、Deep Learning的基本思想 假設(shè)我們有一個(gè)系統(tǒng)S耳奕,它有n層(S1,…Sn)绑青,它的輸入是I,輸出是O屋群,...
    dma_master閱讀 1,642評(píng)論 1 2
  • CNN闸婴、RNN和LSTM 卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN) 198...
    我偏笑_NSNirvana閱讀 7,701評(píng)論 3 27
  • 我,很多時(shí)候都是獨(dú)處的对竣。 小的時(shí)候庇楞,比較害怕獨(dú)處,怕別人以為自己沒(méi)有朋友柏肪,是個(gè)孤獨(dú)的人。 大學(xué)時(shí)期芥牌,由于學(xué)生會(huì)的工...
    菜菜子082閱讀 512評(píng)論 3 8
  • 今天是禁食禱告的第三天烦味,今天的主題是在圣經(jīng)里禱告。講到用方言禱告壁拉,我第一次領(lǐng)受方言是在得勝周末營(yíng)谬俄,那時(shí)候是有一下子...
    安可兄閱讀 798評(píng)論 0 0
  • 不要吝嗇你的贊美! 今天看了一個(gè)觸發(fā)我心靈的視頻弃理,一個(gè)攝影師拿著單反溃论,邊走邊拍從自己身邊過(guò)去的一...
    龍女快跑閱讀 335評(píng)論 1 0