chapter6-CNN

圖像識(shí)別的經(jīng)典數(shù)據(jù)集合

MNSIT:
CIFAR:10個(gè)不同種類的6000張圖片,圖片的每張像素是32*32蜒犯。
ImageNet:基于wordnet的大型圖像數(shù)據(jù)庫(kù)丧叽。將imagenet中的近15000w的圖片與wordnet中的20000個(gè)名詞同義集火邓。
  在imagenet的數(shù)據(jù)集中一個(gè)實(shí)體的標(biāo)識(shí)矩陣稱為bounding box.
  top-n正確率:圖像識(shí)別算法給出的前n個(gè)答案中有一個(gè)正確的概率。
MNIST與CIFAR數(shù)據(jù)集的的區(qū)別:
CIFAR的數(shù)據(jù)集是彩色的礁叔,分辨的難度比較大,MNIST的數(shù)據(jù)集合是黑白色,分辨的難度比較小润匙。

CNN


cnn結(jié)構(gòu)圖

卷積層

CNN出現(xiàn)的原因

圖像處理問題的全連接參數(shù)太多
以mnist圖像集為例子,一張圖片的像素是28*28*1(28個(gè)像素*28個(gè)像素*圖像是白是黑)唉匾,
第一個(gè)hidden layer的nuture為500個(gè)孕讳,第一個(gè)全連接的參數(shù)為28×28×500+500
以CIFAR圖像集為例子:一張圖片的參數(shù)為32×32×3.同樣考慮是第一層hidden layer的
nutire為500個(gè),則第一個(gè)全連接的參數(shù)為32×32×3×500+500~150w個(gè)參數(shù)巍膘。

CNN的結(jié)構(gòu)

1:輸入層:(x,y,channel)
  x,y:圖片的像素
  channel:圖像的色彩通道厂财,黑白為1,RGB色彩模式下圖像通道為3。
2:卷積層
  filter:將前一層的子矩陣轉(zhuǎn)換為下層的單位矩陣,
    filter的尺寸:前一個(gè)的子矩陣的尺寸峡懈,這是需要人工指定的璃饱,常用的為3*3,5*5.
    filter的深度:下層單位矩陣的深度。

  單位矩陣:1*1*深度(深度可變,長(zhǎng)寬都為1)

  矩陣移動(dòng):左上到右上肪康,左下角矩陣荚恶,繼續(xù)向右。

  矩陣大小控制:用0填充磷支,設(shè)置過濾器的移動(dòng)步長(zhǎng)谒撼。
3:池化層
  作用類似于前向傳播的加權(quán),有2種方式
  max pooling:最大值操作的池化層
  average pooling:平均值操作的池化層
  類似與卷積層齐唆,池化層也有自定義filter尺寸嗤栓,用0填充,設(shè)置過濾器的移動(dòng)步長(zhǎng)箍邮。
  不同與卷積層茉帅,池化層的filter還需要在filter深度上移動(dòng),卷積層則不不需要锭弊。

4:全連接層
  卷積層堪澎,池化層的作用主要是做圖像特征的提取。
  全連接層的主要作用是完成分類任務(wù)味滞。
5:softmax層:主要用于圖像分類問題
  得到不同label的probability`

經(jīng)典cnn網(wǎng)絡(luò)架構(gòu)

一般的架構(gòu)為
  輸入層->(一個(gè)或者多個(gè)卷及層+沒有或者一個(gè)池化層)+全連接層+other
  ps:論文發(fā)現(xiàn)可以通過調(diào)節(jié)卷及層的步長(zhǎng)取代池化層實(shí)現(xiàn)減少參數(shù)過擬合樱蛤。

lenet-5
inception-v3

遷移學(xué)習(xí)

將一個(gè)問題上訓(xùn)練好的模型通過簡(jiǎn)單調(diào)整使用與一個(gè)新模型

參考鏈接
http://www.image-net.org/
http://www.reibang.com/p/fe428f0b32c1
http://blog.topspeedsnail.com/

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市剑鞍,隨后出現(xiàn)的幾起案子昨凡,更是在濱河造成了極大的恐慌,老刑警劉巖蚁署,帶你破解...
    沈念sama閱讀 219,270評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件便脊,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡光戈,警方通過查閱死者的電腦和手機(jī)哪痰,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門遂赠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人晌杰,你說我怎么就攤上這事跷睦。” “怎么了肋演?”我有些...
    開封第一講書人閱讀 165,630評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵抑诸,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我惋啃,道長(zhǎng)哼鬓,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,906評(píng)論 1 295
  • 正文 為了忘掉前任边灭,我火速辦了婚禮,結(jié)果婚禮上健盒,老公的妹妹穿的比我還像新娘绒瘦。我一直安慰自己,他們只是感情好扣癣,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,928評(píng)論 6 392
  • 文/花漫 我一把揭開白布惰帽。 她就那樣靜靜地躺著,像睡著了一般父虑。 火紅的嫁衣襯著肌膚如雪该酗。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,718評(píng)論 1 305
  • 那天士嚎,我揣著相機(jī)與錄音呜魄,去河邊找鬼。 笑死莱衩,一個(gè)胖子當(dāng)著我的面吹牛爵嗅,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播笨蚁,決...
    沈念sama閱讀 40,442評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼睹晒,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了括细?” 一聲冷哼從身側(cè)響起伪很,我...
    開封第一講書人閱讀 39,345評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎奋单,沒想到半個(gè)月后锉试,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,802評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡辱匿,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,984評(píng)論 3 337
  • 正文 我和宋清朗相戀三年键痛,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了炫彩。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,117評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡絮短,死狀恐怖江兢,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情丁频,我是刑警寧澤杉允,帶...
    沈念sama閱讀 35,810評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站席里,受9級(jí)特大地震影響叔磷,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜奖磁,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,462評(píng)論 3 331
  • 文/蒙蒙 一改基、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧咖为,春花似錦秕狰、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,011評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至吞彤,卻和暖如春我衬,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背饰恕。 一陣腳步聲響...
    開封第一講書人閱讀 33,139評(píng)論 1 272
  • 我被黑心中介騙來泰國(guó)打工挠羔, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人懂盐。 一個(gè)月前我還...
    沈念sama閱讀 48,377評(píng)論 3 373
  • 正文 我出身青樓褥赊,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親莉恼。 傳聞我的和親對(duì)象是個(gè)殘疾皇子拌喉,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,060評(píng)論 2 355