CNN筆記

概念

1)卷積核=過濾器filter:

每個(gè)卷積核有長(zhǎng)寬深3個(gè)維度

2)feature map:

在cnn的每個(gè)卷積層秦陋,數(shù)據(jù)都是以三維形式存在的各谚。你可以把它看成許多個(gè)二維圖片疊在一起(像豆腐皮一樣)省核,其中每一個(gè)稱為一個(gè)feature map墩虹。

3)feature map怎么生成

在輸入層豌熄,如果是灰度圖片授嘀,就只有一個(gè)feature map;如果是彩色圖片锣险,一般就是3個(gè)feature map(紅綠藍(lán))蹄皱。

4)卷積核運(yùn)算過程

例如輸入224x224x3(rgb三通道),輸出是32位深度芯肤,卷積核尺寸為5x5巷折。

strides=1時(shí):a_{i,j}=f(\sum_{d=0}^{D-1} \sum_{m=0}^{F-1} \sum_{n=0}^{F-1} w_{d,m,n}x_{d,i+m,j+n}+w_b)

D是深度;F是filter的大小(寬度或者長(zhǎng)度)崖咨;w_{d,m,n}表示filter的第d層第m行第n列權(quán)重锻拘;a_{d,i.j}表示圖像的第d層第i行第j列像素


那么我們需要32個(gè)卷積核,每一個(gè)的尺寸為5x5x3(最后的3就是原圖的rgb位深3)击蹲,每一個(gè)卷積核的每一層是5x5(共3層)分別與原圖的每層224x224卷積署拟,然后將得到的三張新圖疊加(算術(shù)求和),變成一張新的feature map歌豺。 每一個(gè)卷積核都這樣操作推穷,就可以得到32張新的feature map了。? 也就是說:

不管輸入圖像的深度為多少类咧,經(jīng)過一個(gè)卷積核(filter)馒铃,最后都通過下面的公式變成一個(gè)深度為1的特征圖。不同的filter可以卷積得到不同的特征痕惋,也就是得到不同的feature map骗露。

tf.layers.conv2d

def conv2d(input, filter, strides, padding, use_cudnn_on_gpu=True, data_format="NHWC", dilations=[1, 1, 1, 1], name=None):

? ? r"""Computes a 2-D convolution given 4-D `input` and `filter` tensors.

feature map的一些理解:

1)特征映射,是輸入圖像和卷積核卷積后生成的feature map,圖像的特征;

2)feature map的意思在計(jì)算機(jī)視覺領(lǐng)域基本一致,可以草率的翻譯成特征圖血巍,例如rgb,所有點(diǎn)的r組成一個(gè)feature map;

3)在輸入層珊随,如果是灰度圖片述寡,那就只有一個(gè)feature map;如果是彩色圖片叶洞,一般就是3個(gè)feature map(紅綠藍(lán));

卷積核的一些理解:

1)層與層之間會(huì)有若干個(gè)卷積核(kernel)鲫凶,上一層和每個(gè)feature map跟每個(gè)卷積核做卷積,都會(huì)產(chǎn)生下一層的一個(gè)feature map;

2)卷積核在有的文檔里也稱為過濾器(filter):?

每個(gè)卷積核具有長(zhǎng)寬深三個(gè)維度衩辟;

在某個(gè)卷積層中螟炫,可以有多個(gè)卷積核:下一層需要多少個(gè)feather map,本層就需要多少個(gè)卷積核艺晴。

卷積核的形狀

每個(gè)卷積核具有長(zhǎng)昼钻、寬掸屡、深三個(gè)維度。在CNN的一個(gè)卷積層中:

卷積核的長(zhǎng)然评、寬都是人為指定的仅财,長(zhǎng)X寬也被稱為卷積核的尺寸,常用的尺寸為3X3碗淌,5X5等盏求;

卷積核的深度與當(dāng)前圖像的深度(feather map的張數(shù))相同,所以指定卷積核時(shí)亿眠,只需指定其長(zhǎng)和寬 兩個(gè)參數(shù)碎罚。例如,在原始圖像層 (輸入層)纳像,如果圖像是灰度圖像荆烈,其feather map數(shù)量為1,則卷積核的深度也就是1爹耗;如果圖像是grb圖像耙考,其feather map數(shù)量為3,則卷積核的深度也就是3.

因?yàn)殡S著網(wǎng)絡(luò)的加深潭兽,feature map的長(zhǎng)寬尺寸縮小倦始,本卷積層的每個(gè)map提取的特征越具有代表性(精華部分),所以后一層卷積層需要增加feature map的數(shù)量山卦,才能更充分的提取出前一層的特征鞋邑,一般是成倍增加

https://blog.csdn.net/xys430381_1/article/details/82529397

filter的理解

filter有兩種理解:

在有的文檔中,一個(gè)filter等同于一個(gè)卷積核:只是指定了卷積核的長(zhǎng)寬深账蓉;

而有的情況(例如tensorflow等框架中枚碗,filter參數(shù)通常指定了卷積核的長(zhǎng)、寬铸本、深肮雨、個(gè)數(shù)四個(gè)參數(shù)),filter包含了卷積核形狀和卷積核數(shù)量的概念:即filter既指定了卷積核的長(zhǎng)寬深箱玷,也指定了卷積核的數(shù)量怨规。

一般 channels 的含義是,每個(gè)卷積層中卷積核的數(shù)量

https://blog.csdn.net/xiaocong1990/article/details/82532814

TextCNN對(duì)文本淺層特征的抽取能力很強(qiáng)锡足,在短文本領(lǐng)域如搜索波丰、對(duì)話領(lǐng)域?qū)W⒂谝鈭D分類時(shí)效果很好,應(yīng)用廣泛舶得,且速度快掰烟,一般是首選;對(duì)長(zhǎng)文本領(lǐng)域,TextCNN主要靠filter窗口抽取特征纫骑,在長(zhǎng)距離建模方面能力受限蝎亚,且對(duì)語序不敏感。

http://www.cnblogs.com/qggg/p/6832342.html

```

tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)

除去name參數(shù)用以指定該操作的name惧磺,與方法有關(guān)的一共五個(gè)參數(shù):

第一個(gè)參數(shù)input:指需要做卷積的輸入圖像颖对,它要求是一個(gè)Tensor,

具有[batch, in_height, in_width, in_channels]這樣的shape磨隘,

具體含義是[訓(xùn)練時(shí)一個(gè)batch的圖片數(shù)量, 圖片高度, 圖片寬度, 圖像通道數(shù)]

第二個(gè)參數(shù)filter:相當(dāng)于CNN中的卷積核缤底,它要求是一個(gè)Tensor,

具有[filter_height, filter_width, in_channels, out_channels]這樣的shape番捂,

具體含義是[卷積核的高度个唧,卷積核的寬度,圖像通道數(shù)设预,卷積核個(gè)數(shù)]

第三個(gè)參數(shù)strides:卷積時(shí)在圖像每一維的步長(zhǎng)徙歼,這是一個(gè)一維的向量,長(zhǎng)度4

第四個(gè)參數(shù)padding:只能是"SAME","VALID"其中之一鳖枕,這個(gè)值決定了不同的卷積方式

第五個(gè)參數(shù):use_cudnn_on_gpu:bool類型魄梯,是否使用cudnn加速,默認(rèn)為true

結(jié)果返回一個(gè)Tensor宾符,這個(gè)輸出酿秸,就是我們常說的feature map,

shape仍然是[batch, height, width, channels]這種形式魏烫。

```

完畢辣苏。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市哄褒,隨后出現(xiàn)的幾起案子稀蟋,更是在濱河造成了極大的恐慌,老刑警劉巖呐赡,帶你破解...
    沈念sama閱讀 217,907評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件退客,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡链嘀,警方通過查閱死者的電腦和手機(jī)萌狂,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,987評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來管闷,“玉大人,你說我怎么就攤上這事窃肠“觯” “怎么了?”我有些...
    開封第一講書人閱讀 164,298評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)碧囊。 經(jīng)常有香客問我树灶,道長(zhǎng),這世上最難降的妖魔是什么糯而? 我笑而不...
    開封第一講書人閱讀 58,586評(píng)論 1 293
  • 正文 為了忘掉前任天通,我火速辦了婚禮,結(jié)果婚禮上熄驼,老公的妹妹穿的比我還像新娘像寒。我一直安慰自己,他們只是感情好瓜贾,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,633評(píng)論 6 392
  • 文/花漫 我一把揭開白布诺祸。 她就那樣靜靜地躺著,像睡著了一般祭芦。 火紅的嫁衣襯著肌膚如雪筷笨。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,488評(píng)論 1 302
  • 那天龟劲,我揣著相機(jī)與錄音胃夏,去河邊找鬼。 笑死昌跌,一個(gè)胖子當(dāng)著我的面吹牛仰禀,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播避矢,決...
    沈念sama閱讀 40,275評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼悼瘾,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了审胸?” 一聲冷哼從身側(cè)響起亥宿,我...
    開封第一講書人閱讀 39,176評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎砂沛,沒想到半個(gè)月后烫扼,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,619評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡碍庵,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,819評(píng)論 3 336
  • 正文 我和宋清朗相戀三年映企,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片静浴。...
    茶點(diǎn)故事閱讀 39,932評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡堰氓,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出苹享,到底是詐尸還是另有隱情双絮,我是刑警寧澤,帶...
    沈念sama閱讀 35,655評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站囤攀,受9級(jí)特大地震影響软免,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜焚挠,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,265評(píng)論 3 329
  • 文/蒙蒙 一膏萧、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧蝌衔,春花似錦榛泛、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,871評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至亩冬,卻和暖如春艘希,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背硅急。 一陣腳步聲響...
    開封第一講書人閱讀 32,994評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工覆享, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人营袜。 一個(gè)月前我還...
    沈念sama閱讀 48,095評(píng)論 3 370
  • 正文 我出身青樓撒顿,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親荚板。 傳聞我的和親對(duì)象是個(gè)殘疾皇子凤壁,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,884評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容