菜鳥實習日記~day5(VGG+video feature flow PPT)

生活:

今天累成狗了......柱子哥讓我做關于video feature flow主線的PPT茂卦,然后在組會上講...我一個剛來不到1個月的實習生冤留,這簡直太看得起我了璧榄。。亿驾。


中午吃的那個炸鮮奶挺好吃的~

科研:

1.VGG:

詳解CNN五大經(jīng)典模型:Lenet嘹黔,Alexnet,Googlenet莫瞬,VGG儡蔓,DRL

基于CNN經(jīng)典的五大模型在上面的鏈接里都簡單介紹啦郭蕉,下面主要說VGG和Alexnet:

VGG相對來說,有更準確的估值喂江,更節(jié)省空間召锈。

先解釋幾個仍然不清楚的概念:

@1:filter(過濾器)——相當于一套卷積參數(shù),每個Filter都可以把原始輸入圖像卷積得到一個Feature Map开呐,三個Filter就可以得到三個Feature Map.

@2:channel(通道)——我們可以把Feature Map可以看做是通過卷積變換提取到的圖像特征烟勋,三個Filter就對原始圖像提取出三組不同的特征,也就是得到了三個Feature Map筐付,也稱做三個通道(channel)

VGG結(jié)構(gòu):

VGG結(jié)構(gòu)圖

與AlexNet相同點

1.最后三層FC層(Fully Connected全連接層)結(jié)構(gòu)相同卵惦。

2.都分成五層(組)。

3.每層和每層之間用pooling層分開瓦戚。

不同點

1.AlexNet每層僅僅含有一個Convolution層沮尿,filter的大小7x7(很大);而VGG每層含有多個(2~4)個Convolution層较解,filter的大小是3x3(最行蠹病)。很明顯印衔,VGG是在模仿Alex的結(jié)構(gòu)啡捶,然而它通過降低filter的大小,增加層數(shù)來達到同樣的效果奸焙。我提出我的一個對這種模仿的一種我自己的理解瞎暑。因為不是論文中講到,僅僅是我自己的理解与帆,僅供大家參考了赌。

作者在論文中說了一句

"This can be seen as imposing a regularisation on the 7 × 7 conv. filters, forcing them to have a decomposition through the 3 × 3 filters"

他說7x7 filter可以被分解成若干個3x3的filter的疊加。

類比一下n維空間的向量x玄糟,x的正交分解

x = x1(1, 0, 0, ....) + x2(0, 1, 0, ...) + x3(0, 0, 1,...) + ... + xn(0, 0, 0, ..., 1)

每一組的每一層的filter被類比成n維歐幾里得空間的基底勿她。

若VGG的一組含有3層3x3的filter,則我們則假設一個7x7的filter可以被分解成3種“正交”的3x3的filter阵翎。

作者原文:First, we incorporate three non-linearrectification layers instead of a single one, which makes the decision function more discriminative.Second, we decrease the number of parameters: assuming that both the input and the output of athree-layer 3 × 3 convolution stack has C channels, the stack is parametrised by 3? 32C^2 = 27C^2weights; at the same time, a single 7 × 7 conv. layer would require 72C^2 = 49C^2

2.AlexNet的Channel明顯小于VGG逢并。猜測VGG的之所以能夠達到更高的精準性,源自于更多的Channel數(shù)郭卫。而由于filter size的減小筒狠,channel可以大幅度增加,更多的信息可以被提取箱沦。

作者:voidrank

鏈接:http://www.reibang.com/p/9c6d90e4f20e


最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市雇庙,隨后出現(xiàn)的幾起案子谓形,更是在濱河造成了極大的恐慌灶伊,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,104評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件寒跳,死亡現(xiàn)場離奇詭異聘萨,居然都是意外死亡,警方通過查閱死者的電腦和手機童太,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,816評論 3 399
  • 文/潘曉璐 我一進店門米辐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人书释,你說我怎么就攤上這事翘贮。” “怎么了爆惧?”我有些...
    開封第一講書人閱讀 168,697評論 0 360
  • 文/不壞的土叔 我叫張陵狸页,是天一觀的道長。 經(jīng)常有香客問我扯再,道長芍耘,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,836評論 1 298
  • 正文 為了忘掉前任熄阻,我火速辦了婚禮斋竞,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘秃殉。我一直安慰自己坝初,他們只是感情好,可當我...
    茶點故事閱讀 68,851評論 6 397
  • 文/花漫 我一把揭開白布复濒。 她就那樣靜靜地躺著脖卖,像睡著了一般。 火紅的嫁衣襯著肌膚如雪巧颈。 梳的紋絲不亂的頭發(fā)上畦木,一...
    開封第一講書人閱讀 52,441評論 1 310
  • 那天,我揣著相機與錄音砸泛,去河邊找鬼十籍。 笑死,一個胖子當著我的面吹牛唇礁,可吹牛的內(nèi)容都是我干的勾栗。 我是一名探鬼主播,決...
    沈念sama閱讀 40,992評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼盏筐,長吁一口氣:“原來是場噩夢啊……” “哼围俘!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,899評論 0 276
  • 序言:老撾萬榮一對情侶失蹤界牡,失蹤者是張志新(化名)和其女友劉穎簿寂,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體宿亡,經(jīng)...
    沈念sama閱讀 46,457評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡常遂,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,529評論 3 341
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了挽荠。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片克胳。...
    茶點故事閱讀 40,664評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖圈匆,靈堂內(nèi)的尸體忽然破棺而出漠另,到底是詐尸還是另有隱情,我是刑警寧澤臭脓,帶...
    沈念sama閱讀 36,346評論 5 350
  • 正文 年R本政府宣布酗钞,位于F島的核電站,受9級特大地震影響来累,放射性物質(zhì)發(fā)生泄漏砚作。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,025評論 3 334
  • 文/蒙蒙 一嘹锁、第九天 我趴在偏房一處隱蔽的房頂上張望葫录。 院中可真熱鬧,春花似錦领猾、人聲如沸米同。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,511評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽面粮。三九已至,卻和暖如春继低,著一層夾襖步出監(jiān)牢的瞬間熬苍,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,611評論 1 272
  • 我被黑心中介騙來泰國打工袁翁, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留柴底,地道東北人。 一個月前我還...
    沈念sama閱讀 49,081評論 3 377
  • 正文 我出身青樓粱胜,卻偏偏與公主長得像柄驻,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子焙压,可洞房花燭夜當晚...
    茶點故事閱讀 45,675評論 2 359

推薦閱讀更多精彩內(nèi)容