目前流行的CNN神經(jīng)網(wǎng)絡(luò)模型架構(gòu)

  • LeNet-5:這是最早的 CNN 模型之一珍语,用于手寫數(shù)字識別建车。
  • AlexNet:在 LeNet-5 的基礎(chǔ)上進(jìn)行了改進(jìn),是 2012 年 ImageNet 競賽的冠軍模型垛孔。
  • VGG:該模型在 AlexNet 基礎(chǔ)上進(jìn)一步加深了網(wǎng)絡(luò)結(jié)構(gòu)衡瓶,提高了性能长赞。
  • GoogLeNet:這是一種高效的 CNN 模型渠啤,使用了 Inception 模塊跛锌。
  • ResNet:具有殘差連接的深度 CNN 模型贱呐,在許多圖像識別任務(wù)中表現(xiàn)出色丧诺。
  • DenseNet:通過密集連接來增強特征傳播,提高了模型的性能和效率奄薇。
  • SENet:基于注意力機制的 CNN 模型驳阎,能夠自適應(yīng)地選擇重要特征。
  • EfficientNet:結(jié)合了多種技術(shù)的高效模型,在計算資源有限的情況下表現(xiàn)良好搞隐。

VGG

VGG(Visual Geometry Group)神經(jīng)網(wǎng)絡(luò)是一種深度卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)驹愚,由牛津大學(xué)的視覺幾何組(Visual Geometry Group)于 2014 年提出。VGG 神經(jīng)網(wǎng)絡(luò)在圖像識別和計算機視覺領(lǐng)域取得了很好的效果劣纲,并成為了許多后續(xù)研究的基礎(chǔ)逢捺。
VGG 神經(jīng)網(wǎng)絡(luò)的主要特點包括:
使用小卷積核:VGG 網(wǎng)絡(luò)使用 3x3 的小卷積核,而不是較大的卷積核癞季。小卷積核可以增加網(wǎng)絡(luò)的深度劫瞳,同時減少參數(shù)數(shù)量,從而提高模型的效率和泛化能力绷柒。
增加網(wǎng)絡(luò)深度:VGG 網(wǎng)絡(luò)的深度相對較深志于,通常包含多個卷積層和全連接層。通過增加網(wǎng)絡(luò)深度废睦,可以捕捉圖像中的更多特征和模式伺绽。
使用池化層:VGG 網(wǎng)絡(luò)使用池化層(如最大池化)來對卷積特征進(jìn)行下采樣,從而減少特征圖的大小嗜湃,同時保留重要的信息奈应。
全連接層:在網(wǎng)絡(luò)的末尾,VGG 網(wǎng)絡(luò)通常使用全連接層來將卷積特征轉(zhuǎn)換為一維向量购披,以便進(jìn)行分類或回歸任務(wù)杖挣。
預(yù)訓(xùn)練和微調(diào):VGG 網(wǎng)絡(luò)通常在大規(guī)模圖像數(shù)據(jù)集(如 ImageNet)上進(jìn)行預(yù)訓(xùn)練,然后在特定任務(wù)上進(jìn)行微調(diào)刚陡。預(yù)訓(xùn)練可以幫助模型學(xué)習(xí)通用的圖像特征惩妇,微調(diào)則可以適應(yīng)特定任務(wù)的需求。

EfficientNet

EfficientNet 是一種卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)和縮放方法筐乳,由 Google Research 在 2019 年提出歌殃。它基于一個基礎(chǔ)模型 EfficientNet-B0,通過一種復(fù)合系數(shù)來統(tǒng)一縮放網(wǎng)絡(luò)的寬度哥童、深度和分辨率挺份。
縮放方法:
傳統(tǒng)的網(wǎng)絡(luò)縮放方法通常只獨立地縮放網(wǎng)絡(luò)的深度、寬度或分辨率贮懈。EfficientNet 提出了一種基于一個固定的比例來同時縮放這三個維度匀泊,以此來保持它們之間的平衡。
縮放系數(shù)由一個簡單的公式?jīng)Q定朵你,這個公式基于網(wǎng)絡(luò)的復(fù)雜度和資源的可用性各聘。
基礎(chǔ)模型(EfficientNet-B0):
EfficientNet 的起點是基礎(chǔ)模型 EfficientNet-B0,它是通過神經(jīng)架構(gòu)搜索(Neural Architecture Search, NAS)得到的一個高效的模型抡医。
優(yōu)點:
在 ImageNet 和五個常用的遷移學(xué)習(xí)數(shù)據(jù)集上躲因,以較少的參數(shù)和 FLOPS 超過最先進(jìn)的 accuracy早敬。
可以非常有效地擴大,在保持模型效率的同時提高 accuracy大脉。
遷移學(xué)習(xí)效果好搞监,能夠在不同任務(wù)中取得較好的性能。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末镰矿,一起剝皮案震驚了整個濱河市琐驴,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌秤标,老刑警劉巖绝淡,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異苍姜,居然都是意外死亡牢酵,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進(jìn)店門衙猪,熙熙樓的掌柜王于貴愁眉苦臉地迎上來馍乙,“玉大人,你說我怎么就攤上這事屈嗤∨瞬Γ” “怎么了?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵饶号,是天一觀的道長。 經(jīng)常有香客問我季蚂,道長茫船,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任扭屁,我火速辦了婚禮算谈,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘料滥。我一直安慰自己然眼,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布葵腹。 她就那樣靜靜地躺著高每,像睡著了一般。 火紅的嫁衣襯著肌膚如雪践宴。 梳的紋絲不亂的頭發(fā)上鲸匿,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天,我揣著相機與錄音阻肩,去河邊找鬼带欢。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的乔煞。 我是一名探鬼主播吁朦,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼渡贾!你這毒婦竟也來了逗宜?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤剥啤,失蹤者是張志新(化名)和其女友劉穎锦溪,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體府怯,經(jīng)...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡刻诊,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了牺丙。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片则涯。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖冲簿,靈堂內(nèi)的尸體忽然破棺而出粟判,到底是詐尸還是另有隱情,我是刑警寧澤峦剔,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布档礁,位于F島的核電站,受9級特大地震影響吝沫,放射性物質(zhì)發(fā)生泄漏呻澜。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一惨险、第九天 我趴在偏房一處隱蔽的房頂上張望羹幸。 院中可真熱鬧,春花似錦辫愉、人聲如沸栅受。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽屏镊。三九已至,卻和暖如春冀墨,著一層夾襖步出監(jiān)牢的瞬間闸衫,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工诽嘉, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蔚出,地道東北人弟翘。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓,卻偏偏與公主長得像骄酗,于是被迫代替她去往敵國和親稀余。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內(nèi)容