keras邊用邊學系列

sequential遮咖,即序貫?zāi)P停嵌鄠€網(wǎng)絡(luò)層的線性疊加造虏,可以將Layer的list作為sequential()的參數(shù)傳遞給sequential模型御吞,也可以通過sequential的add方法將layer一個個加入模型中。

tuple是元組的意思漓藕。關(guān)于卷積神經(jīng)網(wǎng)絡(luò)CNN陶珠,ResNet和Dense是兩種不同的CNN模型,Res是建立前面層和后面層的短路連接享钞,有利于梯度的反向傳播揍诽,從而訓練出更深的神經(jīng)網(wǎng)絡(luò),Dense則是建立前面所有層和后面層的密集連接。Dense還可以實現(xiàn)特征重用(feature reuse)寝姿。這讓Dense可以在參數(shù)和計算成本更小的情況下實現(xiàn)比Res更好的性能交排。

我是這樣理解的,Dense是通過密集連接來達到特征重用的效果饵筑,而特征的反復使用也讓它對特征的利用的更充分。假設(shè)有一個N層的神經(jīng)網(wǎng)絡(luò)处坪,那么就有N+1個節(jié)點根资。如果是Res,那么也就只有N次連接了同窘。但是Dense通過密集連接玄帕,讓后面的每一層都跟前面的所有層都建立連接關(guān)系,那么就有(N+1)*N/2想邦,除以2是排除掉重復的連接裤纹。在Res中,每一層僅僅接受前面一層作為輸入丧没,而在Dense中鹰椒,每一層會接受前面所有層作為輸入。

Dense的幾個參數(shù)呕童,output_dim漆际,輸出數(shù)據(jù)的維度;init夺饲,初始化權(quán)值的函數(shù)名稱奸汇,可以傳遞自己編寫的theano function,也可以用keras內(nèi)置的往声,如果沒有給weights傳遞參數(shù)時擂找,此參數(shù)必寫;weights浩销,用于初始化權(quán)值的數(shù)組組成的list贯涎,如果指定了init,那么weights可以復制None或者空缺撼嗓;input_dim柬采,輸入數(shù)據(jù)的維度。這里我理解的Dense是一個一維的全連接層且警。

relu是一個激活函數(shù)粉捻,其定義為當x為負,函數(shù)值為0斑芜,否則肩刃,函數(shù)值為x。值得一提的是,有一些激活函數(shù)盈包,雖然圖像比較平滑沸呐,但由于加入了指數(shù)和對數(shù)運算,無形中增加了計算量呢燥,最后的效果也不一定好崭添。

模型訓練前需要進行配置(compile),compile(optimizer,loss,metrics)叛氨,其中呼渣,optimizer可以是預(yù)定義的優(yōu)化器,如rmsprop寞埠,adagrad屁置;loss為損失函數(shù),也叫目標函數(shù)仁连,也可以是預(yù)定義的loss蓝角,如categorical_crossentropy、mse饭冬;metrics為指標列表使鹅。

http://www.reibang.com/p/970aed041046 ?這里簡單的說了下ModelCheckpoint中的參數(shù)。

history字典包含val_loss伍伤、val_acc并徘、loss、acc扰魂,其中val_是測試集上的麦乞,另外一個是訓練集上的,loss表示損失值劝评,acc表示準確率姐直。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市蒋畜,隨后出現(xiàn)的幾起案子声畏,更是在濱河造成了極大的恐慌,老刑警劉巖姻成,帶你破解...
    沈念sama閱讀 217,542評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件插龄,死亡現(xiàn)場離奇詭異,居然都是意外死亡科展,警方通過查閱死者的電腦和手機均牢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,822評論 3 394
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來才睹,“玉大人徘跪,你說我怎么就攤上這事甘邀。” “怎么了垮庐?”我有些...
    開封第一講書人閱讀 163,912評論 0 354
  • 文/不壞的土叔 我叫張陵松邪,是天一觀的道長。 經(jīng)常有香客問我哨查,道長逗抑,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,449評論 1 293
  • 正文 為了忘掉前任寒亥,我火速辦了婚禮锋八,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘护盈。我一直安慰自己,他們只是感情好羞酗,可當我...
    茶點故事閱讀 67,500評論 6 392
  • 文/花漫 我一把揭開白布腐宋。 她就那樣靜靜地躺著,像睡著了一般檀轨。 火紅的嫁衣襯著肌膚如雪胸竞。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,370評論 1 302
  • 那天参萄,我揣著相機與錄音卫枝,去河邊找鬼。 笑死讹挎,一個胖子當著我的面吹牛校赤,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播筒溃,決...
    沈念sama閱讀 40,193評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼马篮,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了怜奖?” 一聲冷哼從身側(cè)響起浑测,我...
    開封第一講書人閱讀 39,074評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎歪玲,沒想到半個月后迁央,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,505評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡滥崩,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,722評論 3 335
  • 正文 我和宋清朗相戀三年岖圈,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片夭委。...
    茶點故事閱讀 39,841評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡幅狮,死狀恐怖募强,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情崇摄,我是刑警寧澤擎值,帶...
    沈念sama閱讀 35,569評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站逐抑,受9級特大地震影響鸠儿,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜厕氨,卻給世界環(huán)境...
    茶點故事閱讀 41,168評論 3 328
  • 文/蒙蒙 一进每、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧命斧,春花似錦田晚、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,783評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至汇四,卻和暖如春接奈,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背通孽。 一陣腳步聲響...
    開封第一講書人閱讀 32,918評論 1 269
  • 我被黑心中介騙來泰國打工序宦, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人背苦。 一個月前我還...
    沈念sama閱讀 47,962評論 2 370
  • 正文 我出身青樓互捌,卻偏偏與公主長得像,于是被迫代替她去往敵國和親糠惫。 傳聞我的和親對象是個殘疾皇子疫剃,可洞房花燭夜當晚...
    茶點故事閱讀 44,781評論 2 354