overfitting

overfitting


1呵俏、early termination

2帮毁、Regularization






Dropout(jeffery Hinton)






robust

and avoid overfitting






實(shí)際和 測(cè)試準(zhǔn)確率不一致 ?往声,測(cè)試準(zhǔn)確率一直比實(shí)際的差?




機(jī)器學(xué)習(xí)過(guò)擬合 的實(shí)際問(wèn)題就是機(jī)器學(xué)習(xí)過(guò)于 自負(fù),嗜湃,



怎樣 解決overfitting問(wèn)題:

1、增加數(shù)據(jù)量


2澜掩、L1购披,L2 regularization 正規(guī)化?

2、Dropout

隨機(jī)dropout 不確定的神經(jīng)元 ?肩榕,刚陡,從根本上解決依賴部分W



最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市株汉,隨后出現(xiàn)的幾起案子筐乳,更是在濱河造成了極大的恐慌,老刑警劉巖乔妈,帶你破解...
    沈念sama閱讀 212,454評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蝙云,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡路召,警方通過(guò)查閱死者的電腦和手機(jī)勃刨,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,553評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)股淡,“玉大人身隐,你說(shuō)我怎么就攤上這事∥椋” “怎么了贾铝?”我有些...
    開(kāi)封第一講書(shū)人閱讀 157,921評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)埠帕。 經(jīng)常有香客問(wèn)我垢揩,道長(zhǎng),這世上最難降的妖魔是什么敛瓷? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,648評(píng)論 1 284
  • 正文 為了忘掉前任水孩,我火速辦了婚禮,結(jié)果婚禮上琐驴,老公的妹妹穿的比我還像新娘。我一直安慰自己秤标,他們只是感情好绝淡,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,770評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著苍姜,像睡著了一般牢酵。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上衙猪,一...
    開(kāi)封第一講書(shū)人閱讀 49,950評(píng)論 1 291
  • 那天馍乙,我揣著相機(jī)與錄音布近,去河邊找鬼。 笑死丝格,一個(gè)胖子當(dāng)著我的面吹牛撑瞧,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播显蝌,決...
    沈念sama閱讀 39,090評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼预伺,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了曼尊?” 一聲冷哼從身側(cè)響起酬诀,我...
    開(kāi)封第一講書(shū)人閱讀 37,817評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎骆撇,沒(méi)想到半個(gè)月后瞒御,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,275評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡神郊,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,592評(píng)論 2 327
  • 正文 我和宋清朗相戀三年肴裙,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片屿岂。...
    茶點(diǎn)故事閱讀 38,724評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡践宴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出爷怀,到底是詐尸還是另有隱情阻肩,我是刑警寧澤,帶...
    沈念sama閱讀 34,409評(píng)論 4 333
  • 正文 年R本政府宣布运授,位于F島的核電站烤惊,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏吁朦。R本人自食惡果不足惜柒室,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,052評(píng)論 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望逗宜。 院中可真熱鬧雄右,春花似錦、人聲如沸纺讲。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,815評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)熬甚。三九已至逢渔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間乡括,已是汗流浹背肃廓。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,043評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工智厌, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人盲赊。 一個(gè)月前我還...
    沈念sama閱讀 46,503評(píng)論 2 361
  • 正文 我出身青樓铣鹏,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親角钩。 傳聞我的和親對(duì)象是個(gè)殘疾皇子吝沫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,627評(píng)論 2 350

推薦閱讀更多精彩內(nèi)容

  • Overfitting 過(guò)度擬合(從知乎上看到的) 對(duì)于機(jī)器來(lái)說(shuō)惨险,在使用學(xué)習(xí)算法學(xué)習(xí)數(shù)據(jù)的特征的時(shí)候,樣本數(shù)據(jù)的特...
    靜默zzzz閱讀 2,134評(píng)論 0 1
  • 大家好脊髓,今天我要講的內(nèi)容是在深度學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)中辫愉,如何減弱過(guò)擬合問(wèn)題的相關(guān)研究,最近剛好在修改論文将硝,就把相關(guān)的...
    yhlleo閱讀 2,002評(píng)論 0 10
  • The Problem of Overfitting 到現(xiàn)在為止恭朗,我們已經(jīng)見(jiàn)識(shí)了幾種不同的學(xué)習(xí)算法,包括線性回歸和...
    東皇Amrzs閱讀 287評(píng)論 0 0
  • 聲明:作者翻譯論文僅為學(xué)習(xí)依疼,如有侵權(quán)請(qǐng)聯(lián)系作者刪除博文痰腮,謝謝! 翻譯論文匯總:https://github.com...
    SnailTyan閱讀 12,283評(píng)論 1 27
  • 用平時(shí)的標(biāo)準(zhǔn)衡量今天律罢,我今天應(yīng)該過(guò)的圓滿膀值,充實(shí)而又空虛。 下午和狗飛飛打了一下城堡守衛(wèi)者误辑,讓我想起來(lái)以前和同學(xué)玩4...
    limbopan閱讀 235評(píng)論 0 0