BP算法--手寫數(shù)字識別模型數(shù)據(jù)分析

試驗1

試驗1是我們用100個數(shù)據(jù)圖像,其中89個數(shù)據(jù)圖像作為訓(xùn)練集,11個為測試集矾柜。一開始跑的時候采用了單一變量法的原理阱驾,毫無方向的調(diào)參數(shù)。

前五次我以為權(quán)重那個次方對準(zhǔn)確率有影響怪蔑,于是以權(quán)重次方為因變量里覆,準(zhǔn)確率為自變量

然后發(fā)現(xiàn)這個因素并不是主要影響因素,所以決定不再考慮這個因素的變化缆瓣,設(shè)回原始值喧枷。再來考慮隱層層數(shù)的影響(這里為啥只考慮隱層,不考慮輸入和輸出捆愁,前面的代碼分析有提及http://www.reibang.com/writer#/notebooks/40513533/notes/60513797)

通過隱層的變化可以看出割去,在300的時候準(zhǔn)確率明顯比較高,然后固定隱層為300昼丑,改變學(xué)習(xí)率

我們發(fā)現(xiàn)當(dāng)隱層層數(shù)為300的時候呻逆,學(xué)習(xí)率為0.001和0.0088都能跑到準(zhǔn)確率百分之八十以上,這兩者其實數(shù)值差不多菩帝,我就選擇隱層層數(shù)300咖城,學(xué)習(xí)率0.001是目前為止的最佳參數(shù),然后固定這兩個參數(shù)呼奢,改變訓(xùn)練次數(shù)的數(shù)值

然而此時默認(rèn)為訓(xùn)練次數(shù)5宜雀,隱層層數(shù)300,學(xué)習(xí)率為0.001握础,準(zhǔn)確率為0.8181.

現(xiàn)在目前確定的有三個變量直接影響準(zhǔn)確率辐董,即方程有三個變量x,y,z。通過固定一個變量禀综,同時改變其他兩個變量简烘,我先固定學(xué)習(xí)率為0.001.得出

可以發(fā)現(xiàn)當(dāng)訓(xùn)練次數(shù)為7次,隱層層數(shù)200定枷,學(xué)習(xí)率0.001時孤澎,準(zhǔn)確率為0.90,有些空格沒有數(shù)據(jù)欠窒,是因為跑一次非常費時間覆旭,跑出來,沒有找到相關(guān)性的數(shù)據(jù)岖妄,沒有列出來型将,此時已經(jīng)凌晨四點了,我不是傳遞我有多辛苦的信號荐虐,我是想說調(diào)參必須花大量精力七兜,去得出大量的數(shù)據(jù),然后分析數(shù)據(jù)缚俏。

試驗2

因為測試集的問題惊搏,準(zhǔn)確率遲遲達不到0.99,我就把測試集跟訓(xùn)練集合并成一個數(shù)據(jù)集忧换,將這個數(shù)據(jù)集即用來做訓(xùn)練集又用來做測試集(書里有說恬惯,這樣調(diào)出來的參數(shù),用來測測試集的準(zhǔn)確率比較高亚茬,但實際運用中的準(zhǔn)確率比較不理想,但我是想驗證一下酪耳,能不能跑到0.99)結(jié)果測試如下

最后還是沒跑到0.99畅买,我就換了一個大的數(shù)據(jù)集铁材,來到試驗3

試驗3

試驗3中的訓(xùn)練集數(shù)據(jù)6萬個,測試集2萬個昌阿,結(jié)果我參數(shù)都沒怎么調(diào)梢夯,一跑就百分之九十以上言疗,達到我們需要的目的。

從三個試驗中總結(jié)出神經(jīng)網(wǎng)絡(luò)如果要預(yù)測出準(zhǔn)確率高颂砸,則數(shù)據(jù)集要大噪奄,再者就是參數(shù)要好,通過試驗1人乓、2可以看出勤篮,在數(shù)據(jù)集比較小的情況下,我們可以通過調(diào)節(jié)參數(shù)色罚,來盡可能的是準(zhǔn)確率提高碰缔,通過試驗3得出,神經(jīng)網(wǎng)絡(luò)在大量數(shù)據(jù)學(xué)習(xí)之后的準(zhǔn)確率比較大戳护,所以我們不但要有一個龐大的數(shù)據(jù)集金抡,而且還要有一個最優(yōu)的參數(shù),兩者的結(jié)合姑尺,才能是我們的模型準(zhǔn)確的預(yù)測我們想要的結(jié)果竟终,從而使誤差降到最低。

如果有不對的地方切蟋,或者有更好的方法统捶,還望大家指點

鏈接:代碼和數(shù)據(jù)文件https://pan.baidu.com/s/1yY1NGSvosneUGsxDupvrgg

提取碼:rrq2

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市柄粹,隨后出現(xiàn)的幾起案子喘鸟,更是在濱河造成了極大的恐慌,老刑警劉巖驻右,帶你破解...
    沈念sama閱讀 219,270評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件什黑,死亡現(xiàn)場離奇詭異,居然都是意外死亡堪夭,警方通過查閱死者的電腦和手機愕把,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評論 3 395
  • 文/潘曉璐 我一進店門拣凹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人恨豁,你說我怎么就攤上這事嚣镜。” “怎么了橘蜜?”我有些...
    開封第一講書人閱讀 165,630評論 0 356
  • 文/不壞的土叔 我叫張陵菊匿,是天一觀的道長。 經(jīng)常有香客問我计福,道長跌捆,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,906評論 1 295
  • 正文 為了忘掉前任象颖,我火速辦了婚禮佩厚,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘力麸。我一直安慰自己可款,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,928評論 6 392
  • 文/花漫 我一把揭開白布克蚂。 她就那樣靜靜地躺著闺鲸,像睡著了一般。 火紅的嫁衣襯著肌膚如雪埃叭。 梳的紋絲不亂的頭發(fā)上摸恍,一...
    開封第一講書人閱讀 51,718評論 1 305
  • 那天,我揣著相機與錄音赤屋,去河邊找鬼立镶。 笑死,一個胖子當(dāng)著我的面吹牛类早,可吹牛的內(nèi)容都是我干的媚媒。 我是一名探鬼主播,決...
    沈念sama閱讀 40,442評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼涩僻,長吁一口氣:“原來是場噩夢啊……” “哼缭召!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起逆日,我...
    開封第一講書人閱讀 39,345評論 0 276
  • 序言:老撾萬榮一對情侶失蹤嵌巷,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后室抽,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體搪哪,經(jīng)...
    沈念sama閱讀 45,802評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,984評論 3 337
  • 正文 我和宋清朗相戀三年坪圾,在試婚紗的時候發(fā)現(xiàn)自己被綠了晓折。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片惑朦。...
    茶點故事閱讀 40,117評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖漓概,靈堂內(nèi)的尸體忽然破棺而出行嗤,到底是詐尸還是另有隱情,我是刑警寧澤垛耳,帶...
    沈念sama閱讀 35,810評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站飘千,受9級特大地震影響堂鲜,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜护奈,卻給世界環(huán)境...
    茶點故事閱讀 41,462評論 3 331
  • 文/蒙蒙 一缔莲、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧霉旗,春花似錦痴奏、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,011評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至鸵闪,卻和暖如春檐晕,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蚌讼。 一陣腳步聲響...
    開封第一講書人閱讀 33,139評論 1 272
  • 我被黑心中介騙來泰國打工辟灰, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人篡石。 一個月前我還...
    沈念sama閱讀 48,377評論 3 373
  • 正文 我出身青樓芥喇,卻偏偏與公主長得像,于是被迫代替她去往敵國和親凰萨。 傳聞我的和親對象是個殘疾皇子继控,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,060評論 2 355