測(cè)試優(yōu)化數(shù)字識(shí)別程序

一冈绊、背景

在程序?qū)懲曛笙丽覀儼l(fā)現(xiàn),在程序中能夠改變的值主要有以下幾個(gè):隱藏層層數(shù)死宣,訓(xùn)練次數(shù)伟恶,學(xué)習(xí)率,權(quán)重次方毅该。

在原來的程序中博秫,我們的數(shù)據(jù)分別是:隱藏層層數(shù):300,訓(xùn)練次數(shù):5眶掌,學(xué)習(xí)率:0.1台盯,權(quán)重次方,-0.5

得出來的準(zhǔn)確率只有:54.5%

二畏线、調(diào)試

因?yàn)槌跏紨?shù)值準(zhǔn)確率不高,所以良价,就到了關(guān)鍵的一步:不斷測(cè)試并改變閾值寝殴,以提高準(zhǔn)確率蒿叠。

實(shí)驗(yàn)一:

首先我用的是每個(gè)參數(shù)都選擇其能達(dá)到的最優(yōu)準(zhǔn)確率,看能否組合起來蚣常,最終形成一個(gè)總體最優(yōu)準(zhǔn)確率市咽。



在權(quán)重次方、隱藏層層數(shù)抵蚊、訓(xùn)練次數(shù)不變的前提下施绎,在學(xué)習(xí)率區(qū)間為0.000088到0.001的條件下,準(zhǔn)確率的總體趨勢(shì)隨著學(xué)習(xí)率的增大贞绳,先變大谷醉,后變小。

其準(zhǔn)確率最大值為0.818冈闭,學(xué)習(xí)率為0.000088俱尼。



在權(quán)重次方、訓(xùn)練次數(shù)萎攒、學(xué)習(xí)率不變的前提下遇八,在隱藏層數(shù)區(qū)間為200到350的條件下,準(zhǔn)確率的總體趨勢(shì)隨著隱藏層數(shù)的增大耍休,先變大刃永,后變小。

其準(zhǔn)確率最大值為0.818羊精,隱藏層數(shù)為300/320.



在權(quán)重次方斯够、隱藏層數(shù)、學(xué)習(xí)率不變的前提下园匹,在訓(xùn)練次數(shù)區(qū)間為3到11的條件下雳刺,準(zhǔn)確率的總體趨勢(shì)隨著訓(xùn)練次數(shù)的增大,先變小裸违,后變大掖桦。

其準(zhǔn)確率最大值為0.818,訓(xùn)練次數(shù)數(shù)為10.



在隱藏層數(shù)供汛、學(xué)習(xí)率枪汪、訓(xùn)練次數(shù)不變的前提下,在權(quán)重次方區(qū)間為-0.8到-0.1的條件下怔昨,準(zhǔn)確率的總體趨勢(shì)隨著權(quán)重的增大雀久,先變大,后變小趁舀。

其準(zhǔn)確率最大值為0.818赖捌,權(quán)重次方為-0.5.


實(shí)驗(yàn)二

在全部數(shù)據(jù)調(diào)試了一遍后,發(fā)現(xiàn)準(zhǔn)確率不見上升矮烹,于是決定運(yùn)用單一變量法越庇,再進(jìn)行調(diào)試:


初始值:權(quán)重次方為-0.5罩锐,訓(xùn)練次數(shù)為5,隱藏層數(shù)為300卤唉,學(xué)習(xí)率為0.5涩惑。

但發(fā)現(xiàn),準(zhǔn)確率仍無法上提桑驱。


實(shí)驗(yàn)三

根據(jù)實(shí)驗(yàn)一竭恬、二的啟示,發(fā)現(xiàn)準(zhǔn)確率一直處于0.818提不上去熬的,經(jīng)過研究痊硕,認(rèn)為是由于訓(xùn)練集過少(89個(gè)),而測(cè)試集又僅有11個(gè)悦析,數(shù)據(jù)過少寿桨,以致于無法達(dá)到理想狀態(tài)。

于是强戴,將訓(xùn)練集和測(cè)試集都提升到100個(gè)亭螟。

1.學(xué)習(xí)率:0.0005

2.學(xué)習(xí)率:0.005

經(jīng)過調(diào)試發(fā)現(xiàn),增多了數(shù)據(jù)集骑歹,可以在一定程度上提高準(zhǔn)確率预烙,達(dá)到了87%左右,但仍不夠高道媚。


實(shí)驗(yàn)四

為了使準(zhǔn)確率能達(dá)到95%以上扁掸,最終從網(wǎng)上找了個(gè)10000的測(cè)試集,60000個(gè)訓(xùn)練集的數(shù)據(jù)集最域,再進(jìn)行嘗試谴分。

最終,準(zhǔn)確率達(dá)到了97%以上镀脂。

Q:為什么會(huì)有空格牺蹄?

A:因?yàn)榕芤淮纬绦蛩璧臅r(shí)間較長(zhǎng),而我們的目標(biāo)是準(zhǔn)確率達(dá)到95%以上薄翅,而前面的一些結(jié)果沙兰,在經(jīng)過多次調(diào)試后,仍然跟我們的預(yù)想相差甚遠(yuǎn)(只有85%左右)翘魄。于是乎決定放棄一些結(jié)果鼎天,直接選擇更多的訓(xùn)練集來訓(xùn)練出準(zhǔn)確率更高的程序。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末暑竟,一起剝皮案震驚了整個(gè)濱河市斋射,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖绩鸣,帶你破解...
    沈念sama閱讀 217,657評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件怀大,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡呀闻,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,889評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門潜慎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來捡多,“玉大人,你說我怎么就攤上這事铐炫±菔郑” “怎么了?”我有些...
    開封第一講書人閱讀 164,057評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵倒信,是天一觀的道長(zhǎng)科贬。 經(jīng)常有香客問我,道長(zhǎng)鳖悠,這世上最難降的妖魔是什么榜掌? 我笑而不...
    開封第一講書人閱讀 58,509評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮乘综,結(jié)果婚禮上憎账,老公的妹妹穿的比我還像新娘。我一直安慰自己卡辰,他們只是感情好胞皱,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,562評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著九妈,像睡著了一般反砌。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上萌朱,一...
    開封第一講書人閱讀 51,443評(píng)論 1 302
  • 那天宴树,我揣著相機(jī)與錄音,去河邊找鬼嚷兔。 笑死森渐,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的冒晰。 我是一名探鬼主播揪罕,決...
    沈念sama閱讀 40,251評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼少辣!你這毒婦竟也來了厂抽?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,129評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎埠况,沒想到半個(gè)月后耸携,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,561評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡辕翰,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,779評(píng)論 3 335
  • 正文 我和宋清朗相戀三年夺衍,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片喜命。...
    茶點(diǎn)故事閱讀 39,902評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡沟沙,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出壁榕,到底是詐尸還是另有隱情矛紫,我是刑警寧澤,帶...
    沈念sama閱讀 35,621評(píng)論 5 345
  • 正文 年R本政府宣布牌里,位于F島的核電站颊咬,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏牡辽。R本人自食惡果不足惜喳篇,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,220評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望催享。 院中可真熱鬧杭隙,春花似錦、人聲如沸因妙。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,838評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)攀涵。三九已至铣耘,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間以故,已是汗流浹背蜗细。 一陣腳步聲響...
    開封第一講書人閱讀 32,971評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留怒详,地道東北人炉媒。 一個(gè)月前我還...
    沈念sama閱讀 48,025評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像昆烁,于是被迫代替她去往敵國(guó)和親吊骤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,843評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容