機器學(xué)習(xí)新手學(xué)習(xí)記錄(二)

(一)編碼器

自編碼:一種神經(jīng)網(wǎng)絡(luò)的形式

自編碼就是把信息壓縮再把信息解壓肩狂,完成這種形式的神經(jīng)網(wǎng)絡(luò)。

例如捞附,圖片經(jīng)過壓縮,再解壓的這一道工序. 當壓縮的時候, 原有的圖片質(zhì)量被縮減, 解壓時用信息量小卻包含了所有關(guān)鍵信息的文件恢復(fù)出原本的圖片.?

當神經(jīng)網(wǎng)絡(luò)要接受大量的輸入信息纳寂,我們就可以使用這種神經(jīng)網(wǎng)絡(luò)形式衫哥。我們先進行壓縮汛蝙,提取最具代表性的信息烈涮,縮減輸入信息量朴肺。這樣再把壓縮過的信息放進神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)窖剑,這樣學(xué)習(xí)就更加輕松了坚洽。所以, 自編碼就能在這時發(fā)揮作用. 通過將原數(shù)據(jù)白色的X 壓縮, 解壓 成黑色的X, 然后通過對比黑白 X ,求出預(yù)測誤差, 進行反向傳遞, 逐步提升自編碼的準確性. 訓(xùn)練好的自編碼中間這一部分就是能總結(jié)原數(shù)據(jù)的精髓. 也就是說,自編碼的作用是壓縮數(shù)據(jù)西土,提取原數(shù)據(jù)的精髓讶舰。

(1)編碼器

到了真正使用自編碼的時候. 通常只會用到自編碼前半部分.這一部分也被稱作encoder 編碼器。編碼器能得到原數(shù)據(jù)的精髓, 然后我們只需要再創(chuàng)建一個小的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)這個精髓的數(shù)據(jù),不僅減少了神經(jīng)網(wǎng)絡(luò)的負擔, 而且同樣能達到很好的效果.

通過自編碼整理出來的數(shù)據(jù), 他能從原數(shù)據(jù)中總結(jié)出每種類型數(shù)據(jù)的特征需了,如果把這些特征類型都放在一張二維的圖片上, 每種類型都已經(jīng)被很好的用原數(shù)據(jù)的精髓區(qū)分開來跳昼,?自編碼 可以像 PCA 一樣 給特征屬性降維.

(2)解碼器

簡單來說,解碼器就是把精髓信息解壓成原始信息肋乍。

(二)生成對抗網(wǎng)絡(luò)(GAN)

GAN, 又稱生成對抗網(wǎng)絡(luò), 也是 Generative Adversarial Nets 的簡稱.

卷積神經(jīng)網(wǎng)絡(luò)(CNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)都是需要提供數(shù)據(jù)的鹅颊,然后得到自己想要的結(jié)果。像圖片識別墓造,語音識別堪伍。

而GAN是通過一些隨機數(shù)字生成一些有意義的東西。

Generator 會根據(jù)隨機數(shù)來生成有意義的數(shù)據(jù) , Discriminator 會學(xué)習(xí)如何判斷哪些是真實數(shù)據(jù) , 哪些是生成數(shù)據(jù), 然后將學(xué)習(xí)的經(jīng)驗反向傳遞給 Generator, 讓 Generator 能根據(jù)隨機數(shù)生成更像真實數(shù)據(jù)的數(shù)據(jù)觅闽。

也就是說帝雇,機器在創(chuàng)作有意義事物時,會把事物穿給鑒別部分進行鑒別蛉拙,但是操作者要對鑒別機器進行管理尸闸,告訴鑒別機器哪個是有意義的事物。鑒別機器通過不斷學(xué)習(xí)孕锄,終于會鑒別有意義的事物吮廉,并且會把學(xué)習(xí)經(jīng)驗反饋給創(chuàng)作機器,讓創(chuàng)作機器生成更多的有意義的

(三)如何檢測神經(jīng)網(wǎng)絡(luò)

(1)在檢驗神經(jīng)網(wǎng)絡(luò)誤差時畸肆,我們把數(shù)據(jù)分成70%的訓(xùn)練數(shù)據(jù)和30%的測試數(shù)據(jù)宦芦,對神經(jīng)網(wǎng)絡(luò)的評價一般基于測試數(shù)據(jù)

(2)關(guān)于回歸問題,, 我們可以引用 R2 分數(shù)在測量回歸問題的精度 . R2給出的最大精度也是100%, 所以分類和回歸就都有的統(tǒng)一的精度標準. 除了這些評分標準, 我們還有很多其他的標準, 比如 F1 分數(shù) , 用于測量不均衡數(shù)據(jù)的精度.

(3)我們的神經(jīng)網(wǎng)絡(luò)在訓(xùn)練時表現(xiàn)非常好恼除,但是測試時發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的誤差又十分大,我們把這種成做為過擬合踪旷。在機器學(xué)習(xí)中, 解決過擬合也有很多方法 , 比如 l1, l2 正規(guī)化, dropout 方法.

(4)神經(jīng)網(wǎng)絡(luò)也有很多參數(shù), 需要調(diào)參時,?交叉驗證 就是最好的途徑了. 交叉驗證不僅僅可以用于神經(jīng)網(wǎng)絡(luò)的調(diào)參, 還能用于其他機器學(xué)習(xí)方法的調(diào)參. 同樣是選擇你想觀看的誤差值或者是精確度豁辉。

【參考文獻】https://mofanpy.com/tutorials/machine-learning/ML-intro/Evaluate-NN/

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末令野,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子徽级,更是在濱河造成了極大的恐慌气破,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,104評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件餐抢,死亡現(xiàn)場離奇詭異现使,居然都是意外死亡低匙,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,816評論 3 399
  • 文/潘曉璐 我一進店門碳锈,熙熙樓的掌柜王于貴愁眉苦臉地迎上來顽冶,“玉大人,你說我怎么就攤上這事售碳∏恐兀” “怎么了?”我有些...
    開封第一講書人閱讀 168,697評論 0 360
  • 文/不壞的土叔 我叫張陵贸人,是天一觀的道長间景。 經(jīng)常有香客問我,道長艺智,這世上最難降的妖魔是什么倘要? 我笑而不...
    開封第一講書人閱讀 59,836評論 1 298
  • 正文 為了忘掉前任,我火速辦了婚禮十拣,結(jié)果婚禮上封拧,老公的妹妹穿的比我還像新娘。我一直安慰自己父晶,他們只是感情好哮缺,可當我...
    茶點故事閱讀 68,851評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著甲喝,像睡著了一般尝苇。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上埠胖,一...
    開封第一講書人閱讀 52,441評論 1 310
  • 那天糠溜,我揣著相機與錄音,去河邊找鬼直撤。 笑死非竿,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的谋竖。 我是一名探鬼主播红柱,決...
    沈念sama閱讀 40,992評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼蓖乘!你這毒婦竟也來了锤悄?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,899評論 0 276
  • 序言:老撾萬榮一對情侶失蹤嘉抒,失蹤者是張志新(化名)和其女友劉穎零聚,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,457評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡隶症,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,529評論 3 341
  • 正文 我和宋清朗相戀三年政模,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蚂会。...
    茶點故事閱讀 40,664評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡淋样,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出颂龙,到底是詐尸還是另有隱情习蓬,我是刑警寧澤纽什,帶...
    沈念sama閱讀 36,346評論 5 350
  • 正文 年R本政府宣布措嵌,位于F島的核電站,受9級特大地震影響芦缰,放射性物質(zhì)發(fā)生泄漏企巢。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,025評論 3 334
  • 文/蒙蒙 一让蕾、第九天 我趴在偏房一處隱蔽的房頂上張望浪规。 院中可真熱鬧,春花似錦探孝、人聲如沸笋婿。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,511評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽缸濒。三九已至,卻和暖如春粱腻,著一層夾襖步出監(jiān)牢的瞬間庇配,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,611評論 1 272
  • 我被黑心中介騙來泰國打工绍些, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留捞慌,地道東北人。 一個月前我還...
    沈念sama閱讀 49,081評論 3 377
  • 正文 我出身青樓柬批,卻偏偏與公主長得像啸澡,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子氮帐,可洞房花燭夜當晚...
    茶點故事閱讀 45,675評論 2 359

推薦閱讀更多精彩內(nèi)容