文中“實(shí)驗(yàn)
key point:說明了退化問題不是因?yàn)樘荻葟浬ⅲ驗(yàn)榧尤肓薆N。”怎么理解?看了很多博客理解退化問題:即為不管如何迭代资厉,由于網(wǎng)絡(luò)層數(shù)太大,導(dǎo)致梯度消失,相當(dāng)于前面部分的網(wǎng)絡(luò)沒有為特征提取起作用孤荣,而且也導(dǎo)致了后面部分的網(wǎng)絡(luò)的無效;
不知道這么理解對嗎须揣?
所以我認(rèn)為退化問題就是梯度彌散造成的盐股。沒了解您在文中的意思,能否幫忙解釋下啊
殘差網(wǎng)絡(luò)ResNet筆記Deep Residual Learning for Image Recognition 1. 思想 作者根據(jù)輸入將層表示為學(xué)習(xí)殘差函數(shù)耻卡。實(shí)驗(yàn)表明疯汁,殘差網(wǎng)絡(luò)更容易優(yōu)化,并且能...