在深度網(wǎng)絡(luò)中欣鳖,需要調(diào)節(jié)的參數(shù)包括學(xué)習(xí)率α,動量參數(shù)β茴厉,網(wǎng)絡(luò)層數(shù)泽台,隱層節(jié)點數(shù),學(xué)習(xí)率下降幅度矾缓,mini-batch等怀酷,其中最重要的超參數(shù)是學(xué)習(xí)率α,其次是隱層節(jié)點數(shù)嗜闻,mini-batch和動量參數(shù)β胰坟。
深度神經(jīng)網(wǎng)絡(luò)需要調(diào)節(jié)的超參數(shù)
隨機選點
搜索空間隨機選取點
由粗到細(xì)的縮小搜索空間
在效果好的節(jié)點周圍繼續(xù)選點