提升深度學習性能的幾個方向
共分為4個層面武通，數(shù)據(jù)層面、算法層面珊搀、算法調(diào)優(yōu)層面冶忱、模型融合層面
1、數(shù)據(jù)方向
收集或生成更多的數(shù)據(jù)境析；對數(shù)據(jù)進行縮放或變換囚枪；特征選擇；重新定義問題
2簿晓、算法方向
算法的篩選眶拉；從文獻中“竊取”思路；重采樣的方法
3憔儿、算法調(diào)優(yōu)方向
模型的可診斷性（只有知道為何模型的性能不再有提升了忆植，才能達到最好的效果，一般情況下模型總是處于過擬合、欠擬合兩種狀態(tài)之間朝刊，只是程度不同罷了耀里，如果訓練集的效果好于驗證集，可能存在過擬合的現(xiàn)象拾氓，試一試增加正則項冯挎，如果訓練集和驗證集的準確率都很低，說明可能存在欠擬合咙鞍，如果訓練集和驗證集的曲線有一個焦點房官，可能需要用到early stopping的技巧了）；權(quán)重的初始化续滋；學習率翰守；激活函數(shù)；網(wǎng)絡(luò)結(jié)構(gòu)疲酌；batch and epoch（深度學習模型常常使用最小的batch和大的epoch以及反復多次的訓練）蜡峰；正則項；優(yōu)化目標
4朗恳、模型融合方向
一般單一的模型很難達到好的效果湿颅，可以采用將各個模型的結(jié)果相融合或者stacking的方式
