1. 數(shù)據(jù)量小,數(shù)據(jù)相似度高
比如inageNet 多分類圖像預(yù)訓(xùn)練模型遂蛀。下游任務(wù)是貓和狗的二分類罪治。
使用預(yù)訓(xùn)練模型,直接將最后一層多分類修改成二分類即可蜕衡。
2. 數(shù)據(jù)量小壤短,數(shù)據(jù)相似度低
使用預(yù)訓(xùn)練模型,凍結(jié)n-k層慨仿, fine-tune k層權(quán)重
3. 數(shù)據(jù)量大久脯,數(shù)據(jù)相似度高
使用預(yù)訓(xùn)練模型,fine-tune 所有權(quán)重
4. 數(shù)據(jù)量小镰吆,數(shù)據(jù)相似度低
適合使用預(yù)訓(xùn)練模型帘撰,建議重新訓(xùn)練模型