17.1 圖像增廣
- 圖像增廣（image augmentation）技術(shù)通過對訓(xùn)練圖像做一系列隨機(jī)改變庇茫，來產(chǎn)生相似但又不同的訓(xùn)練樣本宙橱，從而擴(kuò)大訓(xùn)練數(shù)據(jù)集的規(guī)模到旦。
- 圖像增廣的另一種解釋是男旗，隨機(jī)改變訓(xùn)練樣本可以降低模型對某些屬性的依賴趁啸，從而提高模型的泛化能力强缘。
- 例如，可以對圖像進(jìn)行不同方式的裁剪莲绰，使感興趣的物體出現(xiàn)在不同位置，從而減輕模型對物體出現(xiàn)位置的依賴性姑丑。也可以調(diào)整亮度蛤签、色彩等因素來降低模型對色彩的敏感度。
17.1.1 挑戰(zhàn)：照射角度
17.1.2 挑戰(zhàn)：光照強(qiáng)度
17.1.3 挑戰(zhàn)：形狀改變
17.1.4 挑戰(zhàn)：部分遮蔽
17.1.5 挑戰(zhàn)：背景混入
17.1.6 翻轉(zhuǎn)和裁剪
-
左右翻轉(zhuǎn)圖像通常不改變物體的類別栅哀。
-
上下翻轉(zhuǎn)不如左右翻轉(zhuǎn)通用震肮。
17.1.7 變化顏色：亮度
-
可以從4個(gè)方面改變圖像的顏色：亮度（brightness）、對比度（contrast）留拾、飽和度（saturation）和色調(diào)（hue）戳晌。
17.1.7.1 變化顏色：色調(diào)
17.1.7.2 變化顏色：對比度
-
也可以同時(shí)設(shè)置如何隨機(jī)變化圖像的亮度（brightness）、對比度（contrast）痴柔、飽和度（saturation）和色調(diào)（hue）沦偎。
17.1.8 疊加多個(gè)圖像增廣方法
-
實(shí)際應(yīng)用中會(huì)將多個(gè)圖像增廣方法疊加使用。
17.2 微調(diào)
17.2.1 什么是微調(diào)（fine-tune）
- 微調(diào)（fine-tune），顧名思義指稍微調(diào)整參數(shù)即可得到優(yōu)秀的性能豪嚎，是遷移學(xué)習(xí)的一種實(shí)現(xiàn)方式搔驼。
- 微調(diào)和從頭訓(xùn)練（train from scratch）的本質(zhì)區(qū)別在于模型參數(shù)的初始化，train from scratch通常指對網(wǎng)絡(luò)各類參數(shù)進(jìn)行隨機(jī)初始化（當(dāng)然隨機(jī)初始化也存在一定技巧）侈询，隨機(jī)初始化模型通常不具有任何預(yù)測能力舌涨，通常需要大量的數(shù)據(jù)或者特定域的數(shù)據(jù)進(jìn)行從零開始的訓(xùn)練，這樣需要訓(xùn)練到優(yōu)秀的模型通常是稍困難的扔字。
- 而微調(diào)的網(wǎng)絡(luò)囊嘉，網(wǎng)絡(luò)各類參數(shù)已經(jīng)在其他數(shù)據(jù)集（例如ImageNet數(shù)據(jù)集）完成較好調(diào)整的，具備了較優(yōu)秀的表達(dá)能力革为。
- 因此扭粱，只需要以較小的學(xué)習(xí)速率在自己所需的數(shù)據(jù)集領(lǐng)域進(jìn)行學(xué)習(xí)即可得到較為優(yōu)秀的模型。
- 微調(diào)通常情況下篷角，無須再重新設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)焊刹，預(yù)訓(xùn)練模型提供了優(yōu)秀的結(jié)構(gòu)，只需稍微修改部分層即可恳蹲。
- 在小數(shù)據(jù)集上虐块，通常微調(diào)的效果比從頭訓(xùn)練要好很多，原因在于數(shù)據(jù)量較小的前提下嘉蕾，訓(xùn)練更多參數(shù)容易導(dǎo)致過度擬合贺奠。
-
遷移學(xué)習(xí)中的一種常用技術(shù)：微調(diào)（fine tuning）
17.2.2 遷移學(xué)習(xí)
大數(shù)據(jù)視頻推薦：
騰訊課堂
CSDN
大數(shù)據(jù)語音推薦：
企業(yè)級大數(shù)據(jù)技術(shù)應(yīng)用
大數(shù)據(jù)機(jī)器學(xué)習(xí)案例之推薦系統(tǒng)
自然語言處理
大數(shù)據(jù)基礎(chǔ)
人工智能：深度學(xué)習(xí)入門到精通
