如何來驗證Focal Loss的有效性呢?
論文提供了retinanet檢測器來進行檢驗蠢终。retinanet網(wǎng)絡(luò)是由一個骨干網(wǎng)絡(luò)和兩個有特定任務的子網(wǎng)絡(luò)組成的單一網(wǎng)絡(luò),骨干網(wǎng)絡(luò)負責在整個圖像上計算卷積特征茴她,第一個子網(wǎng)絡(luò)在骨干網(wǎng)絡(luò)的輸出上執(zhí)行圖像分類任務寻拂,第二個子網(wǎng)絡(luò)負責卷積邊框回歸,如下圖所示:
wenyilab
那訓練的效果如何呢丈牢,下圖是將retinanet網(wǎng)絡(luò)使用Focal Loss和使用CE Loss祭钉,OHEM做了對比以及Focal Loss參數(shù)的改變的影響:
wenyilab
下圖是收斂模型的不同 γ 值的正、負樣本的歸一化損失的累積分布函數(shù)己沛。 改變 γ 對于正樣本的損失分布的影響很小慌核。 然而,對于負樣本來說泛粹,大幅增加 γ 會將損失集中在困難的樣本上遂铡,而不是容易的負樣本上。
wenyilab
下圖是retinanet網(wǎng)絡(luò)和其他單模網(wǎng)絡(luò)在coco測試集上做了對比:
wenyilab
下圖是作 xt = yx 的函數(shù)晶姊,F(xiàn)ocal Loss 變體與交叉熵相比較扒接。原來的 FL(Focal Loss)和替代變體 FL* 都減少了較好分類樣本的相對損失(xt> 0)。
wenyilab
下圖是FL 和 FL* VS CE(交叉熵) 的結(jié)果们衙。
wenyilab
論文
[Paper:Focal Loss for Dense Object Detection]
[https://arxiv.org/abs/1708.02002]