模型融合是kaggle等比賽中經(jīng)常使用到的一個(gè)利器，它通常可以在各種不同的機(jī)器學(xué)習(xí)任務(wù)中使結(jié)果獲得提升。顧名思義琴昆，模型融合就是綜合考慮不同模型的情況，并將它們的結(jié)果融合到一起馆揉。模型融合主要通過(guò)幾部分來(lái)實(shí)現(xiàn)：從提交結(jié)果文件中融合业舍、stacking和blending。當(dāng)下模型融合主要有三類：
1. 簡(jiǎn)單加權(quán)融合:
-回歸（分類概率）：算術(shù)平均融合（Arithmetic mean）把介，幾何平均融合（Geometric mean）勤讽；
- 分類：投票（Voting)
- 綜合：排序融合(Rank averaging)蟋座，log融合
2. stacking/blending:
- 構(gòu)建多層模型拗踢，并利用預(yù)測(cè)結(jié)果再擬合預(yù)測(cè)。
3. boosting/bagging（在xgboost向臀，Adaboost,GBDT中已經(jīng)用到）:
- 多樹的提升方法
多行代碼（```
input
```）
