本筆記來源于B站Up主: 有Li 的影像組學(xué)系列教學(xué)視頻
本節(jié)(20)主要介紹: 集成學(xué)習(xí)的通俗講解
集成學(xué)習(xí)(ensemble learning)
將多個分類器結(jié)合在一起使用
Bagging: 同質(zhì)學(xué)習(xí)器,彼此獨(dú)立肝集,投票/平均
Boosting: 同質(zhì)學(xué)習(xí)器贴谎,層層遞進(jìn)昆咽,后面的會著重學(xué)習(xí)前面犯過的錯誤
Stacking: 異質(zhì)學(xué)習(xí)器脯丝,學(xué)習(xí)學(xué)習(xí)器
李博士以考試為比喻,通俗的講解了三者之間的區(qū)別
拓展學(xué)習(xí):
Bagging
和Boosting
是兩種最常見的集成學(xué)習(xí)方法
Bagging 的核心思路是 — — 民主胀溺。
大部分情況下厘唾,經(jīng)過 bagging 得到的結(jié)果方差(variance)更小。
Boosting 的核心思路是 — — 挑選精英鹃操。
大部分情況下韭寸,經(jīng)過 boosting 得到的結(jié)果偏差(bias)更小。
可以參考以下這個帖子:
從基礎(chǔ)到實現(xiàn):集成學(xué)習(xí)綜合教程(附Python代碼)
其目錄:
基礎(chǔ)集成技術(shù)
最大投票(Max Voting)法
平均(Averaging)法
加權(quán)平均(Weighted Average)法
高級集成技術(shù)
堆疊(Stacking)
混合(Blending)
Bagging
提升(Boosting)
基于Bagging和Boosting的算法
Bagging meta-estimator
隨機(jī)森林
AdaBoost
GBM
XGB
Light GBM
CatBoost