- ensemble learning 集成學(xué)習(xí)
-
定義：集成學(xué)習(xí)是一種機(jī)器學(xué)習(xí)的示例础爬；多個(gè)學(xué)習(xí)者在學(xué)習(xí)解決同一個(gè)問(wèn)題摔癣，多個(gè)學(xué)習(xí)模型的效果肯定優(yōu)于一個(gè)學(xué)習(xí)模型段多。
image.png
- 集成學(xué)習(xí)的常見類型
- Bagging（Random Forest）：構(gòu)造若干個(gè)獨(dú)立的模型惠况，然后去所有模型預(yù)測(cè)值的平均值
-
Boosting（Gradient boosting瑟幕， adaboosting）：時(shí)序構(gòu)造模型迎变，每一個(gè)繼任模型都需要減少之前模型的偏移量充尉。即將若干個(gè)弱模型合成，產(chǎn)生一個(gè)強(qiáng)有力的集成模型衣形。
image.png
- Bagging
-
思想： 訓(xùn)練集分成若干個(gè)子集驼侠，針對(duì)若干個(gè)子集并行進(jìn)行模型訓(xùn)練，對(duì)預(yù)測(cè)值平均化谆吴。
image.png
- Boosting
-
思想：若干個(gè)弱模型組成一個(gè)強(qiáng)模型倒源，每個(gè)模型都依賴于前個(gè)模型。
image.png
- Bagging和Boosting區(qū)別
-
三張圖
image.png
image.png
image.png
- AdaBoost
-
定義： 是一種調(diào)整式Boosting方法句狼。
image.png
image.png
