機器學習集成學習—Apple的學習筆記

1.? Bagging

①? Bagging又叫自助聚集,是一種根據(jù)均勻概率分布從數(shù)據(jù)中重復抽樣(有放回)的技術御雕。

②? 每個抽樣生成的自助樣本集上顿乒,訓練一個基分類器;對訓練過的分類器進行投票冤留,將測試樣本指派到得票最高的類中。

③? 每個自助樣本集都和原數(shù)據(jù)一樣大

④? 有放回抽樣树灶,一些樣本可能在同一訓練集中出現(xiàn)多次纤怒,一些可能被忽略。


2. ? boosting

Boosting算法的工作機制是首先從訓練集用初始權重訓練出一個弱學習器1天通,根據(jù)弱學習的學習誤差率表現(xiàn)來更新訓練樣本的權重泊窘,使得之前弱學習器1學習誤差率高的訓練樣本點的權重變高,使得這些誤差率高的點在后面的弱學習器2中得到更多的重視像寒。


3. ?? 實現(xiàn)對比


4. ?? 集成學習之結合策略:

平均法州既,算數(shù)平均或帶權重的平均

投票法,直接比最大票數(shù)萝映,加權投票

學習法吴叶,代表方法是stacking,就是加上一層學習器我們首先用初級學習器預測一次序臂,得到次級學習器的輸入樣本蚌卤,再用次級學習器預測一次,得到最終的預測結果奥秆。

5. ? 參考

https://www.cnblogs.com/pinard/p/6131423.html

https://blog.csdn.net/qq_30189255/article/details/51532442

https://www.cnblogs.com/royhoo/p/8941686.html

https://blog.csdn.net/ruiyiin/article/details/77114072

http://www.cnblogs.com/zongfa/p/9304353.html

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末逊彭,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子构订,更是在濱河造成了極大的恐慌侮叮,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,386評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件悼瘾,死亡現(xiàn)場離奇詭異囊榜,居然都是意外死亡,警方通過查閱死者的電腦和手機亥宿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,142評論 3 394
  • 文/潘曉璐 我一進店門卸勺,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人烫扼,你說我怎么就攤上這事曙求。” “怎么了?”我有些...
    開封第一講書人閱讀 164,704評論 0 353
  • 文/不壞的土叔 我叫張陵悟狱,是天一觀的道長静浴。 經(jīng)常有香客問我,道長挤渐,這世上最難降的妖魔是什么苹享? 我笑而不...
    開封第一講書人閱讀 58,702評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮挣菲,結果婚禮上富稻,老公的妹妹穿的比我還像新娘掷邦。我一直安慰自己白胀,他們只是感情好,可當我...
    茶點故事閱讀 67,716評論 6 392
  • 文/花漫 我一把揭開白布抚岗。 她就那樣靜靜地躺著或杠,像睡著了一般。 火紅的嫁衣襯著肌膚如雪宣蔚。 梳的紋絲不亂的頭發(fā)上向抢,一...
    開封第一講書人閱讀 51,573評論 1 305
  • 那天,我揣著相機與錄音胚委,去河邊找鬼挟鸠。 笑死,一個胖子當著我的面吹牛亩冬,可吹牛的內(nèi)容都是我干的艘希。 我是一名探鬼主播,決...
    沈念sama閱讀 40,314評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼硅急,長吁一口氣:“原來是場噩夢啊……” “哼覆享!你這毒婦竟也來了?” 一聲冷哼從身側響起营袜,我...
    開封第一講書人閱讀 39,230評論 0 276
  • 序言:老撾萬榮一對情侶失蹤撒顿,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后荚板,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體凤壁,經(jīng)...
    沈念sama閱讀 45,680評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,873評論 3 336
  • 正文 我和宋清朗相戀三年跪另,在試婚紗的時候發(fā)現(xiàn)自己被綠了客扎。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,991評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡罚斗,死狀恐怖徙鱼,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤袱吆,帶...
    沈念sama閱讀 35,706評論 5 346
  • 正文 年R本政府宣布厌衙,位于F島的核電站,受9級特大地震影響绞绒,放射性物質(zhì)發(fā)生泄漏婶希。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,329評論 3 330
  • 文/蒙蒙 一蓬衡、第九天 我趴在偏房一處隱蔽的房頂上張望喻杈。 院中可真熱鬧,春花似錦狰晚、人聲如沸筒饰。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,910評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽瓷们。三九已至,卻和暖如春秒咐,著一層夾襖步出監(jiān)牢的瞬間谬晕,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,038評論 1 270
  • 我被黑心中介騙來泰國打工携取, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留攒钳,地道東北人。 一個月前我還...
    沈念sama閱讀 48,158評論 3 370
  • 正文 我出身青樓雷滋,卻偏偏與公主長得像不撑,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子惊豺,可洞房花燭夜當晚...
    茶點故事閱讀 44,941評論 2 355