《分布式機器學(xué)習(xí)》筆記1-機器學(xué)習(xí)基礎(chǔ)

今天開始更新《分布式機器學(xué)習(xí)》的系列筆記，保證每周2-3更剑辫，大家一起學(xué)習(xí)啊~~

第一次筆記是機器學(xué)習(xí)基礎(chǔ)，就簡單的整理一下知識點。

機器學(xué)習(xí)的基本概念

機器學(xué)習(xí)關(guān)注的核心問題是如何用計算的方式模擬人類的學(xué)習(xí)行為：從歷史經(jīng)驗中獲取規(guī)律或者模型茸时，并將其應(yīng)用到新的類似場景中。

多維度梳理機器學(xué)習(xí)問題：

從學(xué)習(xí)目標(biāo)的角度赋访，可以大體分為回歸可都、分類、排序蚓耽、有結(jié)構(gòu)預(yù)測等渠牲。
從訓(xùn)練數(shù)據(jù)特性的角度，可以大體分為有監(jiān)督學(xué)習(xí)步悠、半監(jiān)督學(xué)習(xí)签杈、無監(jiān)督學(xué)習(xí)、弱監(jiān)督學(xué)習(xí)等贤徒。
1. 有監(jiān)督學(xué)習(xí)：每個訓(xùn)練數(shù)據(jù)都擁有標(biāo)簽芹壕；
2. 半監(jiān)督學(xué)習(xí)：訓(xùn)練集里同時存在有標(biāo)簽數(shù)據(jù)和無標(biāo)簽數(shù)據(jù)，通常需要對無標(biāo)簽數(shù)據(jù)進行預(yù)處理接奈；
3. 無監(jiān)督學(xué)習(xí)：數(shù)據(jù)都是無標(biāo)簽的踢涌，學(xué)習(xí)的目的是從數(shù)據(jù)中發(fā)掘關(guān)聯(lián)規(guī)則，或者利用數(shù)據(jù)在輸入空間中的相互關(guān)系對數(shù)據(jù)進行聚類和影響力排序序宦；
4. 弱監(jiān)督學(xué)習(xí)：存在某種形式的獎勵信號睁壁，該信號可以用于模型訓(xùn)練，但沒有樣本標(biāo)簽?zāi)敲粗苯踊グ啤?zhǔn)確潘明，比如強化學(xué)習(xí)。
從模型復(fù)雜的程度秕噪，可以大體分為線性模型和非線性模型钳降。
從模型的功能角度，可以分為生成模型和判別模型腌巾。

機器學(xué)習(xí)的基本流程

機器學(xué)習(xí)的流程可以用下圖表示：

常用的損失函數(shù)

Hinge損失函數(shù)
$l(w;x,y) = max\{0, 1-yg(x;w)\}$
指數(shù)損失函數(shù)
$l(w;x,y)=exp(-yg(x;w))$
交叉熵損失函數(shù)
假設(shè)標(biāo)簽的概率分布：
$P(Y=1|x;w)=\frac{exp(g(x;w))}{exp(g(x;w))+exp(-g(x;w))}$
$P(Y=-1|x;w)=\frac{exp(-g(x;w))}{exp(g(x;w))+exp(-g(x;w))}$
則交叉熵損失函數(shù)定義為：
$l(w;x,y)=-\sum_{z\in{-1,1}}I_{y=z}logP(Y=z|x;w)$

常用的機器學(xué)習(xí)模型

（感興趣的可以自己找資料看遂填，在這里只進行簡單梳理，不做詳細筆記）

線性模型
核方法與支持向量機
決策樹與Boosting
神經(jīng)網(wǎng)絡(luò)
1. 全連接神經(jīng)網(wǎng)絡(luò)
2. 卷積神經(jīng)網(wǎng)絡(luò)
3. 循環(huán)神經(jīng)網(wǎng)絡(luò)

常用的優(yōu)化方法

典型的優(yōu)化方法：

	一階算法	二階算法
確定性算法	梯度下降法投影次梯度下降近端梯度下降 Frank-Wolfe算法 Nesterov加速算法坐標(biāo)下降法對偶坐標(biāo)上升法	牛頓法擬牛頓法
隨機算法	隨機梯度下降法隨機坐標(biāo)下降法隨機對偶坐標(biāo)上升法隨機方差減小梯度法	隨機擬牛頓法

還有一些針對神經(jīng)網(wǎng)絡(luò)優(yōu)化的算法澈蝙，例如吓坚，帶沖量的隨機梯度下降法、Nesterov加速方法灯荧、AdaGrad礁击、RMSProp、AdaDelta、Adam哆窿、AMSGrad链烈、等級優(yōu)化算法以及基于熵的隨機梯度下降法等。

機器學(xué)習(xí)理論

機器學(xué)習(xí)的泛化誤差
機器學(xué)習(xí)算法的最終目標(biāo)是最小化期望損失風(fēng)險更耻，但由于數(shù)據(jù)的真實分布通常未知测垛，因此學(xué)習(xí)目標(biāo)轉(zhuǎn)化為最小化經(jīng)驗風(fēng)險。
$min_{g\in G}\hat{l_n}(g)=\frac{1}{n}l(g;x_i,y_y)$
泛化誤差的分解
希望算法輸出的模型 $\hat{g_T}$ 與最優(yōu)模型 $g^{ \ast}$ 的期望風(fēng)險之差 $L(\hat{g_T})-L(g^{\ast})$ 盡可能小秧均，這個差距成為泛化誤差食侮。對其進行如下分解：
$L(\hat{g_T})-L(g^{\ast})=L(\hat{g_T})-L(\hat{g_n})+L(\hat{g_n})-L(g^{\ast}_ G)+L(g^{\ast}_ G)-L(g^{\ast})$

$L(\hat{g_T})-L(\hat{g_n})$ ：優(yōu)化誤差。衡量的是優(yōu)化算法迭代 $T$ 輪后輸出的模型與精確最小化經(jīng)驗風(fēng)險的差別目胡。是由于優(yōu)化算法的局限性帶來的锯七，與選用的優(yōu)化算法、數(shù)據(jù)量大小誉己、迭代輪數(shù)以及函數(shù)空間有關(guān)眉尸。
$L(\hat{g_n})-L(g^{\ast}_ G)$ ：估計誤差。衡量的是最小化經(jīng)驗風(fēng)險誤差的模型和最小化期望風(fēng)險的模型所對應(yīng)的的期望風(fēng)險的差別巨双。是由訓(xùn)練集的局限性帶來的噪猾，與數(shù)據(jù)量的大小和函數(shù)空間的復(fù)雜程度有關(guān)。
$L(g^{\ast}_ G)-L(g^{\ast})$ ：近似誤差筑累。衡量的是函數(shù)集合 $G$ 的最優(yōu)期望風(fēng)險與全局最優(yōu)期望風(fēng)險的差別袱蜡。與函數(shù)空間的表達力有關(guān)。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者

人面猴
序言：七十年代末慢宗，一起剝皮案震驚了整個濱河市坪蚁，隨后出現(xiàn)的幾起案子，更是在濱河造成了極大的恐慌镜沽，老刑警劉巖敏晤，帶你破解...
沈念sama閱讀 211,042評論 6贊 490
死咒
序言：濱河連續(xù)發(fā)生了三起死亡事件，死亡現(xiàn)場離奇詭異缅茉，居然都是意外死亡嘴脾，警方通過查閱死者的電腦和手機，發(fā)現(xiàn)死者居然都...
沈念sama閱讀 89,996評論 2贊 384
救了他兩次的神仙讓他今天三更去死
文/潘曉璐我一進店門蔬墩，熙熙樓的掌柜王于貴愁眉苦臉地迎上來译打，“玉大人，你說我怎么就攤上這事筹我。” “怎么了帆离？”我有些...
開封第一講書人閱讀 156,674評論 0贊 345
道士緝兇錄：失蹤的賣姜人
文/不壞的土叔我叫張陵蔬蕊，是天一觀的道長。經(jīng)常有香客問我，道長岸夯，這世上最難降的妖魔是什么麻献？我笑而不...
開封第一講書人閱讀 56,340評論 1贊 283
?港島之戀（遺憾婚禮）
正文為了忘掉前任，我火速辦了婚禮猜扮，結(jié)果婚禮上勉吻，老公的妹妹穿的比我還像新娘。我一直安慰自己旅赢，他們只是感情好齿桃，可當(dāng)我...
茶點故事閱讀 65,404評論 5贊 384
惡毒庶女頂嫁案：這布局不是一般人想出來的
文/花漫我一把揭開白布。她就那樣靜靜地躺著煮盼，像睡著了一般短纵。火紅的嫁衣襯著肌膚如雪。梳的紋絲不亂的頭發(fā)上僵控，一...
開封第一講書人閱讀 49,749評論 1贊 289
城市分裂傳說
那天香到，我揣著相機與錄音，去河邊找鬼报破。笑死悠就，一個胖子當(dāng)著我的面吹牛，可吹牛的內(nèi)容都是我干的充易。我是一名探鬼主播梗脾，決...
沈念sama閱讀 38,902評論 3贊 405
雙鴛鴦連環(huán)套：你想象不到人心有多黑
文/蒼蘭香墨我猛地睜開眼，長吁一口氣：“原來是場噩夢啊……” “哼蔽氨！你這毒婦竟也來了藐唠？” 一聲冷哼從身側(cè)響起，我...
開封第一講書人閱讀 37,662評論 0贊 266
萬榮殺人案實錄
序言：老撾萬榮一對情侶失蹤鹉究，失蹤者是張志新（化名）和其女友劉穎宇立，沒想到半個月后，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體自赔，經(jīng)...
沈念sama閱讀 44,110評論 1贊 303
?護林員之死
正文獨居荒郊野嶺守林人離奇死亡妈嘹，尸身上長有42處帶血的膿包…… 初始之章·張勛以下內(nèi)容為張勛視角年9月15日...
茶點故事閱讀 36,451評論 2贊 325
?白月光啟示錄
正文我和宋清朗相戀三年，在試婚紗的時候發(fā)現(xiàn)自己被綠了绍妨。大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片润脸。...
茶點故事閱讀 38,577評論 1贊 340
活死人
序言：一個原本活蹦亂跳的男人離奇死亡，死狀恐怖他去，靈堂內(nèi)的尸體忽然破棺而出毙驯，到底是詐尸還是另有隱情，我是刑警寧澤灾测，帶...
沈念sama閱讀 34,258評論 4贊 328
?日本核電站爆炸內(nèi)幕
正文年R本政府宣布爆价，位于F島的核電站，受9級特大地震影響，放射性物質(zhì)發(fā)生泄漏铭段。R本人自食惡果不足惜骤宣，卻給世界環(huán)境...
茶點故事閱讀 39,848評論 3贊 312
男人毒藥：我在死后第九天來索命
文/蒙蒙一、第九天我趴在偏房一處隱蔽的房頂上張望序愚。院中可真熱鬧憔披，春花似錦、人聲如沸爸吮。這莊子的主人今日做“春日...
開封第一講書人閱讀 30,726評論 0贊 21
一樁弒父案，背后竟有這般陰謀
文/蒼蘭香墨我抬頭看了看天上的太陽拗胜。三九已至蔗候，卻和暖如春解幼，著一層夾襖步出監(jiān)牢的瞬間互墓，已是汗流浹背。一陣腳步聲響...
開封第一講書人閱讀 31,952評論 1贊 264
情欲美人皮
我被黑心中介騙來泰國打工渗鬼，沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留勘畔，地道東北人所灸。一個月前我還...
沈念sama閱讀 46,271評論 2贊 360
代替公主和親
正文我出身青樓，卻偏偏與公主長得像炫七，于是被迫代替她去往敵國和親爬立。傳聞我的和親對象是個殘疾皇子，可洞房花燭夜當(dāng)晚...
茶點故事閱讀 43,452評論 2贊 348