0.簡(jiǎn)介 在凸優(yōu)化研究中弃理，數(shù)學(xué)優(yōu)化問題遵循以下形式： 是一個(gè)稱為優(yōu)化變量的向量 是一個(gè)我們想要最小化的凸函數(shù) 是一套凸集扎谎，描述了一組可行（能夠完成或執(zhí)行）的解決方案 作...
IP屬地：福建
-
拉格朗日對(duì)偶
-
西瓜書擴(kuò)展_支持向量機(jī)_間隔與支持向量二分類問題 這里我們考慮的是一個(gè)兩類的分類問題钓葫，數(shù)據(jù)點(diǎn)用來表示拳氢，這是一個(gè)維向量，而類別用來表示嚼黔，可以取或者盖呼，分別代表兩個(gè)不同的類： 劃分超平面方程 一個(gè)線性分類器就是要在...
-
西瓜書擴(kuò)展_拉格朗日對(duì)偶
原始目標(biāo)函數(shù)（有約束條件） 對(duì)于任意一個(gè)帶約束的優(yōu)化都可以寫成這樣的形式： 新構(gòu)造的目標(biāo)函數(shù)（沒有約束條件） 因?yàn)槲覀円蠼獾氖亲钚』瘑栴}，所以一個(gè)直觀的...
-
西瓜書擴(kuò)展_學(xué)習(xí)理論概念=未知目標(biāo)函數(shù) 樣本集大小 “不可知PLA可學(xué)習(xí)” 二分類問題弧岳，0-1損失函數(shù)（0-1 loss function） 泛化誤差（generalization error）...
-
-
奇異值分解的幾何意義闡述
對(duì)角矩陣是我們最喜歡的一類矩陣腹尖，因?yàn)榻o定一個(gè)對(duì)角陣立即就可以得到它的特征值柳恐，行列式，冪和指數(shù)函數(shù)等等 而一個(gè)階的方陣相似于對(duì)角陣當(dāng)且僅當(dāng)它存在著個(gè)線性無關(guān)的特征向量热幔。 特征值...
-
深度學(xué)習(xí)擴(kuò)展_梯度下降：當(dāng)發(fā)生微小變化的時(shí)候乐设，的變化有多大∫锞蓿可用式子表示 是梯度近尚，指向最陡上升方向。 是方向?qū)?shù)场勤，并不指向最陡上升方向戈锻。 介汹，沿著方向的微小推動(dòng)可以被分解成方向上的2個(gè)微小推動(dòng)，方向...
-
深度學(xué)習(xí)擴(kuò)展_最大似然估計(jì)
極大似然估計(jì)舶沛，通俗理解來說嘹承，就是利用已知的樣本結(jié)果信息，反推最具有可能（最大概率）導(dǎo)致這些樣本結(jié)果出現(xiàn)的模型參數(shù)值如庭！ 換句話說叹卷，極大似然估計(jì)提供了一種給定觀察數(shù)據(jù)來評(píng)估模型參...