1.白板推導系列,up主
shuhuai008的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibili2.up主,主要是機器學習的數(shù)學推導
GRNovmbrain的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibiliup主,陸小亮,讀書筆記視頻<<統(tǒng)計學習方法>>
陸小亮的個人空間_嗶哩嗶哩_Bilibili林軒田<<機器學習基石>>
林軒田機器學習基石(國語)_嗶哩嗶哩_bilibili3.覃秉豐up主,不僅講機器學習的算法基礎(chǔ),項目實戰(zhàn),還講python Matplotlib及Pytorch和TensorFlow等課程
覃秉豐的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibilisklearn學習,up主
菜菜TsaiTsai的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibili新的up主,主要涉及到機器學習的數(shù)學,算法
這個程序沒問題的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibili這個up主講了些數(shù)學方法,比如拉格朗日乘子法就是在他這里學的
來學習吧喵的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibili計量經(jīng)濟學入門
計量經(jīng)濟學入門_嗶哩嗶哩_bilibili中科大,凸優(yōu)化課程
中科大-凸優(yōu)化_嗶哩嗶哩_bilibili浙江大學課程,沒講數(shù)學細節(jié),講了脈絡(luò),結(jié)論,授課老師說有實踐的作業(yè)(人臉識別),這部分作業(yè)可以看下
(強推)浙大2021-機器學習_嗶哩嗶哩_bilibili
- 深度之眼,講的很淺顯,適合用來大致過一遍
深度之眼官方賬號的個人空間 - 嗶哩嗶哩 ( ゜- ゜)つロ 乾杯~ Bilibili
SVM
知乎文章:
零基礎(chǔ)學SVM—Support Vector Machine(一) - 知乎 (zhihu.com)林軒田<<機器學習技法>> SVM無出其右
機器學習技法(林軒田)_嗶哩嗶哩_bilibili點到超平面距離:
https://www.bilibili.com/video/BV1Pv411z7J4?from=search&seid=17956506754038541702求距離最小-->求倒數(shù)最大
機器學習算法基礎(chǔ)-覃秉豐_嗶哩嗶哩_bilibili
*辨析,將(點到超平面的距離與|w|乘積)認為是1,其實就是添加了一條約束條件
推導出標準問題
來實際應(yīng)用下求解下
最優(yōu)化問題的數(shù)學儲備不足,跳去先看
- 拉格朗日乘子法:
【微積分】第11話 拉格朗日乘數(shù)法_嗶哩嗶哩_bilibili - 上面新和up主,專門講機器學習數(shù)學相關(guān)的,講的拉格朗日乘子法的推導與幾個示例,里面將目標函數(shù)取log簡化,然后再構(gòu)造拉格朗日乘子的技巧很值得學習
【2021最全人工智能|AI數(shù)學基礎(chǔ)課程】附送課程筆記谬运、源代碼等資料(第一章至第十二章)_嗶哩嗶哩_bilibili
林老師將一般問題-->二次規(guī)劃
-
拉格朗日乘子的一般式
-
拉格朗日乘子的廣義式,主要表達了各維的權(quán)重,用向量w來表示
KKT解釋
如何通俗地講解對偶問題?尤其是拉格朗日對偶lagrangian duality蠢护? - 知乎 (zhihu.com)
對偶問題,需要先弄清楚凸優(yōu)化問題,即要弄清楚仿射和凸集,才能理解到不等約束條件是 <= 0;而不是 >= 0
何為凸函數(shù),凸集?
第11章 拉格朗日與對偶_嗶哩嗶哩_bilibili凸函數(shù)、下水平集、范數(shù) 海森矩陣
【凸優(yōu)化筆記2】-凸函數(shù)、下水平集鸽捻、范數(shù) - 知乎 (zhihu.com)講的比較細,講了從拉格朗日函數(shù)到拉格朗日對偶;以及為什么要搞成拉格朗日對偶
第七章 支持向量機 帶讀 李航 《統(tǒng)計學習方法》 機器學習工程師養(yǎng)成記_嗶哩嗶哩_bilibiliup主手工推導SVM
支持向量機(SVM)手動推導全過程_嗶哩嗶哩_bilibili南開大學 SVM拉格朗日對偶
SVM 支持向量機_嗶哩嗶哩_bilibili對偶推導,可以借鑒參考
機器學習系列0.2.2——拉格朗日對偶性_嗶哩嗶哩_bilibili