高等數(shù)學(xué)基礎(chǔ)
本文參考了目前網(wǎng)上諸多的機(jī)器學(xué)習(xí)數(shù)學(xué)復(fù)習(xí)講義，取其精華掩浙，逐步深入星立，在幫助大家進(jìn)行復(fù)習(xí)的同時(shí)，盡可能降低學(xué)習(xí)曲線灾锯。
概要
- 極限定理
- 夾逼定理
- 積分微分基礎(chǔ)(導(dǎo)數(shù)定義兢榨，常見函數(shù)求導(dǎo)，導(dǎo)數(shù)運(yùn)算法則顺饮，復(fù)合函數(shù)求導(dǎo))
- 凹凸函數(shù)
- 牛頓-萊布尼
- Taylor公式吵聪、Maclaurin公式
- 方向?qū)?shù)和梯度
- Gamma函數(shù)
- Jensen不等式
- 拉格朗日乘子法
1. 極限定理
2. 夾逼定理##
6a600c338744ebf86edf86dfd9f9d72a6159a7a0.jpg
3. 積分微分基礎(chǔ)##
導(dǎo)數(shù)的定義##
圖片1.png
常見的函數(shù)求導(dǎo)##
圖片1.png
導(dǎo)數(shù)運(yùn)算法則##
圖片1.png
求導(dǎo)運(yùn)算
圖片1.png
復(fù)合函數(shù)求導(dǎo)
定義
圖片1.png
簡(jiǎn)單應(yīng)用
圖片1.png
進(jìn)階應(yīng)用
圖片1.png
注：圖中第一步到第二步采用的是分步積分法
4.凹凸函數(shù)
凸集定義
圖片1.png
曲線凸凹性
圖片1.png
凹凸性判別
圖片1.png
凸函數(shù)的一般形式
圖片1.png
一階可微
圖片1.png
二階可微
圖片1.png
解釋如下圖
圖片1.png
圖中舉例一個(gè)二元函數(shù)，一階導(dǎo)是向量兼雄，二階導(dǎo)是矩陣吟逝，矩陣的值大于0,這說明這是個(gè)正定矩陣，說明對(duì)于的函數(shù)是凸函數(shù)
凸函數(shù)舉例
圖片1.png
5.牛頓-萊布尼公式
圖片1.png
6.Taylor公式
圖片1.png
可以從上圖看到赦肋，Taylor公式在x=0處展開块攒，就是Maclaurin公式。
實(shí)踐中佃乘，如果x的值過大囱井，導(dǎo)致函數(shù)很晚才收斂，前面的計(jì)算數(shù)值非常大趣避，造成不方便庞呕，所以我們會(huì)進(jìn)行一定程度上的變換
圖片1.png
上圖的推導(dǎo)可以看出，任何一個(gè)x=N+R鹅巍，R都是<=0.5的千扶，都可以得到最后一個(gè)結(jié)論，從而很快速的求值
7.方向?qū)?shù)和梯度
圖片1.png
圖片1.png
8.Gamma函數(shù)
圖片1.png
圖片1.png
圖片1.png
上圖推導(dǎo)我們可以看到骆捧，第三步分步積分澎羞，第四部，把前面部分打開敛苇，
第一塊是無窮*0妆绞，但是0的階乘比無窮高，所以等于0枫攀，
第二塊括饶，0*1 = 0，所以只剩后面部分了
9.Jensen不等式
圖片1.png
應(yīng)用
圖片1.png
圖片1.png
11.拉格朗日乘子法
圖片1.png
圖片1.png
