title: 導(dǎo)數(shù)
指數(shù)
指數(shù)是指多個相同數(shù)據(jù)的乘積如：
y = x _ x _ x 可以表示為
對數(shù)
對數(shù)和指數(shù)為互逆預(yù)算
求 x 的 z 次方是 y：
常見的指數(shù)與對數(shù)：
-
(e 是一個數(shù)學(xué)上非常重要的常數(shù) 值為： 2.71828)
-
以 10 為底的對數(shù)
-
以 e 為底的對數(shù)
微積分
導(dǎo)數(shù)
導(dǎo)數(shù)在幾何上可以表示曲線在某一點的斜率环戈、在物理上可以用來描述物體的速度或者加速度窿克。
常見的求導(dǎo)公式：
常數(shù)求導(dǎo)：
盅称、
冥函數(shù)導(dǎo)數(shù)：
指數(shù)求導(dǎo)：
剧劝、
對數(shù)求導(dǎo):
、
導(dǎo)數(shù)的運算公式：
-
常數(shù)倍法則
如果一個函數(shù) f(x)與 常數(shù) C 相乘 那么他的導(dǎo)數(shù)也等于常數(shù) 與原來函數(shù)導(dǎo)數(shù)的乘積
-
和差法則
如果一個函數(shù) f(x) 與 另外一個函數(shù) g(x) 相加或者相減挥转，那么他們的倒數(shù)也等于各自倒數(shù)的和或者差
- 相加：
- 相減:
-
乘積法則
如果一個函數(shù) f(x) 與另外一個函數(shù) g(x) 相乘电媳，那么他們的倒數(shù)等于第一個函數(shù)乘于第二個函數(shù)的倒數(shù)在加上第二個函數(shù)乘于第一個函數(shù)的導(dǎo)數(shù)
-
鏈?zhǔn)椒▌t
如果一個函數(shù)由 2 個函數(shù)組成 f(x) = f(g(x)) 則：
如果一個函數(shù)的導(dǎo)數(shù)大于 0洪乍，則函數(shù)是單調(diào)遞增的，如果函數(shù)的導(dǎo)數(shù)小于 0 則函數(shù)是單調(diào)遞減的
偏導(dǎo)數(shù)
當(dāng)一個函數(shù)有多個變量組成時 求某一個變量對于函數(shù) f(x)的影響 可以把其他幾個變量當(dāng)做常數(shù)
如：
求 x 的偏導(dǎo)數(shù) ?f/?x 把 z 和 k 看做是常數(shù): (其中 z 和 k 為常數(shù))
高階導(dǎo)數(shù)
對一個導(dǎo)函數(shù)再次求導(dǎo)</br>
一階導(dǎo)數(shù)為：
二階導(dǎo)數(shù)為：
導(dǎo)數(shù)的應(yīng)用
梯度下降
梯度是一個矢量开瞭，在數(shù)學(xué)中常用來表示函數(shù)在某個點處的方向?qū)?shù)的最大值懒震，它描述了在每個點的方向上函數(shù)值變化最快的方向以及變化的速度。
梯度下降是一種優(yōu)化算法嗤详，作用是幫助我們找到到函數(shù)的最小值點个扰。通過不斷地沿著梯度負(fù)方向更新參數(shù)，逐漸接近函數(shù)的最小值點葱色。
以預(yù)測打車費用為例：
要求的 w 權(quán)重和 b 偏執(zhí)的真實值
損失函數(shù)為均方誤差
為實際值
為預(yù)測值
先求得 w 對 y 的偏導(dǎo)數(shù)
如何找到 B 點 找 B 點的過程即為讓損失函數(shù)最小
一次對 w 和 b 求偏導(dǎo)數(shù)
假定初始值 w = 1 b = 0
| 公里數(shù) | 價格 | 預(yù)測價格 | 損失 | ?f/?w | ?f/?b |
|---|---|---|---|---|---|
| 1 | 8 | 1 | 49 | -14 | - 7 |
| 2 | 10 | 2 | 64 | -32 | -16 |
| 3 | 12 | 3 | 81 | -54 | -27 |
| 4 | 14 | 4 | 100 | -80 | - 40 |
| 73.5 | -45 | -22.5 |
更新梯度
rate 為學(xué)習(xí)率
重復(fù)計算 最終得到的 w 和 b 會很接近真實值
本文由mdnice多平臺發(fā)布
