Sigmoid函數(shù)
Sigmoid 函數(shù)適用于只對(duì)一種類(lèi)別進(jìn)行分類(lèi)的場(chǎng)景竭缝，本質(zhì)上是非線(xiàn)性映射，定義域?yàn)閱蝹€(gè)數(shù)值傻粘，值域?yàn)椋?,1）每窖。首先設(shè)置函數(shù)閥值(shrehold)，當(dāng)Sigmoid函數(shù)輸出值大于閥值弦悉，則認(rèn)為“是”這一類(lèi)別窒典；否則認(rèn)為“不是”這一類(lèi)別
sigmoid公式
Sigmoid曲線(xiàn)
def sigmoid(s):
return 1 / (1 + np.exp(-s))
Softmax函數(shù)
Softmax函數(shù)是Sigmoid函數(shù)的“多類(lèi)別”版本，可以將輸出值對(duì)應(yīng)到多個(gè)類(lèi)別標(biāo)簽改了最高的的一項(xiàng)就是模型預(yù)測(cè)的標(biāo)簽稽莉。本質(zhì)上是離散概率分布瀑志，定義域某個(gè)一維向量，值域 [0,1] ，結(jié)果之和一定為1
sofrmax公式
Softmax曲線(xiàn)
def softmax(s):
return np.exp(s)/np.sum(np.exp(s), axis = 0)
Sigmoid和Softmax函數(shù)的主要區(qū)別
| Sigmoid | Softmax | |
|---|---|---|
| 公式 |  |
 |
| 本質(zhì) | 非線(xiàn)性映射 | 離散概率分布 |
| 任務(wù) | 二分類(lèi) | 多分類(lèi) |
| 定義域 | 單個(gè)數(shù)值 | 某個(gè)一維向量 |
| 值域 | （0,1） | [0,1] |
| 結(jié)果之和 | 某個(gè)正數(shù) | 一定為1 |
