sigmoid函數(shù)（也叫邏輯斯諦函數(shù)）：
引用wiki百科的定義：
A logistic function or logistic curve is a common “S” shape (sigmoid curve).
其實(shí)邏輯斯諦函數(shù)也就是經(jīng)常說(shuō)的sigmoid函數(shù)位谋，它的幾何形狀也就是一條sigmoid曲線。
wiki百科對(duì)softmax函數(shù)的定義：
softmax is a generalization of logistic function that “squashes”(maps) a K-dimensional vector z of arbitrary real values to a K-dimensional vector σ(z) of real values in the range (0, 1) that add up to 1.
這句話既表明了softmax函數(shù)與logistic函數(shù)的關(guān)系，也同時(shí)闡述了softmax函數(shù)的本質(zhì)就是將一個(gè)K
維的任意實(shí)數(shù)向量壓縮（映射）成另一個(gè)K
維的實(shí)數(shù)向量梳码，其中向量中的每個(gè)元素取值都介于（0乳蛾，1）之間思瘟。
softmax函數(shù)形式如下：
總結(jié)：
sigmoid將一個(gè)real value映射到（0,1）的區(qū)間（當(dāng)然也可以是（-1,1））浮还，這樣可以用來(lái)做二分類柱锹。
而softmax把一個(gè)k維的real value向量（a1,a2,a3,a4….）映射成一個(gè)（b1,b2,b3,b4….）其中bi是一個(gè)0-1的常數(shù)倒堕，然后可以根據(jù)bi的大小來(lái)進(jìn)行多分類的任務(wù)灾测，如取權(quán)重最大的一維。
sigmoid函數(shù)：
那么對(duì)應(yīng)的對(duì)數(shù)圖像是：
我們要做的是分類垦巴，因此當(dāng)然是想知道媳搪，當(dāng)輸入x是，x分別屬于每一個(gè)類的概率骤宣，概率最大的那個(gè)就是我們認(rèn)為的屬于的類秦爆。
讓輸出為一個(gè)向量，并且有k維憔披，分別代表屬于i類的概率等限。當(dāng)然還要進(jìn)行歸一化，讓輸出的向量元素的值和為1.
因此就是對(duì)輸出進(jìn)行歸一化芬膝。
softmax模型的參數(shù)是k個(gè)n+1維的θ組成的矩陣望门，輸出的是向量。
Softmax 函數(shù)的特點(diǎn)和作用是什么锰霜？
