Logistic Regression with Softmax and Cross-Entropy
分布向量（Distribution Vector）與標(biāo)簽向量（Label Vector）的距離
由Softmax函數(shù)得到的分布向量，對(duì)與數(shù)乘運(yùn)算比較敏感（例如雇寇，對(duì)分布向量乘以10氢拥，可以得到一個(gè)概率趨近于1或0的分布；而對(duì)分布向量除以10嫩海，則可能得到一個(gè)均勻分布的向量），基于此叁怪，需要度量分布向量和標(biāo)簽向量的距離。
1.png
圖中S表示分布向量奕谭，L表示標(biāo)簽向量。S血柳、L的位置不可以互換官册，因?yàn)閷?duì)數(shù)函數(shù)的存在难捌。
完整的Logistic Regression如下圖所示膝宁。
2.png
