神經(jīng)網(wǎng)絡是一種運算模型唬血，有大量的節(jié)點（或稱為神經(jīng)元或單元）和相關之間的加權連接構成望蜡。
QQ截圖20140828175423.jpg
節(jié)點——代表一種特定的輸出函數(shù)（激勵函數(shù)（activation function））；
節(jié)點之間的連接方式——權重（weight）拷恨，相當于神經(jīng)網(wǎng)絡的記憶（網(wǎng)絡中最重要的信息）脖律。
網(wǎng)絡——對自然界中某種算法或者函數(shù)的逼近，也可能是以一種邏輯策略的表達腕侄。
神經(jīng)網(wǎng)絡的特點
- 非線性：激活和抑制狀態(tài)小泉。
- 非局限性：神經(jīng)元的個數(shù)可無限增加。
- 非常定性：系統(tǒng)總在迭代變換演進過程中兜挨。
- 非凸性：狀態(tài)函數(shù)（比如能量函數(shù)）有多個極值膏孟，故系統(tǒng)有過個較穩(wěn)定狀態(tài)，也就是多樣性拌汇。
神經(jīng)網(wǎng)絡模型
（1）生物神經(jīng)元 --> 人工神經(jīng)元
- 細胞體和軸突 ---- 傳遞函數(shù)柒桑、輸出
（2）生物神經(jīng)網(wǎng)絡 --> 人工神經(jīng)網(wǎng)絡
- 神經(jīng)元之間的突觸連接強度 ---- 權重
傳遞函數(shù)種類：hardlimi, purelin, Sigmoid (logsig), Gaussion Radial base function...
對于大多數(shù)神經(jīng)網(wǎng)絡來說，在網(wǎng)絡運行的時候噪舀，傳遞函數(shù)一旦選定就保持不變魁淳，而權重的動態(tài)修改是學習中最基本的過程。
神經(jīng)網(wǎng)絡的訓練
網(wǎng)絡不是通過修改處理單元本身完成訓練過程与倡，而是靠改變網(wǎng)絡中連接的權重來學習的界逛。
學習和訓練并不完全相同：
訓練：神經(jīng)網(wǎng)絡的學習過程，外部過程纺座；
學習：是上述過程的結果息拜，是網(wǎng)絡內(nèi)部過程。
