1.1神經(jīng)元模型
神經(jīng)網(wǎng)絡是由具有適應性的簡簡單單組成的廣泛并行互連的網(wǎng)絡，它的組織能夠模擬生物神經(jīng)網(wǎng)絡系統(tǒng)對真實世界物體所作出的交互反應涝桅。
神經(jīng)網(wǎng)絡中最基本的成分是神經(jīng)元模型悠栓，即上述定義中的“簡單單元”漆魔。在生物神經(jīng)網(wǎng)絡中，每個神經(jīng)元與其他神經(jīng)元相連赚爵，當它“興奮”時庶柿，就會向相連的神經(jīng)元發(fā)送化學物質村怪，從而改變這些神經(jīng)元內(nèi)的電位；如果某神經(jīng)元的電位超過一個“閥值”浮庐，那么它就會被激活甚负，即“興奮”起來，向其他神經(jīng)元發(fā)送化學物質审残。
上述的情形抽象為如下圖的簡單模型梭域，這就是一直沿用至今的“M-P神經(jīng)元模型”。在這個模型中搅轿，神經(jīng)元接收來自n個其他神經(jīng)元傳遞過來的輸入信號病涨，這些輸入信號通過帶權重的連接進行傳遞，神經(jīng)元收到到的總輸入值將與神經(jīng)元的閥值進行比較璧坟，然后通過“激活函數(shù)”（activation function）處理以產(chǎn)生神經(jīng)元的輸出既穆。
理想的激活函數(shù)如下圖a所示的階躍函數(shù)，它將輸入值映射為輸出值“0”或“1”雀鹃，顯然“1”對應于神經(jīng)元興奮幻工，“0”對應于神經(jīng)元抑制。然而黎茎，階躍函數(shù)具有不連續(xù)囊颅、不光滑等不太好的性質，因此實際常用Sigmoid函數(shù)作為激活函數(shù)傅瞻。典型的Sigmoid函數(shù)如圖b所示踢代，它把可能在較大范圍內(nèi)變化的輸入值擠壓到（0,1）輸出值范圍內(nèi)，因此有時稱為“擠壓函數(shù)”嗅骄。
把許多個這樣的神經(jīng)元按一定的層次連接起來胳挎，就得到了神經(jīng)網(wǎng)絡。
1.2感知機與多層網(wǎng)絡
感知機（Perceptron）由兩層神經(jīng)元組成掸读，如下圖所示串远，輸入層接收外界輸入信號后傳遞給輸出層，輸出層是M-P神經(jīng)元儿惫，亦稱“閥值邏輯單元”澡罚。
感知機能容易實現(xiàn)邏輯與、或肾请、非運算留搔。注意到
，假定f是上圖中的階躍函數(shù)铛铁，有
1隔显、
2却妨、
3、
更一般地括眠，給定訓練數(shù)據(jù)集彪标，權重wi（i=1,2,3......）以及閥值可通過學習得到。閥值
可看作一個固定輸入為-1.0的“啞結點”所對應的連接權重w_n+1掷豺，這樣捞烟，權重和閥值的學習就可統(tǒng)一為權重的學習。感知機的學習規(guī)則非常簡單当船，對訓練樣例（x题画，y），若當前感知機的輸出為
德频，則感知機權重將這樣調整：
其中（0苍息，1）稱為學習率（learning rate）.從上面第一個式子可以看出，若感知機對訓練樣例（x,y）預測正確壹置，即
=y,則感知機不發(fā)生變化竞思，否則將根據(jù)錯誤的權重進行調整。
未完待續(xù)蒸绩。衙四。铃肯。患亿。。
