神經(jīng)網(wǎng)絡 之 線性單元

本文結構:

  1. 什么是線性單元
  2. 有什么用
  3. 代碼實現(xiàn)

1. 什么是線性單元

線性單元和感知器的區(qū)別就是在激活函數(shù):

感知器的 f 是階越函數(shù):

線性單元的激活函數(shù)是線性的:

所以線性模型的公式如下:

2. 有什么用

感知器存在一個問題卖漫,就是遇到線性不可分的數(shù)據(jù)時,就可能無法收斂,所以要使用一個可導的線性函數(shù)來替代階躍函數(shù),即線性單元,這樣就會收斂到一個最佳的近似上笙僚。

3. 代碼實現(xiàn)

1. 繼承Perceptron,初始化線性單元

from perceptron import Perceptron
#定義激活函數(shù)f
f = lambda x: x
class LinearUnit(Perceptron):
    def __init__(self, input_num):
        '''初始化線性單元,設置輸入?yún)?shù)的個數(shù)'''
        Perceptron.__init__(self, input_num, f)

2. 定義一個線性單元, 調(diào)用 train_linear_unit 進行訓練

  • 打印訓練獲得的權重
  • 輸入?yún)?shù)值 [3.4] 測試一下預測值
if __name__ == '__main__': 
    '''訓練線性單元'''
    linear_unit = train_linear_unit()
    # 打印訓練獲得的權重
    print linear_unit
    # 測試
    print 'Work 3.4 years, monthly salary = %.2f' % linear_unit.predict([3.4])
    print 'Work 15 years, monthly salary = %.2f' % linear_unit.predict([15])
    print 'Work 1.5 years, monthly salary = %.2f' % linear_unit.predict([1.5])
    print 'Work 6.3 years, monthly salary = %.2f' % linear_unit.predict([6.3])
  • 其中訓練的過程就是:
  • 獲得訓練數(shù)據(jù)桥滨,
  • 設定迭代次數(shù),學習速率等參數(shù)
  • 再返回訓練好的線性單元
def train_linear_unit():
    '''
    使用數(shù)據(jù)訓練線性單元
    '''
    # 創(chuàng)建感知器弛车,輸入?yún)?shù)的特征數(shù)為1(工作年限)
    lu = LinearUnit(1)
    # 訓練齐媒,迭代10輪, 學習速率為0.01
    input_vecs, labels = get_training_dataset()
    lu.train(input_vecs, labels, 10, 0.01)
    #返回訓練好的線性單元
    return lu

完整代碼

from perceptron import Perceptron
#定義激活函數(shù)f
f = lambda x: x
class LinearUnit(Perceptron):
    def __init__(self, input_num):
        '''初始化線性單元,設置輸入?yún)?shù)的個數(shù)'''
        Perceptron.__init__(self, input_num, f)


def get_training_dataset():
    '''
    捏造5個人的收入數(shù)據(jù)
    '''
    # 構建訓練數(shù)據(jù)
    # 輸入向量列表纷跛,每一項是工作年限
    input_vecs = [[5], [3], [8], [1.4], [10.1]]
    # 期望的輸出列表喻括,月薪,注意要與輸入一一對應
    labels = [5500, 2300, 7600, 1800, 11400]
    return input_vecs, labels    
def train_linear_unit():
    '''
    使用數(shù)據(jù)訓練線性單元
    '''
    # 創(chuàng)建感知器贫奠,輸入?yún)?shù)的特征數(shù)為1(工作年限)
    lu = LinearUnit(1)
    # 訓練唬血,迭代10輪, 學習速率為0.01
    input_vecs, labels = get_training_dataset()
    lu.train(input_vecs, labels, 10, 0.01)
    #返回訓練好的線性單元
    return lu
if __name__ == '__main__': 
    '''訓練線性單元'''
    linear_unit = train_linear_unit()
    # 打印訓練獲得的權重
    print linear_unit
    # 測試
    print 'Work 3.4 years, monthly salary = %.2f' % linear_unit.predict([3.4])
    print 'Work 15 years, monthly salary = %.2f' % linear_unit.predict([15])
    print 'Work 1.5 years, monthly salary = %.2f' % linear_unit.predict([1.5])
    print 'Work 6.3 years, monthly salary = %.2f' % linear_unit.predict([6.3])

學習資料:
https://www.zybuluo.com/hanbingtao/note/448086


推薦閱讀 歷史技術博文鏈接匯總
也許可以找到你想要的

我是 不會停的蝸牛 Alice
85后全職主婦
喜歡人工智能,行動派
創(chuàng)造力唤崭,思考力拷恨,學習力提升修煉進行中
歡迎您的喜歡,關注和評論谢肾!

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末腕侄,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌冕杠,老刑警劉巖微姊,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異分预,居然都是意外死亡兢交,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門笼痹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來配喳,“玉大人,你說我怎么就攤上這事与倡〗绻洌” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵纺座,是天一觀的道長息拜。 經(jīng)常有香客問我,道長净响,這世上最難降的妖魔是什么少欺? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮馋贤,結果婚禮上赞别,老公的妹妹穿的比我還像新娘。我一直安慰自己配乓,他們只是感情好仿滔,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著犹芹,像睡著了一般崎页。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上腰埂,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天飒焦,我揣著相機與錄音,去河邊找鬼屿笼。 笑死牺荠,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的驴一。 我是一名探鬼主播休雌,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼蛔趴!你這毒婦竟也來了挑辆?” 一聲冷哼從身側(cè)響起例朱,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤孝情,失蹤者是張志新(化名)和其女友劉穎鱼蝉,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體箫荡,經(jīng)...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡魁亦,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了羔挡。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片洁奈。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖绞灼,靈堂內(nèi)的尸體忽然破棺而出利术,到底是詐尸還是另有隱情,我是刑警寧澤低矮,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布印叁,位于F島的核電站,受9級特大地震影響军掂,放射性物質(zhì)發(fā)生泄漏轮蜕。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一蝗锥、第九天 我趴在偏房一處隱蔽的房頂上張望跃洛。 院中可真熱鬧,春花似錦终议、人聲如沸汇竭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽细燎。三九已至,卻和暖如春陆馁,著一層夾襖步出監(jiān)牢的瞬間找颓,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工叮贩, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留击狮,地道東北人。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓益老,卻偏偏與公主長得像彪蓬,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子捺萌,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內(nèi)容