機器學習是什么佃延?
-機器學習是對能通過經(jīng)驗自動改進的計算機算法的研究锐涯。
-機器學習是用數(shù)據(jù)或以往的經(jīng)驗,以此優(yōu)化計算機程序的性能標準哮兰。
機器學習例子
1.線性回歸
2.邏輯回歸
3.圖片分類
4.語音助手
為什么要用機器學習贺纲?
-有些棘手問題只能用機器學習來解決
-獲取數(shù)據(jù)比編寫規(guī)則更加容易
-GPU等計算能力顯著提升
機器學習如何運作
-神經(jīng)網(wǎng)絡(重點)
-決策樹 支持向量機 貝葉斯分類器 強化學習......
神經(jīng)網(wǎng)絡簡介
-在本課中航闺,指的是人工神經(jīng)網(wǎng)絡
-人工神經(jīng)網(wǎng)絡是一種運算模型(就是輸入輸出的映射),由大量的節(jié)點(或神經(jīng)元)之間相互連接構成
舉例:
神經(jīng)網(wǎng)絡總結
-每個神經(jīng)元里面存儲著若干權重(weight),偏置(bias) 和一個激活函數(shù)(activation )
-輸入乘上權重加上偏置,經(jīng)過激活函數(shù)得到輸出
-激活函數(shù)用于添加非線性的變換
-神經(jīng)網(wǎng)絡通常包括一個輸入層 若干個隱藏層 一個輸出層
-輸入層通常不用于計算神經(jīng)網(wǎng)絡的層級
神經(jīng)網(wǎng)絡的訓練
-給大量輸入和輸出,算出神經(jīng)網(wǎng)絡里所有神經(jīng)元的權重,偏置猴誊,然后給定新的輸入潦刃,可以算出新的輸出。
-在機器學習里輸入輸出被稱為特征和標簽,大量輸入輸出被稱為訓練集
-給1000個相親對象的數(shù)據(jù)(特征),和對應的滿意程度(標簽)懈叹,訓練完后,給一份新的相親對象的數(shù)據(jù),就可以判定滿意程度了
如何訓練神經(jīng)網(wǎng)絡
-初始化:隨機生成一些權重和偏置
-計算損失:給定特征,計算出標簽,得到它與真實標簽差得多遠
-優(yōu)化:微調(diào)權重和偏置,是損失變小
前向傳播與方向傳播
-前向傳播:將訓練數(shù)據(jù)的特征送入網(wǎng)絡,得到標簽
-反向傳播:計算損失并優(yōu)化(鏈式乖杠,從最后一層開始調(diào),就是這個方向)
-使用損失函數(shù)(均方誤差澄成,對數(shù)損失,交叉釤)
-使用優(yōu)化器(隨機梯度下降sgd) Adam