Task01:
觀看機(jī)器學(xué)習(xí)介紹(1 天)
keyword
一、Regression
- 定義
- 應(yīng)用
二从撼、Model
- 模型假設(shè)
- 模型評估
- 模型優(yōu)化
感受:僅僅是完成任務(wù),但并不理想。
1、沒有學(xué)前基礎(chǔ):數(shù)學(xué)知識遺忘的差不多了惜索;可以算得上沒有python基礎(chǔ);
2剃浇、看完視頻并零零散散地記錄了一些筆記巾兆,對回歸有了一定的認(rèn)知,但【模型】這一部分就一言難盡了虎囚。
一角塑、Regression
定義:
Regression,找到function淘讥,input feature 吉拳,output scalar
應(yīng)用:
Regression 可以進(jìn)行股票預(yù)測、自動駕駛适揉、推薦系統(tǒng),它輸出的是數(shù)值
- 股票預(yù)測:f(股票數(shù)據(jù))=股票預(yù)測
- 自動駕駛:f(無人車感知的信息)=方向盤的角度
- 推薦系統(tǒng):f(使用者A 商品B)= 購買可能性
二煤惩、 Model
1嫉嘀、模型假設(shè)
- 一元線性模型
- 多元線性模型
2、模型評估
如何評估模型的好壞魄揉。從數(shù)學(xué)的角度解釋:可以用真實值和期望值的距離剪侮,進(jìn)行評估。用損失函數(shù)(方差)評估模型的好壞:loss小,模型好瓣俯;
3、模型評估-梯度下降
以一元線性方程為例:
- 引入學(xué)習(xí)率:移動的步長
1彩匕、隨機(jī)選取初始值:
2腔剂、計算微分,即$w^{0}的斜率 - 大于0驼仪,向右移動
- 小于0掸犬,向左移動
重復(fù)以上步驟,直至找到最低點绪爸;
多元線性方程與之同理湾碎;
———————————————————-
1、如何驗證訓(xùn)練好的模型好與壞:
使用訓(xùn)練集和測試集的平均誤差來驗證模型的好壞
2奠货、更復(fù)雜的模型:一元N次線性模型
引入更為復(fù)雜的模型介褥,進(jìn)行優(yōu)化
會出現(xiàn):模型訓(xùn)練效果好,但是在測試集訓(xùn)練效果不佳的情況——overfitting递惋。需要進(jìn)行優(yōu)化:
1柔滔、引入多個線性模型,合并到一個線性模型丹墨;
2廊遍、引入更多的特征,input feature(原模型未涉及的贩挣,如血量喉前、高度、重量)
3王财、需要通過regulartion(正則化)卵迂,讓模型變得更平滑。(函數(shù)的平移绒净,與模型的平滑度無關(guān)见咒,故不需要考慮bais)。