機(jī)器學(xué)習(xí)-斯坦福公開課
第1集 機(jī)器學(xué)習(xí)的動(dòng)機(jī)和應(yīng)用
有一個(gè)課程資料網(wǎng)站需要記錄一下喻旷，時(shí)間點(diǎn)不確定
-
ICA algorithm（分開兩個(gè)聲源）【時(shí)間：1:02:02】
[W,s,v]=svd((repmat(sum(x.x,1),size(x,1),1).x)*x');
4個(gè)學(xué)習(xí)型算法控制的機(jī)器人或車【時(shí)間：1:05:48】
推薦使用Matlab或Octave
Octave常用操作
轉(zhuǎn)置操作用上引號(hào)實(shí)現(xiàn)棺弊，inv求矩陣的逆睁枕，det求矩陣的特征值趁窃，trace求矩陣的跡瞻赶。
參考資料
Octave是一種高層解釋類編程語言绿鸣，旨在解決線性和非線性的數(shù)值計(jì)算問題肥橙。Octave為GNU項(xiàng)目下的開源軟件叹螟，早期版本為命令行交互方式鹃骂，4.0.0版本發(fā)布基于QT編寫的GUI交互界面。Octave語法與Matlab語法非常接近罢绽，可以很容易的將matlab程序移植到Octave偎漫。同時(shí)與C++,QT等接口較Matlab更加方便
- Octave官網(wǎng)
- Octave 和MATLAB的區(qū)別？
- Matlab官網(wǎng)
- Octave入門基礎(chǔ)
- 科學(xué)音頻處理（一）：怎樣使用 Octave 對(duì)音頻文件進(jìn)行讀寫操作
- 使用octave的人工神經(jīng)網(wǎng)絡(luò)包
第2集 監(jiān)督學(xué)習(xí)應(yīng)用.梯度下降
- 線性回歸是一類算法中的一種
- 線性回歸有缆、最小二乘法
- 梯度下降（Gradient Descent)可得到局部最小象踊，可能會(huì)有多個(gè)
- 隨機(jī)梯度下降算法收斂速度比梯度下降算法快得多，不需要全部樣本集棚壁，但它不倒準(zhǔn)確收斂到最小值杯矩，可能很接近最小值。
第3集 欠擬合與過擬合的概念
- 說明了權(quán)重線性回歸算法
- 用此算法成功解決了直升機(jī)自動(dòng)駕駛問題袖外；
- 這個(gè)算法的思路類似導(dǎo)數(shù)史隆，并且適用于無空訓(xùn)練集，分析對(duì)于時(shí)間序列最新的數(shù)據(jù)會(huì)取較大權(quán)重曼验，對(duì)下一步預(yù)測效果應(yīng)該會(huì)較好泌射。
- 從概率論方面說明了最小二乘法的正確性的一個(gè)證明粘姜，假設(shè)誤差服從高斯分布。最大似然性（likelihood）
- 簡介了邏輯回歸的函數(shù)熔酷。
- 所有學(xué)習(xí)算法最后的評(píng)價(jià)函數(shù)類似孤紧，這是一個(gè)規(guī)律，后面做說明拒秘。
- 【1:11:00】開始總結(jié)本課号显。
第4集 牛頓方法
- 多種算法，極大似然估計(jì)
- 牛頓方法收斂速度非程删疲快押蚤，二次收斂【0:11:45】，每次迭代后的誤差會(huì)是上次的平方羹应。牛頓方法會(huì)受到特征數(shù)的影響揽碘，它需要特征數(shù)維度大小矩陣的逆。
- 指數(shù)分布族园匹，包括伯努利分布钾菊、高斯分布、泊松分布偎肃、伽馬分布煞烫。。累颂。
第5集 生成學(xué)習(xí)算法
看到【00:06:51】
第6集 樸素貝葉斯算法
其中舉例為垃圾郵件分類滞详，是否出現(xiàn)某些詞，可做為備選算法
多元貝努利時(shí)間模型
第7集 最優(yōu)間隔分類器問題
第8集 順序最小優(yōu)化算法
第9集 經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化
第10集 特征選擇
第11集 貝葉斯統(tǒng)計(jì)正則化
第12集 K-means算法
參考資料
- K-means百度百科
- 深入淺出K-Means算法
- 基本Kmeans算法介紹及其實(shí)現(xiàn) 有算法實(shí)現(xiàn)
- 聚類算法之K-mean算法
