Coursera.MachineLearning.Week9

Machine Learning Week9 : Anomaly Detection & Recommender Systems
GMM - 混合高斯模型算法

Anomaly Detection

1. density estimation(密度估計)

1.1 概率模型

密度估計
Anomaly detection example : Fraud detection & Manitoring

1.2 Gaussian Distribution【Normal distribution】

Gaussian distribution
Gaussian distribution examples
Parameter estimation : 對樣本數(shù)據(jù)進行處理獲得參數(shù)估計

1.3 Algorithm

對不同的特征,獨立分布


Density estimation
Anomaly detection algorithm
Anomaly detection example
2. Building an anomaly detection system

2.1 Developing and evaluating an anomaly detection system

real-number evaluation
Training CV and Test sets
Question
Algorithm evaluation

2.2 Anomaly Detection vs Supervised Laerning

Anomaly Detection vs Supervised Laerning
examples

2.3 Choosing what features to use

某一特征的直方圖(hist)
看起來像高斯分布冯凹,可以直接加入作為輸入特征福青;有偏鋒的可以嘗試使用log(x+c)劫樟、x.^c等。

Non-gaussian festures
example

從判斷錯誤的樣本中觀察是否可加入新的特征


Get a new feature
3. Multivariate Gaussian Distribution(多元高斯分布)

3.1 Multivariate Gaussian Distribution

特征不滿足獨立分布時徒坡,使用多元高斯分布
Multivariate Gaussian Distribution
Multivariate Gaussian examples.1
Multivariate Gaussian examples.2
Multivariate Gaussian examples.3
Multivariate Gaussian examples.4
Multivariate Gaussian examples.5
Multivariate Gaussian examples.6

3.2 Anomaly Detection using the Multivariate Gaussian Distribution

Get parameters μ and Sigma, Sigma likes in PCA
Steps for MGD
Relationship between MGD and original model

Original model 計算量較小潮秘,在m較少時也適用殴俱;MGD能自動捕捉特征間的相關(guān)性汽抚,n越大計算量越大抓狭,一般在m遠大于n時可以考慮。
(很少出現(xiàn)此情況)當(dāng)MGD的Sigma是奇異矩陣時(不存在逆)造烁,可能是 m>n 或者 在特征中存在重復(fù)或冗余的特征否过。


When to use MGD or original model
Question review
Question review


Recommender Systems

1. Predicting Movie Ratings

1.1 Problem Formulation

Example

1.2 Content Based Recommendations

n=2表示電影有兩個特征午笛,預(yù)測用戶對電影的評分。


Content Based Recommender systems
Problem formulation
Optimization objective
Optimization Algorithm & Gradient descent update
2. Collaborative Filtering(協(xié)同過濾)

2.1 Collaborative Filtering
協(xié)同過濾自行學(xué)習(xí)需要使用的特征

Problem motivation
Optimization algorithm
基本的協(xié)同過濾算法

2.2 Collaborative Filtering Algorithm
合并上述兩個J()苗桂,此時不需要x0=1這個固定的特征值(同時不需要θ0)药磺,因為如果系統(tǒng)需要一個永遠為1的特征值,會在算法運行中自動調(diào)整得出煤伟。


協(xié)同過濾算法優(yōu)化目標
Collaborative filtering algorithm
Question
3. Low Rank Matrix Factorization

3.1 Vectorization : Low Rank Matrix Factorization

Collaborative filtering
公式
Finding related movies

3.2 Implementation Detail : Mean Normalization

Users who have not rated any movies
Mean Normalization
Question.1
Question.2
Question.3
Question.4
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末癌佩,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子便锨,更是在濱河造成了極大的恐慌驼卖,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,013評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件鸿秆,死亡現(xiàn)場離奇詭異,居然都是意外死亡怎囚,警方通過查閱死者的電腦和手機卿叽,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,205評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來恳守,“玉大人考婴,你說我怎么就攤上這事〈吆妫” “怎么了沥阱?”我有些...
    開封第一講書人閱讀 152,370評論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長伊群。 經(jīng)常有香客問我考杉,道長,這世上最難降的妖魔是什么舰始? 我笑而不...
    開封第一講書人閱讀 55,168評論 1 278
  • 正文 為了忘掉前任崇棠,我火速辦了婚禮,結(jié)果婚禮上丸卷,老公的妹妹穿的比我還像新娘枕稀。我一直安慰自己,他們只是感情好谜嫉,可當(dāng)我...
    茶點故事閱讀 64,153評論 5 371
  • 文/花漫 我一把揭開白布萎坷。 她就那樣靜靜地躺著,像睡著了一般沐兰。 火紅的嫁衣襯著肌膚如雪哆档。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,954評論 1 283
  • 那天僧鲁,我揣著相機與錄音虐呻,去河邊找鬼象泵。 笑死,一個胖子當(dāng)著我的面吹牛斟叼,可吹牛的內(nèi)容都是我干的偶惠。 我是一名探鬼主播,決...
    沈念sama閱讀 38,271評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼朗涩,長吁一口氣:“原來是場噩夢啊……” “哼忽孽!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起谢床,我...
    開封第一講書人閱讀 36,916評論 0 259
  • 序言:老撾萬榮一對情侶失蹤兄一,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后识腿,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體出革,經(jīng)...
    沈念sama閱讀 43,382評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,877評論 2 323
  • 正文 我和宋清朗相戀三年渡讼,在試婚紗的時候發(fā)現(xiàn)自己被綠了骂束。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 37,989評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡成箫,死狀恐怖展箱,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情蹬昌,我是刑警寧澤混驰,帶...
    沈念sama閱讀 33,624評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站皂贩,受9級特大地震影響栖榨,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜先紫,卻給世界環(huán)境...
    茶點故事閱讀 39,209評論 3 307
  • 文/蒙蒙 一治泥、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧遮精,春花似錦居夹、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,199評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至檬洞,卻和暖如春狸膏,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背添怔。 一陣腳步聲響...
    開封第一講書人閱讀 31,418評論 1 260
  • 我被黑心中介騙來泰國打工湾戳, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留贤旷,地道東北人。 一個月前我還...
    沈念sama閱讀 45,401評論 2 352
  • 正文 我出身青樓砾脑,卻偏偏與公主長得像幼驶,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子韧衣,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,700評論 2 345

推薦閱讀更多精彩內(nèi)容