通過訓(xùn)練樣本集的“學(xué)習(xí)”或訓(xùn)練來設(shè)計(jì)分類器直秆,這是模式識別研究的重要內(nèi)容。
模式識別的方法:
- 模板匹配
- 統(tǒng)計(jì)方法
- 句法方法
- 神經(jīng)網(wǎng)絡(luò)
預(yù)備知識:
(1)數(shù)理統(tǒng)計(jì)遗座。
(2)線性代數(shù)和矩陣分析。
跡的計(jì)算:
定義:對任意n階方陣有
1).
2).
3).
有矩陣導(dǎo)數(shù):
1:函數(shù)對向量的導(dǎo)數(shù)畜隶,結(jié)果為向量。
定義:
并且對于之后要用到的我們做一個計(jì)算:
要記下來:
并且有其他的推導(dǎo):
2:函數(shù)對矩陣的求導(dǎo),結(jié)果是矩陣
定義:
列出一些常用的:
設(shè):
(1)
因?yàn)椋?br>
(2)
(3).
(4)
3:矩陣對矩陣的求導(dǎo)阁吝,結(jié)果是大矩陣。
定義:
其中
請嘗試一下下面這個:
然后就會了 函數(shù)的向量 矩陣求導(dǎo)定躏。
以及 矩陣(向量) 對 矩陣(向量)的求導(dǎo)碧聪。
- 正定(半正定)矩陣:
定義:對稱矩陣的特征值為正數(shù)(非負(fù)數(shù))
另外:一個矩陣是半正定(正定)的充要條件是存在(非奇異矩陣)Q欲间,使得:
有一個十分有用的性質(zhì):
正定矩陣A和半正定矩陣B可以同時對角化班缎,即存在非奇異矩陣P使得:
證明:
構(gòu)造U使得(為什么存在呢她渴?)
并且構(gòu)造P
- 奇異值分解: