筆記一

通過訓(xùn)練樣本集的“學(xué)習(xí)”或訓(xùn)練來設(shè)計(jì)分類器直秆,這是模式識別研究的重要內(nèi)容。

模式識別的方法:

  1. 模板匹配
  2. 統(tǒng)計(jì)方法
  3. 句法方法
  4. 神經(jīng)網(wǎng)絡(luò)

預(yù)備知識:
(1)數(shù)理統(tǒng)計(jì)遗座。
(2)線性代數(shù)和矩陣分析。

  1. 跡的計(jì)算:
    定義:對任意n階方陣A=(a_{ij} )_{n*n}tr(A) = \sum_{i=1}^{n}a_{ii}
    1). tr(A^T)=tr(A)
    2). tr(A+B) = tr(A)+tr(B)
    3). C=(c_{ij})_{m*n} D=(d_{ij})_{n*m}
    tr(CD) = tr(DC) = \sum_{i=1}^m\sum_{j=1}^nc_{ij}d_{ji}

  2. 矩陣導(dǎo)數(shù):
    1:函數(shù)對向量的導(dǎo)數(shù)畜隶,結(jié)果為向量。
    定義:
    \frac{df}{dx} = (\frac{\partial f}{\partial x_1} , ...,\frac{\partial f}{\partial x_n}) , x = (x_1,x_2,...,x_n)^T.
    并且對于之后要用到的我們做一個計(jì)算:

\begin{equation} \begin{aligned} f(x) &= x^TAx = \sum_{i,j=1}^{n}a_{ij}x_ix_j \\ \frac{df}{dx} &= (\frac{\partial f}{\partial x_1} , ...,\frac{\partial f}{\partial x_n})=(\frac{\partial \sum_{i,j=1}{n}a_{ij}x_ix_j}{\partial x_1},...,\frac{\partial \sum_{i,j=1}{n}a_{ij}x_ix_j}{\partial x_n} )^T\\ &=( [(a_{11}+a_{11})x_1+(a_{12}+a_{21})x_2 + ... + (a_{1n}+a_{n1})x_n],...,[(a_{1n}+a_{n1})x_1+(a_{n2}+a_{2n})x_2 + ... + (a_{nn}+a_{nn})x_n] )\\ &=(A+A^T)x \end{aligned} \end{equation}
要記下來:
\frac{dx^TAx}{dx} = (A+A^T)x

并且有其他的推導(dǎo):
\begin{equation} \begin{aligned} \frac{dx^TAy}{dx} &= Ay \\ \frac{dy^TAx}{dx} &= A^Ty \end{aligned} \end{equation}

2:函數(shù)對矩陣的求導(dǎo),結(jié)果是矩陣
定義:
\frac{df}{dX} = (\frac{\partial f}{\partial x_{ij}})_{m*n} , X = (x_{ij})_{m*n}
列出一些常用的:
設(shè):A=(a_{ij})_{m*m},B=(b_{ij})_{n*m}
(1)\frac{d(tr(BX))}{dX} = \frac{d(tr(X^TB^T))}{dX} = B^T.
因?yàn)椋?br> \frac{\partial(tr(BX))}{\partial x_{ij}} = \frac{\partial(tr(XB))}{\partial x_{ij}} = \frac{\partial \sum_{i=1}^{m}\sum_{j=1}^{n}x_{ij}b_{ji}}{\partial x_{ij}}=b_{ji}
(2)\frac{d tr(X^TAX)}{d X} = (A+A^T)X
(3)\frac{d y^TX^TXy}{dX} = 2Xyy^T.
(4)\frac{d|A|}{dA} = |A|(A^{-1})^T

3:矩陣對矩陣的求導(dǎo)阁吝,結(jié)果是大矩陣。
定義:
\frac{dF}{dA} = (\frac{\partial F}{\partial a_{ij}})_{pm*qn}
其中F=(f_{ij})_{p*q},A=(a_{ij})_{m*n}
\frac{\partial F}{\partial a_{ij}} = (\frac{\partial f_{ij}}{\partial a_{ij}})_{p*q}
請嘗試一下下面這個:
\frac{dx^T}{dx} = I
然后就會了 函數(shù)的向量 矩陣求導(dǎo)定躏。
以及 矩陣(向量) 對 矩陣(向量)的求導(dǎo)碧聪。

  1. 正定(半正定)矩陣:
    定義:對稱矩陣的特征值為正數(shù)(非負(fù)數(shù))
    U^TAU = diag(\lambda_1,..,\lambda_n)
    \lambda >= 0

另外:一個矩陣是半正定(正定)的充要條件是存在(非奇異矩陣)Q欲间,使得:
A=Q^TQ

有一個十分有用的性質(zhì):
正定矩陣A和半正定矩陣B可以同時對角化班缎,即存在非奇異矩陣P使得:
P^TAP = I
P^TBP = D = diag(\lambda_1,...,\lambda_n)

證明:
A = Q^TQ 所以 (Q^{-1})^TAQ^{-1} = I
構(gòu)造U使得(為什么存在呢她渴?)
U^T(Q^{-1})^TBQ^{-1}U = diag(\lambda_1,...,\lambda_n)
并且構(gòu)造P
P = Q^{-1}U蔑祟。而P就是我們要的矩陣。

  1. 奇異值分解:
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末苛败,一起剝皮案震驚了整個濱河市径簿,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌缠捌,老刑警劉巖译蒂,帶你破解...
    沈念sama閱讀 211,265評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件柔昼,死亡現(xiàn)場離奇詭異,居然都是意外死亡捕透,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評論 2 385
  • 文/潘曉璐 我一進(jìn)店門咳燕,熙熙樓的掌柜王于貴愁眉苦臉地迎上來乒躺,“玉大人,你說我怎么就攤上這事曹货』渫疲” “怎么了?”我有些...
    開封第一講書人閱讀 156,852評論 0 347
  • 文/不壞的土叔 我叫張陵礼饱,是天一觀的道長。 經(jīng)常有香客問我镊绪,道長,這世上最難降的妖魔是什么够颠? 我笑而不...
    開封第一講書人閱讀 56,408評論 1 283
  • 正文 為了忘掉前任履磨,我火速辦了婚禮庆尘,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘减余。我一直安慰自己,他們只是感情好如筛,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評論 5 384
  • 文/花漫 我一把揭開白布抒抬。 她就那樣靜靜地躺著,像睡著了一般妖胀。 火紅的嫁衣襯著肌膚如雪惠勒。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,772評論 1 290
  • 那天涂臣,我揣著相機(jī)與錄音售担,去河邊找鬼。 笑死族铆,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的剖煌。 我是一名探鬼主播,決...
    沈念sama閱讀 38,921評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼侠姑,長吁一口氣:“原來是場噩夢啊……” “哼箩做!你這毒婦竟也來了妥畏?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,688評論 0 266
  • 序言:老撾萬榮一對情侶失蹤燃辖,失蹤者是張志新(化名)和其女友劉穎网棍,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體氏身,經(jīng)...
    沈念sama閱讀 44,130評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡惑畴,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評論 2 325
  • 正文 我和宋清朗相戀三年如贷,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片杠袱。...
    茶點(diǎn)故事閱讀 38,617評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡楣富,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出菩彬,到底是詐尸還是另有隱情,我是刑警寧澤惨恭,帶...
    沈念sama閱讀 34,276評論 4 329
  • 正文 年R本政府宣布耙旦,位于F島的核電站萝究,受9級特大地震影響锉罐,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜脓规,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評論 3 312
  • 文/蒙蒙 一侨舆、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧挨下,春花似錦、人聲如沸叙淌。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,740評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽衅谷。三九已至似将,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間在验,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,967評論 1 265
  • 我被黑心中介騙來泰國打工盏触, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留块饺,地道東北人。 一個月前我還...
    沈念sama閱讀 46,315評論 2 360
  • 正文 我出身青樓辨嗽,卻偏偏與公主長得像淮腾,于是被迫代替她去往敵國和親屉佳。 傳聞我的和親對象是個殘疾皇子洲押,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評論 2 348

推薦閱讀更多精彩內(nèi)容