特征值和特征向量
1 特征值分解與特征向量
特征值分解可以得到特征值(eigenvalues)與特征向量(eigenvectors)今瀑;
-
特征值表示的是這個特征到底有多重要,而特征向量表示這個特征是什么拗引。
如果說一個向量
是方陣
的特征向量借宵,將一定可以表示成下面的形式:
為特征向量
對應的特征值。特征值分解是將一個矩陣分解為如下形式:
其中矾削,是這個矩陣
的特征向量組成的矩陣壤玫,
是一個對角矩陣,每一個對角線元素就是一個特征值哼凯,里面的特征值是由大到小排列的欲间,這些特征值所對應的特征向量就是描述這個矩陣變化方向(從主要的變化到次要的變化排列)。也就是說矩陣
的信息可以由其特征值和特征向量表示挡逼。
2 奇異值與特征值有什么關系
那么奇異值和特征值是怎么對應起來的呢括改?我們將一個矩陣的轉(zhuǎn)置乘以
,并對
求特征值家坎,則有下面的形式:
這里就是上面的右奇異向量嘱能,另外還有:
這里的就是奇異值,
就是上面說的左奇異向量虱疏∪锹睿【證明那個哥們也沒給】
?奇異值跟特征值類似,在矩陣
中也是從大到小排列做瞪,而且
的減少特別的快对粪,在很多情況下,前10%甚至1%的奇異值的和就占了全部的奇異值之和的99%以上了装蓬。也就是說著拭,我們也可以用前
(
遠小于
)個的奇異值來近似描述矩陣牍帚,即部分奇異值分解:
右邊的三個矩陣相乘的結(jié)果將會是一個接近于的矩陣儡遮,在這兒,
越接近于
暗赶,則相乘的結(jié)果越接近于
鄙币。