標(biāo)量、向量箱锐、矩陣比勉、張量之間的聯(lián)系
標(biāo)量(scalar)
一個標(biāo)量表示一個單獨的數(shù),它不同于線性代數(shù)中研究的其他大部分對象(通常是多個數(shù)的數(shù)組)驹止。我們用斜體表示標(biāo)量。標(biāo)量通常被賦予小寫的變量名稱。
向量(vector)
?一個向量表示一組有序排列的數(shù)蒂誉。通過次序中的索引虱肄,我們可以確定每個單獨的數(shù)。通常我們賦予向量粗體的小寫變量名稱捞镰。當(dāng)我們需要明確表示向量中的元素時闸与,我們會將元素排列成一個方括號包圍的縱柱:
矩陣(matrix)
?矩陣是具有相同特征和緯度的對象的集合,表現(xiàn)為一張二維數(shù)據(jù)表岸售。其意義是一個對象表示為矩陣中的一行践樱,一個特征表示為矩陣中的一列,每個特征都有數(shù)值型的取值凸丸。通常會賦予矩陣粗體的大寫變量名稱拷邢,比如。
張量(tensor)
?在某些情況下屎慢,我們會討論坐標(biāo)超過兩維的數(shù)組瞭稼。一般地,一個數(shù)組中的元素分布在若干維坐標(biāo)的規(guī)則網(wǎng)格中腻惠,我們將其稱之為張量环肘。使用 來表示張量“A”。張量
中坐標(biāo)為
的元素記作
集灌。
四者之間關(guān)系
標(biāo)量是0階張量悔雹,向量是一階張量。舉例:
?標(biāo)量就是知道棍子的長度,但是你不會知道棍子指向哪兒腌零。
?向量就是不但知道棍子的長度梯找,還知道棍子指向前面還是后面。
?張量就是不但知道棍子的長度益涧,也知道棍子指向前面還是后面锈锤,還能知道這棍子又向上/下和左/右偏轉(zhuǎn)了多少。
向量和矩陣的范數(shù)歸納
向量的范數(shù)(norm)
? 定義一個向量為:闲询。任意一組向量設(shè)為
久免。其不同范數(shù)求解如下:
- 向量的1范數(shù):向量的各個元素的絕對值之和,上述向量
的1范數(shù)結(jié)果就是:29嘹裂。
- 向量的2范數(shù):向量的每個元素的平方和再開平方根妄壶,上述
的2范數(shù)結(jié)果就是:15。
- 向量的負(fù)無窮范數(shù):向量的所有元素的絕對值中最小的:上述向量
的負(fù)無窮范數(shù)結(jié)果就是:5寄狼。
- 向量的正無窮范數(shù):向量的所有元素的絕對值中最大的:上述向量
的正無窮范數(shù)結(jié)果就是:10丁寄。
- 向量的p范數(shù):
矩陣的范數(shù)
定義一個矩陣。 任意矩陣定義為:
泊愧,其元素為
伊磺。
矩陣的范數(shù)定義為
當(dāng)向量取不同范數(shù)時, 相應(yīng)得到了不同的矩陣范數(shù)。
- 矩陣的1范數(shù)(列范數(shù)):矩陣的每一列上的元
素絕對值先求和删咱,再從中取個最大的,(列和最大)屑埋,上述矩陣的1范數(shù)先得到
,再取最大的最終結(jié)果就是:9痰滋。
-
矩陣的2范數(shù):矩陣
的最大特征值開平方根摘能,上述矩陣
的2范數(shù)得到的最終結(jié)果是:10.0623。
其中敲街, 為
的特征值絕對值的最大值团搞。
矩陣的無窮范數(shù)(行范數(shù)):矩陣的每一行上的元素絕對值先求和,再從中取個最大的多艇,(行和最大)逻恐,上述矩陣
的行范數(shù)先得到
峻黍,再取最大的最終結(jié)果就是:16复隆。
矩陣的核范數(shù):矩陣的奇異值(將矩陣svd分解)之和,這個范數(shù)可以用來低秩表示(因為最小化核范數(shù)姆涩,相當(dāng)于最小化矩陣的秩——低秩)挽拂,上述矩陣A最終結(jié)果就是:10.9287。
矩陣的L0范數(shù):矩陣的非0元素的個數(shù)骨饿,通常用它來表示稀疏亏栈,L0范數(shù)越小0元素越多洪鸭,也就越稀疏,上述矩陣
最終結(jié)果就是:6仑扑。
矩陣的L1范數(shù):矩陣中的每個元素絕對值之和,它是L0范數(shù)的最優(yōu)凸近似置鼻,因此它也可以表示稀疏镇饮,上述矩陣
最終結(jié)果就是:22。
矩陣的F范數(shù):矩陣的各個元素平方之和再開平方根箕母,它通常也叫做矩陣的L2范數(shù)储藐,它的優(yōu)點在于它是一個凸函數(shù),可以求導(dǎo)求解嘶是,易于計算钙勃,上述矩陣A最終結(jié)果就是:10.0995。
- 矩陣的 p范數(shù)