標(biāo)量、向量碧浊、矩陣涂邀、張量及向量和矩陣范數(shù)簡介

標(biāo)量、向量箱锐、矩陣比勉、張量之間的聯(lián)系

標(biāo)量(scalar)
一個標(biāo)量表示一個單獨的數(shù),它不同于線性代數(shù)中研究的其他大部分對象(通常是多個數(shù)的數(shù)組)驹止。我們用斜體表示標(biāo)量。標(biāo)量通常被賦予小寫的變量名稱。

向量(vector)
?一個向量表示一組有序排列的數(shù)蒂誉。通過次序中的索引虱肄,我們可以確定每個單獨的數(shù)。通常我們賦予向量粗體的小寫變量名稱捞镰。當(dāng)我們需要明確表示向量中的元素時闸与,我們會將元素排列成一個方括號包圍的縱柱:
\boldsymbol{x}=\left[\begin{array}{c}{x_{1}} \\ {x_{2}} \\ {\vdots} \\ {x_{n}}\end{array}\right]
矩陣(matrix)
?矩陣是具有相同特征和緯度的對象的集合,表現(xiàn)為一張二維數(shù)據(jù)表岸售。其意義是一個對象表示為矩陣中的一行践樱,一個特征表示為矩陣中的一列,每個特征都有數(shù)值型的取值凸丸。通常會賦予矩陣粗體的大寫變量名稱拷邢,比如A

張量(tensor)
?在某些情況下屎慢,我們會討論坐標(biāo)超過兩維的數(shù)組瞭稼。一般地,一個數(shù)組中的元素分布在若干維坐標(biāo)的規(guī)則網(wǎng)格中腻惠,我們將其稱之為張量环肘。使用 A 來表示張量“A”。張量A中坐標(biāo)為(i,j,k)的元素記作A_{(i,j,k)}集灌。

四者之間關(guān)系

標(biāo)量是0階張量悔雹,向量是一階張量。舉例:
?標(biāo)量就是知道棍子的長度,但是你不會知道棍子指向哪兒腌零。
?向量就是不但知道棍子的長度梯找,還知道棍子指向前面還是后面。
?張量就是不但知道棍子的長度益涧,也知道棍子指向前面還是后面锈锤,還能知道這棍子又向上/下和左/右偏轉(zhuǎn)了多少。

向量和矩陣的范數(shù)歸納

向量的范數(shù)(norm)
? 定義一個向量為:\vec{a}=[-5, 6, 8, -10]闲询。任意一組向量設(shè)為\vec{x}=(x_1,x_2,...,x_N)久免。其不同范數(shù)求解如下:

  • 向量的1范數(shù):向量的各個元素的絕對值之和,上述向量\vec{a}的1范數(shù)結(jié)果就是:29嘹裂。

\Vert\vec{x}\Vert_1=\sum_{i=1}^N\vert{x_i}\vert

  • 向量的2范數(shù):向量的每個元素的平方和再開平方根妄壶,上述\vec{a}的2范數(shù)結(jié)果就是:15。

\Vert\vec{x}\Vert_2=\sqrt{\sum_{i=1}^N{\vert{x_i}\vert}^2}

  • 向量的負(fù)無窮范數(shù):向量的所有元素的絕對值中最小的:上述向量\vec{a}的負(fù)無窮范數(shù)結(jié)果就是:5寄狼。

\Vert\vec{x}\Vert_{-\infty}=\min{|{x_i}|}

  • 向量的正無窮范數(shù):向量的所有元素的絕對值中最大的:上述向量\vec{a}的正無窮范數(shù)結(jié)果就是:10丁寄。

\Vert\vec{x}\Vert_{+\infty}=\max{|{x_i}|}

  • 向量的p范數(shù):

L_p=\Vert\vec{x}\Vert_p=\sqrt[p]{\sum_{i=1}^{N}|{x_i}|^p}

矩陣的范數(shù)

定義一個矩陣A=[-1, 2, -3; 4, -6, 6]。 任意矩陣定義為:A_{m\times n}泊愧,其元素為 a_{ij}伊磺。

矩陣的范數(shù)定義為

\Vert{A}\Vert_p :=\sup_{x\neq 0}\frac{\Vert{Ax}\Vert_p}{\Vert{x}\Vert_p}

當(dāng)向量取不同范數(shù)時, 相應(yīng)得到了不同的矩陣范數(shù)。

  • 矩陣的1范數(shù)(列范數(shù)):矩陣的每一列上的元

素絕對值先求和删咱,再從中取個最大的,(列和最大)屑埋,上述矩陣A的1范數(shù)先得到[5,8,9],再取最大的最終結(jié)果就是:9痰滋。
\Vert A\Vert_1=\max_{1\le j\le n}\sum_{i=1}^m|{a_{ij}}|

  • 矩陣的2范數(shù):矩陣A^TA的最大特征值開平方根摘能,上述矩陣A的2范數(shù)得到的最終結(jié)果是:10.0623。

\Vert A\Vert_2=\sqrt{\lambda_{max}(A^T A)}

其中敲街, \lambda_{max}(A^T A)A^T A? 的特征值絕對值的最大值团搞。

  • 矩陣的無窮范數(shù)(行范數(shù)):矩陣的每一行上的元素絕對值先求和,再從中取個最大的多艇,(行和最大)逻恐,上述矩陣A的行范數(shù)先得到[6;16]峻黍,再取最大的最終結(jié)果就是:16复隆。
    \Vert A\Vert_{\infty}=\max_{1\le i \le m}\sum_{j=1}^n |{a_{ij}}|

  • 矩陣的核范數(shù):矩陣的奇異值(將矩陣svd分解)之和,這個范數(shù)可以用來低秩表示(因為最小化核范數(shù)姆涩,相當(dāng)于最小化矩陣的秩——低秩)挽拂,上述矩陣A最終結(jié)果就是:10.9287。

  • 矩陣的L0范數(shù):矩陣的非0元素的個數(shù)骨饿,通常用它來表示稀疏亏栈,L0范數(shù)越小0元素越多洪鸭,也就越稀疏,上述矩陣A最終結(jié)果就是:6仑扑。

  • 矩陣的L1范數(shù):矩陣中的每個元素絕對值之和,它是L0范數(shù)的最優(yōu)凸近似置鼻,因此它也可以表示稀疏镇饮,上述矩陣A最終結(jié)果就是:22。

  • 矩陣的F范數(shù):矩陣的各個元素平方之和再開平方根箕母,它通常也叫做矩陣的L2范數(shù)储藐,它的優(yōu)點在于它是一個凸函數(shù),可以求導(dǎo)求解嘶是,易于計算钙勃,上述矩陣A最終結(jié)果就是:10.0995。

\Vert A\Vert_F=\sqrt{(\sum_{i=1}^m\sum_{j=1}^n{| a_{ij}|}^2)}

  • 矩陣的 p范數(shù)

\Vert A\Vert_p=\sqrt[p]{(\sum_{i=1}^m\sum_{j=1}^n{| a_{ij}|}^p)}

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末聂喇,一起剝皮案震驚了整個濱河市辖源,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌希太,老刑警劉巖克饶,帶你破解...
    沈念sama閱讀 218,607評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異誊辉,居然都是意外死亡矾湃,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,239評論 3 395
  • 文/潘曉璐 我一進(jìn)店門堕澄,熙熙樓的掌柜王于貴愁眉苦臉地迎上來邀跃,“玉大人,你說我怎么就攤上這事蛙紫∨男迹” “怎么了?”我有些...
    開封第一講書人閱讀 164,960評論 0 355
  • 文/不壞的土叔 我叫張陵惊来,是天一觀的道長丽涩。 經(jīng)常有香客問我,道長裁蚁,這世上最難降的妖魔是什么矢渊? 我笑而不...
    開封第一講書人閱讀 58,750評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮枉证,結(jié)果婚禮上矮男,老公的妹妹穿的比我還像新娘。我一直安慰自己室谚,他們只是感情好毡鉴,可當(dāng)我...
    茶點故事閱讀 67,764評論 6 392
  • 文/花漫 我一把揭開白布崔泵。 她就那樣靜靜地躺著,像睡著了一般猪瞬。 火紅的嫁衣襯著肌膚如雪憎瘸。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,604評論 1 305
  • 那天陈瘦,我揣著相機與錄音幌甘,去河邊找鬼。 笑死痊项,一個胖子當(dāng)著我的面吹牛锅风,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播鞍泉,決...
    沈念sama閱讀 40,347評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼皱埠,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了咖驮?” 一聲冷哼從身側(cè)響起边器,我...
    開封第一講書人閱讀 39,253評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎托修,沒想到半個月后饰抒,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,702評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡诀黍,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,893評論 3 336
  • 正文 我和宋清朗相戀三年袋坑,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片眯勾。...
    茶點故事閱讀 40,015評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡枣宫,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出吃环,到底是詐尸還是另有隱情也颤,我是刑警寧澤,帶...
    沈念sama閱讀 35,734評論 5 346
  • 正文 年R本政府宣布郁轻,位于F島的核電站翅娶,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏好唯。R本人自食惡果不足惜竭沫,卻給世界環(huán)境...
    茶點故事閱讀 41,352評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望骑篙。 院中可真熱鬧蜕提,春花似錦、人聲如沸靶端。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,934評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至脏榆,卻和暖如春猖毫,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背须喂。 一陣腳步聲響...
    開封第一講書人閱讀 33,052評論 1 270
  • 我被黑心中介騙來泰國打工鄙麦, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人镊折。 一個月前我還...
    沈念sama閱讀 48,216評論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像介衔,于是被迫代替她去往敵國和親恨胚。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,969評論 2 355

推薦閱讀更多精彩內(nèi)容