線性代數(shù)是人工智能領(lǐng)域的基礎(chǔ)法梯，本科期間學(xué)完就還給老師了，考研的時(shí)候重視的是計(jì)算妈候，很多概念似是而非敢靡，不知道有啥用，現(xiàn)在又拾起苦银。又有新的領(lǐng)悟啸胧。

線性代數(shù)的意義

• 線性代數(shù)提供了?種看待世界的抽象視角：萬(wàn)事萬(wàn)物都可以被抽象成某些特征的組合，并在由預(yù)置規(guī)則定義的框架之下以靜態(tài)和動(dòng)態(tài)的方式加以觀察幔虏。
• 是現(xiàn)代數(shù)學(xué)和以現(xiàn)代數(shù)學(xué)作為主要分析方法的眾多學(xué)科的基礎(chǔ)纺念。從量子力學(xué)到圖像處理都離不開(kāi)向量和矩陣的使用。
• 線性代數(shù)是用虛擬數(shù)字世界表示真實(shí)物理世界的工具想括。
• 線性代數(shù)的本質(zhì)在于將具體事物抽象為數(shù)學(xué)對(duì)象陷谱，并描述其靜態(tài)和動(dòng)態(tài)的特性；

基本概念

• 集合：元素常常有共性
• 標(biāo)量（scalar）：一個(gè)標(biāo)量 a 可以是整數(shù)、實(shí)數(shù)或復(fù)數(shù)烟逊。零維數(shù)組渣窜。
• 向量（vector）：多個(gè)標(biāo)量 a1,a2,?,an 按一定順序組成一個(gè)序列。一維數(shù)組

向量的實(shí)質(zhì)是 n 維線性空間中的靜止點(diǎn)宪躯；

• 矩陣（matrix）：將向量的所有標(biāo)量都替換成相同規(guī)格的向量乔宿。二維數(shù)組

• 張量（tensor）：矩陣中的每個(gè)標(biāo)量元素再替換為向量的話，張量是高階的矩陣访雪。三維等高維數(shù)組详瑞。

• 范數(shù)（norm）：對(duì)單個(gè)向量大小的度量，描述的是向量自身的性質(zhì)臣缀，其作用是將向量映射為一個(gè)非負(fù)的數(shù)值坝橡。
  

  通用的 L ^ p 范數(shù)定義如下：

• 對(duì)?個(gè)給定向量，L^1 范數(shù)計(jì)算的是向量所有元素絕對(duì)值的和精置，L^2 范數(shù)計(jì)算的是通常意義上的向量長(zhǎng)度驳庭，L^∞ 范數(shù)計(jì)算的則是向量中最大元素的取值。

• 內(nèi)積（inner product）：計(jì)算兩個(gè)向量之間的關(guān)系氯窍。
  

  兩個(gè)相同維數(shù)向量?jī)?nèi)積的表達(dá)式為

• 對(duì)應(yīng)元素乘積的求和饲常。

• 內(nèi)積能夠表示兩個(gè)向量之間的相對(duì)位置，即向量之間的夾角狼讨。一種特殊的情況是內(nèi)積為 0贝淤，即（x,y）=0.在二維空間上，這意味著兩個(gè)向量的夾角為 90 度政供，即相互垂直播聪。而在高維空間上，這種關(guān)系被稱(chēng)為正交（orthogonality）布隔。如果兩個(gè)向量正交离陶，說(shuō)明他們線性無(wú)關(guān)，相互獨(dú)立衅檀，互不影響招刨。

• 線性空間（linear space）:一個(gè)集合的元素具有相同維數(shù)的向量（可以是有限個(gè)或無(wú)限個(gè)）， 并且定義了加法和數(shù)乘等結(jié)構(gòu)化的運(yùn)算.
  在線性空間中哀军，任意一個(gè)向量代表的都是 n 維空間中的一個(gè)點(diǎn)沉眶；反過(guò)來(lái)， 空間中的任意點(diǎn)也都可以唯一地用一個(gè)向量表示

• 內(nèi)積空間（inner product space）:定義了內(nèi)積運(yùn)算的線性空間.

• 正交基（orthogonal basis）:在內(nèi)積空間中杉适，一組兩兩正交的向量構(gòu)成這個(gè)空間的正交基.
  正交基的作用就是給內(nèi)積空間定義出經(jīng)緯度谎倔。?旦描述內(nèi)積空間的正交基確定了，向量和點(diǎn)之間的對(duì)應(yīng)關(guān)系也就隨之確定猿推。

• 描述內(nèi)積空間的正交基并不唯一片习。對(duì)二維空間來(lái)說(shuō)，平面直角坐標(biāo)系和極坐標(biāo)系就對(duì)應(yīng)了兩組不同的正交基，也代表了兩種實(shí)用的描述方式.

• 標(biāo)準(zhǔn)正交基（orthonormal basis）:正交基中基向量的 L^2范數(shù)都是單位長(zhǎng)度 1

• 線性變換（linear transformation）：線性變換描述了向量或者作為參考系的坐標(biāo)系的變化藕咏，可以用矩陣表示状知。
  線性空間的一個(gè)重要特征是能夠承載變化。當(dāng)作為參考系的標(biāo)準(zhǔn)正交基確定后侈离，空間中的點(diǎn)就可以用向量表示。當(dāng)這個(gè)點(diǎn)從一個(gè)位置移動(dòng)到另一個(gè)位置時(shí)筝蚕，描述它的向量也會(huì)發(fā)生改變卦碾。
  在線性空間中，變化的實(shí)現(xiàn)有兩種方式：一是點(diǎn)本身的變化起宽，二是參考系的變化洲胖。
  在第一種方式中，使某個(gè)點(diǎn)發(fā)生變化的方法是用代表變化的矩陣乘以代表對(duì)象的向量坯沪÷逃常可是反過(guò)來(lái)，如果保持點(diǎn)不變腐晾，而是換一種觀察的角度叉弦，得到的也將是不同的結(jié)果。

• 矩陣的作用就是對(duì)正交基進(jìn)行變換藻糖。因此淹冰，對(duì)于矩陣和向量的相乘，就存在不同的解讀方式：Ax = y巨柒。

• 向量 x 經(jīng)過(guò)矩陣 A 所描述的變換樱拴，變成了向量 y；也可以理解為一個(gè)對(duì)象在坐標(biāo)系 A 的度量下得到的結(jié)果為向量 x洋满，在標(biāo)準(zhǔn)坐標(biāo)系 I（單位矩陣：主對(duì)角線元素為 1晶乔，其余元素為 0）的度量下得到的結(jié)果為向量 y。

• 這表示矩陣不僅能夠描述變化牺勾，也可以描述參考系本身正罢。

• 表達(dá)式 Ax 就相當(dāng)于對(duì)向量 x 做了一個(gè)環(huán)境聲明，用于度量它的參考系是 A驻民。如果想用其他的參考系做度量的話腺怯，就要重新聲明。而對(duì)坐標(biāo)系施加變換的方法川无，就是讓表示原始坐標(biāo)系的矩陣與表示變換的矩陣相乘呛占。

• 特征值（eigenvalue）：表示了變化的速度

• 特征向量（eigenvector）：表示變化的方向

  • Ax = λx
  • 其效果通常是對(duì)原始向量同時(shí)施加方向變化和尺度變化。
  • 有些特殊的向量懦趋，矩陣的作用只有尺度變化而沒(méi)有方向變化晾虑，也就是只有伸縮的效果而沒(méi)有旋轉(zhuǎn)的效果。對(duì)于給定的矩陣來(lái)說(shuō)，這類(lèi)特殊的向量就是矩陣的特征向量帜篇，特征向量的尺度變化系數(shù)就是特征值糙捺。
  • 特征值分解：求解給定矩陣的特征值和特征向量的過(guò)程。但能夠進(jìn)行特征值分解的矩陣必須是 n 維方陣笙隙。
  • 奇異值分解：將特征值分解算法推廣到所有矩陣之上洪灯。

以上就是對(duì)線性代數(shù)的總結(jié)