線性代數(shù)的本質(zhì)
一、向量究竟是什么烈和？
計(jì)算機(jī)人眼中爱只，矩陣不過是一種數(shù)據(jù)結(jié)構(gòu)，比如記錄一片地區(qū)的房屋價(jià)格招刹，就可以用矩陣表示恬试，實(shí)際上也是一種二維向量（其實(shí)更深入的探討，矩陣可以理解為函數(shù)）
二训柴、線性組合、張成的空間與基
上一節(jié)聊過妇拯，矩陣不過是一種向量幻馁，我們的向量可以由基向量 i、j 轉(zhuǎn)換而來越锈，那么 仗嗦，我可以通過向量就能描述一個(gè)所有的二維空間，這樣對(duì)于計(jì)算來說甘凭，太繁瑣了 稀拐。
我們簡化一下，用向量的終點(diǎn)表示向量丹弱，即一個(gè)點(diǎn)德撬，這些點(diǎn)在坐標(biāo)系上形成了無數(shù)矩陣化的點(diǎn)铲咨。
三、矩陣與線性變換
如果一種變換滿足以下兩種條件：1蜓洪、直線在變換后還是直線鸣驱，不能彎曲；2蝠咆、原點(diǎn)保持不變 踊东，那么就稱為 線性變換
我們知道，向量就是矩陣刚操，那么空間中的任意一個(gè)向量就 該等于它們的基向量的線性變換闸翅，也就是一個(gè)向量V，可以表示為 v = ai + bj
如圖菊霜，我們知道任意的i和j坚冀，就能推算出來變換后的新矩陣，xy的原基向量不用管鉴逞，基向量單位為1记某，那么x和y就是對(duì)應(yīng)的i 和j 的倍數(shù)
把i和j放在一起，組成2*2矩陣构捡，矩陣就是這么組合方式
20200215更新：如圖液南，首先一個(gè)二維向量v可以理解為 v = ai + bj 的模式，則可推廣出 [x y] 這個(gè)向量 與 [ac bd] 相乘勾徽，即線性變換滑凉，x對(duì)應(yīng)i：ac，y對(duì)應(yīng)j:bd作為的基向量 變換喘帚，x,y分別變換一次畅姊，綜合得出線性變換的結(jié)果，簡單易懂吹由，輕松理解乘法若未，不用死記硬背 (線性變換)
上圖的意義是什么？上圖中 ac 和 bd 可以當(dāng)成是線性變換后的 i倾鲫、j基向量粗合，我們不用管之前的xy基向量是啥，只知道之前的基向量下的某個(gè)向量值為 xy (沒法按矩陣豎著寫出來级乍，用橫著寫默認(rèn)表示豎著寫的矩陣) 舌劳，之前的基向量線性變換后成了新的基向量 ac 和 bd，那么原來的xy線性變換后的新的x y是什么玫荣？就是上圖的表達(dá)式：二者的乘積甚淡。
矩陣的乘法的意義就是表示了空間向量的線性變換。它只有在（從左向右）第一個(gè)矩陣的列數(shù)（column）和第二個(gè)矩陣的行數(shù)（row）相同時(shí)才有意義，譬如一個(gè)m * n矩陣和一個(gè)n * s矩陣的乘積贯卦，就是一個(gè)m * s的矩陣（矩陣乘法是從右向左资柔，注意區(qū)分）。
四撵割、矩陣乘法與線性變換復(fù)合
上節(jié)我們提到一個(gè) 2*2 的矩陣乘以 1*2 矩陣贿堰，那么 對(duì)于 2*2的兩個(gè)矩陣相乘，它的意義是什么啡彬？
我們?cè)O(shè)想羹与，對(duì)于一個(gè)1*2矩陣，我們不管它的初始i庶灿、j纵搁，我們記住它變換了一次[abcd]，再變換一次[efgh]往踢，那么這個(gè)矩陣會(huì)變成什么樣子客燕？
一個(gè)任意的向量犁享，經(jīng)過一次旋轉(zhuǎn)動(dòng)作，得出新的 i j吗讶，再經(jīng)過一次剪切動(dòng)作既忆，得出i j漱凝，最后得出 新形成的復(fù)合 的 i j吼肥，約掉該任意向量乌叶，得出如圖結(jié)果，注意這個(gè)過程可以看出函數(shù)f(g(x)),所以矩陣有嚴(yán)格順序
如圖佩憾，拆分來看哮伟，復(fù)合矩陣，先對(duì) i 進(jìn)行操作
如圖妄帘，再對(duì)j 進(jìn)行操作，最后重新組成新的二維向量
對(duì)于復(fù)合的線性變換池凄，之前我們算過抡驼，[x,y] 可以約去，不用關(guān)心肿仑，那么我們只需關(guān)心復(fù)合變換后的各自 i致盟、j，比如圖中M1尤慰，我們可以把它拆解嘛馏锡，先看它的i經(jīng)過M2變換后的得到的i,再看它的j經(jīng)過M2變換后 得到的j（以上屬于復(fù)合變換）
矩陣 AB ≠ BA
附錄：三維空間的線性變換
三維空間的線性變換和第四節(jié)提到的一樣，就是二維的維度多一次復(fù)合變換伟端，可以拆解杯道，從又往左看。
如圖责蝠，從右往左看党巾，綠字是三維矩陣萎庭，因?yàn)橛?行，但是只有i j齿拂，表示三維空間中i j 組成的這個(gè)二維平面矩陣驳规。紅字矩陣實(shí)際上是二維空間的二維矩陣，矩陣的意義表示二維空間的3個(gè)向量的組合署海。
先拆解綠字矩陣吗购，綠i要經(jīng)過紅字矩陣變換（實(shí)際也是通過紅色向量ijk變換）后得出新矩陣（向量），計(jì)算的時(shí)候砸狞，先看綠i向量在紅矩陣組合向量的變換下巩搏，最終得出什么樣的向量，再看j向量在紅矩陣組合向量下得出什么新向量趾代，再把得到的新i新j一合組成新矩陣贯底，就是我們要的結(jié)果，所以最終結(jié)果是2*2矩陣
五撒强、行列式
什么是行列式禽捆？ 百度的定位看起來很復(fù)雜，便于理解飘哨，我們可以先在一個(gè)二維空間畫一塊blob胚想，這個(gè)區(qū)域?qū)嶋H上可以理解成矩陣，由很多小塊矩陣各自拼接出來的芽隆。那么浊服，現(xiàn)在我們進(jìn)行線性變換，這個(gè)blob面積就會(huì)發(fā)生變化胚吁，行列式就是表示這個(gè)面積的縮放比例牙躺。在三維空間，即三階矩陣中腕扶，行列式表示體積縮放的比例孽拷。
如圖，det行列式如果結(jié)果是數(shù)字半抱，表示縮放比例脓恕，結(jié)果是零，表示此時(shí)面積為0窿侈，或者是空間直線向量或者是點(diǎn)
那行列式的值如何計(jì)算炼幔？比如這個(gè)二階矩陣，實(shí)際上就是i,j 兩個(gè)向量嘛史简，i坐標(biāo)x=a,y=c; j坐標(biāo)x=b,y=d乃秀，那么它們和原始的i(x=1,y=0)j(x=0,y=1)相比，它們的放大比例就是 ad-bc
上面這段怎么理解？實(shí)際上就是兩個(gè)i j 向量各自組成的面積塊中环形，通過幾何一算即得出 ad-bc 這樣的公式策泣。det就是對(duì)i j 的拉伸。
六抬吟、逆矩陣萨咕、列空間與零空間
圖左邊，這樣沒有xy,沒有x^2這種形式火本，只是乘法和加法危队，稱為線性方程組，可以把這個(gè)方程組變成圖右邊的矩陣钙畔，紅ijk三維空間只變化i茫陆，變成新的綠i，最后結(jié)果是一個(gè)三維空間的一維向量[-3 0 2]擎析，那如何求出這個(gè)x→ 簿盅？這就需要引入逆矩陣。
逆矩陣與矩陣可形象表述為倒帶和正放揍魂，就是在空間中我反向向旋轉(zhuǎn)一下桨醋，再正向旋轉(zhuǎn)一下，最后的結(jié)果不變现斋。記住矩陣乘法是在左邊加新矩陣喜最，從右往左算，如圖庄蹋，左邊一逆一正等于1瞬内，什么也沒有，那么求x→ 就變成了A逆和向量的乘積了
即使不存在逆運(yùn)算（逆矩陣）限书，也可能有解虫蝶，比如說一個(gè)變換將空間壓縮成直線，
秩：秩 精準(zhǔn)定義是矩陣的列張成的空間 維度數(shù)蔗包。當(dāng)秩與列數(shù)相同時(shí)候秉扑，我們成為滿秩。注意定義里的張成二字调限，非滿秩的情況下，比如雖然矩陣是2個(gè)列误澳，但這個(gè)2個(gè)列正好在幾何上處于一條直線耻矮，張成的是一條線，那實(shí)際上是一維忆谓，秩是1裆装，就沒滿 。
當(dāng)逆變換存在時(shí)，你能用逆變換求解方程組哨免；否則茎活，列空間的概念讓我們理解什么時(shí)候存在解；零空間的概念有助于我們理解所有可能的解的集合是什么樣子琢唾。
附錄：非方陣
前面幾章提到的矩陣载荔，要么是二維到二維的變換，要么是三維到三維的變換采桃，那么可否一個(gè)二維向量變成三維向量懒熙？
如圖，這個(gè)矩陣的意義是什么普办？它的列只有i j工扎，但是ij里面又有了xyz三行,該矩陣的意義為 三維空間中的過原點(diǎn)的二維平面，但是該矩陣我們?nèi)匀徽J(rèn)為是滿秩的衔蹲，因?yàn)榱锌臻g的維數(shù)和輸入空間的維數(shù)相等（這句話如何理解肢娘？我們想的是這個(gè)矩陣的意義，可以通過線性變換來理解舆驶，那么某個(gè)矩陣通過該矩陣進(jìn)行線性變換橱健，則某個(gè)矩陣的行數(shù)必須要等于該矩陣的列數(shù)，即2贞远，那么某個(gè)矩陣它必須是2維度的畴博，這某個(gè)矩陣通過這個(gè)矩陣進(jìn)行線性變換，某矩陣是2維的蓝仲，這個(gè)矩陣是3維的俱病，它表示的意義就是 某個(gè)二維矩陣 通過 這個(gè)三維矩陣 進(jìn)行線性轉(zhuǎn)換，也就是這個(gè)二維矩陣通過這個(gè)矩陣 映射到三維矩陣上）
與上面相反袱结，這個(gè)圖的矩陣表示原向量是三維空間的亮隙，因?yàn)樗?列，有兩行表示這個(gè)基向量在變換后變成二維空間垢夹，因此這是一個(gè)三維空間到二維空間的變換
七溢吻、點(diǎn)積與對(duì)偶性
注意，點(diǎn)積不是乘法果元，中間有個(gè)點(diǎn)哦促王，注意和矩陣乘法區(qū)別。矩陣乘法的要求是參與相乘的左矩陣的列數(shù)必須跟右矩陣的行數(shù)相同,即
A (M x N) 乘以 B (N x K) 的乘積矩陣C 為 M x K 維的而晒。矩陣乘法結(jié)果矩陣的每個(gè)元素都是向量的內(nèi)積,cij = <ai, bj>, 即A的第i行向量和B的第j列向量的內(nèi)積蝇狼。
矩陣點(diǎn)乘則要求參與運(yùn)算的矩陣必須是相同維數(shù)的,是每個(gè)對(duì)應(yīng)元素的逐個(gè)相乘。
點(diǎn)積百度百科-感覺解釋的一般般
點(diǎn)積可以想象成投影倡怎，那么v*w其實(shí)是v在w上的投影與w相乘迅耘，當(dāng)兩者垂直贱枣，點(diǎn)積為0，兩者放心相反颤专，點(diǎn)積為負(fù)
如圖纽哥，相當(dāng)于w在v上的投影，將w投影的 長度與v 長度相乘栖秕，就得出點(diǎn)積春塌，對(duì)于圖中點(diǎn)積，可以看成vw共有4個(gè)輸入量累魔，最后輸出一個(gè)輸出值的函數(shù)摔笤，啥意義呢？它可以表示多維向量跌落到一維（數(shù)軸）的過程
這里垦写，可以給我們啟發(fā)吕世，如果你看到一個(gè)向量線性變換后的結(jié)果是一維數(shù)軸，空間中會(huì)存在唯一的向量V與之相關(guān)梯投，就這一意義而言命辖，應(yīng)用變換和與向量V做點(diǎn)積是一樣的
點(diǎn)積可以干什么？兩個(gè)向量的點(diǎn)積為正分蓖，表示朝向類似尔艇，為零，表示朝向垂直么鹤，為負(fù)终娃，表示朝向相反。點(diǎn)積滿足線性變換蒸甜，具有對(duì)偶性棠耕，v.w和w.v的結(jié)果是相同的，最終結(jié)果為實(shí)數(shù)柠新。
前面窍荧，我們學(xué)了矩陣的乘法，那矩陣的點(diǎn)積和乘法到底啥區(qū)別恨憎？矩陣的乘法表示線性變換蕊退；而矩陣點(diǎn)積則是表示2個(gè)相似向量，其中一個(gè)向量的相對(duì)對(duì)方的投影長度和 對(duì)方向量的自身長度相乘憔恳，所得數(shù)字即為點(diǎn)積瓤荔。
補(bǔ)充：矩陣的點(diǎn)積和叉積在 麥克斯韋方程組即 流體、空氣钥组、電磁學(xué)里能應(yīng)用茉贡，用以計(jì)算 散度和旋度。
八者铜、叉積的標(biāo)準(zhǔn)介紹
兩個(gè)向量叉積腔丧，結(jié)果就是他們圍城的面積，這就是叉積的意義（叉積的值除了能表示面積外作烟，還等同于從原點(diǎn)出發(fā)垂直于該面積且長度等于面積的向量愉粤，向量的方向復(fù)合右手定則），叉積是有順序的拿撩，V??W= -W??V衣厘。行列式的定義是向量線性變換后的面積放大倍率，而通過叉積即可求出行列式
注意压恒，叉積和前面的行列式對(duì)應(yīng)上了影暴。叉積的結(jié)果不是一個(gè)數(shù)，而是一個(gè)向量探赫，這個(gè)向量垂直于張成的平面型宙，長度是結(jié)果的數(shù)字，方向遵循右手定則伦吠。圖中V是[-3 1]妆兑，W是[2 1]，求這個(gè)兩個(gè)向量的叉積就等于求后面矩陣的行列式
點(diǎn)積和叉積是什么關(guān)系毛仪？ 三維空間中搁嗓，當(dāng)你將 P 向量和（x,y,z）向量點(diǎn)積時(shí)，所得的結(jié)果等于一個(gè)3*3的矩陣的 行列式箱靴，即所得結(jié)果等于 (x,y,z) 與v腺逛、w確定的有向體積
接著上圖，我們?cè)偈崂硪幌潞饣常蟛娣e就是求3個(gè)向量圍城的立方體的體積棍矛，即，我們先求v和w組成的面積狈癞，然后這個(gè)面積要和(x,y,z)向量相對(duì)vw組成的面積的垂直分量的長度 相乘茄靠，也就是說，求 (x,y,z) 在 vw上垂直的向量的投影蝶桶，而此時(shí)我們想想 點(diǎn)積的 定義慨绳，點(diǎn)積不就是一個(gè)向量在另一個(gè)向量上的投影嗎？
OK真竖，接著上圖脐雪，那么(x,y,z)要投影到一個(gè)垂直于vw組成面積的向量上，然后與這個(gè)向量點(diǎn)乘恢共，根據(jù)點(diǎn)乘定義战秋，即是求(x,y,z)在這個(gè)向量上的投影長度和這個(gè)向量自身長度相乘。我們?cè)傧胂胩志拢敲催@個(gè)P該是什么樣子呢脂信，這個(gè)P應(yīng)該是vw的 叉積（三維空間叉積的結(jié)果是相對(duì)于一個(gè)平面的有向垂直向量）
總之癣蟋，這就解釋了我求 vw的叉積，為什么等于 求(i,j,k) v,w 三個(gè)向量的行列式狰闪，即點(diǎn)積疯搅，這個(gè)圖中的(i,j,k)對(duì)應(yīng)上面圖中的(x,y,z)，憑空出現(xiàn)的(i,j,k)最后約掉了
補(bǔ)充：叉積得到的兩個(gè)向量組成的 平行四邊形的面積大小的正負(fù)埋泵，就是拿來判斷這兩個(gè)向量在右手系坐標(biāo)下的位置幔欧，因?yàn)槲覀兞?xí)慣了右手系的的坐標(biāo)系，我們用的直角坐標(biāo)系是右手系的丽声。叉積正如視頻作者講的礁蔗，是行列式之后發(fā)現(xiàn)的，是數(shù)學(xué)符號(hào)雁社，至于生成的新向量浴井，在數(shù)學(xué)上是和那個(gè)行列式等價(jià)的，新向量的幾何意義就是代表一個(gè)軸歧胁，與角動(dòng)量聯(lián)系起來的話滋饲，就是旋轉(zhuǎn)軸，正負(fù)代表角動(dòng)量的方向喊巍，大小就是角動(dòng)量的值
九屠缭、基變換
如何在不同的坐標(biāo)系之間切換？這里涉及到仿射變換崭参。
矩陣乘法就是一個(gè)特殊的線性變換呵曹。比如，你當(dāng)前坐標(biāo)下有向量V 何暮，為求空間扭轉(zhuǎn)（也就是線性變換后）后的V的值奄喂，只需要知道空間扭轉(zhuǎn)后的坐標(biāo)系ij等，然后[ ]V 兩者相乘即可得出V 變換 后新的坐標(biāo)海洼。
在你看到一個(gè)公式跨新，是這樣的格式：A逆 乘以 M 乘以 A，這按時(shí)熟悉上的轉(zhuǎn)移作用坏逢。
相似矩陣域帐。從右往左讀，意義是某V向量是整，在A坐標(biāo)系下是什么樣子肖揣，然后通過M變換一下，再乘以A逆回到V原始的坐標(biāo)系下浮入。說白了是啥意思呢龙优？ 有個(gè)未知坐標(biāo)系下的V 在已知的M坐標(biāo)系下進(jìn)行一次線性變換，變換后再倒騰會(huì)原始坐標(biāo)系下事秀，看看V此時(shí)狀態(tài)下是什么值
十彤断、特征向量與特征值
什么是特征向量野舶？一個(gè)坐標(biāo)系下的某向量，在該坐標(biāo)系扭轉(zhuǎn)后仍然方位不變瓦糟，則稱為該向量為特征向量筒愚。 用三維空間比較好了解，一塊正方形菩浙，任意一條向量穿過正方形圓心，繞著該向量旋轉(zhuǎn)放大句伶，而該向量不動(dòng)劲蜻，則該向量為特征向量，或者說該向量是旋轉(zhuǎn)軸考余。而這條向量放大縮小了多少先嬉，這個(gè)就是特征值。
有些矩陣沒有特征向量楚堤，比如[1,0 0,1]疫蔓，它旋轉(zhuǎn)90度后，所有向量都旋轉(zhuǎn)了身冬，沒有向量保持不變衅胀，這種就沒有特征向量。
如圖為對(duì)角矩陣酥筝，什么是對(duì)角矩陣滚躯？就是假設(shè)一個(gè)矩陣，它的基向量就是特征向量嘿歌，在幾何中就是基向量可以伸縮或者為負(fù)反方向調(diào)整掸掏，這樣，生成的一個(gè)新的坐標(biāo)下宙帝，之前的基向量都是特征向量丧凤，它的特點(diǎn)就是對(duì)角線的數(shù)字對(duì)應(yīng)著不同基向量的特征值，這個(gè)要結(jié)合視頻更好 理解
一來一回步脓，d就是b的對(duì)角矩陣愿待，說白了某向量經(jīng)過c變換后再經(jīng)過b再逆矩陣a，得到的是一個(gè)基于b的基向量的矩陣沪编，這個(gè)矩陣和 b 是對(duì)角矩陣
十一呼盆、線性代數(shù)的本質(zhì)：抽象向量空間
矩陣可以理解為 函數(shù)。
函數(shù)的求導(dǎo)是線性的蚁廓，那么我可以用矩陣來表示求導(dǎo)
