線性代數(shù)基礎(chǔ)

線性代數(shù)

向量

\vec{\text x} = \left[ \begin{matrix} x_1\\ x_2\\ \cdots \\ x_n\\ \end{matrix} \right]

1.線性相關(guān)與線性無(wú)關(guān)

  • 向量組線性相關(guān)

存在一組不全為0的實(shí)數(shù)a_1, a_2, \cdots, a_n,使得:

\sum_{i = 1} ^{n} a_i \vec{\text v_i} = \vec{\text 0}即至少有一個(gè)向量可以用其余向量線性表示。

  • 向量組線性無(wú)關(guān)

當(dāng)且僅當(dāng)a_i = 0, i=1, 2, \cdots, n時(shí)前鹅,才有:

\sum_{i = 1} ^{n} a_i\vec{\text v_i} = \vec{\text 0}即存在一個(gè)向量\vec{\beta},其不能等于向量組內(nèi)任意向量,可由向量組內(nèi)向量進(jìn)行唯一的線性表示悴侵。

2. 向量空間的維數(shù)

一個(gè)向量空間所包含的最大線性無(wú)關(guān)向量的數(shù)據(jù),稱為向量空間的維數(shù)拭嫁。

3. 向量的點(diǎn)積(內(nèi)積)

\vec{\text{u}}\cdot \vec{\text{v}} = u_{1}v_{1} + u_{2}v_{2} + \cdots + u_{n}x_{n} = |\vec{\text{u}}||\vec{\text{v}}| cos(\vec{\text{u}}, \vec{\text{v}} ) = \vec{\text{u}}^\text T\vec{\text{v}} = \vec{\text{u}}^\text T\vec{\text{v}}

import numpy as np

u, v = np.array([1, 2, 3]), np.array([4, 5, 6])

uv = u.dot(v)
uv = np.dot(u, v)
uv
32

4. 三維向量的叉積(外積)

\vec{\text{w}} = \vec{\text{u}} \times \vec{\text{v}} = \left| \begin{matrix} \vec{\text{i}} & \vec{\text{j}} & \vec{\text{k}} \\ u_x & u_y & u_z \\ v_x & v_y & v_z \end{matrix} \right| \\ = (u_yv_z - u_zv_y)\vec{\text{i}} - (u_xv_z - u_zv_x)\vec{\text{j}} + (u_xv_y - u_yv_x)\vec{\text{k}}

其中可免, \vec{\text{i}}, \vec{\text{j}}, \vec{\text{j}}x, y, z軸的單位向量。

\vec{\text{u}} = u_x\vec{\text{i}} + u_y\vec{\text{j}} + u_x\vec{\text{k}}, \\ \vec{\text{v}} = v_x\vec{\text{i}} + v_y\vec{\text{j}} + v_z\vec{\text{k}}

  • \vec{\text{u}}\vec{\text{v}} 的叉積垂直于\vec{\text{u}}, \vec{\text{v}}構(gòu)成的平面做粤,其方向符合右手規(guī)則浇借;

  • 叉積的模等于\vec{\text{u}}, \vec{\text{v}}構(gòu)成的平面四邊形的面積;

  • \vec{\text{u}} \times \vec{\text{v}} = - \vec{\text{v}} \times \vec{\text{u}}怕品;

  • \vec{\text{u}} \times (\vec{\text{v}} \times \vec{\text{w}}) = (\vec{\text{u}} \cdot \vec{\text{w}})\vec{\text{v}} - (\vec{\text{u}} \cdot \vec{\text{v}})\vec{\text{w}}

import numpy as np

u, v = np.array([1, 2, 3]), np.array([4, 5, 6])

uv = np.cross(u, v).sum()
uv
0

5. 三維向量的混合積

\left[ \vec{\text{u}}\vec{\text v}\vec{\text w} \right] = (\vec{\text u}\times\vec{\text v})\cdot \vec{\text w} = \vec{\text u} \cdot (\vec{\text v} \times \vec{\text w})\\\ = \left| \begin{matrix} u_x & u_y & u_z \\\ v_x & v_y & v_z \\\ w_x & w_y & w_z \end{matrix} \right| = \left| \begin{matrix} u_x & v_x & w_x \\\ u_y & v_y & w_y \\\ u_z & v_z & w_z \end{matrix} \right|

  • 其物理意義為:以\vec{u}, \vec{v}, \vec{w}為三個(gè)棱邊所圍成平行六面體的體積妇垢。當(dāng)\vec{u}, \vec{v}, \vec{w}構(gòu)成右手系時(shí),該平行六面體的體積為正號(hào)肉康。

6. 三維向量的并矢積

\vec{\text u}\vec{ \text v} = \left[ \begin{matrix} u_xv_x & u_xv_y & u_xv_z \\ u_yv_x & u_yv_y & u_yv_z \\ u_zv_x & u_zv_y & u_zv_z \\ \end{matrix} \right]

也記作 \sideset{\vec{\text u}}{\vec{\text v}}\bigotimes 或者 \vec{\text u}\vec{\text v}^\text T

import numpy as np

u, v = np.array([1, 2, 3]), np.array([4, 5, 6])

uv = np.outer(u, v)
uv
array([[ 4,  5,  6],
       [ 8, 10, 12],
       [12, 15, 18]])

7. Gram - Schmidt正交化

設(shè) \alpha_1, \alpha_2, \dots, \alpha_m(m\leq n)R^n中的一個(gè)線性無(wú)關(guān)向量組闯估,若令

\beta_1 = \alpha_1 \\ \beta_2 = \alpha_2 - \frac{\left\langle \alpha_2, \beta_1\right\rangle}{\left\langle\beta_1, \beta_1\right\rangle}\beta_1 \\ \beta_m = \alpha_m - \frac{\left\langle \alpha_m, \beta_1 \right\rangle}{\left\langle \beta_1, \beta_1 \right\rangle}\beta_1 - \frac{\left\langle \alpha_m, \beta_2 \right\rangle}{\left\langle \beta_2, \beta_2 \right\rangle}\beta_2 - \dots - \frac{\left\langle \alpha_m, \beta_{m-1} \right\rangle}{\left\langle \beta_{m-1}, \beta_{m -1}\right\rangle}\beta_{m-1}

\beta_1, \beta_2, \dots, \beta_m就是一個(gè)正交向量組,若再令

e_i = \frac{\beta_i}{|| \beta_i ||}(i = 1, 2, \dots, m)

就得到一個(gè)標(biāo)準(zhǔn)正交向量組 e_1, e_2, \dots, e_m迎罗,且該向量組與\alpha_1, \alpha_2, \dots, \alpha_m 等價(jià)睬愤。

import numpy as np

A = np.array([[1,1,6],  ## numpy.linalg 是對(duì)列向量進(jìn)行標(biāo)準(zhǔn)正交化
              [1,2,4],
              [1,3,2]])

q, r = np.linalg.qr(A)
q, r
(array([[-5.77350269e-01,  7.07106781e-01,  4.08248290e-01],
        [-5.77350269e-01,  5.55111512e-17, -8.16496581e-01],
        [-5.77350269e-01, -7.07106781e-01,  4.08248290e-01]]),
 array([[-1.73205081, -3.46410162, -6.92820323],
        [ 0.        , -1.41421356,  2.82842712],
        [ 0.        ,  0.        ,  0.        ]]))

矩陣

\text{A} = \left[ \begin{matrix} a_{11} & a_{12} & \dots & a_{1n}\\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & \ddots &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mm} \end{matrix} \right]

1. 矩陣的運(yùn)算

  • 加法 \text{A} + \text{B} = \left[ \begin{matrix} a_{11} + b_{11} & a_{12} + b_{12} & \dots & a_{1n} + b_{1n}\\ a_{21} + b_{21} & a_{22} + b_{22} & \dots & a_{2n} + b_{2n}\\ \vdots & \vdots & \ddots &\vdots \\ a_{m1} + b_{m1} & a_{m2} + b_{m2} & \cdots & a_{mm} + b_{mm} \end{matrix} \right]\text{A}, \text{B} 都為m\times n矩陣

  • 數(shù)乘 k\text{A} = \left[ \begin{matrix} ka_{11} & ka_{12} & \dots & ka_{1n}\\ ka_{21} & ka_{22} & \dots & ka_{2n} \\ \vdots & \vdots & \ddots &\vdots \\ ka_{m1} & ka_{m2} & \cdots & ka_{mm} \end{matrix} \right]

  • 乘積 \text{A}\text{B} = \left[ \begin{matrix} a_{11} & a_{12} & \dots & a_{1n}\\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & \ddots &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mm} \end{matrix} \right] \left[ \begin{matrix} b_{11} & b_{12} & \dots & b_{1s} \\ b_{21} & b_{22} & \dots & b_{2s} \\ \vdots & \vdots & \ddots & \vdots \\ b_{n1} & b_{n2} & \dots & b_{ns} \end{matrix} \right] \\ = \left[ \begin{matrix} a_{11}b_{11} + a_{12}b_{21} + \dots + a_{1n}b_{n1} & a_{11}b_{12} + a_{12}b_{22} + \dots + a_{1n}b_{n2} & \dots & a_{11}b_{1s} + a_{12}b_{2s} + \dots + a_{11}b_{ns} \\ a_{21}b_{11} + a_{22}b_{21} + \dots + a_{2n}b_{n1} & a_{21}b_{12} + a_{22}b_{22} + \dots + a_{2n}b_{n2} & \dots & a_{21}b_{1s} + a_{22}b_{2s} + \dots + a_{21}b_{ns} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1}b_{11} + a_{m2}b_{21} + \dots + a_{mn}b_{n1} & a_{m1}b_{12} + a_{m2}b_{22} + \dots + a_{mn}b_{n2} & \dots & a_{m1}b_{1s} + a_{m2}b_{2s} + \dots + a_{m1}b_{ns} \\ \end{matrix} \right]

  • 點(diǎn)乘(阿達(dá)馬積) \text{A} \cdot \text{B} = \left[ \begin{matrix} a_{11} b_{11} & a_{12} b_{12} & \dots & a_{1n} b_{1n}\\ a_{21} b_{21} & a_{22} b_{22} & \dots & a_{2n} b_{2n}\\ \vdots & \vdots & \ddots &\vdots \\ a_{m1} b_{m1} & a_{m2} b_{m2} & \cdots & a_{mm} b_{mm} \end{matrix} \right]

  • 克羅內(nèi)克積 \sideset{\text A}{\text B}\bigotimes =\left[ \begin{matrix} a_{11}\text{B} & a_{12}\text{B} & \dots & a_{1n}\text{B}\\ a_{21}\text{B} & a_{22}\text{B} & \dots & a_{2n}\text{B}\\ \vdots & \vdots & \ddots &\vdots \\ a_{m1}\text{B} & a_{m2}\text{B} & \cdots & a_{mm}\text{B} \end{matrix} \right]

2. \text{A}^T纹安、\text{A}^{-1}尤辱、\text{A}^*

\text{A}^T,轉(zhuǎn)置厢岂;
\text{A}^{-1}光督,矩陣的逆;
\text{A}^*塔粒,伴隨矩陣结借。

反矩陣

  • \text{A}^{-1} = \frac{1}{|\text{A}|}\text{A}^*

  • (\text{A}^{-1})^{-1} = \text{A}

  • (\text{A}\text{B})^{-1} = \text{B}^{-1}\text{A}^{-1}

  • (k\text{A})^{-1} = \frac{1}{k}\text{A}^{-1}

  • (\text{A}^{n})^{-1} = \text{A}^{-n}

  • (\text{A}^{n})^{-1} = (\text{A}^{-1})^{n}

  • \text{A}^{-1}\text{A} = \text{A}\text{A}^{-1} = \text{I}_{n}


  • (\text{A}^T)^T = \text{A}

  • (\text{AB})^T = \text{B}^T\text{A}^T

  • (k\text{A})^T = k\text{A}^T

  • (\text{A} \pm \text{B})^T = \text{A}^T + \text{B}^T

  • (\text{A}^*)^* = |\text{A}|^{n-2}\text{A}(n\geq 3)

  • (\text{A}\text{B})^* = \text{B}^*\text{A}^*

  • (k\text{A})^* = k^{n-1}\text{A}^* (n\geq 2)

  • (\text{A}^{-1})^T = (\text{A}^{T})^{-1}

  • (\text{A}^{-1})^* = (\text{A}\text{A}^*)^{-1}

  • (\text{A}^*)^T = (\text{A}^T)^*

  • \text{A}\text{A}^* = \text{A}^*\text{A} = |\text{A}|\text{E}

  • |\text{A}^*|= |\text{A}|^{n - 1}(n \geq 2)

  • (k\text{A}^*) = k^{n-1}\text{A}^*

  • (\text{A}^*)^* = |\text{A}|^{n-2}\text{A}(n\geq3)

  • 若矩陣可逆,則\text{A}^* = |\text{A}|\text{A}^{-1},(\text{A}^*)^*=\frac{1}{|\text{A}|}\text{A}

  • \text{A}n階方陣卒茬,則 r(\text{A}^*) = \begin{cases} n, & r(\text{A}) = n \\ 1, & r(\text{A}) = n-1 \\ 0, & r(\text{A}) < n-1 \end{cases}

import numpy as np

A = np.mat(np.random.randint(10, size = (3,3)))
A = np.mat([[-3, 2, -5], [-1, 0, -2], [3, -4, 1]])
print(A)
print(A.T) # 轉(zhuǎn)置
print(A.I) # 逆
print(np.linalg.det(A)) # 行列式
print(np.dot(np.linalg.det(A), A.I)) # 伴隨矩陣
[[-3  2 -5]
 [-1  0 -2]
 [ 3 -4  1]]
[[-3 -1  3]
 [ 2  0 -4]
 [-5 -2  1]]
[[ 1.33333333 -3.          0.66666667]
 [ 0.83333333 -2.          0.16666667]
 [-0.66666667  1.         -0.33333333]]
-6.0
[[-8. 18. -4.]
 [-5. 12. -1.]
 [ 4. -6.  2.]]

3. 矩陣的秩

  • r(\text{A}) = 行秩 = 列秩

  • r(\text{A}_{m\times n})\leq \min(m, n)

  • \text{A}\neq 0 \Rightarrow r(\text{A}) \geq 1

  • r(\text{A} \pm \text{B}) \leq r(\text{A}) + r(\text{B})

  • 初等變換不改變矩陣的秩

  • r(\text{A}) + r(\text{B}) - n \leq r(\text{A}\text{B}) \leq \min(r(\text{A}, r(\text{B})))船老,特別當(dāng)\text{A}\text{B}=\text{O},則:r(\text{A}) + r(\text{B}) \leq n

  • \text{A}^{-1}存在圃酵,則r(\text{AB})=r(\text{B})柳畔;若\text{B}^{-1}存在,則r(\text{AB}) = r(\text{A})郭赐;若r(\text{A}_{m\times n}) = n薪韩,則r(\text{AB})=r(\text{B});若r(\text{A}_{m\times s}) = n,則r(\text{AB}) = r(\text{A})

  • r(\text{A}_{m\times s}) = n \Leftrightarrow \text{A}x = 0只有零解

import numpy as np
A = np.array([[1, 1], [2, 2]]) # rank = 1
# A = np.array([[1, 2], [3, 4]]) # rank = 2
A_rank = np.linalg.matrix_rank(A)
A_rank
1

4. 特征值與特征向量

  • 設(shè)\text{A}n階矩陣俘陷,若存在常數(shù)\lambdan維非零向量\vec{\text{X}}罗捎,使得\text{A}\vec{\text{X}} = \lambda \vec{\text{X}}

  • 設(shè)\lambda\text{A}的一個(gè)特征值,則k\text{A} 特征值 k\lambda拉盾,a\text{A}+b\text{E} 特征值 a\lambda + b桨菜,\text{A}^2 特征值 \lambda^2\text{A}^m 特征值 \lambda^m盾剩,f(\text{A}) 特征值 f(\lambda)雷激,\text{A}^{T} 特征值 \lambda\text{A}^{-1} 特征值 \lambda^{-1}告私,\text{A}^{*} 特征值 \frac{|\text{A}|}{\lambda}

  • \lambda_1,\lambda_2,\cdots,\lambda_n\text{A}n個(gè)特征值,則\sum_{i=1}^n=\lambda_i = \sum_{i = 1}^{n}a_{ii}=|\text{A}|

  • 設(shè)\lambda_1,\lambda_2,\cdots,\lambda_s\text{A}s個(gè)特征值承桥,對(duì)應(yīng)特征向量為\vec{a_1},\vec{a_2},\cdots,\vec{a_s}驻粟,若\vec{\text{a}} = k_1\vec{a_1} + k_2\vec{a_2} + \cdots + k_s\vec{a_s},則\text{A}^n\vec{\text{a}} = k_1\lambda_1^n\vec{a_1} + k_2\lambda_2^n\vec{a_2} + \cdots + k_s\lambda_s^n\vec{a_s}

import numpy as np

A = np.mat([[-1, 1, 0], [-4, 3, 0], [1, 0, 2]])
eigenvalue, featurevector = np.linalg.eig(A)
eigenvalue, featurevector
(array([2., 1., 1.]), matrix([[ 0.        ,  0.40824829,  0.40824829],
         [ 0.        ,  0.81649658,  0.81649658],
         [ 1.        , -0.40824829, -0.40824829]]))

5. 相似矩陣

  • 設(shè)\text{A},\text{B}都是n階矩陣凶异,若存在可逆矩陣\text{P}蜀撑,使\text{P}^{-1}\text{AP}=\text{B},則稱\text{B}\text{A}的相似矩陣, 并稱矩陣\text{A}\text{B}相似剩彬,記為\text{A}\text{~}\text{B}酷麦。
    對(duì)進(jìn)行運(yùn)算稱為對(duì)進(jìn)行相似變換,稱可逆矩陣為相似變換矩陣喉恋。
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末沃饶,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子轻黑,更是在濱河造成了極大的恐慌糊肤,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,723評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件氓鄙,死亡現(xiàn)場(chǎng)離奇詭異馆揉,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)抖拦,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,485評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門升酣,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人态罪,你說(shuō)我怎么就攤上這事噩茄。” “怎么了向臀?”我有些...
    開封第一講書人閱讀 152,998評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵巢墅,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng)君纫,這世上最難降的妖魔是什么驯遇? 我笑而不...
    開封第一講書人閱讀 55,323評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮蓄髓,結(jié)果婚禮上叉庐,老公的妹妹穿的比我還像新娘。我一直安慰自己会喝,他們只是感情好陡叠,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,355評(píng)論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著肢执,像睡著了一般枉阵。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上预茄,一...
    開封第一講書人閱讀 49,079評(píng)論 1 285
  • 那天兴溜,我揣著相機(jī)與錄音,去河邊找鬼耻陕。 笑死拙徽,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的诗宣。 我是一名探鬼主播膘怕,決...
    沈念sama閱讀 38,389評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼召庞!你這毒婦竟也來(lái)了岛心?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,019評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤裁眯,失蹤者是張志新(化名)和其女友劉穎鹉梨,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體穿稳,經(jīng)...
    沈念sama閱讀 43,519評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡存皂,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,971評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了逢艘。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片旦袋。...
    茶點(diǎn)故事閱讀 38,100評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖它改,靈堂內(nèi)的尸體忽然破棺而出疤孕,到底是詐尸還是另有隱情,我是刑警寧澤央拖,帶...
    沈念sama閱讀 33,738評(píng)論 4 324
  • 正文 年R本政府宣布祭阀,位于F島的核電站鹉戚,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏专控。R本人自食惡果不足惜抹凳,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,293評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望伦腐。 院中可真熱鬧赢底,春花似錦、人聲如沸柏蘑。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,289評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)咳焚。三九已至洽损,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間革半,已是汗流浹背趁啸。 一陣腳步聲響...
    開封第一講書人閱讀 31,517評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留督惰,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,547評(píng)論 2 354
  • 正文 我出身青樓旅掂,卻偏偏與公主長(zhǎng)得像赏胚,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子商虐,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,834評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容