人工智能數(shù)學(xué)基礎(chǔ)之線性代數(shù)(持續(xù)更新)

前言

本文只會(huì)記錄人工智能中所用到的線性代數(shù)知識(shí)蠢笋，并不會(huì)記錄大學(xué)線性代數(shù)教材中的所有知識(shí)葵蒂。

標(biāo)量

只有大小沒有方向的量稱為標(biāo)量闪唆。

單個(gè)數(shù)字就是標(biāo)量崎淳。

向量

所謂的向量就是一組數(shù)字涡贱，可以用v來表示
v = \left[\begin{matrix}1 \\2 \\3 \end{matrix} \right] 或 v = [1 ~ 2 ~ 3]

當(dāng)兩個(gè)向量大小相等咏删、方向相同時(shí)，說這兩個(gè)向量相等问词。

這里由3個(gè)數(shù)組成督函，叫做3維向量，相應(yīng)的激挪，由n個(gè)數(shù)組成的稱為n維向量辰狡。

左邊排成一列的形式叫做列向量；右邊叫做行向量

v_i表示向量中的第i個(gè)元素宛篇，本例中v_1 =1,v_2 = 2,v_3 = 3

在這里插入圖片描述

3維向量可以在3維空間中表示出來。

向量的長(zhǎng)度

n維向量\alpha = (a_1,a_2,...,a_n)薄湿，數(shù)值\sqrt{a_1^2 + a_2^2 + ... + a_n^2}稱為向量\alpha的長(zhǎng)度或模些己，記為\left \| \alpha \right \|

\left \| \alpha \right \| = 1 稱\alpha為單位向量。

向量的運(yùn)算

向量的加法：

在這里插入圖片描述

向量的減法：

在這里插入圖片描述

注意\vec{a} - \vec嘿般得到的向量為\vec段标指向\vec{a}。

向量的乘法：

在這里插入圖片描述

\vec{a} \cdot \vec炉奴 = | \vec{a} | \cdot |\vec逼庞| \cos \theta

相當(dāng)于向量\vec在向量\vec{a}的方向的投影與向量| \vec{a} |相乘

向量的范數(shù)

向量的1-范數(shù)： \left \| X \right \|_1 = |x_1| +|x_2| + ... + |x_n| 瞻赶；各元素的絕對(duì)值之和
向量的2-范數(shù)： \left \| X \right \| = \sqrt{x_1^2 + x_2^2 + ... + x_n^2} 赛糟； 每個(gè)元素的平方和再開方派任，也就是n維向量的長(zhǎng)度；
向量的無窮范數(shù)： \left \| X \right \|_\infty = \max(|x_1|,|x_2|,...,|x_n|) 璧南；分量絕對(duì)值的最大者
向量的p-范數(shù)： \left \| X \right \|_p = (\sum_{i=1}^n |x_i| ^ p)^{\frac{1}{p}} , (1 \leq p \leq n)

對(duì)于2-范數(shù)有： ||x|| + ||y|| \geq || x + y||

當(dāng) ||\vec{x}|| ≠ 0 掌逛，||\vec{y}|| ≠ 0 時(shí)，稱
\theta = \arccos \frac{ \vec{a} \cdot \vec{y}}{||\vec{x}|| || \vec{y}||}
為向量\vec{x}與\vec{y}的夾角司倚。

向量的內(nèi)積

設(shè)有n維向量
\vec{x} = \left[ \begin{matrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{matrix} \right], \vec{y} = \left[ \begin{matrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{matrix} \right],

令[\vec{x},\vec{y}] = \sum_{i=1}^n x_i y_i = x_1y_1 + x_2y_2 + \cdots+ x_ny_n
上式稱為向量的內(nèi)積豆混，內(nèi)積的結(jié)果是一個(gè)標(biāo)量。

這里要求一維向量\vec{x}和向量\vec{y}的行列數(shù)相同动知。

當(dāng)[\vec{x},\vec{y}] = 0時(shí)皿伺，稱向量\vec{x}和向量\vec{y}正交。

一組兩兩相交的非零向量盒粮，稱為正交向量組鸵鸥。

向量組

若干個(gè)同維的列向量(行向量)所組成的集合稱為向量組。
如\vec{a_1},\vec{a_2},\vec{a_3},\cdots,\vec{a_n}

\left[ \begin{matrix} a_{11} & a_{21} & \cdots & a_{m1}\\ a_{12} & a_{22} & \cdots & a_{m2} \\ \vdots & \vdots & \ddots & \vdots \\ a_{1n} & a_{2n} & \cdots & a_{mn} \end{matrix} \right]

向量組的線性組合：
對(duì)于向量組\vec{a_1},\vec{a_2},\vec{a_3},\cdots,\vec{a_n}丹皱，如果有一組數(shù)k_1,k_2,\cdots,k_n妒穴，使
\vec{\beta} = k_1 \vec{a_1} + k_2\vec{a_2} + \cdots + k_n\vec{a_n},
則稱向量\vec{\beta}是向量組\vec{a_1},\vec{a_2},\vec{a_3},\cdots,\vec{a_n}的一個(gè)線性組合，或稱\vec{\beta}可由向量組\vec{a_1},\vec{a_2},\vec{a_3},\cdots,\vec{a_n}線性表示摊崭。

向量組的線性相關(guān)：

給定向量組A= \vec{a_1},\vec{a_2},\vec{a_3},\cdots,\vec{a_n}宰翅，如果存在不全為零的數(shù)k_1,k_2,\cdots,k_n使
k_1\vec{a_1} + k_2\vec{a_2} + \cdots + k_n\vec{a_n} = 0

則稱向量組A是線性相關(guān)的，否則稱它為線性無關(guān)爽室。

對(duì)于任一向量組，不是線性無關(guān)就是線性相關(guān)淆攻。

向量空間

設(shè)V是n維實(shí)向量構(gòu)成的集合阔墩，對(duì)于向量的加法運(yùn)算及數(shù)乘運(yùn)算滿足：

  1. 任意\alpha \in V,\beta \in V，有\alpha + \beta \in V瓶珊；
  2. 任意\alpha \in V, k \in R啸箫，有k\alpha \in V

則稱集合V為R上的實(shí)向量空間，簡(jiǎn)稱向量空間伞芹。

已知V_1,V_2是向量空間忘苛，若V_1 \in V_2，則稱V_1是V_2的子空間唱较。

向量集合的張成

定義 令v_1,v_2,\cdots,v_n為向量空間V中的向量扎唾。\alpha_1 v_1 + \alpha_2 v_2 + \cdots + \alpha_n v_n (其中\alpha_1,\alpha_2,\cdots,\alpha_n為標(biāo)量)稱為向量v_1,v_2,\cdots,v_n的線性組合。

向量v_1,v_2,\cdots,v_n的所有線性組合構(gòu)成的集合南缓，稱為v_1,v_2,\cdots,v_n的張成(Span)胸遇。向量v_1,v_2,\cdots,v_n的張成記為\text{Span}(v_1,v_2,\cdots,v_n)。

向量空間的基

設(shè)V是一個(gè)向量空間汉形，如果存在一組向量\alpha_1,\alpha_2,\cdots,\alpha_r \in V纸镊，滿足：

  1. \alpha_1,\alpha_2,\cdots,\alpha_r線性無關(guān)；
  2. V中任意一組向量都可以由該向量組線性表示，則稱\alpha_1,\alpha_2,\cdots,\alpha_r為向量空間V的一組基县恕；

線性無關(guān)：如果向量空間V中的向量v_1,v_2,\cdots,v_n滿足
c_1 v_1 + c_2 v_2 + \cdots + c_n v_n = 0
就可以推出所有標(biāo)量c_1,\cdots,c_n必為0辟灰，則稱它們?yōu)榫€性無關(guān)的。

標(biāo)準(zhǔn)基

集合\{e_1,e_2,e_3\}為R^3的標(biāo)準(zhǔn)基凯旭。之所以稱這個(gè)基為標(biāo)準(zhǔn)基概耻，使用因?yàn)槭褂眠@個(gè)基表示向量空間R^3最自然。更一般地尽纽，R^n的標(biāo)準(zhǔn)基集為集合\{e_1,e_2,\cdots,e_n\}咐蚯。

其中單位矩陣I的第j列向量的記為e_j。具體可見下面單位矩陣的定義弄贿。

行列式

行列式的引入

用消元法解二元線性方程組
\begin{cases} a_{11}x_1 + a_{12}x_2 = b_1, \\ a_{21}x_1 + a_{22}x_2 = b_2. \end{cases} \tag{1}
為消去未知數(shù)x_2春锋，以a_{22}與a_{12}分別乘上列兩方程的兩端，然后兩個(gè)方程相減差凹，得
a_{11}a_{22}x_1 + \bcancel{a_{12}a_{22}x_2} - a_{12}a_{21}x_1 - \bcancel{a_{12}a_{22}x_2} = b_1a_{22} - a_{12}b_2 \\ (a_{11}a_{22}-a_{12}a_{21})x_1 = b_1a_{22} - a_{12}b_2
類似地期奔，消去x_1，得
(a_{11}a_{22} - a_{12}a_{21})x_2 = a_{11}b_2 - b_1a_{21}
當(dāng)a_{11}a_{22} - a_{12}a_{21} \neq 0時(shí)危尿，求得方程組(1)的解為
x_1 = \frac{b_1a_{22}-a_{12}b_2 }{a_{11}a_{22} - a_{12}a_{21}}, \quad x_2 = \frac{a_{11}b_2 - b_1a_{21}}{a_{11}a_{22} - a_{12}a_{21}} \tag{2}
其中分母是由方程組(1)的四個(gè)系數(shù)確定的呐萌，把這四個(gè)數(shù)按它們?cè)诜匠探M中的位置，排列成二行二列的數(shù)表
\begin{matrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{matrix}, \tag{3}
表達(dá)式a_{11}a_{22} - a_{12}a_{21}稱為數(shù)表(3)所確定的\color{blue}{二階行列式}谊娇，并記作
\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}. \tag{4}
數(shù)a_{ij}(i=1,2;j=1,2)稱為行列式(4)的元素或元肺孤。位于第i行第j列的元素稱為行列式(4)的(i,j)元。

二階行列式的定義济欢，可以用對(duì)角線法則來記憶赠堵，比如寫一個(gè)字母``X，先寫`法褥，為主對(duì)角線茫叭；再寫/，為副對(duì)角線半等。二階行列式就是主對(duì)角線上的兩元素之積減去副對(duì)角線兩元素之積揍愁。

利用二階行列式的概念，(2)式中x_1,x_2的分子也可以寫成二階行列式杀饵，即
b_1a_{22} -a_{12}b_2 =\begin{vmatrix} b_1 & a_{12} \\ b_2 & a_{22} \end{vmatrix},\quad a_{11}b_2 -b_1a_{21} =\begin{vmatrix} a_{11} & b_1 \\ a_{21} & b_2 \end{vmatrix}.
若記
D = \begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}, \quad D_1 = \begin{vmatrix} b_1 & a_{12} \\ b_2 & a_{22} \end{vmatrix}, \quad D_2 = \begin{vmatrix} a_{11} & b_1 \\ a_{21} & b_2 \end{vmatrix},
那么(2)式可寫成
x_1 = \frac{D_1}{D} = \frac{\begin{vmatrix} b_1 & a_{12} \\ b_2 & a_{22} \end{vmatrix}}{\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}},\quad x_2 = \frac{D_2}{D} = \frac{\begin{vmatrix} a_{11} & b_1 \\ a_{21} & b_2 \end{vmatrix}}{\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix}}

這里的分母D是由方程組(1)的系數(shù)所確定的二階行列式莽囤，x_1的分子D_1是用常數(shù)項(xiàng)b_1,b_2替換D中x_1的系數(shù)a_{11},a_{21}所得的二階行列式；

x_2的分子D_2是用b_1,b_2替換D中x_2的系數(shù)a_{12},a_{22}所得的二階行列式切距。

定義 設(shè)有9個(gè)數(shù)排成3行3列的數(shù)表
\begin{matrix} a_{11} & a_{12} & a_{13}\\ a_{21} & a_{22} & a_{23}\\ a_{31} & a_{32} & a_{33}\\ \end{matrix}, \tag{5}
記
\begin{vmatrix} a_{11} & a_{12} & a_{13}\\ a_{21} & a_{22} & a_{23}\\ a_{31} & a_{32} & a_{33}\\ \end{vmatrix} = a_{11}a_{22}a_{33} + a_{12}a_{23}a_{31} +a_{13}a_{21}a_{32} \\ \qquad\qquad\qquad\qquad- a_{11}a_{23}a_{32} - a_{12}a_{21}a_{33} - a_{13}a_{22}a_{31} \tag{6}
式(6)稱為數(shù)表(5)所確定的三階行列式烁登。

上述定義表面三階行列式含6項(xiàng)，每項(xiàng)均為不同行不同列的三個(gè)元素的乘積再冠以正負(fù)號(hào)。

雖然三階行列式也適用于對(duì)角線法則饵沧，為了研究四階及更高階行列式锨络，下面先介紹有關(guān)全排列的知識(shí)。

逆序數(shù)

對(duì)于n個(gè)不同的元素狼牺，在這n個(gè)元素的任一排列中羡儿，當(dāng)某兩個(gè)元素的先后次序與標(biāo)準(zhǔn)次序(比如可規(guī)定由小到大為標(biāo)準(zhǔn)次序)不同時(shí)，就說有1個(gè)逆序是钥。 一個(gè)排列中所有逆序的總數(shù)叫做這個(gè)排列的逆序數(shù)掠归。

逆序數(shù)為技術(shù)的排列叫做奇排列，逆序數(shù)為偶數(shù)的排列叫做偶排列悄泥。

設(shè)n個(gè)元素為1至n這n個(gè)自然數(shù)虏冻，并規(guī)定由小到大為標(biāo)準(zhǔn)次序。設(shè)
p_1p_2\cdots p_n
為這n個(gè)自然數(shù)的一個(gè)排列弹囚，考慮元素p_i(i=1,2,\cdots,n)厨相，如果比p_i大的且排在p_i前面的元素有t_i個(gè)毁渗，就說p_i這個(gè)元素的逆序數(shù)是t_i虐骑。全體元素的逆序數(shù)之總和
t = t_1 + t_2 + \cdots + t_n = \sum_{t=1}^n t_i,
即使這個(gè)排列的逆序數(shù)钳幅。

來看一個(gè)例子理解叫潦。

例 求排列32514的逆序數(shù)

解 在排列32514中：

  • 3排在首位鸽凶，逆序數(shù)為0

  • 2的前面比2大的數(shù)有一個(gè)(3)币砂，逆序數(shù)為1

  • 5是最大數(shù)，逆序數(shù)為0

  • 1的前面比1大的數(shù)有三個(gè)(3,2,5)玻侥，逆序數(shù)為3

  • 4的前面比4大的數(shù)有一個(gè)(5)决摧，逆序數(shù)為1，于是這個(gè)排列的逆序數(shù)為
    t = 0 + 1 + 0 +3 + 1 =5

n階行列式的定義

為了給出n階行列式的定義凑兰，先來研究三階行列式的結(jié)構(gòu)掌桩。三階行列式定義為
\begin{vmatrix} a_{11} & a_{12} & a_{13}\\ a_{21} & a_{22} & a_{23}\\ a_{31} & a_{32} & a_{33}\\ \end{vmatrix} = a_{11}a_{22}a_{33} + a_{12}a_{23}a_{31} +a_{13}a_{21}a_{32} \\ \qquad\qquad\qquad\qquad- a_{11}a_{23}a_{32} - a_{12}a_{21}a_{33} - a_{13}a_{22}a_{31}

容易看出：

  1. 上式右邊的每一項(xiàng)都恰是三個(gè)元素的乘積，這三個(gè)元素位于不同的行票摇、不同列拘鞋。因此砚蓬，上式右端的任一項(xiàng)除正負(fù)號(hào)外可以寫成a_{1p_1}a_{2p_2}a_{3p_3}矢门。這里第一個(gè)下標(biāo)(行標(biāo))排成標(biāo)準(zhǔn)次序123，而第二下標(biāo)(列標(biāo))排成p_1p_2p_3，它是1,2,3三個(gè)數(shù)的某個(gè)排列祟剔。這樣的排列共有6中隔躲，對(duì)應(yīng)上式右端共有6項(xiàng)。
  2. 各項(xiàng)的正負(fù)號(hào)與列標(biāo)的排列對(duì)照
    • 帶正號(hào)的三項(xiàng)列標(biāo)排列是123,231,312
    • 帶負(fù)號(hào)的三項(xiàng)列標(biāo)排列是132,213,321

經(jīng)計(jì)算可知前三個(gè)排列都是偶排列物延，后三個(gè)排列都是奇排列宣旱。因此各項(xiàng)所帶的正負(fù)號(hào)可以表示為(-1)^t，其中t為列標(biāo)排列的逆序數(shù)叛薯。

總之浑吟，三階行列式可以寫成
\begin{vmatrix} a_{11} & a_{12} & a_{13}\\ a_{21} & a_{22} & a_{23}\\ a_{31} & a_{32} & a_{33}\\ \end{vmatrix} = \sum (-1)^t a_{1p_1}a_{2p_2}a_{3p_3},
其中t為排列p_1p_2p_3的逆序數(shù)，\sum表示對(duì)1,2,3三個(gè)數(shù)的所有排列p_1p_2p_3去和耗溜。

仿此组力，可以把行列式推廣到一般情形猴誊。

定義 設(shè)有n^2個(gè)數(shù)琳状，排成n行n列的數(shù)表
\begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \cdots &\cdots & \cdots & \cdots \\ a_{n1} & a_{n2} & \cdots & a_{nn}\\ \end{vmatrix},
作出表中位于不同行不同列的n個(gè)數(shù)的乘積，并冠以符號(hào)(-1)^t勾笆，得到形如
(-1)^t a_{1p_1}a_{2p_2}\cdots a_{np_n} \tag{7}
的項(xiàng)阿宅，其中p_1p_2\cdots p_n為自然數(shù)1,2,\cdots,n的一個(gè)排列候衍，t為這個(gè)排列的逆序數(shù)。

由于這樣的排列共有n!個(gè)洒放，因?yàn)樾稳?img class="math-inline" src="https://math.jianshu.com/math?formula=(7)" alt="(7)" mathimg="1">式的項(xiàng)共有n!個(gè)蛉鹿。所有這n!項(xiàng)的代數(shù)和
\sum (-1)^t a_{1p_1}a_{2p_2} \cdots a_{np_n}
稱為n階行列式，記作
D = \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \cdots &\cdots & \cdots & \cdots \\ a_{n1} & a_{n2} & \cdots & a_{nn}\\ \end{vmatrix},
簡(jiǎn)記作det(a_{ij})拉馋，其中數(shù)a_{ij}為行列式D的(i,j)元榨为。

例5 證明n階行列式
\begin{vmatrix} \lambda_1 & & & \\ & \lambda2 && \\ & & \ddots & \\ & & & \lambda_n\\ \end{vmatrix} = \lambda_1\lambda_2 \cdots \lambda_n, \\ \begin{vmatrix} & & &\lambda_1 \\ & &\lambda2& \\ & \cdots & & \\ \lambda_n & & & \\ \end{vmatrix} = (-1)^{\frac{n(n-1)}{2}} \lambda_1\lambda_2 \cdots \lambda_n

其中為寫出的元素都是0。

證 第一式左端稱為對(duì)角行列式煌茴，只能取不同行不同列随闺，我們只考慮非零的情況。第1行只能取第1列蔓腐，第二行只能取第2列矩乐，\cdots,第n行只能取第n列，最終結(jié)果很顯然回论。

第二式第1行只能取第n列散罕，對(duì)應(yīng)的是a_{1n}，第2行只能取第n-1列傀蓉，對(duì)應(yīng)a_{2n-1}欧漱，\cdots,第n行只能取第1列，對(duì)應(yīng)a_{n1}葬燎。

列標(biāo)的排列為
n(n-1)\cdots 2\,1
所以误甚，逆序數(shù)t為
t = 0 + 1 + 2 + \cdots + (n-1) = \frac{n(n-1)}{2}
例6 證明下三角形行列式
D = \begin{vmatrix} a_{11} & & & 0 \\ a_{21} & a_{22} && \\ \vdots & \vdots & \ddots & \\ a_{n1} & a_{n2} &\cdots & a_{nn}\\ \end{vmatrix} = a_{11}a_{22}\cdots a_{nn}.
第1行只能取第1列缚甩，第二行只能取第2列，\cdots,第n行只能取第n列窑邦，并且列標(biāo)是
12 \cdots n
逆序數(shù)為0擅威，(-1)^0=1

所以結(jié)果就是其主對(duì)角線上的元素之積。

行列式的性質(zhì)

記
D = \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n}\\ \vdots &\vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn}\\ \end{vmatrix}, \quad D^T = \begin{vmatrix} a_{11} & a_{21} & \cdots & a_{n1}\\ a_{12} & a_{22} & \cdots & a_{n2}\\ \vdots &\vdots & & \vdots \\ a_{1n} & a_{2n} & \cdots & a_{nn}\\ \end{vmatrix}
行列式D^T稱為行列式D的轉(zhuǎn)置行列式冈钦。

性質(zhì)1 行列式與它的轉(zhuǎn)置行列式相等

性質(zhì)2 互換行列式的兩行(列)郊丛，行列式變號(hào)

推論 如果行列式有兩行(列)完全相同，則此行列式等于零

性質(zhì)3 行列式的某一行(列)中所有的元素都乘以同一數(shù)k瞧筛，等于用數(shù)k乘此行列式

推論 行列式中某一行(列)的所有元素的公因子可以提到行列式記號(hào)的外面

性質(zhì)4 行列式中如果有兩行(列)元素成比例厉熟，則此行列式等于零

性質(zhì)5 若行列式的某一列(行)的元素都是兩數(shù)之和，例如第i列的元素都是兩數(shù)之和：
D= \begin{vmatrix} a_{11} & a_{12} & \cdots & (a_{1i} + a_{1i}^\prime)& \cdots &a_{1n}\\ a_{21} & a_{22} & \cdots & (a_{2i} + a_{2i}^\prime)& \cdots &a_{2n}\\ \vdots & \vdots && \vdots& &\vdots\\ a_{n1} & a_{n2} & \cdots & (a_{ni} + a_{ni}^\prime)& \cdots &a_{nn}\\ \end{vmatrix},
則D等于下列兩個(gè)行列式之和：
D= \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1i}& \cdots &a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2i} & \cdots &a_{2n}\\ \vdots & \vdots && \vdots& &\vdots\\ a_{n1} & a_{n2} & \cdots & a_{ni}& \cdots &a_{nn}\\ \end{vmatrix} + \\ \qquad \qquad \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1i}^\prime& \cdots &a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2i}^\prime& \cdots &a_{2n}\\ \vdots & \vdots && \vdots& &\vdots\\ a_{n1} & a_{n2} & \cdots & a_{ni}^\prime& \cdots &a_{nn}\\ \end{vmatrix}.
性質(zhì)6 把行列式的某一列(行)的各元素乘以同一數(shù)然后加到另一列(行)對(duì)應(yīng)的元素上去较幌，行列式不變庆猫。

例如以數(shù)k乘第j列加到第i列上(記作c_i + kc_j)，有
\begin{vmatrix} a_{11} & \cdots& a_{1i} & \cdots & a_{1j}& \cdots &a_{1n}\\ a_{21} & \cdots& a_{2i} & \cdots & a_{2j}& \cdots &a_{2n}\\ \vdots & & \vdots & & \vdots & & \vdots\\ a_{n1} & \cdots& a_{ni} & \cdots & a_{nj}& \cdots &a_{nn}\\ \end{vmatrix} \\ \overset{c_i + kc_j}{=} \begin{vmatrix} a_{11} & \cdots& (a_{1i} + ka_{1j}) & \cdots & a_{1j}& \cdots &a_{1n}\\ a_{21} & \cdots& (a_{2i} + ka_{2j})& \cdots & a_{2j}& \cdots &a_{2n}\\ \vdots & & \vdots & & \vdots & & \vdots\\ a_{n1} & \cdots& (a_{ni} + ka_{nj})& \cdots & a_{nj}& \cdots &a_{nn}\\ \end{vmatrix} (i \neq j)
(以數(shù)k乘第j行加到第i行上绅络，記作r_i + kr_j)

行列式按行(列)展開

一般來說月培，低階行列式的計(jì)算比高階行列式的計(jì)算要簡(jiǎn)便，于是恩急，我們自然地考慮用低階行列式來表示高階行列式的問題杉畜。為此，先引入余子式和代數(shù)余子式的概念衷恭。

在n階行列式中此叠，把(i,j)元a_{ij}所在的第i行和第j列劃去后，留下來的n-1階行列式叫作(i,j)元a_{ij}的余子式随珠，記作M_{ij}灭袁；記
A_{ij} = (-1)^{i+j}M_{ij},
A_{ij}叫做(i,j)元a_{ij}的代數(shù)余子式。

例如四階行列式
D = \begin{vmatrix} a_{11} & a_{12} & a_{13} & a_{14}\\ a_{21} & a_{22} & a_{23} & a_{24}\\ a_{31} & a_{32} & a_{33} & a_{34}\\ a_{41} & a_{42} & a_{43} & a_{44}\\ \end{vmatrix}
中(3,2)元a_{32}的余子式和代數(shù)余子式分別為
M_{32} = \begin{vmatrix} a_{11} & a_{13} & a_{14}\\ a_{21} & a_{23} & a_{24}\\ a_{41} & a_{43} & a_{44}\\ \end{vmatrix}, \\ A_{32} = (-1)^{3+2} M_{32} = -M_{32}.
引理 一個(gè)n階行列式窗看，如果其中第i行所有元素除(i,j)元a_{ij}外都為零茸歧，那么這行列式等于a_{ij}與它的代數(shù)余子式的乘積，即
D = a_{ij}A_{ij}.
定理3 行列式等于它的任一行(列)的各元素與其對(duì)應(yīng)的代數(shù)余子式乘積之和显沈，即
D = a_{i1}A_{i1} + a_{i2}A_{i2} + \cdots +a_{in}A_{in} \quad (i=1,2,\cdots,n),\\ D = a_{1j}A_{1j} + a_{2j}A_{2j} + \cdots +a_{nj}A_{nj} \quad (j=1,2,\cdots,n)
證
D = \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ \vdots & \vdots & & \vdots\\ a_{i1} + 0 + \cdots + 0& 0 + a_{i2} + \cdots + 0 &\cdots & 0 + \cdots +0 + a_{in}\\ \vdots & \vdots & & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn}\\ \end{vmatrix} \\ = \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ \vdots & \vdots & & \vdots \\ a_{i1} & 0 &\cdots & 0\\ \vdots & \vdots & & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix} + \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ \vdots & \vdots & & \vdots \\ 0 & a_{i2} &\cdots & 0\\ \vdots & \vdots & & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix} + \cdots + \begin{vmatrix} a_{11} & a_{12} & \cdots & a_{1n}\\ \vdots & \vdots & & \vdots \\ 0 & 0 &\cdots & a_{in} \\ \vdots & \vdots & & \vdots\\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{vmatrix},
根據(jù)引理软瞎，即得
D = a_{i1}A_{i1} + a_{i2}A_{i2} + \cdots +a_{in}A_{in} \quad (i=1,2,\cdots,n)
類似地，若按列證明拉讯，可得
D = a_{1j}A_{1j} + a_{2j}A_{2j} + \cdots +a_{nj}A_{nj} \quad (j=1,2,\cdots,n).
這個(gè)定理叫做行列式按行(列)展開法則涤浇。利用這一法則并結(jié)合行列式的性質(zhì)，可以簡(jiǎn)化行列式的計(jì)算魔慷。

推論 行列式的某一行(列)的元素與另一行(列)的對(duì)應(yīng)元素的代數(shù)余子式乘積之和等于零只锭。即
a_{i1}A_{j1} + a_{i2}A_{j2} + \cdots+ a_{in}A_{jn} = 0,\quad i\neq j,\\ a_{1i}A_{1j} + a_{2i}A_{2j} + \cdots+ a_{ni}A_{nj} = 0,\quad i\neq j.
證 把行列式D=det(a_{ij})按第j行展開，有
a_{j1}A_{j1} + a_{j2}A_{j2} + \cdots+ a_{jn}A_{jn} =\begin{vmatrix} a_{11} & \cdots & a_{1n}\\ \vdots & & \vdots \\ a_{i1} & \cdots & a_{in}\\ \vdots & & \vdots \\ a_{j1} & \cdots & a_{jn}\\ \vdots & & \vdots \\ a_{n1} & \cdots & a_{nn}\\ \end{vmatrix},
在上式中把a_{jk}換成a_{ik}(k=1,\cdots,n)院尔，可得
a_{i1}A_{j1} + a_{i2}A_{j2} + \cdots+ a_{in}A_{jn} =\begin{vmatrix} a_{11} & \cdots & a_{1n}\\ \vdots & & \vdots \\ a_{i1} & \cdots & a_{in} (i\text{行})\\ \vdots & & \vdots \\ a_{i1} & \cdots & a_{in}(j\text{行})\\ \vdots & & \vdots \\ a_{n1} & \cdots & a_{nn}\\ \end{vmatrix}
當(dāng)i\neq j時(shí)蜻展，上式右端行列式中有兩行對(duì)應(yīng)元素相同页滚，故行列式為零，即得
a_{i1}A_{j1} + a_{i2}A_{j2} + \cdots+ a_{in}A_{jn} = 0,\quad i\neq j.
上述證法如按列進(jìn)行铺呵，可得
a_{1i}A_{1j} + a_{2i}A_{2j} + \cdots+ a_{ni}A_{nj} = 0,\quad i\neq j.

克拉默法則

又譯為克萊姆法則。

含有n個(gè)未知數(shù)x_1,x_2,\cdots,x_n的n個(gè)線性方程的方程組
\begin{cases} a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n= b_1, \\ a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n= b_2, \\ \cdots \\ a_{n1}x_1 + a_{n2}x_2 + \cdots + a_{nn}x_n= b_n, \\ \end{cases} \tag{8}
與二隧熙、三元線性方程組類似片挂，它的解可以用n階行列式表示，即有

克拉默法則 如果線性方程組(8)的系數(shù)行列式不等于零贞盯，即
D =\begin{vmatrix} a_{11} & \cdots & a_{1n}\\ \vdots & & \vdots \\ a_{n1} & \cdots & a_{nn}\\ \end{vmatrix} \neq 0,
那么音念，方程組(11)有唯一解
x_1 = \frac{D_1}{D}, \quad x_2 = \frac{D_2}{D}, \quad x_n = \frac{D_n}{D}, \tag{9}
其中D_j(j=1,2,\cdots,n)是把系數(shù)行列式D中第j列的元素用方程組右端的常數(shù)項(xiàng)代替后得到的n階行列式，即
D_j =\begin{vmatrix} a_{11} &\cdots &a_{1,j-1}& b_1 & a_{1,j+1}&\cdots & a_{1n}\\ \vdots & &\vdots& \vdots & \vdots& & \vdots\\ a_{n1} &\cdots &a_{n,j-1}& b_n & a_{n,j+1}&\cdots & a_{nn} \end{vmatrix}.
定理4 如果線性方程組(8)的系數(shù)行列式D \neq 0躏敢，則(8)一定有解闷愤，且解是唯一的。

該定理的逆否定理為
定理4' 如果線性方程組(8)無解或有兩個(gè)不同的解件余，則它的系數(shù)行列式比為零讥脐。

線性方程組(8)右端的常數(shù)項(xiàng)b_1,b_2,\cdots,b_n全為零時(shí)，線性方程組(8)叫做 齊次線性方程組啼器。

對(duì)于齊次線性方程組
\begin{cases} a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n= 0, \\ a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n= 0, \\ \cdots \\ a_{n1}x_1 + a_{n2}x_2 + \cdots + a_{nn}x_n= 0, \\ \end{cases} \tag{10}
x_1=x_2=\cdots = x_n =0一定是它的解旬渠，這個(gè)解叫做齊次線性方程組的零解。

如果一組不全為零的數(shù)是(10)的解端壳，則它叫做齊次線性方程組(10)的非零解告丢。

定理5 如果齊次線性方程組(10)的系數(shù)行列式D \neq 0，則齊次線性方程組(10)沒有非零解损谦。

定理5' 如果齊次線性方程組(10)有非零解岖免，則它的系數(shù)行列式必為零。

矩陣

矩陣是一個(gè)按照長(zhǎng)方陣列排列的復(fù)數(shù)或?qū)崝?shù)集合照捡。
由m × n個(gè)數(shù)組成的一個(gè)m行n列的矩形表格颅湘。如圖所示：

A = \left[ \begin{matrix} a_{11} & a_{12} & \cdots & a_{1n}\\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{matrix} \right]

稱為m行n列矩陣，簡(jiǎn)稱m \times n矩陣栗精。

這個(gè)m \times n個(gè)數(shù)稱為矩陣A的元素栅炒，簡(jiǎn)稱為元，數(shù)a_{ij}位于矩陣A的第i行第j列术羔，稱為矩陣A的(i,j)元膛锭。

以數(shù)a_{ij}為(i,j)元的矩陣可簡(jiǎn)記作(a_{ij})或(a_{ij})_{m \times n}索抓，m \times n矩陣A也記作A_{m \times n}。

行數(shù)與列數(shù)都等于n的矩陣稱為n階矩陣或n階方陣。

元素都是零的矩陣稱為零矩陣竿奏，記作O。

n個(gè)變量x_1,x_2,\cdots,x_n與m個(gè)變量y_1,y_2,\cdots,y_m之間的關(guān)系式
\begin{cases} y_1= a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n, \\ y_2= a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n, \\ \cdots \\ y_m= a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{mn}x_n \\ \end{cases} \tag{2}
表示從一個(gè)變量x_1,x_2,\cdots,x_n與到變量y_1,y_2,\cdots,y_m的線性變換宙暇，其中a_{ij}為常數(shù)。線性變換(2)的系數(shù)a_{ij}構(gòu)成矩陣A = (a_{ij})_{m \times n}涩蜘，稱為系數(shù)矩陣。

矩陣的基本運(yùn)算

兩個(gè)矩陣的行數(shù)和列數(shù)分別相等熏纯，稱它們?yōu)?strong>同型矩陣同诫。

加法

矩陣的加法只能在兩個(gè)同型矩陣之間進(jìn)行，兩個(gè)矩陣相加時(shí)樟澜，對(duì)應(yīng)元素進(jìn)行相加误窖。

如：

\left[ \begin{matrix} 1 & 2 & 3\\ 4 & 5 & 7 \end{matrix} \right] + \left[ \begin{matrix} 0 & 0 & 2\\ 2 & 1 & 3 \end{matrix} \right] = \left[ \begin{matrix} 1 & 2 & 5\\ 6 & 6 & 10 \end{matrix} \right]

數(shù)乘

數(shù)\lambda與矩陣A的乘積記作\lambda A或A\lambda，規(guī)定為

\lambda A = A\lambda = \left[ \begin{matrix} \lambda a_{11} & \lambda a_{12} & \cdots & \lambda a_{1n}\\ \lambda a_{21} & \lambda a_{22} & \cdots & \lambda a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ \lambda a_{m1} & \lambda a_{m2} & \cdots & \lambda a_{mn} \end{matrix} \right]

乘法

必須滿足矩陣A的列數(shù)與矩陣B的行數(shù)相等秩贰，或者矩陣A的行數(shù)與矩陣B的列數(shù)相等霹俺。

記C=AB，矩陣C的第i行第j列的元素等于矩陣A的第i行的所有元素與矩陣B的第j列的對(duì)應(yīng)元素的乘積之和毒费，即：
C_{ij} = \sum_{k=1}^na_{ik}b_{kj}
如：

\left[ \begin{matrix} 1 & 2 & 3 \end{matrix} \right] _{1×3} \left[ \begin{matrix} 4 \\ 5 \\6 \end{matrix} \right]_{3×1} = 1×4 + 2×5 + 3×6 =32

\left[ \begin{matrix} 1 \\ 2 \\3 \end{matrix} \right]_{3×1} \left[ \begin{matrix} 4 & 5 & 6 \end{matrix} \right] _{1×3} = \left[ \begin{matrix} 4 & 5 & 6\\ 8 & 10 & 12\\12 & 15 & 18 \end{matrix} \right]_{3×3}

矩陣的乘法不滿足交換律丙唧，但仍然滿足結(jié)合律和分配律：

  1. (AB)C = A(BC)

  2. \lambda (AB) = (\lambda A)B = A(\lambda B) \quad (其中\(zhòng)lambda為實(shí)數(shù))

  3. A(B+C) = AB + AC,\quad (B+C)A = BA +CA

轉(zhuǎn)置

矩陣A的轉(zhuǎn)置矩陣，記作A^T觅玻，是將A的行列互換后所得矩陣想际，如果A是一個(gè)m ×n階矩陣，A^T是一個(gè)n×m階矩陣溪厘。

A = \left[ \begin{matrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{matrix} \right] A^T = \left[ \begin{matrix} 1 & 2 & 3\\ 4 & 5 & 6 \end{matrix} \right]

矩陣的轉(zhuǎn)置的性質(zhì)：

  1. (A^T)^T = A
  2. (A+B)^T = A^T +B^T
  3. (\lambda A)^T=\lambda A^T
  4. (AB)^T = B^TA^T

對(duì)稱矩陣

定義 一個(gè)n \times n的矩陣A沼琉，若滿足A^T =A，則稱A為對(duì)稱矩陣(symmetric matrix)桩匪，簡(jiǎn)稱對(duì)稱陣打瘪。其特點(diǎn)為：它的元素以對(duì)角線為對(duì)稱軸對(duì)應(yīng)相等。

例 設(shè)列矩陣X=(x_1,x_2,\cdots,x_n)^T滿足X^TX=1傻昙，E為n階單位陣闺骚，H = E - 2XX^T，證明H是對(duì)稱陣妆档，且HH^T=E僻爽。

注意：X^TX = x_1^2 + x_2^2 + \cdots + x_n^2是一階方陣，也就是一個(gè)數(shù)贾惦，而XX^T是n階方陣胸梆。

證
\begin{aligned} H^T &= (E - 2XX^T)^T \\ &=E^T -2(XX^T)^T \\ &= E - 2XX^T = H \end{aligned}
所以H是對(duì)稱陣。
\begin{aligned} HH^T &= H^2 = (E -2XX^T)^2 \\ &= E - 4XX^T + 4(XX^T)(XX^T) \\ &= E - 4XX^T + 4X(X^TX)X^T \\ &= E - 4XX^T + 4XX^T = E \end{aligned}

單位矩陣

如同數(shù)1位實(shí)數(shù)乘法中的單位元一樣须板，也存在一個(gè)特殊矩陣E是矩陣乘法中的單位元碰镜，即
EA = AE = A
對(duì)任意n \times n的矩陣A都成立。

定義 n \times n的單位矩陣為矩陣E = (\delta_{ij})习瑰，其中
\delta_{ij} = \left\{ \begin{array}{lr} 1 & 當(dāng) \,\, i =j\\ 0 & 當(dāng) \,\, i \neq j \end{array} \right.

即主對(duì)角元素均為1绪颖，其他元素均為0的n \times n矩陣。

一般地甜奄，若B為任一m \times n矩陣柠横，且C為任一n \times r矩陣窃款，則
BE = B \,\,\,\, \text{且} \,\,\,\, EC = C

n \times n單位矩陣E的列向量為用于定義n維歐幾里得坐標(biāo)空間的標(biāo)準(zhǔn)向量。E的第j列向量的標(biāo)準(zhǔn)記號(hào)為e_j牍氛。因此晨继，n \times n單位矩陣可寫為
E = (e_1,e_2,\cdots,e_n)

矩陣的跡

n階方陣A的跡(trace)記作tr(A)，是對(duì)角元素之和：
tr(A) = a_{11} + a_{22} + \cdots + a_{nn} = \sum_{i=1}^n a_{ii}

性質(zhì)：：

  1. 跡是所有特征值的和
  2. tr(AB)=tr(BA)
  3. 若矩陣A與矩陣B相似搬俊，則tr(A)=tr(B)

共軛矩陣

首先回顧下復(fù)數(shù)的概念紊扬，復(fù)數(shù)是實(shí)數(shù)的延伸，它使任意多項(xiàng)式方程都有跟悠抹。復(fù)數(shù)當(dāng)中有個(gè)虛數(shù)單位i，它是-1的一個(gè)平方根扩淀，即i^2=-1楔敌。

任一復(fù)數(shù)都可以表達(dá)為a+bi，其中a及b皆為實(shí)數(shù)驻谆，分別稱為復(fù)數(shù)的實(shí)部和虛部卵凑。

復(fù)數(shù)z = a+bi的模為|z| = \sqrt{a^2 +b^2}。

z = a+bi的共軛復(fù)數(shù)定義為z = a-bi胜臊，即兩個(gè)實(shí)部相等勺卢，虛部互為相反數(shù)。記作\overline{z}象对。有

  • \overline{z+w} = \overline{z} + \overline{w}
  • \overline{zw}=\overline{z}\cdot \overline{w}
  • \overline{\left( \frac{z}{w} \right)}=\frac{\overline{z}}{\overline{w}}
  • \overline{\overline{z}}=z
  • \overline{z} =z \quad 當(dāng)且僅當(dāng)z是實(shí)數(shù)
  • |z|^2 = z \overline{z}

當(dāng)虛部不為零時(shí)黑忱，共軛復(fù)數(shù)就是實(shí)部相等，虛部相反勒魔；

如果虛部為零甫煞，其共軛復(fù)數(shù)就是自身。即實(shí)數(shù)的共軛復(fù)數(shù)就是自身冠绢。

當(dāng)A=(a_{ij})為復(fù)矩陣時(shí)抚吠，用\overline{a}_{ij}表示a_{ij}的共軛復(fù)數(shù)，記
\overline{A} = (\overline{a}_{ij}),
\overline{A}稱為A的共軛矩陣弟胀。

共軛矩陣滿足下述運(yùn)算規(guī)律(A,B為復(fù)矩陣楷力，\lambda為復(fù)數(shù))：

  1. \overline{A+B}=\overline{A} + \overline{B}
  2. \overline{\lambda A} = \overline{\lambda} \overline{A}
  3. \overline{AB}=\overline{A}\overline{B}

埃爾米特矩陣

A的共軛矩陣\overline{A}的轉(zhuǎn)置記為A^H。

定義 若一個(gè)矩陣A滿足A =A^H孵户，則稱它為埃爾米特矩陣(Hermitian)萧朝。

矩陣的逆

方陣的行列式

定義6 由n階方陣A的元素所構(gòu)成的行列式，稱為方陣A的行列式夏哭，記作|A|或det A剪勿。

由A確定|A|的這個(gè)運(yùn)算滿足下述運(yùn)算規(guī)律(設(shè)A,B為n階方陣，\lambda為數(shù))：

  1. |A^T|=|A| （行列式性質(zhì)1）
  2. |\lambda A| = \lambda^n |A|
  3. |AB| = |A||B|

行列式|A|的各個(gè)元素的代數(shù)余子式A_{ij}所構(gòu)成的如下的矩陣（注意是轉(zhuǎn)置排法）
A^* =\begin{pmatrix} A_{11} &A_{21} & \cdots & A_{n1}\\ A_{12} &A_{22} & \cdots & A_{n2}\\ \vdots &\vdots && \vdots \\ A_{1n} &A_{2n} & \cdots & A_{nn}\\ \end{pmatrix} ,
稱為矩陣A的伴隨矩陣方庭，簡(jiǎn)稱伴隨陣厕吉。

試證
AA^* = A^*A = |A|E
證
AA^* =\begin{pmatrix} a_{11} &a_{12} & \cdots & a_{1n}\\ a_{21} &a_{22} & \cdots & a_{2n}\\ \vdots &\vdots && \vdots \\ a_{n1} &a_{n2} & \cdots & a_{nn}\\ \end{pmatrix} \begin{pmatrix} A_{11} &A_{21} & \cdots & A_{n1}\\ A_{12} &A_{22} & \cdots & A_{n2}\\ \vdots &\vdots && \vdots \\ A_{1n} &A_{2n} & \cdots & A_{nn}\\ \end{pmatrix} = \begin{pmatrix} |A| & & & \\ &|A| & & \\ & &\ddots& \\ & & & |A|\\ \end{pmatrix} = |A| E

逆矩陣

設(shè)A為n階方陣(n×n)酱固，若存在n階方陣B使得:AB=BA=E，則稱A是可逆的(或==非奇異的==)且矩陣B是矩陣A的逆矩陣头朱，記為A^{-1} = B运悲。
矩陣B稱為A的逆矩陣，簡(jiǎn)稱逆陣项钮。

若B和C均為A的逆矩陣班眯，則
B = BE= B(AC) = (BA)C = EC = C
因此一個(gè)矩陣最多有一個(gè)逆矩陣。

定理1 若矩陣A可逆烁巫，則|A| \neq 0

證 A可逆署隘，即有A^{-1}，使AA^{-1}=E亚隙。故|A|\cdot |A^{-1}| = |E| =1磁餐，所以|A| \neq 0。

定理2 若|A| \neq 0阿弃，則矩陣A可逆诊霹，且
A^{-1} = \frac{1}{|A|}A^* \tag{1}
其中A^*為矩陣A的伴隨陣。

證

我們已知
AA^* = A^*A = |A|E
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=%7CA%7C%20%5Cneq%200" alt="|A| \neq 0" mathimg="1">渣淳，(等式兩邊同時(shí)乘以\frac{1}{|A|})故有
A\frac{1}{|A|} A^* = \frac{1}{|A|}A^*A =E,
所以脾还，按逆矩陣的定義，即知A可逆入愧，且
A^{-1}= \frac{1}{|A|}A^*.

當(dāng)|A|=0時(shí)鄙漏，A稱為奇異矩陣珍坊，否則稱非奇異矩陣瞎领。由上面兩定理可知：A是可逆矩陣的充分必要條件是|A| \neq 0，即可逆矩陣就是非奇異矩陣种蘸。

由定理2鞠值，可得下述推論媚创。

推論 若AB=E(或BA=E)，則B=A^{-1}彤恶。

證 |A|\cdot |B| =|E| = 1钞钙，故|A| \neq 0，因而A^{-1}存在声离，于是
B = EB = (A^{-1}A)B = A^{-1}(AB) = A^{-1}E = A^{-1}芒炼。
方陣的逆陣滿足下述運(yùn)算規(guī)律：

  1. 若A可逆，則A^{-1}亦可逆术徊，且(A^{-1})^{-1}=A

  2. 若A可逆本刽，數(shù)\lambda \neq 0，則\lambda A可逆，且(\lambda A)^{-1}= \frac{1}{\lambda}A^{-1}

  3. 若A,B為同階矩陣且均可逆子寓，則AB亦可逆暗挑，且
    (AB)^{-1} = B^{-1}A^{-1}
    證 (AB)(B^{-1}A^{-1}) = A(BB^{-1})A^{-1}=AA^{-1} =E ，即有(AB)^{-1}=B^{-1}A^{-1}斜友。

  4. 若A可逆炸裆，則A^T亦可逆，且(A^T)^{-1}= (A^{-1})^T

    證 A^T(A^{-1})^T=(A^{-1}A)^T=E^T=E

矩陣的秩

矩陣的初等變換

為了引進(jìn)矩陣的初等變換鲜屏，先來分析用消元法解線性方程組的例子烹看。

引例 求解線性方程組

image-20210713135745673
image-20210713135801187

在上述消元過程中，始終把方程組看作一個(gè)整體洛史。其中用到三種變換惯殊，即：交換方程次序(如(B_1)\text{中}①\leftrightarrow ②)；以不等于0的數(shù)乘某個(gè)方程(如(B_3)中②\times \frac{1}{2})也殖；一個(gè)方程加上另一個(gè)方程的k倍(如(B_2)中③-2①)土思。

由于這三種變換都是可逆的，因此變換前的方程組與變換后的方程組是同解的毕源。

在上述變換過程中浪漠，實(shí)際上只對(duì)方程組的系數(shù)和常數(shù)進(jìn)行運(yùn)算陕习，未知數(shù)并未參與運(yùn)算霎褐。因此，若記方程組(1)的增廣矩陣為
B =(A,b) =\begin{pmatrix} 2 &-1 & -1 & 1 &2\\ 1 &1 & -2 & 1 &4\\ 4 &-6 &2& -2 &4 \\ 3 &6 & -9 & 7 & 9\\ \end{pmatrix},
那么上述對(duì)方程組的變換完全可以轉(zhuǎn)換為對(duì)矩陣B的變換该镣。把方程組的上述三種同解變換移植到矩陣上冻璃，就得到句子的三種初等變換。

定義1 下面三種變換稱為矩陣的初等行變換：

  1. 對(duì)調(diào)兩行(對(duì)調(diào)i,j兩行损合，記作r_i \leftrightarrow r_j)
  2. 以數(shù)k \neq0乘某一行中的所有元素(第i行乘k省艳，記作r_i \times k)
  3. 把某一行所有元素的k倍加到另一行對(duì)應(yīng)的元素上去(第j行的k倍加到第i行上，記作r_i+kr_j)

把定義中的“行”換成“列”嫁审，即得矩陣的初等列變換的定義跋炕。

矩陣的初等行變換與初等列變換，統(tǒng)稱為初等變換律适。

顯然辐烂，三種初等變換都是可逆的(操作)，且其逆變換是同一類型的初等變換捂贿；

  • 變換r_i \leftrightarrow r_j的逆變換就是其本身纠修；
  • 變換r_i \times k的逆變換為r_i \times \left(\frac{1}{k}\right)(或記作r_i \div k)
  • 變換r_i + kr_j的逆變換為r_i + (-k)r_j(或記作r_i - kr_j)

如果矩陣A經(jīng)過有限次初等行變換變成矩陣B，就稱矩陣A與B行等價(jià)厂僧，記作A\overset{r}{\sim}B扣草；

如果矩陣A經(jīng)過有限次初等列變換變成矩陣B，就稱矩陣A與B列等價(jià)，記作A\overset{c}{\sim}B辰妙；

如果矩陣A經(jīng)過有限次初等變換變成矩陣B鹰祸，就稱為矩陣A與B等價(jià)，記作A \sim B上岗。

矩陣之間的等價(jià)關(guān)系具有下列性質(zhì)：

  1. 反身性 A \sim A
  2. 對(duì)稱性 若A \sim B福荸，則B \sim A
  3. 傳遞性 若A \sim B, B \sim C，則A \sim C

下面用矩陣的初等行變換來解方程組(1)肴掷，其過程可與方程組(1)的消元過程一一對(duì)照敬锐。

image-20210713143030393
image-20210713143040851
image-20210713143056557

矩陣B_4和B_5都稱為行階梯形矩陣，其特點(diǎn)是：

可畫出一條階梯線呆瞻，線的下方全為0台夺；

每個(gè)臺(tái)階只有一行，臺(tái)階數(shù)即使非零行的行數(shù)痴脾；

階梯線的豎線后面的一個(gè)元素為非零元颤介，也就是非零行的第一個(gè)非零元；

行階梯形矩陣B_5還稱為行最簡(jiǎn)形矩陣赞赖，其特點(diǎn)是：非零行的第一個(gè)非零元為1滚朵，且這些非零元所在的列的其他元素都為0。

對(duì)于任何矩陣A_{m \times n}前域，總可經(jīng)過有限次初等行變換把它變?yōu)樾须A梯形矩陣和行最簡(jiǎn)形矩陣辕近。

對(duì)行最簡(jiǎn)形矩陣再施以初等列變換，可變成一種形狀更簡(jiǎn)單的矩陣匿垄，稱為標(biāo)準(zhǔn)形移宅，例如：

image-20210713143608931

矩陣F稱為矩陣B的標(biāo)準(zhǔn)形，其特點(diǎn)是：F的左上角是一個(gè)單位矩陣椿疗，其余元素全為0漏峰。

對(duì)于m \times n矩陣A，總可經(jīng)過初等變換(行變換或列變換)把它化為標(biāo)準(zhǔn)形
F = \begin{pmatrix} E_r & O \\ O & O \\ \end{pmatrix} _{m \times n}

此標(biāo)準(zhǔn)形由m,n,r三個(gè)數(shù)完全確定届榄，其中r就是行階梯形矩陣中非零行的行數(shù)浅乔。

定理1 設(shè)A與B為m \times n矩陣，那么：

  1. A \overset{r}{\sim} B的充要條件是存在m階可逆矩陣P铝条；使PA=B;
  2. A \overset{c}{\sim} B的充要條件是存在n階可逆矩陣Q靖苇；使AQ=B;
  3. A \sim B的充要條件是存在m階可逆矩陣P及n階可逆矩陣Q，使PAQ=B攻晒。

為了證明這個(gè)定理，我們引進(jìn)初等矩陣的知識(shí)鲁捏。

定義2 由單位陣E經(jīng)過一次初等變換得到的矩陣稱為初等矩陣芯砸。

三種初等變換對(duì)應(yīng)有三種初等矩陣萧芙。

(1) 把單位陣中第i,j兩行對(duì)調(diào)(或兩列對(duì)調(diào))，得初等矩陣

image-20210713151049997

用m階初等矩陣E_m(i,j)左乘矩陣A=(a_{ij})_{m \times n}假丧，得

image-20210713151314992

其結(jié)果相當(dāng)于對(duì)矩陣A施行第一種初等行變換双揪。

|E(i,j)| = -1 \neq 0，所以是可逆的包帚。因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=%7CE%7C%3D1" alt="|E|=1" mathimg="1">渔期，對(duì)E交換兩行或兩列，行列式變號(hào)渴邦。

(2)以數(shù)k \neq 0乘單位陣的第i行(或第i列)疯趟，得初等矩陣

image-20210713151532486

可以驗(yàn)知：以E_m(i(k))左乘矩陣A，其結(jié)果相當(dāng)于以數(shù)k乘A的第i行(r_i \times k)谋梭；

行列式某行乘以某個(gè)數(shù)k信峻，等于用k乘以此行列式，所以行列式不為零瓮床，可逆盹舞。

或因此矩陣是對(duì)角矩陣，行列式為1 \times 1 \cdots \times k \cdots \times 1 = k隘庄。

(3) 以k乘E的第j行加到第i行上或以k乘E的第i列加到第j列上踢步，得初等矩陣

image-20210713151729864

可以驗(yàn)知：以E_m(ij(k))左乘矩陣A，其結(jié)果相當(dāng)于把A的第j行乘k加到第i行(r_i+kr_j)丑掺。

得到的矩陣的行列式還是為1 \neq 0获印，所以可逆。

歸納上面的討論吼鱼，可得

性質(zhì)1 設(shè)A是一個(gè)m \times n矩陣蓬豁，對(duì)A施行一次初等行變換牵辣，相當(dāng)于在A的左邊乘以相應(yīng)的m階初等矩陣琼蚯；對(duì)A施行一次初等列變換捏检，相當(dāng)于在A的右邊乘以相應(yīng)的n階初等矩陣。

性質(zhì)2 方陣A可逆的充要條件是存在有限個(gè)初等矩陣P_1,P_2,\cdots,P_l琐谤，使A = P_1P_2\cdots P_l。

證 先證充分性玩敏。設(shè)A = P_1P_2\cdots P_l斗忌，因初等矩陣可逆，有限個(gè)可逆矩陣的乘積仍可逆旺聚，故A可逆织阳。

再證必要性 設(shè)n階方陣A可逆，且A的標(biāo)準(zhǔn)形矩陣為F砰粹，由于F \sim A唧躲，知F經(jīng)過有限次初等變換可化為A，即有初等矩陣P_1,P_2,\cdots,P_l，使
A = P_1 \cdots P_s FP_{s+1}\cdots P_l,
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=A" alt="A" mathimg="1">可逆弄痹，所以|A| = |P_1|\cdot |P_2| \cdot \cdots |P_l| \neq 0饭入，所以|P_1| ,|P_2|,\cdots,|P_l|都不等于零。

所以P_1,\cdots,P_l也都可逆肛真，故標(biāo)準(zhǔn)形矩陣F可逆谐丢。假設(shè)
F = \begin{pmatrix} E_r & O \\ O & O \\ \end{pmatrix} _{n \times n}
中的r < n，則|F| =0蚓让，與F可逆矛盾乾忱，因此必有r=n，即F=E历极，從而
A=P_1P_2\cdots P_l.

下面應(yīng)用初等矩陣的知識(shí)來證明定理1饭耳。

定理1的證明

  1. 依據(jù)A\overset{r}{\sim}B的定義和初等矩陣的性質(zhì)，有
    \begin{aligned} A\overset{r}{\sim}B &\Leftrightarrow A經(jīng)過有限次初等行變換變成B \\ &\Leftrightarrow 存在有限個(gè)m階初等矩陣P_1,P_2,\cdots,P_l执解，使P_l\cdots P_2P_1A=B\\ &\Leftrightarrow 存在m階可逆矩陣P寞肖，使PA=B. \end{aligned}

類似可證明2. 3.

推論 方陣A可逆的充分必要條件是A\overset{r}{\sim}E。

證 A可逆 \Leftrightarrow 存可逆陣P(即A的逆陣)衰腌，使PA=E新蟆，所以A\overset{r}{\sim}E。

定理1表明右蕊，如果A\overset{r}{\sim}B琼稻，即A經(jīng)過一系列初等變換可以變?yōu)?img class="math-inline" src="https://math.jianshu.com/math?formula=B" alt="B" mathimg="1">，則有可逆矩陣P,使PA=B饶囚。那么帕翻，如何求出這個(gè)可逆矩陣P？

由于
PA=B \Leftrightarrow \begin{cases} PA = B, \\ PE=P \end{cases} \Leftrightarrow P(A,E) = (B,P) \Leftrightarrow (A,E) \overset{r}{\sim} (B,P)
因此萝风，如果對(duì)矩陣(A,E)作初等行變換嘀掸，那么，當(dāng)把A變?yōu)?img class="math-inline" src="https://math.jianshu.com/math?formula=B" alt="B" mathimg="1">時(shí)规惰，E就變?yōu)?img class="math-inline" src="https://math.jianshu.com/math?formula=P" alt="P" mathimg="1">睬塌。

于是就得到了求逆矩陣的一種新方法。

矩陣的秩

定義 在m \times n的矩陣A中歇万，任取k行與k列揩晴，位于這些行列交叉處的k^2個(gè)元素，不改變它們?cè)?img class="math-inline" src="https://math.jianshu.com/math?formula=A" alt="A" mathimg="1">中所處的位置次序而得的k階行列式贪磺，稱為矩陣A的k階子式硫兰。

m \times n矩陣A的k階子式共有C_m^k \cdot C_n^k個(gè)。

定義 設(shè)在矩陣A中有一個(gè)不等于0的r階子式D寒锚，且所有r+1階子式(如果存在的話)全等于0劫映，那么D稱為矩陣A的最高階非零子式呻粹，數(shù)r稱為矩陣A的秩，記作R(A)苏研。并規(guī)定零矩陣的秩等于0等浊。

比如，我們上面知道摹蘑，一個(gè)m \times n矩陣A筹燕，它的標(biāo)準(zhǔn)形
\begin{pmatrix} E_r & O \\ O & O \\ \end{pmatrix} _{m \times n}
由數(shù)r完全確定，這個(gè)數(shù)就是A的行階梯形中非零行的行數(shù)衅鹿，也就是矩陣A的秩撒踪。

顯然，若A為m \times n矩陣大渤，則0 \leq R(A) \leq \min\{m,n\}

由于行列式與其轉(zhuǎn)置行列式相等制妄，因此A^T的子式與A的子式對(duì)應(yīng)相等，從而R(A^T) = R(A)泵三。

對(duì)于n階矩陣A耕捞，由于A的n階子式只有一個(gè)|A|，故當(dāng)|A| \neq 0時(shí)R(A)=n烫幕；
當(dāng)|A| =0時(shí)R(A) < n俺抽。

可見可逆矩陣的秩等于矩陣的階數(shù)，不可逆矩陣的秩小于矩陣的階數(shù)较曼。因此磷斧，可逆矩陣又稱為滿秩矩陣，不可逆矩陣(奇異矩陣)又稱為降秩矩陣捷犹。

定理2 若A \sim B弛饭，則R(A) = R(B)。
推論 若可逆矩陣P,Q使PAQ = B萍歉，則R(A) = R(B)侣颂。

秩的性質(zhì)

  1. 0 \leq R(A_{m \times n}) \leq \min |m,n|
  2. R(A^T) = R(A)
  3. 若A \sim B，則R(A) = R(B)
  4. 若P翠桦、Q可逆横蜒，則R(PAQ) = R(A)
  5. \max \{R(A),R(B)\} \leq R(A,B) \leq R(A) + R(B)
    • 特別第胳蛮，當(dāng)B=b為非零列向量時(shí)销凑，有
      R(A) \leq R(A,b) \leq R(A) +1
  6. R(A+B) \leq R(A) + R(B)
  7. R(AB) \leq \min \{R(A),R(B) \}
  8. 若A_{m \times n}B_{n \times l} = O，則R(A) + R(B) \leq n

線性方程組的解

設(shè)有n個(gè)未知數(shù)m個(gè)方程的線性方程組
\begin{cases} a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n= b_1, \\ a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n= b_2, \\ \cdots \\ a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{mn}x_n= b_m, \\ \end{cases} \tag{3}

(3)式可以寫成以向量x為未知元的向量方程
Ax = b,

定理3 n元線性方程組Ax=b

  1. 無解的充分必要條件是R(A) < R(A,b) (即出現(xiàn)了0 = b的情況仅炊，其中b \neq 0)
  2. 有唯一解的充分必要條件是R(A) = R(A,b) = n
  3. 有無限多解的充分必要條件是R(A) = R(A,b) < n

這里的n是未知數(shù)的個(gè)數(shù)斗幼。

定理4 n元齊次線性方程組Ax =0有非零解的充分必要條件是R(A) < n
定理5 線性方程組Ax =b有解的充分必要條件是R(A) = R(A,b)

用克拉默法則來看的話，
如果A是方陣抚垄，Ax=0有非零解的條件是蜕窿，|A| =0谋逻，即R(A) < n。

我們知道
逆矩陣存在 \Leftrightarrow |A| \neq 0 \Leftrightarrow R(A) =n

正交性

標(biāo)量積

兩個(gè)R^n中的向量x和y可以看成是n \times 1矩陣桐经。構(gòu)造矩陣乘積x^Ty毁兆。這個(gè)乘積為一個(gè)1\times 1矩陣，可看成是一個(gè)R^1中的向量阴挣，或一個(gè)實(shí)數(shù)(標(biāo)量)气堕。

乘積x^Ty稱為x和y的標(biāo)量積(scalar product)或內(nèi)積。

x^Ty = ||x||\,\, ||y|| \, cos \theta = \sum_{i=1}^n x_i y_i = \langle x,y \rangle
如果x^Ty=0畔咧，則稱向量x和y為正交的茎芭。

內(nèi)積空間

一個(gè)向量空間V上的內(nèi)積為V上的運(yùn)算，它將V中的向量x和y與一個(gè)實(shí)數(shù)\langle x,y \rangle關(guān)聯(lián)誓沸，并滿足下列條件：

  1. \langle x,y \rangle \geq 0梅桩，等號(hào)成立的充要條件是x=0
  2. 對(duì)V中所有的x和y，有 \langle x,y \rangle = \langle y,x \rangle
  3. 對(duì)V中所有的x,y,z及所有的標(biāo)量\alpha,\beta拜隧，有 \langle \alpha x + \beta y,z \rangle = \alpha \langle x,z \rangle + \beta \langle y,z \rangle

一個(gè)定義了內(nèi)積的向量空間V稱為內(nèi)積空間宿百。

正交集

定義 令v_1,v_2,\cdots,v_n為一內(nèi)積空間V中的非零向量。若i \neq j時(shí)有\langle v_i, v_j \rangle = 0洪添，則\{v_1,v_2,\cdots,v_n\}稱為向量的==正交集==犀呼。

定理 若\langle v_i, v_j \rangle = 0，則\{v_1,v_2,\cdots,v_n\}為一內(nèi)積空間V中非零向量的正交集薇组，則v_1,v_2,\cdots,v_n是線性無關(guān)的外臂。

規(guī)范正交

定義 ==規(guī)范正交==的向量集合是單位向量的正交集。

集合\{u_1,u_2,\cdots, u_n\}是規(guī)范正交集的充要條件為
\langle u_i, u_j \rangle = \delta_{ij}
其中
\delta_{ij} = \left\{ \begin{array}{lr} 1 & 當(dāng) \,\, i =j\\ 0 & 當(dāng) \,\, i \neq j \end{array} \right.

說的是集合中任意兩個(gè)向量做內(nèi)積結(jié)果為0律胀。

規(guī)范正交基

若B=\{u_1,u_2,\cdots, u_k\}為一個(gè)內(nèi)積空間V中的規(guī)范正交集宋光，則B為子空間S=\text{Span}(u_1,u_2,\cdots, u_k)的一組基。我們稱B為S的一組==規(guī)范正交基==炭菌。

正交矩陣

定義 若一個(gè)n \times n矩陣Q的列向量構(gòu)成R^n中的一組規(guī)范正交基罪佳，則稱Q為==正交矩陣==。

定理 一個(gè)n \times n矩陣Q是正交矩陣的充要條件為Q^TQ=I黑低。
由定理可得赘艳，若Q為一正交矩陣，則Q可逆克握，且Q^{-1}=Q^T仿粹。

性質(zhì) 若Q為一個(gè)n \times n的正交矩陣婶恼，則：

  1. Q的列向量構(gòu)成了R^n的一組規(guī)范正交基
  2. Q^TQ=I
  3. Q^T=Q^{-1}
  4. \langle Qx, Qy \rangle = \langle x, y \rangle
  5. ||Qx||_2 = ||x||_2

相似矩陣

向量的內(nèi)積

定義1 設(shè)有n為向量

x = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}, \, y=\begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{pmatrix}

令
[x,y] =x_1y_1 + x_2y_2 + \cdots x_ny_n,
[x,y]稱為向量x與y的內(nèi)積(內(nèi)積也叫點(diǎn)積，也可表示為\langle x,y \rangle)。

內(nèi)積是兩個(gè)向量之間的一種運(yùn)算恼五，其結(jié)果是一個(gè)實(shí)數(shù)吗购，用矩陣記號(hào)表示，當(dāng)x與y都是列向量時(shí)，有
[x,y] = x^Ty = y^T x

內(nèi)積具有下列性質(zhì)(其中x,y,z為n維向量掏熬，\lambda為實(shí)數(shù))：

  1. [x,y] = [y,x]
  2. [\lambda x,y] = \lambda[x,y]
  3. [x+y,z] = [x,z] + [y,z]
  4. 當(dāng)x=0時(shí)，[x,x]=0秒梅；當(dāng)x \neq 0時(shí)旗芬，[x,x] >0

可以得到柯西不等式
[x,y]^2 \leq [x,x][y,y]

定義2 令
||x|| =\sqrt{[x,]} = \sqrt{x_1^2 + x_2^2 + \cdots + x_n^2}
||x||稱為n維向量x的長(zhǎng)度(或范數(shù))。

當(dāng)||x|| =1時(shí)捆蜀，稱x為單位向量岗屏。

向量的長(zhǎng)度具有以下性質(zhì)：

  1. 非負(fù)性 當(dāng)x \neq 0時(shí)，||x|| >0漱办；當(dāng)x =0時(shí)这刷，||x|| =0
  2. 齊次性 ||\lambda x|| = |\lambda| ||x||
  3. 三角不等式 ||x+y|| \leq ||x|| +||y||

當(dāng)[x,y]=0時(shí)，稱向量x與y正交娩井。顯然暇屋，若x=0，則x與任何向量都正交洞辣。

定理1 若n維向量a_1,a_2,\cdots, a_r是一組兩兩正交的非零向量咐刨，則a_1,a_2,\cdots, a_r線性無關(guān)。

若向量a_1,a_2,a_3線性無關(guān)扬霜，則它們互相不能用其他向量線性表示定鸟。

證 設(shè)有\lambda_1,\lambda_2,\cdots,\lambda_r使
\lambda_1a_1 + \lambda_1a_2 + \cdots + \lambda_ra_r = 0,
我們要證明\lambda_1 =\lambda_2 = \cdots \lambda_r = 0。以a_1^T左乘上式兩端著瓶，當(dāng)i \geq 2時(shí)联予，a_1^T a_i =0，要使上式等于零材原，所以
\lambda_1 a_1^T a_1 = 0
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=a_1%20%5Cneq%200" alt="a_1 \neq 0" mathimg="1">沸久，所以a_1^T a_1 \neq 0，從而只能\lambda_1=0余蟹，類似可以證明\lambda_2 =0,\cdots, \lambda_r =0卷胯。

于是向量組a_1,a_2,\cdots, a_r線性無關(guān)。

定義3 設(shè)n維向量e_1,e_2,\cdots,e_r是向量空間V的一個(gè)基威酒，如果e_1,e_2,\cdots,e_r兩兩正交窑睁，且都是單位向量，則稱e_1,e_2,\cdots,e_r是V的一個(gè)規(guī)范正交基葵孤。

若e_1,e_2,\cdots,e_r是V的一個(gè)規(guī)范正交基担钮，那么V中任意向量a都能由e_1,e_2,\cdots,e_r線性表示，設(shè)表示為

a = \lambda_1 e_1 + \lambda_ 2e_2 + \cdots + \lambda_r e_r

定義4 如果n階矩陣A滿足
A^TA = E \qquad (\text{即}A^{-1}=A^T)
那么稱A為正交矩陣佛呻，簡(jiǎn)稱正交陣裳朋。

A^TA=E \Rightarrow |A^T||A|=1 \Rightarrow A\text{可逆} \Rightarrow A^{-1}=A^T

上式用A的列向量表示，即是
\begin{pmatrix} a_1^T \\ a_2^T \\ \vdots \\ a_n^T \end{pmatrix} (a_1,a_2,\cdots, a_n) =E,
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=A%5ETA%3DE" alt="A^TA=E" mathimg="1">與AA^T=E等價(jià)吓著，所以上述結(jié)論對(duì)A的行向量亦成立鲤嫡。

由此可見，n階正交陣A的n個(gè)列(行)向量構(gòu)成向量空間R^n的一個(gè)規(guī)范正交基绑莺。

方陣的特征值與特征向量

定義6 設(shè)A是n階矩陣暖眼，如果數(shù)\lambda和n維非零列向量x使關(guān)系式
Ax =\lambda x \tag{1}
成立，那么纺裁，這樣的數(shù)\lambda稱為矩陣A的特征值诫肠，非零向量x稱為A的對(duì)應(yīng)于特征值\lambda的特征向量。

(1)式也可以寫成
(A - \lambda E)x = 0
這是n個(gè)未知數(shù)n個(gè)方程的齊次線性方程組欺缘，它有非零解的充分必要條件是系數(shù)行列式
|A - \lambda E| = 0,
即
\begin{vmatrix} a_{11} - \lambda & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} -\lambda & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} - \lambda\\ \end{vmatrix}= 0

R(A) = R(A,b) < n 無窮解

上式是以\lambda為未知數(shù)的一元n次方程栋豫，稱為矩陣A的特征方程。其左端|A - \lambda E|是\lambda的n次多項(xiàng)式谚殊，記作f(\lambda)丧鸯，稱為矩陣A的特征多項(xiàng)式。

設(shè)n階矩陣A = (a_{ij})的特征值為\lambda_1,\lambda_2,\cdots, \lambda_n嫩絮，有以下性質(zhì)：

  1. \lambda_1 + \lambda_2 +\cdots + \lambda_n = a_{11} + a_{22} + \cdots +a_{nn}
  2. \lambda_1\lambda_2 \cdots \lambda_n =|A|

設(shè)\lambda = \lambda_i為矩陣A的一個(gè)特征值丛肢，則由方程
(A - \lambda_iE)x = 0
可求得非零解x = p_i，那么p_i便是A的對(duì)應(yīng)于特征值\lambda_i的特征向量剿干。

例 設(shè)\lambda是方陣A的特征值蜂怎，證明

  1. \lambda^2是A^2的特征值
  2. 當(dāng)A可逆時(shí)，\frac{1}{\lambda}是A^{-1}的特征值置尔。

證 因\lambda是A的特征值杠步，故有x \neq 0使Ax= \lambda x。于是
(1) A^2 x = A(Ax) = A(\lambda x) = \lambda(A x) = \lambda^2 x,
所以\lambda^2是A^2的特征值榜轿。
依此類推篮愉，不難證明：若\lambda是A的特征值，則\lambda^k是A^k的特征值差导。
(2) 當(dāng)A可逆時(shí)试躏，由A x = \lambda x，有x = \lambda A^{-1} x设褐，因x \neq 0颠蕴，知\lambda \neq 0，故
A^{-1} x = \frac{1}{\lambda} x助析，
所以\frac{1}{\lambda}是A^{-1}的特征值犀被。

定理2 設(shè)\lambda_1,\lambda_2,\cdots, \lambda_m是方陣A的m個(gè)特征值，p_1,p_2,\cdots, p_m依次是與之對(duì)應(yīng)的特征向量外冀，如果\lambda_1,\lambda_2,\cdots, \lambda_m各不相等寡键，則p_1,p_2,\cdots, p_m線性無關(guān)。

相似矩陣

定義7 設(shè)A,B都是n階矩陣雪隧，若有可逆矩陣P西轩，使
P^{-1}AP = B
則稱B是A的相似矩陣员舵，或說矩陣A與B相似。對(duì)A進(jìn)行運(yùn)算P^{-1}A稱為對(duì)A進(jìn)行相似變換藕畔÷砥В可逆矩陣P稱為把A變成B的相似變換矩陣。

定理3 若n階矩陣A與B相似注服，則A與B的特征多項(xiàng)式相同韭邓，從而A與B的特征值亦相同。
證 因A與B相似溶弟，即有可逆矩陣P,使P^{-1}AP=B女淑，故
\begin{aligned} |B -\lambda E| &= |P^{-1}AP - \lambda P^{-1}P| \\ &=|P^{-1}(A-\lambda E)P| \\ &= |P^{-1}| \cdot |A - \lambda E|\cdot |P| \\ &= |A - \lambda E| \end{aligned}

推論 若n階矩陣A與對(duì)角陣
\Lambda= \begin{bmatrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & & \lambda_n\\ \end{bmatrix}
相似，則\lambda_1,\lambda_2,\cdots,\lambda_n即是A的n個(gè)特征值辜御。

下面我們要討論的主要問題是：對(duì)n階矩陣A鸭你，尋求相似變換矩陣P，使P^{-1}AP = \Lambda為對(duì)角陣我抠，這就稱為把矩陣A對(duì)角化苇本。

假設(shè)已經(jīng)找到可逆矩陣P,使P^{-1}AP=\Lambda為對(duì)角陣，我們來討論P應(yīng)滿足什么關(guān)系菜拓。

把P用其列向量表示為
P=(p_1,p_2,\cdots,p_n),
由P^{-1}AP=\Lambda瓣窄，得AP=P\Lambda，即
\begin{aligned} A(p_1,p_2,\cdots,p_n) &= (p_1,p_2,\cdots,p_n)\begin{bmatrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & & \lambda_n\\ \end{bmatrix} \\ &= (\lambda_1p_1,\lambda_2p_2,\cdots, \lambda_np_n), \end{aligned}
于是有
Ap_i = \lambda_ip_i\qquad(i=1,2,\cdots,n).
可見\lambda_i是A的特征值纳鼎，而P的列向量p_i就是A的對(duì)應(yīng)于特征值\lambda_i的特征向量俺夕。

定理4 n階矩陣A與對(duì)角陣相似(即A能對(duì)角化)的充分必要條件是A有n個(gè)線性無關(guān)的特征向量。

聯(lián)系定理2,得

對(duì)稱矩陣的對(duì)角化

定理5 對(duì)稱陣的特征值為實(shí)數(shù)

證 設(shè)復(fù)數(shù)\lambda為對(duì)稱陣A的特征值贱鄙，復(fù)向量x為對(duì)應(yīng)的特征向量劝贸，即Ax=\lambda x,x \neq 0。

用\overline{\lambda}表示\lambda的共軛復(fù)數(shù)逗宁，\overline{x}表示x的共軛復(fù)向量映九，而A為實(shí)矩陣，有A = \overline{A}瞎颗，故

A\overline{x} = \overline{A}\overline{x} = (\overline{Ax}) = (\overline{\lambda x}) = \overline{\lambda}\overline{x}件甥。于是有
\overline{x}^TAx = \overline{x}^T(Ax)=\overline{x}^T \lambda x=\lambda \overline{x}^T x,

及
\overline{x}^TAx = (\overline{x}^TA^T)x=(A\overline{x})^Tx=(\overline{\lambda}\overline{x})^Tx=\overline{\lambda}\overline{x}^Tx,
兩式相減，得
(\lambda - \overline{\lambda})\overline{x}^Tx = 0,
因x \neq 0哼拔，所以
\overline{x}^Tx=\sum_{i=1}\overline{x}_i x_i = \sum_{i=1} |x_i|^2 \neq 0,
故\lambda -\overline{\lambda} =0引有，即\lambda = \overline{\lambda}，說明\lambda是實(shí)數(shù)倦逐。

定理6 設(shè)\lambda_1,\lambda_2是對(duì)稱陣A的兩個(gè)特征值譬正，p_1,p_2是對(duì)應(yīng)的特征向量。若\lambda_1 \neq \lambda_2，則p_1,p_2正交曾我。

證 \lambda_1p_1 = Ap_1,\lambda_2p_2 = Ap_2,\lambda_1 \neq \lambda_2粉怕。

因A對(duì)稱，故\lambda_1p_1^T=(\lambda_1p_1)^T=(Ap_1)^T=p_1^TA^T=p_1^TA您单，于是
\lambda_1p_1^Tp_2 = p_1^TAp_2=p_1^T(\lambda_2p_2)=\lambda_2p_1^Tp_2,
即
(\lambda_1 -\lambda_2)p_1^Tp_2 = 0.
因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=%5Clambda_1%20%5Cneq%20%5Clambda_2" alt="\lambda_1 \neq \lambda_2" mathimg="1">斋荞，故p_1^Tp_2=0,即p_1,p_2正交荞雏。

定理7 設(shè)A是n階對(duì)稱陣虐秦，則必有正交陣P，使P^{-1}AP=P^TAP=\Lambda凤优，其中\Lambda是以A的n個(gè)特征值為對(duì)角元的對(duì)角陣悦陋。

推論 設(shè)A為n階對(duì)稱陣，\lambda是A的特征方程的k重根筑辨，則矩陣A -\lambda E的秩R(A -\lambda E)= n -k俺驶，從而對(duì)應(yīng)特征值\lambda恰有k個(gè)線性無關(guān)的特征向量。

二次型及其標(biāo)準(zhǔn)形

image-20210714170331942
image-20210714171542756

使二次型只含平方項(xiàng)契吉，也就是用(7)帶入(5)漫雕，能使
f = k_1y^2_1 + k_2y_2^2 + \cdots + k_ny_n^2,
這種只含平方項(xiàng)的二次型炮姨，稱為二次型的標(biāo)形型(或法式)。

如果標(biāo)準(zhǔn)形的系數(shù)k_1,k_2,\cdots,k_n只在1,-1,0三個(gè)數(shù)中取值栖袋，也就是用(7)代入(5)，能使
f = y_1^2 + \cdots + y_p^2 - y^2_{p+1} - \cdots - y^2_r,
則稱上式為二次型的規(guī)范形抚太。

image-20210714171630813

則二次型可記作
f = x^TAx, \tag{8}
其中A為對(duì)稱陣塘幅。

image-20210714171827882
image-20210714174147905

如果f(x) \geq 0，則是半正定尿贫。

更新記錄

  • 2021-05-25 補(bǔ)充單位矩陣电媳、奇異矩陣
  • 2021-05-26 新增標(biāo)準(zhǔn)基、正交性
  • 2021-05-27 新增特征值
  • 2021-06-05 新增實(shí)對(duì)稱矩陣定理
  • 2021-06-19 新值行列式

參考

  1. 《線性代數(shù)》 利昂著
  2. 《線性代數(shù)》 同濟(jì)大學(xué)第五版
  3. 維基百科
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 人面猴
    序言：七十年代末庆亡，一起剝皮案震驚了整個(gè)濱河市匾乓，隨后出現(xiàn)的幾起案子，更是在濱河造成了極大的恐慌又谋，老刑警劉巖拼缝，帶你破解...
    沈念sama閱讀 216,744評(píng)論 6贊 502
  • 死咒
    序言：濱河連續(xù)發(fā)生了三起死亡事件，死亡現(xiàn)場(chǎng)離奇詭異搂根，居然都是意外死亡珍促，警方通過查閱死者的電腦和手機(jī)，發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,505評(píng)論 3贊 392
  • 救了他兩次的神仙讓他今天三更去死
    文/潘曉璐 我一進(jìn)店門剩愧，熙熙樓的掌柜王于貴愁眉苦臉地迎上來猪叙，“玉大人，你說我怎么就攤上這事⊙妫” “怎么了犬第？”我有些...
    開封第一講書人閱讀 163,105評(píng)論 0贊 353
  • 道士緝兇錄：失蹤的賣姜人
    文/不壞的土叔 我叫張陵，是天一觀的道長(zhǎng)芒帕。 經(jīng)常有香客問我歉嗓，道長(zhǎng)，這世上最難降的妖魔是什么背蟆？ 我笑而不...
    開封第一講書人閱讀 58,242評(píng)論 1贊 292
  • ?港島之戀（遺憾婚禮）
    正文 為了忘掉前任鉴分，我火速辦了婚禮，結(jié)果婚禮上带膀，老公的妹妹穿的比我還像新娘志珍。我一直安慰自己，他們只是感情好垛叨，可當(dāng)我...
    茶點(diǎn)故事閱讀 67,269評(píng)論 6贊 389
  • 惡毒庶女頂嫁案：這布局不是一般人想出來的
    文/花漫 我一把揭開白布伦糯。 她就那樣靜靜地躺著，像睡著了一般嗽元。 火紅的嫁衣襯著肌膚如雪敛纲。 梳的紋絲不亂的頭發(fā)上，一...
    開封第一講書人閱讀 51,215評(píng)論 1贊 299
  • 城市分裂傳說
    那天剂癌，我揣著相機(jī)與錄音淤翔，去河邊找鬼。 笑死珍手，一個(gè)胖子當(dāng)著我的面吹牛办铡，可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播琳要，決...
    沈念sama閱讀 40,096評(píng)論 3贊 418
  • 雙鴛鴦連環(huán)套：你想象不到人心有多黑
    文/蒼蘭香墨 我猛地睜開眼寡具，長(zhǎng)吁一口氣：“原來是場(chǎng)噩夢(mèng)啊……” “哼！你這毒婦竟也來了稚补？” 一聲冷哼從身側(cè)響起童叠，我...
    開封第一講書人閱讀 38,939評(píng)論 0贊 274
  • 萬榮殺人案實(shí)錄
    序言：老撾萬榮一對(duì)情侶失蹤，失蹤者是張志新（化名）和其女友劉穎课幕，沒想到半個(gè)月后厦坛，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體，經(jīng)...
    沈念sama閱讀 45,354評(píng)論 1贊 311
  • ?護(hù)林員之死
    正文 獨(dú)居荒郊野嶺守林人離奇死亡乍惊，尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,573評(píng)論 2贊 333
  • ?白月光啟示錄
    正文 我和宋清朗相戀三年杜秸，在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片润绎。...
    茶點(diǎn)故事閱讀 39,745評(píng)論 1贊 348
  • 活死人
    序言：一個(gè)原本活蹦亂跳的男人離奇死亡撬碟，死狀恐怖诞挨，靈堂內(nèi)的尸體忽然破棺而出，到底是詐尸還是另有隱情呢蛤，我是刑警寧澤惶傻，帶...
    沈念sama閱讀 35,448評(píng)論 5贊 344
  • ?日本核電站爆炸內(nèi)幕
    正文 年R本政府宣布，位于F島的核電站其障，受9級(jí)特大地震影響银室，放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜励翼，卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,048評(píng)論 3贊 327
  • 男人毒藥：我在死后第九天來索命
    文/蒙蒙 一蜈敢、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧抚笔，春花似錦扶认、人聲如沸侨拦。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,683評(píng)論 0贊 22
  • 一樁弒父案，背后竟有這般陰謀
    文/蒼蘭香墨 我抬頭看了看天上的太陽狱从。三九已至膨蛮，卻和暖如春，著一層夾襖步出監(jiān)牢的瞬間季研，已是汗流浹背敞葛。 一陣腳步聲響...
    開封第一講書人閱讀 32,838評(píng)論 1贊 269
  • 情欲美人皮
    我被黑心中介騙來泰國(guó)打工， 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留与涡，地道東北人惹谐。 一個(gè)月前我還...
    沈念sama閱讀 47,776評(píng)論 2贊 369
  • 代替公主和親
    正文 我出身青樓，卻偏偏與公主長(zhǎng)得像驼卖，于是被迫代替她去往敵國(guó)和親氨肌。 傳聞我的和親對(duì)象是個(gè)殘疾皇子，可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,652評(píng)論 2贊 354

推薦閱讀更多精彩內(nèi)容