[轉]QR分解和酉矩陣

來源:https://www.cnblogs.com/zhoukui/p/7746371.html

預備知識

平面旋轉與 Householder 矩陣是特殊的酉矩陣箕别,它們在建立某些基本的矩陣分解過程中起著重要的作用筑公。

平面旋轉

設?1?i<j?n1?i

平面旋轉或者?Givens 旋轉.

容易驗證對任何一對指數?i,j,(1?i<j?n)i,j,(1?i


Householder 矩陣

它有幾個很好的性質:

由于?U?ω=I?2(ω?ω)?1(ωω?)?=I?2(ω?ω)?1ωω?=UωUω?=I?2(ω?ω)?1(ωω?)?=I?2(ω?ω)?1ωω?=Uω, 所以?UωUω?是 Hermite 矩陣. 又由于?Uω?Uω=IUω?Uω=I?,所以?UωUω?是酉矩陣且?U?1ω=UωUω?1=Uω.

Householder 矩陣?UωUω?在子空間?ω⊥ω⊥?上的作用是恒等元当宴,即如果?x∈ω⊥x∈ω⊥, 就有?Uωx=xUωx=x.

Householder 矩陣?UωUω?在子空間?span(ω)span(ω)?上的作用是反射酿雪,即?Uω?ω=?ωUω?ω=?ω.

detUω=?1detUω=?1. 由秩一擾動的行列式公式知?detUω=1?2(ω?ω)?1ω?I?ω=?1detUω=1?2(ω?ω)?1ω?I?ω=?1. 由?Brauer 定理知绒净,它的特征值是??1,1,1??1,1,1?. 于是,對所有?nn?以及每個非零的?ω∈Rnω∈Rn, Householder 矩陣?Uω∈Mn(R)Uω∈Mn(R)?是實正交矩陣现使,但不是真旋轉矩陣(真旋轉矩陣是行列式為?+1+1?的實正交矩陣)

設?n?2n?2, 并設?x,y∈Rnx,y∈Rn?是單位向量. 如果?x=yx=y, 令?ωω?是任意一個與?xx?正交的實單位向量. 如果?x≠yx≠y, 令?ω=x?yω=x?y. 此時有?ω?ω=2(1?x?y),ω?x=1?x?yω?ω=2(1?x?y),ω?x=1?x?y, 所以?Uωx=yUωx=y. 事實上,任意的?x∈Rnx∈Rn?可以由實的 Householder 矩陣變換成任何一個滿足?∥x∥2=∥y∥2‖x‖2=‖y‖2?的向量?y∈Rny∈Rn. 但是在?CnCn?中不一樣旷痕,不存在?ω∈Cnω∈Cn?使得?Uωe1=ie1Uωe1=ie1.

Householder 矩陣以及純量酉矩陣可以用來構造一個酉矩陣碳锈,它將?CnCn?中任意給定的向量變換成?CnCn?中有同樣 Euclid 范數的另外任意一個向量。

證明:?(A 是本性 Hermite 的是指存在?θ∈Rθ∈R?使?eiθAeiθA?是 Hermite 的).

如果?xx?與?yy?線性相關的(也就是說欺抗,如果對某個實的?θθ?有?y=eiθxy=eiθx), 這些結論容易驗證. 如果?xx?與?yy?線性無關售碳,由 Cauchy-Schwartz 不等式確保有?x?x≠|x?y|x?x≠|x?y|. 計算

ω?ω=(ei?x?y)?(ei?x?y)=x?x?e?i?x?y?ei?y?x+y?y=2(x?x?Re(e?i?x?y))=2(x?x?|x?y|)ω?ω=(ei?x?y)?(ei?x?y)=x?x?e?i?x?y?ei?y?x+y?y=2(x?x?Re(e?i?x?y))=2(x?x?|x?y|)

ω?x=e?i?x?x?y?x=e?i?x?x?e?i?|y?x|=e?i?(x?x?|x?y|))ω?x=e?i?x?x?y?x=e?i?x?x?e?i?|y?x|=e?i?(x?x?|x?y|))

最后計算

ei?Uωx=ei?(x?2(ω?ω)?1ωω?x)=ei?(x?(ei?x?y)e?i?)=yei?Uωx=ei?(x?2(ω?ω)?1ωω?x)=ei?(x?(ei?x?y)e?i?)=y

如果?zz?與?xx?正交,那么?ω?z=?y?zω?z=?y?z, 且

y?U(y,x)z=ei?(y?z?1∥x∥22?|x?y|)(ei?y?x?∥y∥22)(?y?x))=ei?(y?z+(?y?x))=0y?U(y,x)z=ei?(y?z?1‖x‖22?|x?y|)(ei?y?x?‖y‖22)(?y?x))=ei?(y?z+(?y?x))=0

說明了變換不僅保證了范數不變绞呈,還保持了正交不變性. 由于?UωUω?是酉矩陣团滥,且是 Hermite 矩陣,故而?U(y,x)=(ei?I)UωU(y,x)=(ei?I)Uω?是酉矩陣(它是兩個酉矩陣的乘積)报强,且是 Hermite 的.

如果?y∈Cny∈Cn?是已知的單位向量灸姊,按上述方法構造的?U(y,e1)U(y,e1)?的第一列肯定是?yy, 由于?U(y,e1)?e1=yU(y,e1)?e1=y.


QR 分解

復矩陣或者實矩陣的 QR 分解在理論上與計算上都有相當的重要性.

證明:?設?a1∈Cna1∈Cn?是?AA?的第一列,r1=∥a1∥2r1=‖a1‖2, 又設?U1U1?是一個酉矩陣秉溉,它使得?U1a1=r1e1U1a1=r1e1, 上個定理 (1.1) 對這樣的矩陣給出了一個明顯的構造力惯,它或者是一個純量的酉矩陣,或者是一個純量的酉矩陣與一個 Householder 矩陣的乘積. 分劃

U1A=[r10★A2]U1A=[r1★0A2]

其中?A2∈Mn?1,m?1A2∈Mn?1,m?1. 設?a2∈Cn?1a2∈Cn?1?是?A2A2?的第一列召嘶,并令?r2=∥a2∥2r2=‖a2‖2. 再次利用定理 (1.1) 來構造一個酉矩陣?V2∈Mn?1V2∈Mn?1, 使得?V2a2=r2e1V2a2=r2e1, 再令?U2=I1⊕V2U2=I1⊕V2. 那么

U2U1A=???r100r20★A3???U2U1A=[r1★0r200A3]

重復這一結構?mm?次就得到

UmUm?1?U2U1A=[R0]UmUm?1?U2U1A=[R0]

其中?R∈MmR∈Mm?是上三角的父晶,其主對角元素是?r1,?,rmr1,?,rm, 它們全都是非負的. 設?U=UmUm?1?U2U1U=UmUm?1?U2U1. 分劃?U?=U?1U?2?U?m?1U?m=[QQ2]U?=U1?U2??Um?1?Um?=[QQ2], 其中?Q∈Mn,mQ∈Mn,m?的列是標準正交的(它包含了一個酉矩陣的前?mm?個列). 這樣就有?A=QRA=QR. 如所希望的那樣. 如果?AA?是列滿秩的,則?RR?是非奇異的弄跌,所以它的主對角線元素全是正的.

假設?rankA=mrankA=m, 且?A=QR=Q~R~A=QR=Q~R~, 其中?RR?與?R~R~?是上三角的且有正的主對角元素甲喝,而?QQ?與?Q~Q~?都標準正交的列向量. 那么?A?A=R?(Q?Q)R)=R?IR=R?RA?A=R?(Q?Q)R)=R?IR=R?R, 且還有?A?A=R~?R~A?A=R~?R~, 所以?R?R=R~?R~R?R=R~?R~?且?R~??R?=R~R?1R~??R?=R~R?1. 也就是說下三角陣等于一個上三角矩陣,所以它們兩者必定都是對角矩陣:R~R?1=DR~R?1=D?是對角的铛只,且它必定有正的主對角元素埠胖,這是因為?R~R~?與?R?1R?1?這兩者的主對角元素都是正的. 但是?R~=DRR~=DR?蘊含?D=R~R?1=R~??R?=(DR)??R?=D?1R??R?=D?1D=R~R?1=R~??R?=(DR)??R?=D?1R??R?=D?1, 所以?D2=ID2=I, 從而?D=ID=I. 所以有?R~=RR~=R?以及?Q~=QQ~=Q.

(c) 中的結論由列向量標準正交的方陣是酉矩陣這一事實推出.

如果 (d) 中有?n?mn?m, 我們可以從 (a) 中的分解開始糠溜,設?Q~=[QQ2]∈MnQ~=[QQ2]∈Mn?是酉矩陣,令?R~=[R0]∈Mn,mR~=[R0]∈Mn,m, 并注意到?A=QR=Q~R~A=QR=Q~R~. 如果?n<mn

最后的結論 (e) 從定理 (1.1) 中的如下結論推出:(a) 與 (d) 的結構中所包含的酉矩陣?UiUi?可以全部取為實矩陣.

任何形如?B=A?AB=A?A?的?B∈Mn(A∈Mn)B∈Mn(A∈Mn)?可以寫成?B=LL?B=LL?, 其中?L∈MnL∈Mn?是下三角矩陣直撤,且有非負的對角元素. 如果?AA?是非奇異的非竿,這個分解是唯一的. 其實這是?BB?的 Cholesky 分解,每一個正定的或半正定的矩陣都可以用這種方式進行分解.

A∈Mn,mA∈Mn,m?的 QR 分解得到的變量有時很有用. 假設?n?mn?m, 并令?A?=QRA?=QR, 其中?Q∈Mn,mQ∈Mn,m?有標準正交的列谋竖,而?R∈MmR∈Mm?是上三角的. 這樣红柱,A=R?Q?A=R?Q??就是形如

A=LQ(1)(1)A=LQ

的一個分解,其中?Q∈Mn,mQ∈Mn,m?有標準正交的行蓖乘,且?L∈MnL∈Mn?是下三角的. 如果?Q~=[QQ~2]Q~=[QQ~2]?是酉矩陣锤悄,我們就有形如

A=[L0]Q~(2)(2)A=[L0]Q~

的分解.

我們舉個例子,對矩陣?A=???1221?1?41?15???A=[1112?1?12?45]?進行 QR 分解. 按照上述證明過程嘉抒,先拿出矩陣?AA?的第一列?a1=[1,2,3]Ta1=[1,2,3]T铁蹈,求出?∥a1∥2=3‖a1‖2=3,現(xiàn)在要求一個酉矩陣?U1U1?使得?U1a1=3e1U1a1=3e1. 按照定理 1 計算?a?1?3e1=3a1??3e1=3?是正號众眨,所以?w=a1?3e1=[?2,2,2]Tw=a1?3e1=[?2,2,2]T. 歸一化得?w=[?1/3–√,1/3–√,1/3–√]Tw=[?1/3,1/3,1/3]T, 計算酉矩陣?U1=I?2ww?=13???12221?22?21???U1=I?2ww?=13[12221?22?21], 計算?U1A=???300?330?3?33???=RU1A=[3?3?303?3003]=R. 我們運氣比較好握牧,直接變成上三角了,否則重復上述步驟娩梨,此時就完成了 QR 分解沿腰,由于是實數域,故?U?11=UT1U1?1=U1T, 所以?A=UT1RA=U1TR.

一個重要的幾何事實是:任何兩個有相同個數的標準正交向量組都通過酉變換聯(lián)系在一起.

證明:?將標準正交向量?[x1?xk][x1?xk]?與?Y=[y1?yk]Y=[y1?yk]?中的每一個都通過 Gram-Schmidt 擴充為?CnCn?的一組標準正交基狈定,也就是構造酉矩陣?V=[XX2]V=[XX2]?以及?W=[YY2]∈MnW=[YY2]∈Mn. 那么?U=WV?U=WV??是酉矩陣颂龙,且?[YY2]=W=UV=[UXUX2][YY2]=W=UV=[UXUX2], 所以?Y=UXY=UX. 如果?XX?與?YY?是實的,則矩陣?[XX2][XX2]?與?[YY2][YY2]?可以選為實的正交矩陣(它們的列是?RnRn?的標準正交基).


讀完應該知道什么

平面旋轉與 Householder 矩陣是特殊的酉矩陣

Householder 矩陣的特征值是??1,1,1??1,1,1?, 所以其行列式為 -1

Householder 矩陣以及純量酉矩陣可以用來構造一個酉矩陣纽什,它將?CnCn?中任意給定的向量變換成?CnCn?中有同樣 Euclid 范數的另外任意一個向量措嵌。

QR 分解

分類:?矩陣分析

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市芦缰,隨后出現(xiàn)的幾起案子企巢,更是在濱河造成了極大的恐慌,老刑警劉巖让蕾,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件浪规,死亡現(xiàn)場離奇詭異,居然都是意外死亡探孝,警方通過查閱死者的電腦和手機笋婿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來顿颅,“玉大人缸濒,你說我怎么就攤上這事。” “怎么了庇配?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵斩跌,是天一觀的道長。 經常有香客問我讨永,道長,這世上最難降的妖魔是什么遇革? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任卿闹,我火速辦了婚禮,結果婚禮上萝快,老公的妹妹穿的比我還像新娘锻霎。我一直安慰自己,他們只是感情好揪漩,可當我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布旋恼。 她就那樣靜靜地躺著,像睡著了一般奄容。 火紅的嫁衣襯著肌膚如雪冰更。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天昂勒,我揣著相機與錄音蜀细,去河邊找鬼。 笑死戈盈,一個胖子當著我的面吹牛奠衔,可吹牛的內容都是我干的。 我是一名探鬼主播塘娶,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼归斤,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了刁岸?” 一聲冷哼從身側響起脏里,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎虹曙,沒想到半個月后膝宁,有當地人在樹林里發(fā)現(xiàn)了一具尸體,經...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡根吁,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年员淫,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片击敌。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡介返,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情圣蝎,我是刑警寧澤刃宵,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布,位于F島的核電站徘公,受9級特大地震影響牲证,放射性物質發(fā)生泄漏。R本人自食惡果不足惜关面,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一坦袍、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧等太,春花似錦捂齐、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至瞻想,卻和暖如春压真,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蘑险。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工榴都, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人漠其。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓嘴高,卻偏偏與公主長得像,于是被迫代替她去往敵國和親和屎。 傳聞我的和親對象是個殘疾皇子拴驮,可洞房花燭夜當晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內容