10.1引言
從效率上,共軛方向法位于最速下降法和牛頓法之間嫩海,具有以下特性:
1、對于n維二次型問題囚痴,能夠在n步之內(nèi)得到結(jié)果叁怪。
2、作為共軛方向法的典型代表深滚,共軛梯度法不需要黑塞矩陣奕谭。
3、不需要存儲的矩陣痴荐,也不需要求逆血柳。
10.2 基本的共軛方向算法
針對n維二次型函數(shù)的最小化:
其中,生兆。
基本的共軛方向算法难捌。給定初始點和一組關(guān)于
共軛的方向
,迭代公式為:
10.3 共軛梯度法
共軛梯度法不需要提前給定Q共軛方向,而是隨著迭代不斷產(chǎn)生Q共軛方向鸦难,在每次迭代中根吁,利用上一個搜索方向和目標(biāo)函數(shù)在當(dāng)前迭代點的梯度向量之間的線性組合構(gòu)造一個新方向,使其與前面已經(jīng)產(chǎn)生的搜索方向組成Q共軛方向合蔽。這就是共軛梯度法這一名字的由來击敌。