??本文將在 DL 共軛梯度法的基礎(chǔ)上亥曹,介紹 HZ 共軛梯度法酌毡。這是由 Hanger-Zhang 于 2005 年提出的一種非常經(jīng)典的共軛梯度法。我們所創(chuàng)新的共軛梯度法都會(huì)于...
![240](https://upload.jianshu.io/users/upload_avatars/28315907/cb8e692b-b216-4632-a6d8-2d24c3c4b18e.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
??本文將在 DL 共軛梯度法的基礎(chǔ)上亥曹,介紹 HZ 共軛梯度法酌毡。這是由 Hanger-Zhang 于 2005 年提出的一種非常經(jīng)典的共軛梯度法。我們所創(chuàng)新的共軛梯度法都會(huì)于...
??共軛梯度法是一類重要的方法告材,特別是當(dāng)維數(shù)很大時(shí)。本文將提出一種新的共軛條件古劲,考慮其非精確線搜索斥赋。依據(jù)新的共軛條件,兩種非線性共軛梯度法將會(huì)被提出产艾,同時(shí)給出其收斂性分析疤剑。 ...
??本節(jié)我們將介紹共軛梯度法闷堡,只是簡(jiǎn)單的介紹一下隘膘,其收斂性的證明和共軛梯度法類似。 1杠览、簡(jiǎn)介 ??LS 共軛梯度法是由 Liu 和 Storey 提出在 1991 年提出的一...
??本節(jié),我們將提出兩種類型的線搜索倦零,他們都是依據(jù)標(biāo)準(zhǔn)線搜索误续。本文的第一種線搜索且要求能夠保證在每一步產(chǎn)生一個(gè)下降方向,在這種線搜索下扫茅,蹋嵌,和方法且非負(fù)都能夠建立全局收斂性。然...
本節(jié)我們將介紹另外一種經(jīng)典的共軛梯度法栽烂,即是共軛梯度法。 1恋脚、引言 ??HS 共軛梯度法是由 和于1952 年在求解線性共軛梯度法中提出腺办,后來(lái)被用于求解非線性無(wú)約束優(yōu)化問(wèn)題。...
??上節(jié)我們證明了方法在一種型線搜索下的全局收斂性怀喉。本節(jié)將證明取常數(shù)步長(zhǎng)因子的方法的收斂性。 1船响、引言 ??PRP 共軛梯度法是由 Polak 和 Ribiere 和 Pol...
??在節(jié)躲履,我們證明了方法的收斂性。然而聊闯,即使是一致凸函數(shù)工猜,參數(shù)也可能非負(fù)。在節(jié)菱蔬,我們知道采取精確線搜索的方法對(duì)于一致凸函數(shù)的全局收斂性篷帅。于是,和致力于尋找這樣的一種線搜索拴泌,以...
??如果使用非精確線搜索如強(qiáng) Wolfe 線搜索,戴彧虹在文獻(xiàn) 中舉出例子表明弛针,即使為一致凸函數(shù)叠骑,而且參數(shù)充分小李皇,PRP 方法都可能產(chǎn)生一個(gè)上升搜索方向削茁。如果每一個(gè)搜索方向都...
??本文將介紹 PRP 共軛梯度法掉房,我們又進(jìn)入嶄新的一頁(yè)茧跋。方法的全局收斂性證明會(huì)有點(diǎn)難,所以在 1969 年提出 PRP 共軛梯度法卓囚,卻在 1992 年才證明其全局收斂性瘾杭。 ...