??本文將在 DL 共軛梯度法的基礎(chǔ)上烛亦,介紹 HZ 共軛梯度法想帅。這是由 Hanger-Zhang 于 2005 年提出的一種非常經(jīng)典的共軛梯度法...
??共軛梯度法是一類重要的方法福也,特別是當(dāng)維數(shù)很大時。本文將提出一種新的共軛條件孽椰,考慮其非精確線搜索昭娩。依據(jù)新的共軛條件凛篙,兩種非線性共軛梯度法將會被...
??本節(jié)我們將介紹共軛梯度法栏渺,只是簡單的介紹一下呛梆,其收斂性的證明和共軛梯度法類似。 1磕诊、簡介 ??LS 共軛梯度法是由 Liu 和 Storey...
??本節(jié),我們將提出兩種類型的線搜索霎终,他們都是依據(jù)標(biāo)準(zhǔn)線搜索滞磺。本文的第一種線搜索且要求能夠保證在每一步產(chǎn)生一個下降方向,在這種線搜索下莱褒,击困,和方法...
本節(jié)我們將介紹另外一種經(jīng)典的共軛梯度法广凸,即是共軛梯度法阅茶。 1、引言 ??HS 共軛梯度法是由 和于1952 年在求解線性共軛梯度法中提出谅海,后來被...
??上節(jié)我們證明了方法在一種型線搜索下的全局收斂性。本節(jié)將證明取常數(shù)步長因子的方法的收斂性胁赢。 1企蹭、引言 ??PRP 共軛梯度法是由 Polak ...
??在節(jié)智末,我們證明了方法的收斂性。然而徒河,即使是一致凸函數(shù)系馆,參數(shù)也可能非負(fù)。在節(jié)顽照,我們知道采取精確線搜索的方法對于一致凸函數(shù)的全局收斂性由蘑。于是,和...
??如果使用非精確線搜索如強 Wolfe 線搜索尼酿,戴彧虹在文獻(xiàn) 中舉出例子表明,即使為一致凸函數(shù)植影,而且參數(shù)充分小裳擎,PRP 方法都可能產(chǎn)生一個上升...
??本文將介紹 PRP 共軛梯度法思币,我們又進(jìn)入嶄新的一頁鹿响。方法的全局收斂性證明會有點難羡微,所以在 1969 年提出 PRP 共軛梯度法,卻在 19...