![240](https://upload.jianshu.io/users/upload_avatars/28315907/cb8e692b-b216-4632-a6d8-2d24c3c4b18e.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
??本文將在 DL 共軛梯度法的基礎(chǔ)上帆离,介紹 HZ 共軛梯度法。這是由 Hanger-Zhang 于 2005 年提出的一種非常經(jīng)典的共軛梯度法...
??共軛梯度法是一類重要的方法盯质,特別是當(dāng)維數(shù)很大時(shí)。本文將提出一種新的共軛條件概而,考慮其非精確線搜索呼巷。依據(jù)新的共軛條件,兩種非線性共軛梯度法將會(huì)被...
??本節(jié)我們將介紹共軛梯度法王悍,只是簡(jiǎn)單的介紹一下,其收斂性的證明和共軛梯度法類似餐曼。 1压储、簡(jiǎn)介 ??LS 共軛梯度法是由 Liu 和 Storey...
??本節(jié),我們將提出兩種類型的線搜索集惋,他們都是依據(jù)標(biāo)準(zhǔn)線搜索孕似。本文的第一種線搜索且要求能夠保證在每一步產(chǎn)生一個(gè)下降方向,在這種線搜索下刮刑,喉祭,和方法...
本節(jié)我們將介紹另外一種經(jīng)典的共軛梯度法雷绢,即是共軛梯度法泛烙。 1、引言 ??HS 共軛梯度法是由 和于1952 年在求解線性共軛梯度法中提出翘紊,后來被...
??上節(jié)我們證明了方法在一種型線搜索下的全局收斂性。本節(jié)將證明取常數(shù)步長(zhǎng)因子的方法的收斂性帆疟。 1鹉究、引言 ??PRP 共軛梯度法是由 Polak ...
??在節(jié)鸯匹,我們證明了方法的收斂性坊饶。然而,即使是一致凸函數(shù)殴蓬,參數(shù)也可能非負(fù)匿级。在節(jié),我們知道采取精確線搜索的方法對(duì)于一致凸函數(shù)的全局收斂性染厅。于是痘绎,和...
??如果使用非精確線搜索如強(qiáng) Wolfe 線搜索肖粮,戴彧虹在文獻(xiàn) 中舉出例子表明孤页,即使為一致凸函數(shù),而且參數(shù)充分小涩馆,PRP 方法都可能產(chǎn)生一個(gè)上升...
??本文將介紹 PRP 共軛梯度法,我們又進(jìn)入嶄新的一頁魂那。方法的全局收斂性證明會(huì)有點(diǎn)難蛾号,所以在 1969 年提出 PRP 共軛梯度法,卻在 19...