https://baike.baidu.com/item/%E6%8B%9F%E7%89%9B%E9%A1%BF%E6%B3%95/9340944?fr=ge_ala
擬牛頓法(Quasi-Newton Methods)是求解非線性優(yōu)化問題最有效的方法之一弃鸦。
基本概念
播報(bào)
編輯
擬牛頓法和最速下降法(Steepest Descent Methods)一樣只要求每一步迭代時(shí)知道目標(biāo)函數(shù)的梯度。通過測量梯度的變化，構(gòu)造一個(gè)目標(biāo)函數(shù)的模型使之足以產(chǎn)生超線性收斂性立肘。這類方法大大優(yōu)于最速下降法，尤其對于困難的問題殿遂。另外冗懦，因?yàn)閿M牛頓法不需要二階導(dǎo)數(shù)的信息，所以有時(shí)比牛頓法(Newton's Method)更為有效溅呢。如今，優(yōu)化軟件中包含了大量的擬牛頓算法用來解決無約束滨彻，約束藕届，和大規(guī)模的優(yōu)化問題。
擬牛頓法是解非線性方程組及最優(yōu)化計(jì)算中最有效的方法之一.它是一類使每步迭代計(jì)算量少而又保持超線性收斂的牛頓型迭代法亭饵。
擬牛頓法還有很多具體算法休偶，這類算法最早是由戴維登(Davidon，W.D.)于1959年提出的辜羊，弗萊徹(Fletcher踏兜，R.)和鮑威爾(Powell词顾，M.J.D.)于1963年給出了后來稱為DFP的秩2擬牛頓法，布羅依丹(Broyden碱妆，C.G.)于1965年給出了秩1擬牛頓法.方法的收斂性是20世紀(jì)60年代末到20世紀(jì)70年代才逐漸被證明的.由于這類方法受到廣泛注意肉盹，從20世紀(jì)60年代到20世紀(jì)70年代近20年中，前后發(fā)表了一千多篇文章疹尾，提出了很多不同的算法及收斂性證明上忍。中國也有一些學(xué)者在這方面做出很好的結(jié)果
更多細(xì)節(jié)見文首鏈接
