
BFGS法
BFGS法(BFGS method)是一种拟牛顿法,指用BFGS矩阵作为拟牛顿法中的对称正定叠代矩阵的方法,此法是1970年前后由柏萝登(C.G.Broyden)、弗莱彻(R.Fletcher)、戈德福布(D.Goldfarb),以及生纳(D.F.Shanno)所研究,故得名,由于BFGS法对一维搜寻的精度要求不高,并且由叠代产生的BFGS矩阵不易变为奇异矩阵,因而BFGS法比DFP法在计算中具有更好的数值稳定性。
基本介绍
- 中文名:BFGS法
- 外文名:BFGS method
- 所属学科:数学
- 特点:具有更好数值稳定性
- 简介:一种拟牛顿法
基本介绍
理论和实践表明,DFP法是一种非常有效的无约束最最佳化方法,自从1959年发表以来,深受欢迎,然而到了60年代后期,从计算实践中发现DFP法在数值稳定方面存在一定问题,从而人们又提出各种各样的修改算法,其中被公认为具有更好数值稳定性的算法乃是BFGS法。
方法步骤
BFGS法是用逐次修改切线刚度矩阵的方法求新近似解的非线性方程组解法。对于方程组









DFP法与BFGS法的比较
在目标函式的梯度容易计算的情况下,DFP变尺度法是一种很有效的方法。在计算变尺度矩阵的公式中,其分母含有近似矩阵,计算中由于捨入误差使数值稳定性较差,并可能导致变尺度矩阵变为奇异矩阵。所以,为提高实际运算稳定性,通常将进行n次(n为目标函式的维数)叠代作为一个循环,将变尺度矩阵重置二维单位矩阵I,并以一个循环的终点作为起点,进行下一轮的叠代。
为了进一步改善DFP变尺度法在实际计算中存在的算法稳定性问题,Broydon等人提出了改进的算法——BFGS变尺度法。
BFGS法与DFP法的不同之处在于修正矩阵的计算公式不同。BFGS变尺度法的特别是BFGS法分母中不再有近似矩阵。BFGS法的优点在于计算中它的数值稳定性强,所以它是变尺度法中最受欢迎的一种算法。