更新时间:12-12 (阿里夫人)提供原创文章
摘要:非拟牛顿算法因其在求解无约束优化问题时具有良好的数值效果而颇受广大研究者的喜爱,但同时非拟牛顿算法的全局收敛性往往无法得到保证.本文将在目标函数一致凸的条件下,分别对非拟牛顿法在Wolfe-Powell线性搜索和Goldstein线性搜索下的全局收敛性予以证明.
关键词:无约束最优化问题; 非拟牛顿法; Wolfe-Powell线性搜索;Goldstein线性搜索; 全局收敛性
拟牛顿法用替代克服了牛顿法中计算函数的二阶导数的困难,若保持正定,使得算法具有下降的性质且收敛速度快等优点,而非牛顿算法在拟牛顿算法的基础上,当充分小时,用替代,使非拟牛顿方程不仅利用了函数梯度值信息,还利用了函数值的信息,从而让算法具有良好的数值效果.
本文中的非拟牛顿算法能够使目标函数在一致凸且采用Wolfe-Powell线性搜索和Goldstein线性搜索的条件下始终产生下降方向, 我们还分析证明了该算法在这两种线性搜索下的全局收敛性, 说明它是一种有效的算法, 可以用来有效的解决一些实际生活中的无约束最优化问题.