文章浏览阅读1w次，点赞26次，收藏115次。python实现共轭梯度优化算法一、共轭梯度算法简介二、实现共轭梯度方法的两块重要积木1.共轭方向的确定2.方向优化步长的确定note3.共轭梯度算法优化过程一、共轭梯度算法简介共轭梯度(Conjugate Gradient)方法是一种迭代算法，可用于求解无约束的优化问题，例如能量最小化。常见的优化算法还有梯度下降法，相比于梯度下降法，共轭梯度法具有收敛更快，以及算法稳定性更好的优点。从上图可以看出来，梯度下降法优化过程中函数是沿着梯度的反方向逐步优化，后一步优化的结果会对前一步的优化结果造成影响，_共轭梯度法python代码