Python实现牛顿法求解多元函数极值：从原理到代码实战

Hazel

发布时间：2026-10-13| 5人浏览过

原创

本文详细解析利用Python实现牛顿法求解多元函数极值的方法。通过引入阻尼牛顿法解决标准牛顿法非全局收敛的问题，结合Rosenbrock函数进行实例演示。内容涵盖梯度与Hessian矩阵的计算、线性搜索策略及Python NumPy代码实现，展示迭代轨迹与收敛结果，为数值优化提供实用参考。

牛顿法求解多元函数极值的基本原理

针对一个多元函数，采用牛顿法寻找其极小值的迭代公式定义如下

式中代表函数的梯度向量，而则表示函数的Hesse（Hessian）矩阵。

阻尼牛顿法与步长搜索策略

需要注意的是，上述标准牛顿法并不具备全局收敛性。为了解决这一局限，可以引入阻尼牛顿法（也称为带步长的牛顿法）。

一般而言，求解极值的迭代过程遵循如下格式

这里代表搜索步长，代表搜索方向。需要明确的是，所有迭代格式均遵循先计算搜索方向、再确定搜索步长的逻辑，这类似于盲人下山的过程：首先确定可行的下降方向，随后决定具体的步幅。

选取下降方向即可构成阻尼牛顿法，此时搜索步长并非固定值，而是需要通过线性搜索技术来确定一个较优解，例如采用精确线性搜索、Goldstein搜索或Wolfe搜索等方法。特别地，当始终设定为常数1时，该方法即退化为普通的牛顿法。

Rosenbrock函数实例与Python代码实现

以Rosenbrock函数为例，其具体表达式为

由此可推导出该函数的梯度表达式

函数对应的Hesse矩阵为

基于上述原理，编写Python代码实现如下（运行环境为Python3.3）：


"""
Newton法
Rosenbrock函数
函数 f(x)=100*(x(2)-x(1).^2).^2+(1-x(1)).^2
梯度 g(x)=(-400*(x(2)-x(1)^2)*x(1)-2*(1-x(1)),200*(x(2)-x(1)^2))^(T)
"""

import numpy as np
import matplotlib.pyplot as plt

def jacobian(x):
 return np.array([-400*x[0]*(x[1]-x[0]**2)-2*(1-x[0]),200*(x[1]-x[0]**2)])

def hessian(x):
 return np.array([[-400*(x[1]-3*x[0]**2)+2,-400*x[0]],[-400*x[0],200]])

X1=np.arange(-1.5,1.5+0.05,0.05)
X2=np.arange(-3.5,2+0.05,0.05)
[x1,x2]=np.meshgrid(X1,X2)
f=100*(x2-x1**2)**2+(1-x1)**2; # 给定的函数
plt.contour(x1,x2,f,20) # 画出函数的20条轮廓线


def newton(x0):

 print('初始点为:')
 print(x0,'\n')
 W=np.zeros((2,10**3))
 i = 1
 imax = 1000
 W[:,0] = x0 
 x = x0
 delta = 1
 alpha = 1

 while i<imax and delta>10**(-5):
  p = -np.dot(np.linalg.inv(hessian(x)),jacobian(x))
  x0 = x
  x = x + alpha*p
  W[:,i] = x
  delta = sum((x-x0)**2)
  print('第',i,'次迭代结果:')
  print(x,'\n')
  i=i+1
 W=W[:,0:i] # 记录迭代点
 return W

x0 = np.array([-1.2,1])
W=newton(x0)

plt.plot(W[0,:],W[1,:],'g*',W[0,:],W[1,:]) # 画出迭代点收敛的轨迹
plt.show()

代码解析与迭代结果分析

在上述代码中，jacobian(x)函数用于返回函数的梯度值，hessian(x)函数用于返回函数的Hesse矩阵。程序使用W矩阵记录每次迭代点的坐标，并绘制出点的搜索轨迹。

运行代码后可得到如下输出结果


初始点为:
[-1.2 1. ] 

第 1 次迭代结果:
[-1.1752809 1.38067416] 

第 2 次迭代结果:
[ 0.76311487 -3.17503385] 

第 3 次迭代结果:
[ 0.76342968 0.58282478] 

第 4 次迭代结果:
[ 0.99999531 0.94402732] 

第 5 次迭代结果:
[ 0.9999957 0.99999139] 

第 6 次迭代结果:
[ 1. 1.]

结果显示，经过6次迭代即获得了最优解，绘制的迭代点轨迹如下图所示