python科学计算之scipy——optimize⽤法
写在前⾯
SciPy的optimize模块提供了许多数值优化算法，下⾯对其中的⼀些记录。
⾮线性⽅程组求解
SciPy中对⾮线性⽅程组求解是fslove()函数，它的调⽤形式⼀般为fslove(fun, x0)，fun是计算⾮线性⽅程组的误差函数，它需要⼀个参数x，fun依靠x来计算线性⽅程组的每个⽅程的值（或者叫误差），x0是x的⼀个初始值。
"""
计算⾮线性⽅程组：
5x1+3 = 0
4x0^2-2sin(x1x2)=0
x1x2-1.5=0
"""
## 误差函数
def fun(x):
x0,x1,x2 = x.tolist()
return[5*x1+3,4x0^2-2sin(x1x2),x1x2-1.5]
result = optimize.fsolve(fun,[1,1,1])
## result
[-0.70622057  -0.6  -2.5]
在计算⾮线性⽅程中的解时，⽐如像坐标上升算法，其中需要⽤到未知数的导数，同样，scipy的fslove()也提供了fprime参数传递未知数的雅各⽐矩阵从⽽加速计算，传递的雅各⽐矩阵每⼀⾏时某⼀⽅程对各个未知数的导数。对于上⾯的例⼦，我们可以写下如下的雅各⽐矩阵传⼊。
def j(x):
x0,x1,x2 = x.tolist()
return[[0,5,0],[8*x0,-2*x2*cos(x1*x2],[0,x2,x1]]
result = optimize.fsolve(fun,[1,1,1],fprime=j)
linspace函数python#result
[-0.70622057  -0.6  -2.5]
scipy的内部在实现fslove时应该时应该是利⽤了坐标上升算法或者梯度相关优化算法，但本⼈没有考证，有兴趣的可以看看源码。
最⼩⼆乘拟合
关于最⼩⼆乘算法的理论这⾥并不想谈，⽹上解释的⽂章也挺多，在 optimize模块中，可以使⽤leastsq()对数据进⾏最⼩⼆乘拟合计算。 leastsq()的⽤法很简单，只需要将计箅误差的函数和待确定参数的初始值传递给它即可。
x = np.array([8.19,2.72,6.39,8.71,4.7,2.66,3.78])
y = np.array([7.01,2.78,6.47,6.71,4.1,4.23,4.05])
def residual(p):
k,b = p
return y-(k*x+b)
r = optimize.leastsq(residual,[1,0])
k,b = r[0]
# print k
.613495349193
# print b
.79409254326
def func(x,p):
"""
计算的正弦波：A*sin(2*pi*k*x+theta)
"""
A,k,theta = p
return A*sin(2*np.pi*k*x+theta)
def redis(p,y,x):
return y-func(x,p)
x = np.linspace(0,2*np.pi,100)
A,k,theta = 10,0.34,np.pi/6
y0 = func(x,[A,k,theta])
# 加⼊噪声
np.random.seed(0)
y1 = y0+2*np.random.randn(len(x))
p0 = [7,0.40,0]
# p0是A,k,theta的初始值，y1，x要拟合的数据
plsq = optimize.leastsq(redis, p0,args=(y1,x))
print [A,k,theta] #真是的参数值
print plsq[0]  #拟合后的参数值
对于像正弦波或者余弦波的曲线拟合，optimize提供curve_fit()函数，它的使⽤⽅式和leastq()稍有不同，它直接计算曲线的值，⽐如上⾯的拟合正弦波可以⽤cureve_fit()来写。
def func2(x,p):
"""
计算的正弦波：A*sin(2*pi*k*x+theta)
"""
A,k,theta = p
return A*sin(2*np.pi*k*x+theta)
ret,_=optimize.curve_fit(func2,x,y1,p0=p0)
该函数有⼀个缺点就是对于初始值敏感，如果初始频率和真实频率值差太多，会导致最后⽆法收敛到真是频率。
局部最⼩值
optimize模块还提供了常⽤的最⼩值算法如：Nelder-Mead、Powell、CG、BFGS、Newton-CG等，在这些最⼩值计算时，往往会传⼊⼀阶导数矩阵(雅各⽐矩阵)或者⼆阶导数矩阵(⿊塞矩阵)从⽽加速收敛，这些最优化算法往往不能保证收敛到全局最⼩值，⼤部分会收敛到局部极⼩值。这些函数的调⽤⽅式为:
optimize.minimize(target_fun,init_val,method,jac,hess)
target_fun：函数的表达式计算；
init_val：初始值；
method：最⼩化的算法；
jac：雅各⽐矩阵
hess：⿊塞矩阵。
全局最⼩值算法
全局最⼩值使⽤optimize.basinhopping()来实现，这个函数⾸先要定义⼀个误差计算⽅式，⽐如平⽅误差函数，niter时迭代的次数，最后还需要⼀个局部极⼩值优化⽅法，minimizer_kwargs传⼊。⽐如上⾯的正弦函数拟合：
def func1(x,p):
"""
计算的正弦波：A*sin(2*pi*k*x+theta)
"""
A,k,theta = p
return A*sin(2*np.pi*k*x+theta)
def func_error(p,y,x):
return np.sum((y-func1(x,p)**2)
result = optimize.basinhopping(func_error,[1,1,1],niter=10,
minimizer_kwargs={"method":"L-BFGS-B",
"args":(y1,x1)})
## [1,1,1]是传⼊的初始值，args是需要拟合的数据
以上这篇python科学计算之scipy——optimize⽤法就是⼩编分享给⼤家的全部内容了，希望能给⼤家⼀个参考，也希望⼤家多多⽀持。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。