梯度法<sup>[1，6]<sup>

设地球物理数据和模型参数之间满足以下非线性关系:

d=f(m) (81)

其中:f表示非线性算子;d、m都是列向量。

建立如下目标函数:

φ(m)=[d-f(m)]2=min (82)

目标函数在模型mi处的梯度为

地球物理反演教程

梯度法的模型修改量是目标函数的负梯度:

mi+1=mi+Δmi=mi-λgi　　(84)

其中:λ为步长因子，是一个数，用来控制修改量的大小;g、m都为列向量。

下面推导λ的计算公式。

将式(82)目标函数φ(m)按泰勒公式展开，并略去高次项得

地球物理反演教程

将式(84)中的Δmi=-λgi带入式(85)得

地球物理反演教程

设经过修改模型后，目标函数φ(mi+1)为零，有

地球物理反演教程

由上式可推出步长因子λ的计算公式:

地球物理反演教程

给定初始模型mi后，首先计算出梯度gi，然后按式(88)计算步长因子，最后按式(84)修改模型。如果:

φ(mi+1)＜φ(mi) (89)

则说明修正量合适，采用新模型继续迭代。否则减小λ后再计算，一般λ减小一半。

梯度法的计算过程如下:

(1)给定初始模型m0;

(2)进行正演计算;

(3)判断是否满足精度要求，是则反演结束，否则进行第(4)步;

(4)按照式(84)修改模型，转第(2)步。

一般反演精度采用实测数据和理论数据的相对均方差来量度。

因为目标函数的梯度就是φ值下降最快的方向，所以梯度法又称为“最速下降法”。下面用一个简单的例子来说明梯度法的原理。设有如下一维目标函数:

φ(x)=f(x) (810)

从图81可见，x0为目标函数的极小值点。g1为x1处的梯度，g2为x2处的梯度。如果初始模型为x1，模型修改量应该为正值才能使目标函数向最小值前进。从图上可知g1为负值，负梯度为正，满足修改方向。同理如果初始模型为x2，模型修改量应该为负值。从图上可知g2为正值，负梯度为负值，满足修改量为负值的要求。

图81 一维目标函数示意图

从这个例子容易看出即使初始模型远远偏离极小值点，只要按照负梯度方向修改模型参数，总能使目标函数达到极小值点。但是上图的极小值点只有一个，容易达到全局极小，如果目标函数具有多个极小值点，那么初始模型的选择就很关键了，选的不好容易陷入局部极小。此外在极小值点附近梯度法反演收敛的速度将会很慢。因此一般在反演的开始采用梯度法，在反演的后期采用其他收敛速度快的反演方法，如前面所介绍的最小二乘法(或称为高斯-牛顿法)。

图82 最小二乘法和梯度法修正方向示意图

最小二乘法和梯度法在极小值点附近的模型修正方向如图82所示[10]。这个图形将形象的说明为何梯度法在极小值点附近收敛速度慢。

图82是二维的简单情况，目标函数是个椭圆面。在初始模型m0处梯度法的修正方向是最速下降方向，也就是和等值线的切线垂直的方向，可见它的方向偏离椭圆的中心极小值点。而最小二乘法(高斯-牛顿法)是解椭圆函数最优化问题的精确方法[6]，它的修正方向将会指向椭圆的中心极小值点。因此在接近极小值点附近最小二乘法的收敛速度要快于梯度法。

为了克服最速下降法收敛慢的缺点，1964年Fletcher和Reeves提出了无约束极小化的共轭梯度法，它是直接从Hestenes和Stiefel(1952)解线性方程组的共轭梯度法发展而来。共轭梯度法使最速下降方向具有共轭性，提高了算法的有效性和可靠性[6]。

梯度法的关键是计算目标函数的梯度，最终还是会归结为计算观测数据对模型参数的偏导数。在一维反演时可以用有限差分法进行偏导数的计算，在高维反演时可以采用其他快速计算偏导数的方法，如第9章将要介绍的利用互换定理计算二维直流电测深偏导数矩阵。

梯度

gradient

设体系中某处的物理参数(如温度、速度、浓度等)为w，在与其垂直距离的dy处该参数为w+dw，则称为该物理参数的梯度，也即该物理参数的变化率。如果参数为速度、浓度或温度，则分别称为速度梯度、浓度梯度或温度梯度。

在向量微积分中，标量场的梯度是一个向量场。标量场中某一点上的梯度指向标量场增长最快的方向，梯度的长度是这个最大的变化率。更严格的说，从欧氏空间Rn到R的函数的梯度是在Rn某一点最佳的线性近似。在这个意义上，梯度是雅戈比矩阵的一个特殊情况。

在单变量的实值函数的情况，梯度只是导数，或者，对于一个线性函数，也就是线的斜率。

梯度一词有时用于斜度，也就是一个曲面沿着给定方向的倾斜程度。可以通过取向量梯度和所研究的方向的点积来得到斜度。梯度的数值有时也被成为梯度。

因为等值线的法向量为(f(下标x)(x0,y0),f(下标y)(x0,y0)),(f(下标x)表示对x的导数）

同时梯度grad在该点亦为(f(下标x)(x0,y0),f(下标y)(x0,y0)）,二者相同

等值线的法向量是从空间曲面法线求法推出

梯度则是定义

如果还是不太清楚可以追问

梯度

gradient

设体系中某处的物理参数(如温度、速度、浓度等)为w,在与其垂直距离的dy处该参数为w+dw,则称为该物理参数的梯度,也即该物理参数的变化率如果参数为速度、浓度或温度,则分别称为速度梯度、浓度梯度或温度梯度

在向量微积分中,标量场的梯度是一个向量场标量场中某一点上的梯度指向标量场增长最快的方向,梯度的长度是这个最大的变化率更严格的说,从欧氏空间Rn到R的函数的梯度是在Rn某一点最佳的线性近似在这个意义上,梯度是雅戈比矩阵的一个特殊情况

在单变量的实值函数的情况,梯度只是导数,或者,对于一个线性函数,也就是线的斜率

梯度一词有时用于斜度,也就是一个曲面沿着给定方向的倾斜程度可以通过取向量梯度和所研究的方向的点积来得到斜度梯度的数值有时也被成为梯度