Matlab中fminsearch函数用来求解多维无约束的线性优化问题

     用derivative-free的方法找到多变量无约束函数的最小值.   

语法

   x = fminsearch(fun,x0)

   x = fminsearch(fun,x0,options)

   [x,fval] = fminsearch(...)

   [x,fval,exitflag] = fminsearch(...)

   [x,fval,exitflag,output] = fminsearch(...)

 解释

    fminsearch能够从一个初始值开始，找到一个标量函数的最小值。通常被称为无约束非线性优化.

    x = fminsearch(fun,x0) 从x0开始，找到函数fun中的局部最小值x，x0可以是标量，向量，矩阵。fun是一个函数句柄.

    x = fminsearch(fun,x0,options) 以优化参数指定的结构最小化函数，可以用optimset函数定义这些参数。（见matlab help）

    [x,fval] = fminsearch(...)返回在结果x出的目标函数的函数值

    [x,fval,exitflag] = fminsearch(...) 返回exitflag值来表示fminsearch退出的条件：

        1--函数找到结果x

        0--函数最大功能评价次数达到，或者是迭代次数达到

        -1--算法由外部函数结束

    [x,fval,exitflag,output] = fminsearch(...) 返回一个结构输出output，包含最优化函数的信息：

        output.algorithm 使用的优化算法

        output.funcCount 函式计算次数

        output.iterations 迭代次数

        output.message 退出信息

说明

  fun是需要最小化的函数，他的输入为input，输出为标量f，目标函数在x上作出估计，函数可以为M文件的一个句柄函数(当是M文件时，用单引号括起文件名)：

x = fminsearch(@myfun, x0)

这里

function f = myfun(x)

f = ... 其自变量为x

或者直接写出

x = fminsearch(@(x)sin(x^2), x0);

例子

    例1：一个典型的测试就是求多维the Rosenbrock banana function函数的最小值，其最小值在（1，1），其值为0. 一般开始迭代在(-1.2,1). 

    这里定义一个句柄函数

        banana = @(x)100*(x(2)-x(1)^2)^2+(1-x(1))^2;

    将这个函数传递给fminsearch为

        [x,fval] = fminsearch(banana,[-1.2, 1])

结果

x =

    1.0000    1.0000

fval =

    8.1777e-010

说明函数在x处有近似于0的最小值，且估计结果有四位小数

例2：如果fun是有参数的，那么可以定义个匿名函数去获得独立的参数，例如，若果需要估计的函数为

function f = myfun(x,a)

    f = x(1)^2 + a*x(2)^2

因为myfun中有一个位置参数a，所以不能直接传给fminsearch中。所以需要最优化具体的a，例如a = 1.5.

首先定义 

a = 1.5;

然后

x = fminsearch(@(x) myfun(x,a),[0,1]) 

算法

fminsearch使用单纯形法，这是一种不会使用数值或者梯度分析的直接的方法.

假如x的长度为n，那么会有n+1个顶点，两维空间中，单纯型是三角形，三维空间，他是一个锥形。搜索的每一步中，都会产生离当前单纯型比较近的点，在新的点上的函数值回合单纯型各个顶点上的值比较，一般都会有一个定点被替代，产生一个新的单纯型，重复步骤，直到单纯型的大小小于阈值。

限制: fminsearch可以处理不连续的问题，如果得不到全局最优，则其会得到局部最优.

它只能最小化时数，复数并不在其能力范围之内，且f（x）的返回值也必须是实数，如果x为复数，则其必须分解为实部和虚部两部分。

我们可以稍微对进行一些变换，就可实现利用fminsearch进行参数估计。

例如，原始信号发生器模型为：;  假设有两个参数我们未知，即我们要进行参数估计的模型为

z=a(1)*exp(a(2)*x)+a(3)*exp(a(4)*x);

下面我们只需采用以下代码就可以实现上述参数的估计。

x=[0:0.2:4]';

Z=3*exp(-0.4*x)+12*exp(-3.2*x);

c=[1 1 1 1];

options=optimset('fminsearch');

options.TolX=0.001;

options.Display='off';

[a,sfval,sexit,soutput]=fminsearch(@fun,c,options,x,Z)

函数定义为:

function E=fun(a,x,Z)

z=a(1)*exp(a(2)*x)+a(3)*exp(a(4)*x);

E=sum((Z-z).^2);

结果为：

a =

    3.0004   -0.4001   11.9994   -3.2000

sfval =

1.5099e-007

sexit =

     1

soutput =

    iterations: 190

     funcCount: 322

     algorithm: 'Nelder-Mead simplex direct search'