1
模式识别与智能计算的MATLAB实现
1.7.3.1 5.3.1 Fisher判别方法
5.3.1 Fisher判别方法

在第2章中我们已经对Fisher判别方法进行了介绍。对于两类d维样本集alt,包含N个样本x1,x2,…,xN,其中N1个属于ω1类,记为alt,N2个属于ω2类,记为alt。Fisher判别方法讨论是如何将样本投影到一条直线上,形成一维空间,使样本的投影能分得最好。

两类样本的均值向量mi

alt

样本类内离散度矩阵Si和总类内离散度矩阵Sw分别为

alt

样本类间离散度矩阵Sb

Sb=(m1-m2)(m1-m2T

设投影直线的方向为w,则投影后应有

alt

JF(w)称为Fisher准则函数。利用Lagrange乘子法求解可得最优投影方向w*

alt

x在w*上的投影为y=(w*Tx。

利用先验知识确定分界阈值点,并进而判别未知样本的类别,此即Fisher线性判别方法。