1
模式识别与智能计算的MATLAB实现
1.16.5.3 14.5.3 吸收类均值向量信息的特征提取
14.5.3 吸收类均值向量信息的特征提取

基于均方差最小的主成分分析虽然有效,但并不是最优的,因为它舍弃一部分信息。考虑到c个类别的类均值向量所展开的空间最多是(c-1)维的,所以当c不太大时,有可能实现吸收类均值向量的全部分类信息的特征提取,而提取的特征又不太多。

其步骤如下:

①首先进行主成分分析,得到本征向量矩阵U和对角矩阵Λ。

②令B=UΛ-1/2,对类间总散射矩阵Sb进行变换:alt

③对alt进行主成分分析,令d≤c-1,与alt的非零本征值的数目相同,用这d个非零本征值对应的本征向量,可以提取类均值向量的全部分类信息。令V表示这d个本征向量构成的矩阵。

④最佳变换W为:W=UΛ-1/2V。

⑤最后,由WTx变换,把n维空间的x映射到d维空间。

例14.5 两类样本的均值分别为(4,2)T和(-4,-2)T,协方差矩阵分别为[3 1;1 3]、[4 2;2 4]。两类的先验概率相等,试求一维特征提取。

alt