特征选择是指从一组特征中挑选出对分类最有利的特征，以达到降维的目的。而特征提取是指通过映射（或变换）的方法获取最有效的特征，以实现特征空间的维数从高维到低维的变换。经过映射后的特征称为二次特征，它们是原始特征的某种组合，最常用的是线性组合。

实现特征选择的前提是确定特征是否有效的标准，在这种标准下，寻找最有效的特征子集。用于特征选择的特征既可以是原始特征，也可以是经数学变换后得到的二次特征。

特征提取和特征选择的主要目的都是在不降低或很少降低分类结果性能的情况下，降低特征空间的维数，其主要作用是：

·简化计算：特征空间的维数越高，需占用的计算机资源越多，设计和计算也就越复杂。

·简化特征空间结构：由于特征提取和选择是去除类间差别小的特征，保留类间差别大的特征，因此在特征空间中，每类所占据的子空间结构可分离性更强，从而也简化了类间分类面形状的复杂度。