离散K-L（Karhunen-Loeve）变换又称为主成分分析，是一种基于目标统计特性的正交变换。它具有如下重要且优良的性质：变换后的新分量正交或不相关；以部分新的分量表示原向量，使得均方差误差最小；使变换向量更趋确定，能量更趋集中等。这些性质使得该方法在特征提取、数据压缩等方面都有着极为重要的应用。

假设x为n维的随机向量，可以用n个正交向量的加权和来表示：

其中，α_i为加权系数，φ为正交基向量，满足

将上式写成矩阵形式

其中，Φ为正交矩阵，满足Φ^TΦ＝I。

考虑到Φ为正交矩阵，由x＝Φα得α＝Φ^Tx，即

要使向量α的各个分量互不相关，应使随机向量的总体自相关矩阵满足一定的条件。设自相关矩阵为

R＝E［xx^T］

很明显，希望α的各分量互不相关，应使（α₁…α_i…α_n）满足

写成矩阵形式，即应使

则R＝ΦD_λΦ^T。

因为Φ为正交矩阵，上式两边右乘Φ，有RΦ＝ΦD_λ

即

Rφ_i＝λ_iφ_i　（i＝1，2，…，n）

可见Φ实际上是矩阵R的本征向量组成的，φ_i对应自相关矩阵R的本征向量，λ_i是自相关矩阵R的本征值。

综上所述，K-L展开式的系数可用下列步骤求出：

①求随机向量x的自相关矩阵R。

②求出自相关矩阵R的本征值λ_i和对应的本征向量φ_i，得到矩阵Φ。

③展开式即为α＝Φ^Tx。