`
urey
  • 浏览: 25720 次
  • 性别: Icon_minigender_1
  • 来自: 广州
社区版块
存档分类
最新评论
  • carmark: 做什么都好,自己喜欢就好,我是做Unix以及C和perl相关的 ...
    混沌。
  • urey: toeo 写道我大学 也是信息与计算科学的我现在是做java  ...
    混沌。
  • toeo: 我大学 也是信息与计算科学的我现在是做java  弄web.要 ...
    混沌。

Karhunen-Loeve Transform (KLT)

阅读更多

 

Karhunen-Loeve Transform (KLT)

source:http://fourier.eng.hmc.edu/e161/lectures/klt/node3.html

${\bf\phi}_k$ 是与协方差矩阵${\bf\Sigma}_x$ 与第k 个特征值 一致的特征向量,有:

\begin{displaymath} {\bf\Sigma}_x {\bf\phi}_k=\lambda_k{\bf\phi}_k\;\;\;\;\;\;(k=0,\cdots,N-1) \end{displaymath}


 

或以矩阵的形式:

 

\begin{displaymath}\left[ \begin{array}{ccc}\cdots &\cdots &\cdots \\ \cdots & ... ...phi}_k   \end{array} \right] \;\;\;\;\;\;(k=0,\cdots,N-1) \end{displaymath}

 

协方差矩阵是对称矩阵,有${\bf\Sigma}_x={\bf\Sigma}_x^T$ (若${\bf x}$ 是复数则共轭对称),他的特征向量 是正交的,有:

 

\begin{displaymath}( {\bf\phi}_i,{\bf\phi}_j)={\bf\phi}^T_i {\bf\phi}_j=\left\{ \begin{array}{ll} 1 & i=j  0 & i\ne j \end{array} \right. \end{displaymath} <!-- [endif]-->


我们可以构造$N \times N$ 正交(酉)矩阵${\bf\Phi}$

 

\begin{displaymath} {\bf\Phi}\stackrel{\triangle}{=}[{\bf\phi}_0, \cdots,{\bf\phi}_{N-1}] \end{displaymath}


 

满足:

 

\begin{displaymath}{\bf\Phi}^{T} {\bf\Phi} = {\bf I},\;\;\;\;\mbox{i.e.,}\;\;\;\; {\bf\Phi}^{-1}={\bf\Phi}^{T} \end{displaymath}

 

以上N 个特征方程可能联合表达为:

 

\begin{displaymath}{\bf\Sigma}_x{\bf\Phi}={\bf\Phi}{\bf\Lambda} \end{displaymath}  

 

矩阵形式为:

 

 

${\bf\Lambda}$ 是一个对角矩阵${\bf\Lambda}=diag(\lambda_0, \cdots, \lambda_{N-1} )$ 。两边左乘${\bf\Phi}^T={\bf\Phi}^{-1}$ ,协方差矩阵${\bf\Sigma}_x$ 则对角化为:

 

\begin{displaymath}{\bf\Phi}^T{\bf\Sigma}_x{\bf\Phi}={\bf\Phi}^{-1} {\bf\Sigma}_x {\bf\Phi} = {\bf\Phi}^{-1}{\bf\Phi}{\bf\Lambda}={\bf\Lambda} \end{displaymath}

 

向量${\bf x}$ ,定义${\bf x}$ 的正交(若${\bf x}$ 为复数则为酉)K-L 变换为:

 

\begin{displaymath}{\bf y}=\left[ \begin{array}{l} y_0\ y_1 \ \vdots \ y_{N-1... ...\phi^T_1 \ \vdots \ \phi^T_{N-1} \end{array} \right] {\bf x} \end{displaymath}


 

转换向量的第i$y_i$${\bf x}$${\bf\phi_i}$ 的映射:

\begin{displaymath}y_i=({\bf\phi}_i,{\bf x})={\bf\phi}_i^T{\bf x} \end{displaymath}  


 

${\bf y}={\bf\Phi}T {\bf x}$ 两边同乘${\bf\Phi}=({\bf\Phi}^T)^{-1}$ ,我们得到逆变换:

 

\begin{displaymath} {\bf x}={\bf\Phi} {\bf y}=[ {\bf\phi}_0, {\bf\phi}_1, \cdots... ...ts \ y_{N-1} \end{array} \right] =\sum_{i=0}^{N-1} y_i \phi_i \end{displaymath}


 

我们看到,通过转换,通过N 个特征向量${\bf\phi}_i$ $i=0,\cdots,N-1$ ),向量${\bf x}$ 扩展为N 维空间的基向量。

 

分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics