Karhunen-Loeve Transform (KLT, KL变换）

酉矩阵

http://zh.wikipedia.org/wiki/%E9%85%89%E7%9F%A9%E9%98%B5

 

在晶体学里，酉变换叫做幺正变换，也就是将空间（可以是任意维的）中一组基矢做一个旋转操作，不改变矢量的大小和内积。
而在量子力学里面，这个用处就更大了，本质上就是量子力学所说的表象变换。是连接两个表象的桥梁。

 

酉矩阵可以对原始向量数据做一个旋转。

 

协方差
http://www.aiaccess.net/English/Glossaries/GlosMod/Flash/e_gm_fla_covariance.htm

相关系数：

如两者呈正相关，r呈正值，r=1时为完全正相关；如两者呈负相关则r呈负值，而r=-1时为完全负相关。完全正相关或负相关时，所有图点都在直线回归线上；点子的分布在直线回归线上下越离散，r的绝对值越小。当例数相等时，相关系数的绝对值越接近1，相关越密切；越接近于0，相关越不密切。当r=0时，说明X和Y两个变量之间无直线关系。通常|r|大于0.75时，认为两个变量有很强的线性相关性。

分析两个变量是否是相关的。

协方差矩阵
http://www.aiaccess.net/English/Glossaries/GlosMod/e_gm_covariance_matrix.htm

分析两两变量之间是不是相关。

协方差的一个例子：

http://www.itl.nist.gov/div898/handbook/pmc/section5/pmc541.htm

注意样本均值除以n-1;

http://www.douban.com/note/16361572/

 

厄密矩阵 Hermitian matrix （复共轭对称矩阵）
http://en.wikipedia.org/wiki/Hermitian_matrix

 

协方差矩阵是一个厄密矩阵。

厄密矩阵性质：

特征向量一定是实的。(485页)

是可以对角化：U^-1∑U=∧

http://zh.wikipedia.org/wiki/%E5%8F%AF%E5%AF%B9%E8%A7%92%E5%8C%96%E7%9F%A9%E9%98%B5 可以对角化的矩阵都有n个不同的特征值。

Hermitian矩阵的谱分解。

 

k-l变换

http://fourier.eng.hmc.edu/e161/lectures/klt/node3.html

 

变换之后去除了相关性，y的协方差矩阵是一个对角阵

计算协方差矩阵式一个对角阵http://fourier.eng.hmc.edu/e161/lectures/klt/node4.html

引人能量的概念。计算去掉比较小的那些。

 

 

 

K-L变换 中文介绍

http://baike.baidu.com/view/1591935.htm?ih=255&fr=imh