协方差矩阵

每个元素是向量元素间的协方差
统计学概率论中,协方差矩阵(covariance matrix)是一个矩阵,其每个元素是各个向量元素之间的协方差。协方差矩阵能导出一个变换矩阵,这个矩阵能使数据完全去相关(decorrelation),它是从标量随机变量到高维度随机向量的自然推广。

说明

尽管协方差矩阵很简单,可它却是很多领域里的非常有力的工具。它能导出一个变换矩阵,这个矩阵能使数据完全去相关(decorrelation)。从不同的角度来看,也就是说能够找出一组最佳的基以紧凑的方式来表达数据。(完整的证明请参考瑞利商)。这个方法在统计学中被称为主成分分析(principal components analysis),在图像处理中称为Karhunen-Loève 变换(KL-变换)。

统计学的基本概念

统计学里最基本的概念就是样本的均值、方差标准差。首先,给定一个含有n个样本的集合,下面给出这些概念的公式描述: