方差、协方差的几何理解

追求适度,才能走向成功;人在顶峰,迈步就是下坡;身在低谷,抬足既是登高;弦,绷得太紧会断;人,思虑过度会疯;水至清无鱼,人至真无友,山至高无树;适度,不是中庸,而是一种明智的生活态度。

导读:本篇文章讲解 方差、协方差的几何理解,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

作者:非妃是公主
专栏:《数学建模》
个性签:顺境不惰,逆境不馁,以心制境,万事可成。——曾国藩
在这里插入图片描述

在统计描述中,方差用来计算每一个变量(观察值)与总体均数之间的差异。为避免出现离均差总和为零,离均差平方和受样本含量的影响,统计学采用平均离均差平方和来描述变量的变异程度。总体方差计算公式:

σ

2

=

(

x

μ

)

2

N

\sigma^2=\frac{\sum(x-\mu)^2}{N}

σ2=N(xμ)2
其中,x表示样本数据,一个维度为1的数值,

μ

\mu

μ表示样本的均值,N是样本的个数,即有多少个。
实际工作中,总体均数难以得到时,应用样本统计量代替总体参数,经校正后,样本方差计算公式(即:概率论中的无偏估计):

σ

2

=

(

x

μ

)

2

N

1

\sigma^2=\frac{\sum(x-\mu)^2}{N-1}

σ2=N1(xμ)2
方差刻画了随机变量的取值对于其数学期望的离散程度。
我们可以明显地看出:
若X的取值比较集中,都集中在

μ

\mu

μ附近,则

x

μ

x-\mu

xμ较小,分子较小,方差较小;
若X的取值比较分散,则

x

μ

x-\mu

xμ较大,分子较大方差较大。
因此,方差是刻画取值分散程度的一个量,它是衡量取值分散程度的一个尺度。

然后我们来看一下协方差,协方差是方差的一种推广,是对多维数据来讲的,变量x与变量y协方差用下面公式来表示:

C

o

v

(

x

,

y

)

=

E

(

(

X

E

(

X

)

)

(

Y

E

(

Y

)

)

)

=

E

(

X

Y

X

E

(

Y

)

Y

E

(

X

)

+

E

(

X

)

E

(

Y

)

)

=

E

(

X

Y

)

E

(

X

)

E

(

Y

)

\begin{aligned} Cov(x,y)&=E((X-E(X))(Y-E(Y)))\\ &=E(XY-XE(Y)-YE(X)+E(X)E(Y))\\ &=E(XY)-E(X)E(Y) \end{aligned}

Cov(x,y)=E((XE(X))(YE(Y)))=E(XYXE(Y)YE(X)+E(X)E(Y))=E(XY)E(X)E(Y)
从原始公式来看:
如果X与Y正相关,那么当X比均值大时,Y也应该比均值大,这样

(

X

E

(

X

)

)

(

Y

E

(

Y

)

)

(X-E(X))(Y-E(Y))

(XE(X))(YE(Y))为正,协方差为正;
如果X与Y负相关,那么当X比均值大时,Y也应该比均值小,这样

(

X

E

(

X

)

)

(

Y

E

(

Y

)

)

(X-E(X))(Y-E(Y))

(XE(X))(YE(Y))为负,协方差为负;
如果X与Y不相关,那么当X比均值大时,Y也可能比均值大,也可能比均值小,这样理想情况下

(

X

E

(

X

)

)

(

Y

E

(

Y

)

)

(X-E(X))(Y-E(Y))

(XE(X))(YE(Y))为0,协方差为0;
两个多维变量各位度之间的协方差排列组合矩阵也被称为协方差矩阵,定义如下:
分别为

m

m

m

n

n

n个标量元素的列向量随机变量

X

X

X

Y

Y

Y,这两个变量之间的协方差定义为

m

×

n

m×n

m×n矩阵.其中X包含变量

X

1.

X

2……

X

m

X1.X2……Xm

X1.X2……Xm,Y包含变量

Y

1.

Y

2……

Y

n

Y1.Y2……Yn

Y1.Y2……Yn,假设

X

1

X1

X1的期望值为

μ

1

μ1

μ1

Y

2

Y2

Y2的期望值为

v

2

v2

v2,那么在协方差矩阵中(1,2)的元素就是

X

1

X1

X1

Y

2

Y2

Y2的协方差。
容易发现,两个向量变量的协方差Cov(X,Y)与Cov(Y,X)相等,所以协方差矩阵为对称矩阵。
因此协方差常用来衡量两个变量的独立性。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/130524.html

(0)
飞熊的头像飞熊bm

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!