二、矩、协方差和相关系数

1. 矩的定义

(1) 设 $X$ 是随机变量，如果 $E(X^k),k=1,2,\cdots$ 存在，称其为 $X$ 的 $k$ 阶原点矩。

(2) 设 $X$ 是随机变量，如果 $E\{[X-E(X){]}^k\},k=1,2,\cdots$ 存在，称其为 $X$ 的 $k$ 阶中心矩。

(3) 设 $X,Y$ 是随机变量，如果 $E(X^k{Y}^l),k,l=1,2,\cdots$ 存在，称其为 $X$ 和 $Y$ 的 $k+l$ 阶混合矩。

(4) $X,Y$ 是随机变量，如果 $E\{[X-E(X){]}^k[Y-E(Y){]}^l\},k,l=1,2,\cdots$ 存在，称其为 $X$ 和 $Y$ 的 $k+l$ 阶混合中心矩。

2. 协方差与相关系数

(1) 定义

随机变量 $X$ 与 $Y$ 的协方差为 $E\{[X-E(X)][Y-E(Y)]\}$，记为$Cov(X,Y)$，即

$$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}$$

而

$${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$$

称为随机变量 $X$ 与 $Y$ 的相关系数。当 ${\rho }_{XY}=0$ 时，称 $X$ 和 $Y$ 不相关。

(2) 计算公式

$$Cov(X,Y)=E(XY)-E(X)-E(Y)$$

(3) 协方差矩阵

称矩阵

$$\left[\begin{array}{cc}{C}_{11}& C_{12}\\ C_{21}& C_{22}\end{array}\right]$$

为二维随机变量 $(X,Y)$ 的协方差矩阵，其中

$$\begin{array}{rl}{C}_{11}& =E\{[X-E(X)][X-E(X)]\}\\ & =E\{[X-E(X){]}^2\}=D(X)\\ \\ C_{12}& =E\{[X-E(X)][Y-E(Y)]\}\\ & =Cov(X,Y)\\ \\ C_{21}& =E\{[Y-E(Y)][X-E(X)]\}\\ & =Cov(Y,X)=Cov(X,Y)\\ \\ C_{22}& =E\{[Y-E(Y)][Y-E(Y)]\}\\ & =E\{[Y-E(Y){]}^2\}=D(Y)\end{array}$$

(4) 性质

① $Cov(aX,bY)=abCov(X,Y)$，$a,b$ 是常数；

② $Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$。

(5) 相关系数的性质

① $|{\rho }_{XY}|\le 1$；

② $|{\rho }_{XY}|=1$ 的充分必要条件是存在不全为零的常数 $a,b$，使 $P\{Y=a+bX\}=1$。