第4章 随机变量的数字特征
4.1 随机变量的数学期望
4.1.1 离散型随机变量的数学期望
数学期望：$E(X)=\sum_{k=1}^{+\infty}x_kp_k$
若$\sum_{k=1}^{+\infty}|x_k|p_k$不收敛，则称随机变量X的数学期望不存在。
（级数$\sum_{k=1}^{+\infty}|x_k|p_k$收敛保证了级数的各项任意重排后所得级数的和保持不变）
4.1.2 连续型随机变量的数学期望
数学期望：$E(X)=\int_{-\infty}^{+\infty}xf(x)dx$
若$\int_{-\infty}^{+\infty}|x|f(x)dx$不收敛，则称随机变量X的数学期望不存在。
4.1.3 随机变量函数的数学期望
一维：
设X是随机变量，令$Y=g(X)$。
①. 若X是离散型随机变量，概率分布律为$P\{X=x_k\}=p_k,k=1,2…$，则当$\sum_{k=1}^{+\infty}|g(x_k)p_k|$收敛时，随机变量Y的数学期望$E(Y)$存在，且
②. 若X是连续型随机变量，概率密度函数为$f(x)$，则当$\int_{-\infty}^{+\infty}|g(X)|f(x)dx$收敛时，随机变量Y的数学期望$E(Y)$存在，且
二维：
设$(X,Y)$是二维随机变量，令$Z=g(X,Y)$。
①. 若$(X,Y)$是二维离散型随机变量，联合概率分布律为$P\{X=x_i,Y=y_i\}=p_{ij},i,j=1,2…$，则当$\sum_{i=1}^{+\infty}\sum_{j=1}^{+\infty}|g(x_i,y_i)|p_{ij}$收敛时，随机变量Z的数学期望$E(Z)$存在，且
②. 若$(X,Y)$是二维连续型随机变量，联合概率密度函数为$f(x,y)$，则当$\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}|g(x,y)|f(x,y)dxdy$收敛时，随机变量Z的数学期望存在，且
4.1.4 数学期望的性质
①. c是常数，则$E(c)=c$
②. a，b是常数，则$E(aX+b)=aE(X)+b$
③. $E(X+Y)=E(X)+E(Y)$
④. 若X，Y相互独立，则$E(XY)=E(X)E(Y)$
性质④中条件“相互独立”可以弱化为“不相关”
$X \sim (n,p)$，则$E(X)=np$，可以根据分解法求得。
4.2 随机变量的方差
4.2.1 方差的概念
方差：$D(X)=E[X-E(X)]^2$
标准差：$σ(X)=\sqrt{D(X)}$
计算：
①. 定义法：
离散型：$D(X)=\sum_{k=1}^{+\infty}[x_k-E(X)]^2p_k$
连续型：$D(X)=\int_{-\infty}^{+\infty}[x-E(X)]^2f(x)dx$
②. 公式法：
$D(X)=E(X^2)-[E(X)]^2$
4.2.2 方差的基本性质
①. $D(c)=0$
②. $D(aX+b)=a^2D(X)$
推论：$D(X+b)=D(X)$
③. 若随机变量X与Y独立，则$D(X+Y)=D(X)+D(Y)$
推论1：$X_1,X_2…X_n$相互独立，则$D(\sum_{i=1}^nX_i)=\sum_{i=1}^nD(X_i)$
推论2：若X与Y相互独立，则$D(aX+bY)=a^2D(X)+b^2D(Y)$，$D(X-Y)=D(X)+D(Y)$
④. $D(X)=0$的充要条件是$P\{X=c\}=1$
⑤. $D(X)≤E(X-x)^2$，当$x=E(X)$时，取等号。
标准化变换：
$E(X^\star)=0,D(X^\star)=1$
几种常用分布的数学期望和方差
| 分布 | 期望 | 方差 |
|---|---|---|
| 两点分布$X \sim B(1,p)$ | $p$ | $p(1-p)$ |
| 二项分布$X\sim B(n,p)$ | $np$ | $np(1-p)$ |
| 泊松分布$X\sim P(λ)$ | $λ$ | $λ$ |
| 几何分布$X\sim g(p)$ | $\frac 1 p$ | $\frac {1-p}{p^2}$ |
| 均匀分布$X\sim U(a,b)$ | $\frac {a+b} 2$ | $\frac {(b-a)^2} {12}$ |
| 指数分布$X\sim Exp(λ)$ | $\frac 1 λ$ | $\frac 1 {λ^2}$ |
| 正态分布$X\sim N(μ,σ^2)$ | $μ$ | $σ^2$ |
4.3 随机变量的协方差和相关系数
4.3.1 协方差
协方差：$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}$
计算：
①. 定义法：
离散型：$Cov(X,Y)=\sum_{i=1}^{+\infty}\sum_{j=1}^{+\infty}(x_i-E(X))(y_i-E(Y))P_{ij}$
连续型：$Cov(X,Y)=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x-E(X))(y-E(Y))f(x,y)dxdy$
②. 公式法：
$Cov(X,Y)=E(XY)-E(X)E(Y)$
性质：
①. $Cov(X,X)=D(X)$
②. $Cov(X,Y)=Cov(Y,X)$
③. $Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)$
④. $Cov(aX+b,cY+d)=acCov(X,Y)$
⑤. $D(X±Y)=D(X)±2Cov(X,Y)+D(Y)$
4.3.2 相关系数
相关系数：前提$D(X)>0,D(Y)>0$
性质：
①. $|ρ_{X,Y}|≤1$
②. $|ρ_{X,Y}|=1$的充要条件是X与Y以概率1有线性关系，即存在常数$a≠0，b$，使得$P\{Y=aX+b\}=1$
意义：
$ρ=0$：不（线性）相关
$ρ>0$：正（线性）相关
$ρ<0$：负（线性）相关
定理：设$(X,Y)$是二维随机变量，则下列四个命题等价
①. $E(XY)=E(X)E(Y)$
②. $D(X+Y)=D(X)+D(Y)$
③. $Cov(X,Y)=0$
④. X与Y不（线性）相关，即$ρ_{X,Y}=0$
但是对于二维正态随机变量来说，不相关与独立性等价。
4.4 矩与协方差矩阵
4.4.1 随机变量的矩
$X$的k阶原点矩：$E(X^k)$
$X的$k阶中心矩：$E[X-E(X)]^k$
$X$和$Y$的k+l阶混合原点矩：$E(X^kY^k)$
$X$和$Y$的k+l阶混合中心矩：$E\{[X-E(X)]^k[Y-E(Y)]^k\}$
$E(X)$是$X$的一阶原点矩，$D(X)$是$X$的二阶中心矩，$Cov(X,Y)$是$X$和$Y$的二阶混合中心矩。
4.4.2 多维随机变量的协方差矩阵
设$n$维随机变量$(X_1,X_2…,X_n)$的二阶混合中心矩：
都存在，则称矩阵
为随机变量$(X_1,X_2…,X_n)$的协方差矩阵。
性质：
①. $C$是对称矩阵；
②. $c_{ii}=D(X_i)$，$i=1,2,…,n;$（主对角线上都是方差）
③. $C$是非负定矩阵。
