概率论 Cheat Sheet 25:矩母函数
Contents [show]
1. 矩母函数
随机变量 X 的矩母函数 M(t) 定义为
M(t)=E[etX]={∑xetxp(x)若X离散,分布列为p(x)∫∞−∞etxf(x)dx若X连续,密度函数为f(x)
其中 t 为任意实数。之所以称 M(t) 为矩母函数,是因为 X 的所有各阶矩都可以从 M(t) 在 t=0 的各阶微商得到,例如
M′(t)=ddtE[etX]=E[ddtetX]=E[XetX]
上式假定微商和期望两个运算可以互换次序,即在离散情形下,假定有
ddt[∑xetxp(x)]=∑xddt[etxp(x)]
在连续情形下,假定有
ddt[∫etxf(x)dx]=∫ddt[etxf(x)]dx
这个假定在通常情况下能够验证。在式 (2) 中,令 t=0,可得
M′(0)=E[X]
类似地
M′′(t)=ddtM′(t)=ddtE[XetX]=E[ddtXetX]=E[X2etX]
可得
M′′(0)=E[X2]
一般地,对 M(t) 求 n 次导数可得
M(n)(t)=E[XnetX]n≥1
从而有
M(n)(0)=E[Xn]n≥1
二项分布的矩母函数 设 X 是参数为 (n,p) 的二项分布随机变量,则
M(t)=E[etX]=n∑k=0etk(nk)pk(1–p)n–k=n∑k=0(nk)(pet)k(1–p)n–k=(pet+1–p)n
等号两边求微商得
M′(t)=n(pet+1–p)n–1pet
故
E[X]=M′(0)=np
在进行一次微商得
M′′(t)=n(n–1)(pet+1–p)n–2(pet)2+n(pet+1–p)n–1pet
故
E[X2]=M′′(0)=n(n–1)p2+np
于是可得
Var(X)=E[X2]–(E[X])2=n(n–1)p2+np–(np)2=np(1–p)
矩母函数的一个重要性质是,矩母函数唯一地确定了分布。设 MX(t) 是 X 的矩母函数,并在 t=0 的某一邻域内有定义且有限,则 X 的分布被 MX(t) 唯一确定。例如,若
MX(t)=(12)10(et+1)10
则 X 是参数为 (10,2) 的二项随机变量。
矩母函数的另一个重要性质是,独立随机变量和的矩母函数等于各随机变量各自矩母函数的乘积。设 X 和 Y 为相互独立的随机变量,其矩母函数分别为 MX(t) 和 MY(t),记 MX+Y(t) 为 X+Y 的矩母函数,则
MX+Y(t)=E[et(X+Y)]=E[etXetY]=E[etX]E[etY]=MX(t)MY(t)
2. 联合矩母函数
将矩母函数推广到两个或多个随机变量的联合矩母函数,设 X1,⋯,Xn 为随机变量序列,其联合矩母函数 M(t1,⋯,tn) 对实数 t1,⋯,tn 定义
M(t1,⋯,tn)=E[et1X1+⋯+tnXn]
Xi 的矩母函数可以从联合矩母函数 M(t1,⋯,tn) 中得到,即
MXi(t)=E[etXi]=M(0,⋯,0,t,0,⋯,0)
上式右边 t 的位置刚好在第 i 个变量的地方。
可以证明,X1,⋯,Xn 的联合矩母函数唯一地确定了它们的联合分布。利用这个结论,可以证明 X1,⋯,Xn 相互独立的充要条件是
M(t1,⋯,tn)=MX1(t1)⋯MXn(tn)