確率統計の復習: 離散型確率分布のモーメント母関数

こんにちは。 先日、デザインフェスタに行って、動く飛行機 (?) のおもちゃを買ってきた たーせるです。

参考書を読みながら、今日もまったり確率統計の復習中。

今日は前回の続きから。

ネイピア数 {e} について

高校数学 (数学III) の範囲だが、極限  { \displaystyle\lim_{n \rightarrow \infty } \left(1 + \frac{1}{n}\right) ^{n} } はとある定数 { e }に収束することが知られている(ちなみに  { e \sim 2.71828 \cdots } である)。

この { e } には、Napierネイピアすうまたは自然対数のていという呼び名が与えられている。

指数関数  {e^{x}} とそのマクローリン級数展開

ネイピア数 { e } を底とする指数関数 { e^{x} } には、「 { x }微分しても、もとの関数と同じになる」という不思議な性質がある。 すなわち、以下が成り立つ。

{
(e^x)' = e^x
}

ここで、{ e^{x} } をマクローリン級数展開すると下式が得られる。ただし {0^{0} = 1 } とする。

{
\begin{align}
e^{x} &= \displaystyle\sum_{n=0}^{\infty} \dfrac{x^n}{n!} \\
&= 1 + \dfrac{x}{1!} + \dfrac{x^2}{2!} + \cdots
\end{align}
}

マクローリン級数展開は大学初年級の微分積分解析学の序盤で学ぶトピックである。 「とある制限」がつくものの、基本的にじょうのよい関数はべき級数の形に変換することができ、その操作をマクローリン級数展開と呼ぶ。

さらに、上式の { x } {\theta X } を代入して  {e^{\theta X}} を計算すると、下式が得られる。

{
\begin{align}
e^{\theta X} &= \displaystyle\sum_{n=0}^{\infty} \dfrac{(\theta X)^n}{n!} \\
&= 1 + \dfrac{\theta X}{1!} + \dfrac{( \theta X)^2}{2!} + \cdots
\end{align}
}

ここまでは準備運動。 ここからもしばらく準備運動が続く。

モーメント母関数

また降って湧いたように新しい概念が登場するのだが、確率変数 { X } と変数 { \theta } に対して、モーメント関数  {M ( \theta ) } を以下のように定義する。

 {
M (\theta) = E [ e^{\theta X} ]
}

先ほどのマクローリン展開から、上式を以下のように変形する。

 {
\begin{align}
M (\theta) &= E [ e^{\theta X} ] \\
&= E \left[ 1 + \dfrac{\theta X}{1!} + \dfrac{ (\theta X)^2 }{2!} + \cdots \right] \\
&= \underbrace{ E [ 1 ] }_{ \sum_{k} 1 \cdot p_{k} = 1 } + \dfrac{ \theta }{ 1! } E [ X ] + \dfrac{ \theta^2 }{ 2! } E [ X^2 ] + \cdots
\end{align}
}

モーメントってなんだ、とか、母関数ってなんだ、とか、突っ込み始めるとキリがない。

ちなみに数学におけるモーメントは、力学のモーメントの概念をえん・抽象化したものらしい。 今は知る必要がないので先を急ぐ。

ここで注意したいのは、{ E [ X ] ,\, E [ X^{2} ] , \, \cdots }、は定数となり、つまるところモーメント母関数は  { \theta } の冪級数になるということである。

モーメント母関数を用いると、期待値や分散の計算に必要な  { E [ X ] } および  { E [ X^{2} ] } を簡単に得られる。

 { E [ X ] } の導出

 { M ( \theta) } { \theta }微分すると、以下を得る。

 {
\begin{align}
M' (\theta ) &= E [ X ] \dfrac{1}{1!} + E [ X^{2} ] \dfrac{2 \theta}{ 2! } + E [ X^{3} ] \dfrac{3 \theta^{2}}{3!} + \cdots \\
&= E [ X ] + E [ X^{2} ] \dfrac{\theta}{1!} + E [ X^{3} ] \dfrac{ \theta^{2}}{2!} \cdots
\end{align}
}

ここで、 { \theta } { 0 } を代入すると、 { M' (0) = E [ X ] } となる。

 { E [ X^{2} ] } の導出

 {M ( \theta )} を 2階微分すると、以下を得る。

 {
\begin{align}
M'' (\theta ) &= E [ X^{2} ] \dfrac{1}{1!} + E [ X^{3} ] \dfrac{2 \theta}{ 2! } + E [ X^{4} ] \dfrac{3 \theta^{2}}{3!} + \cdots \\
&= E [ X^{2} ] + E [ X^{3} ] \dfrac{\theta}{1!} + E [ X^{4} ] \dfrac{ \theta^{2}}{2!} \cdots
\end{align}
}

これも同様に { \theta } { 0 } を代入すると、 { M'' (0) = E [ X^{2} ] } が得られる。

モーメント母関数を用いた期待値と分散の表現

準備運動はここまで。

これまでの成果を用いると、確率変数  { X } の期待値  { E [ X ] } および分散  { V [ X ] } は、以下のように表現できる。

  •  { E [ X ] = M' (0) }
  •  { V [X ] = E [ X^{2} ] - E [ X ]^{2} = M''(0) - M'(0)^{2} }

なんだかんだあったが、ここまでは結局、期待値と分散を求めるための計算テクニックの習得なのであった。