標準化したZが E[ z ]= 0, E[ z^2 ]= 1となることの証明中心極限定理の準備

こんにちは、
統計学はたくさんの数学の知識が必要で大変。
それゆえに脱線出来て楽しくて進まない割に楽しんでます。
今回は、統計学の中でも有名な定理のひとつ中心極限定理に関連するお話。
中心極限定理を証明する時に、変数変換を初めにする。
$z = \frac{ X - \mu }{ \sigma }\$
$E \left[ Z \right ] = \mu = 0$
$E \left[ Z ^2\right] = \sigma^ 2 = 1$

良く使う変換であり、正規分布に関する証明を簡潔にするイメージであった。しかし、中心極限定理は一般的な確率分布について述べているので、した二つの式、平均と分散について一般的に正しいか書かれていなかった。感覚的には、当たり前な気がするが証明してみた。

証明の方針
証明
- 1. 平均
- 2. 分散

証明の方針

確率分布の証明系はなんとなく、特性関数とか積率母関数を使うイメージだったので、今回は積率母関数で証明。結構計算するだけ。

証明

1. 平均

$Z = \frac{ X - \mu }{ \sigma }$
$M_Z(t) = E\left[e^ {tZ}\right] = E\left[e^ {tZ}\right] = E\left[e^ { t \frac{ X - \mu }{ \sigma }}\right] = e^ {-t \frac{ \mu }{ \sigma }}E\left[e^ {t\frac{ X }{ \sigma }}\right]$
$= e^ { -t \frac{ \mu }{ \sigma } } \int^ \infty _ { -\infty } e^ { t\frac{ X }{ \sigma } } f(x) dx$
$\frac{ d M_Z(t) }{ d t } = -\frac{\mu }{ \sigma } e^ { -t \frac{ \mu }{ \sigma } }\int^\infty _ { -\infty } e^ {t\frac{ X }{ \sigma }}f(x) dx + e^ { -t\frac{\mu }{ \sigma } }\int^\infty _ { -\infty }\frac{ X }{ \sigma } e^ { t\frac{ X }{ \sigma } } f(x) dx$
$\left. \frac{ d M_Z(t) }{ d t } \right|_{ t = 0 } = -\frac{\mu }{ \sigma }\int^\infty _ { -\infty } f(x) dx + \int^\infty _ { -\infty } \frac{ X }{ \sigma }f(x) dx$

f(x) は確率密度関数なので、
$\left. \frac{ d M_Z(t) }{ d t } \right| _ { t = 0} = {-\frac{\mu }{ \sigma }}+ \frac{ \mu }{ \sigma } = 0$

2. 分散

$\frac{ d^ 2 M_Z(t) }{ d t^ 2 } = \frac{ d }{ dt } \left[ -\frac{ \mu }{ \sigma } \left\{ e^ { -t\frac{\mu }{ \sigma }}\int^\infty _ { -\infty } e^ { t\frac{ X }{ \sigma } } f(x) dx \right\} + e^ { -t\frac{\mu }{ \sigma } }\int^ \infty _ { -\infty }\frac{ X }{ \sigma } e^ { t\frac{ X }{ \sigma } } f(x) dx \right]$
第一項に関してには、元の積率母関数と等しいため微分して、tを代入すると0になる。なので、第2項のみを考える。g(x)を第二項とすると、
$\frac{ d g(t) }{ dt } = -\frac{\mu }{ \sigma } e^ { -t\frac{\mu }{ \sigma } }\int^ \infty _ { -\infty }\frac{ X }{ \sigma } e^ {t\frac{ X }{ \sigma } }f(x) dx + e^ { -t\frac{\mu }{ \sigma } }\int^ \infty _ { -\infty } \frac{ X^ 2 }{ \sigma^ 2 } e^ { t\frac{ X }{ \sigma } }f(x) dx$
$\left. \frac{ d^ 2 M_Z(t) }{ d t^ 2 } \right|_{ t = 0 } = \frac{ d g( 0 ) }{ dt } = -\frac{ \mu^ 2 }{ \sigma^ 2 } + \int^ \infty _ { -\infty }\frac{ X^ 2 }{ \sigma^ 2 } e^ {t\frac{ X }{ \sigma }}f(x) dx$
この第二項に関して、
$E\left[ ( X - \mu )^ 2 \right] = \sigma^ 2 = E\left[ X^ 2 \right ] - E\left[X\right]^ 2 = \int^ \infty _ { -\infty } X^ 2 e^ { t\frac{ X }{ \sigma } }f(x) dx - \mu^ 2$ より、

$\int^ \infty _ { -\infty } X^ 2 e^ {t\frac{ X }{ \sigma }}f(x) dx = \mu^ 2 + \sigma^ 2$ $\left . \frac{ d^ 2 M_Z(t) }{ d t^ 2 } \right| _ { t = 0 } = -\frac{\mu^ 2 }{ \sigma^ 2 } + \frac{ 1 }{ \sigma^ 2 } \int^ \infty _ { -\infty }X^ 2 e^ {t\frac{ X }{ \sigma }}f(x) dx$ $=-\frac{\mu^ 2 }{ \sigma^ 2 } + \frac{ 1 }{ \sigma^ 2 } ( \mu^ 2 + \sigma^ 2) = 1$