互いに独立な標準正規分布に従う確率変数の2乗和がカイ二乗分布に従う証明

題名長い！久しぶりの統計再開。
今回は、検定の基礎の一つであるカイ二乗分布について証明しようと思う。復習をかねていろいろ書いてしまった。

有名なこの本で勉強中まとめ

現代数理統計学の基礎 (共立講座数学の魅力)

作者: 久保川達也
出版社/メーカー: 共立出版
発売日: 2017/04/07
メディア: 単行本
この商品を含むブログ (1件) を見る

証明の概略
- 1. 標準正規分布の二乗が自由度１のカイ二乗分布に従うことを証明する。
- 2. 二つのカイ二乗分布の和の分布もまたカイ二乗分布に従うことを持ちいて証明する。
標準正規分布の二乗が自由度１のカイ二乗分布に従う
標準正規分布の二乗が自由度１のカイ二乗分布に従う

証明の概略

Zが標準正規分布に従うときにその二乗和カイ二乗分布に従うことを二つの段階で証明する。

1. 標準正規分布の二乗が自由度１のカイ二乗分布に従うことを証明する。

計算して確率密度関数が等しいことを示す。

2. 二つのカイ二乗分布の和の分布もまたカイ二乗分布に従うことを持ちいて証明する。

特性関数を用いてやる

標準正規分布の二乗が自由度１のカイ二乗分布に従う

ここでは、二つの分布は、計算可能であり見通しが立つため、それぞれの分布を直接だし、
比較することで証明にしたいと思う。カイ二乗分布については、そのままガウス分布から計算することで出る。
一方、標準正規分布の二乗した時の分布については、変数変換をもちいた分布にしなければならない。

カイ二乗分布について

自由度kのカイ二乗分布は、ガンマ分布の特殊な場合として定義されている。

$\chi^2 \sim Ga( k / 2, 2 )$

ガンマ分布

$Ga( \alpha , \beta)$

に従う確率変数Xの確率密度関数fについて

$f_X(x) = \frac{1}{\Gamma(\alpha)}\frac{1}{\beta}\frac{x}{\beta}^{\alpha - 1}exp(-x/\beta)$

カイ二乗分布

自由度kのカイ二乗分布の場合、先述したが、 $Ga(k/2, 2)$ であるので

$f_X(x) = \frac{1}{\Gamma( k /2 )}\frac{1}{2}\frac{x}{2}^{k/2 - 1}exp(-x/2)$

自由度1のカイ二乗分布

$k \rightarrow 1$ で、

$f_X(x) = \frac{1}{\Gamma( 1 /2 )}\frac{ 1 }{ 2 }\frac{ x }{ 2 }^{ - \frac{1 }{ 2 } }exp(-x/2)$

である。

また、ガンマ関数は $\Gamma(\alpha) = f(x | \alpha) = \int_0^\infty x^{\alpha - 1}exp( - x) dx\$ であるので、

$\Gamma(\alpha) = f( x | \alpha ) = \int_0^\infty x^{\alpha - 1}exp( - x) dx\\$

$\Gamma(\frac{1}{2}) = f( x | 1/2 ) = \int_0^\infty x^{ - 1 / 2}exp( - x) dx\\ y^2 = x\\ 2ydy = dx\\ \therefore \Gamma(\frac{1}{2}) = f( y | 1/2 ) = \frac{1}{2}\int_0^\infty exp( - y^2 ) dx\\ \therefore \Gamma(\frac{1}{2}) = \sqrt{\pi}$

最後はガウス積分。よって

$f_X(x) = \frac{1}{\sqrt{\pi}}\frac{ 1 }{ 2 }\left(\frac{ x }{ 2 }\right)^{ - \frac{1 }{ 2 } }exp(-x/2) = \frac{1}{\sqrt{2\pi}} x ^{ - \frac{1 }{ 2 } }exp(-x/2)\cdots (\ast)$

なんとなく標準正規分布に近く

$x^2 \rightarrow y$

を入れれば等しくなる気がする

標準正規分布の二乗の分布について

まず、標準正規分は、

$f_Z(z) = \frac{ 1 }{ \sqrt{2\pi} } exp( -z^2 / 2 )$

これを

$y = z^2$

と変数変換する。

$f_Y(y)=\frac{d}{dz}P(Z\leqq z)=\frac{d}{dz}\frac{1}{ \sqrt{2\pi} }\int^{\sqrt{y}}_{-\sqrt{y}}exp(-z^2/2)dz\\$

$=\frac{d}{dz}\left\{ F(\sqrt{y})-F(-\sqrt{y})\right\}$

$= \frac{dy}{dz}\frac{d}{dy}F(\sqrt{y}) - \frac{dy}{dz}\frac{d}{dy}F(-\sqrt{y})\\ = ( f(\sqrt{y}) + f(-\sqrt{y}))\frac{1}{2\sqrt{y}}\\$

$\because \frac{dy}{dz} = \frac{1}{2\sqrt{y}}\\$

$\therefore f_Y(y) = \frac{1}{\sqrt{y}} \frac{ 1 }{ \sqrt{2\pi} } exp( -y / 2 )\\$

よって、上の(※)の式と比較して等しいことがわかる。おおかなり長くなってしまった。後半の証明は軽め。

標準正規分布の二乗が自由度１のカイ二乗分布に従う

計算では求めにくいとき特性関数がいいかな。

ガンマ関数の特性関数

少し特殊なやりかた。そもそものガンマ関数と特性関数の似ている指数関数の部分をうまく使ってやる。

$\varphi_X = E[ e^{itX}] = \int^\infty_0 \frac{1}{\Gamma(\alpha)}\frac{1}{\beta}\left(\frac{x}{\beta}\right)^{(\alpha - 1)}exp(-x/\beta)exp(itx)dx$

$= \int^\infty_0 \frac{1}{\Gamma(\alpha)}\frac{1}{\beta}\left(\frac{x}{\beta}\right)^{(\alpha - 1)}exp\left\{-x(1/\beta - it)\right\}$

$= \frac{1}{\Gamma(\alpha)}\frac{1}{(1 - i\beta t)^{\alpha}}\int^\infty_0 (1/\beta - it)\left\{(1/\beta - it)x\right\}^{\alpha-1}exp\left\{-x(1/\beta - it)\right\}$

$\left\{(1/\beta - it)x\right\} \rightarrow z\\ dx\left\{(1/\beta - it)\right\} = dz$

$\frac{1}{\Gamma(\alpha)}\frac{1}{(1 - i\beta t)^{\alpha}}\int^\infty_0z^{\alpha - 1}exp\left\{-z\right\}dz\\ =\frac{1}{\Gamma(\alpha)}\frac{1}{(1 - i\beta t)^{\alpha}}\Gamma({\alpha}) =\frac{1}{(1 - i\beta t)^{\alpha}}$

ガンマ関数の特性関数が求められた。

自由度カイ二乗分布の特性分布

$\alpha \rightarrow k/2, \beta \rightarrow 2$
$\varphi_{ \chi^ 2 } = \frac{ 1 }{ ( 1 - 2i t )^ { k / 2 } }$

足した場合を考える

特性関数の形を見ると、同じ形の式をかけても同じ形になることがわかることから、

$x_1 \sim \chi^ 2_m , x_2 \sim \chi^ 2_n$

$z = x_1 + x_2$

$E\left[e^ {itZ}\right] = E[e^ {it(X_1 + X_2)}$ ]

$=E[ e^ { it( X_1 ) }$ ] $E[e^ { it( X_2) }$ ]

$=\frac{1}{(1 - i2 t)^ {n/2}}\frac{1}{(1 - i2 t)^{m/2}} = \frac{1}{(1 - i2 t)^ { (n+m)/2}}$
これは、自由度n+mのカイ二乗分布の特性関数であるので、
$\chi^ 2_n + \chi^ 2_m \sim \chi^ 2_{ n+ m }$
であるというのがわかる。
特性関数と分布関数が一対一対応することから示される。
また、これは逆フーリエ変換の式を使うと示される。