カイ二乗分布 | 確率分布 | 生物統計学学習ノート

カイ二乗分布（chi-square distribution、χ²分布）は、互いに独立な複数の標準正規変数をそれぞれ二乗して加えた確率変数を記述します。各方向の標準化偏差を非負の総変動へ変換するため、分散推定、カイ二乗検定、後に扱うF分布と密接に関係します。

カイ二乗分布はどのように作られるか？#

Z₁、Z₂、…、Zνが互いに独立なν個の標準正規変数なら、それぞれを二乗して加えたUは自由度νのカイ二乗分布に従います。独立な標準正規変数の二乗を一つ加えるごとに、自由度も一つ増えます。

各変数は標準正規分布に従う

Z_i\sim N(0,1),\qquad i=1,2,\ldots,\nu

二乗和がカイ二乗分布を作る

U=\sum_{i=1}^{\nu}Z_i^2\sim\chi^2_{\nu}

記号	意味
Zᵢ	i番目の標準正規変数
U	全標準正規変数の二乗和
ν	自由度。独立な二乗項の数
χ²ν	自由度νのカイ二乗分布

なぜカイ二乗値は0未満にならないのか？#

各Zᵢを二乗すると負にならないため、二乗和Uも0以上に限られます。自由度1では、カイ二乗変数は一つの標準正規変数の二乗です。正規曲線の左右の値が、二乗によって正の範囲へ写されると直感的に考えられますが、変数変換によって密度の形も変わります。

標準正規曲線から自由度1の形を理解する#

自由度ν=1ではU=Z²であり、Zは標準正規分布に従います。標準正規曲線の負の値も正の値も二乗後は0以上へ写され、例えばZ=−2とZ=2はいずれもU=4になります。そのため、左右両側の確率が正の半軸へ移され、合わさると考えられます。

ただし、二乗は符号だけでなく値の間隔も変えるため、密度は左右の高さを直接足すだけでは求められません。変数変換には補正因子が必要で、これが元のノートで述べた「補正項」です。

標準正規変数を二乗する

U=Z^2,\qquad Z\sim N(0,1)

自由度1のカイ二乗密度

f_U(u)=\frac{\phi(\sqrt{u})+\phi(-\sqrt{u})}{2\sqrt{u}}=\frac{1}{\sqrt{2\pi u}}e^{-u/2},\qquad u>0

記号	意味
φ(z)	標準正規分布の位置zでの確率密度
√u、−√u	二乗するとuになる二つの元のZ値
1/(2√u)	二乗変換による密度の補正因子

自由度は分布の形をどう変えるか？#

自由度が低いとカイ二乗分布は強く右に歪み、多くの値が0付近に集まり、右側に長い裾をもちます。自由度が増えると独立な二乗項が増え、中心が右へ移動し、相対的な歪みが小さくなって釣鐘形へ近づきますが、値が0未満になることはありません。

自由度が増えるとなぜ釣鐘形へ近づくのか？#

自由度νのカイ二乗変数は、互いに独立なν個のZᵢ²の和です。各Zᵢ²は自由度1のカイ二乗変数とみなせるため、自由度を増やすことは、同じ分布をもつ独立な二乗項をより多く加えることに相当します。これは中央極限定理が扱う「多数の独立確率変数の和」と同じ考え方です。

より正確には、各Zᵢ²の平均は1、分散は2なので、和Uの平均はν、分散は2νです。νが増えると、Uから平均νを引き、標準偏差√(2ν)で割った分布は標準正規分布へ近づきます。したがって未標準化のカイ二乗曲線は右へ移動しながら広がり、相対的な歪みが減って釣鐘形に近づきます。

\frac{U-\nu}{\sqrt{2\nu}}\xrightarrow{d}N(0,1)\qquad(\nu\to\infty)

自由度為 1、2、4 與 8 的卡方分配密度曲線；自由度增加時，分配中心向右移動且相對偏斜程度下降 — 卡方分配在低自由度時明顯右偏；自由度增加後，分配中心向右移動，外形也逐漸較為對稱。出典：本站依卡方密度函數製作

性質	自由度νのχ²分布
可能な値	0から正の無限大
平均	ν
分散	2ν
形	低自由度では右に歪み、自由度が増えるほど相対的に対称になる

カイ二乗分布と標本分散#

正規母集団から互いに独立なn個の観測値を抽出すると、標本分散S²と母分散σ²の比を調整した値は自由度n−1のカイ二乗分布に従います。これは標本分散から母分散を推測する重要な基礎です。

既知の母平均を用いて標準化

\sum_{i=1}^{n}\left(\frac{X_i-\mu}{\sigma}\right)^2\sim\chi_n^2

標本平均を用いた場合

\frac{(n-1)S^2}{\sigma^2}=\sum_{i=1}^{n}\left(\frac{X_i-\bar X}{\sigma}\right)^2\sim\chi_{n-1}^2

記号	意味
Xᵢ	i番目の観測値
μ、σ²	正規母集団の平均と分散
X̄、S²	標本平均と標本分散
n	標本サイズ
n−1	標本平均を用いた後に残る自由度

カイ二乗分布の確率密度関数#

自由度νのカイ二乗分布の確率密度関数は次のとおりです。この式が自由度ごとの曲線の高さと形を決め、曲線下の総面積は1になります。

f(u)=\frac{1}{2^{\nu/2}\Gamma(\nu/2)}u^{\nu/2-1}e^{-u/2},\qquad u>0

記号	意味
f(u)	位置uにおけるカイ二乗分布の確率密度
u	0より大きいカイ二乗変数の可能値
ν	カイ二乗分布の自由度
Γ	密度曲線下の総面積を1にするGamma関数
e	約2.71828の自然対数の底

補足：カイ二乗密度関数の導出

第1段階：自由度1を導出する

Zを標準正規分布に従う変数とし、U=Z²と定義します。任意のu>0についてz²=uにはz=√uとz=−√uの二つの解があります。二つのZ値が同じU値へ写るため、密度変換では両方の寄与を加えます。

標準正規密度

\phi(z)=\frac{1}{\sqrt{2\pi}}e^{-z^2/2}

逆関数とその導関数

z_1=\sqrt{u},\quad z_2=-\sqrt{u},\qquad \left|\frac{dz_j}{du}\right|=\frac{1}{2\sqrt{u}}

二つの密度を加える

f_U(u)=\phi(\sqrt{u})\frac{1}{2\sqrt{u}}+\phi(-\sqrt{u})\frac{1}{2\sqrt{u}}

簡約後

f_U(u)=\frac{1}{\sqrt{2\pi u}}e^{-u/2},\qquad u>0

|dz/du|は変数変換のJacobian補正です。二乗によって値の間隔が伸縮することを反映するため、正規曲線の左右の高さを直接足すだけでは不十分です。この結果が自由度1のカイ二乗密度です。

別の確認方法：自由度1のカイ二乗密度と標準正規密度を比較する

二つの既知の密度から逆に確認することもできます。一般の正規分布をμ=0、σ=1へ標準化し、カイ二乗密度の自由度νを1に設定します。

一般の正規密度

f_X(x)=\frac{1}{\sigma\sqrt{2\pi}}\exp\!\left[-\frac12\left(\frac{x-\mu}{\sigma}\right)^2\right]

μ=0、σ=1を代入

\phi(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}

一般のカイ二乗密度

f_{\chi^2_\nu}(u)=\frac{1}{2^{\nu/2}\Gamma(\nu/2)}u^{\nu/2-1}e^{-u/2}

ν=1とΓ(1/2)=√πを使用

f_{\chi^2_1}(u)=\frac{1}{\sqrt{2\pi}}e^{-u/2}u^{-1/2}

u=x²と置くと、カイ二乗密度の指数部分e^(−u/2)は標準正規密度のe^(−x²/2)に対応し、余分なu^(−1/2)が二乗変換による尺度補正です。これが「χ²をx²へ置き換えた後にも補正項が残る」という説明の完全な対応です。

第2段階：ν個の独立な二乗項へ拡張する

U=Z₁²+⋯+Zν²とします。密度の畳み込みを繰り返すのは煩雑なので、モーメント母関数（moment-generating function, MGF）を使います。独立確率変数の和のMGFは、それぞれのMGFの積になります。

一つの標準正規変数の二乗のMGF

M_{Z^2}(s)=E\!\left(e^{sZ^2}\right)=(1-2s)^{-1/2},\qquad s<\frac12

ν個の独立な二乗項の和

M_U(s)=\prod_{i=1}^{\nu}M_{Z_i^2}(s)=(1-2s)^{-\nu/2}

対応するカイ二乗密度

f_U(u)=\frac{1}{2^{\nu/2}\Gamma(\nu/2)}u^{\nu/2-1}e^{-u/2},\qquad u>0

最後のMGFは形状母数ν/2、尺度母数2のGamma分布に一致するため、自由度νのカイ二乗密度関数が得られます。

記号	導出での意味
φ(z)	標準正規密度関数
\|dz/du\|	変数変換で密度を補正するJacobianの絶対値
Mᵤ(s)	Uのモーメント母関数
E	期待値演算
Π	独立な各二乗項のMGFを掛け合わせる
Γ	Gamma関数