重回帰分析 | 回帰分析 | 生物統計学学習ノート

重回帰分析は複数の説明変数を同じ線形モデルへ入れ、他の変数を一定とした各変数の条件付き関連を推定します。予測、交絡調整、複数因子の同時比較に使われます。

母集団モデル

Y_i=\beta_0+\beta_1X_{1i}+\cdots+\beta_pX_{pi}+\varepsilon_i

標本予測式

\hat Y_i=b_0+b_1X_{1i}+\cdots+b_pX_{pi}

複数係数の解釈#

E(\text{Weight})=\beta_0+\beta_1(\text{Age})+\beta_2(\text{Female})+\beta_3(\text{Height})

β₁は性別と身長が同じ対象を比べたとき、年齢1単位増加に伴う平均体重差です。β₂は年齢と身長を一定にした女性と基準性別の平均差です。「他を一定にする」という条件付き解釈が単回帰との重要な違いです。

偏差分解

Y_i-\bar Y=(\hat Y_i-\bar Y)+(Y_i-\hat Y_i)

全平方和

SS_T=\sum(Y_i-\bar Y)^2

回帰平方和

SS_R=\sum(\hat Y_i-\bar Y)^2

誤差平方和

SS_E=\sum(Y_i-\hat Y_i)^2

分解

SS_T=SS_R+SS_E

H_0:\beta_1=\beta_2=\cdots=\beta_p=0\qquad H_1:\text{少なくとも一つの }\beta_j\ne0

モデル均方

MS_R=\frac{SS_R}{p}

誤差均方

MS_E=\frac{SS_E}{n-p-1}

F統計量

F=\frac{SS_R/p}{SS_E/(n-p-1)}

H₀下

F\sim F_{p,n-p-1}

個別仮説

H_0:\beta_j=0\qquad H_1:\beta_j\ne0

t統計量

t=\frac{b_j}{SE(b_j)},\qquad df=n-p-1

全体Fが有意でも全係数が有意とは限らず、個別tが非有意でも変数群として有用な場合があります。複数係数の共同仮説には部分F検定やWald検定を使います。

J群のダミー変数数

p=J-1

誤差自由度

n-p-1=n-J

J水準の因子はJ−1個のダミー変数で表し、一水準を基準群とします。因子だけの回帰モデルの全体F検定は一元配置ANOVAと同じです。

E(Y)=\beta_0+\beta_1X_1+\beta_2X_2

β₁とβ₂はそれぞれ基準群との差です。異なる群同士の比較や全体効果には適切な対比を使い、多重性も考慮します。

未調整

E(\text{Vision})=\beta_0+\beta_1(\text{Wealth})

年齢調整

E(\text{Vision})=\beta_0+\beta_1(\text{Wealth})+\beta_2(\text{Age})

年齢が富と視力の両方に関連するなら未調整係数は交絡され得ます。年齢を加えたβ₁は同年齢での条件付き関連です。ただし線形性、交互作用、測定誤差、overlapも確認します。